Google scende in campo con il pugno di ferro contro il linguaggio violento, insulti e troll. Da oggi è disponibile per gli editori Perspective un’intelligenza artificiale che aiuta i media ad individuare i commenti violenti alle notizie online. Un vero e proprio filtro a quelli che vengono comunemente definiti “commenti tossici“.
La tecnologia, al momento disponibile solamene in inglese, è stata testata insieme al New York Times e Wikipedia. Perspective, nata all’interno dell’incubatore di Google che si chiama Jigsaw, sfrutta il “machine learning“, una forma di intelligenza artificiale nata per analizzare i commenti degli utenti e assegnare loro un punteggio di “tossicità”.
Spetterà agli editori decidere come e quando utilizzare queste informazioni. Non solo Google, di recente anche Twitter ha rafforzato la lotta a “troll” e abusi, ad esempio rendendo più difficile l’iscrizione con nuovo profilo a utenti già sospesi.
Instagram ha poi introdotto filtri anti-bulli e provocatori online. Facebook, invece, ha una policy di condanna alle minacce e all’incitazione all’odio: sul social tali contenuti possono essere segnalati e l’impegno è a cancellarli entro 24 ore.