FYI.

This story is over 5 years old.

Tecnologia

'Candid' è la app che cancella i commenti stronzi

Grazie a un algoritmo che riconosce il linguaggio, Candid potrebbe liberarci dai commenti off topic, dagli hate speech e così via.
Grab via becandid.com

Internet è bello perché è libero, vario nei contenuti, orizzontale e difficilmente censurabile. Ma questa completa libertà porta spesso a dei fastidi per gli utenti: commenti razzisti, troll, sessismo e misoginia, litigate inutili e commenti non pertinenti. È una normale conseguenza dell'interattività—a sua volta una caratteristica strutturale della rete.

Oggi c'è una soluzione: si chiama Candid, è un'app sviluppata da un ex project manager di Google che modera i contenuti utilizzando l'intelligenza artificiale. La app analizza i testi attraverso un algoritmo di "natural language processing" che setaccia tutti i post e i commenti visualizzati in tempo reale.

Pubblicità

Candid, selezionando al nostro posto i contenuti per attinenza, potrebbe liberarci dai commenti off topic, dagli hate speech e così via. Finora sul web ci si è affidati a strategie "di contenimento" ancora imperfette. Molti siti arginano il problema con la moderazione dei commenti, c'è qualcuno che li legge ed eventualmente li approva. Ma non sempre funziona. Intorno a Il Post, per esempio, si era creata una community molto attiva e informata che diede lustro alla testata e ne implementò—anche grazie a Disqus—la qualità. Ma pochi utenti e lettori possono creare una community forte, incentrata su un nucleo di persone educate, spesso esperte dei temi trattati.

Cosa succede invece quando gli utenti aumentano—cosa a cui comprensibilmente mirano la maggior parte dei portali e dei siti? Succede che arrivano anche razzisti, omofobi e troll di ogni tipo. I commenti diventano un disvalore e danneggiano l'immagine e la qualità del sito. Come rimediare? Serve un filtro.

Ma il problema non si pone soltanto per i portali di informazione. Più generalmente, riguarda tutti i contenuti online: dalle bufale che cominciano a fare danni in tema di salute pubblica, come nel caso degli antivaccinisti, fino alla questione dei singoli post sui social network. Cosa fare con gli account dei sostenitori dell'Isis su Twitter? Come evitare il body-shaming su Facebook?

Grab via becandid.com/

Una risposta facile non c'è. Facebook censura sistematicamente immagini di nudo discriminando i capezzoli femminili da quelli maschili, ma ci si trovano comunque video di disabili bullizzati come anche immagini di violenze e torture. Il social network più usato al mondo non ha una linea chiara sul quali contenuti omettere, lo dimostra l'estrema arbitrarietà con la quale vengono oscurate pagine e contenuti, ultimo caso quello di Zerocalcare. Lo sviluppo di Candid potrebbe rivelarsi come la soluzione tanto attesa perché non si tratterebbe di una censura orizzontale, ma basata sulla sensibilità e gli interessi di ciascun utente.

Pubblicità

I piani alti di Twitter si sono appena trovati davanti a un inghippo enorme: l'attrice Leslie Jones dopo aver recitato nel nuovo film "Ghostbusters" ha ricevuto una valanga di insulti razzisti per il solo fatto di essere l'unica nera tra le protagoniste. La sassaiola ha preso delle dimensioni tali che la Jones ha deciso di reagire diffondendo gli insulti razzisti che ha ricevuto.

I just don't understand pic.twitter.com/N9xWoXPttu
— Leslie Jones (@Lesdoggg) 18 luglio 2016

Inizialmente Twitter ha risposto alla mancata censura degli insulti facendo riferimento alla sua politica di moderazione dei contenuti, che è molto permissiva - e per la quale riceve critiche da tempo - poi però lo stesso Jack Dorsey, CEO di Twitter, è intervenuto chiedendo all'attrice statunitense di contattarlo in privato.

@Lesdoggg Hi Leslie, following, please DM me when you have a moment
— Jack (@jack) 19 luglio 2016

Candid potrebbe fornire un supporto alla selezione dei contenuti e arginare il problema alla radice senza interventi arbitrari e personali come quello di Jack Dorsey. Lo sviluppo di un algoritmo del genere potrebbe far arrivare a una regolamentazione automatica e personalizzata.

L'algoritmo permette innanzitutto di selezionare i propri gusti e interessi attraverso una sezione "topics". Partendo da questo riconoscimento approfondito dell'utente vengono suggeriti automaticamente gruppi, utenti e contenuti a cui dare priorità, fino a eliminare quei contenuti verso cui l'utente, oltre che a non provare interesse, potrebbe provare fastidio.

L'obiettivo è proprio quello di risolvere l'annoso problema dello schifo presente in rete, ma con una selezione mirata: segnalare e nascondere post offensivi, reindirizzare commenti inattinenti (off-topic) verso spazi appropriati fino a riconoscere come tali l'"hate speech" e le minacce. Difficile per ora valutare l'efficacia dell'app, per ora l'orizzonte sembra essere quello di una possibilità concreta di moderazione dei contenuti online (ed era ora); un'opzione che però forse aprirebbe le porte a un web più noioso rispetto a quello a cui siamo abituati.