Forse in pochi conoscono Jigsaw, incubatore tecnologico interno al gigantesco contenitore di Alphabet che dal 2010 sviluppa tecnologie con lo scopo di rendere la vita in Rete più sicura.

A partire da infrastrutture in difesa della libertà di parola da soggetti repressivi per arrivare fino a sistemi dediti alla prevenzione degli estremismi online, i progetti avviati da Jigsaw sono diversi, ma l’ultimo potrebbe avere un impatto sensibile sulla vita online di una grossa fetta di popolazione. Annunciato in queste ore, si chiama Perspective ed è una piattaforma che mette gli algoritmi di machine learning in forze a Google al servizio di una vera e propria mission impossible di quest’epoca online: la moderazione dei commenti sui siti di informazione e sui forum di discussione.

Perspective, ci spiegano da Google, è un motore pensato per scandagliare i contributi generati dagli utenti sui siti che decidono di sfruttarne gli strumenti. I suoi algoritmi identificano ogni contenuto di tipo tossico: che si tratti di insulti, minacce o di semplice linguaggio scurrile, Perspective assegna un punteggio da 1 a 100 a ogni commento sulla base del suo potenziale distruttivo.

Ma come viene calcolato il punteggio? La piattaforma non è basata su alcun vocabolario iniziale né su una lista nera di parole vietate come avviene per la maggior parte dei meccanismi di moderazione attuali; Perspective usa invece gli algoritmi di machine learning di Google per confrontare ogni contributo con un enorme database iniziale di contenuti simili.

Più il commento sotto analisi è riconducubile per similitudine, struttura, lessico e schema a un altro commento in precedenza contrassegnato come tossico, più il suo punteggio finale è elevato; in questo modo le maglie della moderazione si stringono e il sistema non solo si aggiorna, ma si affina anche da solo.

Dopo l’analisi, la palla passa all’amministratore del sito o del portale che si appoggia al servizio. Quest’ultimo può decidere di impostare un limite di punteggio oltre il quale il commento viene automaticamente eliminato, o contrassegnato per il controllo da parte di un moderatore umano; in altri casi i contributi controversi possono essere nascosti, e mostrati ai lettori solo previa accettazione; o ancora, Perspective può calcolare immediatamente il punteggio dei commenti inviati e mostrarlo in tempo reale a chi li sta scrivendo, come una sorta di correttore ortografico ma tarato su netiquette e buonsenso. Il limite sta nell’immaginazione di chi decide di implementare questa soluzione.

Nella fase preliminare del progetto Perspective, Jigsaw e Google si sono rivolte a una manciata di grandi nomi dell’editoria come Guardian ed Economist, ma più in là estenderanno la portata della piattaforma anche ad altri soggetti e, grazie ad Api aperte, sviluppatori esterni. Anche il linguaggio inizialmente sarà un limite: basandosi sul machine learning, Perspective ha bisogno di grandi quantità di dati per funzionare come si deve, e al momento l’unico database che Jigsaw è riuscita a mettere insieme è in lingua inglese; mentre il gruppo lavora sugli altri idiomi spera che il sistema dimostri da sé le proprie potenzialità sui siti web dei primi partner.

L’intenzione di Google nel lungo periodo è che chiunque possa usare Perspective per facilitare le conversazioni online in tutto il mondo, e fare in modo che chi si mette in gioco sulla piazza virtuale non debba mai abbandonare una conversazione degenerata anzitempo o addirittura sentirsi minacciato come ormai avviene fin troppo spesso. Fin da subito però la piattaforma è destinata a provocare riflessioni di ogni tipo: da quelle di natura più filosofica — sarà pur sempre un’intelligenza artificiale a valutare moralità e intenzioni di chi scrive — a ragionamenti di ordine più pratico: è lungimirante contare su un’azienda affinché decida per tutti quale tipo di contributo sia da definire tossico e quale no? Lo strumento si preannuncia formidabile e Google, come tiene a precisare, ne lascerà il controllo in mano a chi decide di usarlo: sarà il tempo a fornire ulteriori elementi per rispondere alle domande che Perspective lascia in sospeso.

Fonte: www.wired.it