Tra il 2019 e il 2020, Facebook ha creato una serie di account fittizi per studiare il ruolo della piattaforma nel diffondere contenuti disinformativi e polarizzare gli utenti attraverso il suo sistema di suggerimenti. La ricerca ha dimostrato come l’algoritmo sostenesse la diffusione dei gruppi più radicali e legati alle teorie del complotto, come QAnon, spingendo gli utenti in “camere di risonanza” sempre più strette, dove prosperavano contenuti di incitamento all’odio e alla violenza. I risultati della ricerca sono stati resi noti grazie a Frances Haugen, ex product manager di Facebook, che da maggio ha deciso di divulgare migliaia di pagine di documenti riservati.

Nell’estate 2019 compare su Facebook il profilo di Carol Smith, che si descrive come una madre di orientamento politico conservatore, proveniente dalla North Carolina. L’account di Smith indica anche interessi per la politica, la famiglia, il cristianesimo e segue alcuni profili come quello di Fox News e dell’ex presidente statunitense Donald Trump. Nonostante Smith non metta like o segua account legati alle teorie del complotto, in soli due giorni Facebook comincia a suggerirle di iscriversi a gruppi dedicati a QAnon, teoria del complotto che circola in ambienti di estrema destra.

Smith ha poi deciso di non seguire i gruppi di QAnon suggeriti, ma l’algoritmo ha continuato a spingerla verso pagine e gruppi radicalizzati e violenti, molti dei quali sono poi stati sospesi per aver violato le regole di Facebook, comprese quelle sui discorsi di odio e la diffusione di contenuti disinformativi. Smith era uno degli account fittizi gestiti dai ricercatori di Facebook, per studiare come gli algoritmi siano responsabili della diffusione di contenuti pericolosi.

I risultati della ricerca, raccolti in un rapporto intitolato Carol’s journey to QAnon (il viaggio di Carol verso QAnon), sono tra le prove presentate da Haugen davanti al Congresso statunitense per dimostrare come Facebook non abbia voluto agire nel limitare la crescita dei contenuti disinformativi e pericolosi, pur essendo a conoscenza del problema. Secondo Haugen infatti, manager e dirigenti di Facebook avrebbero volontariamente ignorato i report interni, consentendo di fatto ai gruppi no-vax, a quelli cospirazionisti o violenti di prosperare e attrarre nuovi seguaci.

“Questi documenti confermano efficacemente ciò che i ricercatori esterni stanno dicendo da anni, ma che è stato spesso respinto da Facebook – ha detto Renée Di Resta, ricercatrice presso lo Stanford internet observatory, a Cnbc news – cioè che un gruppo relativamente piccolo di utenti è in grado di dirottare la piattaforma a proprio vantaggio, perché Facebook non è intervenuto per impedirglielo, nonostante fosse a conoscenza dei rischi. Facebook ha letteralmente contribuito a far nascere una setta”. 

The post Persino i ricercatori di Facebook sono stati spinti nelle braccia dei cospirazionisti di QAnon appeared first on Wired.