Facebook sta istituendo un team internazionale per verificare se gli algoritmi che regolano il social network e Instagram sono viziati da pregiudizi razziali.
Lo scrive la rivista del Mit, secondo cui in particolare saranno analizzati i metodi di apprendimento automatico (machine learning) che gestiscono ad esempio le inserzioni pubblicitarie.
Il social, spiega la rivista, ha una lunga storia di accuse di discriminazioni nei propri sistemi. Uno studio pubblicato lo scorso anno ad esempio ha verificato che i post che pubblicizzano lavori di segreteria sono mostrati maggiormente alle donne, mentre quelli per lavori nel campo delle pulizie o come autisti sono indirizzati in maggioranza verso minoranze etniche.
Recentemente diversi gruppi per i diritti civili hanno invitato al boicottaggio del social, che ha portato molte grandi aziende, da Coca Cola alla Disney, a sospendere le proprie campagne pubblicitarie. Il problema, spiega la rivista, è però di difficile soluzione, perché i pregiudizi sono insiti nei database che vengono usati per ‘addestrare’ gli algoritmi.
“Modificare questi dati è un argomento controverso. Inoltre questo è solo uno dei problemi dei social, e Facebook dovrebbe elaborare una strategia anche contro la presenza di gruppi suprematisti o negazionisti dell’Olocausto”.
