Facebook si scusa dopo che l’algoritmo ha etichettato gli uomini di colore come “primati”

Arrivano le scuse di Facebook per un episodio davvero spiacevole. Gli utenti di Facebook che di recente hanno guardato un video di un tabloid britannico con uomini di colore hanno visto un prompt automatico che chiedeva se volevano “continuare a vedere video sui primati”. Il video, però, non mostrava alcuna connessione o contenuto relativo ai primati. Insomma, sembra che l’algoritmo Facebook abbia avuto un “comportamento” discriminatorio.  

L’accaduto ha costretto l’azienda a indagare e disabilitare la funzione basata sull’intelligenza artificiale che ha generato il messaggio. Venerdì, Facebook si è scusato per quello che ha definito “un errore inaccettabile” e ha affermato che starebbe esaminando la funzione di raccomandazione per “evitare che ciò accada di nuovo”.

Il video, datato 27 giugno 2020, era di The Daily Mail e presentava clip di uomini di colore in alterchi con civili bianchi e agenti di polizia. Non aveva alcun legame con scimmie o primati.

Darci Groves, una ex responsabile del design dei contenuti di Facebook, ha affermato di aver ricevuto da un amico uno screenshot del prompt. Lo ha quindi pubblicato su un forum di feedback sui prodotti per gli attuali ed ex dipendenti di Facebook. In risposta, un product manager di Facebook Watch, il servizio video dell’azienda, lo ha definito “inaccettabile” e ha affermato che la società stava “esaminando la causa principale”. La stessa Groves ha affermato che il suggerimento è stato “orribile ed eclatante”.

Algoritmo Facebook discriminatorio: arrivano le scuse

Dopo l’episodio sono arrivate le scuse di Facebook. Dani Lever, portavoce del social network, ha dichiarato al New York Times: “Come abbiamo detto, mentre abbiamo apportato miglioramenti alla nostra intelligenza artificiale, sappiamo che non è perfetta e abbiamo ulteriori progressi da fare. Ci scusiamo con chiunque abbia visto queste raccomandazioni offensive“.

E ancora: “Questo è stato chiaramente un errore inaccettabile. Abbiamo disabilitato l’intera funzione di raccomandazione dell’argomento non appena ci siamo resi conto che stava accadendo; e quuesto, per indagare sulla causa e impedire che ciò accada di nuovo”. Sono queste le parole del portavoce di Facebook Dani Lever in una dichiarazione a USA TODAY. Per evitare il ripetersi si eventi di questo tipo, Facebook ha immediatamente disabilitato il programma AI Facebook responsabile dell’errore.

Algoritmo Facebook e pregiudizi sulla razza

Google, Amazon e le altre società tecnologiche sono state esaminate per anni per i pregiudizi all’interno dei loro sistemi di intelligenza artificiale, in particolare per quanto riguarda le questioni razziali. Gli studi hanno dimostrato che la tecnologia di riconoscimento facciale è prevenuta nei confronti delle persone di colore e ha maggiori difficoltà a identificarle. Questo ha portato ad incidenti spiacevoli, che hanno visto i neri discriminati o addirittura arrestati a causa di un errore del computer.

Ad esempio, nel 2015, Google Foto ha erroneamente etichettato le immagini di persone di colore come “gorilla”. Per l’accaduto Google si è detto “genuinamente dispiaciuto” e ha annunciato di essersi messo subito al lavoro per risolvere il problema. Più di due anni dopo, Wired ha scoperto che la soluzione di Google era stata quella di censurare la parola “gorilla” dalle ricerche; bloccando anche “scimpanzé ” e “scimmia”.

L’IA Facebook contiene uno dei più grandi repository al mondo di foto 3d su cui addestrare i suoi algoritmi di riconoscimento facciale. La società adatta i contenuti agli utenti in base alle loro abitudini di navigazione e visualizzazione passate; e, a volte, chiede alle persone se desiderano continuare a vedere i post nelle categorie correlate. Non è chiaro se messaggi come quello dei “primati” fossero diffusi nell’algoritmo Facebook.

Insomma, oltre ai noti problemi dovuti all’attacco ai dati Facebook, il colosso è accusato anche di non tutelare adeguatamente gli utenti dalla discriminazione razziale.

Sta di fatto che Facebook e la sua app di condivisione foto, Instagram, hanno lottato con problemi di discriminazione anche nel campo delle competizioni sportive. Dopo il campionato europeo di calcio, ad esempio, tre membri di colore della squadra nazionale inglese hanno ricevuto attacchi razzisti sul social network. Il motivo? Aver mancato i calci di rigore nella partita di campionato.

Facebook combatterà la discriminazione?

Non solo. I problemi razziali hanno causato anche conflitti interni a Facebook. Nel 2016 Mark Zuckerberg, l’amministratore delegato, ha chiesto ai propri dipendenti di smettere di cancellare la frase “Black Lives Matter” e di sostituirla con “All Lives Matter” in uno spazio comune nel quartier generale dell’azienda a Menlo Park, in California. Il movimento Black Lives Matter era il simbolo della lotta alla disuguaglianza razziale vissuta dalla comunità afroamericana.

Ma quali sono gli impegni di Facebook su questa tematica? La società di Zuckerberg avrebbe assunto un vicepresidente dei diritti civili e ha rilasciato una verifica sui diritti civili. In un rapporto annuale sulla diversità a luglio, Facebook ha affermato che il 4,4% dei suoi dipendenti con sede negli Stati Uniti siano di colore; un buon aumento rispetto al 3,9% dell’anno precedente.

La signora Groves, che ha lasciato Facebook durante l’estate dopo quattro anni, ha sottolineato in un’intervista i passi falsi dell’azienda. La donna ha affermato che affrontare i problemi razziali non sia una priorità per i suoi leader. “Facebook non può continuare a fare questi errori e poi dire: ‘Mi dispiace'”, ha detto.