Il social network Facebook si è reso protagonista di un episodio di razzismo. Tutto sarebbe avvenuto a causa di un algoritmo non settato bene.
L’intelligenza artificiale non sempre riesce ad effettuare tutte le operazioni correttamente. Chi parla di perfezione, sbaglia. Sono dispositivi sicuramente utili ma a cui serve tanto tempo per non sbagliare nulla. In sintesi, non sono infallibili.
Questi, però, vengono utilizzati da grandi società come Facebook, Google e Amazon. Più importante è la società che li utilizza, più è rumoroso il loro, eventuale, sbaglio. Soprattutto, alcune indagini hanno il loro mirino puntato sui pregiudizi inerenti alla questione di razza.
Alcuni studi hanno dimostrato gravi problemi. Come il riconoscimento facciale faccia enorme fatica a identificare persone di colore rispetto ai bianchi. Le conseguenze sono davvero disastrose. Come quanto capitato a Nijeer Parks che solo per una somiglianza con un ricercato è stato dichiarato colpevole dall’IA. Ora, invece, la questione riguarda Facebook e il razzismo.
Facebook razzista: l’errore dell’algoritmo
Tutto è partito da un video del tabloi britannico, Daily Mail. L’accaduto è datato 27 giugno 2020 e porta il titolo ‘L’uomo bianco chiama i poliziotti contro gli uomini di colore al porto turistico’. Il contenuto del video è una discussione tra persone di colore con uomini bianchi e la polizia.
Cosa succede a fine video, che l’algoritmo di Facebook suggerisce dei video che riguardano i primati. La dicitura è chiarissima “Continua a guardare video sui primati“. Da qui, una polemica web davvero incredibile. Bufera totale contro l’intelligenza artificiale.
Facebook, una volta a consocenza dei fatti, ha inciato un’indagine interna e ha immediatamente disattivato l’algoritmo. E, come riporta il Corriere della Sera, un portavoce ha definito inaccettabile quanto accaduto. Continuando: “Mentre abbiamo fatto dei miglioramente alla nostra intelligenza artificiale, sappiamo che non è perfetta e che dobbiamo fare altri progressi”.
LEGGI ANCHE >>> Facebook, dati rubati: ecco come capire se è successo anche a voi
Un caso, non il primo, destinato non solo a far discutere ma anche porre seri interrogativi sulla fallibilità dell’IA. Sono sistemi che magari, un giorno, diventeranno essenziali e perfetti ma fino a quel momento, errori del genere ci saranno sempre.
