Siri è davvero razzista? Facciamo un po’ di chiarezza sulla bizzarra questione

Sui social network e su diversi blog a tema social, molti utenti hanno iniziato a lamentarsi di un presunto emergente “razzismo” di Siri, l’assistente virtuale made in Apple, sulla base dei risultati di uno studio dell’Università di Stanford. La realtà, tuttavia, è un po’ diversa da come viene raccontata in queste sedi e potrebbe essere interessante cercare di analizzare con calma la situazione. Lo studio ha concluso che i sistemi di riconoscimento vocale creati dai colossi della tecnologia hanno un “pregiudizio razziale”, che Apple avrebbe esasperato.

Il motore di riconoscimento di Apple ha identificato erroneamente il 23% delle parole pronunciate dai bianchi, ma il 45% di quelle pronunciate dagli afroamericani. Ci sono, tuttavia, due elementi molto importanti che esitano dai risultati dello studio. Innanzitutto, lo studio non ha avuto ad oggetto i sistemi di riconoscimento vocale attuali, come Siri, Alexa e Google Assistant. Piuttosto, i ricercatori hanno utilizzato gli strumenti di riconoscimento vocale forniti dalle aziende destinati all’utilizzo da parte di terzi.

La versione di Siri oggetto dello studio è diversa rispetto a quella attualmente in uso sui dispositivi Apple

Lo studio ha testato cinque strumenti resi disponibili gratuitamente di Apple, Amazon, Google, IBM e Microsoft che chiunque può utilizzare per creare servizi di riconoscimento vocale. Questi strumenti non sono necessariamente ciò che Apple ha usato alla base di Siri o Amazon usa per Alexa, ma possono condividerne tecnologie e meccanismi di fondo. Lo studio sottolinea inoltre che quando gli strumenti sono stati testati, lo strumento di Apple è stato impostato in modo diverso dagli altri e ha richiesto del lavoro aggiuntivo prima di poter essere testato.

Infine, il linguaggio utilizzato dagli afroamericani esaminato e trascritto dai sistemi era ciò che i ricercatori descrivono come “inglese volgare afroamericano“, un registro linguistico particolarmente ricco di flessioni gergali. Nessuna differenza è stata infatti trovata quando le stesse parole gergali sono state pronunciate da bianchi, quindi il pregiudizio tanto contestato è in realtà frutto del riconoscimento di una determinata terminologia e dell’interpretazione di un determinato registro linguistico.