Amazon: licenziato il software per il reclutamento perché discriminava le donne

L’Intelligenza Artificiale per quanto suoni come un qualcosa di fantascientifico è in realtà una tecnologia assai diffusa. Probabilmente molti di noi ne sono già venuti in contatto molte volte, addirittura proprio in questo momento se si sta usando uno smartphone. I software che fanno uso di un IA sono molti e ormai sono presenti anche nei telefoni più comuni. Certo, in questo caso svolgono compiti semplici, niente in confronto a quello che molte compagnie hanno sviluppato negli ultimi anni o che stanno sviluppando tutt’ora.

Una società che ha fatto largo uso di tale tecnologia è Amazon. L’essere all’avanguardia in tale campo è stato uno dei motivi del successo della compagnia, ma non sempre lo sperimentare da i risultati voluti. Un esempio è il software di reclutamento che il gigante dell’e-commerce aveva iniziato ad usare nel 2014.

Donne? No grazie

Un team interno ad Amazon aveva messo su un programma con lo scopo di facilitare e velocizzare il processo di reclutamento attraverso la lettura dei curricula dei nuovi candidati. Lo strumento attraverso dei parametri scelti dava un punteggio ad ogni individuo e alla conclusione di tale processo avrebbe anche scelto i cinque più meritevoli, apparentemente.

Non ci è voluto molto prima che il team ha riscontrato un problema non esattamente ignorabile. L’IA sembrava escludere a priori le donne, o perlomeno gli dava un punteggio più basso solo per non essere dei maschi. Non solo venivano penalizzate anche solo per la preferenza di un termine come “femminile“, ma anche se si era andati a dei college prettamente femminili.

Come detto, il problema non poteva essere ignorato soprattutto in un periodo come quello del 2014. Per questo motivo la compagnia decise di chiudere tale progetto neanche un anno dopo lasciando il compito di sviluppare un software del genere ad altre società.