I robot possono diventare “razzisti e sessisti” in modo autonomo

I robot possono sviluppare pregiudizi come “razzismo e sessismo” in modo autonomo. E’ il risultato di un nuovo studio che può ben definirsi scioccante. Gli esperti di intelligenza artificiale hanno eseguito migliaia di simulazioni sui cervelli dei robot, rivelando in che modo si sono suddivisi in gruppi e sono riusciti a trattare gli “estranei” in modo diverso.

Gli informatici e gli psicologi dell’Università di Cardiff e il MIT degli Stati Uniti si sono uniti per testare come i robot si identificano a vicenda. Ma hanno anche testato come copiano e imparano i comportamenti l’uno dall’altro.

Lo studio, pubblicato su Scientific Reports, ha mostrato che i robot virtuali simulati eviterebbero gli altri, formando i propri gruppi. 

La ricerca

L’esperimento prevedeva un sistema “dà e prendi”, in cui i robot potevano scegliere a quale dei loro pari fare una donazione. Mentre svolgono i giochi virtuali, le persone imparerebbero nuove strategie di donazione copiando altri robot – per trarne beneficio.

Si è scoperto che i robot si sarebbero fatti donazioni l’un l’altro all’interno di piccoli gruppi, negando agli estranei a loro volta di ricevere qualcosa. “Eseguendo queste simulazioni migliaia e migliaia di volte, cominciamo a capire come si evolvono i pregiudizi e le condizioni che la promuovono o impediscono“, ha spiegato il coautore Professor Roger Whitaker, dell’università di Cardiff. “Le nostre simulazioni mostrano che il pregiudizio è una potente forza della natura e attraverso l’evoluzione, può facilmente diventare incentivato nelle popolazioni virtuali, a scapito di una più ampia connettività con gli altri“.

Il professore ha spiegato che lo studio ha anche mostrato come “gruppi pregiudizievoli” abbiano accidentalmente portato a estranei a formare i propri gruppi rivali, “con conseguente frattura della popolazione“. Ha aggiunto: “Un tale pregiudizio diffuso è difficile da invertire“.

Lo studio ha spiegato come l’apprendimento di questi comportamenti pregiudizievoli non richiedesse molto potere mentale. Invece, si trattava semplicemente di copiare gli altri in base al loro successo nel gioco del “dare e avere“, che inevitabilmente portava al pregiudizio.

Secondo gli scienziati dietro al progetto, è possibile che una volta che i robot si saranno diffusi, potrebbero raccogliere i pregiudizi umani comuni. Il professor Whitaker ha dichiarato: “È possibile che le macchine autonome, con la capacità di identificarsi con la discriminazione e copiarne altre, possano in futuro essere suscettibili a fenomeni pregiudizievoli che vediamo nella popolazione umana. Molti degli sviluppi IA che stiamo vedendo coinvolgono l’autonomia e l’autocontrollo, il che significa che il comportamento dei dispositivi è influenzato anche da altri intorno a loro”.

E il fondatore di Tesla, PayPal e SpaceX Elon Musk ha avvertito che l’IA rappresenta un “rischio fondamentale per l’esistenza della civiltà“.