L’intelligenza artificiale è diventata sempre più un alleato del nostro tempo. Tuttavia, le paure e le preoccupazioni sul suo utilizzo non sono state completamente dissipate. Ora, questo compito potrebbe essere ancora più complicato, dal momento che la scienza ha stabilito che, in effetti, controllare un’IA super sviluppata sarebbe praticamente impossibile per l’umanità.

La ricerca che ha portato a queste conclusioni è stata pubblicata lo scorso gennaio sul Journal of Artificial Intelligence Research.

 

Cosa rende impossibile il controllo dell’IA super sviluppata?

Per capire perché un’intelligenza artificiale super sviluppata sia impossibile da controllare, è necessario approfondire la sua natura. Nel complesso, si prevede che si tratti di programmi altamente sviluppati e sfaccettati.

Per questo motivo, la portata dei suoi processi, deduzioni e conclusioni sarà molto lontana dalla comprensione umana. Di conseguenza, l’intelligenza artificiale si mobiliterà in ambiti matematici e teorici che raramente tocchiamo o che semplicemente non possiamo raggiungere.

Per questo motivo, si è concluso che, un’intelligenza artificiale super sviluppata del futuro, eseguirà sicuramente processi e giungerà a conclusioni oltre le capacità umane. Quindi, stando così, ci rimane da chiedere loro: come potremmo controllarlo se non lo capiamo nemmeno?

 

Non possiamo controllare ciò che non possiamo capire

Questa è la principale conclusione raggiunta dai ricercatori. Fondamentalmente, fanno questa affermazione con la premessa che, se l’IA viene utilizzata in campi a noi sconosciuti, sarà impossibile prevederne i risultati.

Per questo motivo, non sapremo dove andranno i processi mentali dell’IA o come ci sono arrivati. Quindi, non saremo in grado di capire cosa propone l’intelligenza artificiale super sviluppata, rendendo semplicemente impossibile il compito di controllarla per mancanza di strumenti e conoscenze necessarie.

Come esempio di ciò, i ricercatori citano la tipica legge “Evitare danni agli esseri umani a tutti i costi“. Anche se in sostanza sembra semplice e limitante, è così solo dal punto di vista del ragionamento umano e tecnologico. Ma l’IA super sviluppata sarà in grado di avere una visione più ampia e trarre conclusioni che non immaginiamo nemmeno. Pertanto, non possiamo nemmeno sapere cosa comprenderà veramente con questa regola o come la eseguirà.

 

Non possiamo sapere a quale conclusione arriverà l’IA (o se ne raggiungerà anche una)

I calcoli usati per determinare se l’IA sovrasviluppata potrebbe essere controllata in futuro o meno sono nati da una proposta matematica del 1936. Questa è stata proposta dalla mente del matematico Alan Turing. Il suo postulato implicava che, con certi calcoli, fosse possibile determinare quale tipo di risposta finale avrebbe dato un computer o se sarebbe rimasto un ciclo eterno alla ricerca di una soluzione.

Ora, un’intelligenza artificiale super sviluppata potrebbe avere tutti questi calcoli all’interno della sua interfaccia, utilizzandoli in modi che non ci aspettiamo e che non siamo in grado di comprendere o prevedere. Anche una delle possibili risposte sarebbe la mancanza di un’altra, poiché l’algoritmo rimarrebbe in una ricerca eterna (che neanche noi potremmo giungere a vedere o controllare).

 

Ma… è davvero necessario controllarla?

Nel loro studio i ricercatori affrontano anche questa domanda. Dopotutto, se creiamo un’IA per aiutare a risolvere i problemi umani in modo più efficiente e rapido, perché allora dovremmo limitarla alle capacità della nostra mente? E, se lo facciamo, perché abbiamo creato questi programmi?

Per i ricercatori, è fondamentale che, d’ora in poi, a queste domande venga data risposta e vengano individuati punti reali verso cui indirizzare lo sviluppo dell’intelligenza artificiale. Finora, la crescita dell’IA è stata esponenziale, ma fuori controllo. In futuro, potrebbe essere necessario creare più regolamenti su dove l’IA può e non può agire.

Allo stesso modo, occorre anche avere obiettivi chiari e monitorare lo sviluppo dell’intelligenza artificiale. Questo poiché solo con essi sarà possibile sapere quando saremo riusciti a creare un’IA super sviluppata. Perché anche questa previsione va oltre le nostre capacità. È per questo che l’IA dovrebbe essere temuta? Non necessariamente.

Photo by Michael Dziedzic on Unsplash