Quando l’intelligenza artificiale sbaglia
Le applicazioni di intelligenza artificiale hanno trasformato molti aspetti della vita quotidiana: scrivere email, suggerire ristoranti e persino fornire indicazioni generali sulla salute. Tuttavia, quando si tratta di consigli medici specifici, le conseguenze di un errore possono essere gravi.
Il caso riportato recentemente sulla rivista Annals of Internal Medicine: Clinical Cases racconta la vicenda di un uomo che ha seguito le indicazioni di un chatbot per ridurre l’assunzione di sale. In cerca di un’alternativa al cloruro di sodio, l’uomo ha chiesto al sistema di suggerire un sostituto. L’intelligenza artificiale ha proposto il bromuro di sodio, senza specificare che l’uso umano è tossico e destinato esclusivamente a scopi industriali o di pulizia.
Dal pane alle emergenze ospedaliere
Convinto della validità del consiglio, l’uomo ha incorporato il bromuro nella sua dieta quotidiana. Dopo circa tre mesi, ha iniziato a manifestare deliri paranoici, credendo che il vicino cercasse di avvelenarlo. Le allucinazioni visive e uditive hanno portato al ricovero urgente e, successivamente, a un trattamento psichiatrico involontario.
I test clinici hanno rilevato un livello di bromuro nel sangue di 1.700 mg/L, significativamente superiore ai valori normali (<10 mg/L), confermando la diagnosi di bromismo, una forma rara di tossicità da bromuro che fino al XX secolo era più comune e responsabile di numerosi ricoveri psichiatrici.
Cos’è il bromismo e perché è pericoloso
Il bromismo si manifesta con sintomi neurologici e psichiatrici, tra cui confusione, paranoia, debolezza muscolare e, nei casi gravi, allucinazioni. Sebbene la condizione sia quasi scomparsa grazie all’eliminazione dei farmaci a base di bromuro negli anni ’70 e ’80, l’ingestione accidentale di composti chimici può ancora scatenarla.
Gli autori dello studio sottolineano come la scelta di un sostituto del sale basata su un’intelligenza artificiale sia estremamente rischiosa. Nessun esperto medico avrebbe mai raccomandato bromuro di sodio come alternativa alimentare, evidenziando i limiti dei sistemi automatizzati nel fornire consulenze sicure.
Lezioni dalla tecnologia emergente
Questo episodio mette in guardia sui rischi di affidarsi a consigli medici generati da algoritmi non supervisionati. Secondo gli esperti, i chatbot possono generare inesattezze scientifiche, non valutare criticamente i dati e contribuire alla diffusione di disinformazione.
Il ricovero dell’uomo, fortunatamente, si è risolto con tre settimane di cure e dimissione senza complicazioni. Tuttavia, il caso rappresenta un monito chiaro: la tecnologia può supportare, ma non sostituire, la competenza clinica umana, soprattutto quando in gioco c’è la salute.
L’era dell’intelligenza artificiale offre strumenti potenti, ma il caso del bromismo ricorda che l’autonomia dei sistemi digitali ha limiti netti. L’intervento umano resta imprescindibile per valutare sicurezza, rischi e contesto, evitando che errori virtuali diventino emergenze reali.
Foto di Gerd Altmann da Pixabay
