Medicina, l’intelligenza artificiale osserva gli algoritmi?

La scienza sta facendo enormi progressi, così come l’intelligenza artificiale, sempre più precisa, accurata e che si sta espandendo in tutti i settori, compresi quelli della medicina. L’IA  ha il potenziale per trasformare la pratica medica su una scala senza precedenti. Ciò, ovviamente richiede alcune cautele del caso, essendo un settore delicato, senza sminuire l’enorme potenziale dell’uso efficace, equo e sicuro delle tecnologie basate sull’intelligenza artificiale nell’assistenza sanitaria.

Mentre un punto di forza dell’intelligenza artificiale è la sua capacità di analizzare grandi quantità di dati e integrarli nel processo decisionale, questa è anche la radice di una potenziale debolezza.

Gli algoritmi in medicina

Gli algoritmi di machine learning sono validi solo quando i dati che analizzano sono corretti. Set di dati distorti o quelli formati nel contesto di pratiche obsolete rischiano di creare dei problemi. Qualsiasi etichettatura errata o incoerente all’interno di questi set di dati, ad esempio una radiografia non categorizzata di un paziente con carcinoma polmonare, ostacolerà l’accuratezza dell’intelligenza artificiale e rischi di replicarsi.

Inoltre, un alto problema può essere la sottorappresentazione razziale o di genere nei set di dati originali, che,  ad esempio, può portare a prestazioni scarse dell’intelligenza artificiale per alcuni gruppi di pazienti.
Uno studio del 2014, infatti, sulle disparità razziali nella mortalità per cancro negli Stati Uniti, ha concluso che la mancanza di diversità nei partecipanti al gruppo di studio ha svolto un ruolo significativo nei risultati più scarsi sul cancro per gli afroamericani. Sono state inoltre sollevate preoccupazioni riguardo alle disparità nell’accuratezza dell’identificazione dei melanomi, una forma di cancro della pelle, tra individui di diverso colore della pelle. La sottorappresentazione può essere il risultato di un’esclusione sistematica da prove e campionamenti, ma anche a causa di modelli in cui acconsente all’utilizzo dei propri dati. Oltre a lasciare tali gruppi fuori dai benefici dell’IA, gli algoritmi hanno il potenziale per danneggiare attivamente i pazienti per coloro che non sono rappresentati nel loro sviluppo.