intelligenza artificiale salute

Principi etici per l’Intelligenza Artificiale in campo sanitario

 

Che l’Intelligenza Artificiale possa fare tanto bene alla medicina, e più in generale al mondo della salute, è opinione oramai consolidata. Negli ultimi anni le applicazioni AI-based stanno già dando un grande impulso alla diagnostica come alla clinica sanitaria, all’assistenza sanitaria anche da remoto, alla ricerca sanitaria e allo sviluppo di farmaci. Oltre che, naturalmente, alla medicina preventiva. Alla luce di quanto vediamo già ora in ambito medico sanitario, non vi è dubbio che il futuro possa portare benefici immensi al bene più prezioso per ogni uomo: la salute. Su questo Blog ne abbiamo scritto già in passato (vedi articolo). Se dunque la medicina ha tanto bisogno di Intelligenza Artificiale, quest’ultima ha tanto bisogno di etica. Il tema, infatti, non è di natura tecnologica in quanto ma investe la sfera dei diritti umani, della regolamentazione e del benessere delle comunità. Occorre mettere al centro della progettazione i diritti umani e le questioni etiche.

 

A tutela di questo fondamentale baluardo per l’umanità si è mossa l’Organizzazione Mondiale della Sanità, che ha pubblicato un importante documento, frutto del lavoro di numerosi esperti. Il documento dal titolo “Ethics and Governance of Artificial Intelligence for Health” individua sei punti chiave per promuovere l’utilizzo etico dell’AI nel campo della salute e della medicina: 1) proteggere l’autonomia umana; 2) promuovere il benessere umano, la sicurezza umana e l’interesse pubblico; 3) garantire la trasparenza, la chiarezza e l’intelligibilità; 4) promuovere la responsabilità e l’accountability; 5) garantire inclusività ed equità; 6) promuovere un’IA reattiva e sostenibile. Vediamoli nel dettaglio.

 

Autonomia umana e interesse pubblico

Non è un film di fantascienza ma l’idea che qualche tipo di potere decisionale possa essere assunto o trasferito alle macchine non è tecnicamente impossibile. Ecco perché l’OMS mette al primo punto il principio dell’autonomia umana, affinché qualsiasi estensione dell’autonomia della macchina non vada a pregiudicarla. Le decisioni mediche vanno prese da persone, i sistemi AI devono fornire assistenza per decidere nel modo più completo a livello di informazioni, di conseguenza più consapevole. La macchina va quindi progettata per auto limitarsi. Autonomia è anche tutela della privacy, dal consenso informato fino all’adeguamento delle leggi e delle regole di trattamento. La protezione dei dati sarà infatti un tema decisivo, anche in considerazione di quantità di dati sempre più imponenti da trattare, e imporrà ai responsabili del trattamento di operare con grande sensibilità e attenzione.

 

Vietato danneggiare. La misurazione e il monitoraggio delle prestazioni degli algoritmi di AI dovranno garantire un funzionamento perfetto, perché la tutela della salute e la sicurezza umana sono interesse pubblico. Da qui il principio enunciato dall’OMS secondo cui le tecnologie AI non devono mai in nessun caso danneggiare le persone. Sicurezza, accuratezza ed efficacia delle applicazioni vanno vagliate prima della loro distribuzione.

 

Intellegibilità e trasparenza

Comprensibile per gli sviluppatori, per gli utenti e per le autorità di regolamentazione. La trasparenza, informa il report OMS, vorrebbe che a monte di ogni progetto con tecnologia IA intervenga una consultazione e un dibattito pubblico. Che faccia chiarezza sui modi e sugli utilizzi di questa tecnologia, affinché sia chiaro l’interesse pubblico, l’accesso alle informazioni, i protocolli operativi, le proprietà dei dati e ovviamente le auto limitazioni di cui al paragrafo precedente. Intellegibili ma anche spiegabili. Progettisti e programmatori devono poter informare le persone in modo chiaro e adeguato. Come in un normale ospedale.

 

Discorso analogo per le responsabilità, che devono essere sempre riconducibili alle persone in caso di errori o malfunzionamenti. In pratica, l’OMS raccomanda che dovrà essere sempre possibile risalire alle persone che hanno commesso errori o applicato male una tecnologia AI. Ciò presuppone adeguati meccanismi di tutela per gli individui, o per i gruppi, eventualmente danneggiati da errori commessi lungo la catena. Oltre alla “garanzia umana” valgono le norme stabilite a monte e a valle dell’algoritmo. Per una relazione solida e fiduciaria tra professionisti, pazienti e progettisti.

 

Inclusiva, equa e sostenibile

Come in altri campi, anche per l’Intelligenza Artificiale vanno rimosse le barriere di accesso o ostacoli pregiudiziali in base all’età, al sesso, al reddito, alle abilità o ad altri fattori potenzialmente discriminatori. Se così non fosse, osservano dall’OMS, vi sarebbe un vulnus tale da aumentare le diseguaglianze sociali su scala globale. Ecco, quindi, che il passaggio chiave è nella progettazione: equa, inclusiva e indipendente. È necessario garantire che i dati dell’Intelligenza Artificiale, e in particolare i dati di addestramento, non includano bias di campionamento. Dati che, invece, dovranno essere accurati, completi e diversificati, in modo da evitare l’estensione di forme esistenti di pregiudizio e disuguaglianza.

 

Infine, reattività e sostenibilità. La reattività implica la velocità nel risolvere i problemi, e per fare questo progettisti e sviluppatori devono mostrarsi molto reattivi, appunto. Ecco, quindi, la questione sollevata dall’OMS: la tecnologia AI utilizzata è appropriata e conforme al contesto nel quale viene utilizzata? Se inefficace o non soddisfacente, occorre prontamente trovare una soluzione al problema.

 

La sostenibilità, altro tema “caldo”. Sappiamo tutti quanto sia preoccupante il tema del consumo energetico delle migliaia di data center sparsi nel mondo. Ebbene, l’OMS raccomanda che i sistemi AI vengano progettati ab origine per ridurre al minimo i consumi e incrementare l’efficienza energetica. Una buona progettazione di Intelligenza Artificiale non può prescindere da quanto accade a livello planetario. La tecnologia ha un potenziale enorme ma al contempo può generare problemi, ragione per cui va gestita con giudizio e attenzione. In definitiva, l’AI potrà davvero contribuire al benessere e alla salute del pianeta se terrà la barra ferma su etica e diritti umani.

 

Leave a Reply