L’intelligenza artificiale non va né idolatrata né temuta. Va, piuttosto, capita, misurata e governata. È questo il punto di partenza della riflessione del dottor Michele Angioni, consigliere dell’Ordine dei medici chirurghi e odontoiatri di Novara e coordinatore della Commissione permanente per l’Intelligenza Artificiale in medicina della Federazione regionale degli Ordini.
«Meno paura dell’IA, più medicina»
Un intervento che si inserisce nel dibattito sui possibili rischi dell’IA e che prova a riportare il tema all’interno della pratica medica quotidiana. Per Angioni, infatti, il valore della tecnologia non sta nella possibilità di sostituire il medico, ma in quella di permettergli di svolgere meglio il proprio lavoro.
«La medicina non è una demo tecnologica», sottolinea. Un sistema, spiega, non diventa utile semplicemente perché è in grado di impressionare: deve funzionare durante una visita reale, in condizioni caratterizzate da poco tempo, informazioni incomplete e responsabilità precise. «Perché tra una tecnologia impressionante e una tecnologia utile c’è di mezzo l’oceano».
L’obiettivo: tornare a guardare il paziente
Una delle potenzialità più interessanti dell’intelligenza artificiale, secondo Angioni, potrebbe essere paradossalmente poco spettacolare. Per anni, osserva, il medico è stato portato a lavorare sempre più davanti al computer: mentre il paziente parla, l’attenzione finisce sullo schermo.
«La vera rivoluzione dell’IA potrebbe essere molto meno spettacolare: farci tornare a guardare il paziente».
In Medicina Generale, per esempio, l’intelligenza artificiale potrebbe aiutare a ricostruire anni di storia clinica, recuperare informazioni diventate difficili da individuare nella documentazione, segnalare eventuali incongruenze e ridurre il peso della burocrazia. Può inoltre contribuire a orientare il ragionamento clinico.
Ma proprio qui emerge anche uno dei rischi: un utilizzo scorretto della tecnologia potrebbe impoverire le competenze anziché rafforzarle. Per questo, secondo Angioni, sarà necessario sviluppare una vera e propria «algovigilanza», che non si limiti a controllare gli errori degli algoritmi, ma osservi anche gli effetti che questi strumenti producono sui medici e sulle decisioni.
Frodi e abusi: la responsabilità resta di chi utilizza lo strumento
Nel ragionamento del medico c’è anche la necessità di distinguere i rischi legati alla tecnologia dai comportamenti di chi la utilizza.
Se un ricercatore ricorre all’intelligenza artificiale per inventare pazienti, falsificare immagini o costruire uno studio inesistente, osserva Angioni, il problema è una frode scientifica facilitata dall’IA. Allo stesso modo, se una persona commette un furto utilizzando una tecnologia, la responsabilità resta di chi lo compie.
L’IA può rendere alcuni abusi più semplici, veloci e difficili da individuare. Per questo, secondo Angioni, diventano fondamentali strumenti come la tracciabilità, l’accesso ai dati originali e controlli più efficaci. Attribuire però allo strumento la responsabilità dell’azione di chi lo utilizza, osserva, significa «sbagliare diagnosi».
Nessuna delega della decisione clinica all’algoritmo
Il principio vale anche per le decisioni sanitarie. «Non dobbiamo delegare la coscienza a un algoritmo», afferma Angioni. Ma, allo stesso tempo, non bisogna attribuire all’algoritmo la responsabilità di chi lo utilizza.
Un sistema in grado di recuperare un esame dimenticato, segnalare una possibile interazione farmacologica o ricostruire dieci anni di cartella clinica, infatti, non prende necessariamente la decisione al posto del medico. Può invece metterlo nelle condizioni di decidere disponendo di un quadro informativo più completo.
Da qui la necessità, secondo Angioni, di evitare un generico riferimento al «rischio dell’intelligenza artificiale». La domanda da porsi dovrebbe essere più precisa: quale sistema viene utilizzato, da chi, per quale compito, con quali controlli e rispetto a quale alternativa?
Perché anche l’alternativa, ricorda il medico, presenta dei rischi. Un professionista può essere stanco, può non leggere una comunicazione o non ricordare un’informazione contenuta in anni di documentazione clinica. Pretendere dall’IA un rischio pari a zero mentre si considerano inevitabili questi limiti significherebbe, secondo Angioni, applicare due standard differenti.
La competenza sarà saper verificare la macchina
Nel rapporto tra medico e intelligenza artificiale, quindi, la competenza fondamentale non sarà semplicemente quella di ottenere una risposta dalla macchina. Sarà soprattutto saperla verificare, riconoscere un errore, capire quando affidarsi allo strumento e quando invece non farlo.
In altre parole, «sarà sapere cosa farsene».
Da qui la conclusione della riflessione di Angioni, che torna anche nel titolo del suo intervento: «Meno paura dell’intelligenza artificiale, quindi. Più medicina».