Intelligenza Artificiale, Medicina: Può Sfuggire al Controllo Umano? Rossana Cecchi a Cinzia Notaro.

INTELLIGENZA ARTIFICIALE IN MEDICINA:  LA RETE NEURALE AGENDO IN MODO AUTONOMO  SFUGGE AL CONTROLLO UMANO?

Se è vero che l’Intelligenza Artificiale offra nuove ed innovative opportunità lavorative rinnovando ogni settore : sanitario, finanziario , manufatturiero, Retail (nel commercio al dettaglio),dei Trasporti , migliorando la qualità della vita ed ottimizzando numerosissimi processi attraverso un’ adeguata progettazione e implementazione , è anche vero che si dovranno affrontare sfide etiche e sociali che emergeranno dal suo utilizzo.

Ne parliamo con la prof.ssa Rossana Cecchi, Direttrice della Scuola di Specializzazione in Medicina Legale dell’Università di Modena e Reggio Emilia  e dell’Unità Operativa Complessa di Medicina Legale dell’Azienda Ospedaliero-Universitaria di Modena, nonchè vice-Presidente International Academy of Legal Medicine, Delegata per l’Italia dell’ European Council of Legal and Forensic Medicine, Consigliera nel Direttivo della società italiana di Medicina Legale.

In Medicina ad esempio, contribuirà ad una maggiore efficienza e sostenibilità del sistema sanitario per rispondere tempestivamente alle emergenze, perfezionare i trattamenti e ridurre i costi?

Assolutamente sì, e lo stiamo già vedendo. La radiologia sta sveltendo moltissimo i tempi di risposta e l’accuratezza delle diagnosi, grazie all’I.A. che riesce a vedere dettagli delle immagini radiografiche che l’occhio umano non percepisce. E’ previsto che in un futuro prossimo i medici possano usufruire dell’aiuto dell’I.A. per fare diagnosi complesse, così come è già realtà la progettazione di molecole farmacologiche da parte dell’I.A. E questi sono solo alcuni esempi.

L ‘ I.A. è in grado di analizzare enormi quantità di dati clinici e risultati diagnostici, per una più precisa diagnosi di malattie?

Direi che sia proprio questo il grande vantaggio che l’I.A. ha rispetto all’uomo. Essa è in grado di analizzare in tempi brevissimi quantità enormi di dati, comparandoli sotto i vari profili di interesse (segni e sintomi ricorrenti in una certa patologia, valori di parametri ematici nelle analisi cliniche, risultati attesi nelle indagini strumentali, etc…) riuscendo a trarne indicazioni diagnostiche in tempi più brevi rispetto a quelli  dell’essere umano e, talvolta, più accurate, proprio perché sono il risultato di un numero di dati che il cervello umano non sarebbe in grado di elaborare.

In che modo l’ I.A. può creare piani di trattamento personalizzati basati sulle caratteristiche genetiche e cliniche di un paziente ?

La medicina personalizzata, che si sta sempre più affermando, e che certamente contribuirà ad una miglior allocazione delle risorse e qualità delle terapie, senza dubbio può giovarsi dell’I.A. L’apprendimento a cui è soggetta l’I.A. ormai da tempo, grazie all’accesso ai big data, quindi a banche di dati molto ampie, nei campi della genetica, della radiologia, della diagnostica, consente all’algoritmo che la rappresenta e la guida, di comprendere le correlazioni che intercorrono tra un certo quadro clinico e il corredo genetico, le abitudini di vita, alimentari, lavorative, etc. dell’ uomo. Questo apprendimento, destinato ad arricchirsi sempre più, consente all’I.A., intrecciando i dati a sua disposizione su una certa persona, di esprimere un giudizio diagnostico estrapolando dalle migliaia di correlazioni da essa conosciute quella maggiormente attinente al caso specifico. Allo stesso modo, confrontando migliaia di terapie prescritte con i risultati ottenuti in altrettanti soggetti (ognuno con le proprie caratteristiche dinanzi riportate) in termini di benefici, complicanze, effetti secondari, e quant’altro, consente all’I.A. di affiancare ad una maggior accuratezza diagnostica anche una terapia maggiormente mirata al singolo caso.

Vittorio Colao già ministro per l’innovazione tecnologica e la transizione digitale nel governo Draghi sostiene che si potrebbero veicolare farmaci da remoto (rimandiamo al link sotto). Crede sia possibile?

Immagino che ciò che lui intenda sia un meccanismo agente da remoto su un dispositivo già collegato con il paziente, a cui dare il comando di rilasciare la quantità di farmaco prestabilita. Penso sia ipotizzabile  come Colao prevede, che i sistemi di I.A. possano un giorno  ( probabilmente attraverso sensori inseriti nel corpo umano )  anche cogliere i segnali che indicano che il farmaco sia penetrato nel corpo umano.

Dispositivi elettronici indossabili sul corpo potranno raccogliere e monitorare dati biologici in tempo reale?

Direi di sì, lo fanno già oggi. Raccolgono dati sulla pressione arteriosa, i battiti cardiaci, l’ECG, la glicemia con sensori sottopelle, etc. E’ assolutamente già una realtà.

Nel campo della Medicina Legale quale rivoluzione ha portato l’I.A?

Non parlerei di una vera e propria rivoluzione. Diciamo che le potenzialità sono molto promettenti, ma la difficoltà di applicare l’I.A. nel campo medico-legale risiede nella carenza, tipica della nostra disciplina, di una grande mole di dati su un certo tema. Mentre  in ambito clinico i dati a disposizione possono essere raccolti da database messi a disposizione ad es. dai numerosi studi multicentrici esistenti, in ambito medico-legale database di questa portata non sono disponibili. E’ pensabile l’applicazione dell’I.A. nell’ambito delle indagini genetiche, ad es. per la ricerca di un ignoto di cui si conosce il DNA , visto che esistono database con dati sufficienti. Allo stesso modo l’identificazione attraverso le impronte digitali può richiedere tempi molto più brevi applicando l’I.A. sui database a disposizione. In futuro certamente potremo pensare di “addestrare” i sistemi di I.A. ad analizzare le immagini radiologiche post-mortali al fine di contribuire all’identificazione di singole caratteristiche tipiche di determinate cause di morte o per stabilire l’intervallo post-mortem. Allo stesso modo, l’I.A. può aiutarci a fare diagnosi di età confrontando i dati provenienti dalle stime ottenute intrecciando le immagini radiografiche con la visita medica, oppure può sveltire le analisi tossicologiche o rendere più accurate quelle genetiche. Ma si tratta di impieghi non ancora diffusi o sviluppati.

L’automatizzazione di compiti ripetitivi come l’ immissione di dati o la gestione delle cartelle cliniche potrebbe togliere lavoro al personale medico o gli si troverebbe un’altra collocazione?

Gli esempi che lei pone riguardano compiti perlopiù burocratico-amministrativi di cui il personale medico farebbe volentieri a meno. Esonerarlo da questi impegni consentirebbe al sanitario di dedicarsi maggiormente alla comunicazione e, di conseguenza, alla relazione con il paziente … aspetto questo oggi trascurato proprio a causa delle tante incombenze non squisitamente mediche a cui siamo spesso obbligati ad attendere. In questo senso l’I.A. ci restituirebbe il tempo, così prezioso e così ristretto. L’I.A. dev’essere vista come un’opportunità di aiuto in alcuni ambiti, come quello diagnostico e trattamentale, e di sostituzione in ambiti in cui sia trascurabile il rischio di un errore che provochi un danno al paziente. Certamente gli aspetti amministrativi fanno parte di questi ultimi, anche perché possono essere soggetti a verifiche e controlli in qualsiasi momento.

L’I.A. potrebbe suggerire ai medici strumenti di supporto decisionale riguardo diagnosi alternative o trattamenti basati su ricerche recenti?

Certamente, qualora l’algoritmo venga allenato a studiare e confrontare dati di ricerche recenti, potrà dare il proprio contributo suggerendo al medico la possibilità di proporre un trattamento messo a punto di recente che magari il medico ancora non conosce. Per quanto riguarda la diagnosi differenziale, ritengo che l’I.A. possa dare un contributo prezioso al complesso ragionamento che il medico si trova a dover operare nel momento in cui ha di fronte a sé più ipotesi diagnostiche. Poter ricorrere ad uno strumento, che pone a disposizione quanto scaturisce dalla comparazione di un numero ingente di casi simili a quello che si sta studiando, aumenta la solidità della base su cui egli formulerà la propria decisione.

In che modo le tecnologie dell’ I.A. possono prevedere outbreak di malattie e aiutare nella gestione delle emergenze sanitarie?

Mi chiede come l’I.A. possa predire l’evento malattia prima che esso si sia manifestato? Un modo passa senz’altro attraverso la capacità che ha l’I.A. di cogliere, agli esami strumentali, immagini non percepibili all’occhio umano. Queste possono presagire ad es. la presenza di un tumore in fase molto precoce, oppure di metastasi in fase iniziale. Inoltre, confrontando analisi cliniche e corredo genetico, l’I.A. potrebbe presagire l’avvento di una patologia familiare ancora non manifesta. Per quanto attiene le emergenze sanitarie potrebbe creare in breve tempo un vaccino contro un virus in caso di pandemia, oppure elaborare rapidamente i dati epidemiologici a disposizione per predire cosa stia per accadere e come il fenomeno pandemico si stia diffondendo. Sono, ovviamente, soltanto alcuni esempi.

Tuttavia ci sono anche dei rischi come l’affidabilità dei dati, il bias e la discriminazione per citarne alcuni, vero?

Come in tutte le cose, c’è sempre un rovescio della medaglia. Se da un lato non dobbiamo temere l’I.A. in quanto può davvero apportare enormi benefici al sistema sanitario mondiale, dall’altro dobbiamo temere come essa venga usata dall’uomo. Due gli scenari possibili: un’applicazione coscientemente eticamente e legalmente scorretta, ed un’applicazione inconsapevolmente scorretta dell’I.A. Il primo  non merita di essere descritto, ed attiene a fatti costituenti reato che di volta in volta vengono identificati e perseguiti. Più complesso è, invece, il secondo dove l’errore non viene percepito. E questo ci introduce anche nell’ampio campo delle questioni etiche legate all’I.A. in medicina. Esse concernono perlopiù l’uso dei dati, in particolare dei big data. Il concetto, semplificando molto, è il seguente: il risultato che io ottengo dall’algoritmo dipende dai dati che gli ho messo a disposizione. Qualsiasi bias insito in questi dati, comporterà giocoforza risultati non attendibili, o, comunque, viziati. L’esempio più banale che può spiegare questo è fornito dalle ricerche in medicina che vengono svolte prevalentemente su persone di origine caucasica e di sesso maschile. I motivi di questo fenomeno sono vari e non interessano in questo momento. Tuttavia, è stato appurato che le casistiche su cui vengono sperimentati i farmaci, spesso non contemplano un numero comparabile di maschi e femmine, di soggetti di origine dalle varie aree geografiche, a volte anche le fasce di età non sono tutte rappresentate nello stesso modo. E’ chiaro che i risultati che otterrò saranno “sicuri” per i soggetti della tipologia maggiormente rappresentata, mentre altri, e spesso si fa riferimento alle donne, non è sicuro che otterranno gli stessi benefici. Appare evidente che, senza una metodologia condivisa di raccolta dei dati, i risultati non potranno essere del tutto affidabili. Il rischio è, appunto di discriminare fasce di popolazione, vanificando i pregi della medicina personalizzata di cui abbiamo parlato prima. Altro punto critico è rappresentato dal fatto che spesso i programmatori non condividono la programmazione dell’algoritmo con la classe medica, e quindi  i risultati ottenuti non sono di rilevanza per le necessità della medicina. Ad es. in epoca Covid 19 i programmatori si sono concentrati su come fare diagnosi di polmonite interstiziale sulle immagini radiologiche applicando l’I.A., mentre ai medici interessava esprimere un giudizio prognostico in base alle immagini a disposizione. Soltanto una stretta collaborazione tra i medici del settore interessato e coloro che creano l’algoritmo e immettono i dati nel sistema, seguendo una metodologia universalmente condivisa, può dare risultati con un rischio di vizi ridotto al minimo.

E cosa dire sulla privacy dei dati, l’eccessiva dipendenza dall’I.A. che potrebbe ridurre le competenze diagnostiche dei medici umani?

Trattasi di un altro grande tema che impegna l’etica in ambito di I.A. La privacy ha già mostrato la propria fragilità quando viene manipolata da persone esperte nel settore della violazione dei dati. E questo resterà certamente il problema più grande con cui dovremo abituarci a convivere a meno di rinunciare all’I.A., cosa sinceramente ormai impossibile. Trovo più interessante il tema della dipendenza che già sperimentiamo. Chi di noi ricorda un numero telefonico a memoria da quando usiamo il cellulare? Da giovane li ricordavo. Imparare le strade è diventato più difficile perché ricorriamo a google maps. In campo medico, con l’avvento di analisi cliniche e strumentali sempre più precise e sofisticate, il medico ha disappreso la semeiotica. Molti pazienti ci riferiscono che il medico non li ha toccati; si è limitato a leggere i referti delle analisi eseguite. La sempre maggior presenza dell’I.A. in campo medico porta con sé l’enorme rischio di quello che viene impropriamente definito il “deskilling” dei medici, ovvero l’affidarsi sempre più all’I.A. che di fatto rendendoli meno attivi nel processo diagnostico  potrebbe “disabituarli” a fare certe cose (visita medica) o a concentrarsi sui quadri clinici legati alle possibili diagnosi con il rischio  di perdere competenza. Sono convinta, tuttavia, che anche se questo dovesse accadere, si accompagnerebbe ad un nuovo modo di fare il medico e di affrontare i problemi posti dalla medicina. Staremo a vedere. E’ già accaduto in tanti campi.

Per non parlare delle questioni legali ed etiche relative alla responsabilità per gli errori diagnostici e le decisioni autonome delle macchine. Come affrontare queste problematiche?

Questo è effettivamente l’ambito che maggiormente mi avvince per quanto riguarda l’applicazione dell’I.A. in medicina. Qualche anno fa, in occasione di un congresso della SIMLA a Bari, mi è stata affidata l’organizzazione di una tavola rotonda su questo tema. Abbiamo invitato ingegneri esperti in I.A. applicata in sanità. E’ stato davvero interessante osservare come il confronto con i medici legali abbia risvegliato negli ingegneri questioni a cui non avevano mai pensato, ovvero, di chi è la responsabilità quando un paziente riceve un danno iatrogeno determinato dall’I.A.?

In altri termini, finché il medico può esercitare un controllo sul lavoro svolto dall’I.A., ed oggi siamo ancora in questa fase, la valutazione circa le responsabilità dei danni ingiusti patiti dal paziente segue il ragionamento medico-legale sin qui portato avanti dalla metodologia propria della medicina legale. Ma come verrà valutato il caso in cui il medico si trovi di fronte ad una diagnosi proposta dall’I.A. e non avrà il minimo controllo su come si sia giunti a questa diagnosi? E la diagnosi si dimostri ex post errata?

Il problema che lei pone riguarda essenzialmente i casi in cui prevale il machine learning e le reti neurali, ovvero l’area dell’I.A. che sfugge al controllo umano, nella quale la macchina apprende in modo autonomo e giunge a conclusioni non previste e non prevedibili da parte dell’uomo. Ecco questo è lo scenario a cui dobbiamo prepararci.

Quello che io propongo è un nuovo metodo medico-legale di valutazione del nesso causale tra una azione o omissione indicata dall’I.A. e che ha comportato un danno ingiusto al paziente. Di recente abbiamo pubblicato sulla rivista della nostra società, la Rivista Italiana di Medicina Legale, il risultato di un confronto tra esperti che hanno lavorato per diversi anni su questo tema, e che pone alla discussione un adattamento del metodo medico-legale classico ai nuovi scenari possibili, al fine di giungere ad una soluzione condivisa da parte della comunità. A mio avviso la cosa più importante è che il medico legale non si trovi impreparato e che sia la medicina legale a indicare come affrontare questi casi, senza attendere che giungano indicazioni dalla giurisprudenza.

È fondamentale investire nella regolamentazione, nella formazione e nella ricerca continua per massimizzare i benefici mantenendo i rischi al minimo?

Grazie per questa domanda, che stimola il mio ruolo universitario di formatore delle future generazioni. Credo che sia ormai improcrastinabile l’inserimento di temi legati all’I.A. nei corsi di laurea di medicina e delle professioni sanitarie, che insegnino agli studenti non solo a conoscere quali siano le applicazioni e come funzionino, ma principalmente a riflettere su cosa comportano e a ragionare sulla propria mansione rispetto a queste tecnologie. Il medico e il professionista sanitario non devono essere passivi di fronte all’avanzare della tecnologia, ma devono saperla gestire tenendo conto innanzitutto del paziente e delle sue esigenze, propriamente  umane, così da non consentire che l’entusiasmo verso ciò che il progresso tecnologico ci offre possa superare le cautele necessarie evitando che esso porti alla perdita di quanto così faticosamente l’uomo ha cercato di costruire nei secoli a partire da Ippocrate con il suo giuramento.

LINK    https://www.youtube.com/watch?v=cEL8WZ8aBNc