L’evoluzione tecnologica, la digitalizzazione, il machine learning, l’intelligenza artificiale impongono alla medicina nuove sfide etiche. È lecito affidarsi al responso di una macchina, di un algoritmo quando parliamo di decisioni cliniche?
Ne ha parlato Paolo Benanti, francescano del Terzo Ordine Regolare esperto di etica, bioetica ed etica delle tecnologie nel corso del Digital Health Summit, evento organizzato da NetConsulting Cube, GGallery Group e AISIS (Associazione Italiana Sistemi Informativi in Sanità).
Il microscopio e la prima rivoluzione in medicina
Come si pone la digitalizzazione rispetto ai valori etici che caratterizzano fin dal giuramento di Ippocrate la medicina? «Già nel 16º secolo un artefatto tecnologico, la lente convessa, determinò una rivoluzione epocale di non minore intensità rispetto alla digitalizzazione perché permise di generare due utensili (il telescopio e il microscopio) che permisero di studiare l’infinitamente grande e l’infinitamente piccolo», ricorda Benanti. «Improvvisamente tutto quello che conoscevamo era cambiato per sempre: la Terra non era più al centro dell’universo e noi non eravamo più una cosa unica, bensì costituiti da tante piccole parti viventi che abbiamo chiamato cellule. Ciò ha comportato un’importante svolta in medicina, è nata quell’alleanza tra le scienze empiriche e l’arte medica che ha poi condotto alla medicina evidence based».
Possibilità e sfide
Oggi è il tempo di computer, di macchine in grado di processare ingenti moli di dati, strumenti che ci permettono di studiare l’infinitamente complesso. «Da questo strumento, che potremmo anche definire macroscopio, emerge una serie di strumenti, grazie per esempio agli algoritmi di machine learning, che consentono di ottimizzare le cure aiutando i medici con strumenti che indicano quali sono, in una serie di pazienti, quelli che hanno più bisogno di attenzione dal personale medico – sottolinea Benanti -. Prassi, quest’ultima già in uso in diverse università americane dove, a fronte della scarsità di risorse umane, lo strumento informatico può supplire e ottimizzare il percorso di cura, la prestazione medica, il follow-up della degenza o della post-degenza o la somministrazione di farmaci. Di fatto noi stiamo affidando ad algoritmi, che sono scatole chiuse protette da copyright, la possibilità in alcuni casi di determinare chi ha una priorità sulle cure o chi ha diritto a maggiori o minori cure. Si tratta di una grande possibilità, ma anche di una grande sfida. In tema di fecondazione artificiale all’Università di Stanford (California), per fare un esempio, grazie ad algoritmi di machine learning e a immagini digitali degli embrioni fecondati è possibile stabilire quali siano gli embrioni da impiantare con risultati impressionanti: +35% di embrioni che crescono e portano a bimbi in braccio. La maggiore percentuale di successo porta a ridurre i trattamenti anche invasivi connessi alla fecondazione assistita, a ridurne i rischi e a migliorare la qualità di vita delle donne che si sottopongono a questa procedura medica; d’altro canto stiamo dicendo che un algoritmo di machine learning potrebbe determinare il DNA della prossima generazione degli umani».
Un altro caso concreto di utilizzo dell’intelligenza artificiale è quello sviluppato da Babylon Health, un fornitore di servizi sanitari in abbonamento operativo. Grazie a un’app, il paziente può accedere al servizio 7 giorni su 7, 24 ore al giorno. Dopo aver risposto ad alcune domande sulla sua app, l’utente viene messo in comunicazione con un medico delocalizzato che redigerà una diagnosi guidato da una serie di domande prodotte da un’intelligenza artificiale.
Con la digitalizzazione, cmmenta Benanti: «si pone il problema della gestione dei problemi legati alla sicurezza, alla profilazione dell’utente: i dati sono di proprietà della persona, della struttura? Possono essere utilizzati per l’equivalente di quello che possiamo definire dei trial clinici, dove sappiamo che la storia recente ci parla di un consenso informato dettagliato, oppure possiamo considerarli patrimonio dell’umanità per il miglioramento della prassi clinica? È evidente che ci troviamo di fronte a un’innovazione tecnologica radicale che non è né apocalittica né ottimistica ma che ha bisogno di una decodifica multi-stakeholder che soppesi da una parte i benefici e dall’altra i valori etici in gioco e la struttura sociale».
Rapporto medico-paziente a rischio?
Il rapporto speciale che da sempre caratterizza la relazione tra il medico e il paziente con la digitalizzazione sembra essere a una svolta, a seguito di una tendenza di accesso al paziente, alla sua condizione medica, particolarmente datificata.
«Si tratta di un’evoluzione non sottovalutabile che rischia di trasformare la medicina», ammette Benanti. «Se, da un lato, la può implementare – pensiamo, per esempio, alla telemedicina – dall’altro non dimentichiamo che la medicina si fonda su una relazione specifica tra un medico e un paziente. Tra medico e paziente vi è, in quella medicina che si datifica, un ulteriore agente, che non è più semplicemente l’azienda sanitaria o il provider dei servizi, non è solo il medico, bensì l’algoritmo che, grazie alla sua capacità di machine learning, è capace di fattori di predizione. Quando però non si applica semplicemente, per esempio, a un motore di una pompa di un infusore, ma ai dati che caratterizzano la persona, gli studi ci dicono che l’algoritmo non è semplicemente in grado di predire un risultato ma può anche produrlo, cioè può spingere la persona ad assumere quella posizione medica della gaussiana rispetto alla quale l’algoritmo calcola gli estremi, li esclude e tiene nel mezzo. Questo fattore di produzione del risultato da parte dell’algoritmo chiede un intervento radicale sull’algoritmo, se l’algoritmo è un dispositivo medico e produce un outcome particolare deve essere sottoposto a una serie di verifiche. Qual è l’effetto dell’introduzione di questa soluzione algoritmica nell’outcome dei pazienti, nella gestione dei pazienti? L’etica chiede che si aprano spazi dove questo confronto possa avvenire, dove la discussione non riguardi semplicemente l’efficacia o l’economicità terapeutica ma anche la mediazione di valori morali».
Digitalizzazione, una questione anche sociale
Se, grazie soprattutto alle tecniche più avanzate (neural DSP, deep learning, modelli statistici), la correttezza di previsione raggiunge livelli molto alti, anche superiori al 93%, di fatto non è possibile spiegare il risultato.
«Quello a cui noi rinunciamo, utilizzando gli algoritmi, è la spiegabilità», continua Benanti. «Mancano i criteri che stanno sostenendo il processo di decisione medica. Dobbiamo quindi chiederci che cosa e quanto algoritmi con queste caratteristiche possano surrogare nel processo di decisione medica. È evidente che un algoritmo che in un attimo possa metabolizzare tutti i paper che riguardano gli studi di alcune forme di neoplasia e associare allo studio più efficace un determinato paziente, è un enhancement enorme per il medico, diverso è il caso però in cui un algoritmo si sostituisce al medico nel momento in cui deve espletare un’azione o una diagnosi. Dobbiamo capire se l’assenza di spiegabilità o la poca spiegabilità dell’algoritmo lo rendono applicabile ai criteri di protezione della persona stessa utilizzati in ambito medico. Il potere tecnologico di questo tipo di strumento richiede nuove forme epistemologiche che accompagnino questa rinnovata medicina. Ancora: questi strumenti vengono offerti sotto forma di platform dei livelli o layer abilitanti che sono proprietà di grandi gruppi. Per una sanità che vuole essere anche pubblica si crea una tensione tra quello che significa essere utenti su una platform e cittadini. La questione non è solo più individuale (fa bene? fa male? Rischio/non rischio?), ma diventa anche una questione sociale, che apre una serie di sfide che chiedono di essere vissute».
Modelli di sviluppo fra mercato e stato
Come possono essere vissute queste sfide con la digitalizzazione? «La complessità dell’argomento è tale per cui non esiste un decisore politico in grado di comprendere tutte le sfide in atto», risponde Benanti. «Si apre quindi un altro modello, quello della governance, dove le componenti con diverse competenze si trovano attorno a un tavolo per discutere quali sono gli scenari in atto».
Quali sono i modelli di governance esistenti rispetto all’innovazione della digitalizzazione? «Esiste senz’altro un modello americano che potremmo definire market driven, dove una serie di startup stanno lanciando sul mercato soluzioni anche molto innovative dove, secondo il modello winner takes it all, la soluzione più innovativa prenderà il mercato», conclude Benanti. «Non so se il nostro sistema sociale può essere gestito con un modello di sviluppo che è una modello di aggressione rispetto alla marginalità possibile di guadagno sulle singole soluzioni. C’è poi il modello cinese state driven, dove è lo Stato a dare delle linee verticali puntando a ottimizzare il sistema indipendentemente dal singolo individuo. Un terzo modello, che potremmo definire europeo, parla di regolamentare con al centro la dignità della persona, il diritto da parte del paziente di soluzioni che siano explainable, dove la macchina non può semplicemente dare un risultato ma deve mettere tanto il professionista quanto il paziente in grado di effettuare un processo di comprensione del risultato della macchina. Affinché l’innovazione tecnologica in medicina sia consonante con i valori etici, espressi già nel giuramento di Ippocrate, che caratterizzano la medicina, sarà fondamentale interrogarci su quale potrà essere il modello di sviluppo da pensare».
