AI e medicina: la visione di Giorgia Zunino – direttrice scientifica della Fondazione Hedux – per una Sanità co-evolutiva e trasparente

L’Intelligenza Artificiale è affascinante e suggestiva, ma spaventa anche molto. Soprattutto laddove è maggiore il peso della regolamentazione, come ad esempio nella Sanità. Un ambito in cui i professionisti non hanno una piena consapevolezza della tecnologia e delle sue potenzialità e fanno già una certa resistenza. Ne parliamo con Giorgia Zunino, tra i maggiori esperti italiani di AI.

L’AI offre molti vantaggi ma è un ambiente tecnologico ampio e oscuro che crea anche molti timori tra gli operatori, inclusi i medici. Non c’è il rischio di tornare al passato, a fare le cose a “manina santa” anziché progredire?

Il rischio c’è, eccome. Bisogna però fare una distinzione quando si parla di Sanità, tra ciò che è clinica, politiche della salute e ricerca; di quest’ultima esistono varie tipologie e livelli nei quali l’AI è già fortemente implicata. Il grande «sistema salute» vede inoltre coinvolti molti mondi non prettamente sanitari che si integrano per far funzionare una macchina molto complessa, fatta di interazioni tra funzioni diverse, compresa la telemedicina, l’assistenza domiciliare, l’emergenza e molte altre. Stiamo dunque parlando di un mondo molto eterogeneo e interconnesso con altre realtà diversamente interessate dalle nuove tecnologie.

Ed è quindi sbagliato confinare la Sanità nella prospettiva della semplice cartella clinica, secondo una visione monoculare e ormai stantia. Insistere nel pensare la sanità come un affare clinico significa limitare infatti la capacità di previsione, prevenzione e adattamento dell’intero apparato, che è davvero molto più vasto. Sarebbe dunque preferibile parlare di Salute, cioè un sistema in cui confluiscono tutti i dati distribuiti, che vanno dal clima all’ossigenazione notturna raccolta da un sensore da polso, per fare un esempio, e che passano per i modelli predittivi multimodali, capaci di mettere in relazione dati apparentemente eterogenei, e per l’intelligenza ambientale, urbana e individuale.

Serve perciò un’AI sistemica, una visione multi-layered, che sappia correlare fonti, dominî e sensibilità differenti, e che può includere come mai prima d’ora la partecipazione del paziente e dei cittadini. In sintesi, una sanità monoculare non vede le relazioni. Una sanità sistemica, invece, impara a leggere il contesto più ampio e a generare risposte adattive. Per tornare dunque alla domanda, occorre sottolineare che, quando manca una visione sistemica e si inseriscono strumenti così intelligenti in contesti ancora analogici per culture, processi e governance, è facile che l’AI venga vissuta come un corpo estraneo. E in questi casi la reazione più ovvia e naturale è tornare a pratiche già note.

Per evitare questo, occorre lavorare su due fronti: da un lato la formazione continua, ma non come addestramento tecnico bensì come alfabetizzazione strategica, sistemica, narrativa. Dall’altro, serve osmotizzare l’AI, cioè introdurla in modo osmotico e integrarla in workflow esistenti nei quali possa dimostrare di migliorare in modo trasparente la qualità, l’efficienza e la sicurezza. È questa la prospettiva dello Human-in-the-loop e dell’Explainable AI, cioè la cosiddetta intelligenza artificiale spiegabile o XAI, una disciplina emergente nell'ambito degli algoritmi di livello superiore, il cui obiettivo è fare chiarezza in merito a quanto succede nella black box dei dati e degli algoritmi che elaborano modelli di intelligenza artificiale. Solo così si costruisce fiducia. Non imponendo la tecnologia, ma rendendola comprensibile, auditabile, coevolutiva.

E non c’è anche il rischio che l’AI venga percepita, soprattutto dai medici, come una soluzione che potrebbe non essere necessaria o adatta al contesto? Insomma, che ai loro occhi manchino obiettivi chiari, efficaci e misurabili, considerandola alla fine una semplice promessa o, al peggio, una “soluzione in cerca di problemi”?

Sì, e questo è forse il vero punto debole del dibattito sull’AI in questo campo. Troppo spesso si presenta la tecnologia come una novità senza ancorarla ai bisogni reali dei clinici o dei pazienti. Il risultato? Diffidenza, disinteresse o delega passiva, complicazioni eccessive con la finalità di integrare, spesso male, vecchi software funzionali con i nuovi sistemi. Questo fenomeno si chiama «debito tecnologico» e rappresenta un problema a cui si ovvia solitamente mettendo una pezza che è spesso peggiore del buco. Stiamo allora parlando della possibilità di introdurre virtuose tecnologie di tipo generativo, con un’usabilità profilata sull’utente medico, tecnico, infermiere o operatore sanitario, in grado quindi di facilitare l’operatività e semplificarla. Tecnologie che assistono invece di strumenti a cui si deve soltanto provvedere meccanicamente.

Oggi, in una fetta sempre più consistente del tempo impiegato in ambulatorio, in corsia e al Pronto Soccorso, i medici e gli infermieri non guardano il paziente: guardano uno schermo. Un dato pubblicato su Jama Internal Medicine (2022) mostra che oltre il 30% del tempo di un medico viene mediamente assorbito da attività amministrative, e di questa percentuale gran parte è dedicata alla compilazione della cartella clinica elettronica, all’inserimento di dati, spesso su database diversi e non federati, oltre a essere in forma di estrema sintesi postvisita. Questo provoca riduzioni dei tempi dedicati al paziente e prolungamenti nelle attese nei Pronto Soccorso, che in epoca emergenziale e carenza di addetti vengono spesso coperte dai cosiddetti gettonisti, a cui i software in uso in strutture sempre diverse, sono spesso poco noti. È un fenomeno conosciuto e trasversale, che ha contribuito all’aumento del burnout, al calo di motivazione e, più in profondità, a una tragica frattura del patto di fiducia tra medico e paziente.

Il tempo clinico si è deformato. A ogni visita, il medico alterna il contatto con la persona e il dialogo forzato con il software. Le infermiere, nei reparti, tracciano dati vitali su piattaforme multiple, spesso con passaggi duplicati. E le nuove figure, recentemente ricercate, come i cosiddetti data manager, che dovrebbero occuparsi di qualità dei dati e monitoraggio e semplificazione, sono in realtà addetti al data entry sistematico. Liberare tempo amministrativo non è un dettaglio tecnico, è un atto politico e clinico insieme. Significa tornare a guardare il paziente negli occhi, costruire una medicina fatta di ascolto. E i medici, mi creda, non chiedono altro.

Crede che l’impiego della blockchain nel settore sanitario possa risolvere una parte dei rischi normativi relativi alla privacy del paziente o è solo una panacea buona per tutti i mali, sbandierata dalle aziende solo per vendere soluzioni tecnologiche a ospedali, medici e assicurazioni? Qual è lo stato dell’arte all’estero e quali problemi ha fatto emergere il token autorizzativo personale?

La blockchain non è certo la bacchetta magica, ma può risolvere alcuni problemi se usata bene. In particolare sul fronte della tracciabilità delle autorizzazioni, della immutabilità dei consensi, e della possibilità di sviluppare meccanismi di accesso granulari ai dati sanitari, grazie a smart contract e token autorizzativi. Ci sono esperienze interessanti in Canada e in Svizzera, dove si stanno testando modelli di “self-sovereign identity” per il controllo dei dati da parte del paziente. In Italia nella Sanità pubblica il dato è un aspetto puramente ammnistrativo in risposta alle continue richieste di organismi sovraordinati, vale a dire Regioni e Ministeri, e non è governato. Per cui spesso si sviluppa la tipica dinamica “nuovo dirigente, nuova norma”, con invio di dati “a perdere”, statici e non aggiornati real time, oltre a non essere strutturati per generare valore tramite algoritmi predittivi, ad esempio, ma solo per creare ulteriore informazione non correlata.

Ma è altrettanto vero che, in alcuni ambiti precisi, la blockchain può rappresentare un elemento strutturale di garanzia e qualità. Uno di questi ambiti è la tracciabilità dei campioni biologici, come i tessuti destinati a esami istologici o a ricerca traslazionale. Oggi la qualità del dato biologico è il vero punto critico. Se un campione non ha seguito un percorso adeguato, documentato e riproducibile, cioè dalla raccolta alla conservazione, dal trasporto alla manipolazione in laboratorio, ogni analisi successiva, anche la più sofisticata, rischia di basarsi su una premessa fallace. La ripetibilità dei risultati, la validazione scientifica e l’affidabilità dell’intelligenza artificiale dipendono da questo, dalla qualità del dato di partenza e dalla sua aderenza a protocolli standard. Non c’è AI che tenga senza un’infrastruttura di dati certificabili.

In questo contesto la blockchain diventa un mezzo per registrare in modo immutabile ogni passaggio critico. Grazie a sensori IoT ambientali e sistemi di logging distribuiti è possibile tracciare il momento del prelievo, le condizioni di temperatura, il tempo trascorso, il tipo di contenitore utilizzato e persino i passaggi fisici nei vari ambienti del laboratorio. Ogni step può essere ancorato a un blocco, e quindi non modificabile ex post, garantendo trasparenza e accountability. Alcune sperimentazioni attive nel settore farmaceutico, nell’ambito Gmp – Good manifacture practice, utilizzata per garantire la qualità di tessuti trapiantabili, hanno già dimostrato come quest’approccio possa ridurre gli errori, limitare la contraffazione e garantire la conformità ai protocolli. Sul piano internazionale si sta sperimentando l’uso di token autorizzativi legati al controllo del dato da parte del paziente, specialmente nei modelli di self-sovereign identity. Ma qui emergono limiti ancora aperti come la gestione della revoca, la perdita del token, la compatibilità con normative come il Gdpr, che richiedono il diritto alla cancellazione. Serve un’infrastruttura giuridica e tecnica più matura.

Vogliamo parlare anche dello scetticismo dei cittadini comuni, che forse interpretano la novità della blockchain come una semplice moda tecnologica?

La blockchain non è certo una moda, ma uno strumento tecnico con un ambito di applicazione molto preciso: garantire che un dato, soprattutto biologico, sia affidabile, tracciabile, conforme. In un mondo in cui la medicina dipende sempre più da sistemi complessi e integrati, la tracciabilità del dato alla fonte è ciò che dà valore reale a ogni algoritmo. La blockchain può essere, se usata con criterio, uno degli strumenti fondamentali per realizzare questa affidabilità.

Vorrei portare l’attenzione su un tema che ritengo cruciale per il futuro della sanità e della ricerca, cioè la necessità di superare la centralizzazione delle piattaforme dati, oggi spesso nelle mani di grandi organizzazioni private o governi, e di riconoscere finalmente il dato sanitario per ciò che è, un bene immateriale che appartiene alla persona. È una questione non solo tecnica, ma anche etica e politica. Basti immaginare che cosa significherebbe, in un regime autoritario, non avere controllo sui propri dati clinici per comprenderne la portata.

Eppure la sfiducia nelle istituzioni oggi è uno dei grandi pericoli per l’innovazione, soprattutto in ambito medico. Oggi il Fse – Fascicolo sanitario elettronico – che insieme all’European Health Data Space (Ehds) è nato per fornire un sistema di condivisione e accesso ai dati sanitari dei cittadini, è gestito da più organizzazioni e, a parte le autorizzazioni all’uso dei dati, per la maggior parte è stato ostacolato in partenza dagli stessi pazienti, a riprova della mancanza di fiducia nelle istituzioni. Ne è un esempio il report della Fondazione Gimbe il quale indica che solo il 42% dei cittadini ha aderito con il proprio consenso.

E come si interviene?

Ci vogliono soluzioni maggiormente trasparenti ed eque. Per troppo tempo il dato sanitario è stato trattato come una risorsa “estratta”, aggregata e gestita da grandi strutture pubbliche o private che ne detengono il controllo e spesso anche il valore economico, senza un reale coinvolgimento del soggetto da cui quei dati originano. Oggi le tecnologie come la blockchain, abbinate ai modelli di Self-Sovereign Identity, ci permettono di immaginare un’infrastruttura radicalmente diversa, cioè distribuita, tracciabile e trasparente. Un sistema in cui il paziente non è un fornitore passivo di dati, ma un attore consapevole, capace di stabilire come e da chi le proprie informazioni vengono utilizzate.

In questo modello il dato non è solo “proprietà” ma diritto d’uso, di condivisione, di valore. E questa trasformazione ha una ricaduta concreta, perché potrebbe diventare uno dei motori più potenti per il coinvolgimento delle persone nella ricerca clinica e nei trial, soprattutto se accompagnata da meccanismi di riconoscimento, non solo economico, ma civico, etico e trasparente.

In un mondo in cui la fiducia nei sistemi istituzionali è fragile, costruire modelli in cui il valore generato dalla ricerca venga distribuito, anche simbolicamente, può contribuire a rinsaldare quel patto di collaborazione tra cittadini, scienza e sanità. La blockchain, in questo senso, non è solo un’infrastruttura tecnica, ma una tecnologia culturale, poiché naviga in un mondo condiviso nel quale non esistono padroni dei dati ma custodi, e dove l’arricchimento non è più a vantaggio di pochi ma può diventare, finalmente, un bene comune generativo. È la vera rivoluzione del Web 3.0.

Come si fa a coinvolgere i medici, primattori di questa grande rivoluzione in Sanità, e farli diventare gli abilitatori di una medicina innovativa e guidata dai dati?

Smettiamo di pensare che serva solo formazione e iniziamo a parlare di design delle condizioni abilitanti. I medici non devono diventare tecnologi, ma devono poter contare su strumenti che parlano la loro lingua e risolvono problemi reali. Distinguiamo ricerca e clinica dai sistemi organizzativi, l’uso delle AI anche di algoritmi di primo livello è piuttosto diffuso a partire dai sistemi di analisi, con una timida apertura ai nuovi sistemi generativi, utilizzando piattaforme appositamente create per facilitare la ricerca di paper tra milioni di dati e poter avere un supporto adeguato per operare un confronto che sarebbe impossibile per la mente umana, vale a dire una “Piattaforma”. Oppure per decriptare il linguaggio e la struttura delle proteine o la cosiddetta “fragmentation” dei campioni tissutali o citologici, applicati all’interpretazione dei dati da sistemi ottici, avanzati, ad esempio.

Qui le direzioni scientifiche degli istituti di ricerca sono chiamate a fornire strumenti di valutazione del rischio per assistere il clinico in ricerca e anche il ricercatore di base, oggi a parte qualche timida azione per le limitazioni delle frodi, la trasparenza nell’uso di questi strumenti in ricerca, si verifica quello che è l’approccio precauzionale da parte degli amministrativi e dei tecnici preposti con un bias negativo che impedisce o limita l’uso di questi strumenti o sortisce l’effetto contrario di uso senza alcuna consapevolezza e preventiva valutazione.

Coinvolgerli significa costruire “use case codefiniti”, inserirli nei percorsi di validazione clinica, dar loro accesso a dashboard trasparenti e interoperabili. Ma soprattutto significa cambiare l’organizzazione. Vale a dire che se i tempi sono sempre troppo stretti, se non c’è tempo per esplorare nuove soluzioni, se la logica è ancora quella prestazionale, non c’è spazio per l’innovazione.

Bisogna quindi introdurre una nuova cultura organizzativa, in cui i dati siano un bene comune operativo, un vero asset immateriale, trattarlo come aumento o perdita di valore e poter definire il valore generato, e non un semplice archivio da alimentare.

I dati da soli non dicono nulla ma danno informazioni a chi li sa leggere generando valore per chi li sa usare. Ciò migliora la gestione dei tempi, le previsioni delle criticità e molte altre cose che si traducono non solo in denaro risparmiato ma tempo di qualità dedicato alla cura. Senza contare il grande risparmio economico derivante dalle minor attività di documentazione manuale e la conseguente possibilità di recuperare un’intera giornata clinica a settimana grazie alla riduzione delle liste d’attesa.