Il punto di vista di Andrea Cavalloni, partner di 42 Law Firm, sulle implicazioni del decalogo del Garante Privacy sull’uso dell’IA nel settore sanitrio.
Negli ultimi mesi si è molto parlato dell’utilizzo dell’Intelligenza Artificiale in ambito sanitario e alle possibili implicazioni ed impatti che tale utilizzo avrebbe avuto sul sistema sanitario nazionale.
Sul punto l’Autorità Garante sulla privacy italiana ha voluto recentemente pubblicare un “Decalogo per la realizzazione di servizi sanitari nazionali attraverso sistemi di Intelligenza Artificiale”, cercando di riportare il tema del trattamento dei dati sanitari al centro dell’attenzione di chi intende sviluppare servizi sanitari.
Certamente la pubblicazione di questo decalogo costituisce un punto di svolta nel rapporto tra IA e i trattamenti sanitari e i dieci principi fondamentali richiamati dall’Autorità Garante avranno un impatto significativo sugli operatori che intendono sviluppare servizi basati sulla Intelligenza Artificiale.
Preliminarmente e al fine di organizzare qualsivoglia servizio del sistema sanitario nazionale basato sull’utilizzo della IA, gli operatori dovranno comprendere e applicare i principi del decalogo. Questi includono il rispetto delle basi giuridiche, i ruoli, la trasparenza, l’accountability, la sicurezza, la non discriminazione, la qualità dei dati, l’innovazione, la supervisione e ultima, ma non certo ultima per importanza, la tutela dei diritti fondamentali. Sarà quindi necessario per gli operatori sviluppare politiche e procedure che rispettino i suindicati principi come meglio esplicitati nel decalogo.
Ad esempio, guardando al principio di trasparenza, gli operatori dovranno utilizzare diverse forme di informazioni. Tali forme includono la divulgazione delle informazioni relative all’uso della IA e del funzionamento della stessa nel servizio sanitario erogato, con relativi rischi associati. Inoltre, sarà necessario per gli operatori garantire che le informazioni erogate agli interessati siano facilmente accessibili e comprensibili a tutti. Quest’ultimo caso può essere tutt’altro che scontato considerando la complessità di questa tecnologia e il variegato livello culturale dei pazienti che si rivolgono al servizio sanitario nazionale.
In generale i punti del decalogo espressi nel documento della Autorità Garante, se pur principi generali non certo estranei a chi si occupa di privacy, messi a terra potrebbero nascondere insidie e complessità tutt’altro che sottovalutabili.
Scongiurare i rischi di potenziali discriminazioni algoritmiche ed evitare che l’IA utilizzata per l’erogazione dei servizi sanitari produca risultati ingiustamente pregiudizievoli o svantaggiosi basati su caratteristiche come ad esempio razza, età, religione, orientamento sessuale è tutt’altro che banale. A tal fine si renderà necessario prevedere che fin dalla fase di progettazione e addestramento della IA l’uomo utilizzi dati non bilanciati e scevri da pregiudizi esistenti e che l’algoritmo sia progettato già tenendo conto delle differenze tra gruppi di persone, onde evitare di fornire risultati ingiustamente svantaggiosi per alcuni gruppi di persone.
Supervisionare i processi basati sulla IA richiederà agli operatori nuove competenze che includono competenze tecniche, come la comprensione del funzionamento della IA, ma congiuntamente a competenze legali, come la conoscenza della legge sulla privacy e dei diritti del paziente, senza sottovalutare la necessità di competenze etiche per garantire che l’uso della IA rispetti i principi del decalogo.
Il quesito principale che il documento del Garante della Privacy ha sollevato è su quanto questo decalogo impatterà sullo sviluppo della IA nei servizi sanitari, anche in considerazione degli oneri più generali previsti con IA Act (attualmente alle fasi conclusive dell’iter di approvazione della Unione Europea).
Certamente il decalogo può essere visto come un freno alla diffusione dei trattamenti sanitari basati su IA. Tuttavia, considerando la delicatezza dei dati sanitari e la vastità degli interessati coinvolti, se si parla di sistema sanitario nazionale, era necessario che l’Autorità Garante in materia di privacy evidenziasse le criticità per garantire un utilizzo consapevole e responsabile dell’IA nel settore sanitario. Infatti, l’Intelligenza Artificiale ha il potenziale per migliorare decisamente i trattamenti sanitari, ma presenta dei rischi significativi, come la violazione della privacy e la discriminazione.
Di contro, per quanto possano essere posti giusti oneri normativi ed etici nello sviluppo di servizi sanitari che utilizzino IA, non si può non evidenziare come vi sia consapevolezza a livello istituzionale che l’IA applicata nei servizi erogati dal servizio sanitario nazionale possa avere un ruolo determinante nel combattere attuali piaghe di tale sistema, come la cronica (e in via peggiorativa nel breve/medio termine) carenza del personale sanitario e l’allungarsi delle liste di attesa.
Diagnostica per immagini, predizione e prevenzione delle malattie, personalizzazione dei trattamenti sanitari, monitoraggio dei pazienti e assistenza virtuale di questi ultimi sono solo alcuni dei servizi sanitari in cui l’IA mostra le potenzialità per rivoluzionare il settore sanitario, ma certamente tale rivoluzione non può non prendere in considerazione le grandi complessità collegate al trattamento dei dati sanitari di un intero sistema sanitario nazionale.
In conclusione possiamo definire questo documento come un importante passo avanti nella regolamentazione dell’uso della IA nel settore sanitario. I principi e gli oneri affermati dall’Autorità Garante sono necessari per garantire che IA sia sviluppata e utilizzata in modo sicuro ed etico in un ambito così importante e sensibile come quello del settore sanitario. Certamente gli oneri sollevati nel decalogo possono essere un rallentamento nello sviluppo della IA nei servizi sanitari e questo potrebbe anche spingere alcuni operatori del settore a valutare strade alternative, come l’utilizzo dei dati sintetici per l’addestramento della IA.
