L’Intelligenza Artificiale in Medicina: opportunità rivoluzionarie, dilemmi etici e dubbi di sostenibilità del SSN. Sapremo coglierle e governarle?
Non stiamo vivendo semplicemente un’epoca di rapidi mutamenti tecnologici, ma un autentico cambiamento d’epoca, capace di incidere in profondità sulle categorie attraverso cui l’uomo interpreta sé stesso, la società e la tecnica. Questa espressione, frequentemente utilizzata da Papa Francesco, appare particolarmente adeguata anche a descrivere l’ingresso dell’Intelligenza Artificiale (AI) in medicina. La sanità, infatti, è uno spazio di relazione, vulnerabilità e responsabilità, ove si intrecciano scienza, etica e giustizia sociale.
Le tecnologie dell’informazione e della comunicazione hanno assunto progressivamente un ruolo sempre più determinante di forze ambientali, in grado di modellare comportamenti, decisioni e strutture istituzionali. In questo scenario, l’impatto dell’AI sul Servizio Sanitario Nazionale italiano (SSN) non è una semplice innovazione, bensì è, e sarà, un fattore di trasformazione sistemica. In particolare, la questione non riguarda la superiorità computazionale degli algoritmi, ma la direzione del loro impiego: l’AI sarà utilizzata come un moltiplicatore di sostenibilità, equità e qualità delle cure, oppure favorirà modelli organizzativi e di business incompatibili con il rispetto della persona umana e con i principi, anche costituzionali, del SSN?
Il SSN tra crisi e opportunità
Qualsiasi riflessione sull’introduzione dell’AI in sanità non può prescindere dalla valutazione dello stato di salute del SSN italiano, che si trova oggi ad affrontare una crisi strutturale, determinata da fattori demografici, economici e organizzativi che ne mettono a rischio la sostenibilità nel medio-lungo periodo. L’invecchiamento della popolazione, l’aumento delle patologie croniche e la crescita della domanda di prestazioni sanitarie si intrecciano con anni di sottofinanziamento e con una scarsa valorizzazione del capitale umano presente nelle strutture di cura.
Uno degli indicatori più critici è rappresentato dalla carenza di personale sanitario. Secondo alcuni studi, mancano oltre 10.000 professionisti tra medici e operatori sanitari. A questa carenza si affiancano fenomeni ormai strutturali come l’allungamento delle liste d’attesa e il crescente ricorso alla sanità privata da parte dei cittadini, con evidenti ricadute sul principio di equità.
Il quadro è ulteriormente aggravato dal persistente divario territoriale. I dati mostrano come l’Italia presenti differenze significative tra Nord e Sud in termini di accesso alle cure, qualità dei servizi e livelli di spesa sanitaria pro capite.
In questo contesto di crisi, l’AI viene spesso presentata come una soluzione quasi salvifica, capace di compensare la carenza di risorse umane e finanziarie, attraverso l’automazione dei processi e l’ottimizzazione delle attività clinico e amministrative. Effettivamente, l’uso di sistemi di supporto decisionale, di triage automatizzato o di analisi predittiva dei flussi può contribuire a una gestione più efficiente delle risorse.
Tuttavia, proprio in un sistema sottofinanziato, il rischio è che l’AI venga utilizzata come sostituto del lavoro umano e non complementare a questo. Il Rapporto sulla sostenibilità del SSN della Fondazione GIMBE ha più volte messo in guardia contro soluzioni tecnologiche adottate in chiave emergenziale, che rischiano di mascherare problemi strutturali anziché risolverli.
La vera opportunità, dunque, risiede nell’uso dell’AI integrata, responsabilmente, all’interno di una strategia di rilancio del SSN.
Serve un’ingegneria della fiducia basata sull’algoretica
L’opportunità sopra descritta trova una giustificazione concreta nei risultati già ottenuti in specifici contesti clinici. In particolare, l’AI ha dimostrato un potenziale significativo nei settori ad alta intensità di dati, come l’imaging diagnostico, dove l’elaborazione di grandi volumi di informazioni visive supera le capacità umane in termini di velocità e scalabilità.
Esempio, tra tanti, è rappresentato dai sistemi di screening per la retinopatia diabetica. Tali algoritmi, addestrati su decine di migliaia di immagini del fondo oculare, hanno raggiunto livelli di accuratezza comparabili a quelli di oftalmologi esperti, consentendo l’identificazione precoce di una patologia che rappresenta una delle principali cause di cecità prevenibile nei paesi industrializzati. Risultati analoghi emergono in ambito radiologico. Uno studio ha analizzato l’impiego di algoritmi di deep learning per lo screening del cancro al seno, confrontandone le performance con quelle dei radiologi umani. I risultati hanno mostrato una riduzione dei falsi positivi oltre a una diminuzione dei falsi negativi.
A fronte della crescente affidabilità tecnica degli algoritmi, vi è il rischio di generare una delega implicita del giudizio clinico, soprattutto in contesti organizzativi caratterizzati da pressione sui tempi di refertazione, carenza di personale e aumento della domanda di prestazioni. È in questo spazio che si manifesta il rischio del deskilling, come sostenuto anche da Federico Cabitza, ovvero la progressiva erosione delle competenze critiche del medico che si affida in modo acritico all’output algoritmico.
La risposta a tale rischio non può essere il rifiuto della tecnologia. È proprio qui che l’ingegneria deve incontrare l’etica, dando forma a quella che Paolo Benanti definisce algoretica: l’esigenza di integrare i principi morali direttamente nell’architettura dei sistemi, secondo il paradigma dell’ethics by design. Da questo connubio, e non dal “divorzio” di cui parla Floridi, prende forma l’idea di una vera e propria ingegneria della fiducia.
In questo processo di creazione di fiducia reale, rientra anche la validazione clinica. Infatti molti algoritmi di AI medicale mostrano performance eccellenti in studi retrospettivi o su dataset controllati, ma faticano a superare la prova dell’applicazione nel mondo reale. L’adozione dell’AI deve quindi essere accompagnata da processi strutturati di validazione clinica, monitoraggio continuo delle performance e rivalutazione periodica degli algoritmi. Senza tali garanzie, il rischio è quello di introdurre nel sistema sanitario tecnologie apparentemente avanzate, ma incapaci di generare benefici reali e duraturi per i pazienti.
In questo senso, la fiducia non è un attributo intrinseco dell’algoritmo, bensì il risultato di un processo ingegneristico fatto di progettazione responsabile, governance dei dati, validazione clinica e supervisione umana.
Bias, equità, rischio di esclusione e allucinazioni
Se la fiducia, e di conseguenza la sicurezza, rappresentano una condizione necessaria, non è tuttavia sufficiente a garantire l’equità dell’AI in medicina. Gli algoritmi non sono neutrali: essi apprendono dai dati storici e, di conseguenza, tendono a riprodurre e amplificare le disuguaglianze esistenti nei dataset di addestramento, come dimostrato da vari studi.
Per il contesto italiano, in particolare, il pericolo è rappresentato dall’importazione acritica di modelli sviluppati in sistemi sanitari orientati al profitto, che potrebbero compromettere i principi di universalità ed equità, sanciti dall’articolo 32 della Costituzione su cui si fonda il SSN.
Ne consegue che occorre una data governance che garantisca la qualità, la rappresentatività e la contestualizzazione dei dati. Senza un’attenta progettazione dei dataset di addestramento, esiste il rischio concreto che alcune categorie di pazienti – anziani, donne, soggetti fragili o minoranze – diventino “pazienti fantasma”, invisibili agli occhi dell’algoritmo e, di conseguenza, del sistema sanitario.
Accanto al rischio dei bias, l’adozione dell’AI in sanità solleva la questione del digital divide e delle sue ricadute sull’equità di accesso alle cure. Le soluzioni di AI più sofisticate richiedono infrastrutture tecnologiche adeguate, competenze specialistiche e investimenti continui in manutenzione e aggiornamento. Ospedali periferici, presidi delle aree rurali e strutture sanitarie delle regioni più svantaggiate potrebbero non disporre delle risorse necessarie per implementare questi sistemi. Il risultato potrebbe essere una sanità “a due velocità”, in cui i centri ad alta specializzazione beneficiano di strumenti diagnostici e predittivi sempre più accurati, mentre le strutture meno dotate rimangono escluse dall’innovazione, con un impatto diretto sulla qualità delle cure offerte ai cittadini.
Un ulteriore livello di criticità riguarda i pazienti. L’espansione di modelli di telemedicina e di percorsi di cura AI-assisted presuppone un certo grado di alfabetizzazione digitale, accesso a dispositivi tecnologici e familiarità con strumenti digitali. Pazienti anziani, persone con basso livello di istruzione o soggetti in condizioni di fragilità socio-economica potrebbero incontrare difficoltà significative. Quindi l’adozione dell’AI in sanità deve essere accompagnata da politiche di investimento infrastrutturale, formazione e supporto ai pazienti, con particolare attenzione alle aree e alle popolazioni più vulnerabili.
Un’ulteriore criticità è che questi modelli, basati su correlazioni statistiche, non possiedono una nozione intrinseca di verità e possono generare informazioni plausibili ma errate. In ambito medico, tale caratteristica può tradursi in conseguenze gravi, come la produzione di riferimenti a protocolli inesistenti o l’interpretazione distorta di dati clinici. Occorre adottare soluzioni tecniche, come le architetture Retrieval Augmented Generation (RAG), che mirino a vincolare l’output del modello a fonti certificate, riducendo il rischio di invenzione. Tuttavia, la mitigazione del rischio non può essere affidata esclusivamente alla tecnologia. Per questo l’Unione Europea, con l’AI Act, ha ribadito che la responsabilità giuridica e deontologica non è delegabile all’algoritmo. La decisione clinica resta in capo al professionista sanitario, unico soggetto in grado di esercitare quella phronesis aristotelica che consente di interpretare il dato alla luce della complessità della persona.
L’impatto sui professionisti sanitari
Per quanto appena detto, l’introduzione dell’AI in ambito sanitario modifica in modo profondo il lavoro quotidiano dei professionisti della salute. Comprendere questo impatto è essenziale per valutare la sostenibilità complessiva dell’AI in sanità, poiché nessuna innovazione tecnologica può produrre benefici duraturi se entra in conflitto con le competenze, le responsabilità e l’identità professionale di chi è chiamato a utilizzarla.
Accanto al rischio di deskilling, già richiamato in precedenza, esistono significative opportunità di upskilling, ovvero di arricchimento del ruolo professionale. L’AI può contribuire a “restituire umanità” alla medicina proprio liberando tempo ed energie cognitive dalle attività più ripetitive e burocratiche. L’automazione della lettura preliminare degli esami, della compilazione documentale o della ricerca di pattern nei dati clinici può consentire ai professionisti di concentrarsi maggiormente sulla relazione di cura, sull’ascolto del paziente e sulle decisioni complesse che richiedono esperienza e discernimento.
Affinché questo si realizzi, è indispensabile investire in formazione continua e in quella che viene sempre più spesso definita AI literacy. I professionisti sanitari non devono diventare programmatori, ma devono essere messi nelle condizioni di comprendere i principi di funzionamento degli algoritmi, i loro limiti, le fonti di errore e le condizioni di validità clinica.
Accanto alla dimensione formativa, assumono un ruolo centrale i fattori organizzativi. L’adozione dell’AI in sanità avviene all’interno di strutture complesse, caratterizzate da vincoli di tempo, carichi di lavoro elevati e culture professionali consolidate. La resistenza al cambiamento può essere valutata come una risposta razionale a tecnologie introdotte senza un adeguato coinvolgimento degli operatori o senza una chiara dimostrazione del valore aggiunto per la pratica clinica.
In questa prospettiva, l’impatto dell’AI sui professionisti sanitari diventa un indicatore cruciale di sostenibilità.
Un’implementazione sostenibile
Alla luce delle criticità e delle opportunità analizzate, emerge con chiarezza che l’adozione dell’AI in ambito sanitario non può essere lasciata a dinamiche spontanee di mercato né a sperimentazioni frammentarie. Affinché l’AI contribuisca realmente alla sostenibilità del SSN, è necessario un approccio intenzionale, sistemico e orientato al lungo periodo.
Quindi risulta indispensabile investire in infrastrutture digitali pubbliche, sicure e interoperabili. Senza una base tecnologica solida e condivisa, l’AI rischia di rimanere appannaggio di pochi.
In secondo luogo, appare opportuno istituire registri nazionali/internazionali per la valutazione degli algoritmi sanitari, analoghi a quelli esistenti per i dispositivi medici e i farmaci. Tali registri dovrebbero raccogliere informazioni su finalità, dati di addestramento, risultati della validazione clinica, limiti di utilizzo e aggiornamenti degli algoritmi impiegati nel SSN, favorendo trasparenza e accountability.
Terzo è necessario costituire comitati etici multidisciplinari dedicati all’AI sanitaria, capaci di integrare competenze cliniche, ingegneristiche, giuridiche ed etiche. Questi organismi potrebbero affiancare le direzioni strategiche nelle decisioni di adozione e monitoraggio delle tecnologie, superando una visione puramente tecnocratica.
È inoltre fondamentale garantire la trasparenza degli algoritmi utilizzati nel SSN, almeno nei limiti compatibili con la tutela della proprietà intellettuale. La possibilità di comprendere, spiegare e contestare le decisioni algoritmiche non è solo un requisito etico, ma una condizione pratica per la fiducia dei professionisti e dei pazienti.
Accanto a ciò, è essenziale coinvolgere cittadini e pazienti nei processi di progettazione e valutazione delle soluzioni di AI, riconoscendo il loro ruolo fondamentale nell’adozione della tecnologia.
Un settimo elemento riguarda la necessità di monitorare in modo continuo i bias e gli effetti discriminatori degli algoritmi, attraverso audit periodici e meccanismi di revisione. Poiché i contesti clinici e sociali evolvono nel tempo, anche i sistemi di AI devono essere costantemente rivalutati per evitare che decisioni automatizzate producano effetti ingiusti o imprevisti.
Infine, ogni implementazione dovrebbe essere accompagnata da una valutazione sistematica dell’impatto organizzativo e umano. L’introduzione dell’AI modifica ruoli, flussi di lavoro, responsabilità e carichi cognitivi; ignorare queste dimensioni significa compromettere l’efficacia stessa della tecnologia. La sostenibilità non è solo economica o ambientale, ma anche professionale e relazionale.
Seguendo questo percorso l’AI diventa un’infrastruttura pubblica di supporto alla cura, e non una scorciatoia tecnologica per compensare carenze strutturali. Solo un simile approccio permetterà all’AI di integrarsi nel SSN in modo coerente con i principi di equità, dignità e centralità della persona.
Conclusioni
Come insegna Hans Jonas, i problemi tecnici non possono diventare il punto di partenza dell’agire umano: è dall’uomo vivente che occorre sempre ripartire.
Solo mantenendo questa centralità e sviluppando un’ingegneria della fiducia e della sostenibilità, sarà possibile evitare che l’Intelligenza Artificiale diventi una nuova “gabbia d’acciaio” tecnologica e garantire, invece, che essa contribuisca a una medicina più giusta, più umana e realmente orientata alla cura integrale della persona.
- Pontificia Accademia per la Vita. (2020). Rome Call for AI Ethics. Città del Vaticano: Pontificia Accademia per la Vita.
- Fondazione GIMBE. (2019, giugno). 4° Rapporto GIMBE sulla sostenibilità del Servizio Sanitario Nazionale. Fondazione GIMBE.
- Comitato Nazionale per la Bioetica. (2020). Intelligenza artificiale e medicina: aspetti etici. Roma: Presidenza del Consiglio dei Ministri.
- Gulshan, V., Peng, L., Coram, M., Stumpe, M. C., Wu, D., Narayanaswamy, A., … Webster, D. R. (2016). Development and validation of a deep learning algorithm for detection of diabetic retinopathy in retinal fundus photographs. JAMA, 316(22), 2402–2410.
- Obermeyer, Z., Powers, B., Vogeli, C., & Mullainathan, S. (2019). Dissecting racial bias in an algorithm used to manage the health of populations. Science, 366(6464), 447–453.
- Veinot, T. C., Mitchell, H., & Ancker, J. S. (2018). Good intentions are not enough: How informatics interventions can worsen inequality. Journal of the American Medical Informatics Association, 25(8), 1080–1088.
- Unione Europea. (2024). Regolamento (UE) 2024/1689 del Parlamento europeo e del Consiglio del 13 giugno 2024 che stabilisce norme armonizzate sull’intelligenza artificiale (Artificial Intelligence Act).
- Price, W. N. (2018). Medical malpractice and black-box medicine. In I. G. Cohen, H. F. Lynch, & C. T. Roberts (Eds.), Big data, health law, and bioethics (pp. 295–306). Cambridge, UK: Cambridge University Press.
- Char, D. S., Shah, N. H., & Magnus, D. (2018). Implementing machine learning in health care—Addressing ethical challenges. New England Journal of Medicine, 378(11), 981–983.
- World Health Organization. (2021). Ethics and governance of artificial intelligence for health. Geneva: World Health Organization.
- Jonas, H. (1990). Il principio responsabilità: Un’etica per la civiltà tecnologica. Torino: Einaudi.