Un tempo nuovo per l’etica della tecnologia
L’intelligenza artificiale (IA) sta ridefinendo non solo i processi organizzativi, ma anche il modo in cui pensiamo l’etica, la responsabilità umana e il controllo nelle istituzioni moderne. Dai sistemi di compliance basati su algoritmi di valutazione dei rischi alle decisioni automatizzate nella gestione del personale, l’IA non è più uno strumento passivo: incide concretamente sugli orientamenti decisionali, sulla distribuzione delle responsabilità e sul modo in cui le organizzazioni interpretano il proprio dovere etico.
Secondo la Stanford Encyclopedia of Philosophy, l’IA comprende sistemi che svolgono compiti percepiti come “intelligenti” se eseguiti da esseri umani, ma il fatto che tali sistemi apprendano dai dati non implica che siano portatori di valori morali propri, cioè l’IA non possiede intenzionalità né coscienza morale perciò, fino adesso la sua “decisione” è statistica, non etica o morale.
È proprio questo paradosso, affidare sempre più compiti decisionali all’IA, pur riconoscendo che essa non capisce né giudica che solleva la questione centrale: abbiamo delegato all’IA ciò che richiede giudizio morale umano?
Nel giugno 2024 papa Francesco, intervenuto alla sessione sull’intelligenza artificiale al G7 di Borgo Egnazia, ha descritto l’IA come uno “strumento affascinante e tremendo”. Ha ricordato che l’IA emerge dal potenziale creativo umano e ha esortato i leader mondiali a considerare non solo i benefici tecnici ma anche le conseguenze etiche delle decisioni automatizzate. In particolare, ha affermato che nessuna macchina dovrebbe decidere sulla vita o sulla morte di un essere umano, riferendosi alle cosiddette armi autonome letali.
Nel gennaio 2025 la Santa Sede ha pubblicato il documento Antiqua et Nova, una nota congiunta dei Dicasteri per la Dottrina della Fede e per la Cultura e l’Educazione. Il testo approvato dal Papa Francesco sottolinea che l’IA deve rimanere uno strumento al servizio dell’uomo, non un sostituto della dignità umana. Secondo la nota, attribuire caratteristiche umane all’IA rischia di confondere l’intelligenza artificiale con l’intelligenza umana, che è corporea, razionale e relazionale in modi che un sistema algoritmico non può replicare.
Il documento osserva inoltre che l’IA può essere usata “in modi che rispettano la dignità umana e favoriscono il bene comune”, oppure dirottata verso usi che accentuano disuguaglianze e rischi sociali. Questa dualità riflette la sfida attuale, l’etica non si trova nel codice, ma nelle scelte umane che guidano il codice stesso, cioè non risiede nelle righe di codice, ma nella direzione che l’uomo decide di imprimere alla tecnologia.
Compliance, automazione e responsabilità
Nei sistemi di compliance aziendale l’intelligenza artificiale è ormai diventata una presenza strutturale. Viene impiegata per analizzare enormi quantità di dati, intercettare comportamenti anomali, individuare segnali di rischio prima che si trasformino in crisi reputazionali o legali. La promessa è quella dell’efficienza, della rapidità decisionale, dell’ottimizzazione dei controlli interni.
Tuttavia, proprio nel momento in cui la macchina sembra rendere il sistema più solido e razionale, emerge un interrogativo più profondo: chi porta davvero la responsabilità delle conseguenze giuridiche e morali di una decisione automatizzata?
Quando un algoritmo segnala una possibile violazione o suggerisce un provvedimento disciplinare, ciò che produce non è un giudizio morale, ma una probabilità statistica costruita su dati storici e criteri preimpostati. Le regole che guidano queste valutazioni non sono neutrali, sono incorporate nei modelli da chi li progetta, con tutti i limiti, le ipotesi implicite e i bias che inevitabilmente accompagnano ogni scelta umana.
Il rischio non sta tanto nell’uso dell’algoritmo in sé, quanto nell’atteggiamento con cui lo si accoglie. Se il manager si limita a “fidarsi del sistema”, la decisione finisce per apparire oggettiva e inevitabile, e il margine di responsabilità personale si restringe. In questo modo si insinua una forma sottile di deresponsabilizzazione diffusa, nella quale nessuno decide davvero, ma tutti si appoggiano al risultato prodotto dal calcolo.
Ed è qui che la questione supera la semplice automazione tecnica. La decisione etica non può essere ridotta a un calcolo, perché implica una valutazione situata, un’attenzione al contesto, una considerazione della persona concreta coinvolta. L’autorevolezza di una scelta in una situazione complessa non nasce dalla quantità di dati elaborati, ma dalla capacità di assumersi le conseguenze di ciò che si decide. E paradossalmente, più l’intelligenza artificiale sembra “scegliere” al posto nostro, più cresce la responsabilità morale delle organizzazioni che la utilizzano.
Tra tecnologia e umanità: una bussola etica
La posta in gioco, dunque, non è soltanto tecnica o organizzativa. Come ricorda il documento Antiqua et Nova, l’IA non pensa né comprende nel senso proprio dell’intelligenza umana, essa rielabora informazioni, identifica correlazioni, produce output sulla base di modelli statistici, ma non possiede coscienza, intenzionalità morale o capacità di rispondere delle proprie azioni.
Riconoscere questa differenza non è un dettaglio teorico, ma una condizione essenziale per evitare l’antropomorfizzazione della tecnologia, cioè la tentazione di attribuire all’IA competenze morali che non le appartengono. Quando iniziamo a parlare dell’algoritmo come se “sapesse”, “decidesse” o “valutasse”, stiamo già compiendo uno slittamento concettuale che può avere conseguenze molto concrete.
In termini pratici, ciò significa che la sostenibilità organizzativa non può prescindere dalla responsabilità umana. L’IA non incide solo sui processi di compliance, ma plasma il modo in cui un’organizzazione concepisce la giustizia interna, la dignità delle persone e l’esercizio della leadership. Il pericolo non è soltanto che il sistema commetta un errore tecnico, è che, poco a poco, modifichi la nostra percezione di ciò che consideriamo una decisione giusta, spostando l’attenzione dall’assunzione di responsabilità alla mera coerenza algoritmica.
Per questo la Santa Sede ha sottolineato che l’intelligenza artificiale deve rimanere un complemento alla ragione umana e mai un suo sostituto. Non si tratta di opporre tecnologia e umanità, ma di ricordare che lo strumento, per quanto sofisticato, non può assumere il posto del soggetto morale.
Oltre l’efficienza, verso l’etica
Viviamo in un tempo in cui l’efficienza sembra essere diventata la misura di ogni cosa. Ci affidiamo ai numeri, alle metriche, agli indicatori di performance, convinti che ciò che è misurabile sia anche giusto. L’intelligenza artificiale promette rapidità, coerenza, neutralità, e in molti ambiti mantiene davvero queste promesse. Eppure l’efficienza non è un valore morale, è un criterio tecnico.
Il rischio più grande non è che l’algoritmo sbagli, ma che noi smettiamo di interrogarci, che ci abituiamo a giustificare una decisione dicendo semplicemente “lo ha stabilito il sistema”, come se questo bastasse a dissolvere ogni responsabilità personale. Quando la complessità del codice diventa uno schermo dietro cui nascondersi, la responsabilità non scompare davvero, ma si diluisce, si rende meno visibile, meno percepibile.
Non possiamo delegare l’etica agli algoritmi. Possiamo affidarci all’IA per analizzare dati, per individuare correlazioni, per segnalare anomalie prima che diventino problemi sistemici; ma il giudizio, quello che pesa le conseguenze, che considera la vulnerabilità dell’altro, che riconosce la dignità di una persona anche quando è ridotta a profilo statistico, resta irriducibilmente umano.
Affidare all’IA decisioni cruciali senza un quadro chiaro di supervisione, trasparenza e responsabilità significa confondere il calcolo con la coscienza. È come possedere una bussola perfettamente funzionante e non sapere più leggere l’orizzonte: lo strumento indica una direzione, ma il senso del viaggio dipende da chi lo impugna.
La questione, allora, non è stabilire se l’IA possa fare meglio di noi in termini di performance; in molti casi lo fa già. La domanda più esigente è un’altra: siamo ancora disposti a restare responsabili delle decisioni che prendiamo con il suo supporto, anche quando il calcolo suggerisce la via più rapida e meno problematica?
Ogni volta che sostituiamo il giudizio con l’automatismo non stiamo soltanto innovando un processo organizzativo, stiamo lentamente ridefinendo il significato stesso della responsabilità. E se la responsabilità si svuota, anche l’etica si indebolisce. L’algoritmo può indicare una probabilità, ma solo l’essere umano può rispondere delle conseguenze.
La tecnologia continuerà a evolvere, ma la responsabilità resta, inevitabilmente, nostra e solo l’essere umano può rispondere di ciò che accade dopo.
Bibliografia e Sitografia
ANTIQUA ET NOVA: Nota sul rapporto tra intelligenza artificiale e intelligenza umana (28 gennaio 2025), in Vatican.va: https://www.vatican.va/roman_curia/congregations/cfaith/documents/rc_ddf_doc_20250128_antiqua-et-nova_it.html
BRINGSJORD S., Artificial Intelligence, in Stanford Encyclopedia of Philosophy: https://plato.stanford.edu/entries/artificial-intelligence/
FRANCESCO, Papa, Discorso del Santo Padre Francesco – Borgo Egnazia (Puglia), Venerdì, 14 giugno 2024, in Vatican.va: https://www.vatican.va/content/francesco/pt/speeches/2024/june/documents/20240614-g7-intelligenza-artificiale.html
GORDON J., NYHOLM S., Ethics of Artificial Intelligence, in Internet Encyclopedia of Philosophy, Internet: https://iep.utm.edu/ethics-of-artificial-intelligence/
JONAS H., Il principio responsabilità. Un’etica per la civilità tecnologica, a cura di P. P. Portinaro, ed. Biblioteca Einaudi, Torino, 2009.