Il tema della robotica e della definizione filosofico-giuridica del rapporto uomo-macchina ha attirato l’attenzione di molti studiosi, soprattutto negli ultimi decenni, assumendo una posizione centrale negli ultimissimi anni, a fronte del repentino sviluppo tecnologico in materia di intelligenza artificiale.
Raymond Kurzweil ne “La singolarità è vicina” basandosi sui propri studi di neuroscienze sostiene che la crescita esponenziale della tecnologia arriverà a superare l’uomo dal punto di vista dell’intelligenza e del ragionamento; sostiene che cosi come l’uomo si è sviluppato in maniera molto veloce nel corso del tempo (le centinaia di migliaia di anni trascorsi sarebbero poca cosa), anche per le “macchine” si starebbe verificando il medesimo fenomeno, ma con una velocità del tutto superiore. Cosi – sostiene l’Autore – l’aumento esponenziale – tipico della legge di Moore – ci porterà, forse intorno al 2050, al cospetto della singolarità.
Nel contesto tecnologico contemporaneo, sono stati individuati tre stadi evolutivi che caratterizzano le intelligenze artificiali: Artificial Narrow Intelligence (ANI), debole e con la capacita computazionale di eseguire in modo efficiente un preciso compito come il riconoscimento facciale o vocale; Artificial General Intelligence (AGI), generale, che ha capacità cognitive simili a quelle umane: ripropone il concetto originario di intelligenza, traducendolo in algoritmi con prestazioni equivalenti a quelle di un essere umano e caratterizzati da una competenza volutamente programmata in un unico dominio ristretto (attualmente ancora non esiste); Artificial Super Intelligence (ASI) che ha capacità superiori all’intelligenza umana ed è in grado di superare le prestazioni cognitive degli esseri umani (al momento è solo ipotetica). Oggi si rilevano soltanto intelligenze di tipo ANI, per quanto si sostenga che le intelligenze AGI e ASI siano in fase di sviluppo attraverso le tecniche di machine learning e deep learning.
L’elevato livello di progresso tecnologico che si è realizzato negli ultimi anni ha quindi indotto la dottrina a preoccuparsi di capire non solamente se le macchine siano o possano essere intelligenti, ma anche se esse siano o possano essere morali (nel 2009 Wendell Wallach e Colin Allen hanno pubblicato l’opera Moral Machines: Teaching Robots Right From Wrong). Il confronto con le intelligenze artificiali evolute ha conseguentemente portato ad interrogarsi sulla metodologia più idonea per inquadrarne lo status giuridico. Sono infatti numerosissimi i contributi dottrinali in materia di algoritmi, robot e intelligenza artificiale; la sempre maggior diffusione e il sempre crescente utilizzo di sistemi di I.A. nei più svariati settori ha alimentato un dibattito tra esperti di varie discipline, all’interno del quale il problema dell’inquadramento giuridico di questa nuova realtà appare tra i più delicati da affrontare e, nel contempo, tra i più urgenti da risolvere.
La capacità di autoapprendimento, di comunicazione e di decisione degli odierni “automi” pone, in prima istanza, la necessità di delineare in che misura sia possibile comparare, rispetto ai processi di intellezione, l’IA alla mente umana.
Il Parlamento Europeo nella nota risoluzione del 16 febbraio 2017 ha posto l’attenzione sulla rilevanza degli sviluppi della robotica e dell’IA, sulla crescente autonomia tecnologica raggiunta dai robot e sui rischi connessi, ritenendo la responsabilità civile una «questione fondamentale» da affrontare «a livello di Unione»; al punto 59, lettera f), il Parlamento Europeo invita la stessa Commissione a valutare «l’istituzione di uno status giuridico specifico per i robot nel lungo termine, di modo che almeno i robot autonomi più sofisticati possano essere considerati come persone elettroniche responsabili di risarcire qualsiasi danno da loro causato, nonché eventualmente il riconoscimento della personalità elettronica dei robot che prendono decisioni autonome o che interagiscono in modo indipendente con terzi». Si è così voluta delineare una soluzione pratica e strumentale alla responsabilità, in quanto finalizzata ad agevolare l’autorità giudiziaria e il danneggiato nell’individuazione del soggetto responsabile tenuto al risarcimento del danno.
Questa iniziale posizione del Parlamento Europeo, contestata da alcuni e da altri giudicata «la più innovativa, interessante e stimolante trovata contemplata dalla Risoluzione del Parlamento europeo» è stata successivamente accantonata; in particolare, il Comitato Economico Sociale ed Europeo (CESE) ha manifestato la sua contrarietà alla suddetta proposta ritenendola un azzardo morale e pregiudizievole alla funzione preventiva di correzione dei comportamenti attinente ai regimi di responsabilità civile, oltre che rischiosa in quanto suscettibile di abusi soprattutto in termini di possibili esenzioni o limitazioni; inoltre, tale soluzione non è apparsa praticabile in quanto l’eventuale personalità giuridica dei sistemi autonomi non sarebbe coniugabile con la responsabilità patrimoniale dell’autore del danno.
Mutando la sua originaria posizione, lo stesso Parlamento Europeo ha sancito, in relazione ai sistemi decisionali automatizzati, il principio secondo il quale «gli esseri umani devono sempre essere responsabili» (Risoluzione del Parlamento europeo del 12 febbraio 2020, Processi decisionali automatizzati: garantire la tutela dei consumatori e la libera circolazione di beni e servizi, P9_TA-PROV(2020)0032, § 10), per poi abbandonare definitivamente l’originaria impostazione con la Risoluzione del 20 ottobre 2020 (Risoluzione del Parlamento europeo, Raccomandazioni alla Commissione su un regime di responsabilità civile per l’intelligenza artificiale, 20 ottobre 2020, cit., allegate Raccomandazioni, parte ), contenente il relativo testo della proposta di regolamento, ove si rileva l’inutilità del prospettato conferimento della personalità giuridica ai sistemi di IA, a fronte della responsabilità dei soggetti che già partecipano alla catena di valore, in particolare di coloro che creano o mantengono il sistema, oppure ne controllano i relativi rischi. Aderisce a tale impostazione la successiva Risoluzione del 20 gennaio 2021 nella quale si «ribadisce che un processo decisionale autonomo non dovrebbe esonerare gli esseri umani dalla responsabilità e che le persone devono sempre avere la responsabilità ultima dei processi decisionali, in modo da poter identificare l’essere umano responsabile della decisione». A segnare il definitivo abbandono di tale possibile correlazione giunge il Regolamento (UE) 2024/1689 del Parlamento Europeo e del Consiglio del 13 giugno 2024 (AI Act) che, nel determinare le regole armonizzate sull’intelligenza artificiale, neppure accenna alla questione della personalità o soggettività dei sistemi di IA. Anche dopo l’AI Act, la proposta del Parlamento Europeo e del Consiglio di Direttiva sulla responsabilità da Intelligenza Artificiale presentata il 28/09/2022 (ritirata poi ritirata dalla Commissione nel febbraio 2025) riguardante la responsabilità non contrattuale, sembra che in Unione Europea si sia abbandonata l’idea di creare lo status di persona elettronica.
Al di là delle “impostazioni” legislative che generalmente si occupano di disciplinare aspetti e problematiche relativamente a situazioni “concrete ed attuali”, si rileva come l’approccio dinamico del Parlamento Europeo, nella citata Risoluzione del 16 febbraio 2017 si riferisse proprio alle intelligenze ASI (o, al più, alle forme più evolute delle AGI).
In dottrina, numerosi studiosi di diverse discipline hanno elaborato interessanti teorie sulla personalità elettronica e sulla soggettività di enti artificiali.
Il tema di fondo è quello dell’autonomia di queste entità che hanno la “capacità di prendere decisioni e metterle in atto nel mondo esterno, indipendentemente da un controllo o un’influenza esterna”: una capacità di auto-affrancarsi dall’essere umano, produttore/utilizzatore di tali strumenti, così da rendere tali entità “intelligenti”, anche se in modo diverso rispetto a quella qualità che riconosciamo atteggiarsi negli essere viventi, umani o animali. La prospettiva dell’attribuzione ai robot, bot, androidi e altre manifestazioni dell’intelligenza artificiale dello status giuridico di “persona elettronica”, è direttamente funzionale al tema della responsabilità contrattuale ed extracontrattuale, al fine di garantire la trasparenza e la certezza del diritto per i produttori e i consumatori di tutta l’Unione Europea.
Nell’ampio raggio delle azioni degli automi, nelle ipotesi in cui è possibile individuare, in qualsiasi momento della catena di valore – progettazione, produzione, distribuzione e fruizione – un’efficace procedura di controllo umano, appare evidente che la responsabilità degli effetti giuridici generati dalle macchine vada senz’altro imputata agli individui coinvolti, a vario titolo, in tale processo; altrettanto dicasi nelle ipotesi in cui l’attività basata su qualsiasi forma di IA fornisca una soluzione manifestamente assunta o implicitamente accettata dall’operatore umano, sul quale ultimo appunto ricadono le relative conseguenze giuridiche.
La situazione si prospetterebbe, tuttavia, differente in tutti quei casi in cui l’imprevedibilità della macchina intelligente o l’inconoscibilità dei processi operativi collegati allo svolgimento della sua funzione, possa determinare danni verso terzi, danni non imputabili ad alcun soggetto giuridicamente riconoscibile. Si è altresì osservato che nelle ipotesi in cui la decisione algoritmica assuma la fisionomia di una “black box”, oltre alla delicata problematica di natura privatistica relativa alla responsabilità civile per la causazione di danni, “tale fenomeno potrebbe potenzialmente intaccare i cardini stessi del sistema giuridico”, come evidenziato da I. P. Di Ciommo (in La prospettiva del controllo nell’era dell’Intelligenza Artificiale: alcune osservazioni sul modello Human In The Loop, in federalismi.it, 9, 2023, p. 74); l’esistenza di artefatti che “si autodeterminano in base a regole interne non conoscibili né ex ante né ex post” – ovvero “rendendo così difficile governare la macchina ed eventualmente correggerne output errati o comunque indesiderati” – espone al “rischio che dinamiche decisorie sorrette da tecnologie di IA possano facilmente infrangere il principio di legalità e quei corollari che rappresentano il cardine dello Stato di diritto: trasparenza, conoscibilità e non esclusività della decisione algoritmica”.
Trattasi di quei rischi in cui Gunther Teubner (inSoggetti giuridici digitali? Sullo status privatistico degli agenti software autonomi, a cura di Pasquale Femia, Napoli 2019, p. 37 e ss) ha ravvisato “lacune di responsabilità” delineando tre specifiche modalità d’azione degli agenti software: “il rischio di autonomia, che discende dalle ‘decisioni’ indipendenti che l’agente software assume”; “il rischio di associazione, che dipende dalla stretta cooperazione tra uomo e agente software”; “il rischio di interconnessione, che consiste nell’agire non isolato, ma in stretta interdipendenza di una pluralità di computer in rete”.
L’Autore evidenzia tuttavia la difficoltà a riconoscere una ‘piena’ soggettività giuridica alle infrastrutture digito-informatiche ‘autonome’, in quanto ciò implicherebbe la possibilità che esse possano rilasciare dichiarazioni di volontà propria o altrui, siano titolari di proprietà e di conti bancari di cui disporre ‘a piacimento’, riescano a realizzare transazioni economiche e possano anche rispondere di danni a terzi o di illeciti eventualmente commessi ‘in prima persona’ come titolari dell’azione compiuta, e non come “agenti ausiliari” (dell’uomo). Secondo Teubner tali macchine, seppur “sovra-dotate” restano pur sempre in interazione costante con gli uomini che le governano; l’attribuzione di piena soggettività giuridica agli agenti elettronici non solo eluderebbe il compito e la funzione di questi ultimi, ma subordinerebbe ad essi il ruolo degli uomini implicati nell’interazione con questi, con il conseguente disconoscimento della loro ‘padronanza’ che ne verrebbe disconosciuta.
Dotare i SIA di personalità elettronica al fine di assicurarne la responsabilità diretta, con patrimonio col quale risponderne (autonomia patrimoniale) “non accresce, e potrebbe anzi ridurre, la tutela risarcitoria dei soggetti lesi, maggiormente tutelati da una responsabilizzazione di chi dovrebbe essere chiamato a rispondere per la macchina intelligente, sia esso il suo produttore, o proprietario, o “custode”, o gestore” (U. Ruffolo, Il problema della “personalità elettronica”, in Journal of Ethics and Legal Technologies, 2(1), 2020, p. 76).
Di diverso avviso coloro che ritengono l’utilità di un “approccio funzionale” alla soggettività giuridica delle macchine, al pari di quanto avviene nel diritto societario, individuando “tre funzioni essenziali che l’attribuzione della soggettività alla macchina potrebbe voler perseguire, segnatamente (i) segregazione patrimoniale e limitazione di responsabilità, (ii) trasparenza e identificabilità, (iii) semplificazione dei rapporti giuridici, gestione di rischi e dei flussi di cassa (A. Bertolini, Intelligenza artificiale e responsabilità civile. Problema, sistema, funzioni, Il Mulino, 2024, p.139). Si tratterebbe, in sostanza, di ragioni di convenienza riassumibili, in maniera circoscritta, nell’individuazione di un centro di responsabilità unitario nei casi in cui più soggetti siano coinvolti, nella possibilità di separare beni e responsabilità in modo da facilitare la distribuzione dei ricavi e danni da tecnologia, nel perseguimento della trasparenza nei rapporti economici e financo prevedere diversi livelli di tassazione.
Laddove “la macchina raggiungesse la coscienza e l’autonomia in senso forte, le dovrebbe essere attribuita una diversa soggettività, caratterizzata su basi oggettive e ontologiche” sottolineando, al di fuori da condizionamenti meramente filosofici circa la possibilità di qualificare come “persona” i SIA, che presto o tardi sarà ineluttabile l’attribuzione di una qualche sorta di soggettività alle macchine.
In ordine al regime di responsabilità civile per l’utilizzo di sistemi IA altri giuristi (vedasi ad esempio V. Papakonstantinou, P. De Hert, Refusing to award legal personality to AI: Why the European Parliament got it wrong, in European Law Blog, disponible in https://europeanlawblog.eu/2020/11/25/refusing-to-award-legal-personality-to-aiwhy-the-european-parliament-got-it-wrong/, 2020) propendono per la creazione di una personalità elettronica: muovendo criticamente dalle considerazioni svolte dall’Assemblea in sede di Risoluzione del 2020 sul regime di responsabilità civile per l’intelligenza artificiale, ritengono che il riconoscimento di una personalità elettronica non diluirebbe il livello di protezione dei consumatori, ma lo aumenterebbe grazie all’inserimento appunto di nuovi soggetti (peraltro più facilmente individuabili da coloro che avrebbero subito dei danni a causa dell’agire autonomo delle macchine); riconoscendo pertanto il SIA come centro di imputazione di diritti e doveri, verrebbe in tal modo agevolata la parte debole del rapporto contrattuale nell’immediata individuazione del “responsabile”.
Teubner, nel chiedersi se “Nel nostro atteggiamento con gli algoritmi entra in considerazione soltanto una mera percezione di eventi di calcolo oppure una comunicazione autentica con attori sociali”, afferma che “la risposta dipende da se nel processo comunicativo accada che i ‘contributi’ dell’agente software – in quanto eventi comunicativi in senso stretto (vale a dire quali unità autonome di informazioni) – attivino comunicazione (qui nel senso di emissione del messaggio) e comprensione” e così conclude: “Là dove, nel processo comunicativo tra uomo e computer, si riesca(no) ad identificare eventi, che possano essere ‘compresi’ come ‘comunicazioni’ dell’algoritmo, contenenti una determinata ‘informazione’, allora davvero prenderà forma nell’atteggiamento degli uomini con gli algoritmi un autentico sistema sociale”. Prosegue l’Autore: “gli agenti software sono – al pari delle imprese o delle altre organizzazioni formali – null’altro che meri flussi informativi, i quali diventano ‘persone’ (o persone parziali), quando nel processo comunicativo pervengono ad una identità sociale e ad essi sia effettivamente attribuita una propria capacità di agire, insieme alle necessarie disposizioni organizzative, quali, ad esempio, le regole di rappresentanza”.
Una volta che le macchine intelligenti (oggi ancora res), parteciperanno alla vita sociale e saranno ritenute come socialmente importanti dal sentire comune, allora il passaggio a “soggetti di diritto” sarà naturale, se non necessaria conseguenza. Questo passaggio “da cosa” a “soggettività” non sarà caratterizzato per il livello quantitativo del lavoro svolto dalla macchina, ma per quello qualitativo, ovvero per il suo cambio di ruolo (S. Wojtczak, 2021, Endowing Artificial Intelligence with legal subjectivity, in AI & Society, p. 5 disponibile su https://doi.org/10.1007/s00146-021-01147-7). Si ravvede, in conclusione, l’ingresso di “soggettività ulteriori” come processo ineluttabile – e sempre più cogente – allorquando i SIA acquisiranno uno spazio determinante nella vita sociale.
Al fine di rilevare l’utilità del riconoscimento di un agente artificiale come soggetto giuridico (e non solamente come mero oggetto) occorre indagare se tale attribuzione possa essere funzionale al raggiungimento di un determinato scopo, riconoscendogli la titolarità solo di alcune situazioni giuridiche soggettive.
Un interessante contributo di Sergio Franza (Nota sulle persone elettroniche e altri possibili soggetti giuridici artificiali, disponibile su https://ilforovibonese.it/temi/nota-sulle-persone-elettroniche-e-altri-possibili-soggetti-giuridici-artificiali/) riporta esempi passati di riconoscimento della personalità ad oggetti inanimati allo scopo di permettere ai creditori di poter aggredire beni di grande valore che i proprietari avrebbero potuto sottrarre ad azioni esecutive. L’Autore riporta: “In Gran Bretagna e negli Stati Uniti le imbarcazioni vennero riconosciute già in tempi molto lontani come legal person; è degno di nota il fatto che ai vascelli che trasportavano schiavi veniva riconosciuta la legal personhood (personalità giuridica) mentre gli schiavi imbarcati non erano considerati persone (cfr. Renisa Mawani. The Ship as Legal Person in Across Oceans of Law. The Komagata Maru and Jurisdiction in the Time of Empire, Duke University Press, 2018. In particolare, a pag. 98 l’autrice scrive “Under the custom of the sea and in the British common law and admiralty law, vessels were designated as animate beings with specific rights and responsibilities at sea.”). Il fatto che le navi fossero considerate persone permetteva ai creditori di chiederne “the arrest” senza doversi nemmeno preoccupare di conoscere l’identità del proprietario e di poter così far valere le proprie ragioni velocemente con una actio in rem”.
In ordine al riconoscimento di personalità elettronica ad enti artificiali l’Autore osserva come lo studioso statunitense Shawn Bayern (in Autonomous Organizations, Cambridge University Press, 2021), indagando sulla concreta possibilità di creare (negli Stati Uniti), allo stato attuale, organizzazioni autonome (Autonomous Organizations) in grado di agire come soggetto giuridico indipendente da esseri umani, ovvero se sia possibile, secondo le norme attuali, che “un’entità artificiale partecipi ai traffici giuridici senza che vi sia almeno una persona dietro l’entità artificiale”, nel senso che agisca in modo indipendente e che le conseguenze giuridiche delle sue azioni non facciano capo in alcun modo (né diretto, né indiretto) ad un essere umano ma solo ad una entità artificiale. Si tratta, in buona sostanza, della costruzione di uno “schema giuridico per raggiungere scopi desiderabili per gli esseri umani avvalendosi delle possibilità offerte dalla moderna tecnologia”. Secondo l’Autore, ad esempio all’interno dell’istituto del trust, per evitare il rischio che un trustee venga corrotto e utilizzi a vantaggio di soggetti diversi dal beneficiario i beni conferiti, anziché ricorrere al trust protector, si può immaginare che il disponente desideri ricorrere ad un agente artificiale, non soggetto a corruzione.
In breve conclusione, se sul fronte normativo la possibilità del riconoscimento ai sistemi di IA di una personalità elettronica è stata abbandonata, ritenendosi le norme vigenti più che sufficienti alla tutela del consumatore e alla certezza dei rapporti giuridici, sul fronte dottrinale le posizioni rimangono aperte e divergenti.
BIBLIOGRAFIA:
S. Bayern, Autonomous Organizations, Cambridge University Press, 2021;
A. Bertolini, Intelligenza artificiale e responsabilità civile. Problema, sistema, funzioni, Il Mulino, 2024;
G. De Bona, Verso la tutela giuridica dei sistemi intelligenti. Prospettive critiche della soggettività robotica, in Journal of Ethics and Legal Technologies, 2022;
I. P. Di Ciommo, La prospettiva del controllo nell’era dell’Intelligenza Artificiale: alcune osservazioni sul modello Human In The Loop, in federalismi.it, 9, 2023;
S. Franza, 2024,Nota sulle persone elettroniche e altri possibili soggetti giuridici artificiali, disponibile su https://ilforovibonese.it/temi/nota-sulle-persone-elettroniche-e-altri-possibili-soggetti-giuridici-artificiali/;
V. Papakonstantinou, P. De Hert, Refusing to award legal personality to AI: Why the European Parliament got it wrong, in European Law Blog, disponible in https://europeanlawblog.eu/2020/11/25/refusing-to-award-legal-personality-to-aiwhy-the-european-parliament-got-it-wrong/, 2020;
S. Rodotà, “Sul buon uso del diritto e i dilemmi della clonazione”, in Rivista critica del diritto privato, (1999);
U. Ruffolo, Il problema della “personalità elettronica”, in Journal of Ethics and Legal Technologies, 2(1), 2020;
G. Teubner, Soggetti giuridici digitali? Sullo status privatistico degli agenti software autonomi, a cura di Pasquale Femia, Napoli 2019;
W. Wallach, C. Allen, Moral machines: Teaching robots right from wrong, Oxford University Press, Oxford, 2009;
S. Wojtczak, 2021, Endowing Artificial Intelligence with legal subjectivity, in AI & Society, p. 5 disponibile su https://doi.org/10.1007/s00146-021-01147-7.