Vi è mai capitato di guardare un film di fantascienza e pensare: “Bello, ma cosa succede se quel robot impazzisce?” Oggi non è più fantascienza. È l’auto che si guida da sola sulla tangenziale, è il sensore che gestisce la temperatura nella sala operatoria, è l’allarme che non suona.
Siamo tutti innamorati dell’Intelligenza Artificiale (AI) perché ci toglie la fatica, ci fa guadagnare tempo. Ma ci toglie anche la responsabilità. E quando la AI prende una decisione sbagliata — magari una piccolissima frazione di secondo troppo tardi — e succede un disastro, il nostro bisogno di giustizia va in cortocircuito.
La Sedia Vuota del Guidatore
Immaginatevi la scena: un incidente stradale. Di solito, si guarda chi era alla guida. Se ha bevuto, se ha usato il telefono, se era distratto. C’è un volto, una patente, un’assicurazione.
Ora, immaginate un veicolo completamente autonomo. L’auto si è comportata male. Forse ha scambiato una busta di plastica per un ostacolo insormontabile, o ha ignorato un segnale dipinto male. Non c’era nessuno al volante.
Noi, come esseri umani, abbiamo bisogno di puntare il dito. Ma chi c’è dall’altra parte?
Non possiamo incolpare la macchina. Non possiamo mandare un computer in prigione, né chiedergli di risarcire una famiglia.
La colpa si disperde come fumo tra le mani di tantissime persone che non erano lì:
- Il Ragazzo che ha Scritto il Codice: Magari ha fatto un piccolo errore di distrazione nel codice, un bug microscopico. Era un errore umano, ma la macchina l’ha trasformato in un disastro. È giusto che paghi lui per un incidente che non ha causato in prima persona?
- L’Azienda che Fornisce i Dati: L’AI impara guardando migliaia di ore di traffico. Se i dati che le sono stati dati erano tutti sbilanciati (magari pochi video di ciclisti o di persone anziane), l’AI non è stata preparata per la vita reale. Il suo errore non è cattiveria, è ignoranza indotta.
- La Casa Automobilistica: Loro hanno messo il prodotto sul mercato, promettendo sicurezza. Ma possono dire: “Ehi, non siamo stati noi a guidare!”
La Domanda Umana: Chi Ripaga il Danno?
Al di là del dibattito legale, c’è una vittima che sanguina o una famiglia che ha perso tutto. Il loro problema non è filosofico, è pratico: chi paga le spese mediche, la riabilitazione, la vita persa?
Se l’AI è una “scatola nera” impenetrabile, le aziende possono facilmente fare spallucce e dire: “Il sistema ha operato come previsto dall’algoritmo”. È una barriera perfetta contro la responsabilità.
E questo è il punto cruciale.
Se le grandi aziende ottengono un profitto gigantesco vendendoci questi sistemi autonomi, non possono sfuggire alla responsabilità quando quei sistemi falliscono. È una questione di onestà e di bilanciamento del potere.
Non stiamo chiedendo all’AI di essere perfetta (anche noi umani sbagliamo); stiamo chiedendo che, se sbagli, ci sia qualcuno di abbastanza grande e solvibile che si assuma il peso dell’errore.
La Regola di Buon Senso
Alla fine, la risposta più umana e sensata è questa:
Se tu metti in strada qualcosa di autonomo che è capace di fare male, tu ne sei responsabile. Non importa se è colpa del tuo programmatore, del tuo sensore o di un dato di training mancante.
Chi trae il massimo vantaggio dall’AI — il produttore che guadagna milioni o l’operatore che usa il robot per risparmiare sui costi — deve essere colui che paga il conto quando il sistema fallisce.
È l’unico modo per proteggere noi, cittadini e consumatori, ed è l’unico modo per spingere l’industria a costruire sistemi davvero, ma davvero, sicuri. La tecnologia è il nostro servo, non il nostro padrone, e il buon senso deve sempre sedersi al posto di guida.