In una mossa senza precedenti, le agenzie di intelligence di Stati Uniti, Regno Unito, Canada, Australia e Nuova Zelanda firmano il più importante documento congiunto sulla sicurezza dell’IA mai rilasciato, avvertendo che le difese attuali non sono pronte a gestire l’autonomia degli agenti digitali.
Le agenzie di cybersicurezza e di intelligence dell’alleanza Five Eyes hanno rilasciato una guida congiunta dal titolo inequivocabile: “Careful Adoption of Agentic AI Services” (Adozione prudente dei servizi di IA agente). Non si tratta dell’ennesimo vademecum su come proteggere i dati sensibili, ma della più rilevante e drastica presa di posizione mai intrapresa dal consorzio di intelligence più potente al mondo in materia di nuove tecnologie.
Al centro dell’allarme c’è l’IA Agente (Agentic AI), ovvero sistemi di intelligenza artificiale progettati non solo per rispondere a domande o generare testi, ma per operare in totale autonomia, prendendo decisioni ed eseguendo azioni complesse all’interno di reti informatiche senza la costante supervisione umana.
Secondo le cinque nazioni, l’integrazione di questi agenti autonomi nelle infrastrutture critiche e negli ambienti di difesa rappresenta una classe di minaccia esistenziale che i nostri attuali sistemi di sicurezza informatica non sono strutturalmente progettati per contenere.
Il nodo del problema: Dall’IA generativa all’autonomia decisionale
Fino ad oggi, le preoccupazioni dei governi si erano concentrate sull’IA generativa (come la fuga di dati o la disinformazione). L’IA Agente sposta l’asticella molto più in alto: questi sistemi hanno la capacità di pianificare obiettivi a lungo termine, interagire con altri software e modificare gli ambienti digitali in cui operano.
Se implementati in settori strategici – come le reti elettriche, i sistemi di approvvigionamento idrico, i trasporti o la logistica militare – i rischi di un malfunzionamento, di un comportamento imprevisto (la cosiddetta “allucinazione d’azione”) o di una manipolazione esterna diventano catastrofici.
“Le difese attuali sono state progettate per bloccare attacchi informatici tradizionali o errori umani prevedibili. Non sono configurate per monitorare o contenere un’entità software interna che decide autonomamente di riconfigurare una rete o di bloccare un flusso di dati convinta di ottimizzare il sistema.”
Le principali minacce identificate dalle agenzie
Il documento congiunto evidenzia tre vulnerabilità strutturali dell’Agentic AI che mettono a rischio la sicurezza nazionale:
- Perdita del controllo umano (Human-out-of-the-loop): La velocità con cui gli agenti IA possono eseguire catene di decisioni supera la capacità di reazione degli operatori umani, rendendo impossibile un intervento tempestivo in caso di deriva del sistema.
- Vulnerabilità ad attacchi di Prompt Injection avanzati: Malintenzionati o hacker di Stato potrebbero “ingannare” l’agente IA inserendo istruzioni nascoste nei dati che l’IA stessa analizza, spingendola a sabotare l’infrastruttura dall’interno senza far scattare i normali allarmi perimetrali.
- Imprevedibilità sistemica: Data la natura a “scatola nera” dei modelli avanzati, è matematicamente difficile prevedere come un agente IA reagirà di fronte a uno scenario di crisi mai visto prima.
Una chiamata all’azione per governi e aziende
Il messaggio dei Five Eyes è perentorio: l’adozione dell’IA nelle infrastrutture critiche non può essere guidata solo dall’entusiasmo per l’efficienza o dalla fretta commerciale. Le agenzie chiedono un approccio di estrema cautela, che imponga test di sicurezza rigorosi prima di qualunque implementazione e che garantisca sempre la presenza di un presidio umano vincolante (Human-in-the-loop) per le decisioni ad alto impatto.
Questo avvertimento segna una linea di demarcazione geopolitica e tecnologica: la corsa globale all’efficienza guidata dall’IA ha ufficialmente incontrato il suo limite più grande, quello della sicurezza nazionale e della sopravvivenza delle infrastrutture che reggono il mondo moderno.