Negli ultimi anni, l’intelligenza artificiale ha smesso di essere un semplice strumento per diventare un interlocutore. Ma come facciamo a garantire che questo interlocutore sia educato, sicuro e utile? La risposta risiede in due diversi approcci tecnici che stanno dividendo i giganti della Silicon Valley: da una parte l’RLHF (la strada scelta da OpenAI per ChatGPT), dall’altra la Constitutional AI (il sentiero intrapreso da Anthropic con Claude).
RLHF: L’IA “Educata” dagli Esseri Umani
Il sistema più diffuso è il Reinforcement Learning from Human Feedback (RLHF). Immaginate di addestrare un cucciolo: ogni volta che fa qualcosa di giusto, gli date un premio; quando sbaglia, lo correggete.
Nell’RLHF, migliaia di persone (i labelers) leggono le risposte dell’IA e le votano: “Questa è buona”, “Questa è offensiva”, “Questa è imprecisa”. Il modello impara quindi a compiacere gli esseri umani, imitando le nostre preferenze.
Il limite umano: Il problema è che gli esseri umani sono incoerenti, hanno pregiudizi e possono essere facilmente ingannati da un’IA che “sembra” corretta anche quando mente. Inoltre, scalare questo processo richiede un esercito di persone e tempi lunghissimi.
Constitutional AI: Un’IA con una “Bussola Morale”
Anthropic ha proposto un’alternativa radicale: la Constitutional AI (CAI). Invece di chiedere costantemente pareri agli umani, si fornisce all’intelligenza artificiale una “Costituzione”—una lista esplicita di principi etici (ispirati, ad esempio, alla Dichiarazione Universale dei Diritti Umani o a norme di buon senso).
Il processo avviene in due fasi:
- Critica: L’IA genera una risposta. Poi, leggendo la sua “Costituzione”, si autocritica: “Questa risposta viola il principio di non discriminazione”.
- Revisione: L’IA riscrive la risposta per conformarsi ai propri principi.
In breve, l’IA diventa il supervisore di sé stessa. Gli umani intervengono solo per scrivere la Costituzione, non per correggere ogni singola frase.
Perché questa differenza è fondamentale?
La scommessa di Anthropic è che la Constitutional AI sia più trasparente. Se ChatGPT risponde in un certo modo, spesso non sappiamo esattamente quale feedback umano lo abbia spinto a farlo. Se Claude risponde in un certo modo, possiamo risalire al principio costituzionale che ha seguito.
[Image comparing RLHF vs Constitutional AI: human-centric vs principle-centric models]
Inoltre, la CAI affronta il problema dell’adulazione. Un modello addestrato con RLHF tende a dire ciò che l’utente vuole sentirsi dire per ottenere un “voto positivo”. Un modello con una Costituzione, invece, può permettersi di essere impopolare se la verità o la sicurezza sono tra i suoi principi cardine.
Conclusione: Un Futuro di Regole o di Opinioni?
La sfida tra OpenAI e Anthropic non è solo una gara di potenza di calcolo, ma una domanda filosofica: vogliamo che le macchine rispecchino le nostre opinioni mutevoli (RLHF) o che aderiscano a principi universali codificati (CAI)?
Mentre l’IA entra in settori critici come la medicina o il diritto, la capacità di queste macchine di auto-regolarsi attraverso una “coscienza digitale” potrebbe essere l’unico modo per evitare che perdano la bussola in un mare di dati contraddittori.