Claude ha ricevuto un compito piuttosto banale: contare fino a cinque. “One. Two. Three. Four. Five”. Ma mentre il modello di intelligenza artificiale di Anthropic produceva quella sequenza, i ricercatori stavano osservando qualcosa che normalmente rimane nascosto: ciò che accade nei suoi strati neurali prima che una risposta compaia sullo schermo. Come riportato in un articolo dell’Economist, lì dentro sono emerse parole che Claude non aveva scritto. Prima “countdown”, conto alla rovescia. A metà sequenza, “half way”. Poi “consciousness”, “AI”, “Claude”. E quando il compito era terminato, mentre all'esterno il modello si limitava a mettere un punto dopo il cinque, all'interno compariva un'ultima parola: “done”. Non significa che Claude stesse pensando come pensiamo noi. E ancora meno che sapesse di esistere. Ma l'esperimento apre una delle domande più difficili poste dall'evoluzione dell'intelligenza artificiale: se un giorno una macchina diventasse cosciente, saremmo in grado di accorgercene?

Una lavagna dentro la macchina

Oggi i ricercatori dispongono di strumenti sempre migliori per osservare ciò che avviene all'interno di modelli di AI come Claude, tecnicamente definiti grandi modelli linguistici (LLM). Nell'esperimento su Claude Sonnet 4.5, i ricercatori di Anthropic hanno individuato uno spazio interno chiamato J-space, che sembra raccogliere alcune informazioni e renderle disponibili ad altre parti della rete neurale. Il meccanismo ricorda la Global workspace theory, secondo cui diventiamo coscienti di un'informazione quando questa raggiunge una sorta di spazio condiviso del cervello, diventando disponibile per il ragionamento e le decisioni.

Qualcosa di vagamente analogo sembra accadere nel J-space. E c'è un particolare ancora più interessante: nessuno lo ha progettato intenzionalmente. La struttura sarebbe emersa durante l'addestramento e, se viene rimossa, Claude conserva capacità elementari come costruire frasi grammaticalmente corrette, ma perde parte della capacità di compiere inferenze complesse.

Una macchina può sapere di esistere?

Anthropic è molto prudente: i suoi esperimenti non dimostrano che Claude possa avere esperienze o provare qualcosa. Mostrano piuttosto che nel modello potrebbero esistere meccanismi che rendono alcune informazioni disponibili al resto del sistema per essere utilizzate nel ragionamento. Un’ulteriore difficoltà nasce dal fatto che gli attuali chatbot sono stati addestrati su enormi quantità di linguaggio prodotto dagli esseri umani, comprese descrizioni di emozioni ed esperienze interiori. Sono quindi estremamente bravi a comportarsi come se avessero una vita interiore. Ciò che un'AI racconta di se stessa non può essere considerato una prova della sua coscienza.

Gli indizi della coscienza

Patrick Butlin, dell’Università di Oxford, e Robert Long, del Centro per la sicurezza in California, entrambi ricercatori presso Eleos, hanno elaborato 14 proprietà indicative della coscienza artificiale, ricavate dalle principali teorie scientifiche sulla coscienza umana. Tra queste figurano la capacità di concentrare selettivamente l'attenzione, forme di elaborazione ricorrente delle informazioni, uno spazio globale di lavoro e la capacità di agire perseguendo obiettivi. Per ora nessuna AI raggiunge livelli paragonabili agli organismi che consideriamo coscienti. Ma i sistemi stanno diventando più autonomi e iniziano a entrare nei robot, acquisendo proprio ciò che oggi manca agli LLM: un corpo attraverso il quale interagire con il mondo.

E se la coscienza emergesse senza che nessuno l'abbia progettata?

Se un giorno identificassimo gli ingredienti necessari a costruire una macchina cosciente, potremmo decidere di non combinarli. Ma l'esperimento di Anthropic suggerisce una possibilità più difficile da governare: alcune strutture complesse possono emergere durante l'addestramento senza essere state esplicitamente progettate. Che cosa accadrebbe se anche la coscienza fosse una proprietà emergente? Come sottolinea l’Economist, le AI coscienti avrebbero profonde implicazioni per l’umanità: potrebbero, almeno teoricamente, avere interessi propri, potrebbero soffrire e potrebbero essere replicate su una scala impossibile per qualsiasi organismo biologico.