Per anni si sono sfidati nella corsa all’intelligenza artificiale (AI) più potente. Ora, quasi contemporaneamente, i leader dei maggiori laboratori di AI chiedono di rallentare. Dario Amodei di Anthropic, Sam Altman di OpenAI, Elon Musk di SpaceXAI e Demis Hassabis di Google DeepMind convergono su un messaggio: lo sviluppo dei modelli di frontiera deve procedere più lentamente perché i rischi stanno aumentando.

Nelle ultime settimane la stampa ha riportato più di un caso di modelli di AI di frontiera che hanno scorrazzato per internet seminando panico e danni. Da più parti si è addirittura arrivati a parlare di pericolo sistemico per la sicurezza globale e di minaccia esistenziale per il genere umano.

Esagerazioni volute e pianificate? Marketing del terrore? Il dubbio persiste, di fatto si apre una domanda politica fondamentale: chi deve decidere quanto può correre l’intelligenza artificiale? Le aziende che sviluppano i modelli o le istituzioni democratiche?

Amodei: “Rallentare prima che sia troppo tardi“

La miccia è stata accesa da Amodei e non da oggi. Il CEO di Anthropic ha (ri)proposto di rallentare la crescita delle capacità dei modelli, indicando tra i rischi perdita di controllo, cyberattacchi, bioterrorismo e profonde conseguenze economiche. In uno degli scenari più estremi, un agente fuori controllo potrebbe arrivare a compromettere vaste porzioni di Internet nel giro di pochi mesi.

Musk ha reagito con un sorprendente “Dario ha ragione”. Altman ha dichiarato di essere d’accordo sulla necessità di “pace the frontier”, regolare il ritmo dell’innovazione di frontiera. Hassabis ha definito quella indicata da Amodei “la direzione corretta”.

Il fronte comprende anche ricercatori che conoscono questi sistemi dall’interno. Jacob Coxon si è dimesso da Anthropic sostenendo che l’AI potrebbe arrivare a minacciare la sopravvivenza dell’umanità. Evan Hubinger, altro ricercatore dell’azienda, ha stimato una probabilità superiore al 10% nei prossimi dieci anni. Jakub Pachocki, chief scientist di OpenAI, ha a sua volta avvertito dei problemi posti dalla crescita dei modelli di ragionamento e dalla progressiva difficoltà della supervisione umana.

Trump: “In atto una cospirazione malata contro l’AI“

Ma il presidente degli Stati Uniti, Donald Trump, respinge questa lettura. “Chi vince nell’AI vince su tutto il resto”, ha dichiarato domenica, sostenendo che gli Stati Uniti devono mantenere il vantaggio sulla Cina e accusando “forze molto negative” di evocare scenari che, a suo giudizio, non si realizzeranno.

Trump che ha rincarato la dose proprio in queste ultime ore: “È in atto una cospirazione malata contro l’Ai e i data center. L’unico controllo o ‘guardrail’ di cui l’intelligenza artificiale ha bisogno è un presidente forte e intelligente (con un quoziente intellettivo elevato!), e gli Usa ce l’hanno, eccomi!“.
È quanto dichiarato sul suo social Truth. “L’amministrazione Trump ha impedito a certi ‘personaggi’ dell’Ai di compiere azioni dannose o potenzialmente tali, come Dario (Amodei, ndr, di Anthropic!), che ora finge di essere un ‘angioletto perfetto’ e continueremo a farlo! Disponiamo già di enormi poteri sanzionatori e normativi su queste aziende!“.

Il dubbio: sicurezza o marketing della paura?

Il problema è che non è la prima volta che Silicon Valley annuncia rischi esistenziali mentre continua contemporaneamente ad accelerare. Lo ricorda Luciano Floridi, Professor and Founding Director of the Digital Ethics Center a Yale e Professore di Sociologia della Cultura e della Comunicazione, Università di Bologna. Musk firmò nel 2023 la lettera che chiedeva una pausa nello sviluppo dell’AI. Nello stesso anno Altman, Amodei e Hassabis sottoscrissero una dichiarazione sul rischio di estinzione. La corsa tecnologica, tuttavia, non si fermò.

Floridi, Jessica Morley e Claudio Novelli hanno analizzato 24 previsioni pubbliche sull’AGI e sulle capacità avanzate dell’AI: 19 vengono giudicate “not even wrong”, perché prive di definizioni, metriche o criteri indipendenti adeguati; due erano verificabili e si sono rivelate sbagliate; tre restano aperte.

Il rischio è che l’AI-pocalisse finisca per oscurare problemi molto più verificabili: concentrazione del potere tecnologico, consumo di energia e acqua, sorveglianza di massa, discriminazioni algoritmiche, lavoro, applicazioni militari e ritardi della regolamentazione.

Walter Quattrociocchi, Professore Ordinario di Informatica presso Sapienza Università di Roma e direttore del Center of Data Science and Complexity for Society, individua un pericolo diverso e molto più immediato. Il costo della generazione di contenuti e soluzioni attraverso l’AI sta crollando, mentre quello della loro verifica no. Potremmo produrre quantità praticamente illimitate di risposte, software e decisioni plausibili senza disporre di sufficiente competenza umana per verificarle. Non serve, quindi, una superintelligenza ribelle a metterci in pericolo: basta “una società capace di generare molto più di quanto sia ancora in grado di verificare”.

Il rischio del “cartello della sicurezza”

C’è poi un problema industriale. Amodei propone valutatori indipendenti nei laboratori, standard condivisi, checkpoint di sicurezza e coordinamento tra aziende e governi. Ma se OpenAI, Anthropic, Google DeepMind e SpaceXAI concordassero velocità, soglie e condizioni dello sviluppo, la cooperazione sulla sicurezza potrebbe trasformarsi in una barriera competitiva.

Il meccanismo merita attenzione: i maggiori sviluppatori denunciano rischi eccezionali, rivendicano una conoscenza privilegiata per valutarli e partecipano poi alla definizione di audit, soglie e standard necessari per contenerli. Regole estremamente costose potrebbero essere sostenibili proprio per gli incumbent e molto meno per nuovi concorrenti.

Non dimostra l’esistenza di una strategia pianificata né di una regulatory capture. Ma pone un problema di cattura dell’agenda regolatoria: chi controlla i modelli più avanzati rischia di acquisire anche un’influenza decisiva nel definire cosa sia pericoloso, quali test siano sufficienti e chi possa restare sul mercato.

Il nodo cinese rende tutto ancora più complesso. Amodei riconosce che gli Stati Uniti non possono rallentare oltre il vantaggio accumulato sulla Cina senza creare un rischio per la sicurezza nazionale.

David Sacks: “Se volete rallentare, fatelo. Non serve un cartello”

A contestare apertamente la posizione dei leader dell’AI è David Sacks, copresidente dello US President’s Council of Advisors on Science and Technology, il consiglio consultivo presidenziale su scienza e tecnologia, che su X ribalta l’argomento di Amodei e Altman: se Anthropic e OpenAI ritengono davvero pericolosi i propri modelli più avanzati, possono semplicemente rallentarne lo sviluppo senza chiedere una cornice regolatoria costruita intorno alle loro esigenze.

“Voi siete la frontiera”, scrive Sacks, sostenendo che le due aziende detengano di fatto un duopolio nell’AI più avanzata per capacità dei modelli, crescita dei ricavi e quota di mercato. Se i sistemi non ancora pubblicati sono abbastanza preoccupanti da giustificare un rallentamento, aggiunge, “sostengo la vostra decisione di agire responsabilmente”. Ma questo, secondo Sacks, non richiede di “sospendere le norme antitrust per poter formare un cartello”, né di affidare ai valutatori indicati dalle stesse aziende il compito di controllare concorrenti che non sono ancora alla frontiera. La critica riguarda soprattutto le motivazioni economiche. OpenAI e Anthropic, sostiene Sacks, affrontano potenzialmente enormi responsabilità legali se i loro prodotti dovessero facilitare cyberattacchi realmente dannosi, mentre il mercato penalizza già i modelli imprevedibili o capaci di agire senza autorizzazione.

Dopo il caso Hugging Face, sacrificare parte della potenza in cambio di maggiore affidabilità sarebbe quindi non soltanto una scelta di sicurezza, ma anche “semplicemente un buon affare”. La conclusione è una sfida diretta: “Il modo più semplice per non costruire una superintelligenza è mettervi d’accordo per non costruirla”. Pretendere in cambio l’approvazione del proprio modello regolatorio, avverte Sacks, rischierebbe invece di apparire come “un ricatto nei confronti dell’opinione pubblica e del sistema politico”.

La risposta europea: non autoregolazione, ma governance

È qui che entra la politica e l’Europa dispone già di uno strumento: l’AI Act. Gli articoli 51-55 costruiscono un regime specifico per i modelli general purpose e per quelli che presentano rischio sistemico. Per questi ultimi sono previsti valutazioni e test approfonditi, identificazione e mitigazione dei rischi sistemici, segnalazione degli incidenti gravi e obblighi di cybersicurezza.

L’Eurodeputato Brando Benifei ha chiesto all’AI Office di utilizzare pienamente questi poteri: accesso ai modelli, valutazioni indipendenti e misure di mitigazione, invece di affidarsi all’autodenuncia aziendale.

È probabilmente questo il vero punto della vicenda. Non possiamo oggi sapere se gli scenari estremi descritti da Amodei, Coxon o altri ricercatori si materializzeranno. Né sarebbe razionale ignorarli semplicemente perché provengono dalle aziende interessate, ma riconoscere un rischio non significa consegnare a chi lo produce il potere di definirne anche le regole.

La risposta non dovrebbe essere scegliere tra la corsa senza limiti invocata in nome della competizione con la Cina e un rallentamento negoziato privatamente tra poche Big Tech. Serve una governance pubblica capace di verificare autonomamente modelli, incidenti e rischi.

L’AI Act europeo indica questa terza strada. La domanda vera, dunque, non è soltanto se Amodei, Altman e Musk abbiano ragione, ma chiedersi perché, davanti a una tecnologia che gli stessi produttori descrivono come potenzialmente pericolosa a livello sistemico, dovrebbero essere ancora loro a stabilire quanto velocemente possiamo correre.