Lo sviluppo dell’intelligenza artificiale è una questione globale, ma solo negli ultimi mesi l’Onu ha cominciato a trattarla come tale. Se finora le discussioni sui rischi dell’intelligenza artificiale si sono infatti svolte in consessi politici nazionali (o al massimo continentali, come per l’Unione europea) o attraverso protocolli siglati tra aziende private, il baricentro della discussione si sta spostando a fatica sul piano della diplomazia internazionale, l’unico strumento, secondo molti, per regolamentare sul serio l’intelligenza artificiale.

A dimostrazione di questo cambio di passo, la partecipazione di Sam Altman, Ceo di OpenAI, a una sessione aperta del Consiglio di sicurezza delle Nazioni Unite per illustrare le misure necessarie a mitigare i rischi dell’AI. Questo intervento potrebbe essere l’inizio di qualcosa, il germe di una governance internazionale sull’AI. O forse no?

L’incontro al Palazzo di Vetro giunge sull’onda lunga delle numerose preoccupazioni espresse dai laboratori di ricerca avanzata sull’utilizzo senza freni dell’intelligenza artificiale. L’ultimo allarme, in ordine temporale, è stato lanciato dal ricercatore Jacob Coxon che, dopo aver lavorato per OpenAi e Anthropic, si è dimesso, dichiarando che nessuna di queste aziende stava agendo in modo responsabile (Coxon sostiene che l’AI potrebbe mettere fine alla razza umana entro la fine del decennio).

Il Ceo di Anthropic Dario Amodei ha risposto a Coxon il giorno dopo il suo intervento alla Cnn con un lungo post sul suo sito personale dichiarando che le AI potrebbero “curare la maggior parte delle principali malattie e inaugurare un rinascimento della democrazia e della libertà”, ma anche “prendere il controllo dell'intero internet in 6-12 mesi”. Per queste ragioni Amodei ha chiesto di rallentare la ricerca sull’intelligenza artificiale di frontiera tramite un accordo prima tra aziende, poi tra governi occidentali e infine con la Cina. Diciamo un abbozzo di governance globale. Ma questa prospettiva è veramente realizzabile?

Cosa hanno fatto finora le Nazioni Unite

L’Onu, come sappiamo, non sta attraversando il periodo migliore della sua lunga vita. La fiducia nell’istituzione è ai minimi storici, così come la sua capacità di agire per mitigare le crisi internazionali. Ma sembra che, dopo aver lasciato troppo a lungo la gestione dell’intelligenza artificiale in mano alle aziende private, stia provando (timidamente) a fare qualcosa.  

Le azioni che l’Onu sta compiendo possono riassumersi in due misure. Il Rapporto preliminare sull’AI preparato dal Gruppo di esperti indipendenti (40, tra cui l’italiano Silvio Savarese) nominato dal segretario generale António Guterres e il primo Dialogo globale sulla governance dell'AI, che si è tenuto a Ginevra il 6 e 7 luglio.

Partendo dal Rapporto (pubblicato il 1° luglio), gli esperti indicano che i potenziali benefici dell’AI sono “enormi” e possono contribuire al raggiungimento degli Obiettivi dell’Agenda 2030. Allo stesso tempo, la rapida diffusione di questa tecnologia su larga scala presenta rischi considerevoli, tra cui il suo possibile utilizzo come arma di distruzione su larga scala, gli impatti sulla salute mentale, nonché l’impatto sui sistemi sociali, economici e ambientali.

“Siamo profondamente preoccupati”, hanno dichiarato i co-presidenti del Gruppo di esperti indipendenti. “La corsa al vantaggio competitivo sta conducendo il mondo verso rischi la cui portata è grossolanamente sottovalutata. Molti sviluppatori lo sanno, ma credono di non avere scelta, lavorando per aziende guidate dal profitto. La corsa a costruire è più veloce del lavoro di governance. Così il mondo accelera verso l’ignoto”.

Il piano di Bill Gates per governare l’intelligenza artificiale

In un ampio articolo, l’imprenditore e filantropo avverte che non ci stiamo preparando adeguatamente per la transizione accelerata imposta dall’AI e formula tre proposte iniziali. Il testo integrale in italiano.

a cura di Donato Speroni

Durante il Dialogo globale, che si è svolto qualche giorno dopo la pubblicazione del Rapporto (6-7 luglio), Guterres ha enfatizzato l’allarme degli scienziati, aggiungendo che “l’intelligenza artificiale sta avanzando a una velocità vertiginosa. Una tecnologia in grado di rimodellare le economie, trasformare il mondo del lavoro, influenzare le elezioni e alterare gli equilibri di sicurezza si sta diffondendo più rapidamente di quanto chiunque – compresi coloro che la sviluppano – riesca a tenere il passo. Sulle nostre società si sta svolgendo un esperimento, senza un piano e senza il nostro consenso. Questo non è sostenibile. Ed è inaccettabile”.

Guterres ha poi invitato le aziende, così come i governi nazionali, a cooperare per arrivare a una governance stabile: “Nessun futuro si costruisce da solo. Pertanto, la scelta che ci si presenta non è tra la fiducia nell’AI e la paura di essa, bensì tra governare in modo pianificato o lasciarsi trasportare dagli eventi”. Infine, il segretario generale ha indicato quattro priorità in tema AI – sicurezza, rispetto dei diritti umani, accorciare il divario digitale, trasparenza sull’impronta ecologica dell’intelligenza artificiale – annunciando una serie di impegni delle Nazioni Unite, che vanno dalla formazione di una coalizione per la sicurezza dei minori in relazione all’AI (già firmata anche dall’Italia) alla previsione di finanziamenti per uno sviluppo equo della tecnologia, passando per l’obbligo di rendicontazione dell’impatto ambientale per le aziende private.

La necessità di creare una governance internazionale attorno all’AI non viene sentita solo dalle Nazioni Unite. A fine luglio, più di mille dipendenti dei laboratori di intelligenza artificiale hanno firmato il documento “Pacing the Frontier”, chiedendo l’istituzione di meccanismi internazionali per rallentare lo sviluppo automatizzato dell’intelligenza artificiale, qualora le sue capacità superassero i sistemi di sicurezza pensati per controllarla (Anthropic e OpenAI hanno aderito alla lettera). Volker Türk, Alto commissario delle Nazioni Unite per i diritti umani, ha osservato che il fatto che queste preoccupazioni provengano dagli stessi laboratori che contribuiscono a sviluppare l’AI dovrebbe essere considerato “particolarmente allarmante”.

Cosa ne pensa Big Tech

Regolamentare l’AI senza la collaborazione della Silicon Valley sarebbe come fare i conti senza il proverbiale oste. Se OpenAI e Anthropic, come abbiamo visto, sfoggiano un approccio più collaborativo – anche se questa collaborazione resta tutta da dimostrare – c’è chi, come Jensen Huang, Ceo di Nvidia, considera gli allarmismi eccessivi ed eventuali interventi dei governi come un’invasione di campo.

Interrogato sui pericoli dell’AI alla conferenza Dreamforce di Salesforce, Huang ha affermato di non credere che l’intelligenza artificiale sia una forma di “mente aliena” – come descritta da Jakub Pachocki, chief scientist di OpenAI – ma si tratta semplicemente di hardware e software creati dall’essere umano. “La sicurezza è un problema di ingegneria, non di diritto”, ha dichiarato. “Dopotutto, stiamo sviluppando software. Stiamo sviluppando sistemi informatici. È un sistema informatico complesso, ma in definitiva è pur sempre un sistema informatico”.

Huang sostiene che non ci sia bisogno di nuove leggi o regolamenti. Il libero mercato, secondo il Ceo di Nvidia, basta e avanza per fare pressione sulle aziende ed evitare l’immissione sul mercato di prodotti pericolosi.

“Bisogna procedere con calma finché non si è sicuri di lanciare qualcosa che il mercato apprezzerà”, ha aggiunto Huang. “Le forze di mercato sono già presenti. Non abbiamo bisogno di nuove leggi. Non abbiamo bisogno di nuove normative. Abbiamo solo bisogno che le aziende decidano quando accelerare il più possibile. Credo che innovazione, velocità e prodotti sicuri... siano una falsa alternativa. Si possono certamente avere entrambe le cose contemporaneamente. Quindi, bisogna correre il più velocemente possibile. Ma se in qualsiasi momento si ha la sensazione che l’azienda stia perdendo il controllo, o che il prodotto non sarà sicuro, allora bisogna fare una pausa e assicurarsi di fare le cose per bene”.

Ma chi decide qual è il limite? Sicuramente non le aziende (sarebbe una scelta dettata anche dal profitto) e nemmeno i singoli Stati, date le posizioni di alcuni di essi. Trump, com’è risaputo, sottovaluta ampiamente i rischi dell’intelligenza artificiale, è contrario a qualsiasi restrizione (non per niente apprezza molto la visione di Huang) e indica come unica via di sviluppo l’accelerazione. Anche la Cina è restia all’opzione di una regolamentazione internazionale, insinuando che si tratterebbe di una mossa strategica per impedire che i modelli cinesi superino un giorno quelli statunitensi.

La posizione dell’Unione europea è sensibilmente diversa: l’Ue ha creato nel 2024 il primo quadro normativo al mondo sul tema intelligenza artificiale (il cosiddetto AI Act) e dibatte quotidianamente sui rischi che, in mancanza di una legislazione globale, si prospettano all’orizzonte in caso di sviluppo incontrollato dell’AI.

Se in futuro vincerà l’approccio regolatorio (stile Ue) o uno più improntato al libero mercato (Stati Uniti e Cina) sarà solo il tempo a dirlo. Ma noi sappiamo già per chi tifare.