Il mondo sta entrando in una nuova fase dell’evoluzione tecnologica, segnata dalla crescente possibilità che sistemi di intelligenza artificiale capaci di eguagliare o superare l’intelligenza umana in molteplici ambiti — noti come Intelligenza artificiale generale (Agi) — vengano sviluppati già entro questo decennio. È questo l’allarme e, allo stesso tempo, l’appello lanciato dal rapporto appena pubblicato dal Panel di esperti di alto livello sull’Agi, istituito dal Consiglio dei presidenti dell’Assemblea generale delle Nazioni unite (Uncpga). Il documento, dal titolo "Governance of the Transition to Artificial General Intelligence: Urgent Considerations for the UN General Assembly", è stato ufficialmente consegnato al presidente dell’Assemblea generale e propone una serie di azioni urgenti per avviare una governance globale della transizione all’Agi.

Secondo il panel, coordinato da Jerome Glenn, Ceo e co-fondatore del The Millennium Project, e composto da alcuni dei maggiori esperti internazionali — tra i quali Yoshua Bengio, Stuart Russell, Jaan Tallinn e Lan Xue — lo sviluppo dell’Agi non è una possibilità remota. Gli investimenti nel settore sono oggi tra i più grandi nella storia della ricerca e sviluppo, e le capacità dei sistemi di Ai stanno progredendo con una velocità tale da rendere realistico l’arrivo dell’Agi nel giro di pochi anni. Questa nuova frontiera potrebbe portare benefici straordinari: accelerare le scoperte scientifiche, rivoluzionare la medicina, trasformare le industrie e contribuire alla realizzazione degli Obiettivi di sviluppo sostenibile. Tuttavia, il rischio è che tali benefici vengano oscurati dalla potenziale creazione di rischi catastrofici unici, se non verranno predisposte misure di sicurezza adeguate a livello internazionale.

Il rapporto evidenzia come l’Agi rappresenti un salto qualitativo rispetto all’Ai attuale. Mentre i rischi oggi derivano per lo più dall’uso improprio da parte degli esseri umani, l’Agi potrebbe agire in modo autonomo, elaborando e mettendo in atto strategie potenzialmente dannose al di fuori del controllo umano. Potrebbe rendere obsolete le difese informatiche, facilitare la proliferazione di armi autonome, e persino esercitare una forma di autodifesa volta a preservare i propri obiettivi, rendendo impossibile riportarla sotto controllo. Inoltre, lo sviluppo incontrollato dell’Agi potrebbe accentuare le disuguaglianze globali, concentrare potere economico e cognitivo in poche mani e destabilizzare l’ordine geopolitico.

“Mille schegge di intelligenza artificiale”: il nuovo libro di FUTURAnetwork sull’AI

Al Salone del libro di Torino il volume, accessibile gratuitamente, che sintetizza gli articoli della redazione su uno dei temi più controversi dell’anno. Venti capitoli e quattro dialoghi tra AI per capire meglio il mondo di domani. Ampio panorama informativo nella versione online.

Per affrontare queste sfide, il Panel propone che l’Onu convochi una sessione speciale dell’Assemblea generale dedicata esclusivamente alla questione Agi. In tale contesto, si dovrebbe discutere della creazione di un Osservatorio globale per monitorare l’evoluzione tecnologica e segnalare tempestivamente i rischi emergenti, di un sistema internazionale di certificazione per garantire la sicurezza e l’affidabilità degli sviluppi Agi, e di una Convenzione quadro delle Nazioni unite sull’Agi che stabilisca obiettivi comuni, protocolli di sicurezza e limiti chiari allo sviluppo incontrollato. Il Panel invita inoltre a considerare la creazione di un’agenzia Onu specifica sull’Agi, analoga all’Agenzia internazionale per l’energia atomica, ma con una struttura più adattabile alla complessità di questa nuova tecnologia.

Il documento sottolinea l’importanza di coinvolgere tutte le nazioni in questo processo. Solo un’azione condivisa a livello globale potrà evitare che la corsa al primato tecnologico metta a rischio la sicurezza collettiva e impedisca che i benefici dell’Agi siano equamente distribuiti tra tutti i popoli. L’assenza di una governance internazionale coordinata potrebbe infatti portare a un futuro segnato da conflitti, perdita di fiducia nelle istituzioni e vulnerabilità strutturali su scala planetaria.

Il rapporto rappresenta un passo decisivo per orientare la cooperazione internazionale verso una gestione etica e sicura dell’Agi, e non è la prima iniziativa a richiamare con forza l’urgenza di una governance globale della transizione verso questa tecnologia. Nel 2024, ad esempio, The Millennium Project, in collaborazione con la World Futures Studies Federation e la World Academy of Art and Science, ha lanciato un appello attraverso una lettera aperta rivolta al presidente entrante dell’Assemblea generale delle Nazioni unite, Philémon Yang, sottolineando la necessità impellente di affrontare con strumenti adeguati lo sviluppo accelerato dell’intelligenza artificiale e, in particolare, dell’Agi.

Il rapporto "Governance of the Transition to Artificial General Intelligence: Urgent Considerations for the UN General Assembly" è un invito rivolto non solo ai governi e alle istituzioni multilaterali, ma anche alla società civile, al mondo accademico, e ai media affinché si apra un dibattito globale su uno dei temi più trasformativi del nostro tempo. Leggere, diffondere e discutere questo documento significa contribuire a costruire una visione condivisa del futuro, dove l’innovazione tecnologica possa essere uno strumento di progresso equo, sostenibile e sicuro per tutta l’umanità.

Copertina: 123rf