In un importante appello all'azione, The millennium project, in collaborazione con la World futures studies federation (Wfsf) e la World academy of art and science (Waas), ha inviato una lettera aperta al nuovo presidente dell'Assemblea generale delle Nazioni unite (Unga), Philémon Yang, il 9 settembre. La lettera affronta l'urgente necessità di stabilire una governance nel campo in rapida evoluzione dell'Intelligenza artificiale (AI) e della sua futura evoluzione in Intelligenza artificiale generale (Agi).

Gli attuali sforzi di regolamentazione del settore si concentrano sull'Intelligenza artificiale ristretta (Ani), diffusa oggi. Tuttavia, si presta ancora poca attenzione alla distinzione tra Ani e le sue potenziali evoluzioni verso l'Agi e l'Intelligenza artificiale superiore (Asi), come delineato nello studio "Work/Tech 2050" di The millennium project, e alla necessità di sviluppare modelli di governance globale per gestire la transizione verso l’Agi, oggetto di uno studio in corso della stessa organizzazione.

Firmata da 230 leader politici, imprenditoriali e accademici di tutto il mondo, la lettera mostra una crescente preoccupazione in merito alla sicurezza e alla governance della transizione verso l'Agi, una forma di AI che si prevede emergerà entro il prossimo decennio. A differenza dei sistemi di AI attuali, noti come Ani, specializzati in compiti specifici, l'Agi avrebbe la capacità di apprendere e svolgere una vasta gamma di compiti cognitivi, fino a superare l'intelligenza umana.

I firmatari sottolineano l'importanza cruciale di stabilire quadri regolatori globali prima che i sistemi Agi vengano sviluppati e implementati, e sollecitano l'Assemblea generale dell'Onu a convocare una sessione speciale dedicata alla governance della transizione verso l'Agi durante la prossima riunione di settembre. In particolare, sollecitano una risoluzione dell'Onu per creare un "comitato di volenterosi" incaricato di redigere una convenzione globale sull'AI. Questa convenzione dovrebbe includere sia l'Ani che l'Agi, gettando le basi per un'agenzia internazionale specializzata nella supervisione dello sviluppo sicuro delle tecnologie AI.

Non è la prima volta che The millennium project e i suoi partner guidano iniziative simili. Nel 2021, dopo una discussione globale durante il World futures day del 1° marzo, hanno proposto la creazione di un Ufficio delle Nazioni unite per le minacce strategiche, volto a centralizzare e coordinare gli sforzi globali sui rischi a lungo termine per l'umanità, tra cui l'AI avanzata, in una lettera aperta al segretario generale dell'Onu António Guterres. Poco dopo, il segretario generale ha pubblicato il noto rapporto “Our common agenda”, che include rapporti periodici delle Nazioni unite sulla previsione strategica e le minacce globali tra i suoi elementi di previsione.

La recente lettera sulla governance della transizione verso l'Agi evidenzia i rischi associati a uno sviluppo non regolamentato dell'Agi. Avverte che, senza uno sforzo coordinato che includa sistemi di licenza nazionali e la supervisione delle Nazioni unite, potrebbero emergere versioni incontrollate di Agi su internet. Questi sistemi potrebbero potenzialmente riscrivere il proprio codice, aumentando continuamente la propria intelligenza a un ritmo esponenziale, e evolvere in Asi, sfuggendo al controllo e alla comprensione umana.

Stuart Russell, esperto di AI presso l'Università della California, evidenzia la serietà della situazione, affermando che "il mancato tentativo di risolvere [questo problema] prima di creare sistemi di Agi sarebbe un errore fatale per la civiltà umana", come riporta The millennium project.

La lettera sottolinea che le Nazioni unite hanno compiuto progressi rilevanti con l'approvazione di risoluzioni dell'Assemblea generale relative all'AI, con i documenti preparatori per il Patto per il futuro e il Global digital compact, e con l'avanzamento del lavoro dei gruppi di esperti ad hoc sull'AI. Tuttavia, i firmatari ritengono che questi sforzi non siano ancora sufficienti e che sia necessario un ulteriore supporto politico e istituzionale per garantire che lo sviluppo dell'AI rimanga sicuro e rispetti i diritti umani.

La convenzione proposta nella lettera dovrebbe portare alla creazione di un'agenzia delle Nazioni unite sull'AI specializzata e multilaterale, che continui a monitorare, guidare, coordinare e suggerire agli Stati membri le misure necessarie per la governance e lo sviluppo sicuro dell'AI in tutte le sue forme.

Secondo un recente studio internazionale, che sarà pubblicato nella prossima edizione dello "State of the future 20.0" del The millennium project, questa struttura per l'agenzia sembra essere l'approccio più efficace per garantire che lo sviluppo dell'AI sia in linea con i diritti umani, le considerazioni etiche e il benessere della società. Questo modello di governance coinvolgerebbe una vasta gamma di stakeholder, lavorando insieme per guidare la transizione verso l'Agi in modo sicuro ed etico.

L’Eu AI Act e i suoi problemi

È nata la legislazione europea sull’intelligenza artificiale: numerose le misure per difendere privacy e copyright, ma il rischio è tagliar fuori l’Ue dalla corsa all’AI. Le aziende stanno già evitando di rilasciare i loro prodotti in Europa.

La lettera aperta al presidente dell'Assemblea generale delle Nazioni unite sottolinea l'urgenza di affrontare la governance della transizione verso l'Agi come priorità globale. Jerome Glenn, Ceo e co-fondatore di The millennium project, descrive la governance di questa transizione come "uno dei problemi gestionali più complessi e difficili che l'umanità abbia mai affrontato". Con l'Agi che potrebbe rivoluzionare ogni aspetto della società, la necessità di una governance solida e anticipante è più pressante che mai.

Parlando del sostegno della Wfsf a questa iniziativa, il suo presidente Erik F. Øverland commenta: "In un mondo in cui la distinzione tra artificiale e naturale è sempre più sfumata, è più importante che mai regolamentare le intelligenze artificiali".

Allo stesso modo, Garry Jacobs, presidente e Ceo della Waas, sottolinea il sostegno dell'organizzazione alla lettera, evidenziando che "affrontare la governance dell'Agi non è solo una sfida tecnica; è una responsabilità profonda sia per gli scienziati e i tecnologi che la creano sia per i responsabili politici incaricati di proteggere. La Waas sostiene fermamente questo appello alle Nazioni unite affinché dia priorità e guidi lo sforzo globale per garantire che lo sviluppo dell'Agi sia allineato con i nostri valori condivisi di sicurezza, etica e diritti umani. È imperativo agire ora per stabilire schemi di riferimento e istituzioni solidi in grado di guidare questa tecnologia trasformativa a beneficio di tutta l'umanità."

L'ambasciatore Héctor Casanueva, coordinatore dell'iniziativa e fondatore e co-presidente del nodo Cile del The millennium project, sottolinea che "Con questa lettera aperta, stiamo anche dimostrando la grande forza morale e intellettuale di centinaia di leader e professionisti di tutto il mondo per sostenere il Segretario generale dell'Onu nel suo appello ai membri delle Nazioni unite affinché prendano sul serio i rischi dello sviluppo incontrollato della tecnologia, e in particolare dell'Agi, per rafforzare la sicurezza umana attraverso il multilateralismo."

In conclusione, i firmatari chiedono alle Nazioni unite di assumere un ruolo di leadership in questo momento cruciale nella storia dell'umanità. Lo sviluppo sicuro dell'Agi potrebbe migliorare il futuro dell'umanità in maniera significativa o rappresentare rischi esistenziali al di fuori del nostro controllo. La governance della transizione verso l'Agi è destinata a rimanere un tema centrale nei prossimi forum. Poiché il mondo è sull'orlo di una trasformazione guidata dall'AI, le decisioni prese oggi plasmeranno il futuro per le generazioni a venire.

Articolo originariamente pubblicato dall’autrice in inglese su Futures Digest in data 10 settembre 2024 e tradotto per FUTURAnetwork

Copertina: 123rf