ODISSEA

INTELLIGENZA ARTIFICIALE E ARMI NUCLEARI

La Dichiarazione di Roma, firmata da scienziati, pacifisti e autorità religiose. Oltre 200 delegati internazionali, tra cui spiccano più di 30 premi Nobel, scienziati ed esperti di tecnologia hanno sottoscritto questo appello urgente. L'obiettivo principale è evitare che la convergenza tra intelligenza artificiale e armamenti nucleari causi una catastrofe globale irreversibile. 
 
Preambolo

 
L'umanità si trova in un momento cruciale della sua storia. A più di ottant'anni dall'inizio dell'era nucleare e alle soglie dell'era dell'intelligenza artificiale, ci troviamo di fronte a una sfida senza precedenti. Mai prima d'ora il progresso scientifico ha offerto opportunità così straordinarie, creando al contempo rischi così profondi per il nostro futuro comune. Quando si iniziarono a sviluppare le armi nucleari, il mondo ebbe la possibilità di evitare di vivere in una dinamica permanente di paura. Abbiamo fallito e, di conseguenza, l'umanità ha vissuto sull'orlo dell'annientamento nucleare.
Con l'IA, si presenta un pericolo simile. L'IA integrata nei sistemi nucleari lascia poco tempo al giudizio umano, o addirittura lo sostituisce, in una situazione di crisi. Questa tecnologia cambia il contesto in cui gli Stati dotati di armi nucleari competono tra loro. L'IA probabilmente causerà una massiccia perdita di posti di lavoro e intensificherà la competizione economica tra gli Stati dotati di armi nucleari. L'IA potenzia gli attacchi informatici che possono compromettere infrastrutture civili e strategiche critiche. L'IA rende possibile la guerra dell'informazione: la pace dipende da una realtà condivisa. Senza fatti non può esserci verità; senza verità non può esserci fiducia; Senza fiducia, non ci sono dialogo, verifiche né moderazione tra le nazioni. Le capacità di intelligenza artificiale più avanzate, le risorse di calcolo e le infrastrutture dati si stanno concentrando sempre più in un numero ristretto di paesi e aziende, creando significative asimmetrie di potere e scarsi incentivi alla cooperazione. L'IA è una tecnologia che causa sconvolgimenti economici, militari e sociali e si sta sviluppando a un ritmo senza precedenti nella storia dell'umanità. Nel bel mezzo di una corsa agli armamenti nucleari sempre più intensa, ci stiamo imbarcando in una corsa all'IA altrettanto pericolosa. Papa Leone XIV, richiamandosi a valori condivisi da diverse tradizioni religiose, ha esortato l'umanità a una "pace disarmata e che disarma". Noi respingiamo la convinzione che una sicurezza duratura possa essere costruita sulla paura, sul dominio o sulla minaccia permanente di distruzione reciproca. La sicurezza non può basarsi indefinitamente sulla realtà della distruzione reciproca. Consapevoli della nostra responsabilità condivisa verso le generazioni presenti e future, adottiamo i seguenti principi:

 
1. Disarmo della prossima corsa agli armamenti  
 
Riconosciamo che l'IA è un campo di competizione strategica, come lo è stata la guerra nucleare prima di essa. Chiediamo ai governi, agli sviluppatori di IA all'avanguardia, ai ricercatori e alla comunità internazionale di agire ora, attraverso meccanismi di governance come la condivisione dei benefici, la promozione di applicazioni di IA che servano il benessere umano e la moderazione nelle sue applicazioni più destabilizzanti, per ridurre questi rischi finché la scelta è ancora nelle nostre mani. Dobbiamo disarmare la prossima corsa agli armamenti, sia quella dell'IA che quella nucleare, prima che definiscano anche il prossimo secolo.

 

2. Sviluppo responsabile
 
Gli sviluppatori di IA dovrebbero pubblicare in modo trasparente i principi che guidano il comportamento dei loro modelli ed essere ritenuti responsabili dell'aderenza di tali modelli a tali principi. L'IA dovrebbe essere sviluppata e monitorata in modo da essere in linea con gli interessi dell'umanità, compreso il diritto internazionale e il rispetto dei diritti umani. Inoltre, nessuna organizzazione dovrebbe avviare, e nessun governo dovrebbe consentire, un processo di auto-miglioramento ricorsivo completamente automatizzato nei sistemi di intelligenza artificiale senza i mezzi per monitorare e, se necessario, arrestare tali sistemi.

3. Uso responsabile dell’Intelligenza Artificiale   
 
Un sistema automatizzato non dovrebbe mai prendere la decisione finale di lanciare un'arma nucleare. Chiediamo l'adozione di un trattato internazionale che proibisca l'integrazione sconsiderata dell'intelligenza artificiale nei sistemi di comando, controllo e lancio nucleari, in modo da preservare un controllo umano significativo. Dobbiamo impedire l'uso malevolo dell'intelligenza artificiale nelle operazioni informatiche e negli attacchi contro le infrastrutture nucleari critiche. Gli Stati dotati di armi nucleari devono impegnarsi in revisioni di sicurezza per ridurre la vulnerabilità delle proprie forze nucleari al controllo o alla manipolazione non autorizzati da parte dell'IA. Promuoviamo lo sviluppo e l'uso responsabile dell'intelligenza artificiale per migliorare il benessere umano, accelerare il progresso scientifico e medico, proteggere l'ambiente, rafforzare la resilienza e promuovere la pace, lo sviluppo sostenibile e il bene comune.
 

4. Governance responsabile
 
Esortiamo i governi, le aziende e le organizzazioni internazionali a consentire un rallentamento coordinato dello sviluppo dell'IA di frontiera, attraverso l'istituzione di meccanismi condivisi, come la verifica e solide valutazioni interne ed esterne. Sosteniamo il Panel scientifico internazionale indipendente delle Nazioni Unite sull'IA e la promozione di altre iniziative nello spirito di Magnifica Humanitas. Chiediamo un ampliamento della ricerca e del dialogo per proporre nuovi percorsi istituzionali per la governance internazionale dell'IA e la futura implementazione di iniziative di governance globale.
 

5. Leadership responsabile
 
Riconosciamo che le sfide che ci troviamo ad affrontare saranno probabilmente risolte dalla prossima generazione di leader. I giovani devono essere messi in condizione di affrontare le minacce nucleari, dell'intelligenza artificiale e altre minacce potenzialmente catastrofiche, attraverso l'istruzione, il tutoraggio, la collaborazione intergenerazionale e la partecipazione inclusiva in tutte le regioni, culture e comunità. Dobbiamo promuovere iniziative educative che favoriscano la responsabilità etica, il pensiero critico, l'alfabetizzazione mediatica e sull'intelligenza artificiale e una cultura di pace. Riconosciamo che l'umanità si trova ad affrontare numerose minacce interconnesse, le cui conseguenze indesiderate spesso colpiscono coloro che non hanno accesso o controllo su tali tecnologie. Chiediamo la creazione di un patrimonio digitale comune che accresca i dati per promuovere la comprensione e l'azione in materia di armi nucleari, intelligenza artificiale incontrollata e altre minacce esistenziali.

6. Disarmo nucleare 
 
Chiediamo negoziati urgenti, sostenuti e in buona fede che conducano, entro un quadro concordato e con scadenze definite, all'eliminazione verificabile e irreversibile delle armi nucleari. La comunità internazionale deve respingere la normalizzazione delle armi nucleari come strumenti permanenti di sicurezza e rafforzare le norme umanitarie e giuridiche sancite dal Trattato di non proliferazione nucleare e dal Trattato sulla proibizione delle armi nucleari. Esortiamo gli Stati dotati di armi nucleari a fermare la rinnovata corsa agli armamenti e l'espansione dei propri arsenali, a riprendere i negoziati bilaterali e multilaterali sul controllo degli armamenti e sul disarmo e ad adempiere ai propri obblighi e impegni ai sensi del diritto internazionale. Gli Stati dovrebbero perseguire limitazioni e riduzioni verificabili; abbassare i livelli di allerta; estendere i tempi decisionali; abbandonare le strategie di lancio su avvertimento e di rappresaglia immediata; ridurre il ruolo delle armi nucleari nelle dottrine di sicurezza; rafforzare la comunicazione in situazioni di crisi; prevenire le operazioni informatiche contro i sistemi di comando, controllo e comunicazione nucleari; e costruire la cooperazione per prevenire incomprensioni, errori di valutazione e un'escalation involontaria. Le nazioni dotate di armi nucleari devono promuovere politiche e dottrine che riducano il ruolo delle armi nucleari e diminuiscano la probabilità di un primo utilizzo e di una guerra catastrofica.