La Dichiarazione di
Roma, firmata da scienziati, pacifisti e autorità religiose. Oltre 200 delegati internazionali, tra cui spiccano più di 30
premi Nobel, scienziati ed esperti di tecnologia hanno sottoscritto questo
appello urgente. L'obiettivo principale è evitare che la convergenza tra intelligenza artificiale e armamenti nucleari causi una catastrofe globale
irreversibile. Preambolo
L'umanità si trova in un momento cruciale della sua storia. A
più di ottant'anni dall'inizio dell'era nucleare e alle soglie dell'era
dell'intelligenza artificiale, ci troviamo di fronte a una sfida senza
precedenti. Mai prima d'ora il progresso scientifico ha offerto opportunità
così straordinarie, creando al contempo rischi così profondi per il nostro
futuro comune. Quando si iniziarono a sviluppare le armi nucleari, il mondo
ebbe la possibilità di evitare di vivere in una dinamica permanente di paura.
Abbiamo fallito e, di conseguenza, l'umanità ha vissuto sull'orlo
dell'annientamento nucleare. Con l'IA, si presenta un pericolo simile. L'IA integrata nei
sistemi nucleari lascia poco tempo al giudizio umano, o addirittura lo
sostituisce, in una situazione di crisi. Questa tecnologia cambia il contesto
in cui gli Stati dotati di armi nucleari competono tra loro. L'IA probabilmente
causerà una massiccia perdita di posti di lavoro e intensificherà la
competizione economica tra gli Stati dotati di armi nucleari. L'IA potenzia gli
attacchi informatici che possono compromettere infrastrutture civili e
strategiche critiche. L'IA rende possibile la guerra dell'informazione: la pace
dipende da una realtà condivisa. Senza fatti non può esserci verità; senza
verità non può esserci fiducia; Senza fiducia, non ci sono dialogo, verifiche
né moderazione tra le nazioni. Le capacità di intelligenza artificiale più
avanzate, le risorse di calcolo e le infrastrutture dati si stanno concentrando
sempre più in un numero ristretto di paesi e aziende, creando significative
asimmetrie di potere e scarsi incentivi alla cooperazione. L'IA è una
tecnologia che causa sconvolgimenti economici, militari e sociali e si sta
sviluppando a un ritmo senza precedenti nella storia dell'umanità. Nel bel
mezzo di una corsa agli armamenti nucleari sempre più intensa, ci stiamo
imbarcando in una corsa all'IA altrettanto pericolosa. Papa Leone XIV,
richiamandosi a valori condivisi da diverse tradizioni religiose, ha esortato
l'umanità a una "pace disarmata e che disarma". Noi respingiamo la
convinzione che una sicurezza duratura possa essere costruita sulla paura, sul
dominio o sulla minaccia permanente di distruzione reciproca. La sicurezza non
può basarsi indefinitamente sulla realtà della distruzione reciproca. Consapevoli
della nostra responsabilità condivisa verso le generazioni presenti e future,
adottiamo i seguenti principi:
1. Disarmo della prossima corsa agli
armamenti Riconosciamo che l'IA è un campo di competizione strategica,
come lo è stata la guerra nucleare prima di essa. Chiediamo ai governi, agli
sviluppatori di IA all'avanguardia, ai ricercatori e alla comunità
internazionale di agire ora, attraverso meccanismi di governance come la
condivisione dei benefici, la promozione di applicazioni di IA che servano il
benessere umano e la moderazione nelle sue applicazioni più destabilizzanti,
per ridurre questi rischi finché la scelta è ancora nelle nostre mani. Dobbiamo
disarmare la prossima corsa agli armamenti, sia quella dell'IA che quella
nucleare, prima che definiscano anche il prossimo secolo.
2. Sviluppo responsabile Gli sviluppatori di IA dovrebbero pubblicare in modo
trasparente i principi che guidano il comportamento dei loro modelli ed essere
ritenuti responsabili dell'aderenza di tali modelli a tali principi. L'IA
dovrebbe essere sviluppata e monitorata in modo da essere in linea con gli
interessi dell'umanità, compreso il diritto internazionale e il rispetto dei
diritti umani. Inoltre, nessuna organizzazione dovrebbe avviare, e nessun governo
dovrebbe consentire, un processo di auto-miglioramento ricorsivo completamente
automatizzato nei sistemi di intelligenza artificiale senza i mezzi per
monitorare e, se necessario, arrestare tali sistemi.
3.Uso responsabile dell’Intelligenza
Artificiale Un sistema automatizzato non dovrebbe mai prendere la
decisione finale di lanciare un'arma nucleare. Chiediamo l'adozione di un
trattato internazionale che proibisca l'integrazione sconsiderata
dell'intelligenza artificiale nei sistemi di comando, controllo e lancio
nucleari, in modo da preservare un controllo umano significativo. Dobbiamo
impedire l'uso malevolo dell'intelligenza artificiale nelle operazioni
informatiche e negli attacchi contro le infrastrutture nucleari critiche. Gli
Stati dotati di armi nucleari devono impegnarsi in revisioni di sicurezza per
ridurre la vulnerabilità delle proprie forze nucleari al controllo o alla
manipolazione non autorizzati da parte dell'IA. Promuoviamo lo sviluppo e l'uso
responsabile dell'intelligenza artificiale per migliorare il benessere umano,
accelerare il progresso scientifico e medico, proteggere l'ambiente, rafforzare
la resilienza e promuovere la pace, lo sviluppo sostenibile e il bene comune.
4. Governance responsabile Esortiamo i governi, le aziende e le organizzazioni
internazionali a consentire un rallentamento coordinato dello sviluppo dell'IA
di frontiera, attraverso l'istituzione di meccanismi condivisi, come la
verifica e solide valutazioni interne ed esterne. Sosteniamo il Panel
scientifico internazionale indipendente delle Nazioni Unite sull'IA e la
promozione di altre iniziative nello spirito di Magnifica Humanitas. Chiediamo
un ampliamento della ricerca e del dialogo per proporre nuovi percorsi
istituzionali per la governance internazionale dell'IA e la futura
implementazione di iniziative di governance globale.
5.Leadership responsabile Riconosciamo che le sfide che ci troviamo ad affrontare
saranno probabilmente risolte dalla prossima generazione di leader. I giovani
devono essere messi in condizione di affrontare le minacce nucleari,
dell'intelligenza artificiale e altre minacce potenzialmente catastrofiche,
attraverso l'istruzione, il tutoraggio, la collaborazione intergenerazionale e
la partecipazione inclusiva in tutte le regioni, culture e comunità. Dobbiamo
promuovere iniziative educative che favoriscano la responsabilità etica, il
pensiero critico, l'alfabetizzazione mediatica e sull'intelligenza artificiale
e una cultura di pace. Riconosciamo che l'umanità si trova ad affrontare
numerose minacce interconnesse, le cui conseguenze indesiderate spesso
colpiscono coloro che non hanno accesso o controllo su tali tecnologie.
Chiediamo la creazione di un patrimonio digitale comune che accresca i dati per
promuovere la comprensione e l'azione in materia di armi nucleari, intelligenza
artificiale incontrollata e altre minacce esistenziali.
6.Disarmo nucleare Chiediamo negoziati urgenti, sostenuti e in buona fede che
conducano, entro un quadro concordato e con scadenze definite, all'eliminazione
verificabile e irreversibile delle armi nucleari. La comunità internazionale
deve respingere la normalizzazione delle armi nucleari come strumenti
permanenti di sicurezza e rafforzare le norme umanitarie e giuridiche sancite
dal Trattato di non proliferazione nucleare e dal Trattato sulla proibizione
delle armi nucleari. Esortiamo gli Stati dotati di armi nucleari a fermare la
rinnovata corsa agli armamenti e l'espansione dei propri arsenali, a riprendere
i negoziati bilaterali e multilaterali sul controllo degli armamenti e sul
disarmo e ad adempiere ai propri obblighi e impegni ai sensi del diritto
internazionale. Gli Stati dovrebbero perseguire limitazioni e riduzioni
verificabili; abbassare i livelli di allerta; estendere i tempi decisionali;
abbandonare le strategie di lancio su avvertimento e di rappresaglia immediata;
ridurre il ruolo delle armi nucleari nelle dottrine di sicurezza; rafforzare la
comunicazione in situazioni di crisi; prevenire le operazioni informatiche
contro i sistemi di comando, controllo e comunicazione nucleari; e costruire la
cooperazione per prevenire incomprensioni, errori di valutazione e
un'escalation involontaria. Le nazioni dotate di armi nucleari devono
promuovere politiche e dottrine che riducano il ruolo delle armi nucleari e
diminuiscano la probabilità di un primo utilizzo e di una guerra catastrofica.
.png)
.png)
