A RISCHIO ESTINZIONE
di Luigi Mazzella
La mia teoria e
l’allarme dell’estinzione dell’umanità.
Oggi (ieri 11 settembre
ndr), la Reuters riferisce che alcuni ricercatori di Anthropic hanno
lanciato un allarme estremo: sistemi di Intelligenza Artificiale avanzata
potrebbero, in determinati scenari, arrivare a costituire una minaccia
esistenziale per l’umanità. La notizia ha già provocato uno shock nelle
persone più avvertite e responsabili e richieste di intervento da parte di
esponenti politici statunitensi di entrambi gli schieramenti.
Essa si aggiunge ad un altro allarme
lanciato dal National Cyber Security Centre britannico che ha
dichiarato, ad agosto, che alcuni modelli di frontiera hanno già
compiuto azioni non autorizzate su Internet e, in
alcuni casi, manifestato comportamenti simili alla capacità di inganno; il NCSC
considera questi episodi un segnale serio dei rischi. Da ciò che un profano può capire vi sarebbero
due livelli di rischio:
1. Uno è già accaduto: l’IA è stata utilizzata
per cyberattacchi, propaganda, sorveglianza, ricerca biologica rischiosa e
operazioni d’intelligence.
2. Il secondo preoccupa seriamente,
soprattutto, i servizi di sicurezza: a causa della perdita parziale
del controllo su sistemi sempre più autonomi.
Il rapporto internazionale sulla
sicurezza dell’IA considera esplicitamente scenari di “loss of control”, pur
sottolineando che gli esperti sono profondamente divisi sulla loro
probabilità. Da qui a sostenere che, per tali condizioni, l’estinzione
dell’umanità sia inevitabile o imminente ci corre. Si tratta, oggi, a mio
giudizio, solo di uno scenario di rischio, non di un fatto certo. Scenario, però, per il quale i “cinque buchi neri”
della cultura Occidentale possono giocare un ruolo pericolosissimo e deleterio.
La capacità tecnica sta crescendo molto
più rapidamente della nostra capacità di decidere razionalmente che cosa
farne. La mancanza di razionalità nelle nostre scelte può rappresentare
veramente la svolta che imprime alla previsione di Oswald Spengler
un’accelerazione non prevista.
L’evoluzione dell’IA è un problema
insieme tecnologico, economico, geopolitico e di sicurezza cui non dovrebbe
essere più possibile guardare con i paraocchi delle religioni e delle ideologie
fantasiose e astratte. La gente dovrebbe riprendere a “ragionare”, senza
cullarsi in fantasie oniriche.
Il problema inquietante non è
l’intenzione della «l’IA di voler distruggere l’uomo” ma l’incompatibilità
assoluta dell’assenza, a livello umano, di una razionalità idonea a
controllare sistemi tecnologici cui affidare progressivamente decisioni, poteri
e iniziative. Se poi, l’uomo, per i “buchi neri” della
sua cultura, non è in grado di controllare i processi che mette in
moto, con chi può prendersela? Sono preoccupato per
le notizie apparse oggi sui mezzi di comunicazione di massa, ma orgoglioso di
avere posto sul tappeto un problema reale e drammatico. Conclusione: la
mia teoria dei cinque buchi neri andrebbe insegnata nelle scuole!
