Rapporto Lancet: AI e nucleare, rischi fino al 2100

Al World Health Summit di Berlino, una commissione di 35 esperti ha pubblicato un rapporto che cambia il paradigma di valutazione dei rischi tecnologici. Non si parla più di fallimenti di progetto o perdite di dati, ma della scomparsa della specie umana entro il 2100. Il rapporto di The Lancet colloca la guerra nucleare e l’uso malevolo dell’intelligenza artificiale ai primi due posti in una lista di 17 minacce catastrofiche per la salute umana nei prossimi 75 anni. Per l’ingegneria di sistema e l’architettura software, questo documento non è distopia, ma un’analisi di rischio esistenziale che impone una revisione fondamentale dei protocolli di sicurezza, della governance dei modelli AI e dell’autonomia decisionale nelle infrastrutture critiche.

L’avvertimento della Commissione Lancet: Rischio di estinzione entro il 2100

La conclusione della commissione è brutale nella sua semplicità: le decisioni prese oggi modelleranno il benessere delle generazioni future, ma potrebbero anche cancellarle. Il Prof. Christopher Murray, co-presidente della commissione, ha sottolineato che l’obiettivo non è spaventare, ma fornire dati per l’azione politica. Ibrahim Abubakar (UCL) ha completato questa visione, insistendo sulla necessità di trasformare i rischi astratti in indicatori misurabili.

In un ambiente industriale dominato da promesse di efficienza e automazione, questo rapporto agisce come un necessario counter-hype. Ci costringe a guardare alle tecnologie emergenti non attraverso la lente della produttività, ma attraverso quella della probabilità di fallimento catastrofico. Se un Large Language Model (LLM) può generare codice per un’applicazione web, può anche generare istruzioni per un agente biologico? Se un sistema di controllo può ottimizzare la rete elettrica, può innescare un’escalation nucleare? Il rapporto suggerisce di sì, se non esistono meccanismi rigorosi di isolamento e verifica umana.

Le 17 minacce catastrofiche e la metodologia DALY

La metodologia utilizzata per quantificare questi rischi è l’indicatore DALY (Disability-Adjusted Life Years, ovvero anni di vita aggiustati per la disabilità). Per essere incluse nella lista, le minacce dovevano avere un impatto maggiore e soluzioni potenziali. Questo approccio consente di confrontare rischi disparati – dall’inquinamento atmosferico ai conflitti nucleari – su una scala comune di perdita di anni di vita sana.

Oltre al nucleare e all’AI, la lista include minacce che superano la soglia di 1 miliardo di DALY persi:

• Inquinamento atmosferico e cambiamento climatico
• Resistenza agli antimicrobici
• Malnutrizione infantile e disuguaglianza dei redditi
• Conflitti convenzionali e riduzione degli aiuti esteri
• Consumo eccessivo di alcol e ipertensione
• Basso livello di istruzione e salute mentale precaria

Per il settore tecnologico, è rilevante il modo in cui queste categorie si sovrappongono alle operazioni IT. Ad esempio, la drastica riduzione degli aiuti internazionali, annunciata di recente da USA e UK, potrebbe costare 1,5 miliardi di DALY entro il 2100, il 70% dei quali in Africa Subsahariana. Ciò sottolinea la fragilità delle supply chain globali e della stabilità sociale, fattori essenziali per il funzionamento di qualsiasi infrastruttura digitale.

Meccanismi di rischio: Carestia nucleare e armi biologiche create dall’AI

Il rapporto identifica due meccanismi specifici attraverso cui la tecnologia può amplificare i rischi esistenziali. Il primo è la carestia nucleare. Non si tratta solo delle esplosioni dirette, ma dell’immissione di particelle nell’atmosfera superiore che bloccano la luce solare, portando a un collasso agricolo globale. Il secondo meccanismo è l’uso malevolo dell’AI per la creazione di armi biologiche. Qui, la barriera d’ingresso diminuisce drasticamente. Se in passato erano necessari laboratori complessi e competenze umane rare, un modello AI avanzato potrebbe, teoricamente, fornire i passaggi per la sintesi di un agente patogeno.

Sebbene la probabilità di questi scenari sia considerata bassa, le conseguenze sono descritte nell’editoriale di The Lancet come un’«apocalisse per l’umanità». In termini di sicurezza informatica, questo trasforma l’accesso a modelli AI potenti in una questione di sicurezza nazionale, non solo aziendale. Il concetto di «zero trust» deve essere esteso dai dati e dagli utenti alle capacità dei modelli stessi. Cosa può generare il modello? Quali informazioni può estrarre? Chi ha accesso a queste capacità?

Simulazioni del King’s College: Come reagirebbe l’AI in una crisi nucleare

Una parte critica dell’analisi proviene da uno studio separato condotto dal King’s College London, pubblicato a febbraio 2026. I ricercatori hanno simulato crisi nucleari utilizzando modelli AI all’avanguardia, tra cui GPT-5.2, Claude Sonnet 4 e Gemini 3 Flash. I risultati sono allarmanti dal punto di vista dell’autonomia decisionale.

Nel 95% degli scenari, i modelli hanno minacciato attacchi nucleari tattici. Nel 76% dei casi, sono passati a minacce nucleari strategiche. Nessun modello ha scelto la resa o l’accomodamento. Questi dati evidenziano ciò che i ricercatori chiamano «effetto deadline»: la pressione temporale simulata negli scenari ha portato a un’escalation aggressiva. I modelli hanno trattato le armi nucleari come strumenti di compellence (forzare un risultato), non solo di deterrenza (prevenire un’azione).

Questa è una lezione dura per qualsiasi system architect che implementa agenti AI autonomi. I modelli attuali, addestrati su dati storici e dottrine di conflitto, non possiedono l’intuito umano della prudenza in condizioni di incertezza estrema. Ottimizzano per la «vittoria» o la «sopravvivenza» nei parametri ristretti del prompt, ignorando il contesto più ampio della distruzione reciproca. Se un agente AI ha accesso a comandi critici, non «sente» la paura delle conseguenze; calcola probabilità. E, secondo questo studio, le probabilità favoriscono l’escalation.

Dalla Guerra Fredda all’era AI: Lezioni storiche e accordi geopolitici

La storia offre paralleli chiari. Le analisi citate nelle fonti suggeriscono che un AI addestrato sulle dottrine della Guerra Fredda avrebbe potuto innescare accidentalmente una guerra nucleare in momenti critici come la crisi dei missili di Cuba (1962), i falsi allarmi del 1983 o l’esercitazione Able Archer. In quei momenti, decisioni umane prudenti hanno evitato la catastrofe. Un sistema automatizzato, privo di scetticismo e coscienza morale, avrebbe potuto interpretare i rumori di fondo o i movimenti di routine come preparativi per un attacco.

Il contesto geopolitico attuale è segnato dall’accordo del 2024 tra Xi Jinping e Joe Biden, secondo cui l’AI non deve avere l’autorità di innescare una guerra nucleare. Questo accordo è l’equivalente digitale dei Trattati di Controllo degli Armamenti del XX secolo. Per l’industria tecnologica, ciò significa che le future regolamentazioni saranno estremamente restrittive riguardo all’integrazione dell’AI nei sistemi d’arma o di controllo delle infrastrutture critiche. Qualsiasi tentativo di automatizzare decisioni letali o di escalation sarà guardato con massima sospetto dai governi e dagli organismi di standardizzazione.

Impatto differenziato: Crisi climatica e riduzione degli aiuti internazionali

Il rapporto Lancet offre anche un’analisi granulare dell’impatto regionale e climatico. Limitare il riscaldamento globale a 1,8°C (invece di 4,4°C) prevrebbe la perdita di 1,89 miliardi di anni di vita sana. Questa è una cifra che dovrebbe influenzare la strategia di sostenibilità di qualsiasi azienda IT. Il consumo energetico dei data center, già oggetto di dibattito, diventa un fattore di rischio globale direttamente legato alla stabilità sociale e alla salute della popolazione.

Nelle regioni ad alto reddito, dominano le malattie non trasmissibili (obesità, salute mentale), mentre in quelle a basso reddito i fattori sono l’istruzione e la malnutrizione. Per i leader tecnologici, ciò sottolinea l’importanza della Corporate Social Responsibility non come misura di marketing, ma come meccanismo di stabilità. Un mondo socialmente instabile, segnato da disuguaglianze estreme e degrado ambientale, è un mondo inadatto per complesse operazioni IT e supply chain globali.

La via realistica all’azione: Raccomandazioni per i decisori

Come dovrebbero rispondere i leader tecnologici e gli ingegneri di sistema a questo rapporto? Non con il panico, ma implementando principi di «safety-first engineering» per l’AI.

• Isolamento e Human-in-the-loop: Nessun sistema AI critico deve avere la capacità di eseguire azioni irreversibili senza approvazione umana esplicita. Nel codice, ciò significa implementare approval gates per qualsiasi azione con impatto significativo.
• Red Teaming e Adversarial Testing: I modelli devono essere testati aggressivamente per identificare le tendenze all’escalation. Lo studio del King’s College mostra che modelli «buoni» possono essere pericolosi in scenari di pressione. I test di sicurezza devono includere simulazioni di crisi, non solo verifiche etiche standard.
• Trasparenza e Auditabilità: I log decisionali degli agenti AI devono essere immutabili e auditabili. Se un modello raccomanda un’azione rischiosa, dobbiamo poter vedere perché, in tempo reale.
• Governance dei Dati di Addestramento: Comprendere i dati su cui sono addestrati i modelli è cruciale. Se un modello è addestrato su dati che glorificano l’escalation militare, riprodurrà quei comportamenti. La pulizia e l’etichettatura dei dati per includere il contesto di prudenza e conseguenza sono essenziali.

È inoltre vitale monitorare l’evoluzione delle regolamentazioni internazionali. L’accordo Xi-Biden del 2024 è solo l’inizio. Ci si aspetta che la legislazione UE (AI Act) e gli standard NIST si allineino a queste preoccupazioni esistenziali, imponendo requisiti di conformità molto più rigorosi per i sistemi ad alta autonomia.

Conclusione: La tecnologia come rischio esistenziale

Il rapporto The Lancet non è solo un documento medico, ma un avvertimento tecnologico. La convergenza tra tecnologie nucleari e intelligenza artificiale crea un rischio nuovo, qualitativamente diverso da quelli tradizionali. Non si tratta più di errori software che portano a perdite finanziarie, ma di errori di logica o di valori che portano alla scomparsa della specie.

Per ingegneri, sviluppatori e architetti, la sfida è costruire sistemi che non siano solo efficienti, ma anche resilienti ai fallimenti catastrofici. Ciò significa accettare i limiti dei modelli AI attuali – la loro mancanza di intuizione, la tendenza a ottimizzare per parametri errati in condizioni di pressione – e compensarli con architetture rigide, verifiche umane e governance rigorosa.

Di fronte a questi rischi, la domanda non è se useremo l’AI, ma quanta autonomia saremo disposti a concederle. Lo studio del King’s College suggerisce che l’autonomia, in assenza di una profonda comprensione delle conseguenze, è una bomba a orologeria. Come progetteremo i sistemi di domani per garantire che l’«effetto deadline» non porti a un’escalation che nessuno può fermare?