Susanna Riva Nel corso della primavera, gli Stati Uniti proseguivano una campagna militare contro l’Iran quando, tra le operazioni in Medio Oriente, si è verificato un episodio inatteso. Un’analisi prodotta da un chatbot di intelligenza artificiale è stata trasformata in un rapporto di intelligence che indicava la presenza su una nave cinese di componenti destinati a un programma di armi nucleari.
La notizia ha immediatamente fatto scattare i meccanismi di allerta, in un momento di elevata tensione geopolitica, ponendo le forze armate statunitensi sull’orlo di una risposta bellica.
Il documento, diffuso lungo tutta la catena di comando, descriveva una situazione in cui personale armato sarebbe stato pronto a imbarcarsi sulla nave, mentre aerei da combattimento avevano già iniziato il decollo dalle basi nella regione.
L’allarme, però, si è rivelato prematuro due ore prima dell’autorizzazione formale, poiché un esame più attento ha messo in luce l’origine artificiale del contenuto. L’incidente mette in luce come una semplice interpretazione errata possa tradursi in una cifra di mobilitazione militare pronta a generare un’escalation internazionale.
Il rapporto generato dall’IA scatena l’allarme contro una nave cinese
L’autore del documento era un analista del Comando Operazioni Speciali del Pacifico (SOCOM Pacific) con sede alle Hawaii. Per raccogliere informazioni sul carico della nave, l’operatore si è affidato a un chatbot che mescolava dati provenienti da fonti aperte con segnali classificati. Il risultato è stato una conclusione errata: la nave è stata erroneamente identificata come trasportatrice di materiali nucleari, quando in realtà il suo carico era di natura civile. Il rapporto, una volta distribuito, è stato percepito come affidabile e ha attivato i protocolli di risposta rapida, prevedendo l’impiego di truppe e di velivoli da combattimento.
La risposta immediata è stata la mobilitazione di unità armate pronte a salire a bordo, accompagnata da una serie di jet militari già in volo. Questo scenario quasi si è tradotto in un attacco diretto, prima che i vertici superiori potessero verificare la fondatezza delle informazioni. La rapidità con cui il messaggio è stato condiviso ha evidenziato una dipendenza crescente da strumenti automatizzati, senza un adeguato processo di validazione umana prima di intraprendere azioni di tale portata.
L’intervento umano svela l’errore e mette a rischio le politiche IA
Al momento dell’ultimo controllo, responsabili dell’intelligence hanno scoperto che il documento era stato creato con l’ausilio di un’intelligenza artificiale. L’analisi ha definito il rapporto “completamente falso“, sottolineando che la sua pubblicazione avrebbe potuto innescare un conflitto aperto tra gli Stati Uniti e la Cina. Il caso ha suscitato preoccupazione tra gli addetti ai lavori, poiché dimostra quanto le allucinazioni dell’IA — errori factuali generati da sistemi automatizzati — siano pericolose in ambiti sensibili come la difesa.
Strategia di accelerazione dell’intelligenza artificiale del Pentagono
Il contesto di questo episodio è legato alla recente Strategia di Accelerazione dell’Intelligenza Artificiale lanciata a gennaio dal segretario alla Difesa Pete Hegseth. Il piano mira a integrare l’IA in tutte le fasi operative, dall’analisi dei dati alla selezione degli obiettivi, eliminando barriere burocratiche. Hegseth ha dichiarato che l’obiettivo è “liberare la sperimentazione” e dimostrare un approccio esecutivo capace di guidare l’uso dell’IA in ambito militare. Tuttavia, come suggerito dalle testimonianze interne, non esiste ancora una normativa chiara su come la supervisione umana possa prevenire vittime civili o fuoco amico e le unità continuano a utilizzare strumenti eterogenei senza standard unificati.
Questo incidente dimostra la necessità di introdurre controlli più rigorosi e procedure di verifica prima di autorizzare operazioni basate su dati generati dall’IA. Finché non saranno definiti protocolli di convalida solidi, il rischio che un algoritmo produca una “cattiva idea” in tempi rapidi rimarrà una minaccia concreta per la sicurezza globale.