Una nave cinese in Medio Oriente. Un fantomatico carico a bordo legato alle armi nucleari. Un’operazione militare statunitense pronta a scattare per colpire il bersaglio. Sembra l’inizio di un film e invece è quanto stava per accadere qualche mese fa. Mentre gli Usa erano impegnati nella guerra contro l’Iran, un report di intelligence fatto circolare all’interno delle forze armate americane descriveva nel dettaglio la presunta minaccia rappresentata da Pechino. Gli aerei di Washington si erano già alzati in volo e i soldati americani, armati, erano sul punto di intervenire. Poi la scoperta clamorosa: il paper era un fake.
Usa-Cina: la guerra sfiorata
Washington e Pechino, non è esagerato dirlo, sono arrivate a un passo da una crisi che avrebbe potuto avere conseguenze imprevedibili. L’episodio è stato ricostruito dalla Cnn, che ha parlato di un paper falso (generato dall’intelligenza artificiale) secondo cui una nave cinese in navigazione nel Medio Oriente avrebbe trasportato componenti destinati a un programma di armi nucleari.
La segnalazione ha immediatamente fatto scattare l’allarme. Il Pentagono ha così iniziato a preparare un’intercettazione e, secondo alcune fonti citate, i militari americani armati erano pronti a salire sulla nave. Alcuni aerei erano addirittura già decollati. Il problema era uno e grandissimo: l’informazione ricevuta non era vera. Poco prima dell’operazione, alcuni funzionari hanno deciso di esaminare più a fondo il rapporto scoprendo che era stato elaborato con l’aiuto… dell’intelligenza artificiale.
Il paper falso
Chi aveva generato il paper fasullo? Un analista dello Special Operations Command ha utilizzato un chatbot per analizzare informazioni relative al manifesto della nave, provenienti dallo Special Operations Command Pacific, con sede alle Hawaii. Il sistema avrebbe combinato dati di fonte aperta e informazioni classificate provenienti dall’intelligence elettronica, arrivando però a identificare in modo errato il materiale trasportato. L’analista aveva poi utilizzato nuovamente l’Ia per trasformare quelle conclusioni in un normale rapporto di intelligence, successivamente distribuito nella catena militare.
Il documento, di per sè, non appariva come una semplice risposta prodotta da un chatbot, ma come un rapporto di intelligence strutturato, quindi potenzialmente affidabile per chi lo riceveva. Una fonte ha però rivelato alla Cnn che il paper era in realtà “completamente falso”, aggiungendo che l’episodio aveva “quasi iniziato una guerra”.
Il rischio sfiorato
Un’operazione americana contro una nave cinese avrebbe infatti potuto provocare una reazione di Pechino e trasformare un incidente nel teatro mediorientale in uno scontro diretto tra le due principali potenze militari mondiali. Non è noto, invece, quale fosse realmente il carico della nave.
L’episodio potrebbe spingere Washington, che sta accelerando sull’utilizzo dell’intelligenza artificiale in ambito militare, a porsi qualche domanda in merito. Lo scorso gennaio il segretario alla Difesa Pete Hegseth ha presentato una strategia per velocizzare l’adozione dell’Ia all’interno delle forze armate, con l’obiettivo di estenderne l’utilizzo dall’analisi dell’intelligence alla pianificazione delle operazioni, fino alla selezione degli obiettivi.
Il problema è che questa trasformazione procede in modo decentralizzato: diverse strutture utilizzano sistemi differenti, con regole e livelli di sicurezza non necessariamente uguali, mentre non esisterebbe un unico standard per verificare le informazioni prodotte dall’intelligenza artificiale.
Decisioni sbagliate
L’incidente della nave cinese ha sostanzialmente messo in luce un rischio diverso da quello, più volte evocato, di una macchina capace di agire autonomamente contro l’uomo. Il pericolo più immediato è che siano gli esseri umani a prendere decisioni sbagliate perché si fidano di un’informazione prodotta da una macchina. L’AI può infatti analizzare enormi quantità di dati in pochi secondi, ma può anche generare una cosiddetta “allucinazione”, cioè una risposta falsa presentata con apparente sicurezza.
Come ha sottolineato il portale TechCrunch, quando un errore dell’intelligenza artificiale entra nei normali flussi dell’intelligence, può viaggiare rapidamente attraverso il sistema prima che qualcuno ne verifichi l’origine. L’Ia può dunque diventare un problema quando una valutazione sbagliata viene trasformata troppo rapidamente in un ordine operativo.