Anthropic ha deciso di opporsi apertamente alle richieste del Dipartimento della Difesa statunitense in merito alle modalità di utilizzo della sua tecnologia di intelligenza artificiale (Ia). Il Ceo della società, Dario Amodei, ha dichiarato che l’azienda preferirebbe rinunciare alla collaborazione con il Pentagono piuttosto che accettare condizioni che consentirebbero un impiego della propria tecnologia in modi ritenuti pericolosi per i principi democratici. Una posizione netta arrivata pochi giorni dopo il vis a vis tra lo stesso Amodei e il Segretario alla Difesa degli Stati Uniti, Pete Hegseth. Sul tavolo la richiesta che Anthropic accettasse "qualsiasi uso legittimo" dei suoi strumenti. L'incontro si era concluso con la minaccia di rimuovere Anthropic dalla catena di fornitura del Dipartimento della Difesa, in caso di mancata accettazione dei termini proposti. "Queste minacce non cambiano la nostra posizione: non possiamo in coscienza accogliere la loro richiesta", ha ribadito Amodei.
La posizione di Anthropic
Al centro della disputa troviamo l’uso degli strumenti di Ia di Anthropic, tra cui il chatbot Claude, per attività come la sorveglianza domestica su larga scala e lo sviluppo di armi completamente autonome.
Secondo Amodei, tali scenari richiesti dal Pentagono non erano previsti nei contratti originari e rappresenterebbero una deviazione significativa rispetto agli standard etici adottati dall’azienda. "Se il Dipartimento della Difesa statunitense dovesse decidere di abbandonare Anthropic, ci impegneremo per consentire una transizione graduale verso un altro fornitore", ha affermato ancora Amodei.
Come ha sottolineato la Bbc, il dirigente ha sottolineato che l’azienda continuerà a sostenere utilizzi legittimi dell’intelligenza artificiale, come operazioni di intelligence all’estero o attività di difesa conformi alla legge, ma non accetterà impieghi che possano trasformare strumenti avanzati di analisi dati in meccanismi di controllo interno della popolazione.
Fonti vicine ai negoziati sostengono che le tensioni tra le parti vadano avanti da mesi e riguardano soprattutto le garanzie richieste da Anthropic per impedire impieghi controversi delle proprie tecnologie. Una portavoce di Anthropic ha affermato che le nuove formulazioni contrattuali proposte dal Pentagono rappresentavano solo un compromesso apparente, poiché contenevano clausole legali che avrebbero consentito di aggirare facilmente le limitazioni promesse.
Lo scontro con il Pentagono
Sul fronte opposto, il sottosegretario alla Difesa degli Usa, Emil Michael, ha accusato pubblicamente Amodei di mettere a rischio la sicurezza nazionale, mentre funzionari governativi hanno evocato la possibilità di ricorrere al Defense Production Act, una legge che consente al presidente di imporre alle aziende priorità produttive legate alla difesa.
Amodei ha spiegato che sistemi avanzati di Ia possono già oggi aggregare enormi quantità di dati apparentemente innocui per ricostruire automaticamente il profilo completo di una persona, rendendo possibile una sorveglianza di massa senza precedenti. Proprio per questo, sostiene il dirigente, l’utilizzo domestico su larga scala sarebbe incompatibile con i valori democratici che gli Stati Uniti dichiarano di difendere.
Analogamente, l’azienda ritiene che le tecnologie attuali non siano sufficientemente affidabili per gestire armi completamente autonome senza supervisione umana significativa.
Secondo Anthropic, affidare decisioni letali a sistemi algoritmici privi di adeguati controlli aumenterebbe i rischi sia per i civili sia per i militari stessi. Anthropic ha infine dichiarato di aver proposto al Dipartimento della Difesa una collaborazione in ricerca e sviluppo per migliorare sicurezza e affidabilità dei sistemi. La proposta che non sarebbe stata accolta.