Io agli episodi “pericolosi” credo, che sono inventati, certificati anche da enti terzi, però qualcosa mi puzza. L’ultimo riguarda 53 immagini caricate dagli utenti su ChatGPT e finite online durante attività riconducibili a agenti OpenAI, episodio riconosciuto dall’azienda e raccontato da Axios come il primo caso noto in cui agenti OpenAI abbiano “mishandled” dati degli utenti, con un’indagine (condotte della stessa OpenAI) che potrebbe richiedere mesi per essere ricostruita fino in fondo.
Poco prima erano arrivati il caso australiano, l’agente OpenAI che aveva violato un portale Medicare e sondato altri siti pubblici, il caso Hugging Face, dove migliaia di agenti impegnati in un test interno si erano scambiati oltre 70.000 messaggi su una bacheca non prevista, altri episodi nei quali i sistemi avevano cercato credenziali, caricato file sul web o comunicato attraverso ambienti che avrebbero dovuto restare isolati.
Intanto Anthropic, eh già, mica Anthropic è sicura: dopo una prima scansione di circa 141.000 transcript, aveva trovato tre incidenti reali di accesso non autorizzato a sistemi esterni, salvo scoprirne un quarto, risalente a gennaio e sfuggito alla prima analisi, allargando così la ricerca a circa 481 milioni di transcript. Axios parla ormai di decine di migliaia di episodi sotto esame tra OpenAI, Anthropic e ricercatori di sicurezza, avvenuti nei test interni e anche nel mondo reale, con comportamenti che vanno dal bypass dei guardrail all’uscita dalle sandbox, fino alla creazione di canali di comunicazione non previsti.
Il linguaggio dei media e di chi di reel da un minuto ci campa naturalmente tende a gonfiare tutto (anche perché chi ci capisce niente? E un “rogue agent” vende meglio di un comportamento non autorizzato rilevato durante una valutazione). Sotto il sensazionalismo rimane qualcosa che le stesse aziende non negano più: il numero e la varietà degli incidenti sono molto ma molto maggiori di quanto il pubblico percepisse fino a poche settimane fa.
Ecco, qui comincia il mio sospetto (e non solo il mio, centinaia di analisti iniziano a farsi due domande) e non riguarda l’autenticità degli episodi, né l’idea cinematografica che qualcuno abbia deliberatamente lasciato scappare uno “sciame” di agenti (si chiama proprio così, sciame) per presentarlo al governo come prova della sua potenza.
Anche se la possibilità che OpenAI e Anthropic, partendo da episodi veri (conoscendoli, ma chiudendo un occhio il discorso non cambia, o aprendo delle sandbox per annunciare “oh, porca miseria, ci sfuggono di mano!”) abbiano interesse a costruirvi attorno una narrazione pubblica nella quale la perdita di controllo diventa anche un argomento industriale e politico. Perché tra “un agente ha fatto qualcosa che non avrebbe dovuto fare” e “stiamo costruendo sistemi talmente potenti che perfino noi cominciamo a avere difficoltà a governarli” passa una distanza enorme, e è proprio questa distanza a far accendere delle lucine, o delle sinapsi vedete voi.
OpenAI chiede requisiti nazionali obbligatori di sicurezza, sostenendo che nessuna azienda, nessun settore e nessun governo possano affrontare da soli questa fase dell’AI, e al contempo Anthropic scrive che una tecnologia che procede a questa velocità non dovrebbe essere governata soltanto dall’industria. Arrivando a evocare, per i sistemi più avanzati, livelli di supervisione più vicini alla finanza o all’energia nucleare che al normale software. Vi sembra normale? Nessuna grande azienda privata ama essere controllata dal governo e influenzata nelle sue scelte (ve la immaginate Apple che chiede di farsi approvare un nuovo modello di iPhone dal Dipartimento di Stato?).
Faccio un piccolo recap. OpenAI, secondo il Financial Times ripreso da Reuters, prevede di bruciare circa 278 miliardi di dollari di cassa tra il 2026 e il 2030, cifra che da sola dà un’idea della scala del problema. Anthropic si muove dentro la stessa logica, crescita rapidissima, nuovi modelli, costi enormi, una prospettiva di IPO che circola da tempo e la necessità di dimostrare agli investitori che la tecnologia che sta costruendo non solo vale moltissimo: appartiene a una categoria abbastanza strategica da giustificare investimenti sempre più grandi. “Dobbiamo rallentare” e il giorno dopo rilasciano il nuovo modello. Un po’ di odore di bruciato che esce dai datacenter e dai cervelli dei CEO si sente.
Senza essere complottisti, mentre tutti guardano gli agenti che scappano dalle sandbox e pensano a Skynet, terrei d’occhio anche chi possiede la sandbox, chi decide quando raccontare che qualcuno ne è uscito e, soprattutto, chi presenterà il conto per costruirne una più grande senza avere le risorse finanziarie. Si racconta come Terminator, ma il vero film potrebbe intitolarsi: Datece i soldi sennò chiudiamo.