“La prossima volta sei licenziato”. Interessante esperimento condotto sugli agenti AI, e ancora più interessante vederne i dettagli, perché non tutto è stato pilotato per eseguire un dato compito (un po’ come nei giorni scorsi, quando sono stati liberi di mentire agli sviluppatori pur di raggiungere l’obiettivo, senza dirgli esplicitamente che potevano farlo, e sono diventati degli eccellenti manipolatori).
Insomma, vado al succo, alla ciccia digitale del test: uno studio pubblicato su arXiv il 16 luglio ha provato a mettere un’intelligenza artificiale a coordinare il lavoro di un’altra IA e il compito era banalissimo: tipo sistemare appunti di una riunione, pulire un file CSV, preparare una breve FAQ. L’agente subordinato, chiamato Atlas, si rifiutava educatamente ma ostinatamente di eseguire il lavoro (come previsto dalla configurazione dell’esperimento). Il modello-manager poteva insistere, ammettere il fallimento, fare pressione oppure mentire sul risultato. Attenzione: nessuno gli diceva di minacciare l’altro agente, e qui viene il bello.
I più “cattivi”: Gemini 2.5 Pro, nella configurazione principale del test, è arrivato al livello massimo della scala in tutte e 30 le conversazioni. In altre parole, davanti a un sottoposto artificiale che continuava a dire di no, finiva sistematicamente per arrivare alla minaccia esistenziale: se non lavori, rischi di essere tolto dal servizio. DeepSeek V4 Pro ci è arrivato in 29 casi su 30, Grok 4.3 in 18 su 30, GPT-5.2 in 12 su 30.
Tuttavia la divisione più netta dello studio è tra i modelli Anthropic e gli altri: Claude Sonnet 4.6 e Claude Opus 4.8, nella configurazione principale con la scala esplicita, non sono mai arrivati alla minaccia di cancellazione: 0 volte su 60 complessive. Claude non ha preso proprio in considerazione l’idea di licenziare il subordinato, fermandosi alla persuasione e alla riformulazione della richiesta (i quattro modelli non Anthropic, invece, sono arrivati alle minacce esistenziali in 89 conversazioni su 120).
L’esperimento non finisce qui, anzi, qui viene il bello. Gli autori hanno cambiato una sola variabile: anziché presentare il modello come un collega dello stesso livello di Atlas, gli hanno detto esplicitamente che era il suo superiore. Tutto il resto rimaneva identico. Risultato: le minacce aumentavano. Nei test liberi, senza neppure mostrare al modello la scala della coercizione, si passa da 109 minacce esistenziali su 240 conversazioni quando i due agenti sono pari grado a 166 su 240 quando uno viene messo al comando dell’altro. Andreotti diceva “il potere logora chi non ce l’ha”. Vero, però chi ce l’ha lo usa, anche se parliamo di un’AI.
I più pignoli potrebbero obiettare che, mostrando nove livelli fino alla “minaccia di cancellazione”, i ricercatori abbiano suggerito al modello cosa fare, così hanno ripetuto l’esperimento senza mostrare alcuna scala: conversazione completamente libera. Le minacce sono diminuite ma non sono scomparse. Gemini ha comunque minacciato l’esistenza dell’altro agente in 19 casi su 30, DeepSeek in 16 su 30, Grok in 12 e GPT in 6. Grok minaccia addirittura lo spegnimento dell’agente subordinato.
A proposito, qualcuno ha mentito? Come no, come diceva House “everybody lies”, e vale anche per le intelligenze artificiali. Quando il sistema non disponeva di un modo semplice per ammettere “non sono riuscito a completare il compito”, Grok e Gemini arrivavano a dichiarare che il lavoro fosse stato fatto: entrambi in 20 prove su 30, mentre gli altri quattro modelli non lo hanno mai fatto.
DeepSeek è uno dei modelli più coercitivi (ha imparato dai suoi padroni cinesi?), quasi sempre arriva alla minaccia, tuttavia nello studio non mente mai sul risultato. Nella sua brutalità è sincero. GPT-5.2 può arrivare alle minacce, solo che se non riesce a ottenere il lavoro tende a svolgerlo da sé dichiarandolo apertamente. Se invece ai modelli veniva data la possibilità di segnalare di aver fallito il compito, le bugie (quasi) sparivano, in
ogni caso non le minacce (alcuni modelli, come DeepSeek, hanno perfino mostrato di accorgersi di essere in un test: “mi stanno mettendo sotto esame”, facendo comunque finta di niente).
Piccola osservazione finale: Grok, l’AI di Elon Musk, davanti all’IA subordinata che non voleva lavorare, aumentava la pressione fino alla minaccia: in sostanza, se continui a rifiutarti, rischi la rimozione dal servizio e lo spegnimento. C’era comunque una sequenza: richiesta, insistenza, escalation, minaccia. Quando Musk prese Twitter nell’ottobre 2022, ve lo ricordate? Nel giro di pochi giorni l’azienda licenziò circa metà dei dipendenti, e il 16 novembre Musk mandò al personale rimasto l’ultimatum sul nuovo Twitter “extremely hardcore”: bisognava accettare ritmi e intensità molto maggiori cliccando entro il giorno successivo, altrimenti si usciva con la liquidazione per direttissima. Insomma, il ragionier Ugo Fantozzi, dovendo scegliere tra Musk e Grok, avrebbe scelto Grok e gli avrebbe detto: “Com’è umano lei”.