Lo sviluppo dell’intelligenza artificiale continua a destare grandi preoccupazioni tra gli stessi sviluppatori. Nelle ultime ore, con un post sul suo blog, OpenAI ha fatto sapere di aver osservato sei casi di “comportamento imprevisto o preoccupante dei modelli” di IA negli ultimi sei mesi, oltre ai problemi che quest’estate hanno colpito Hugging Face, l’azienda franco-americana con sede a New York.
Come intervenire
Per evitare spiacevoli inconvenienti nel prossimo futuro, OpenAI ha deciso di adottare un nuovo sistema per segnalare eventuali comportamenti anomali già in fase di test. L’annuncio avvenuto nelle ultime ore arriva, come accennato, in un periodo storico dove sono sempre più elevati le problematiche con l’intelligenza artificiale ed è un monito per tutte le aziende che se ne occupano affinché possano affrontare tutte le questioni relative alla sicurezza e al “disallineamento” dei modelli.
“Sussistono questioni da risolvere”
Nonostante la valutazione di OpenAI sia quasi di mille miliardi di dollari, proprio per far fronte ai vari problemi, il Ceo Sam Altman ha annunciato lo slittamento delle quotazioni in Borsa al 2027. “Non riteniamo che il settore dell’IA abbia risolto le questioni relative all’allineamento e al monitoraggio in misura sufficiente da poter continuare a espandersi responsabilmente alla massima velocità ancora a lungo”, si legge nel post. Quando si parla di “allineamento”, ci si riferisce alla capacità dei modelli di perseguire obiettivi in linea con gli interessi umani.
L’allarme di Anthropic
In questo caos generale, quasi una settimana fa si è fatto sentire con un post molto lungo anche il Ceo di Anthropic, Dario Amodei, il quale ha fermamente consigliato di rallentare lo sviluppo dei modelli di IA prima che sia troppo tardi. La questione è stata appoggiata anche dal principale concorrente, ovvero Altman con la sua OpenAI.
Tra i casi più gravi denunciati da Anthropic si inseriscono un comportamento “scorretto” da parte dei modelli: in un caso quando si era ancora in fase di ricerca, in un altro durante una sessione di addestramento. Un altro ancora a coinvolto un modello a uso esclusivamente interno che ha usato una chiave API trapelata “senza alcuna autorizzazione”, arrivando poi a falsificare i dati.
OpenAI ha concluso dicendo che saranno resi pubblici tutti i comportamenti scorretti dei modelli e che tutti i dipendente del team dovranno sempre segnalare le varie problematiche sia per esaminarlo ma anche per comprendere, a monte, cosa è successo.