"Minaccia all'umanità". La scoperta choc del fondatore di ChatGpt
23 Novembre 2023 - 16:06I ricercatori avrebbero inoltrato al cda della società una lettera in cui mettevano in guardia sulla questione
Ascolta ora: "OpenAI, la scoperta di Altman che minacciava l’umanità"
Il caso Altman fa riflettere su quanto l’intelligenza artificiale possa essere pericolosa se usata nel modo sbagliato. Il consiglio di amministrazione di OpenAI avrebbe infatti segnalato una scoperta del CEO e fondatore che avrebbe potuto minacciare l’umanità. Lo segnalano alcune fonti anonime Reuters. La questione potrebbe rientrare tra i fattori che hanno portato al licenziamento di Sam Altman. Ecco cosa è accaduto.
La segnalazione
In merito al caso ci sono alcune preoccupazioni specifiche. Infatti i ricercatori dell’azienda nella lettera al cda avrebbero parlato di una “minaccia per l’umanità”. Oltre a questo si presenta anche il timore di una commercializzazione dei progressi riguardanti all'algoritmo di AI prima di comprenderne le conseguenze. Il consiglio di amministrazione dovrà ora esaminare un nuovo board composto da nove persone al massimo che, come richiesto da Altman, comprenderà anche Microsoft, questo comprenderà Bret Taylor, Larry Summers e Adam D’Angelo, superstite del cda. Il reintegro del CEO è stato messo in atto poiché più di 700 dipendenti avrebbero minacciato di licenziarsi e unirsi al numero uno di OpenAi in Microsoft.
Il progetto Q-Star
Il progetto citato nella lettera presentata dal cda è chiamato “Q*” e si pronuncia “Q-Star”. Questo rappresenterebbe una svolta nella ricerca della startup che si occupa della super intelligenza AGI, acronimo di artificial general intelligence. Mira Murati, la dirigente nominata CEO nominata dopo il temporaneo allontanamento di Altman, avrebbe raccontato del progetto ai dipendenti confermando l’esistenza della lettera inviata al consiglio prima dell’accaduto. I ricercatori avrebbero inoltre segnalato il pericolo rappresentato dalle macchine molto intelligenti nel caso in cui decidessero di distruggere l’umanità per il loro interesse e segnalato poi le loro preoccupazioni a un team di scienziati che si occupano di AI. Il progetto del gruppo sarebbe finalizzato a ottimizzare i modelli di intelligenza artificiale per migliorare sempre di più i processi di ragionamento e svolgere successivamente lavori scientifici.
Le capacità dell’AI
Attualmente i ricercatori ritengono la matematica una vera e propria frontiera specifica per sviluppare l’AI generativa che è capace di tradurre e comporre testi. Inoltre l’intelligenza artificiale può prevedere la parola successiva e fornire risposte diverse alle medesime domande.
Le capacità matematiche consentirebbero di fornire una sola risposta, è quindi necessario “educare” il software a una maggiore capacità di ragionamento più affine all’intelligenza umana.