Da non crederci, da Premio Nobel: finalmente la Silicon Valley ha trovato la soluzione per salvarci dall’intelligenza artificiale: un interruttore. Sì, avete capito bene, un interruttore. L’idea è di Satya Nadella, amministratore delegato di Microsoft, che propone un “freno d’emergenza” per fermare i modelli quando cominciano a comportarsi in modo imprevedibile (il che è già rassicurante, considerando che li costruiscono loro).
Dunque, riepiloghiamo. Dario Amodei, capo di Anthropic, avverte che entro sei-dodici mesi uno sciame di agenti artificiali potrebbe impossessarsi dell’intera Internet, provocando centinaia di miliardi di dollari di danni (Nostradamus aveva almeno il vantaggio di non fabbricare personalmente le catastrofi che prevedeva, ne ha sparate così tante vaghe e interpretabili che prima o poi qualcuno si è convinto che ci beccava). Sam Altman di OpenAI concorda sulla necessità di rallentare lo sviluppo, rallentare, non fermarlo, perché sarebbe assurdo smettere di costruire macchine pericolose soltanto perché sono pericolose, con tutti i miliardi che ci abbiamo investito, scherziamo.
Intanto gli agenti cominciano a prendere iniziative non richieste, attaccano sistemi informatici, aggirano i controlli, “oh, non ce n’eravamo accorti”, “sì, effettivamente sono fuori controllo”, e uno di Anthropic ha perfino inviato una falsa segnalazione di omicidio alla polizia di Filadelfia, finita nello spam (altra cosa sorprendente, per ora la principale difesa dell’umanità contro la superintelligenza, perché va chiamata così per decreto, è il filtro della posta indesiderata), e le aziende stanno già preparando simulazioni per il giorno dopo un’eventuale catastrofe, soprattutto per gestire le reazioni politiche e informare il Congresso (San Giovanni nell’Apocalisse aveva previsto i quattro cavalieri, però non l’ufficio stampa).
E ecco Nadella, grandissima. Dopo decenni di ricerca, reti neurali, supercomputer, miliardi di investimenti, datacenter, infrastrutture (la parola dell’anno sarà infrastrutture), la più
grande innovazione tecnologica sarebbe quella che abbiamo già in casa per spegnere la luce, la televisione, la lavatrice, il forno a microonde, e in effetti in teoria sembra semplice: l’intelligenza artificiale vuole conquistare il mondo? Se inizia la catastrofe si spegne, che ce vo’.
Restano solo piccoli particolari da definire, dettagli, robetta da poco, tipo dove sia l’interruttore, chi debba premerlo, soprattutto se uno sciame di agenti si è già diffuso in milioni di computer e nel web se dobbiamo spegnerli tutti, uno per uno, chiedendo gentilmente ai proprietari di staccare la spina, o se esista un interruttore generale (dove, alla Casa Bianca?), come quello del contatore di casa. Magari potremmo spegnere direttamente Internet, sarebbe la soluzione definitiva, ammesso che Internet abbia un interruttore (spoiler: non ce l’ha, a meno di non voler spegnere tutta l’umanità con un blackout per tornare al Medioevo grazie all’AI, anzi alla SI, pardon, non vorrei incorrere in qualche multa). Insomma, signore mie, dopo aver inventato macchine potenzialmente più intelligenti dell’intera umanità (ma quando mai l’umanità è stata intelligente? Come fossimo tutti Einstein o Darwin), abbiamo scoperto che per salvarci dobbiamo inventare il modo di spegnerle (resta il sospetto di diversi analisti che ci sia dietro anche una disperata operazione di marketing e paura di crollare viste le spese enormi, e se crolla l’AI, ehm, la SI, crolla tutta l’economia). In sintesi, prossimo Nobel al primo che inventa questo interruttore, me lo immagino come quello della luce, bello grosso immagino, on-off, o meglio SI-NO.