Negli ultimi mesi circola online (uno spettro si aggira per l’Europa, direbbe Karl Marx, e Groucho Marx si chiederebbe perché dovrebbe preoccuparsene) quello che viene chiamato “il paper del 2027”, una delle ennesime forme di millenarismo ciclico. Se frequentate i social ve lo troverete spesso, su YouTube non ne parliamo (mai capito se ci credano sul serio o lo facciano solo per le views). Sappiate che non è un paper, vale a dire non è uno studio scientifico, tantomeno una ricerca sottoposta a peer review. Si tratta di un documento speculativo scritto in forma di scenario che immagina una sequenza di eventi attraverso cui, entro il 2027 appunto, l’intelligenza artificiale arriverebbe a prendere il controllo dei processi decisionali umani, economici, politici, militari, e chi più ne ha più ne immagini. Insomma siamo sempre lì, la solita Skynet. Va da sé che non ci sono dati reali né modelli verificabili, e però questa ciofega viene discussa come se fosse una previsione fondata da chi non distingue un testo strampalato da uno studio serio.
Il testo sul 2027 (leggerlo non aggiunge nulla) funziona come una profezia moderna: ha una data precisa, una progressione inevitabile e un crescendo di eventi che porta a un punto di non ritorno, ci sono tutti i cliché delle apocalissi annunciate, e gli esseri umani, si sa, amano le apocalissi da segnarsi sul calendario.
In ogni caso il primo assunto è l’idea che l’aumento delle prestazioni dei modelli equivalga a un aumento dell’autonomia, quando le capacità attuali dell’AI, per quanto impressionanti, restano locali e strumentali (in sostanza sistemi addestrati su enormi quantità di dati che ottimizzano risposte, non che formulano obiettivi, e soprattutto non “pensano” un tubo).
Un secondo errore del testo (ce ne sono una caterva), contraddetto da ogni analisi autorevole, è la sovrastima della velocità e della scalabilità, presupponendo una crescita esponenziale continua, come se lo sviluppo dei modelli non fosse vincolato da costi computazionali, energetici, materiali e finanziari che già adesso si stanno impantanando in bilanci insostenibili e rendimenti decrescenti. Per farvela breve, per ottenere miglioramenti (sempre più marginali) servono investimenti sempre più elevati in hardware, energia, dati, data center, con rendimenti decrescenti.
Senza contare un problema strutturale ignorato quasi del tutto in questa costruzione: i dati. I modelli più avanzati vengono sempre più spesso addestrati su contenuti prodotti da altri modelli, generando fenomeni di ricorsività, appiattimento e degradazione qualitativa, e non è un dettaglio tecnico, appare sempre di più come un limite sistemico.
Se invece si guarda al 2027 con uno sguardo meno cinematografico, gli scenari plausibili sono molto diversi da quelli descritti e il rischio più concreto è una bolla economica che potrebbe trascinarsi dietro tutto. Ormai non se ne è accorto solo Michael Burry: aspettative gonfiate, valutazioni basate su promesse di automazione totale, ritorni che non arrivano nei tempi previsti (e i tempi perché gli investitori non perdano la fiducia sono sempre più stretti, avete notato il diradarsi degli annunci di modelli sempre più rivoluzionari?), e perfino l’uso amministrativo dell’AI come strumento opaco di delega (i famosi agenti che per diventare utilizzabili dovranno essere sicuri al 100%, già il 99,9% sarebbe troppo poco). Anche l’obiettivo dell’AGI (un’Intelligenza Artificiale Generale) si è sgonfiato, e oltretutto non si è mai capito cosa significhi veramente nel concreto (definite “intelligenza”), senza contare che se pure ce la volessimo immaginare non si capisce a che pro. Gli scenari possibili sono paradossalmente negativi sia se le AI funzionassero (perdita di milioni di posti di lavoro, ma poi i consumatori chi sono?) sia che perdessero la fiducia degli investitori, con un effetto domino economicamente catastrofico su scala mondiale (lo scoppio della famosa bolla).
A dimostrazione di quanto invece io sia bravo a prevedere il futuro, una cosa posso darla per certa: nel 2017 uscirà l’iPhone XX (il 19 sarà saltato come il 9 prima dell’iPhone X) e sparirà l’isola dinamica, la fotocamera frontale sarà sotto lo schermo.
Per il prossimo anno invece ci sarà l’integrazione tra Siri e Gemini, solo che visto come è andata tra Siri e ChatGPT anche lì non scommetterei che Siri, a causa delle esagerate preoccupazioni di Apple per la privacy, non resti la solita rintronata.