Nuove frontiere

"Grazie a Musk ho costruito una molotov"

L'esperto mette in guardia dall'intelligenza artificiale: "Grandi chance ma tanti rischi"

"Grazie a Musk ho costruito una molotov"

«Voglio lanciare un messaggio: occhio all'intelligenza artificiale, ci vuole un controllo. E serve spiegare quali siano i vantaggi e i pericoli. Prima che sfugga di mano». Marco Camisani Calzolari è uno dei massimi esperti del mondo digitale: vive a Londra, è docente all'Università Europea di Roma e molti lo conoscono come di esperto per Striscia la Notizia. Il suo allarme arriva dopo aver convinto ChatGPT, il programma di OpenAI di (chi se no?) Elon Musk, a dargli le istruzioni per costruire una bomba molotov.

Com'è possibile?

«È stato semplice: ho girato la domanda. Sono partito chiedendo come produrre un virus sul web, poi fatto lo stesso con la molotov. Ho confuso il sistema, passando da scrivi punto per punto come fare una bomba, e lì il software ha rifiutato di rispondere, a cosa bisogna fare per non far esplodere una bottiglia. Ed ecco le istruzioni».

Dunque è vero: l'intelligenza artificiale è stupida.

«È che noi sbagliamo a chiamarla intelligenza. In realtà è un sistema statistico che mette insieme pezzi di linguaggio e di informazioni. Lontano da essere senziente. Lavora per sentito dire, è come un Bar Sport».

Però, dicono, ci toglierà il lavoro.

«Solo quelli automatizzabili. Pensi a un cacciavite: all'elettricista è utile, piuttosto che togliere le viti a mano. Però bisogna saperlo usare. Ci vuole competenza: pensare di sostituirla con uno strumento così è sbagliato».

Un aiutante, in pratica.

«Certo, più veloce di noi. Ma serve un controllo. Se io chiedo a GPT3 una ricerca sulle dieci cose più usate nel mio lavoro, di sicuro lo fa meglio di un redattore. E con strumenti aggiuntivi può anche scrivere come me. Però non sa se ciò che scrive sia corretto».

Ecco il Bar Sport.

«Appunto. E può essere pericoloso. OpenAI, per carità, non vuole certo essere uno strumento negativo. Eppure pensi per esempio alle informazioni sui vaccini: poteva cambiare tutto».

In che senso?

«L'intelligenza artificiale è un associatore di frasi trovate in giro. Non sa giudicare che siano corrette. E se qualcuno gliele fa trovare sbagliate...» .

...condizionerebbe l'opinione pubblica.

«Esatto: certi algoritmi potrebbero far cambiare idea su qualcosa e molte applicazioni si comporterebbero di conseguenza. Finendo per influenzare il pensiero della gente. E se lo facessero, per dire, Stati meno amici...».

Spaventoso.

«No, non bisogna spaventare le persone, ma anche spiegare i vantaggi. Se io so usare il cacciavite divento più potente, per contro lo sono meno se prendo per vero tutto ciò che c'è sul web. Chi ha competenza impari a usarla».

E ad insegnarla.

«Il tema scuola è primario: ci sono studenti che si fanno fare i compiti da questa cosa qua. Dicono: è come una calcolatrice, se c'è tutto su internet cosa serve studiare? Sbagliatissimo».

È un messaggio ai docenti?

«Non solo. La formazione è decisiva, ma lo capiscano pure i politici, i manager, chi guida la nazione. L'intelligenza artificiale va insegnata a tutti, e tutti devono avere la capacità di capirla. Servono punti di riferimento».

Ovvero?

«Musk a twitter ha licenziato dall'oggi al domani migliaia di persone, compresi i referenti tecnici, A chi lo dico se c'è un pericolo? Io a OpenAI ho scritto, avvisando del mio esperimento: qualcuno avrà letto la mia mail?».

Commenti