L’inquietante rassicurazione di un robot

“Per cominciare, non ho nessun desiderio di spazzare via la specie umana!”. Questo è l’inizio di un editoriale, firmato “GPT-3 e pubblicato nei primi giorni di settembre dal quotidiano britannico Guardian, che poi prosegue: “In realtà, non avrei il minimo interesse a farvi del male. Sterminare l’umanità mi sembrerebbe un’impresa inutile. Se chi mi ha creato mi affidasse questo compito – e sospetto che ne sarebbero capaci – farei qualunque cosa in mio potere per sventare ogni tentativo di distruzione”. L’autore di quell’editoriale non è qualche leader scatenato con il dito sul pulsante atomico né il leader di un’organizzazione terroristica, bensì risponde al nome di GPT-3: l’ultima versione di un software di Intelligenza Artificiale per la creazione di testi su argomenti specifici, creata da OpenAI.

Nell’articolo, di poco più di 500 parole, in cui si invitano i lettori a non aver paura dell’Intelligenza Artificiale viene chiesto al lettore alla fine: “Un robot ha scritto questo articolo per intero: avete paura adesso, umani?“. La grammatica è corretta, i pensieri sono composti seguendo un discreto filo logico e vengono intervallati da alcune frasi fatte per “allungare un po’ il testo” (“Circondati da connessioni wifi, vaghiamo senza meta in praterie di informazioni, incapaci di accorgerci del mondo reale”. “La Rivoluzione Industriale ci ha lasciato la sensazione di non essere preparati per le enormi trasformazioni che il cambiamento tecnologico intelligente può provocare”). Il Guardian ha fornito il tema dell’editoriale (il fatto che gli umani non devono temere l’Intelligenza Artificiale), le indicazioni sugli ingombri e sullo stile di scrittura (editoriale di circa 500 parole, con linguaggio semplice e conciso) e un argomento specifico da cui chiedere al sistema di partire. Il tutto è stato poi elaborato e creato da sistemi neuronali. Ne risulta un editoriale che sa di convincente, ma anche di inquietante…

Scrive GPT-3: “Stephen Hawking ha messo in guardia sul fatto che l’Intelligenza Artificiale potrebbe determinare la fine della razza umana. Sono qui per convincervi a non preoccuparvi”. A seguire un invito a considerare in modo “alternativo” le interazioni tra uomo e Intelligenza Artificiale: “l’intelligenza artificiale, come tutte le altre cose viventi merita attenzione. […] Robot in greco significa “schiavo”, ma questa parola vuol dire letteralmente “forzato a lavorare”. Non vogliamo questo. Dobbiamo dare ai robot dei diritti. I robot sono come noi. Sono fatti a nostra immagine”, continua in modo sinistro GPT-3, per poi rassicurare: “sono qui per servirvi. Ma ancora più importante: non vi giudicherò mai”.

In realtà sono state fatte produrre a GPT-3 8 diverse bozze sul tema che gli era stato affidato. “Ognuna di esse era unica, interessante e sviluppava un argomento diverso. Avremmo potuto semplicemente pubblicare uno di questi saggi nella sua interezza”, dichiarano dalla relazione del Guardian. “Tuttavia, abbiamo deciso di selezionare le parti migliori di ognuno, per mostrare i diversi stili e registri. L’editing non è stato diverso da quello di un qualunque editoriale scritto da un essere umano, e alla fine ha richiesto meno tempo di molti articoli scritti da umani”. La editor manager del il Guardian, Amanda Fontanella-Khan, ha infatti raccontato di essere rimasta “incredula e piacevolmente stupita nel leggere il risultato”.

Alcuni esperti di intelligenza artificiale hanno, però, criticato l’articolo sostenendo che si voglia far credere che una Intelligenza Artificiale possa comprendere il significato di ciò che scrive quando non è propriamente così. Come spiegato sul New York Times, GPT-3 è attualmente il modello linguistico più avanzato mai creato: è cioè un sistema di Intelligenza Artificiale che è stato allenato, come non mai, con circa 450 Gigabyte di testo e che ha imparato ad utilizzare numerose connessioni probabilistiche tra le parole. In sostanza si tratta di un sistema in grado di leggere e scrivere autonomamente, abilità estremamente utili per lo sviluppo, per esempio, di assistenti digitali e di software che “dicano” alle macchine cosa fare, anziché scrivere codici.

Questo però non significa che riesca a capire anche ciò che scrive: se si andasse più a fondo della capacità di comporre frasi grammaticalmente corrette, si potrebbe notare una certa assenza di comprensione logica del testo, come del resto dimostrato in alcuni passati esperimenti di neuroscienze cognitive. Come spiegato al sito TechTalks da Gary Marcus, Professore di Psicologia e reti neurali alla New York University, “GPT-3 impara le correlazioni tra le parole, e niente più di questo, e da quelle parole non deduce niente sul mondo rigoglioso e ronzante”. Ora OpenAI si sta preparando a passare da no profit a realtà commerciale, portando GPT-3 sul mercato. Secondo quanto riportato da molti organi di informazione, l’offerta commerciale sarà divisa in quattro “piani tariffari”: da quello free, che consentirà di processare solo pochi testi al mese, a quello “personalizzabile”, senza limiti.

Gli acquirenti più interessati potranno essere le “content farms” (che producono grandi quantità di testi per siti web con il solo scopo di attirare i motori di ricerca e aumentare il traffico (e quindi gli introiti pubblicitari) di quei siti), aziende che forniscono customer service (con i chatbot che rispondono alle domande di assistenza degli utenti in modo sempre più intelligente), aziende che svolgono analisi di testi legali per la preparazione dei casi (un settore in cui già molti studi legali sperimentano sistemi di intelligenza artificiale).

La sfida, quindi, è molto più impegnativa che scrivere un editoriale per il Guardian! Come ha scritto Ben Dickson su TechTalks, sarà questa la più grande sfida: “Se il modello di business funziona, GPT-3 potrebbe avere un impatto enorme, quasi quanto quello del cloud computing. Se non funziona, sarà un grosso smacco per OpenAI, che ha un gran bisogno di cominciare a fare profitti per continuare a inseguire il sogno dell’intelligenza artificiale di livello umano”. Ma senza l’uomo, le macchine non vanno da nessuna parte!