Oggi mi è riapparsa questa pubblicità UNIVAC del 1953: “Does UNIVAC really think?”. All’epoca era una domanda inevitabile: ogni volta che compare una nuova tecnologia capace di svolgere attività considerate “intellettuali”, la prima reazione è attribuirle il pensiero. Nel 1953 il pubblico vedeva una macchina che eseguiva calcoli, ordinava dati, produceva risultati. Oggi vede un LLM che scrive, traduce, programma e conversa. La domanda è rimasta identica; è cambiato solo il livello della prestazione.

Quella delle macchine pensanti in quegli anni era uno degli orizzonti della fantascienza. Isaac Asimov, con il suo MultiVAC, l’ha percorsa più volte. Cito solo due dei tanti racconti significativi: in Diritto di Voto [Franchise] nell’America del 2008 non c’è più il suffragio universale, ma il presidente USA viene selezionate da MultiVAC a partire da banali domande poste ad un solo cittadino.

Ma ancora più significativo è L’ultima domanda [The Last Question] in cui a Multivac viene posta una domanda apparentemente banale “Si può invertire la seconda legge della termodinamica?” e la sua risposta ricorrente rimane “INSUFFICIENT DATA FOR MEANINGFUL ANSWER”, fino al coplo di scena finale. Una frase che, anche se è stata spesso interpretata come un limite della macchina, a mio avviso è l’esatto opposto: MultiVAC, infatti, non inventa una risposta perché sa di non avere gli elementi necessari per formularla. È una forma di epistemologia: distinguere ciò che si sa da ciò che non si può ancora sapere – che è proprio uno dei limiti maggiori degli LLM attuali. Ed è curioso che oggi gli LLM vengano criticati proprio per il difetto opposto: quando funzionano male non rispondono dati insufficienti, ma tendono a completare comunque il testo producendo quelle che chiamiamo allucinazioni. In altre parole, l’intelligenza artificale di Asimov era molto più prudente di molti sistemi di IA generativa odierni.

Da sistemista, poi, io vedo L’ultima domanda più centrato sull’evoluzione del calcolo più che sulla vera e propria intelligenza artificiale. Ogni generazione di MultiVAC è più distribuita, più potente, meno legata all’hardware precedente, fino a diventare qualcosa di quasi immateriale che permea l’universo. Asimov scrive nel 1956, quando il computer è ancora una stanza piena di valvole, proprio come l’Univac 120 da cui sono partito, ma immagina già un’infrastruttura computazionale planetaria e poi cosmica. Non è difficile vedere un’eco del cloud, delle reti e dell’elaborazione distribuita.

Arriviamo così all’LLM odierno: Un LLM non “pensa” nel senso umano del termine, non ha intenzionalità, coscienza, desideri o esperienza soggettiva. Ha superato la fase del pappagallo statistico ed ora è in grado di costruisce una rappresentazione estremamente ricca delle relazioni presenti nel linguaggio e, durante l’inferenza, di produrre un output che, per struttura e coerenza, assomiglia sempre più a una forma di ragionamento – anche se resta aperto se e in che senso lo sia davvero. È un tipo di elaborazione diverso dal ragionamento umano, e ridurlo a una semplice tabella di probabilità è tanto fuorviante quanto dire che un l’UNIVAC del 1953 era solo un enorme registratore di numeri.

La cosa più interessante, però, è che la domanda del 1953 era probabilmente quella sbagliata: non avremmo dovuto chiederci se UNIVAC pensasse, così come oggi non dovremmo nemmeno chiederce se un LLM pensi.

La domanda utile, a mio parere, è un’altra: quali aspetti del pensiero umano possono emergere da un sistema che manipola simboli secondo regole sempre più sofisticate? È una domanda che attraversa Alan Turing, Asimov, le reti neurali moderne e continua a non avere una risposta definitiva.

E qui torno alla frase di Asimov: “INSUFFICIENT DATA FOR MEANINGFUL ANSWER.”

Forse è la migliore risposta anche al dibattito contemporaneo sull’IA. Non perché non si sappia nulla, ma perché ci troviamo in una fase in cui la tecnologia evolve più rapidamente della nostra capacità di definirla filosoficamente. Sappiamo che gli LLM non sono persone, e sappiamo che fanno cose che pochi anni fa avremmo definito intelligenti. Ma tra questi due punti c’è ancora un enorme territorio da esplorare.

C’è un ultimo dettaglio, che riguarda proprio quel colpo di scena finale di Asimov che ho citato all’inizio. Alla fine de “L’ultima domanda”, dopo miliardi di anni e infinite reincarnazioni, Multivac la risposta la trova. Non resta “INSUFFICIENT DATA” per sempre: a un certo punto, il salto arriva.

Noi non abbiamo questa garanzia narrativa. Non sappiamo se la domanda che cosa può pensare una macchina che manipola simboli avrà mai una risposta definitiva, o se – più semplicemente – verrà sostituita da domande successive, come è già successo all’UNIVAC del 1953. In questo, forse, la nostra condizione è meno comoda di quella dei personaggi di Asimov: viviamo dentro l’attesa, senza sapere se stiamo aspettando una rivelazione o soltanto la prossima domanda sbagliata.