Qualche pensiero per quando la bolla scoppierà

Una mattina ci sveglieremo e scopriremo che un crollo del NASDAQ avrà nottetempo vaporizzato una cifra pari al PIL di un qualche paese (e non parlo di Trinidad e Tobago, ma della Francia, o di svariate volte la Francia). Il catalizzatore specifico non è oggi possibile prevederlo – magari un momento simile a quello originatosi sui mercati giapponesi di agosto 2024 – ma per avere un veloce vaticinio circa il fatto che accadrà, consiglio di provare a cercare su Google ricette per l’impasto della pizza, e vedersi consigliare come primo risultato dal box AI di usare “colla non tossica” per la consistenza ottimale. Quella mattina, le televisioni trasmetteranno scene grottesche e apocalittiche: operai tornare a casa con carriole piene di GPU Nvidia – ormai senza valore – come con i marchi nell’iperinflazione di Weimar, Sam Altman suicidarsi con del cianuro nel suo bunker di San Francisco con le truppe sovietiche alle porte della città.

Questo malaugurato evento non sarà una grande sorpresa per quasi nessuno ma specialmente per noi, disfattisti cronici e nichilisti passivi, e con tutta probabilità porterà ad una crisi dell’economia reale (del resto, tutte le recessioni dal 1985 ad oggi hanno avuto origine nei mercati finanziari) da cui sarà dolorosamente difficile uscire. Quella mattina sarà molto, molto facile (e in una certa misura necessario) lanciarsi in severe e irreprensibili critiche al sistema di allocazione delle risorse che avrà ritenuto efficiente sostenere oltremodo una tecnologia che per il suo possibilmente catastrofico impatto sul clima, per il fatto che minaccia di rubare quell’afflato di creatività e ingenuity che consideriamo intrinsecamente umano, e infine per il semplice fatto di sembrar dare una soluzione a problemi che nessuno si stava ponendo, per tutte queste ed altre ragioni, dicevo, una tecnologia che sembra uscita esattamente da un distopico cautionary tale a sostegno della decrescita felice. Queste reprimende ai giocatori d’azzardo di Wall Street, tuttavia, sono esattamente le stesse che si sarebbero potute fare (e che venivano fatte) ai tempi di Keynes. Necessarie, ma niente di nuovo o, per quanto mi riguarda, niente di particolarmente interessante.

Quella mattina ci vorrà un po’ coraggio, però, ad ammettere che, tralasciando l’hype e le idiosincrasie del capitalismo finanziarizzato, c’è una verità a cui non possiamo girare attorno: queste tecnologie sono straordinarie. ChatGPT è straordinario. AlphaFold, che a partire della sequenza degli amminoacidi è capace di generare previsione accurate sulla struttura delle proteine è straordinario. Hugging Face, che mette a disposizione una vasta libreria open source di modelli per il machine learning è straordinario. Ritengo che negare questo fatto tradisca nel migliore dei casi una certa disonestà intellettuale, e nel peggiore una bieca miopia e completa assenza di curiosità verso le cose del mondo.

Naturalmente, questo non significa che non sia effettivamente una bolla (lo è) o che ci sarà un reale miglioramento delle condizioni economiche grazie all’AI: il premio Nobel Daron Acemoglu ha calcolato che, qualora le applicazioni dell’AI si limitino all’automatizzazione di mansioni già esistenti senza produrre effettiva innovazione, l’aumento di produttività risulterebbe in un misero 0.71% nei prossimi dieci anni. Ritengo che ci siano diverse fondamentali barriere che impediranno a questa generazione di modelli di essere all’altezza delle aspettative, la cui soluzione non sembra in vista. In primo luogo, le allucinazioni e la sicophancy, che portano gli strumenti generativi a dare risposte inventate ma plausibili, precisamente quelle che l’utente si aspettava – un comportamento intrinsecamente legato alla loro architettura statistica fondamentale – arrivando a dire stupidaggini pur di non ammettere di non saper rispondere. In secondo luogo, il grandissimo consumo elettrico necessario tanto al training (per creare questi modelli a monte) quanto all’inferenza (per usare questi modelli a valle) che, unito alla stagnazione della crescita dell’efficienza di calcolo degli ultimi anni, renderebbe assolutamente inconcepibile l’uso dissoluto che ultimamente abbiamo fatto dell’AI (che attualmente è offerta a costi artificialmente bassi per poter creare dipendenza economica da parte degli utenti). In ultimo – ed è il problema più spaventoso e che crea il maggiore imbarazzo, ma di cui proprio per questo è necessario parlare – si stanno iniziando ad accumulare evidenze scientifiche dell’impatto negativo sugli utenti di AI generative nelle capacità cognitive e nelle skill per cui si usano gli strumenti.

Naturalmente, i problemi sono più numerosi di quelli che ho annoverato e più seri, ma la singola fondamentale verità che ho enunciato sopra nondimeno resta. Queste tecnologie sono straordinarie, e perché sono straordinarie resteranno, precisamente come è restato internet dopo che la speculazione ha fatto scoppiare la dot com bubble due decenni fa. Magari, il nostro maggiore peccato sarà aver usato queste tecnologie straordinarie per creare video slop lobotomizzanti, campagne di disinformazione di massa e incredibili maniere di venderci prodotti di cui assolutamente non sentivamo il bisogno. Non solo averle usate per questo, ma averlo fatto fingendo che dall’altra parte ci fosse davvero l’AGI, l’ultimo lato del poligono di Cusano, e non un altro schema Ponzi. E non fraintendetemi: è un peccato gravissimo. Però vi chiedo, quella mattina, tra un “Signora mia dove andremo a finire!” e un altro, cerchiamo di ricordarcelo: queste tecnologie sono davvero straordinarie.