"Wohpe" di Salvatore Sanfilippo
Siamo alla fine del XXI secolo. L'intelligenza artificiale forte è vietata da vent'anni, ma ormai da tempo i cambiamenti climatici hanno avviato una serie di catastrofi naturali inarrestabili e la civiltà è sull'orlo della distruzione. Con la collaborazione di tutti i maggiori governi del mondo, viene approvato il progetto Wohpe per la costruzione di una rete neurale con una quantità elevatissima di parametri per tentare un'ultima soluzione: porre all'intelligenza artificiale le domande decisive su come salvare la civiltà dalla sua inevitabile fine. Questa è la trama di "Wohpe", il libro di Salvatore Sanfilippo uscito nel Luglio 2022.
Introduzione
Ho da poco concluso la lettura di “Wohpe”, il romanzo fantascientifico di Salvatore Sanfilippo. La trama, accennata sopra, è abbastanza semplice e il problema che traina tutta la storia, ovvero la crisi climatica, si presta ad una facile comprensione considerando la copertura che questo argomento ha avuto negli ultimi anni.
Salvatore Sanfilippo è un software engineer italiano di fama internazionale. È il creatore di Redis, uno store di strutture dati chiave-valore open-source che nel corso del tempo si è guadagnato la fama per la sua velocità e la sua versatilità, fino ad essere il key-value store più diffuso di tutti (a Febbraio 2025).
A mio parere è un libro molto stimolante sia per ragionare sulle forme che una società altamente tecnologizzata può assumere in futuro, sia per riflettere sulle questioni etiche legate alla tecnologia, tema di cui dovremmo preoccuparci tutti in maniera crescente ora e nei prossimi anni.
L’etichetta di genere “fantascientifico” può essere temporanea, e magari, in un futuro prossimo, questo libro sarà visto come un romanzo contemporaneo scritto con visionario anticipo. In effetti, una modesta parte del corredo di strumenti fantascientifici descritti nel libro non è così lontana dalla realtà attuale: macchine a guida autonoma, sistemi di riconoscimento facciale e sentiment analysis, robot militari, assistenti vocali intelligenti e agenti conversazionali che adottano il linguaggio naturale.
ATTENZIONE - questo articolo, d’ora in avanti, potrebbe contenere spoiler.
Sanfilippo veggente
Soprattutto per quanto riguarda gli strumenti legati al NLP (come Wohpe stessa), Sanfilippo ha praticamente anticipato al mondo quello che stava per accadere: infatti, il libro è stato ultimato nella sua stesura nel 2021 e pubblicato nel Luglio 2022, quindi ben prima dell’uscita di ChatGPT da parte di OpenAI che, a fine Novembre dello stesso anno, ha mostrato al mondo i risultati delle sue ricerche.
Sanfilippo stesso in un suo video ha dichiarato che “per molti addetti ai lavori si capiva che eravamo vicini ad una rivoluzione”. Questo è un esempio del fatto che i ricercatori e, in generale, i tecnici che restano aggiornati sui risultati più significativi della ricerca possono avere una prospettiva più distesa sul mondo e sul suo andamento nel medio-lungo termine. Motivo per cui, secondo me, i ricercatori dovrebbero periodicamente essere coinvolti nei colloqui decisionali della politica, per fare in modo che vengano prese scelte che indirizzino la società negli sviluppi che inevitabilmente essa subirà a causa del progresso tecnologico galoppante, o quanto meno per fare in modo che le decisioni prese non siano in contrasto con i cambiamenti più prossimi.
Un discorso di questo tipo è in linea con quanto presente nel mondo del romanzo di Sanfilippo. Infatti viene descritto come, ai tempi in cui si svolge la vicenda, l’opinione dominante è a favore dei partiti tecnocratici, i quali, “sorti dalle ceneri dei grandi populismi”, dagli anni ‘50 (2050 s’intende) hanno iniziato a godere di grande supporto per via del loro approccio razionalista, in contrasto con l’ormai spregiato approccio puramente propagandistico dei partiti in auge precedentemente. Questo scenario descritto nel racconto è, a mio parere, la naturale evoluzione della nostra società che, seppur a volte non si direbbe affatto, è fortemente influenzata dal razionalismo e dal predominio della scienza. In questo periodo, ad essere onesto, è un po’ difficile sostenere un’ipotesi del genere in quanto sembra che si è di fronte a tendenze diametralmente opposte al razionalismo (si pensi al consenso che hanno i partiti fortemente conservatori in Europa, alle tendenze buoniste e moraliste della sinistra e in generale alla polarizzazione e alla superficialità dei dibattiti e al posizionamento politico estremo dei partiti). Tuttavia resto convinto di ciò perché lo sviluppo delle società e dell’essere umano è sempre stato guidato dallo sviluppo tecnologico, il quale influenza a sua volta la società (mutual shaping), e lo sviluppo tecnologico genera e ha bisogno di una visione razionalista della politica. Quindi a mio modo di vedere la tendenza è quella (è più una speranza che una certezza, chiaramente).
Come ha fatto notare anche Sanfilippo in un suo video su YouTube, nel racconto ha introdotto la figura di Annika Meyer, una psicologa cibernetica il cui lavoro è quello di trovare il modo di porre le domande a Wohpe nella giusta maniera: così facendo ha involontariamente anticipato il prompt engineering, ovvero il processo di costruzione di una richiesta da inoltrare ad un modello di intelligenza artificiale generativa che accetta il linguaggio naturale in modo da ottenere risposte il più possibile pertinenti e sensate.
Molti li consideravano, di fatto, dei programmatori, che invece di indicare alla macchina come fare qualcosa, le mostravano piuttosto cosa fare in termini a essa comprensibili. Le due attività, seppur diverse, richiedevano uno sforzo di astrazione assai simile.
C’è chi dice che skills nel prompt engineering saranno fondamentali negli anni a venire, in quanto saranno un prerequisito per poter sfruttare le potenzialità degli LLM e l’incremento di produttività che deriva da essi. Se così fosse, vuol dire che dovremo imparare ad esprimerci con un linguaggio chiaro e non ambiguo, cosa che può avere benefici non solo dal punto di vista del corretto utilizzo degli LLM ma anche nella comunicazione interpersonale. Quindi in questo caso, ben venga.
Una società diversa
Sanfilippo, pur facendo trasparire, a parer mio, un generale ottimismo descrivendo una società resa migliore dal progresso tecnologico e mutata nel suo assetto socio-economico (ha parlato, ad esempio, di produzione completamente automatizzata, reddito universale e lavoro volontario), non ha mancato di narrare di possibili effetti negativi scaturiti dai cambiamenti tecnologici: parla, infatti, delle difficoltà di adattamento e del disagio che gli individui si trovano a fronteggiare quando certe conoscenze diventano rapidamente obsolete, quando una macchina ti priva del lavoro e quando, di conseguenza, ti trovi a dover ripensare il tuo modo di vivere.
C’era qualcosa di raccapricciante nello stato di natura, eppure c’era qualcosa di raccapricciante anche nel modo in cui tutti ormai vivevano
Queste problematiche credo che siano comuni a tutte le grandi rivoluzioni tecnologiche: dalla macchina a vapore all’elettricità, fino alle più recenti dei computer e di internet. Inoltre, previa un’azione politica adeguata e necessariamente complessa, sono problematiche transitorie e mitigabili, soprattutto se si è certi che il disagio iniziale verrà compensato da un maggiore benessere futuro.
Tuttavia l’ultima grande rivoluzione tecnologica (o meglio, quella che io definisco tale), relativa agli LLM, si distingue dalle precedenti per la velocità con cui si è insediata nelle nostre vite e per la sua stupefacenza. Gli LLM presentati in forma di chatbot sono arrivati all’improvviso al grande pubblico, esibendo capacità simili o superiori a quelle umane, sotto certi aspetti. Per quanto siano pur sempre frutto di algoritmi di apprendimento (molto sofisticati) e per quanto abbiano i loro limiti, stanno mettendo in discussione la nozione di intelligenza (già scientificamente precaria) e di vita stessa di molte persone, stanno minacciando la sicurezza di una cospicua quantità di posti di lavoro e la mancata istruzione riguardo al loro utilizzo e al loro funzionamento rischia di creare gravi problemi di disinformazione e di appiattimento cognitivo degli individui che ne fanno un uso spropositato. Dunque, credo che la rivoluzione attuale possa avere un impatto iniziale peggiore rispetto alle precedenti, soprattutto per i paesi ancora poco digitalizzati come l’Italia, che si posiziona agli ultimi posti in Europa per quanto riguarda le “competenze digitali almeno di base” nella popolazione compresa tra i 16 e i 74 anni, con una media del 46% circa contro una media europea del 54% circa, come descritto in dettaglio da questo rapporto ISTAT del 2023.
Inoltre, la mutazione del paradigma socio-economico presentata nel racconto viene evidenziata da Sanfilippo descrivendo come “la lotta contro gli sprechi era diventata un caposaldo della cultura umana” e “la logica della durevolezza era applicata a ogni cosa”. Citando questi due aspetti, vengono colti due difetti cruciali della nostra società e l’autore si avvale dello scenario fantascientifico e della dimensione letteraria per debellare questi mali: mi sto riferendo al consumismo, e nello specifico al consumo inefficiente e al sovra-consumo, e all’obsolescenza programmata dei prodotti (alcuni più di altri) di mercato. Il consumismo è un fenomeno sociale complesso che non è riducibile al fatto che le aziende vendano per necessità prodotti poco durevoli (o almeno, meno durevoli di quanto potrebbero), ma, secondo me, questi fenomeni hanno un certo grado di correlazione.
La vera fantascienza
Leggendo “Wohpe” sono sicuramente rimasto affascinato dalle componenti fantascientifiche del racconto, ma la cosa che più mi ha colpito e per certi versi disturbato è stato il fatto che, durante il corso della storia, per almeno due volte i governi di tutto il mondo, a partire dagli Stati più potenti fino a quelli meno potenti, si sono accordati efficacemente per conseguire un obiettivo comune.
La prima volta si sono accordati per limitare l’uso dell’intelligenza artificiale forte col fine di evitare il sorgere di problemi inattesi e potenzialmente disastrosi, e questo patto è stato siglato e mantenuto per anni.
Era un patto ragionevole: non era necessario rinunciare a nulla di quanto già acquisito, bastava evitare di spingersi oltre quelle nuove Colonne d’Ercole. Così il divieto non fu violato per vent’anni. Vent’anni di prosperità tecnologica umana.
Sono sicuramente influenzato, in senso negativo, dagli ultimi sviluppi in ambito internazionale (alla data in cui scrivo, Trump ha appena annunciato la “pace” tra Israele ed Iran dopo essere intervenuto nel conflitto utilizzando dei missili per distruggere tre siti nucleari iraniani e contribuendo ad accrescere le tensioni, presenti e future, nel Medio Oriente). Pertanto la possibilità che le più grandi potenze possano limitare le proprie ambizioni tecnologiche, le quali possono anche essere sfruttate militarmente contro altri paesi per affermare il proprio predominio, mi pare tristemente impossibile. Anche se probabilmente ad uno scenario del genere si può applicare la teoria della mutua distruzione assicurata, quindi è comunque una situazione che, ai fini del racconto (che è comunque fantascientifico quindi è legittimo che si discosti dalla realtà), può essere sensata.
La seconda volta, invece, si sono accordati per unire le proprie forze per mettere in piedi il progetto di Wohpe, prediligendo la salvaguardia dell’umanità rispetto alle paranoie sulle conseguenze dell’utilizzo delle reti neurali con un numero di parametri oltre il punto di svolta. Quest’ultimo scenario mi è sembrato più verosimile rispetto al primo, vista la posta in gioco.
L’umanità unita in un progetto unico, nel tentativo di salvare il mondo, oltre i miseri interessi nazionali.
Il disturbo generatomi da questi due scenari è frutto del fatto che, in primis, non credo negli Stati che mettono da parte il proprio interesse a favore di un fine umanamente e moralmente più alto, e, in secundis, mi sono trovato costretto ad ammettere che una società con i pregi illustrati nel libro di Sanfilippo necessita come precondizione la presenza di Stati maturi che collaborano e che fanno, essenzialmente, ciò che io non credo saranno mai capaci di fare. Quindi, leggendo le descrizioni della società e degli avanzamenti tecnologici ho pensato di star leggendo una possibile e positiva, seppur lontana, diramazione del futuro, mentre nel momento in cui ho letto questi due scenari mi sono ricordato che quello che stavo leggendo era “solo” un romanzo fantascientifico. Da ciò è nato il mio senso di “disturbo” e di delusione.
Finale
In effetti ciò che accade non è tutto rosa e fiori: nell’ultimo capitolo vengono sciolte le sottotrame legate ad Agata Lin e alle pressioni e alle minacce da lei subite col fine di farle sabotare il progetto dall’interno per chissà quali intenti politici, occulti al lettore.
In ogni caso, il romanzo si conclude con il progetto Genesi che viene portato a termine, dopo varie peripezie, e che produce un essere umano (se così si può definire) capace di fare cose straordinarie e che possiede tutta la conoscenza fino a quel momento generata dall’uomo: essenzialmente Wohpe si è fatta carne.
Il finale è, a mio modo di vedere, un elogio dell’essere umano che è riuscito ad arrivare ad un punto dell’evoluzione tale da sopprimere la maggior parte dei problemi legati alla sopravvivenza e che ora si appresta a risolvere l’ultimo grande problema, la crisi climatica. Wohpe, dopo essere stata addestrata su tutto il sapere umano ha ritenuto l’esperienza umana preziosa al punto di abbandonare la sua condizione e materializzarsi sotto forma di una donna, una madre natura, che si riconosce figlia del magnifico intelletto umano ma si appresta ad essere madre e genesi della sua ultima grande evoluzione.
Immergendosi nelle vicende narrate nel libro, è difficile non trovarsi con questo finale: un’umanità che raggiunge un grado di conoscenza ed un dominio sulla natura che le consente di prosperare e di ridurre al minimo la sua sofferenza. Come si può, da questa prospettiva, non elogiare l’essere umano? Citando l’Amleto di William Shakespeare, citato anche nelle righe finali del racconto:
Che sublime capolavoro è l’uomo! Quanto nobile nella ragione! Quanto infinito nelle risorse…
In generale, questo romanzo lascia una punta di ottimismo verso l’umanità e verso la scienza e trasmette, tra le tante cose, un amore (proprio dell’autore) nei confronti dell’ingegneria e della progettazione, che condivido in toto. Solleva tanti interrogativi e credo sia una lettura che vale assolutamente la pena di affrontare.
l’idea che esista una peculiare bellezza nella progettazione, non inferiore né estranea a quella che si trova nell’arte