Secondo Larry Page, un’Intelligenza artificiale super intelligente sarà «solo il prossimo passo dell’evoluzione». Il cofondatore di Google, che può vantare un patrimonio di circa 120 miliardi di dollari, ha bollato più volte come «specismo» e «sciocchezze emotive» le preoccupazioni di molti sul rischio che l’IA porti all’estinzione dell’umanità. Nel luglio del 2023, l’ex scienziato del programma Google DeepMind Richard Sutton, tra i pionieri dell’importante sottocampo dell’IA dell’apprendimento per rinforzo, ha affermato che l’IA «potrebbe eliminarci dall’esistenza», ma che comunque «non dovremmo opporci alla sostituzione». «Supponiamo pure che vada tutto male – argomentava in un discorso del 2015 – e che l’IA ci uccida tutti. È così grave che gli esseri umani non siano l’ultima forma di vita intelligente nell’universo?». Quando l’ho intervistato, l’ormai sessantaseienne Sutton ha confermato che «l’estinzione biologica non è un problema. Il faro dell’umanità e la nostra comprensione, la nostra intelligenza e la nostra coscienza possono andare avanti anche senza un supporto di carne e ossa».
Il secondo scienziato vivente più citato nel campo dell’IA è Yoshua Bengio. Cinquantanove anni, noto per il suo lavoro fondamentale sul deep learning o apprendimento profondo. Rispondendo a Page e Sutton, Bengio sostiene: «Giocano a dadi con il futuro dell’umanità. Personalmente credo che questo approccio andrebbe considerato criminale». Un po’ sorpreso, gli ho chiesto che cosa pensasse esattamente di vietare, e mi ha risposto che bisognerebbe bloccare tutte le iniziative tese a costruire «sistemi di IA che potrebbero soppiantarci o che siano basati su interessi personalistici». A maggio, Bengio ha cominciato a inviare pubblici allarmi su come i sistemi avanzati di IA possano andare fuori controllo e rappresentare un rischio di estinzione per l’umanità.
Bengio ipotizza che i futuri sistemi di Intelligenza artificiale di livello umano potranno progredire talmente tanto da creare funzionalmente una nuova specie più intelligente di quella umana. Del resto, l’umanità ha fatto estinguere centinaia di altre specie senza volerlo, nella maggior parte dei casi: il timore è che i prossimi saremo noi. Bengio non è l’unico preoccupato di questa eventualità. Nel 2018 è stato premiato con il Turing, il premio Nobel dell’informatica, insieme ai colleghi specialisti di deep learning Yann LeCun e Geoffrey Hinton. Hinton, il più citato tra gli scienziati viventi, ha fatto molto parlare di sé a maggio del 2023 quando si è dimesso dal suo ruolo dirigenziale in Google per potersi esprimere più liberamente sul rischio che i futuri sistemi di Intelligenza artificiale finiscano per spazzare via l’umanità. Hinton e Bengio sono gli esperti di IA più importanti a essersi iscritti alla comunità cosiddetta dell’x-risk (abbreviazione anglosassone per «rischio estinzione») o dei «doomers» (che prendono il nome dal giorno del giudizio). Comunità che in realtà è un insieme piuttosto frammentato di personalità accomunate dalla convinzione che l’IA rappresenti un rischio esistenziale per gli esseri umani.
Nello stesso mese in cui Hinton rassegnava le dimissioni da Google, centinaia di ricercatori e personalità hanno firmato una lettera aperta in cui si legge che «mitigare il rischio di estinzione da parte dell’IA dovrebbe essere una priorità globale insieme ad altri rischi su scala sociale come le pandemie e la guerra nucleare». Tra i primi estensori dell’appello ci sono Hinton e Bengio, seguiti dal ceo di OpenAI Sam Altman e da responsabili di altri importanti centri di ricerca sull’IA. Hinton e Bengio sono anche i primi autori di un documento di sintesi che parla di «perdita irreversibile del controllo umano sui sistemi di Intelligenza artificiale autonomi», firmato da accademici noti come il premio Nobel Daniel Kahneman e tra gli altri dall’autore di Sapiens Yuval Noah Harari.
Il responsabile del dipartimento IA di Meta, LeCun, si è detto sicuro che siamo molto vicini a sviluppare un’Intelligenza artificiale di livello umano, ma in un dibattito pubblico con Bengio ha anche dichiarato che «se è pericoloso, non la costruiremo». Il deep learning alimenta i sistemi di IA più avanzati al mondo, dai modelli di ripiegamento delle proteine sviluppati da DeepMind ai modelli linguistici di grandi dimensioni (Llm, large language models) come ChatGPT di OpenAI. Nessuno capisce veramente come funzionano questi sistemi, ma le loro prestazioni sono in continuo miglioramento. I sistemi di apprendimento profondo non sono progettati per funzionare secondo un insieme di principi definiti, ma vengono «addestrati» per estrapolare modelli da grandi insiemi di dati e sviluppare conseguentemente comportamenti complessi come la comprensione del linguaggio. Lo sviluppatore di IA Connor Leahy mi ha riassunto così il concetto: invece di scrivere un codice, «è come se stessimo buttando una serie di ingredienti in una piastra di Petri». «Nessuno attualmente è in grado di allineare in modo affidabile il comportamento dell’IA con valori complessi», si leggeva nel documento di sintesi dell’ottobre 2023.