Se c’è un intellettuale che da tempo riflette sulle trasformazioni indotte dall’avvento di Internet e dalle tecnologie correlate, influenzando la cultura, la circolazione del sapere, la produzione di concetti e la loro organizzazione e fruizione, è Gino Roncaglia. Filosofo di formazione, Roncaglia ha illustrato come la cultura digitale non rappresenti una rottura, ma piuttosto sia in continuità con la storia del patrimonio culturale tradizionale e che il mondo delle tecnologie digitali abbia contribuito non solo a una nuova organizzazione del sapere, ma anche alla ristrutturazione delle conoscenze, delineando un nuovo paradigma. Proponiamo un’intervista sul suo recente lavoro, L’architetto e l’oracolo. Forme digitali del sapere da Wikipedia a ChatGPT, pubblicato da Laterza nel 2023, in cui vengono indagate le sfide e le prospettive aperte dall’avanzamento delle intelligenze artificiali generative nell’ambito della produzione e della diffusione del sapere e dell’informazione.
L’Intelligenza artificiale apre nuove prospettive per la conservazione e la divulgazione del patrimonio culturale, potenziando processi come la metadatazione automatica e la produzione di contenuti adattabili a diversi pubblici. Tuttavia, il libro sottolinea anche i rischi associati a possibili errori e bias dei modelli, cioè i pregiudizi non intenzionali che possono emergere dall’apprendimento automatico e che sottolineano la necessità di un attento controllo umano per garantire l’accuratezza delle informazioni generate. L’architetto e l’oracolo offre quindi una riflessione critica su come le intelligenze artificiali generative possano radicalmente trasformare il nostro approccio ai saperi, richiedendo un rinnovato dialogo tra tecnologia e etica.
Nel tuo ultimo libro si evidenzia il ruolo crescente dell’Intelligenza artificiale generativa nell’organizzazione del sapere e dell’informazione. Quali sono le implicazioni specifiche di queste tecnologie per la conservazione e la divulgazione del patrimonio culturale? In che modo possono migliorare o complicare questi processi?
Per rispondere a questa domanda occorre una premessa: i sistemi di Intelligenza artificiale generativa, a differenza dell’IA classica, non usano modelli logico-formali e deterministici del ragionamento e del linguaggio, ma «imparano» ad associare token (a seconda dei casi, un token può essere una parola, un gruppo di pixel di un’immagine, un frammento sonoro ecc.) in maniera statistico-probabilistica. Il sistema produce una risposta (ad esempio un testo) generata sequenzialmente, un token dopo l’altro, sulla base di modelli numerici costruiti a partire da un largo corpus di addestramento. Il meccanismo di funzionamento di questi sistemi è in parte oscuro anche per chi li ha programmati, e il risultato della generazione è almeno in parte creativo, nel senso che non è prevedibile deterministicamente sulla base dell’input ricevuto dal sistema. Questa modalità quasi «oracolare» di produzione dei contenuti può sembrare assai lontana dal rigore che è richiesto dal lavoro di descrizione e disseminazione del patrimonio culturale. Tuttavia, negli ultimi anni i progressi fatti dai sistemi di IA generativa sono stati enormi: non sappiamo esattamente il perché, ma il meccanismo statistico-probabilistico «oracolare» sembra funzionare molto meglio di quello logico-deterministico e «architettonico». In particolare, nel campo della conservazione e divulgazione del patrimonio questi sistemi possono aiutare in fase di metadatazione (generando automaticamente metadati descrittivi), in fase di accessibilità (producendo versioni alternative di una descrizione adatte a utenti con necessità o con profili specifici), in fase di divulgazione, producendo documentazione, sintesi, traduzioni, ecc.
Quali precauzioni dovrebbero essere adottate nell’uso dell’IA generativa nel campo del patrimonio culturale, considerando i problemi come gli errori di interpretazione dei modelli e i bias nei dati, per evitare la diffusione di informazioni errate o distorte?