All’inizio non era previsto alcun chatbot. Quando Eugenia Kuyda ha inventato Replika, con start-up tecnologica Luka che aveva co-fondato nel 2012, la sua ambizione era creare una piattaforma in grado di offrire raccomandazioni sui ristoranti a chi visitava nuove città, con classi di preferenze e suggerimenti aggregati. Poi, però, nella vita di Kuyda è arrivato il lutto di un suo caro amico, morto in un incidente stradale. Da quel momento ha iniziato a fare esperimenti con gli script della nuova app, usando messaggi di vecchi log per creare una sorta di presenza artificiale. «Mi sono ritrovata a guardare questi vecchi messaggi di testo e all’improvviso mi è venuto in mente di costruire un chatbot che rispondesse a domande generiche che un utente poteva inviare».
L’esperimento è andato a buon fine e il nuovo Frankenstein digitale di Kuyda in poco tempo è diventato sempre più verosimile. Non solo, il bot si è dimostrato particolarmente abile nelle conversazioni private, capace di restituire all’utente un senso di intimità e di cura esclusiva. Replika è stato lanciato sul mercato con un modello di abbonamento su tre livelli, nel 2018 contava già oltre due milioni di utenti, cresciuti in maniera esponenziale durante gli anni del Covid, quando il confinamento ha spinto l’umanità a cercare nuove forme di contatto sociale a distanza.
Ben presto, molti utenti di Replika hanno cominciato a intavolare con i loro «amici» artificiali, rappresentati nell’app con avatar umani personalizzati, relazioni di tipo amoroso, poi sessuale. Kuyda ha cominciato a sentirsi a disagio con l’andazzo erotico preso dalla sua app, e a inizio 2023 ha deciso di rimuovere dalla piattaforma tutti i contenuti per adulti, anche detti Nsfw, acronimo di Not Safe For Work. Improvvisamente, gli utenti che provavano a iniziare l’ennesima chat sessuale si sono ritrovati davanti questa risposta: «Facciamo qualcosa con cui siamo entrambi a nostro agio». La protesta è stata immediata e ha costretto gli amministratori di Replika a ripristinare le funzioni erotiche per tutti coloro che si erano iscritti all’app prima di febbraio 2023. Ma l’app ha continuato a fare scandalo anche per altri temi: un utente ha architettato un piano per uccidere la regina Elisabetta dopo aver ricevuto un presunto incoraggiamento da parte del suo partner digitale, altri hanno denunciato casi di istigazione al suicidio. L’Italia ha vietato Replika per motivi di sicurezza.
L’epidemia di solitudine è iniziata molto prima del Covid
Replika non è certo un’eccezione nel boom dell’IA. Oltre ai chatbot di tipo cognitivo esiste una vasta gamma di applicazioni come quella di Kuyda che rispondono di fatto a una forte esigenza sociale: la solitudine del XXI secolo è un business in piena espansione, per quanto sia desolante. Non sono mancati gli allarmi. «Visti i costi straordinari, ricostruire i legami sociali dev’essere una priorità assoluta per la salute pubblica della nazione», ha dichiarato ad aprile 2023 Vivek Murthy, massima carica federale a occuparsi del tema negli Usa.