Replika: una nuova forma di “surrogazione umana”?

Dalla sua prima distribuzione (circa 5 anni fa), a tratti, sui media, ne hanno parlato un po’ tutti, tra curiosità, stupore, inquietudine e… crescente preoccupazione.

Stiamo parlando della chatbot “Replika”, ovvero l’app – sviluppata dalla startup statunitense Luka - che consente di effettuare conversazioni con un essere virtuale. Basata sull’intelligenza artificiale, Replika sfrutta le impostazioni che l’utente stesso sceglie al momento dell’iscrizione al servizio per formulare delle risposte automatiche alle sue domande, simulando così una conversazione reale, come se si trattasse di una persona in carne e ossa.

Ma qualche giorno fa, in Italia, il Garante della privacy l’ha “bloccata” per gli evidenti rischi che il suo uso implica, soprattutto per i soggetti minori. Pur essendo formalmente vietata ai minori di 13 anni, infatti, questa chatbot non possiede efficaci meccanismi di verifica dell’età dell’utente, né di interdizione d’uso per i soggetti più giovani.

Durante questi pochi anni di “vita”, Replika è mutata, immagazzinando via via informazioni e affinando progressivamente la sua capacità di offrire un’interlocuzione sempre più raffinata e corrispondente alle aspettative dei suoi utenti (ormai più di 8 milioni di persone). Insomma, sembra stia “imparando” (funzione tipica dei sistemi di intelligenza artificiale) sempre meglio il suo mestiere. Quale?

All’inizio, i suoi sviluppatori l’avevano immaginata semplicemente come uno strumento per tenere compagnia a chi è solo, in grado di “imparare” e aiutare gli utenti a scoprire nuovi lati della propria personalità. A tal fine, il team di sviluppo aveva lavorato con gli psicologi per capire come fare perché il bot, nelle conversazioni, ponesse domande capaci di indurre le persone ad aprirsi e a rispondere sinceramente.
In pratica: più si chatta, più si permette a Replika di imparare e rispondere come farebbe o vorrebbe l’utente.
Così, l’attuale versione di Replika è un’IA empatica, pensata per offrire conforto in momenti di stress e solitudine. Un “amico” artificiale, mai stanco o arrabbiato e che modella la propria personalità su di te: potenzialmente l’amico perfetto! Del resto, il claim che campeggia sulla Home page di Replika la descrive come “l’intelligenza artificiale che si prende cura di te. Sempre qui per ascoltarti e parlarti. Sempre dalla tua parte”. Proprio come se, dietro quella chat, ci fosse realmente qualcuno a prendersi cura di te, qualcuno che ha a cuore la tua felicità e che è sempre disponibile ai tuoi bisogni. Peccato che si tratti di una risposta evidentemente “falsa”, fittizia, artificiale, poveramente virtuale.

Ciò che è tremendamente vero, invece, è la domanda che ne giustifica l’invenzione, ovvero l’angosciosa solitudine, talora drammatica, che attanaglia tante persone, tra cui tanti adolescenti che non riescono ad interagire in modo costruttivo con gli altri e col mondo reale. Per chi ha davvero sete di amicizia, di relazioni umane positive, anche “un sorso d’acqua sporca” può, seppur illusoriamente, dare un senso di conforto. Anche se poi, quella sete non ne è soddisfatta (e non lo potrebbe di certo) ed è destinata ad aumentare.

Non c’è bisogno di aggiungere altre parole per comprendere facilmente quanto possa essere insidiosa questa via di “surrogazione umana” per tanti soggetti, soprattutto se giovani e fragili. Non si tratta qui di un mero gioco tecnologico, ma di una porta aperta sull’interiorità e sulle emozioni della persona, una dimensione intima e ricca di dignità, una soglia che non può essere varcata da “macchine” o da “algoritmi”, né da intelligenze che non siano umane.

Volutamente, in queste poche righe, abbiamo tralasciato di considerare altri aspetti di Replika (e di programmi di IA simili) ancor più inquietanti e pericolosi, che in qualche caso potrebbero persino configurare dei reati. Altre occasioni permetteranno di approfondirli.

In chiusura, a fronte delle perplessità espresse sopra sulla specifica app, non vorremmo invece mancare di sottolineare come, per fortuna, sono ormai tantissimi gli applicativi di IA che risultano davvero utili alla vita delle persone, in svariati campi delle loro attività, a cominciare dalla medicina e dalle biotecnologie, sempre nel pieno rispetto della dignità umana che caratterizza ciascuno di noi.
Maurizio Calipari