“Esiste un serio rischio che l’IA generi contenuti manipolati e informazioni false, i quali, essendo molto difficili da distinguere dai dati reali, possono facilmente trarre in inganno”. È quanto si legge nella Nota della Santa Sede sull’intelligenza artificiale, in cui si mette in guardia da fake news e deep fake. “Le conseguenze di tali aberrazioni e false informazioni possono essere assai gravi”, il monito del testo, in cui si segnala come “tutti coloro che producono ed utilizzano l’IA dovrebbero impegnarsi per la veridicità e l’accuratezza delle informazioni elaborate da tali sistemi e diffuse al pubblico”. “Se, da un lato, l’IA ha il potenziale latente di generare contenuti fittizi, dall’altro c’è il problema ancora più preoccupante di un suo uso intenzionale a fini di manipolazione”, spiega la Santa Sede: “Ciò può accadere, ad esempio, quando un operatore umano o un’organizzazione genera intenzionalmente e divulga informazioni, come immagini, video e audio deepfake, per ingannare o danneggiare. Sebbene le immagini o i video possano essere in sé artificiali, i danni da questi provocati sono reali, e lasciano profonde cicatrici nel cuore di chi lo subisce, che così si sente ferito nella sua dignità umana”. In altre parole, distorcendo il rapporto con gli altri e con la realtà, “i prodotti audiovisivi contraffatti generati con l’IA possono progressivamente minare le fondamenta della società”: “ciò richiede un’attenta regolamentazione, poiché la disinformazione, specialmente attraverso media controllati o influenzati dall’IA, può diffondersi in modo non intenzionale, alimentando la polarizzazione politica e il malcontento sociale”. “Poiché i deepfake inducono a mettere tutto in dubbio e i contenuti falsi generati dall’IA intaccano la fiducia in ciò che si vede e si ascolta, la polarizzazione e il conflitto non potranno che crescere”, la previsione della Santa Sede, secondo la quale “il contrasto alle falsificazioni alimentate dall’IA non è solamente un lavoro da esperti del settore, ma richiede gli sforzi di tutte le persone di buona volontà”: “Coloro che producono e condividono materiale generato con l’IA dovrebbero sempre avere cura di controllare la veridicità di quanto divulgano e, in ogni caso, dovrebbero evitare la condivisione di parole e immagini degradanti per l’essere umano, ed escludere quindi ciò che alimenta l’odio e l’intolleranza, svilisce la bellezza e l’intimità della sessualità umana, sfrutta i deboli e gli indifesi. Ciò richiede una continua prudenza e un attento discernimento da parte di ogni utente riguardo alla propria attività in rete”.