La cosiddetta “intelligenza artificiale generativa” non può, in linea di principio, essere intelligente come noi perché “le macchine non saranno mai ‘autocoscienti'”. Questa la tesi di Ferenc Patsch, professore di Teologia fondamentale alla Pontificia Università Gregoriana di Roma. Dalle colonne del quaderno n. 4.169 de La Civiltà Cattolica in uscita domani, lo studioso affronta il tema mettendo in guardia dalle “trappole del pensiero antiscientifico” e dell’”arroganza clericale” nelle quali “i teologi sono occasionalmente caduti dall’inizio dell’era moderna”.
La questione fondamentale, secondo Patsch, riguarda l’autocoscienza, che le macchine, anche le più sofisticate, non possiedono, nonostante “la ricerca sull’intelligenza artificiale (AI) abbia già prodotto risultati eccezionali”. Tuttavia, osserva, la posta in gioco è tutt’altro che banale: “anche gli osservatori più moderati avvertono che l’AI  ha un significato strategico e geopolitico incommensurabile: chi vincerà la ‘corsa agli armamenti dell’AI sarà capace di controllare il futuro del mondo”. Tre, prosegue Patsch, le principali componenti dell’intelligenza umana: coscienza, percezione, autopercezione, nessuna delle quali appartiene alla cosiddetta “intelligenza generale artificiale”, né potrà esserlo in futuro. Dopo avere elencato i principali risultati conseguiti dall’AI, l’autore dell’articolo ne evidenzia anche i rischi: “I sistemi di arma intelligenti possono distruggere milioni di persone, i messaggi deepfake (ad esempio, i video falsi prodotti in massa), la sorveglianza biometrica (biometric surveillance) e la politica predittiva (predictive policing) possono destabilizzare fortemente le democrazie esistenti e contribuire all’emergere di uno stato di sorveglianza (surveillance state) del controllo sociale senza precedenti nella storia”. Per non parlare delle implicazioni “sociali, legali ed etiche”. In conclusione, “i robot forse potranno effettivamente essere in grado di acquisire una sorta di coscienza o intelligenza parlando con noi, ma, poiché essi non hanno né corpi né relazioni sociali – e quindi non sono in grado di sperimentare il loro ‘mondo-ambiente’ (Umwelt) e ‘mondo con’ (Mitwelt), come facciamo noi –, la loro ‘coscienza’ o ‘intelligenza’ così sviluppata non sarà mai come la nostra, cioè non potrà divenire autocoscienza o consapevolezza di sé”.