l’INTELLIGENZA ARTIFICIALE: “FASCINANS ET TREMENDUM”

Il tanto atteso intervento del Papa al G7 si è mosso, almeno parzialmente, nella giusta direzione, soprattutto là dove ha abbandonato la finta neutralità dell’”establishment”, anche ecclesiale, circa l’ “algoretica”, chiarendo, al contrario,  che l’Intelligenza Artificiale è “Fascinans et tremendum”, carattere che Rudolf Otto aveva attribuito come caratteristica specifica al “Sacro”. Quindi, è emerso, anche se implicitamente, che il Papa considera l’Intelligenza Artificiale una nuova religione. Secondo il “Primo Progetto Sistemico dell’ Idealismo Tedesco (attribuito a Hoelderlin, Hegel e Schelling) la “nuova scienza” costituirebbe addirittura la trama occulta della Modernità – contendendo esso, spesso vittoriosamente, come scriveva Saint-Simon (“la Réligion de l’Humanité”) –, il ruolo ch’era stato, per molti millenni, proprio delle “religioni tradizionali”(e in primis del Cristianesimo), che avevano al loro centro una salvezza “spirituale” e individuale, non già materiale e collettiva.

In ciò consiste la “dignità di ogni singola persona”.

Oggi più che mai, alla “vulgata” del “Pensiero Unico” è sottinteso che le singole religioni (come le altre concezioni del mondo) possono coesistere pacificamente fra di loro e con la dominante “religione civile” del Progresso perché sono dei vuoti simulacri, mentre la “vera” religione della Modernità è l’adorazione della Singularity Tecnologica, il “Dio veniente” costruito dagli uomini (i “Bogostriteli” cari al primo Bolscevismo). Quando invece qualche religione, come per esempio l’Islam, pretende d’ informare di sé l’intero comportamento umano, allora scatta l’interdetto dei guardiani dell’ortodossia tecnocratica, e partono nuove guerre di religione.

Il Pontefice ha parlato del “paradigma tecnocratico” come di un pericolo, alimentato dall’ Intelligenza Artificiale, ma in realtà questo paradigma è già dominante almeno dal II° Dopoguerra, quando il mondo fu diviso fra due “blocchi” animati da due diverse, ma convergenti, ideologie materialistiche orientate allo sviluppo economico, che oggi si sono fuse nell’ ideologia “TINA” (“There is no Alternative”).

Certo, vi è un’implicita contraddizione fra il carattere deterministico delle ideologie marxista e liberista e una “dignità della persona” che presuppone il libero arbitrio della singola persona. Il pensiero cristiano, affermando come irrinunziabile la “dignità della persona”, prende  sostenzialmente posizione contro la soteriologia collettivistica e deterministica dominante , e, come tale, si espone all’interdetto dei “gatekeepers” della cultura “mainstream”.

Il Papa si pone in un certo senso ambiziosamente al centro di questo implicito conflitto,  aspirando ad esprimere alcuni principi comuni, che vadano al di là dei diversi sistemi di valori, che così possano coesistere senza confliggere fra di loro (la distinzione, fatta da Hans Kueng, per il suo Weltethos, fra “valori Spessi” e valori “Sottili”, che però restano distinti fra di loro e non si confondono con l’ossequio al determinismo tecnologico ). Concezione, quella esposta dal Papa,  che, a sua volta, costituisce il risvolto etico di quel “mondo poliedrico”, o multipolare, che paradossalmente è proprio quello contro cui il G7 di Borgo Egnazia è stato organizzato.

Quel sincretismo pontificio, per quanto equilibristico, è forse l’unica via di uscita dalla tenaglia che si è creata fra l’unica religione viva e vegeta, quella del progresso senza limiti, e la conflittualità senza fine indotta dall’assolutismo dei singoli, diversi, sistemi di valori (come accade per esempio fra islamici ed ebrei, indù e islamici e fra sunniti e sciiti).

Una precisazione doverosa ed urgente, che la cornice mondano-kitsch del G7 ha indebolito, perché, per forza di cose, il messaggio del Papa ha dovuto essere abbassato al livello degli interlocutori (non già “Grandi della Terra”, come qualcuno li aveva definiti, bensì, più appropriatamente,  “anatre azzoppate”, per dirla con l’espressione usata da pressoché tutti i commentatori). Vale la pena di ricordare il giudizio ancor più severo, per esempio, di Quirico su “La Stampa” del 15 giugno:“sono questi i Grandi della terra?Sono loro a cui affidiamo il compito di fermare il precipizio più cupo e terribile?Una Santa Alleanza di mediocri sopravvissuti all’ Ancien Régime?”Così li apostrofa, giustamente, Quirico.

L’unico che abbia portato al tavolo un problema serio, l’Intelligenza Artificiale, e lo abbia fatto in modo approfondi, è stato dunque il Papa. Ma, come dicevamo, ha dovuto misurare le parole e moderare i toni, e censurare molti temoi, per non stonare troppo nel contesto del G7.

Di conseguenza, fondamentali considerazioni sul carattere non neutrale della tecnica, nonché sulla natura  non “generativa”, bensì “imbalsamatoria” dell’ Intelligenza Artificiale, e, infine, sull’urgenza del pericolo delle armi autonome, che pure sono presenti nel discorso del Papa, non si sono potute sviluppare appieno, potendo dare agli osservatori superficiali l’impressione che si sia trattato di un’ennesima espressione delle retoriche della cultura “mainstream”, mentre questo non è stato il caso.

Ma andiamo con ordine, commentando uno per uno i punti salienti dell’intervento papale.

1. Nessuna innovazione è neutrale (Heidegger)

Contrariamente al luogo comune secondo cui l’Intelligenza Artificiale, come ogni altra tecnologia, può essere usata tanto per il bene, quanto per il male, il Papa ha chiarito che per lui, come per Heidegger, “la Tecnica non è qualcosa di tecnico”, bensì “uno strumento sui generis”:

“La tecnologia nasce per uno scopo e, nel suo impatto con la società umana, rappresenta sempre una forma di ordine nelle relazioni sociali e una disposizione di potere, che abilita qualcuno a compiere azioni e impedisce ad altri di compierne altre. Questa costitutiva dimensione di potere della tecnologia include sempre, in una maniera più o meno esplicita, la visione del mondo di chi l’ha realizzata e sviluppata.”

Ne consegue che qualunque cosa diciamo o facciamo (o non facciamo) circa l’ Intelligenza Artificiale è una scelta politica, culturale e storica. Anche l’idea dei GAFAM di posticipare la regolamentazione internazionale, che, di fatto, equivale a permettere loro di porre gli Stati dinanzi a dei fatti compiuti determinanti sul futuro dell’ Umanità, a cominciare dalla creazione di ecosistemi bellici autonomi, di cui il Papa ha parlato espressamente. E, purtroppo, questa scelta è quella che presiede all’ andamento delle trattative sulle armi autonome, che, secondo i documenti del G7, sono state aggiornate fino al 2026.

2)Una rivoluzione ontologica

Contrariamente a quanto permesso dal contesto del G7, il Papa ha definito l’Intelligenza Artificiale come “Uno strumento affascinante e tremendo al tempo stesso ed impone una riflessione all’altezza della situazione” ponendola al centro del dibattito internazionale, e non subordinandola ad altri temi importanti ma meno urgenti, “Infatti, l’intelligenza artificiale sul futuro dell’umanità….influenzerà sempre di più il nostro modo di vivere, le nostre relazioni sociali e nel futuro persino la maniera in cui concepiamo la nostra identità di esseri umani”.

Ciò non significa che in passato l’uomo non fosse influenzato e plasmato dalle tecniche ch’egli andava creando. Secondo il Papa, che riecheggia, in ciò, il pensiero tecno-scettico di Weber, Heidegger, Anders, Gehlen (espressamente citato) e De Landa,“l’essere umano ha da sempre mantenuto una relazione con l’ambiente mediata dagli strumenti che via via produceva. Non è possibile separare la storia dell’uomo e della civilizzazione dalla storia di tali strumenti. Qualcuno ha voluto leggere in tutto ciò una sorta di mancanza, un deficit, dell’essere umano, come se, a causa di tale carenza, fosse costretto a dare vita alla tecnologia (l’uomo, quale “animale imperfetto”, cfr. Nietzsche)

In effetti, fino dalla prima antichità, gli ominidi si sono sempre distinti dai pitecantropi per la loro abilità nel costruirsi delle “protesi”, siano esse fisiche o concettuali, per confrontarsi con il mondo (cfr. Gehlen). Con il passare dei millenni, l’uomo è divenuto così ricco di protesi (utensili armi, abiti, abitazioni, linguaggi, leggi, immagini), dal divenire indistinguibile da essi (la “Gabbia di acciaio” di Weber, l’”Apparato” di Heidegger).

3. La  condizione tecno-umana

Ne consegue che, addirittura,”parlare di tecnologia è parlare di cosa significhi essere umani e quindi di quella nostra unica condizione tra libertà e responsabilità”.

Tuttavia, con l’”Intelligenza Artificiale” si crea un rapporto nuovo fra uomo e tecnica, che rende palese quanto profondamente la tecnica influenzi l’uomo: “mentre l’uso di un utensile semplice (come il coltello) è sotto il controllo dell’essere umano che lo utilizza e solo da quest’ultimo dipende un suo buon uso, l’intelligenza artificiale, invece, può adattarsi autonomamente al compito che le viene assegnato e, se progettata con questa modalità, operare scelte indipendenti dall’essere umano per raggiungere l’obiettivo prefissato.”Ciò significa che, in linea di principio, l’uomo potrebbe perdere il controllo del suo “strumento”.

4.L’Intelligenza Artificiale non è propriamente “generativa”, bensì “rafforzativa” delle situazioni esistenti.

C’è chi nega che l’Intelligenza Artificiale possa divenire veramente “autonoma”.Questa negazione persiste anche nei confronti dell’I.A. cosiddetta “generativa: “Quest’ultima, in verità, cerca nei big data delle informazioni e le confeziona nello stile che le è stato richiesto. Non sviluppa concetti o analisi nuove. Ripete quelle che trova, dando loro una forma accattivante. E più trova ripetuta una nozione o una ipotesi, più la considera legittima e valida. Più che “generativa”, essa è quindi ‘rafforzativa’, nel senso che riordina i contenuti esistenti, contribuendo a consolidarli, spesso senza controllare se contengano errori o preconcetti.”

Ma è proprio per questo ch’ essa implica il pericolo della fine dell’ umanità, perché quest’ultima ,caratterizzata dall’ imperfezione, tende sempre a qualcosa fuori di sé, mentre l’Intelligenza Artificiale tende a ripetere all’ infinito gl’ input iniziali.Il risultato è quello “di irrobustire il vantaggio di una cultura dominante, ma di minare altresì il processo educativo in nuce. L’educazione che dovrebbe fornire agli studenti la possibilità di una riflessione autentica rischia di ridursi a una ripetizione di nozioni, che verranno sempre di più valutate come inoppugnabili, semplicemente in ragione della loro continua riproposizione “.

Del resto, questo è il compito affidato alla cultura nella società post-moderna: quello di educare i cittadini al conformismo del “politically correct” ,dell’ “egemonia culturale”, della “memoria condivisa”. Come stupirci se anche l’Intelligenza Artificiale non fa che rafforzare i “bias”, i pregiudizi che essa trova nei materiali umani su cui viene “addestrata”? Perfino la legislazione che pretenderebbe di contrastare i “bias”, in realtà svolge una funzione censoria nei confronti dei punti di vista anticonformistici, rivelandosi così un potente strumento di omologazione.

Il Pontefice ne è chiaramente consapevole:“Non possiamo, quindi, nascondere il rischio concreto, poiché insito nel suo meccanismo fondamentale, che l’intelligenza artificiale limiti la visione del mondo a realtà esprimibili in numeri e racchiuse in categorie preconfezionate, estromettendo l’apporto di altre forme di verità e imponendo modelli antropologici, socio-economici e culturali uniformi.”In sostanza, l’Intelligenza Artificiale, estrapolando le soluzioni dall’ universo dato, con la sola correzione della censura imposta dagli Stati, finisce per appiattire l’umanità sul modello tecnocratico, che allinea ogni forma di conoscenza secondo categorie astratte e quantificabili, perdendo, in sostanza, l’”esprit de finesse” a vantaggio dell’ “esprit de géométrie” (Pascal).

C’è di più: essa tende anche a frustrare gli sforzi fatti da scienziati e filosofi di tener conto del superamento del materialismo volgare realizzato grazie al Principio d’Indeterminazione (cfr. Wittgenstein, Heisenberg, De Finetti, Feyerabend, Faggin).

5.No al paradigma tecnocratico

“Il paradigma tecnologico incarnato dall’intelligenza artificiale rischia allora di fare spazio a un paradigma ben più pericoloso, che ho già identificato con il nome di ‘paradigma tecnocratico’. Non possiamo permettere a uno strumento così potente e così indispensabile come l’intelligenza artificiale di rinforzare un tale paradigma, ma anzi, dobbiamo fare dell’intelligenza artificiale un baluardo proprio contro la sua espansione.”

Per questo, la disciplina dell’ I:A: costituisce il campo di battaglia di una inedita “guerra culturale”. A questo scopo serve la politica, che deve regolamentare l’ AI:“A ciò si aggiungono le strategie che mirano a indebolirla, a sostituirla con l’economia o a dominarla con qualche ideologia. E tuttavia, può funzionare il mondo senza politica? Può trovare una via efficace verso la fraternità universale e la pace sociale senza una buona politica?».

Il senso di quella regolamentazione è che“Di fronte ai prodigi delle macchine, che sembrano saper scegliere in maniera indipendente, dobbiamo aver ben chiaro che all’essere umano deve sempre rimanere la decisione, anche con i toni drammatici e urgenti con cui a volte questa si presenta nella nostra vita. Condanneremmo l’umanità a un futuro senza speranza, se sottraessimo alle persone la capacità di decidere su loro stesse e sulla loro vita condannandole a dipendere dalle scelte delle macchine. Abbiamo bisogno di garantire e tutelare uno spazio di controllo significativo dell’essere umano sul processo di scelta dei programmi di intelligenza artificiale: ne va della stessa dignità umana.”

Ma fare dell’ Intelligenza Artificiale un “baluardo” contro il “paradigma tecnocratico” significa che la Chiesa si schiera in questa “guerra culturale”, cercando di radunare intorno a se i fautori del libero arbitrio contro quelli del determinismo algoritmico.

6.Individuare  principi condivisi

In pratica, è fondata la preoccupazione, espressa da molti, che, anche grazie all’ Intelligenza Artificiale, cioè alla macchinizzazione del mondo, siamo giunti, come ha scritto Martin Reed, al Secolo Finale dell’ Umanità, perché, come voleva Guenther Anders, l’”Uomo è antiquato”. Il Papa, riallacciandosi, in ciò, alla corrente maggioritaria della tradizione cristiana, crede di doversi opporre a questa sorte (“frenare l’Apocalisse”, secondo la tradizione paolina  del “Katechon”), anche se sa che è difficile trovare un accordo su come evitarla. E, diremmo noi, anche sul se sia opportuno evitarla, come dimostrano le opere di Ray Kurzweil, e, in campo cattolico, di Teilhard de Chardin, che sono invece animate dall’ansia “chiliastica” di giungere al più presto alla Fine.

Il Papa vuole comunque tentare una conciliazione dei principi in questa materia propri alle diverse culture mondiali, partendo proprio dall’ accettazione della molteplicità delle culture (essendo fedele, in ciò, alle sue radici gesuitiche; si pensi a Matteo Ricci):“In un contesto plurale e globale, in cui si mostrano anche sensibilità diverse e gerarchie plurali nelle scale dei valori, sembrerebbe difficile trovare un’unica gerarchia di valori. Ma nell’analisi etica possiamo ricorrere anche ad altri tipi di strumenti”

Paradossalmente, in un momento e in contesto, come quello del G7, dove si continua ad affermare che i valori dominanti nel Nord-atlantico all’ inizio del  XXI siano “validi sempre e in ogni luogo”, affermare  che “possiamo ricorrere anche ad altri tipi di strumenti”è rivoluzionario

“Se facciamo fatica a definire un solo insieme di valori globali, possiamo però trovare dei principi condivisi con cui affrontare e sciogliere eventuali dilemmi o conflitti del vivere” (i “Valori spessi”, comuni a tutte le culture, che invece sono caratterizzate da quelli sottili”, cfr. Kueng).

Orbene, a nostro avviso, questo qualcosa che unisce l’Occidente dalle “radici giudaico-cristiane” con l’Islam in quanto “religione del  Libro”, così pure come con l’Asia sincretista (sciamanesimo, mazdeismo, religioni tradizionali popolari, buddhismo, induismo, taoismo, confucianesimo), e con i “popoli prealfabetici” sono le basi culturali dell’”Epoca Assiale” (Jaspers, Eisenstadt,Assmann): Lingua, scrittura, religione, città, gerarchia, imperi. Tutte le cose che definiscono “la civiltà” (perché quel che c’era prima delle lingue scritte è difficile da definire), e che sono messi in forse dalla post-modernità: culto della tecnologia, linguaggio-macchina, lettura del pensiero,  armi autonome, governo degli algoritmi, Stato mondiale.

E, difatti, fuori dell’ Occidente, si sta ricreando sotto i nostri occhi proprio un facsimile del mondo dell’ Età Assiale: “Tian Xia” in Estremo Oriente, Bharat in Asia Meridionale, Dar al-Islam in Medio Oriente, Unione Africana fra i popoli più antichi, “Patria Grande” fra i discendenti degl’Inca, dei Maya e degli Aztechi. Esse si interfacciano nel riconoscimento reciproco, come ai tempi della “Pax Aeterna” firmata nel 532 tra Giustiniano e l’imperatore persiano Cosroe, uniti, allora, salla vecchia, e, oggi,  dalle nuove vie della seta. Mancano all’ appello solo i discendenti dell’Impero Romano, divisi dalle  pretese di primato delle diverse Terze Rome: Washington, Mosca, Istanbul, forse anche Bruxelles… Il Sommo Pontefice avrebbe gli strumenti per porsi al di sopra  delle diverse versioni della “Translatio Imperii”, che sono alla base dei conflitti attualmente in corso.

Sapranno le Chiese, l’Italia, l’Europa e il mondo, allargarsi a una visione tanto ampia in questo momento di grande difficoltà, così come auspicavano già Pufendorf, Novalis e De Maistre?

6.Gli argomenti non trattati a Borgo Egnazia

Ci sono alcuni aspetti che il Papa non ha trattato o ha appena accennato, ma che sono, invece, centrali per comprendere la questione e delineare possibili soluzioni.

Innanzitutto, gl’impianti neurali, per i quali Elon Musk ha ottenuto di recente l’autorizzazione delle autorità americane, e che potrebbero portare al collegamento diretto del cervello umano con un’Intelligenza Artificiale Generale, dal quale “qualcuno” (per ora Musk, domani la NSA, dopodomani il PCC…),  potrà fare muovere l’intera Umanità come un teatro di burattini, finché questo gioco non sarà assunto definitivamente da un’”Intelligenza Artificiale Generativa” (“la Megamacchina”).

Questa innovazione annullerebbe già di per se tutto quanto è stato detto, pensato e fatto in  materia di umanità, perché, abolendo il libero arbitrio, abolirebbe anche la libertà, non solo di azione, ma perfino di pensiero. In tal modo, abolirebbe anche l’Umanità, trasformata in qualcos’altro.

In secondo luogo, le “Armi Autonome”, alle quali il Papa ha accennato, ma soltanto in modo generico, sottacendo i fatti più importanti, quelli che si sarebbero dovuti affrontare in un “G7”, o meglio in un’assise internazionale veramente rappresentativa.

In effetti, lo stesso giorno in cui si chiudeva il G7, il Governo Ucraino ha annunziato, per primo, la creazione di un esercito di automi, la FUS (“Forza dei sistemi senza umani”), al comando del colonnello Vadym Sukharevskyj.

Il problema numero uno per la regolamentazione internazionale dell’ Intelligenza Artificiale è proprio il fatto che questa viene impiegata innanzitutto a scopi bellici, ma il relativo trattato delle Nazioni Unite viene bloccato dalle Grandi Potenze con il pretesto che “Le armi Automome non esistono”- in sostanza perché, come abbiamo visto, l’Intelligenza Artificiale non è veramente “generativa”, bensì segue in ultima analisi un input umano, quand’anche molto lontano-. E, nel caso bellico, un “inpunt lontano” , come le famigerate “Leggi della Robotica” di Asimoov, equivarrebbe semplicemente a lasciare alle macchine di decidere in autonomia. Che cos’è, infatti, “il bene dell’ umanità”? E, questo, in un contesto bellico in cui, per definizione, occorre “colpire il nemico”? Come distinguere fra “armi letali” e “armi non letali”, “obiettivi legittimi” e “effetti collaterali”?

D’altronde, il massimo sistema d’ arma autonomo attualmente impiegato, il “Perimetr’” russo (in Inglese, “Dead Hand”), consiste semplicemente nell’ automatizzare il comando di distruzione totale nel caso di annientamento del comando russo. Questo sistema, lanciato dopo il fallimento del sistema semi-automatico OKO nel 1983, costituisce paradossalmente anche la maggiore remora allo scatenamento della guerra nucleare, perché garantisce ch’ essa non avrebbe vincitori (o, al massimo,  se gli USA non avessero un sistema simile vincerebbe la Russia).

In queste condizioni, come è possibile affermare che le armi autonome non esistono? Al contrario, il motivo per cui non le si vuole regolamentare è che esse svolgono una funzione essenziale nell’ equilibrio nucleare, e, per questo, paradossalmente, anche nel mantenimento della pace.

Se non si affronta questo problema, l’esistenza dell’umanità resta appesa a un filo. Per questo, Kissinger, prima di morire, aveva raccomandato a Biden e a Xi Jinping da incominciare a trattare su questo punto, perché da esso dipende l’equilibrio politico mondiale, e, di conseguenza, anche l’esito delle guerre in corso, che non finiranno fintantoché i due nuovi blocchi contrapposti che abbiamo visto a Ginevra e a Mosca non si accorderanno suuna nuova ripartizione del potere e della ricchezza a livello mondiale.

Le Nazioni Unite hanno richiesto, come previsto nelle ultime opere di Kissinger, la firma di un trattato internazionale onnicomprensivo sull’ Intelligenza Artificiale e la costituzione di un’apposita Agenzia, sul modello di quella per il disarmo nucleare..