Magnifica Humanitas alla prova dei mostri di Goya

Avv. Fabrizio Cugia di Sant’ Orsola

L’enciclica Magnifica Humanitas di papa Leone XIV, scritta con un occhio deferente alla Rerum Novarum partorita dal predecessore agli albori della rivoluzione industriale, affronta il coraggioso tema di quale mondo possa mai prospettarsi in caso di proliferazione di una AI “non disarmata”, in generale una tecnologia che si pieghi solo a fredde logiche di mercato, profitto e sfruttamento privato della conoscenza per fini di potenza. 

Il papa agostiniano non si concentra tanto sulla questione dei possibili meccanismi economici che possano intervenire per garantire lo sviluppo pluralistico, concorrenziale, aperto e trasparente della tecnologia. Inoltre sgombra subito il campo da facili critiche di semplicismo, chiarendo che l’AI non è certamente disdicevole in sé. Quello ch’egli critica è la “sindrome di Babele”, ossia l’idolatria del profitto e la prestazione fine a sé stessa (“la tecnica non va considerata come forza antagonista rispetto alla persona”). Quello che al papa preme è analizzare le implicazioni escatologiche implicite nel possibile divorzio tra uomo e macchina, preoccupazione alimentata da diffuso laissez faire regolamentare e dalla preponderanza delle Big tech con fatturati superiori a PIL nazionali. La domanda è innanzitutto chi e con quali finalità controlli il potere tecnologico nel mondo, potere oramai rivelatosi talmente pervasivo da investire direttamente il tema dell’autonomia e libertà umana nel contesto dello sviluppo tecnologico (“mai l’umanità ha avuto così tanto potere su sé stessa”, ammonisce, citando Francesco).

Da un lato papa Leone denuncia i rischi di concentrazione di potere nelle mani di pochi “soggetti transnazionali” con capacità finanziarie enormi, ma dall’altro pone il più profondo tema di come dovrebbe esser intesa la tecnologia come mezzo di realizzazione dell’umanità, e più nello specifico quale tipo di umanità potrebbe mai salvarsi e compiere il proprio destino se l’AI non fosse una tecnologia condivisa orientata alla verità e al bene comune. Laddove l’AI diventasse strumento di dominio di pochi soggetti privi di regole e di principi morali, l’uomo sarebbe inesorabilmente votato a tramutarsi da opera di Dio a semplice consumatore e terminale biologico di processi cognitivi di mercato. 

Il papa americano affronta così con understatement il mostro nato dal sonno della ragione d’oltreoceano del capitalismo neocon (Peter Thiel, Bannon e compagnia strillante), che identifica nella mediazione politica, nel dialogo democratico e nei principi etici degli spuntati orpelli d’intralcio all’innovazione e al progresso tecnologico. Secondo la visione neoconl’uomo dovrebbe far pace ed accettare i propri limiti biologici connaturati alla sua natura (difetti di fabbrica, sembra doversi dire) e lasciar correre nuda, sfrontata e libera la propria voglia di potenza ed ingegno, costi quel che costi e grazie tante Nietzsche. Visione pifferaia e scomposta che alla fin fine ambisce ad un mondo governato da algoritmi piuttosto che da organi democratici e rappresentativi. Naturalmente su questo tema il papa scrive sottilmente, perché Magnifica Humanitas costituisce innanzitutto un capolavoro del non detto e dell’understatement de profundis nell’epoca di critiche gridate dall’Air Force One. La staffilata si riallaccia quindi a Galdalf di Tolkien, tanto caro alla citata dottrina, ricordandone il monito: “non tocca a noi dominare tutte le maree del mondo; il nostro compito è fare il possibile per la salvezza degli anni in cui viviamo… per lasciare la terra pulita a coloro che verranno”. 

Leone ammonisce che il diritto deve sempre precedere l’interesse, al fine di “promuovere un ordine internazionale più giusto e pacifico”. Ma per quanto l’importanza del diritto sia per lui centrale (“è essenziale che siano chiare le responsabilità in tutti i passaggi di chi progetta ed addestra i sistemi” anche perché questi “rispecchiano e rafforzano stereotipi e posizioni ideologiche di chi li ha addestrati e progettati”) il papa non arriva né a plaudire alle poche e visionarie regolamentazioni già varate (es. il Regolamento UE in materia, che appare una vera Magna Charta) né soprattutto affronta la difesa della democrazia come ordinamento rappresentativo oggi preda di assalti AI (bot, troll, robot, fake news ecc. prodotti da macchine). 

La meta-narrazione apostolica si riallaccia invece al messaggio biblico, tramite le due epopee della torre di Babele e la ricostruzione delle mura di Gerusalemme dopo l’esilio di Babilonia. Nelle intenzioni dei popoli, la torre sarebbe servita per “toccare il cielo” e “farsi un nome”, ma l’opera frana perché è scollegata e priva di riferimento a Dio. Ogni cosa che si pretende autosufficiente è votata al fallimento, ammonisce. Nel secondo caso, la ricostruzione delle mura della città santa è l’azione positiva resa possibile per il tramite di una vera comunanza di valori e d’intenti nella popolazione accorsa a rifondarla.

Il dilemma che ci pone l’enciclica è quindi innanzitutto tra l’abbaglio dello strapotere e l’elaborazione di una condivisione e abbraccio di valori. Come nella tradizione della psicanalisi, il papa introduce il dubbio sull’oscuro desiderio di potenza tecnologica, con una visione sostanzialmente parallela all’antitesi (cara a Freud) tra unificazione e istinto di vita rispetto alla separazione e indipendenza che rappresentano l’istinto di morte. Nella lotta tra Eros e Thanatos Freud considerava lo sviluppo psichico individuale come la storia minuta dello sviluppo della consapevolezza umana, partendo dall’idea che nelle prime fasi di sviluppo del sé il bambino non è ancora formato ed egli vive una simbiosi e sensazione fusionale con la madre. Parallelamente – coi due temi biblici richiamati - il papa allude che la sete di conquista tecnologica e l’oggettivizzazione del creato (in termini di rigetto e di sopraffazione nell’antitesi tra soggetto e l’altro da sé) non costituiscono altro che il tarlo che ogni uomo si porta appresso dalla Caduta. Lì l’uomo perse la sua naturale spontaneità e simbiosi con il Creato, restando orfano della sensazione totalizzante e olistica di vera e autentica partecipazione al disegno divino. Da quello strappo (che Freud plasticamente fa risalire alla separazione dal seno materno) trae origine ogni nevrosi, turba che getta le sue radici nell’istinto di morte che oggi pervade ogni rapporto tra l’uomo e il mondo. Ed in effetti Freud riteneva che la storia di Cristo fosse un surrogato della perdita della sensazione originaria di unità attraverso l’offerta dell’amore incondizionato di Dio e la speranza di salvezza eterna. 

Nell’epoca della pervasione tecnologica e del consumerismo da algoritmi papa Leone segnala che lo sviluppo dell’AI senza dialogo, valori condivisi e ascolto -senza ricerca sincera e autentica della verità (“la verità non è un territorio da difendere, ma un bene da condividere”) – genera mostri di grimaldelli subdoli di potenza moltiplicatori delle mancanze umane. L’AI (ma il discorso è da lui fatto per la tecnologia in genere, social in primis) non permeata da valori costituisce l’estensione surrogata del corpo per colmare il vuoto lasciato dal senso di perdita corporea nel rapporto con Dio, mentre “edificare il bene significa accettare il limite e la fragilità dell’umanità senza considerarli un errore da correggere”.

L’enciclica pone così l’uomo dinanzi allo specchio dei suoi fallimenti e ad un dubbio di fondo, costituito dal rovello se nella ricerca incessante di un sempre più accresciuto e potenziato progresso tecnologico, l’uomo non stia in realtà allontanandosi ancor più dalla fusione originaria che vorrebbe riconquistare, con sé e col mondo. Leone ha ben presente di intercettare l’AI ai suoi albori (e i fautori neocon probabilmente già strombazzeranno che non s’è ancora compiuta l’evoluzione AI e visti i miracoli abbaglianti ch’essa porterebbe), ma per intanto chiarisce che creare sostituti tecnologici nella speranza di potenziare il corpo con cose prive di vita non può che trascinare l’umanità ancora più a fondo nel baratro dell’istinto di morte. 

Il rischio che ne esce è che l’AI possa costituire un possibile punto di non ritorno della proiezione dell’istinto di morte dell’uomo sul mondo esterno, la certificazione patente della sua impossibilità di poter colmare i propri desideri. Lasciata quindi ai desideri di potenza individuale, privata dei giusti indirizzi di responsabilità, libertà e visione etica by design, l’IA non potrà che essere destinata a collimare ogni istinto di morte e di spinta aggressiva nel render l’uomo più insicuro, vulnerabile e solo di prima, oltretutto col rischio concreto dell’annichilimento autoinflitto.

Da qui il richiamo e l’auspicio ad una progettazione responsabile, a voler condividere dialoghi e linee valoriali nel costruire ciascuno “la propria parte di muro”, prima che il sonno della ragione generi i suoi mostri. Non a caso Leone ha voluto presentare il testo da una carrellata video cruda di immagini di tragedie umane vere, storicamente accertate, non narrate come nella Bibbia (guerre mondiali, carestie, deriva ecologica, sfruttamento, un po' come in Arancia Meccanica). Understatement neanche tanto sottile, e che potrebbe anche funzionare in un mondo ideale alla Leibnitz, ossia con un bacino recettivo diverso da quello di oggi, che sconta una crisi valoriale profonda e il rigetto del diritto naturale e internazionale a suon di spot, circostanze che il papa ovviamente ben riconosce (“parlare oggi di un cammino condiviso verso uno sviluppo più giusto suona come un delirio”). 

Sorge allora il dubbio che nel suo monito Leone abbia voluto rispondere a Spinoza, quando nell’Etica afferma che «è chiaro che non aspiriamo, né vogliamo, né desideriamo alcuna cosa perché la giudichiamo buona: al contrario, giudichiamo buona una cosa perché la aspiriamo e la desideriamo”.  Leone riconosce che la storia ci ha dimostrato che si possono “giustificare” obbrobri di ogni natura in nome dello Stato (figuriamoci se in nome del profitto), e che l’etica può anche essere modulata a piacere, tanto più se si controllano le coscienze e i mezzi tramite l’AI. E c’è stato un momento in cui l’uomo voleva “toccare il cielo” e “farsi un nome”, ed è finita com’è finita. 

Ed è qui che pone il suo argine. Se l’etica è impalpabile, non lo sarà il diritto. Trovare un fondamento concreto per le norme etiche (equità, non discriminazione, solidarietà, giustizia, ecc.) implicherà legarle a principi di responsabilità diretta dei costruttori, valevole anche per costruire e mantenere una futura fiducia degli utenti nei sistemi di intelligenza artificiale e nella tecnologia in genere. Attività ad alta criticità quali la manipolazione cognitivo comportamentale, impianti social scoring e i riconoscimenti biometrici in tempo reale devono già oggi esser soggetti a vincoli di trasparenza e responsabilità, se solo l’uomo riconosce la sua identità. Nell’affrontare il dilemma se dare prevalenza ai valori umani oppure subordinare l’uso di dati personali per trasformare l’uomo in terminale di consumo Leone non ha dubbio alcuno su dove finirà la scelta, anche se la tecnologia s’è fatta ormai tanto grande da rovistare nei segreti meccanismi dell’animo umano.  

News archive