È possibile rendere etica tecnologia militare? Magnifica Humanitas

Come docente della scuola media pubblica, formatasi alla fine degli anni Novanta, quando ho ricevuto la notizia della pubblicazione dell’enciclica Magnifica humanitas riguardante le tecnologie digitali e l’uso dell’I.A., pur essendo laica (ma con un lungo passato come cattolica attiva nel sociale), ho avuto un moto di speranza che qualcosa, da fonti autorevoli e influenti, anche se non quelle a cui solitamente attingo per approfondire l’attualità, si levasse per porre un freno deciso all’influenza dei poteri guerrafondai nel mondo educativo-formativo, ultima sventura delle tante a cui l’irreversibile processo di aziendalizzazione della scuola pubblica ci ha tristemente condotto.

Avevamo appena affrontato un difficile Collegio docenti dove la discussione sull’uso e sulla formazione di questi strumenti era stato oggetto di divisione tra noi; le nostre figure di riferimento come animatori digitali si sono proposte la lettura dell’Enciclica come studio estivo e ci siamo lasciati con l’idea di aggiornare il nostro confronto dopo un’attenta analisi non solo del documento papale, ma anche di altra bibliografia che, nel frattempo, sembra essere esplosa.

Luca De Biase, nel suo podcast “Padroni del mondo”, all’episodio numero 37 cita la “magnifica umanità” di cui parla papa Leone XIV come un possibile antidoto al totalitarismo cognitivo che le informazioni sintetiche della I.A. possono alimentare, inquinando le menti e danneggiando le logiche della convivenza. Spiega chiaramente come i social media rafforzino la propaganda di autocrati quali Elon Musk, le cui finalità sembrano essere quelle, ad ascoltare le sue interviste, di migliorare l’umanità in ogni ambito, da quello sanitario a quello lavorativo, creando un universo tecnologico che risolva miracolosamente ogni problema, e lo afferma con spudorata mancanza di senso del limite e ferma convinzione di onnipotenza.

Con atteggiamento più cauto Cristopher Olah, cofondatore di Anthropic, si limita ad esporre le sue ricerche sul funzionamento dell’I.A. considerando quest’ultima una macchina espressione delle capacità umane (e non di una tecnologia magica) che è possibile gestire per rendere fruttuosa l’interazione uomo-macchina.

L’introduzione all’Enciclica, al punto 4, recita: «La tecnica non va considerata, in se stessa, come forza antagonista rispetto alla persona: al contrario, essa è radicata nella nostra storia fin dal principio, in quanto ‘fatto profondamente umano, legato all’autonomia e alla libertà dell’uomo’. Lo sviluppo tecnologico ha contribuito nei secoli a un significativo miglioramento delle condizioni di vita dell’umanità; allo stesso tempo, ogni fase del progresso ha mostrato anche il volto ambiguo di strumenti capaci di arrecare danno quando non orientati al bene. Oggi, tuttavia, ci troviamo dinanzi a una situazione nuova in cui la potenza e la pervasività delle tecnologie emergenti si innestano nella trama della quotidianità, plasmano i processi decisionali e incidono in profondità nell’immaginario collettivo…Le nuove tecnologie aprono un orizzonte esteso in direzioni che, seppur intuibili, non possiamo ancora pienamente prevedere. Ciò rende più complesso valutarne l’impatto e gli effetti a lungo termine sulla dignità delle persone e il bene comune».

La visione di una “magnifica umanità” che ne emerge potrebbe risuonare alquanto fideistica, se riflettiamo sul fatto che scoperte scientifiche e innovazione tecnologica non hanno avuto uno sviluppo regolare, lineare e progressivo. A volte, in questo modo, le riassumiamo ai giovanissimi, tramite l’uso del manuale, per rendere accessibili i contenuti a studenti e studentesse ancora inesperti nello studio, ma spesso nel percorso di insegnamento c’è bisogno di lavorare sull’analisi delle fonti, dei punti di vista diversi e fare precisazioni nel merito, considerare dei salti all’indietro e dei regressi, parlare dei margini della società, delle eccezioni, degli insuccessi, della massa informe di chi la Storia non l’ha fatta perché i “Vinti” non glielo hanno permesso, introdurre, insomma, delle riflessioni che poco hanno a che fare con le “magnifiche sorti progressive” e i “significativi miglioramenti delle condizioni di vita” a cui la tecnica ci avrebbe condotti come umanità: «Parte di ciò che la modernità chiama progresso si riferisce a quattro secoli di dispostivi che permettono di non dover prestare attenzione all’alterità, ad altre forme di vita, agli ecosistemi» (Baptiste Morizot, Manieres d’etere vivant, Arles, Actes Sud 2020)

Potrebbe apparire riduttivo anche parlare di “volto ambiguo di strumenti capaci di arrecare danno quando non orientati al bene”: il “dual use” si potrebbe liquidare così? Come una necessità di mantenere separati due ambiti (civile e militare) del digitale per non arrecare danni o ci sono interferenze tra i due che sono comunque inevitabili per la natura stessa dello strumento aziendale-militare o perlomeno per come è stato concepito e sviluppato negli ultimi 70 anni^[1]?

Noi sospettiamo che, purtroppo, sia la seconda ipotesi quella più vicina a quanto stiamo vivendo: come Osservatorio contro la militarizzazione della scuola e delle università abbiamo avuto già modo di soffermarci su questi aspetti: “La vera faccia dell’intelligenza artificiale: il motore del riarmo“.

L’Enciclica qualifica, senza mezzi termini, certi usi dell’I.A. come violazione della dignità umana (La normalizzazione della guerra, pag. 32 della Lettera Enciclica) e nelle sue indicazioni etico-morali fa comunque pressione affinché si portino in primo piano iniziative, a tutti i livelli, normativo in primis, per un’adozione tecnologica più riflessiva, quindi più lenta, disarmata e riconducibile a una risorsa che venga gestita come “bene comune”.

Se pensiamo a uno di questi beni comuni, su cui la cittadinanza negli ultimi vent’anni si è mossa con maggior forza, l’acqua, agli esaltanti risultati referendari del 2010 e a come tutto ciò non sia comunque servito ad arginare l’accaparramento delle risorse idriche da parte dei colossi aziendali globali, ci viene un certo scoramento e ci chiediamo: accadrà la stessa cosa all’I.A., anche se dovesse essere dichiarata “bene comune”? Chi fermerà, in questo caso, l’avanzata degli interessi strategici che non si fanno scrupoli a scatenare conflitti bellici? Riuscirà l’Europa a difendere il principio di precauzione così come per molto tempo aveva fatto (in passato) nei confronti di un’altra tecnologia, gli O.G.M., applicata, in questo caso, all’agricoltura, per salvaguardare diritti, libertà, ecologia e risorse?

Nonostante gli ingenti investimenti che lo sviluppo di questi software sta ricevendo e i brillanti risultati delle quotazioni in borsa delle multinazionali che li controllano, vale la pena citare lo stesso documento papale quando ci ricorda che l’indicatore PIL non misura il “ben-essere” delle popolazioni ma solo l’efficienza del capitale, che, a sua volta, si sposta là dove i margini di profitto aumentano, ovvero i titoli azionari prosperano, anche fra i gruppi di produttori di armi. Ma l’I.A., oltretutto, non sta migliorando le condizioni materiali dei più: il 90% delle imprese non registra aumenti di produttività^[2] e, anzi, rischia di accelerare le disuguaglianze e introdurre un’automazione, senza occupazione, che distrugge il lavoro senza aumentare la crescita.

Le Big Tech detengono un potere finanziario immenso, tramite il quale riescono a controllare i social media e, con essi, il dibattito politico, definendone l’agenda e condizionando pesantemente l’opinione pubblica. L’interdipendenza stretta tra questi colossi e i governi degli stati sta facendo vacillare le democrazie, sempre più in difficoltà a normare l’uso delle tecnologie digitali in base ai principi su cui si sono fondate, fin ora, le carte costituzionali^[3]. Stiamo parlando di tecnologie che, trasferite all’ambito militare, alla logistica e all’intelligence, costituiscono occhi ed orecchie per dati (raccolti nell’ambito civile) che il reparto militare usa come controllo e sorveglianza della cittadinanza.

Se uniamo a queste considerazioni il fatto che, negli organismi di rappresentanza degli atenei, rappresentanti di destra operano censure e pressioni per ridurre al minimo le critiche verso la partecipazione a progetti di ricerca “duali” (termine eufemistico, dal momento che l’ambito civile ne rappresenta una parte minoritaria rispetto al militare), capiamo bene come anche la libertà di ricerca nel settore pubblico possa essere pesantemente compromessa. Tale concentrazione di potere tecnologico, che riesce a condizionare ricerca e politica, svuotando di efficacia il diritto di scelta delle popolazioni, sta già conducendo ad una moltiplicazione di guerre e interventi militari.

D’altronde gli LLM (Large Language Model) sono stati sviluppati nell’alveo della ricerca sul machine learning statunitense non per scopi scientifici, umanitari o didattici, ma per migliorare servizi on line basati sull’interazione verbale che non fanno altro che fidelizzare il cliente e creare nuovi bisogni^[4]. Hanno come scopo di fare in modo che l’utente li usi il più possibile per riuscire a estrapolare dati-linguaggio-parole sui quali basarsi per i propri output. Sono ancora tecnologie estremamente imprecise, per molti versi sovrastimate, sia in senso ottimistico che apocalittico: spesso sono le stesse industrie tecnologiche che illustrano scenari catastrofici per mostrarsi etiche e responsabili, con regolamenti inefficaci, per spostare l’attenzione sugli scenari futuri e distoglierla dal disastro presente^[5].

C’è forse bisogno, ancor prima di un codice etico, di allargare la riflessione su una Antropologia per intelligenze artificiali (Filippo Lubrano, 2024): non è una novità, nella storia della ricerca scientifico-tecnologica, l’idea di creare una macchina pensante, come ci hanno insegnato gli scritti di Asimov, Turing, Searle… Il fenomeno mediatico su questi modelli linguistici è esploso ai giorni nostri non in virtù di una nuova scoperta o invenzione, ma perché a un certo punto le aziende si sono ritrovate con la possibilità di avere a disposizione una quantità enorme di dati, come mai prima, che è stata utilizzata con finalità commerciali e di sorveglianza, non per la costruzione del “bene comune”.

Rileggiamo le Leggi della Robotica^[6]:
«0. Un robot non può recar danno all’umanità, né può permettere che, a causa del proprio mancato intervento, l’umanità riceva danno;
1. Un robot non può recar danno a un essere umano né può permettere che, a causa del suo mancato intervento, un essere umano riceva danno;
2. Un robot deve obbedire agli ordini impartiti dagli esseri umani, purché tali ordini non vadano in contrasto alla Prima Legge;
3. Un robot deve proteggere la propria esistenza, purché la salvaguardia di essa non contrasti con la Prima o con la Seconda Legge»

Non ci sembra che oggi ci sia niente di così diverso, a livello etico-morale, rispetto a ciò su cui anche Asimov si interrogava: alla luce della rilettura di queste leggi fantascientifiche appare forse più macroscopica la distanza tra buone finalità scientifiche, didattiche e di reale progresso umano e il panorama tecnologico, economico e bellicistico attuale, per cui ci domandiamo se, invece di invocare una improbabile o inesistente I.A. etica non sarebbe meglio adottare, almeno per ora, una vera e propria obiezione di coscienza totale.

Claudia Giella, Osservatorio contro la militarizzazione delle scuole e delle università

^[1] D.Tafani, Non senza di noi. Università e docenti che rifiutano i chatbot di sorveglianza,14/04/2026
^[2]Goldman Sachs,Top of Mind, Gen AI: too much spend, too little benefit?
^[3] Dario Guarascio, Imperialismo digitale, 2026
^[4] S. Penge, Modelli linguistici opachi e modelli didattici trasparenti, Quaderni della decrescita, ‘26
^[5] Naomi Klein, Shock economy: l’ascesa del capitalismo dei disastri, 2012
^[6] I.Asimov, Io robot, 1950