“La magnifica umanità creata da Dio si trova oggi di fronte ad una scelta decisiva: innalzare una nuova torre di Babele o edificare la città dove Dio e l’umanità abitano insieme”. È l’incipit di Magnifica Humanitas, l’enciclica di Leone, oltre 200 pagine, 5 capitoli, più un’introduzione e una conclusione,. “Nel tempo dell’intelligenza artificiale, in cui la dignità umana rischia di essere oscurata da nuove forme di disumanizzazione, abbiamo il dovere urgente di restare profondamente umani”. Bisogna “disarmare l’IA”, insiste Leone XIV, per sottrarla alla logica della competizione militare, economica e conoscitiva.
Pubblicata oggi, lunedì 25 maggio, è stata firmata dal Pontefice lo scorso 15 maggio, nel 135° anniversario della promulgazione della Rerum novarum di Leone XIII. E del suo predecessore Papa Prevost ha raccolto l’eredità, scrivendo un’enciclica sociale che affronta una delle principali sfide dell’epoca contemporanea: l’intelligenza artificiale.
Rimaniamo umani
Il Papa punta il dito contro la crescita dell’industria bellica, la corsa agli armamenti nucleari, l’emergere di nuovi attori armati, tra cui gruppi jihadisti, che mirano a perpetuare i conflitti come fonte di potere e di rendita. Netto, poi, il monito contro l’uso di armi legate all’IA perché “non esiste algoritmo che possa rendere la guerra moralmente accettabile”. Anzi la tecnologia “non sottrae il conflitto alla sua intrinseca disumanità, può soltanto renderlo più rapido e impersonale, abbassando la soglia del ricorso alla violenza e trasformando la difesa in previsione operativa,
con le vittime ridotte a dati. Così, ci abitua all’idea che la violenza sia inevitabile e vada solo ottimizzata”. Dunque, servono vincoli etici rigorosi, condivisi a livello internazionale, perché “ogni tecnologia che rende più facile colpire senza vedere il volto dell’altro abbassa la soglia morale del conflitto”. Il Papa sottolinea anche che “la promozione del bene comune non può mai essere separata dal rispetto del diritto dei popoli ad esistere, a custodire la propria identità e a contribuire con la propria originalità alla famiglia delle nazioni”. Quindi “qualsiasi tentativo o progetto di eliminare o sottomettere una nazione è gravemente immorale e pertanto inaccettabile”, dice senza giri di parole Leone XIV nell’enciclica Magnifica Humanitas.
Occorre un codice etico condiviso sull’IA
Il Papa avverte che con l’intelligenza artificiale si sta creando una nuova schiavitù, dal lavoro per estrarre le terre rare a quello dei database. E fa un passaggio anche alle schiavitù del passato: “Non possiamo negare o minimizzare il ritardo con cui la Chiesa e la società hanno condannato il flagello della schiavitù” e “per questo, a nome della Chiesa, domando sinceramente perdono”. Con il riferimento invece all’avvento delle nuove tecnologie, Leone rileva che “una parte significativa del funzionamento dell’economia digitale si regge sul lavoro silenzioso di milioni di esseri umani, impiegati in attività poco visibili ma essenziali: etichettatura dei dati, moderazione dei contenuti – spesso pessimi -, addestramento dei modelli. In molti casi si tratta di giovani, per lo più donne, che lavorano duramente per compensi minimi. A questa fatica invisibile si aggiunge quella, ancora più brutale – sottolinea il Pontefice nell’enciclica -, dell’estrazione delle risorse necessarie alla produzione dei dispositivi e dei microprocessori su cui poggia l’IA.
Disarmare l’IA e sottrarla alla logica competitiva
In alcune regioni del mondo, adolescenti e bambini lavorano in condizioni pericolose nella frantumazione dei materiali da cui si ricavano le terre rare. Corpi segnati, mutilati, consumati perché il flusso del calcolo non si interrompa. Inoltre, reti criminali si servono di piattaforme di rete, sistemi di messaggistica, pagamenti anonimi e tecniche di profilazione per reclutare, controllare e spostare vittime di tratta, molte volte minori, trasformando uomini e donne in ‘dati’ da tracciare e ‘pacchi’ da trasferire entro gli stessi circuiti digitali che sostengono gran parte dell’economia globale. Questa realtà – conclude Leone XIV – interpella profondamente la coscienza morale del nostro tempo”.
Il progresso della tecnica non faccia regredire il cuore
“In un contesto in cui la ricchezza delle nazioni dipende sempre più da conoscenze e tecnologie, quando questi beni restano concentrati nelle mani di pochi, senza adeguate forme di condivisione e di accesso, si crea un nuovo squilibrio”. E’ il messaggio sullo strapotere delle big tech. “Gli Stati e le istituzioni sovranazionali sono chiamati a garantire regole giuste e tutele efficaci” perché tutti possano contribuire alle “scelte che incidono sulla vita delle persone”. “Non si può lasciare che pochi attori orientino da soli i processi”, avverte Leone mettendo in evidenza il “bene comune”.