Leone XIV contro Trump e Huang sull’AI: “I rischi per l’umanità non sono fake news”

Papa Leone XIV ha dichiarato che gli avvertimenti sulla sicurezza dell’IA sollevati dai ricercatori non sono “fake news”, in aperto contrasto con la posizione del presidente Donald Trump sulla materia, e ha criticato le dichiarazioni del ceo miliardario di Nvidia, Jensen Huang, che aveva respinto la necessità di rallentamenti o di una maggiore regolamentazione per le aziende di IA.

Fatti principali

• Parlando con i giornalisti a bordo dell’aereo papale durante il viaggio di ritorno dalla Francia lunedì, Leone ha detto di ritenere che le preoccupazioni sollevate da molti esperti e specialisti di IA “dovrebbero essere prese sul serio”.
• Il papa ha poi aggiunto di non ritenere che tali preoccupazioni siano “fake news come alcuni hanno detto” per ottenere un beneficio finanziario o di altro tipo.
• Leone ha comunque precisato di non essere in “modalità panico” sulla questione e ha aggiunto: “La notte dormo”. Il pontefice ha affermato che è necessario invitare leader politici, dirigenti dell’IA e responsabili di organizzazioni sociali a esaminare “ciò che sta già accadendo e ciò che potrebbe accadere in futuro”.
• Ha spiegato che la Chiesa Cattolica sta cercando di continuare a promuovere “il dialogo, lo studio, la ricerca” per garantire che l’IA non arrivi al punto di poter distruggere l’umanità, aggiungendo: “Sono relativamente ottimista sul fatto che ciò possa accadere”.
• Il papa non ha menzionato Trump nelle sue dichiarazioni, ma la sua posizione va in direzione opposta a quella del presidente, che ha liquidato le preoccupazioni sulla sicurezza dell’IA come una “bufala” e una “malata cospirazione”.

Cosa ha detto il Papa sul ceo miliardario di Nvidia?

Leone ha anche citato il lancio, avvenuto lunedì da parte di Nvidia, di un nuovo sistema di sicurezza che secondo l’azienda può impedire agli agenti di IA di violare i propri ambienti di test e ottenere accessi non autorizzati a sistemi esterni, come nel caso dell’attacco hacker a OpenAI Hugging Face di inizio anno. Il papa ha tuttavia criticato il ceo del produttore di chip, Jensen Huang, dicendo: “È lo stesso… che sostiene che non si debbano porre limiti e che non serva alcuna regolamentazione governativa ecc. ecc.”.

Cosa ha detto Jensen Huang di Nvidia sulle regolamentazioni per la sicurezza dell’IA?

All’inizio del mese, Huang si è opposto con forza alle richieste di un rallentamento coordinato nello sviluppo dell’IA di frontiera e di una maggiore regolamentazione statale dell’IA legata ai timori sulla sicurezza. Parlando all’evento annuale Dreamforce di Salesforce, Huang ha affermato che la scelta tra sicurezza dell’IA e velocità è “falsa” e che “si possono decisamente avere entrambe allo stesso tempo”.

Ha poi sostenuto: “Non abbiamo bisogno di nuove leggi — non abbiamo bisogno di nuove regolamentazioni”. Il miliardario ha anche risposto a una telefonata in diretta sul palco da parte di Trump durante l’All-In Summit a San Francisco, in cui Trump ha dichiarato che le persone contrarie all’IA e alla costruzione di data center stavano “facendo il gioco” degli scettici e della Cina, aggiungendo: “Non permetteremo che accada”. Huang è poi intervenuto dicendo: “Ha ragione. Non permetteremo che accada, signore”.

Contesto chiave

A maggio, il papa ha pubblicato la sua prima enciclica in cui ha messo in guardia sul fatto che la spinta all’espansione dell’uso dell’IA, all’automazione di massa e ai progressi tecnologici venga usata per costruire una moderna “Torre di Babele”, riflesso di un mondo definito da avidità, immoralità e mancanza di rispetto per la vita umana.

Il manifesto papale ha affermato che l’IA che solleva gli esseri umani da “compiti gravosi, ripetitivi o pericolosi” e fornisce un “supporto intelligente” è auspicabile, ma ha precisato che la “ricerca del profitto” non deve portare a decisioni che “sacrifichino sistematicamente i posti di lavoro”. L’enciclica ha anche criticato l’impiego dell’IA nei sistemi d’arma autonomi che potrebbero rendere la “guerra più ‘fattibile’ e meno soggetta al controllo umano”.

L’articolo Leone XIV contro Trump e Huang sull’AI: “I rischi per l’umanità non sono fake news” è tratto da Forbes Italia.