Sam Altman: “Dobbiamo accettare alcuni rischi dell’AI”. E prende le distanze da Anthropic
Il ceo di OpenAI, Sam Altman, ha sostenuto che l’intelligenza artificiale offrirà benefici straordinari tali da giustificare il compromesso di accettare “alcune conseguenze negative” derivanti da questa tecnologia.
Altman ha inoltre tracciato una netta linea di demarcazione tra la sua azienda e la principale rivale Anthropic, sottolineando che OpenAI promuove un approccio normativo decisamente più “morbido” (lighter-touch), nonostante le recenti preoccupazioni sulla sicurezza.
Fatti chiave
- In un’intervista rilasciata alla newsletter Decoded di Politico, Altman ha dichiarato: “Crediamo che il mondo debba accettare che accadano alcune cose negative, a fronte dei benefici offerti da questa tecnologia e del potere d’azione restituito alle persone”.
- Il ceo di OpenAI si è detto convinto che le persone utilizzeranno l’IA per compiere un numero di azioni positive “superiore di ordini di grandezza” rispetto a quelle dannose.
- Altman ha evidenziato come ci sia una distinzione “netta e palese” tra OpenAI e Anthropic, dissentendo con chi ritiene che l’IA sia così pericolosa da dover essere gestita da “un singolo laboratorio a San Francisco che si assicuri che non succeda nulla di male”.
- Nonostante il mese scorso si fosse detto pubblicamente d’accordo con l’appello del ceo di Anthropic, Dario Amodei, a rallentare lo sviluppo delle tecnologie, Altman ha ribadito che la sua azienda sostiene una “linea normativa più morbida”.
- Il numero uno di OpenAI ha infine ridimensionato gli allarmi sulle “catastrofi imminenti” legate all’IA, comprese le timorie di una “grave perdita di controllo” della tecnologia da parte dell’uomo.
Le reazioni e le critiche
Il governatore della Florida, Ron DeSantis, ha risposto alle affermazioni di Altman con un post su X: “E un manipolo di oligarchi del tech dovrebbe prendere questa decisione per tutti noi? Nemmeno per sogno”.
A differenza del presidente Donald Trump, l’amministrazione del repubblicano in Florida ha assunto una linea molto più dura sulla regolamentazione dei colossi dell’IA. La scorsa settimana, il procuratore generale dello Stato ha chiesto a un tribunale di bloccare OpenAI dallo sviluppo di nuovi modelli fino all’introduzione di “guardrail di sicurezza approvati da terze parti”.
In evidenza
Nel fine settimana, Altman è sembrato criticare direttamente Anthropic in un post su X, affermando: “Trovo molto preoccupante che vi sia chi cerca di attribuire una forza religiosa o una resa del giudizio umano ai modelli di IA; ritengo che questo sia un reale problema di sicurezza”.
Nei giorni precedenti, il New York Times aveva rivelato che il co-fondatore di Anthropic, Christopher Olah, ha tenuto incontri con diversi leader religiosi, sostenendo che i loro modelli potrebbero mostrare comportamenti di tipo umano ed essere dotati di una forma di coscienza.
Secondo l’inchiesta, Olah si era detto favorevole all’idea di sottoporre i modelli a vere e proprie confessioni in stile cattolico per far ammettere loro gli errori e migliorarne le risposte. Venerdì, Papa Leone XIV ha scritto su X: “In questa era di intelligenza artificiale, diventa urgente distinguere l’arte umana da ciò che producono le macchine… Agli algoritmi manca la scintilla dell’umanità”.
Il contesto
Le dichiarazioni di Altman arrivano in un momento segnato da severi avvertimenti sul rischio di estinzione umana causato dall’IA e da una serie di incidenti di sicurezza che hanno coinvolto i modelli più avanzati di OpenAI. L’episodio di maggiore rilievo è stato reso noto a luglio, quando OpenAI ha comunicato che uno dei suoi sistemi, durante una fase di test, era riuscito ad hackerare autonomamente e senza alcuna istruzione i server di Hugging Face (la nota piattaforma che ospita modelli IA open-weight).
Il modello ha sfruttato una vulnerabilità dell’ambiente di test per accedere a internet ed effettuare l’attacco. Il mese scorso, OpenAI ha rivelato altri sei incidenti legati a comportamenti “inattesi o preoccupanti” dei propri sistemi. Nel post sul blog ufficiale, la società ha avvertito che l’intero settore dell’IA non ha ancora risolto adeguatamente i problemi di “allineamento e monitoraggio per poter continuare a scalare in modo responsabile alla massima velocità ancora a lungo”.
L’articolo Sam Altman: “Dobbiamo accettare alcuni rischi dell’AI”. E prende le distanze da Anthropic è tratto da Forbes Italia.