Il dilemma di Anthropic: tra modelli IA sempre più potenti e appelli alla prudenza

Contenuto tratto dal numero di luglio 2026 di Forbes Italia. Abbonati!

È come se Michael Crichton, in Jurassic Park, avesse fuso in un unico personaggio John Hammond, il miliardario che vuole riportare in vita i dinosauri, e Ian Malcolm, lo scienziato che avverte dei rischi di giocare con la storia e la genetica. Tra coloro che mettono in guardia dai pericoli di uno sviluppo troppo veloce e incontrollato dell’intelligenza artificiale c’è la stessa azienda che produce alcuni dei modelli più avanzati del pianeta, che grazie a quei modelli vale 965 miliardi di dollari e sta per quotarsi a Wall Street. All’inizio di giugno Anthropic, l’azienda del chatbot Claude, ha dichiarato che sarebbe “una buona cosa” rallentare lo sviluppo dell’IA per dare alla società “più tempo per gestire le sue implicazioni”. Al cuore della proposta c’è un’espressione: recursive self-improvement, auto-miglioramento ricorsivo. In sostanza, la capacità dei sistemi di IA di migliorare il loro codice e, nel caso estremo, di progettare il loro successore.

L’etica dell’IA

L’appello ha rafforzato una percezione comune: quella di Anthropic come un’azienda che, tra i giganti del settore, è più attenta di altre alle implicazioni etiche e tecnologiche dell’IA. È un’opinione diffusa soprattutto da quando, a febbraio, la società ha rifiutato di concedere al Pentagono l’uso indiscriminato delle sue tecnologie per la sorveglianza di massa e lo sviluppo di armi autonome. Una mossa che ha ancora strascichi: a giugno il governo americano ha ordinato il blocco degli ultimi modelli di Anthropic, Fable 5 e Mythos 5, presentati qualche giorno prima, salvo poi ripensarci qualche settimana più tardi.

Per molti è stato un raro caso di azienda disposta ad anteporre l’interesse collettivo a quello economico. Altri hanno visto una formidabile mossa di posizionamento, deliberata o meno: il 28 febbraio, all’indomani della rottura con l’amministrazione Trump, il numero degli americani che hanno scaricato Claude è salito del 51%; il numero di quelli che hanno disinstallato ChatGPT di OpenAI, che si era invece accordata con il Dipartimento della Difesa, è aumentato del 295%. Scegliere un chatbot o l’altro è diventato una questione politica.

“Anthropic non cerca di posizionarsi come società che affronta l’IA in modo etico, ma è nata così”, dice Chris Ciauri, managing director international di Anthropic, che ha parlato con Forbes Italia a fine maggio, quando l’azienda ha annunciato l’apertura di una sede a Milano. “Quando i sette fondatori hanno creato l’azienda, la premessa era fare intelligenza artificiale in modo sicuro. Quell’idea è venuta prima ancora del prodotto o del modello di business”. Nella filosofia della società, prosegue Ciauri, sicurezza e potenza dei modelli non sono alternative, non esiste l’esigenza di sacrificare una per l’altra. “Anzi, uno dei motivi per cui siamo riusciti a sviluppare uno dei modelli leader a livello mondiale è proprio l’attenzione alla sicurezza”.

I dilemmi dei creatori

Secondo Giovanni Miragliotta, direttore dell’Osservatorio Artificial Intelligence del Politecnico di Milano, “ci sono dati di fatto che indicano come Anthropic si comporti in modo un po’ diverso dalle altre aziende di IA”. Il riferimento è, per esempio, alla sua fondazione da parte di ex scienziati di OpenAI che contestavano all’amministratore delegato, Sam Altman, di avere rilasciato alcuni prodotti troppo in fretta, in nome di interessi commerciali e a scapito della sicurezza. “Inoltre Anthropic si è data la forma di ‘Delaware public benefit company’, quindi di società non votata al solo profitto. Ha stilato una ‘Costituzione di Claude’ con principi simili a quelli delle costituzioni degli stati liberali, in base ai quali pre-programma come deve comportarsi il modello. Rende pubblici molti aspetti del suo approccio all’IA e parla degli aspetti negativi dei suoi modelli”.

Quanto alla possibilità che l’enfasi sulla sicurezza serva anche al posizionamento, per Miragliotta “la verità è che non possiamo entrare nella testa dei dirigenti”. Sulla contraddizione, almeno apparente, tra gli appelli a rallentare e il rilascio di nuovi modelli, Miragliotta sottolinea che l’azienda “è pur sempre impegnata in un mercato spietato. Per competere servono tanti soldi e tanti dati. E i dati si ottengono con i feedback degli utenti. Non può non rilasciare modelli: può al massimo rilasciarli nel rispetto di certi principi”.

La disoccupazione tecnologica

In Anthropic dicono che il punto più delicato non è tanto la sicurezza dell’IA in sé, quanto la velocità del cambiamento. “Di solito gli sviluppi tecnologici seguono una crescita esponenziale, poi una lineare, poi rallentano”, dice Gian Segato, ricercatore della società. “Al momento non vediamo niente del genere. Nulla indica un rallentamento. Al contrario, l’accelerazione sta accelerando”. L’azienda ha calcolato che in passato la quantità di lavoro che i modelli IA potevano svolgere in autonomia in modo affidabile raddoppiava ogni sette mesi; ora siamo a quattro.

Proprio la possibile sostituzione dei lavoratori è, da sempre, una delle principali preoccupazioni legate all’IA. Una questione con risvolti sia economici, sia di significato e scopo della vita. L’ad di Anthropic, Dario Amodei, ne ha parlato l’anno scorso ad Axios, quando ha descritto un possibile scenario in cui “il cancro sarà curato, l’economia crescerà del 10% all’anno, il bilancio dello stato sarà in ordine e il 20% delle persone sarà senza lavoro”. Il capo del team di Anthropic che studia l’impatto sociale dell’IA, Deep Ganguli, ha ammesso a Time che “è una tensione reale. Ci penso tutto il tempo. Può sembrare che da un angolo della bocca diciamo una cosa, dall’altro un’altra”.

Perché l’Italia

Il timore della disoccupazione tecnologica è vecchio almeno quanto la prima rivoluzione industriale, e fino a oggi il mondo del lavoro è più o meno riuscito a compensare la scomparsa di alcune posizioni con la comparsa di altre. “Questa volta”, avverte però Ciauri, “le cose saranno più veloci”. Per questo, dice, Anthropic cerca di “favorire un dialogo tra governi, istituzioni religiose ed etiche, aziende e laboratori”. Ed è proprio la prospettiva di questo dialogo una delle ragioni per cui, secondo Ciauri, l’Italia non è un mercato come tanti. Il nostro Paese, a suo giudizio, può avere “un ruolo globale nel dibattito sull’etica dell’IA”. Il riferimento è anche al Vaticano e a Papa Leone XIV, che nella sua prima enciclica, Magnifica humanitas, ha parlato dell’intelligenza artificiale e del suo impatto sul lavoro, sulla guerra e sulle relazioni umane.

Non è del resto il solo motivo per cui Anthropic ha deciso di aprire a Milano. “Ci piace la struttura dell’economia italiana”, dice Ciauri. “Pensiamo che si sposi bene con i punti di forza dei nostri prodotti”. Non è un ostacolo l’abbondanza di piccole e medie imprese, di solito più lente ad adottare le innovazioni per via delle minori risorse da investire e, spesso, di una mentalità conservatrice. “Alcune pmi hanno una sola persona dedicata alla finanza, oppure non hanno analisti”, perciò l’IA può “trasformare le organizzazioni e far aumentare la produttività in modo esponenziale. Non è detto che l’adozione debba partire dal vertice: può cominciare da un cliente, o da un dipendente che ha appena fatto la dichiarazione dei redditi con Claude e pensa di sfruttarlo anche al lavoro”.

L’importanza di preoccuparsi

L’Italia è anche il “prosieguo naturale” di un’espansione europea che ha già visto aperture a Londra, Dublino, Parigi, Zurigo e Monaco. Si dice spesso che l’Ue è più interessata a normare l’IA che a svilupparla, mentre i modelli dominanti restano americani. Secondo Ciauri, però, “in fatto di adozione e comprensione delle potenzialità della tecnologia, l’Europa è alla pari degli Stati Uniti”. E nel continente si trova una parte della gigantesca catena di fornitura connessa all’IA, che va dai data center ai semiconduttori. È il caso dell’olandese Asml, l’azienda europea con la più alta capitalizzazione di mercato, che produce macchine a litografia usate per produrre i chip più avanzati al mondo. “L’Europa”, dice Ciauri, “dovrebbe sfruttare questo aspetto per assicurarsi un posto al tavolo dove si prendono le decisioni. Sarebbe salutare per tutti”.

Per Ciauri è bene anche rimanere capaci di preoccuparsi davanti ai progressi dell’IA. Negli stessi giorni in cui Anthropic annunciava l’apertura in Italia si è parlato molto della riunione di emergenza convocata dalla Banca centrale europea per discutere del modello Mythos con i vertici degli istituti di credito. La Bce temeva che il modello fosse così potente da permettere di violare i sistemi di protezione bancari e poneva un problema di equo accesso alla tecnologia: Anthropic l’aveva messa a disposizione di un numero limitato di organizzazioni, in prevalenza americane.

Ciauri assicura che l’azienda vuole rendere disponibile il prodotto “in modo che sia bene eseguito da chi si difende e non finisca nelle mani di chi attacca”. E aggiunge che anche in Anthropic, quando “ci si è resi conto delle potenzialità del modello, era doveroso preoccuparsi di che cosa sarebbe successo se la tecnologia fosse finita nelle mani sbagliate. Se mai smettessimo di farlo, quello sarebbe il momento in cui finiremmo per commettere errori catastrofici</strong>”.

L’articolo Il dilemma di Anthropic: tra modelli IA sempre più potenti e appelli alla prudenza è tratto da Forbes Italia.