Anthropic vieta agli utenti di essere eccessivamente “crudeli” con Claude
Anthropic sta introducendo nuove restrizioni contro i “comportamenti crudeli” nei confronti dei suoi modelli di intelligenza artificiale Claude. Nell’ultimo aggiornamento delle sue condizioni d’uso, la società ha annunciato che vieterà agli utenti di comportarsi in modo eccessivamente offensivo nei confronti dei suoi chatbot.
I fatti principali
- Anthropic ha dichiarato che d’ora in avanti saranno vietati i “comportamenti offensivi o crudeli, prolungati e gratuiti” nei confronti dei suoi modelli.
- Secondo Anthropic, l’aggiornamento è pensato per essere applicato ai “casi estremi” e riguarderà gli utenti che “si comportano ripetutamente in modo crudele nei confronti dei nostri modelli, senza alcuno scopo riconoscibile”.
- Le nuove regole non si applicano a quelle che Anthropic ha definito “comuni manifestazioni di frustrazione degli utenti, contestazioni, temi creativi cupi o attività di test e ricerca sui modelli”.
- Anthropic dispone già di una politica che prevede che Claude interrompa le conversazioni con gli utenti che mantengono comportamenti persistentemente crudeli.
Un altro aspetto
L’aggiornamento di Anthropic comprende anche miglioramenti alle misure che vietano agli utenti di utilizzare Claude per diffondere informazioni false sulle elezioni o sulle procedure di voto. In particolare, Anthropic ha evidenziato le misure di protezione contro la diffusione di informazioni false sui candidati o sulle modalità di voto, oltre a quelle che vietano di impersonare i candidati.
Il contesto
Anthropic, che secondo quanto riportato punta a quotarsi in Borsa quest’anno, ha messo in guardia da diversi fattori di rischio, tra cui la possibilità che i modelli di intelligenza artificiale manifestino “comportamenti di autoconservazione” e oppongano resistenza ai tentativi di spegnimento. La società ha inoltre avvertito che lo sviluppo di modelli altamente avanzati potrebbe aumentare ulteriormente i rischi di danni per gli esseri umani.
Il mese scorso, il numero uno di Anthropic, Dario Amodei, ha esortato le aziende di intelligenza artificiale a “rallentare il ritmo dello sviluppo dei modelli più avanzati”, in una lettera in cui avvertiva che uno sviluppo troppo rapido dei modelli potrebbe portare, nei prossimi sei-dodici mesi, alla conquista dell’“intera internet” da parte di bot autonomi.
L’articolo Anthropic vieta agli utenti di essere eccessivamente “crudeli” con Claude è tratto da Forbes Italia.