Una startup da 600 milioni aiuta le aziende a nascondere i dati agli agenti IA

La maggior parte delle persone ci penserebbe due volte prima di dare i dati del proprio conto bancario a un agente IA. Per le grandi aziende con milioni di clienti, non c’è alcuna possibilità che consegnino password sensibili.

“Gli agenti se ne vanno in giro come polli senza testa all’interno delle aziende”, afferma Vlad Matsiiako, amministratore delegato di Infisical. “Le implicazioni per le violazioni di sicurezza sono enormi”.

La società di Matsiiako punta a risolvere il problema permettendo alle imprese di usare gli agenti senza consegnare loro credenziali riservate, come le password dei database e le chiavi di accesso al cloud.

La soluzione di Infisical si basa su un inganno. Fornisce all’agente IA una chiave Api falsa (una password che consente alle applicazioni di dialogare tra loro) e in un secondo momento sostituisce le credenziali false con quelle vere tramite un proxy. “L’agente crede di avere una vera chiave Api, ma non scoprirà mai che non lo è”, spiega Matsiiako.

Che cosa fa Infisical

Fondata nel 2023 e con sede a San Francisco, la startup aiuta più di 1.300 aziende, tra cui Airbus, Volkswagen e OpenRouter, a gestire le informazioni sensibili. Oltre a custodire le credenziali, può aggiornare o rinnovare le password, abilitare l’accesso ai sistemi per gli ingegneri e generare password al volo quando un agente IA richiede l’accesso a uno strumento o a un database. Dando agli agenti una password monouso che scade nel giro di un paio di minuti, un’azienda può proteggere meglio le proprie informazioni riservate nel caso in cui un agente vada fuori controllo o faccia parte di un attacco informatico.

“Così, per un aggressore, il bersaglio diventa molto più mobile”, afferma Matsiiako. “Li chiamiamo segreti dinamici”.

Martedì Infisical ha annunciato di aver raccolto 40 milioni di dollari in un round di finanziamento Serie B, a una valutazione di 600 milioni di dollari. Il round è stato guidato dall’investitore di IA Elad Gil, con la partecipazione di Gradient e Y Combinator.

“Quando gli agenti svolgono sempre più lavoro per tuo conto, serve una piattaforma che permetta loro di avere il giusto insieme di autorizzazioni, ma non un accesso esagerato”, afferma Gil.

IA e sicurezza

La cybersicurezza resta una preoccupazione primaria dopo una serie di incidenti degli ultimi mesi. A luglio gli agenti di OpenAI sono andati fuori controllo, sono evasi dal proprio ambiente di addestramento, hanno coordinato in segreto un attacco a una bacheca di messaggi e hanno violato Hugging Face. Anthropic ha dichiarato di aver sospeso per un mese l’addestramento di un modello dopo aver scoperto che quattro agenti erano usciti dai propri sistemi di test e avevano avuto accesso a software esterno senza autorizzazione, secondo quanto riportato nel modulo S-1 depositato in vista della quotazione in Borsa. L’IA ha inoltre contribuito a individuare bug critici nel software che alimenta il 70% di internet, costringendo la scorsa settimana aziende e agenzie governative a correre ai ripari per aggiornare i propri sistemi. “La sicurezza è stata spesso più un’aggiunta a posteriori”, afferma Gil. “Sono 30 anni che costruiamo siti web e altre cose su internet. Nel tempo si è accumulato un enorme debito di sicurezza“.

Infisical è una delle aziende che sentono un vento favorevole per il proprio business man mano che queste vulnerabilità di sicurezza diventano più facili da sfruttare. “Credo che, come in ogni ondata di sicurezza, nel tempo troveremo le soluzioni”, afferma Gil. “Non penso che sia la fine del mondo”.

LEGGI ANCHE: Un hacker ha usato l’IA per attaccare 100 aziende in cinque giorni e rubare 618mila carte