In Breve
- Che cos'è Agent Compute Engine?
- È un servizio infrastrutturale di Google Cloud progettato per ospitare agenti di intelligenza artificiale in ambienti isolati chiamati microVM.
- Quali protezioni offre?
- Google indica isolamento tra macchine virtuali, accesso limitato allo storage, controlli sul traffico di rete, firmware verificato con chip Titan e misure contro gli attacchi side-channel.
- Quando sarà disponibile?
- Google prevede di distribuirlo nei mesi successivi insieme a una nuova versione di Agent Gateway.
Google Cloud ha presentato Agent Compute Engine, un servizio infrastrutturale progettato per ospitare agenti di intelligenza artificiale. La piattaforma utilizza ambienti isolati, chiamati da Google microVM, che contengono applicazioni, dati e istruzioni necessarie agli agenti.
MicroVM e isolamento
Secondo Google, le microVM combinano l’efficienza hardware dei container con l’isolamento tipico della virtualizzazione tradizionale. Gli hypervisor impediscono alle macchine virtuali di interferire tra loro, riducendo il rischio di propagazione del malware.
Le microVM vengono eseguite su appliance configurate appositamente e prive di stato permanente: i file utilizzati dagli agenti non vengono conservati in modo permanente. I dati memorizzati dai sistemi sono mantenuti in un file system immutabile, che non può essere modificato o cancellato.
Google afferma di verificare l’integrità del firmware delle appliance tramite i propri chip di sicurezza Titan. Le unità centrali di elaborazione includono inoltre misure contro gli attacchi side-channel, che analizzano lo stato fisico di una CPU per ottenere informazioni sui dati elaborati.
Controlli su storage e rete
Le microVM hanno accesso limitato alle risorse di archiviazione dell’appliance. Secondo Google, anche in caso di compromissione di una sandbox, gli aggressori non potrebbero leggere o cancellare i dati archiviati al di fuori dell’ambiente isolato.
Il traffico di rete proveniente dalle microVM deve attraversare più proxy prima di raggiungere la destinazione. Google descrive un confine IPC isolato e punto-punto, collegato a un proxy locale senza privilegi e a un proxy esterno incaricato di convalidare gli ambiti delle richieste e applicare le policy sul traffico in uscita.
Gestione delle sandbox inattive
Gli agenti possono essere sospesi mentre le applicazioni continuano a richiedere la disponibilità dell’ambiente che li ospita. Google afferma che Agent Compute Engine rileva le sandbox inattive e le arresta, riattivandole quando necessario per ridurre l’uso non produttivo delle risorse hardware.
La piattaforma includerà inoltre funzioni come clonazione, snapshot, fork, rewind e rollback. Secondo Google, queste capacità permettono ai sistemi che gestiscono gli agenti di operare senza duplicare inutilmente le risorse.
Credenziali e Agent Gateway
Le credenziali utilizzate dagli agenti per accedere alle applicazioni vengono conservate al di fuori della sandbox che ospita l’agente. Quando è necessario effettuare un accesso, il servizio Agent Gateway recupera le credenziali e le inserisce al posto dell’agente, secondo quanto riferito da Google.
Google prevede di distribuire Agent Compute Engine nei mesi successivi insieme a una nuova versione di Agent Gateway. Quest’ultimo dovrebbe includere una funzione di instradamento dei modelli, in grado di inviare ogni richiesta al modello ritenuto più efficiente per elaborarla.
Agent Gateway riceverà anche uno strumento per gestire i costi di inferenza. Google lo descrive come un sistema per controllare il consumo di token tra agenti e modelli, attribuire la spesa, applicare limiti di budget e centralizzare le metriche relative ai token.