Külön, hardveresen elszigetelt virtuális gépet kapnak a Gemini-ügynökök
A Google Agent Compute Engine nevű szolgáltatása minden mesterségesintelligencia-ügynök számára külön, hardveresen elszigetelt virtuális gépet biztosít. Az ügynökök microVM-ekben futnak, amelyeket a Google Titanium chipje véd. A rendszer már a Gemini működését is támogatja, a szolgáltatás előzetes hozzáférése pedig a következő hónapokban válhat elérhetővé.
A megoldás egyik célja az üzemeltetési költségek csökkentése. Ha egy ügynök tétlen állapotba kerül, a hozzá tartozó virtuális gép automatikusan szünetel, így a felszabaduló gépi kapacitást más ügynökök használhatják. A Google szerint a virtuális gépek közötti megosztott memória szintén mérsékli az egy ügynökre jutó költséget, miközben az elkülönítés megmarad.
A technológia mögött álló, nyílt forráskódú Agent Substrate Kubernetes-futtatókörnyezetként működik, és a vállalat állítása szerint egyetlen szerveren tízszer több ügynököt képes kezelni. Egy 200 ezer ügynökkel végzett tesztben a felfüggesztés és az újraindítás kevesebb mint 500 milliszekundumot vett igénybe. A Google emellett olyan vállalati felügyeleti funkciókat is beépít, mint a tokenek nyomon követése és a modellek közötti útválasztás. A rendszer támogat külső identitásszolgáltatókat, köztük a Ping Identityt és a SailPointot, a vezérlési lehetőségeket pedig a Cloud Runra, a GKE-re és a kezelt végpontokra is kiterjesztik.