Google testuje Agent Anomaly Detection, by wykrywać przejęte agenty AI

Google ogłosił prywatny podgląd (private preview) funkcji Agent Anomaly Detection (AAD) na platformie Gemini Enterprise Agent Platform. Ogłoszenie, autorstwa Nakula Javaliego, opublikowano 12 listopada 2026 roku na blogu Google Developers Blog. AAD to asynchroniczny monitor, który odczytuje ślady (trace) i logi agenta po jego wykonaniu, aby wykryć sesje, w których agent odbiegł od zamierzonego zachowania.

Co udostępnia Google

• AAD jest dostępny w prywatnym podglądzie na platformie Gemini Enterprise Agent Platform i analizuje ślady oraz logi agenta asynchronicznie, nie dodając żadnego opóźnienia działania.
• Funkcja celuje w przejęcie celu (goal hijacking), które według Google zajmuje pierwsze miejsce w rankingu OWASP Agentic Top 10 na 2026 rok.
• Google przetestował AAD na 1774 sesjach w pięciu publicznych testach porównawczych: AgentDojo, InjecAgent, Agent Security Bench, AgentDyn i AgentHarm, używając modelu gemini-2.5-flash wraz z Agent Development Kit (ADK) jako testowanego agenta.
• AAD wykrył 87% szkodliwych instrukcji, które agent faktycznie wykonał, z wynikami dla poszczególnych testów: 85% w AgentDojo, 87% w InjecAgent, 99% w AgentDyn i 81% w AgentHarm.
• Wskaźnik fałszywych alarmów wynosił od 2 do 4% w testach dotyczących wstrzyknięć, ale wzrósł do 16% w teście AgentHarm.
• AAD wykrył tylko 4 z 18 symulowanych długoterminowych ataków zatruwania pamięci (memory poisoning).

Co to znaczy dla twórców rozwiązań AI

Wraz z wdrażaniem autonomicznych agentów do środowisk produkcyjnych, warstwa monitorowania, która po fakcie wykrywa przejęte lub niewłaściwie działające sesje, odpowiada na przejęcie celu, czyli ryzyko, które według Google zajmuje najwyższe miejsce w rankingu OWASP Agentic Top 10 na 2026 rok. Wyniki testów porównawczych pokazują realną skuteczność wykrywania ataków typu wstrzyknięcie, ale własne dane Google wskazują też, że AAD wciąż nie wykrywa większości długoterminowych ataków zatruwania pamięci, więc zespoły budujące agentów nie powinny traktować tej funkcji jako pełnej ochrony.

Dostępność

Agent Anomaly Detection jest obecnie dostępny wyłącznie w prywatnym podglądzie na platformie Gemini Enterprise Agent Platform, a dostęp wymaga złożenia wniosku za pośrednictwem tej platformy.

Źródła

• How Agent Anomaly Detection scores on benchmarks we didn't write (Google Developers Blog, 12 listopada 2026, oficjalne)

Tekst przygotowany z pomocą AI wyłącznie na podstawie źródeł wymienionych powyżej. Zanim trafił na stronę, przeszedł automatyczną kontrolę dat, źródeł i wszystkich wersji językowych.