Google presenta en preview privada Agent Anomaly Detection para vigilar el comportamiento de agentes de IA
Agent Anomaly Detection es una capa de supervisión y auditoría basada en razonamiento para agentes autónomos desplegados en Gemini Enterprise Agent Platform. Analiza trazas de razonamiento, llamadas a herramientas y flujo de ejecución a partir de logs y trazas OpenTelemetry, y marca anomalías de comportamiento, intenciones sospechosas y violaciones de política. Funciona en tres capas: un primer filtro estadístico sobre todo el tráfico, un análisis con LLM de las sesiones marcadas y una reconstrucción detallada de las llamadas cuando hace falta. Está disponible en preview privada para equipos que usen ADK 1.2 o posterior, con aprovisionamiento de un clic.
Fuentes
- Google Developers BlogAgent Anomaly Detection, now in Private Preview on the Gemini Enterprise Agent Platform