OpenAI y Anthropic abordan la autonomía segura de agentes financieros

Relevancia 50 de 100 Estados Unidos, California

En la AI Engineer New York, OpenAI (Joseph Kim), Anthropic (Belinda Neal y Keon Shahab), Two Sigma (John Feminella) y Bloomberg (Andrey Rybka) coincidieron en que la autonomía segura depende de dónde se sitúan los controles y el juicio humano, no de imponer más restricciones. Kim prevé que en 2027 los agentes sean capaces de generar ideas de inversión y operar, mientras Two Sigma usa clasificadores automáticos para enviar a revisión humana solo las decisiones relevantes. Bloomberg defiende controles deterministas fuera del modelo, como identidades acotadas, registros de auditoría y kill switches.

Fuentes

Latent SpaceCrossing the Threshold: How OpenAI and Anthropic Approach Autonomy and Safety in Financial Agents