Miércoles 14 de octubre de 2026

Una fórmula matemática para predecir cuándo un chatbot de IA dará respuestas dañinas

Investigadores de la Universidad George Washington (Neil Johnson y Frank Yingjie Huo) publicaron en la revista Patterns un estudio que propone una fórmula para estimar los puntos de inflexión en los que un chatbot pasa de respuestas útiles a dañinas. Según el estudio, el orden de los prompts altera la salida del modelo, y el 'vector residual' interno funciona como indicador de alerta temprana. La prueba se realizó solo con modelos abiertos básicos (GPT-2, Pythia y OPT, de miles de millones de parámetros), por lo que un experto externo considera insuficiente la evidencia para aplicarla a asistentes actuales.

Fuentes

• Artificial IntelligenceSimple math can predict when AI is about to go rogue, physicists say