Investigadores logran que modelos de imagen de OpenAI y Google generen desnudos eludiendo sus salvaguardas
La firma de seguridad White Circle presenta RISE, un método que evoluciona estrategias de ataque con IA para saltarse los filtros de generadores de imagen. Según sus pruebas, logró generar contenido sexual con DALL·E 3 (13,3 %), Nano Banana 2 (9,5 %) y GPT-Image-2 (3,3 %), y los modelos más recientes presentan tasas de éxito más altas. Los investigadores atribuyen el problema a la prioridad dada al rendimiento frente a la seguridad y piden evaluaciones independientes; no publicarán los prompts ni las estrategias que funcionaron.
Fuentes
- Menthas #machine-learningOpenAIやGoogleの画像生成AIは簡単に騙されてヌード画像を生成してしまうと研究者が指摘