Un proyecto de memoria para IA añade un estado 'pendiente' para no sobrescribir datos antiguos
El autor describe cómo su sistema de memoria para asistentes de IA pasó a sobrescribir datos antiguos sin justificación (por ejemplo, reemplazar 'Kawasaki' por 'Nagoya' ante una estancia laboral). Para evitarlo, añadió una categoría 'Pending' que conserva la información hasta aclarar su relación con la anterior, y validaciones en Python que bloquean reemplazos sin base textual. La suite de pruebas registra 458 pruebas superadas y 2 fallos esperados, correspondientes a errores de sustitución que las comprobaciones actuales no evitan. El proyecto está publicado en GitHub.
Fuentes
- #LLMタグ【忘れないAIを作る #11】AIに記憶を上書きさせたら危なかった。だから「保留」を作った