Modelos locales con Hermes Agent como alternativa a los límites de ChatGPT
Un desarrollador documenta su experimento para delegar parte del trabajo con Hermes Agent en modelos locales ejecutados con Ollama en un PC con RTX 3080 de 10 GB, con el objetivo de reducir el consumo del límite de la nube. Qwen3.5 9B en Q4_K_M quedó como opción principal por su menor uso de memoria, aunque sus respuestas técnicas siguen con errores de razonamiento y, en un caso de agente, continuó tras un fallo de lectura de archivo. GLM-4.7-Flash en Q6 mejoró la redacción frente a Q4 y Q5, pero no compensó su mayor consumo de memoria y menor velocidad. Un subagente local en el PC ejecuta tareas delegadas desde un Mac a través de un gateway HTTPS.
Fuentes
- Habr IA (RU)Лимиты ChatGPT и локальные LLM: мой эксперимент с Hermes Agent