PharmAI: un asistente de preguntas farmacéuticas con modelos pequeños en hardware de consumo
Investigadores presentan PharmAI, un pipeline que genera 2.144 pares pregunta-respuesta sintéticos a partir de cuatro libros de texto de farmacia y ajusta tres modelos pequeños de lenguaje (SmolLM2-1.7B, Qwen2.5-1.5B y Llama-3.2-1B) con QLoRA en una GPU portátil de 6 GB de VRAM. Los tres modelos obtienen el mismo rendimiento de recuperación (Recall@1 de 0,517 y MRR de 0,628), mientras que Qwen2.5-1.5B FT lidera la generación con ROUGE-1 de 0,47 y BERTScore de 0,72 frente a unos 0,35 y 0,66 de los otros dos. Las preguntas de comparación resultan las más difíciles para la recuperación de un único pasaje.
Fuentes
- Frontiers in Artificial Intelligence | New and Recent ArticlesPharmAI: domain-specific QA generation by adaptive learning and fine-tuning of small language models