Miércoles 14 de octubre de 2026

Databricks reduce 6x el tiempo de fine-tuning de Qwen 3.8 27B

Relevancia 50 de 100 Estados Unidos, California

Databricks reduce de 7 h 44 min a 1 h 17 min el fine-tuning de Qwen 3.8 27B sobre un dataset fijo (ultrachat_200k) en su plataforma AI Runtime. La mejora combina kernels fusionados (flash-linear-attention y causal-conv1d), que dan 3,7x, y empaquetado de secuencias en tensores 1D con position_ids, que añade 1,6x adicional. El artículo indica que la utilización de GPU del 98% era engañosa y que el perfilado por operaciones reveló el cuello de botella real.

Fuentes