IBM lanza Granite Switch 4.1, modelos modulares de 8B y 30B con chat, decisiones y voz
IBM ha publicado Granite Switch 4.1, dos modelos de lenguaje de 8.000 y 30.000 millones de parámetros con licencia Apache 2.0 y ventana de contexto de 128K. Cada punto de control integra el modelo base, un adaptador de decisiones, un adaptador de seguridad (guardian-core) y un codificador de voz a texto solo en inglés, activables mediante la plantilla de chat sin cambiar el código. IBM afirma que la memoria de GPU necesaria es aproximadamente la misma que la del modelo base y que el adaptador de decisiones obtiene 42,9 (8B) y 50,1 (30B) puntos en su Decision Index.
Fuentes
- IBMIBM lanza los modelos modulares Granite Switch 4.1 en tamaños de 8B y 30B
- Hugging Face BlogGranite Switch 4.1: Chat, Decisions, and Speech from One Endpoint
- Reddit r/LocalLLaMAibm-granite/granite-switch-4.1 30B/8B
- Unite.AIIBM Releases Modular Granite Switch 4.1 Models in 8B and 30B Sizes