Un modelo de IA de 270 millones de parámetros alcanza precisión de 97% en llamadas de funciones tras ser ajustado finamente

Google ha demostrado que los modelos de lenguaje ultracompactos pueden competir con sistemas mucho más grandes cuando se entrenan adecuadamente. FunctionGemma, un modelo de apenas 270 millones de parámetros lanzado hace pocas semanas, ha experimentado una transformación dramática en su capacidad para realizar llamadas de funciones en conversaciones multiturnos, pasando de una precisión base del 10-39% a un extraordinario 90-97% tras un proceso de ajuste fino. El resultado es especialmente notable porque FunctionGemma fue diseñado específicamente para ejecutarse en hardware limitado —puede procesar 125 tokens por segundo en un procesador de móvil— manteniendo una funcionalidad que tradicionalmente requería modelos exponencialmente más grandes. El modelo original de Google reconocía explícitamente que necesitaba ajuste fino para casos de uso multiturnos, una limitación que los investigadores han resuelto mediante destilación de conocimiento desde un modelo maestro de 120 mil millones de parámetros. Los resultados varían según la complejidad de la tarea. En control de hogares inteligentes, el modelo alcanzó el 96,7% de precisión, superando incluso al modelo maestro (92,1%). En asistentes de banca por voz, la mejora fue de 23,4% a 90,9%, aunque el modelo maestro obtuvo 97%. La tarea más desafiante —interpretación de comandos shell con interferencia de ruido de reconocimiento de voz— mostró un salto del 9,9% al 96%, igualando prácticamente al modelo gigante de referencia. Lo particularmente valioso de este logro es que los investigadores han publicado abiertamente todos los modelos entrenados, los datos de entrenamiento y los conjuntos de datos utilizados. Esto abre posibilidades significativas para desarrolladores que buscan crear asistentes de IA eficientes que funcionen en dispositivos con recursos limitados, desde smartphones hasta dispositivos IoT. Esta investigación llega en un momento en que la industria de la IA busca activamente reducir la brecha entre la capacidad de modelos enormes y la practicidad de desplegarlos en producción. FunctionGemma demuestra que los modelos compactos, cuando se entrenan estratégicamente, pueden ser alternativas viables para aplicaciones específicas que requieren llamadas a funciones y herramientas externas. El enfoque utilizado —destilación de conocimiento de un modelo mayor hacia uno significativamente más pequeño— representa una estrategia cada vez más popular para democratizar las capacidades avanzadas de IA sin los costos computacionales prohibitivos.