Desarrolladores crean versiones sin censura del modelo GLM 4.7 Flash con arquitectura de expertos optimizada

Un desarrollador de la comunidad de modelos de lenguaje local ha publicado versiones modificadas del reciente modelo GLM 4.7 Flash, procedente de Z.ai, eliminando las restricciones de contenido inherentes al modelo original. Las nuevas variantes, disponibles en diferentes niveles de cuantización, representan un paso más en la tendencia de personalización y descentralización de los grandes modelos de lenguaje. El modelo GLM 4.7 Flash destaca por su arquitectura de expertos mixtos (MoE), caracterizada por utilizar aproximadamente 3.000 millones de parámetros activos de un total de 30 mil millones. Esta configuración permite una inferencia considerablemente más rápida sin comprometer significativamente la calidad de las respuestas. El modelo soporta un contexto de 200.000 tokens, lo que lo posiciona como una solución viable para tareas que requieren procesar grandes volúmenes de información. Las variantes publicadas se dividen en dos categorías: una versión «Balanced» enfocada en tareas de codificación mediante agentes inteligentes, manteniendo fiabilidad incluso sin restricciones, y una versión «Aggressive» orientada a otros usos sin censura. Ambas están disponibles en múltiples formatos de cuantización —FP16, Q8_0, Q6_K y Q4_K_M— que permiten adaptar el modelo a diferentes configuraciones de hardware. La compatibilidad técnica revela matices interesantes. El modelo funciona correctamente con herramientas populares como llama.cpp, LM Studio, Jan y koboldcpp, aunque presenta incompatibilidades actuales con Ollama debido a problemas con plantillas de chat. Los parámetros de muestreo recomendados varían según el caso de uso: temperaturas de 1.0 para tareas generales y 0.7 para aplicaciones de herramientas especializadas. La publicación incluye también versiones modificadas del modelo GPT-OSS de 20 mil millones de parámetros, ampliando las opciones disponibles para desarrolladores que buscan alternativas de menor tamaño. El autor enfatiza que las modificaciones realizadas mantienen equivalencia funcional con las versiones censuradas originales, sugiriendo que se trata de transformaciones estructurales más que de degradación de capacidades. Esta iniciativa se inscribe en una tendencia más amplia dentro de la comunidad de código abierto: la proliferación de herramientas y modelos que permiten mayor control y flexibilidad a los usuarios finales. La disponibilidad de arquitecturas eficientes con contextos amplios democratiza el acceso a capacidades de procesamiento de lenguaje que hace poco tiempo requerían recursos significativos en la nube.