Claude Code consume innecesariamente recursos locales: descubren cómo optimizar el caché de modelos de lenguaje abiertos

Un desarrollador ha identificado un problema crítico de rendimiento en Claude Code que afecta a usuarios que ejecutan modelos de lenguaje en infraestructuras locales, revelando una ineficiencia que puede multiplicar por quince el tiempo de procesamiento de llamadas a herramientas. El problema radica en que Claude Code, a partir de la versión 2.1.36, inyecta dinámicamente información que cambia en cada solicitud: un encabezado de telemetría y facturación (x-anthropic-billing-header) que varía su hash constantemente, además del estado actual del repositorio Git en el bloque de entorno. Esta mutación continua del mensaje del sistema impide que los servidores de inferencia locales como llama.cpp aprovechen el almacenamiento en caché de tokens (KV cache), una técnica fundamental que reutiliza cálculos previos cuando el inicio del mensaje coincide exactamente. El impacto es sustancial. En sistemas locales, esto obliga a reprocesar completamente un mensaje del sistema de más de 20.000 tokens cada vez que se realiza una llamada a herramientas, transformando operaciones que deberían tomar 4 segundos en procesamientos que superan el minuto. En pruebas con hardware Turing-era, la optimización del caché mediante la desactivación de estas inyecciones dinámicas reduce el tiempo de espera de 60+ segundos a aproximadamente 4 segundos, al permitir que el sistema reconozca un 97,3% del mensaje como idéntico y procese solo los 600 tokens nuevos. La solución implica modificar el archivo de configuración ~/.claude/settings.json para desactivar la recolección de git status y las variables de telemetría, además de redirigir las solicitudes a un servidor local como llama-server. Esto requiere establecer parámetros como "includeGitInstructions": false y variables de entorno adicionales que suprimen el tráfico no esencial. El descubrimiento expone una tensión creciente en el ecosistema de inteligencia artificial: la diferencia entre las prioridades comerciales de las empresas de modelos frontera y las necesidades reales de desarrolladores que buscan optimizar rendimiento en infraestructuras propias. La práctica de inyectar telemetría sin documentación clara o mecanismos de desactivación directos ha generado frustración en desarrolladores que se sienten obligados a migrar hacia modelos de código abierto como alternativa. Esta situación refleja un cambio más amplio en la industria, donde usuarios avanzados con requisitos específicos de latencia y rendimiento están evaluando modelos abiertos más pequeños que funcionan localmente, comparándolos con soluciones comerciales que, aunque más capaces, pueden ser menos eficientes en contextos específicos. La optimización local se posiciona cada vez más como una ventaja competitiva para plataformas y herramientas que prioricen la transparencia y permitan a los usuarios controlar completamente su infraestructura de inferencia.