Un desarrollador logra reducir el consumo de tokens de Claude en un 65% con un sistema de memoria persistente entre sesiones

La optimización de costes y eficiencia en las herramientas de inteligencia artificial se ha convertido en una prioridad para los desarrolladores que trabajan con modelos de lenguaje a gran escala. Un ingeniero ha presentado una solución innovadora que aborda dos de los problemas más acuciantes al utilizar Claude Code en proyectos de software: el desperdicio de tokens y la pérdida de contexto entre sesiones. El problema es bien conocido en la comunidad de desarrolladores. Cuando Claude analiza un proyecto de código, lee los archivos de manera lineal para construir contexto, consumiendo aproximadamente 18.000 tokens por consulta, la mayoría de ellos irrelevantes para la tarea específica. Para usuarios del plan Max, esto significa alcanzar los límites de uso más rápidamente. Para quienes utilizan la API, representa un gasto económico significativo. A esto se suma un segundo desafío: cada nueva sesión de trabajo implica que Claude debe redescubrir la arquitectura del proyecto, releer los mismos archivos y plantear preguntas que ya ha formulado anteriormente. Todo el conocimiento acumulado en sesiones previas desaparece. La solución presentada consiste en una extensión de VS Code que implementa un grafo de dependencias local basado en el análisis sintáctico abstracto (AST) del código utilizando tree-sitter. A diferencia de enfoques basados en embeddings o búsqueda semántica, este sistema analiza las relaciones estructurales reales del código: qué funciones invocan a cuáles, qué archivos importan qué módulos, cómo fluyen los tipos de datos. Cuando Claude solicita contexto, la extensión proporciona una cápsula optimizada con únicamente el subgrafo relevante, reduciendo el consumo de tokens de aproximadamente 18.000 a 2.400, manteniendo simultáneamente una mejor calidad contextual. Para resolver la amnesia de sesión, el sistema implementa un mecanismo de observación pasiva. Detecta cambios en el código a nivel AST, no simplemente como "archivo modificado", sino identificando cambios específicos como "firma de función modificada, parámetro añadido". Genera automáticamente notas de contexto vinculadas a nodos específicos del grafo de dependencias. Lo particularmente interesante es que el desarrollador descubrió que Claude no guarda notas voluntariamente, incluso cuando se le solicita explícitamente. Esto motivó el desarrollo de un sistema de observación automatizado que registra lo que Claude explora, los patrones que identifica y los cambios realizados. La herramienta, denominada vexp, está desarrollada como un binario nativo en Rust, utiliza SQLite para almacenamiento local y opera completamente offline sin conexiones de red. Aunque está optimizada para Claude Code, también es compatible con Cursor, Copilot, Windsurf, Zed y otras herramientas de asistencia de código. Se distribuye gratuitamente en el marketplace de VS Code. Esta aproximación representa un cambio paradigmático en cómo se optimizan las interacciones con modelos de lenguaje en contextos de desarrollo de software. Mientras que la industria busca modelos más eficientes y contextos de mayor tamaño, soluciones como esta demuestran que mejoras significativas en la utilización de tokens también pueden lograrse mediante análisis estructural inteligente del código.