La llegada de modelos de lenguaje con ventanas de contexto masivas —como la de un millón de tokens de Claude— ha traído consigo una sorpresa desagradable para los usuarios: los costes no se comportan como esperaban. Mientras que la teoría sugiere que una ventana más grande debería ser simplemente "más de lo mismo", la realidad de cómo funcionan estos sistemas revela un mecanismo mucho más complejo que está drenando los presupuestos de tokens de forma inesperada.
El culpable principal no es lo que la mayoría cree. Los usuarios asumen que el coste elevado proviene de que Claude "relee" más contexto con cada mensaje. Sin embargo, investigaciones técnicas recientes demuestran que esto representa solo una parte menor del problema. El verdadero enemigo es un componente arquitectónico fundamental: el almacenamiento en caché de prompts, y más específicamente, los "cache busts" —expiraciones del caché— causados por los tiempos de inactividad.
En cada intercambio en Claude Code, el sistema reenvía la totalidad de la conversación anterior al modelo de lenguaje. El primer mensaje puede consumir 14.000 tokens, pero el mensaje número 50 alcanza fácilmente los 79.000 tokens o más, ya que incluye las 49 respuestas anteriores. Sin este mecanismo de caché, una sesión típica con el modelo Opus de 100 turnos costaría entre 50 y 100 dólares solo en tokens de entrada. Para evitar que esto haga insostenible sus suscripciones, Anthropic implementó un sistema de caché agresivo: los tokens almacenados en caché se cobran a solo el 10 por ciento de su precio normal —0,50 dólares por millón de tokens en lugar de 5 dólares—. De esta forma, esa sesión de 100 dólares se reduce a aproximadamente 19 dólares, con una tasa de aciertos de caché del 90 por ciento.
Especialistas han medido estas proporciones en el mundo real: en experimentos documentados, más del 96 por ciento de los tokens procesados fueron servidos desde el caché, lo que significa que el modelo solo realizó trabajo computacional real en poco más del 1,6 por ciento de los tokens enviados. El caché funciona extraordinariamente bien.
Pero aquí es donde el sistema revela su complejidad oculta. El caché tiene un tiempo de vida limitado: expira después de cinco minutos de inactividad (o una hora en el caso de Claude Code Max). Si envías mensajes cada par de minutos, el caché permanece cálido indefinidamente. Sin embargo, si haces una pausa de seis minutos —algo tan simple como tomarte un café o atender una llamada—, el caché se expulsa de la memoria. Tu siguiente mensaje paga el precio completo.
Pero no es solo el precio completo. Cuando escribes nuevamente en el caché después de una expulsión, el coste no es de 5 dólares por millón de tokens, sino de 6,25 dólares. Este aumento del 25 por ciento refleja el gasto computacional adicional de asignar memoria VRAM en el hardware del servidor. Una sola expulsión de caché con 100.000 tokens de contexto cuesta aproximadamente 0,63 dólares en la escritura del caché. Con una ventana de contexto de 500.000 tokens —algo fácil de alcanzar con la nueva arquitectura de un millón—, esa misma pausa cobra 3,13 dólares. Todo por una pausa breve.
En sesiones maratónicas de varias horas, estos costes se multiplican exponencialmente. Si trabajas durante cuatro o cinco horas con pausas naturales cada cinco minutos, podrías estar disparando entre 5 y 10 expulsiones de caché. Cada una reprocessa la conversación completa y en constante crecimiento al 125 por ciento del coste normal de entrada. La ventana de un millón de tokens agrava este problema: antes, las sesiones se comprimían alrededor de 100.000 a 200.000 tokens, pero ahora los usuarios ejecutan sesiones más largas, acumulan más contexto, y cada expulsión golpea un carload más pesado.
Existen también factores sorprendentes que pueden causar expulsiones no previstas. El sistema de caché requiere coincidencias exactas byte a byte desde el inicio de tu solicitud. Si incluyes un timestamp en tu prompt del sistema, ese prompt nunca será cacheado. Agregar o eliminar herramientas MCP a mitad de sesión también rompe el caché. Las definiciones de herramientas forman parte del prefijo cacheado, así que modificarlas obliga a reprocessar cada mensaje anterior. Cambiar de modelo —de Opus a Haiku, por ejemplo— también expulsa el caché, porque cada modelo computa sus matrices KV de forma diferente.
Los usuarios técnicos han comenzado a documentar estrategias para mitigar estos costes. La más efectiva es simple: mantener sesiones breves y comenzar otras nuevas para tareas distintas. Si necesitas una pausa prolongada, espera más de cinco minutos y comienza una nueva sesión cuando regreses. Existe una función llamada /compact que reduce el tamaño del contexto antes de una pausa, minimizando el coste de una potencial expulsión de caché. Otros consejos incluyen no agregar herramientas MCP durante una sesión activa y evitar timestamps en los prompts del sistema.
Esta revelación ha impactado la comunidad de usuarios de Claude de forma significativa. Lo que parecía ser una limitación arbitraria de costes en sesiones largas ahora tiene una explicación técnica clara y actionable. Entender este mecanismo único de caché y sus limitaciones se ha convertido en el factor más importante para optimizar presupuestos de tokens en aplicaciones reales de IA.
