La resumización como compresión
Sustituya periódicamente los turnos antiguos por un resumen acumulado, intercambiando la recuperación exacta por espacio en la ventana de contexto.
La resumización como compresión es una lección gratuita de AI Agents en CoddyKit. Esta es la lección 3 de 4. Puedes leer la lección completa abajo gratuitamente — luego la practicas en el navegador con un editor de código integrado y un tutor de IA 24/7. Forma parte de la ruta de aprendizaje de AI Agents, y tu progreso se sincroniza en la web y la app de CoddyKit. El curso de AI Agents incluye 4 lecciones en total.
La compresión como memoria
Cuando una conversación se alarga, sustituya los turnos antiguos por un resumen breve. Intercambia recuerdo exacto por espacio de contexto.
El resumen recoge lo esencial (datos, decisiones y asuntos pendientes); el texto literal desaparece.
Cuándo resumir
Active el resumen cuando:
- El total de tokens supere un umbral (por ejemplo, 8k)
- El número de turnos supere N (por ejemplo, 20)
- El usuario empiece un tema nuevo
Resuma los turnos antiguos
Mantenga los turnos recientes literalmente y resuma únicamente lo que haya quedado fuera:
def compact(messages, keep_recent=10):
system = messages[0]
old = messages[1:-keep_recent]
recent = messages[-keep_recent:]
if not old:
return messages
summary = summarise(old)
return [
system,
{'role': 'system', 'content': f'Earlier conversation summary:\n{summary}'},
*recent
]Prompt para el resumen
Use una llamada independiente a un modelo económico para crear el resumen:
def summarise(messages):
text = '\n'.join(f'{m["role"]}: {m["content"]}' for m in messages)
response = client.chat.completions.create(
model='gpt-4o-mini',
messages=[
{'role': 'system', 'content': 'Summarise this conversation in 5 bullet points. Preserve facts, decisions, and pending TODOs.'},
{'role': 'user', 'content': text}
],
max_tokens=300,
)
return response.choices[0].message.contentResúmenes acumulativos
Mantenga un único resumen en crecimiento en lugar de volver a resumir desde cero cada vez:
running_summary = ''
def extend_summary(new_messages):
global running_summary
response = client.chat.completions.create(
model='gpt-4o-mini',
messages=[
{'role': 'system', 'content': 'Extend the existing summary with the new turns. Keep it under 200 words.'},
{'role': 'user', 'content': f'Existing summary:\n{running_summary}\n\nNew turns:\n{format(new_messages)}'}
],
max_tokens=500,
)
running_summary = response.choices[0].message.contentResúmenes estructurados
Obligue al resumen a extraer campos específicos:
summary_schema = {
'topics_discussed': '...',
'user_facts': {'name': '...', 'preferences': '...'},
'open_questions': ['...'],
'decisions_made': ['...']
}
# Use json_object response_format to enforce.
import json
print(json.dumps(summary_schema, indent=2))
Resúmenes jerárquicos
Para historiales muy largos:
- Resúmenes por cada 100 turnos (nivel intermedio)
- Resúmenes por cada 1000 turnos (nivel general)
- Resumen de toda la vida (nivel extremo)
Inyecte en el contexto únicamente el nivel adecuado.
Pérdida de detalle
Los resúmenes pierden las citas específicas y la redacción exacta. Si el usuario pregunta "¿qué dije exactamente antes sobre los precios?", el modelo no puede responder.
Para recordar literalmente, necesita un contexto más grande o un archivo con búsqueda vectorial.
Combine vectores y archivo
Lo mejor de ambos enfoques:
- Resuma los turnos antiguos en el mensaje del sistema
- ADEMÁS, genere un embedding de cada turno y guárdelo en un almacén de vectores
- Si el usuario pide detalles concretos, recupere el texto literal del almacén de vectores
La calidad del resumen importa
Un resumen deficiente es peor que no tener resumen. Use un modelo económico pero competente (gpt-4o-mini, haiku), no el nivel más barato, para las llamadas de resumen.
Actualizar el resumen es caro
Resumir 8000 tokens de conversación es una llamada real a un LLM: tarda entre 1 y 2 segundos y cuesta 0,5 centavos. Hágalo de forma asíncrona entre turnos en lugar de incluirlo en la ruta crítica.
Compromiso de la resumidación
¿Cuál es el principal compromiso al usar la resumidación como memoria?
Recapitulación
La resumidación es la forma económica de ampliar la memoria. Combínela con retrieval vectorial para recordar citas exactas.
Preguntas frecuentes
¿La lección «La resumización como compresión» es gratis?
Sí — el texto completo de «La resumización como compresión» es gratis para leer aquí en la web. Para practicarla de forma interactiva (editor de código integrado y tutor de IA 24/7) y desbloquear el resto del curso de AI Agents, actualiza a CoddyKit PRO. El curso de AI Agents incluye 4 lecciones en total.
¿Qué aprenderé en «La resumización como compresión»?
Sustituya periódicamente los turnos antiguos por un resumen acumulado, intercambiando la recuperación exacta por espacio en la ventana de contexto. Practicas AI Agents con código real que ejecutas directamente en el navegador, y un tutor de IA 24/7 responde tus preguntas mientras trabajas en la lección.
¿Necesito experiencia previa para empezar AI Agents?
No se requiere experiencia previa. AI Agents en CoddyKit está estructurado para principiantes hasta estudiantes avanzados, así que puedes empezar aquí o desde el inicio y avanzar a tu ritmo. Esta es la lección 3 de 4.
¿Cuánto tiempo toma la lección «La resumización como compresión»?
La mayoría de las lecciones de CoddyKit toman alrededor de 5–10 minutos. Cada una es compacta e interactiva, así que avanzas constantemente y retomas exactamente por donde dejaste en la web y la app.
¿Puedo escribir y ejecutar código en esta lección de AI Agents?
Sí. Cada lección de AI Agents incluye un editor de código integrado, así que escribes y ejecutas código real directamente en tu navegador y obtienes retroalimentación instantánea de IA — sin configuración local necesaria.
Todas las lecciones de este curso
- Memoria a corto plazo en la ventana de contexto
- Por qué los contextos largos no escalan
- La resumización como compresión
- Almacenes de memoria sencillos (clave-valor)