# MILES: Modular Instruction Memory with Learnable Selection
> Ficha editorial pública de Research IA. Estado: Lectura primaria completa. La interpretación editorial no sustituye la fuente primaria.

- Página canónica: https://luiseduardodemiguel.com/research-ia/papers/miles-modular-instruction-memory-with-learnable-selection
- Fuente primaria: https://arxiv.org/html/2607.06974v1
- Versión leída: v1
- Fuente comprobada: 2026-08-19 · lectura primaria completa; extracción editorial automatizada, revisión humana pendiente
- Autores: Ruilin Tong, Dong Gong
- Fecha del corte: 8 JULIO 2026.
- Área: MEMORIA

## Tesis y contexto

Memoria de razonamiento compuesta por módulos pequeños que vinculan subobjetivos con instrucciones reutilizables. El sistema expande la memoria progresivamente y aprende qué módulos seleccionar y combinar para resolver problemas posteriores.

- Problema: Guardar soluciones completas genera plantillas rígidas; guardar pasos sin una política aprendida produce recuperación poco fiable.
- Por qué importa: Introduce una forma de aprendizaje continuo en tiempo de uso sin tener que modificar todos los pesos del modelo. Es especialmente prometedor para agentes que repiten familias de tareas similares.

## Evidencia reportada

- **reported-result**: We compare MILES against test-time memory methods, including Buffer-of-Thoughts (BoT) [ 47 ] and Dynamic CheatSheet (DC) [ 35 ] , as well as two standard baselines: zero-shot Chain-of-Thought (ZS-CoT) [ 18 ] and Self-Consistency (SC) [ 40 ] . [localizador](https://arxiv.org/html/2607.06974#S4)
- **reported-result**: Table 1 shows that MILES matches or outperforms baseline works across all six benchmarks and four backbones, with consistent gains on both math (MATH-500, AIME 2024–2025) and academic (GPQA-Diamond, MMLU-Pro Physics/Engineering) datasets. [localizador](https://arxiv.org/html/2607.06974#S4)
- **reported-result**: The improvements are especially pronounced on smaller open-weight backbones (GPT-OSS-20B and Qwen3-30B-Instruct), where the sample-level memory baselines BoT [ 47 ] and DC [ 35 ] fail to outperform zero-shot CoT due to overly complex prompt. [localizador](https://arxiv.org/html/2607.06974#S4)
- **reported-result**: We probe how accuracy scales with test-time compute by plotting accuracy against response-token cost on AIME 2024 and AIME 2025 with GPT-4.1-mini, comparing MILES to representative memoryless test-time scaling methods: Self-Consistency [ 40 ] , Tree-of-Thoughts [ 48 ] , rStar [ 28 ] , and DORA [ 39 ] . [localizador](https://arxiv.org/html/2607.06974#S4)

## Lectura y límite

- Método: La lectura de 3 The Proposed Method: MILES describe la intervención y su construcción: Test-time LLM reasoning. In many practical settings, problems arrive sequentially. We consider a pretrained large language model (LLM) that solves a question q by generating a reasoning trajectory e_{1},e_{2},\ldots,e_{T} followed by a final answer y . We define the reasoning state after t steps as x_{t}=(q,e_{1},\ldots,e_{t}) with x_{0}=q , and denote the step-level generation distribution by p(e\mid x) . Let y^{*} denote the ground-truth answer and r\in\{0,1\} the correctness indicator, where r=1 if y=y^{*} . Test-time improvement via external memory. In a stream of test questions, accumulating reusable…
- Límite: La lectura primaria permite comprobar método y resultados en el HTML, pero no convierte sus conclusiones en validación independiente. La ficha no demuestra transferencia fuera de los datasets, modelos, herramientas y condiciones descritos en 4 Experiments.
- Confianza editorial: Media
- Limitación: El cierre de la fuente señala: Identify contextual conditions. This prompt extracts the contextual conditions for a reasoning step from the question and preceding responses. The extracted conditions are used to build a codebook that identifies the most relevant context for applying the corresponding sub-instruction.
- Limitación: La ficha no demuestra transferencia fuera de los datasets, modelos, herramientas y condiciones descritos en 4 Experiments.

## Localizadores de evidencia
- [Fuente primaria · canonical](https://arxiv.org/html/2607.06974v1): tipo abstract
- [HTML · lectura completa](https://arxiv.org/html/2607.06974): tipo abstract
- [Método · 3 The Proposed Method: MILES](https://arxiv.org/html/2607.06974#S3): tipo section
- [Evaluación · 4 Experiments](https://arxiv.org/html/2607.06974#S4): tipo section
- [Cierre · 5 Conclusion](https://arxiv.org/html/2607.06974#S5): tipo section
- [HTML · fuente navegable](https://arxiv.org/abs/2607.06974v1): tipo abstract

## Próxima prueba

- ¿La propuesta mejora razonamiento matemático frente a la línea base actual?
- Métrica: Comparar la métrica principal de la fuente junto con calidad, coste, latencia y tasa de errores.
- Regla de parada: Parar si no aparece una mejora reproducible o si aumenta el riesgo, la complejidad o el coste sin compensación.

## Recursos reproducibles
- [https://huggingface.co/Qwen/Qwen3-30B-A3B-Instruct-2507](https://huggingface.co/Qwen/Qwen3-30B-A3B-Instruct-2507)
- [https://huggingface.co/Qwen/Qwen3-4B-Instruct-2507](https://huggingface.co/Qwen/Qwen3-4B-Instruct-2507)
- [https://huggingface.co/openai/gpt-oss-20b](https://huggingface.co/openai/gpt-oss-20b)
- [https://huggingface.co/datasets/HuggingFaceH4/MATH-500](https://huggingface.co/datasets/HuggingFaceH4/MATH-500)

## Enlaces relacionados

- [CoEvo-Mem](https://luiseduardodemiguel.com/research-ia/markdown/papers/coevo-mem)
- [Agent Memory Distillation](https://luiseduardodemiguel.com/research-ia/markdown/papers/agent-memory-distillation)
- [LiveMem](https://luiseduardodemiguel.com/research-ia/markdown/papers/livemem)