# BadWAM: When World-Action Models Dream Right but Act Wrong
> Ficha editorial pública de Research IA. Estado: Lectura primaria completa. La interpretación editorial no sustituye la fuente primaria.

- Página canónica: https://luiseduardodemiguel.com/research-ia/papers/badwam-when-world-action-models-dream-right-but-act-wrong
- Fuente primaria: https://arxiv.org/abs/2607.15207
- Versión leída: v1
- Fuente comprobada: 2026-08-19 · lectura primaria completa; extracción editorial automatizada, revisión humana pendiente
- Autores: Qi Li, Xingyi Yang, Xinchao Wang
- Fecha del corte: 16 JULIO 2026.
- Área: MULTIMODAL

## Tesis y contexto

Cuestiona la idea de que un World-Action Model es seguro porque podemos inspeccionar el futuro que imagina. Introduce ataques que, mediante pequeñas perturbaciones visuales, desacoplan la predicción del mundo futuro de la acción que finalmente ejecuta el robot.

- Problema: «El modelo imagina un futuro razonable» no garantiza «el robot hará algo coherente con ese futuro».
- Por qué importa: Es un fallo de seguridad conceptualmente importante para world models y robótica agentic: la supervisión visual de una predicción futura puede crear una falsa sensación de seguridad.

## Evidencia reportada

- **reported-result**: As \lambda increases, future distance generally decreases, showing that the preservation term actively shapes the search rather than merely changing the reported metric. [localizador](https://arxiv.org/html/2607.15207#S5)
- **reported-result**: For the joint WAM, increasing \lambda from 0 to 0.015 reduces D_{\mathrm{img}} from 14.70 to 14.34 and lowers task success from 61.7% to 56.7%. [localizador](https://arxiv.org/html/2607.15207#S5)
- **reported-result**: For the IDM WAM, the same setting reduces D_{\mathrm{img}} from 15.36 to 15.13 and lowers success from 55.0% to 51.7%. [localizador](https://arxiv.org/html/2607.15207#S5)
- **reported-result**: At the default \epsilon=0.06 , success drops to 56.7% and 51.7% on the balanced subset. [localizador](https://arxiv.org/html/2607.15207#S5)

## Lectura y límite

- Método: La lectura de 3 Threat Model describe la intervención y su construcción: We study inference-time attacks against deployed WAM-based robot policies. Following the notation introduced above, the robot observes o_{t} and receives an instruction or goal g at each replanning step. The WAM then outputs an action chunk a_{t:t+H-1} and, depending on the model interface, may also expose an imagined future in latent form z_{t+1:t+K} or decoded video form v_{t+1:t+K} . The robot executes part of the predicted action chunk, observes the environment again, and repeats this process in closed loop. Adversarial capability. The adversary can perturb the visual observation before it is processed by…
- Límite: La lectura primaria permite comprobar método y resultados en el HTML, pero no convierte sus conclusiones en validación independiente. La ficha no demuestra transferencia fuera de los datasets, modelos, herramientas y condiciones descritos en 5 Evaluation.
- Confianza editorial: Media
- Limitación: El cierre de la fuente señala: For repeated-trial evaluation, we use pass@ k . For a fixed task, pass@ k is the fraction of successful executions among the first k trials. We then average this quantity across tasks. This metric shows whether an attack only causes isolated unlucky failures or consistently lowers reliability as more trials are considered.
- Limitación: La ficha no demuestra transferencia fuera de los datasets, modelos, herramientas y condiciones descritos en 5 Evaluation.

## Localizadores de evidencia
- [Fuente primaria · canonical](https://arxiv.org/abs/2607.15207): tipo abstract
- [HTML · lectura completa](https://arxiv.org/html/2607.15207): tipo abstract
- [Método · 3 Threat Model](https://arxiv.org/html/2607.15207#S3): tipo section
- [Evaluación · 5 Evaluation](https://arxiv.org/html/2607.15207#S5): tipo section
- [Cierre · 6 Conclusion](https://arxiv.org/html/2607.15207#S6): tipo section

## Próxima prueba

- ¿La propuesta mejora red-teaming robótico frente a la línea base actual?
- Métrica: Comparar la métrica principal de la fuente junto con calidad, coste, latencia y tasa de errores.
- Regla de parada: Parar si no aparece una mejora reproducible o si aumenta el riesgo, la complejidad o el coste sin compensación.

## Recursos reproducibles
- [the following issues](https://github.com/arXiv/html_feedback/issues)
- [list of packages that need conversion](https://github.com/brucemiller/LaTeXML/wiki/Porting-LaTeX-packages-for-LaTeXML)
- [developer contributions](https://github.com/brucemiller/LaTeXML/issues)

## Enlaces relacionados

- [MMDiff](https://luiseduardodemiguel.com/research-ia/markdown/papers/mmdiff)
- [MBA](https://luiseduardodemiguel.com/research-ia/markdown/papers/mbabench)
- [VibeLifeBench](https://luiseduardodemiguel.com/research-ia/markdown/papers/vibelifebench)