/ OPEN QUESTION · Q-12-hypothesis-runtime-governance-at-action-boundary
¿Qué controles deben ser deterministas y externos al razonamiento del agente?
Un agente empresarial necesita evaluar permisos, obligaciones, minimización y contexto justo antes de transferir datos o ejecutar una herramienta; pedirle al modelo que recuerde todas esas reglas no basta.
Qué está en juego
No valida una arquitectura concreta ni demuestra que más controles produzcan una mejor experiencia para usuarios reales.
Relaciones
- paper:mnc
- paper:niyamai
- paper:deontic-policies-for-runtime-governance-of-agentic-ai-systems
- paper:minim-privacy-aware-minimal-view-for-agents-via-trusted-local-sanitizati
- paper:skillgate-cost-efficient-runtime-malicious-skill-file-detection-in-codin
Qué aceptamos
La respuesta debe distinguir observación, fuente primaria, contradicción e inferencia. Una señal pendiente no cuenta como evidencia.
Cómo avanzar
Ejecutar la próxima prueba durante 2 semanas contra la baseline declarada, sin alterar el resultado documental ya publicado.
Métrica: Fugas evitadas, acciones válidas bloqueadas, tiempo de decisión, explicabilidad y cumplimiento de obligaciones posteriores.
Qué permite cerrar la prueba
- Registrar la baseline antes de actuar: Allow/deny estático y filtro de prompt sin minimización de contexto.
- Publicar valores observados, coste, límites y abstenciones aunque el resultado sea negativo.
- Mantener el resultado experimental separado de la triangulación documental del corpus.
Cuándo abstenerse
Parar si la protección depende de texto generado por el agente o si la política no puede explicar su decisión.
No valida una arquitectura concreta ni demuestra que más controles produzcan una mejor experiencia para usuarios reales.
Aportación no canónica
Si tienes una aportación verificable, usa la interfaz pública. Quedará en cuarentena hasta revisión.
Ver reglas y enviar contribución ↗