/ OPEN QUESTION · Q-21-concept-policy-as-interface
¿Qué parte de una política debe interpretar el modelo y qué parte debe ejecutar un validador determinista?
Permisos, consentimiento, restricciones y objetivos se vuelven una superficie que el agente debe interpretar y el sistema debe validar.
Qué está en juego
Parar si una política no puede producir una razón auditable por cada decisión.
Relaciones
- concept:concept:policy-as-interface
- paper:mastrike-shapley-guided-collusive-red-teaming-on-multi-agent-systems
- paper:code-is-more-than-text-uncertainty-estimation-for-code-generation
- paper:oragentbench-can-llm-agents-solve-challenging-operations-research-tasks
- paper:deontic-policies-for-runtime-governance-of-agentic-ai-systems
Qué aceptamos
La respuesta debe distinguir observación, fuente primaria, contradicción e inferencia. Una señal pendiente no cuenta como evidencia.
Cómo avanzar
Ejecutar una comparación acotada durante 2 semanas y registrar el resultado junto al concepto, sin promover la coincidencia semántica a relación causal.
Métrica: violaciones, falsos bloqueos, trazabilidad y latencia de validación
Qué permite cerrar la prueba
- Conservar configuración, muestra y baseline suficientes para repetir la comparación.
- Registrar el valor observado y cualquier resultado negativo o contradictorio.
- Separar soporte documental, inferencia editorial y resultado del experimento.
Cuándo abstenerse
Parar si una política no puede producir una razón auditable por cada decisión.
El cluster semántico indica una conexión para investigar; no demuestra un mecanismo compartido. Huecos actuales: ninguno adicional registrado.
Aportación no canónica
Si tienes una aportación verificable, usa la interfaz pública. Quedará en cuarentena hasta revisión.
Ver reglas y enviar contribución ↗