Gobernar antes de la consecuencia
La tesis
La IA puede proponer. Nunca debería heredar autoridad por implicación.
Una guía ejecutiva y técnica, basada en evidencia, para controlar la IA agéntica antes de la ejecución, no después.
Posición pública sobre la evidencia
Este documento presenta un modelo de control conceptual público y cita autoridades externas. No divulga detalles habilitantes propietarios, no certifica ningún producto ni afirma verificación independiente o madurez de producción para la tecnología de EthicVault.
Con qué se queda quien lo lee
- Una definición práctica de la frontera de autorización.
- Un patrón de referencia público y no habilitante para el control previo a la ejecución.
- Un mapa de amenaza a control, una taxonomía de evidencia, un plan de piloto y una lista de verificación para el comprador.
El giro en la gobernanza
La monitorización sigue siendo necesaria, pero va por detrás. El control decisivo es el que puede detener una acción no autorizada antes de que se convierta en un hecho operativo.
La frontera de autorización
El punto de decisión explícito en el que una acción propuesta por la IA se permite, condiciona, escala, retiene o deniega antes de ejecutarse.
Autoridad separada
El modelo no aprueba su propia acción.
Mediación completa
Toda solicitud con consecuencia cruza el mismo punto de liberación gobernado.
Fallo cerrado
Las condiciones ausentes, contradictorias, caducadas o no autorizadas producen retención o denegación, no permiso implícito.
Evidencia revisable
La organización puede determinar después qué política, autoridad, evidencia y disposición se aplicaron.
Qué significa determinista aquí
No significa que el modelo generativo se vuelva determinista. Significa que la decisión de liberación es reproducible para la misma solicitud acotada, el mismo estado de política, de autoridad y de conjunto de evidencia. Es un objetivo de control, no la afirmación de que todo el razonamiento previo pueda reproducirse.
Plano de razonamiento frente a plano de control
| Dimensión | Plano de razonamiento | Plano de control |
|---|---|---|
| Propósito | Generar, planificar, recuperar, recomendar | Autorizar, restringir, escalar, denegar |
| Comportamiento típico | Probabilístico y adaptativo | Explícito y ligado a la política |
| Preocupación de fallo | Error, manipulación, ambigüedad | Liberación no autorizada o evidencia débil |
| Pregunta de prueba | ¿Por qué el modelo propuso esto? | ¿Por qué se permitió o se rechazó esta acción? |
Evidencia sin exageración
La confianza crece cuando la etiqueta de evidencia es tan precisa como la afirmación técnica. Estas etiquetas se solapan y no forman una única escalera.
| Estado | Qué significa | Qué no significa |
|---|---|---|
| Afirmado | Una parte asegura que existe una capacidad o un resultado. | No se ha establecido implementación, medición ni verificación. |
| Implementado | Existe un artefacto o control definido en un entorno declarado. | La existencia por sí sola no prueba eficacia, seguridad ni escala. |
| Medido | Se capturó una métrica en condiciones descritas. | El resultado puede no generalizarse más allá del montaje o la carga de prueba. |
| Reportado | La parte emisora comunicó un resultado. | Quien lee no ha reproducido de forma independiente la evidencia subyacente. |
| Verificado independientemente | Una parte independiente cualificada inspeccionó o reprodujo una afirmación definida dentro de su alcance. | La verificación no establece automáticamente la aceptación para el despliegue. |
| Listo para producción | El sistema superó las puertas operativas, de seguridad, gobernanza, fiabilidad, soporte y aceptación definidas por la organización para un entorno concreto. | La madurez es específica de su alcance; no es una certificación universal. |
Regla de diseño
No conceda a un modelo una capacidad solo porque sepa describir cuándo debería usarse. La descripción no es autoridad, y el autocontrol del modelo no es control de acceso.
Leer el documento completo
La versión completa añade el patrón de referencia de seis pasos, el mapa de amenaza a control de siete filas, el piloto acotado de cuatro etapas con sus medidas de aceptación, y la guía de decisión de compra con sus señales de alarma.
Descargar el PDFPDF · 11 páginas · publicación pública