⛔ Criterios de Stop y Kill Switch¶
Sistema de IA de BKM¶
1. Propósito de este documento¶
Este documento define los criterios explícitos de stop y kill switch del Sistema de IA de BKM.
Su objetivo es:
- evitar que el sistema o una decisión continúe operando sin aportar valor,
- prevenir riesgos operativos, económicos o de interpretación,
- y garantizar que siempre exista una salida clara.
Este documento forma parte del gobierno del sistema y es de cumplimiento obligatorio.
2. Principio rector¶
Todo sistema que se puede activar
debe poder detenerse de forma inmediata y consciente.
El stop no es un fallo.
Es una herramienta de control.
3. Stop vs Kill Switch¶
-
Stop
Pausa temporal de una decisión o proceso para revisión. -
Kill Switch
Desactivación inmediata y completa de una decisión, agente o capacidad.
Ambos requieren intervención humana.
4. Criterios de STOP (pausa)¶
Se debe aplicar un STOP cuando ocurra alguno de los siguientes:
- El output deja de ser utilizado para decidir.
- Se detecta incoherencia recurrente en los resultados.
- Cambia el contexto de negocio de forma relevante.
- Los datos de entrada pierden calidad o fiabilidad.
- La interpretación genera dudas significativas en los responsables.
Acción: - Pausar ejecución. - Revisar diseño, datos o utilidad. - Decidir reactivación, ajuste o retirada.
5. Criterios de KILL SWITCH (desactivación inmediata)¶
Se debe aplicar un KILL SWITCH cuando ocurra alguno de los siguientes:
- Riesgo económico u operativo significativo.
- Recomendaciones contradictorias con criterios de negocio.
- Pérdida de control humano efectivo.
- Uso fuera del alcance definido.
- Riesgo reputacional, legal o ético.
Acción: - Desactivar inmediatamente. - Bloquear ejecución automática. - Registrar la decisión. - Revisar antes de cualquier reactivación.
6. Autoridad para aplicar stop o kill switch¶
-
Dirección
Tiene autoridad final. -
Responsables funcionales
Pueden solicitar stop inmediato. -
Sistema de IA
Puede alertar, nunca ejecutar el stop por sí mismo.
7. Registro y trazabilidad¶
Toda acción de stop o kill switch debe quedar registrada:
- decisión afectada,
- fecha,
- motivo,
- responsable.
El registro se conserva en Storage.
8. Idea clave final¶
Un sistema de IA fiable
no es el que nunca se detiene,
sino el que se puede detener sin fricción cuando hace falta.
Estos criterios existen para proteger al negocio
y mantener el control en todo momento.