Si despliegas IA en sanidad, legal, RRHH, educación o sector público, probablemente operas un sistema de IA de alto riesgo bajo el Reglamento de IA de la UE. El Artículo 14 exige supervisión humana efectiva. Tras el Ómnibus Digital (Reglamento (UE) 2026/1744), estas obligaciones se aplican desde el 2 de diciembre de 2027 para sistemas del Anexo III (y el 2 de agosto de 2028 para productos del Anexo I). Todavía no se aplican. Diseñar la supervisión desde el principio sale más barato que añadirla después.
Es tiempo a tu favor, y este artículo te da la lista de comprobación para hacerlo una sola vez.
flowchart TD
AI["Salida del\nSistema IA"] --> LEVEL{"Nivel de\nSupervision?"}
LEVEL -->|"Riesgo Minimo"| AUTO["Automatizacion Total\nSin supervision requerida\n(filtros spam, analitica)"]
LEVEL -->|"Riesgo Limitado"| LOOP["Humano sobre el Bucle\nMonitoriza e interviene si es necesario\n(chatbots, generadores de contenido)"]
LEVEL -->|"Alto Riesgo"| INLOOP["Humano en el Bucle\nAprueba cada decision\n(seleccion RRHH, scoring crediticio)"]
LEVEL -->|"Critico"| COMMAND["Humano al Mando\nIA aconseja, humano decide\n(diagnostico medico, legal)"]
INLOOP --> CAP1["Comprender el sistema"]
INLOOP --> CAP2["Monitorizar anomalias"]
INLOOP --> CAP3["Interpretar resultados"]
INLOOP --> CAP4["Anular o detener"]
COMMAND --> CAP1
COMMAND --> CAP2
COMMAND --> CAP3
COMMAND --> CAP4
CAP4 --> KILL["Interruptor de\nEmergencia\n(desactivacion instantanea)"]
style AI fill:#DBEAFE,stroke:#2563EB,color:#000
style AUTO fill:#D1FAE5,stroke:#059669,color:#000
style LOOP fill:#FEF3C7,stroke:#F5A623,color:#000
style INLOOP fill:#FECACA,stroke:#B91C1C,color:#000
style COMMAND fill:#FECACA,stroke:#B91C1C,color:#000
style KILL fill:#FECACA,stroke:#B91C1C,color:#000
style CAP1 fill:#DBEAFE,stroke:#2563EB,color:#000
style CAP2 fill:#DBEAFE,stroke:#2563EB,color:#000
style CAP3 fill:#DBEAFE,stroke:#2563EB,color:#000
style CAP4 fill:#FEF3C7,stroke:#F5A623,color:#000¿No sabes por dónde empezar? Haz la checklist de la Ley de IA para pymes en 3 minutos.
Qué Exige el Artículo 14
El Artículo 14 establece cuatro capacidades fundamentales de supervisión. Toda persona asignada a supervisar un sistema de IA de alto riesgo debe poder:
1. Comprender el Sistema
El supervisor debe entender adecuadamente las capacidades y limitaciones del sistema de IA:
- Saber qué puede y qué no puede hacer el modelo
- Conocer los datos de entrenamiento y posibles sesgos
- Reconocer escenarios donde el sistema probablemente fallará
En la práctica: Tu equipo necesita formación sobre los modelos específicos desplegados. “Conciencia general sobre IA” no es suficiente.
2. Monitorizar Anomalías
El supervisor debe poder detectar y abordar anomalías, disfunciones y rendimiento inesperado:
- Degradación de calidad en las respuestas
- Deriva del modelo (cambio de rendimiento con nuevos datos)
- Errores del sistema
- Respuestas fuera de los parámetros esperados
En la práctica: Configura dashboards de monitorización con alertas automáticas cuando las métricas se desvían de la línea base.
3. Interpretar Correctamente
El supervisor debe poder interpretar correctamente las salidas del sistema, considerando:
- Niveles de confianza e incertidumbre
- Contexto de la entrada que generó la respuesta
- Limitaciones conocidas del modelo para la tarea específica
En la práctica: No presentes las salidas de IA como hechos. Muestra siempre indicadores de confianza y etiquetado claro de contenido generado por IA.
4. Anular o Detener
El supervisor debe poder decidir no usar el sistema o ignorar, anular o revertir su resultado:
- Un interruptor de emergencia para detener el sistema inmediatamente
- Capacidad de anular cualquier decisión individual de la IA
- Opción de volver a procesos manuales
En la práctica: Cada despliegue necesita un botón de apagado accesible al supervisor designado.
El Problema del Sesgo de Automatización
El Artículo 14 advierte específicamente sobre el “sesgo de automatización”: la tendencia a confiar excesivamente en las salidas de la IA. Es un riesgo real: cuanto más fiable parece un sistema, más fácil es dejar de revisarlo, y justo ahí se cuelan sus errores.
Tus procedimientos deben:
- Requerir verificación independiente de resultados críticos
- Formar a los supervisores para cuestionar las recomendaciones
- Implementar períodos de “revisión” antes de que las decisiones sean definitivas
Quién es Responsable
| Rol | Responsabilidad |
|---|---|
| Proveedor (quien desarrolla el sistema y lo comercializa o pone en servicio con su nombre) | Diseñar el sistema con herramientas de supervisión |
| Implementador (tu empresa) | Asignar personas formadas, implementar procedimientos |
| Supervisor (persona designada) | Monitorizar, interpretar y anular según sea necesario |
Si compras un sistema de alto riesgo a un tercero, tú eres el responsable del despliegue y el vendedor es el proveedor. Si lo construyes tú sobre un modelo abierto como Llama o Gemma y lo pones en servicio con tu nombre, el proveedor eres tú (artículo 3.3): Meta o Google proveen el modelo de uso general, no tu sistema.
Checklist de Implementación
- Supervisor designado: persona nombrada con autoridad para detener/anular
- Formación completada: sobre capacidades y limitaciones específicas del modelo
- Dashboard de monitorización activo: métricas en tiempo real
- Interruptor de emergencia probado: capacidad de desactivación confirmada
- Procedimiento de anulación documentado: paso a paso para rechazar salidas
- Formación anti-sesgo: equipo formado para cuestionar, no solo aceptar
- Registro de incidentes: log de anomalías, anulaciones y paradas
- Documentación técnica accesible: disponible para el supervisor
- Calendario de revisión: revisión trimestral de efectividad
- Ruta de escalación definida: qué pasa cuando el supervisor detecta un problema
Ventaja de la IA Local
| Aspecto | IA Cloud | IA Local (Vorlux) |
|---|---|---|
| Interruptor de emergencia | Revocar API (retrasado) | Interruptor físico (instantáneo) |
| Monitorización | Dashboard del proveedor (limitado) | Control total de métricas |
| Anulación | Solo a nivel de API | Control a nivel de modelo |
Sanciones
Desde esas fechas, incumplir el artículo 14 puede suponer multas de hasta 15 millones de euros o el 3% de la facturación anual global, la cifra mayor; para pymes y pequeñas empresas de mediana capitalización, la menor (artículo 99, apartados 4 y 6, en la redacción del 2026/1744). La lista de comprobación de arriba es la respuesta práctica.
Próximos Pasos
- Haz nuestro test de riesgo EU AI Act: determina si tus sistemas son de alto riesgo: Test EU AI Act
- Descarga nuestras plantillas: incluyendo el procedimiento de supervisión humana: Plantillas
- Contáctanos para una auditoría: te ayudamos a implementar el Artículo 14 antes de diciembre de 2027: Contacto
Jacobo González Jaspe es el fundador de J4SGON S.L., especializado en despliegues de IA local compatibles con GDPR para PYMEs europeas.
Recursos Relacionados
- 50 Modelos IA con requisitos de VRAM: entiende las capacidades
- Plantillas de compliance EU AI Act: descarga plantillas de supervisión
- 230 Workflows: automatización con diseño human-in-the-loop
Fuentes: Reglamento (UE) 2024/1689 (EUR-Lex) · Reglamento (UE) 2026/1744 (EUR-Lex) · EU AI Act Artículo 14
Lecturas relacionadas
- RGPD Artículo 25: Por Qué la Inferencia IA Local ES Privacidad por Diseño
- AESIA: Lo Que Toda Empresa Española que Usa IA Debe Saber en 2026
- Llévate la plantilla: Guía de supervisión humana (artículo 14).
Trabaja con nosotros
Podemos hacer este análisis con tus datos reales antes de recomendar hardware. Una conversación de 30 minutos suele bastar para saber si tiene sentido en tu caso: reserva una llamada o mira cómo trabajamos en consultoría.