Los incidentes de IA no avisan. Un output incorrecto que llega a un cliente, un sistema que toma una decisión automatizada que nadie había revisado, una herramienta que procesa datos que no debería haber procesado. Ocurre, y cuando ocurre la pregunta es siempre la misma: ¿qué hacemos ahora?
La diferencia entre un incidente gestionado y una crisis no está en la gravedad del problema inicial. Está en si la empresa tenía un protocolo antes de que pasara. Sin protocolo, la respuesta improvisa. Con protocolo, la respuesta contiene.
Qué es un incidente de IA
Un incidente de IA no es necesariamente un fallo técnico. Es cualquier situación en la que el uso de un sistema de IA genera un resultado no deseado con impacto real. Puede ser un algoritmo de selección de personal que filtra candidatos con criterios discriminatorios no intencionados. Puede ser una herramienta de IA generativa que produce un informe con datos incorrectos que se envía a un cliente sin verificación. Puede ser un empleado que usa ChatGPT con datos confidenciales de un contrato sin que la empresa lo hubiera autorizado. Puede ser un sistema de proctoring que marca incorrectamente a un estudiante por comportamiento sospechoso o un chatbot que da información errónea sobre un producto con impacto legal.
En todos estos casos el sistema puede estar funcionando exactamente como fue diseñado. El incidente no es técnico, es más de criterio, de supervisión o de política.
Fase 1: contención inmediata
En las primeras horas el objetivo es uno: detener el daño antes de que se extienda. Eso puede significar pausar el sistema afectado, retirar el output incorrecto, suspender el acceso a la herramienta mientras se evalúa la situación o contactar con el proveedor si el fallo está en su sistema. Lo más importante en esta fase es no comunicar externamente hasta tener la información mínima necesaria. Una comunicación prematura con datos incorrectos es peor que el silencio temporal.
Fase 2: evaluación del alcance
Una vez contenido el daño inmediato, hay que entender qué ha pasado: cuántas personas o procesos se han visto afectados, qué datos se han procesado indebidamente, si hay obligación de notificación a alguna autoridad y si el problema es puntual o sistémico. La evaluación debe responder qué sistema causó el incidente, desde cuándo estaba ocurriendo, qué personas han sido afectadas, si hay datos personales implicados y si el incidente podría haberse detectado antes con los controles existentes.
Fase 3: respuesta y comunicación
Con el alcance evaluado, la empresa puede comunicar de forma responsable. Los principios son los mismos que en cualquier crisis: ser rápido, claro y honesto sobre lo que se sabe y lo que todavía se está investigando, sin especular sobre causas ni consecuencias hasta tenerlas confirmadas. Si hay personas afectadas que deben ser informadas, clientes cuyos datos se han visto comprometidos, candidatos evaluados incorrectamente o empleados afectados por una decisión automatizada errónea, la comunicación a esas personas es prioritaria. Y si hay obligación de notificación a autoridades, los plazos del RGPD (72 horas para quiebras de seguridad con datos personales) o del AI Act son innegociables.
Fase 4: revisión y prevención
Una vez resuelto el incidente inmediato, la organización debe responder una pregunta incómoda: por qué no lo detectamos antes. La respuesta honesta a esa pregunta es la base para que no vuelva a ocurrir. La revisión post-incidente debe producir al menos tres cosas: una actualización de la política de uso de IA que cierre la brecha que permitió el incidente, una mejora en los controles de supervisión humana del sistema afectado, y una comunicación interna que explique al equipo qué pasó y qué ha cambiado.
Lo que distingue a las empresas que gestionan bien los incidentes de IA
- Tienen un registro de los sistemas de IA que usan y de quién es responsable de cada uno, lo que permite identificar el origen del problema rápidamente.
- Tienen definida la cadena de escalado: quién decide qué en cada tipo de incidente, sin improvisar la estructura de respuesta cuando el problema ya existe.
- Tienen formado al equipo, de modo que las personas que operan sistemas de IA saben reconocer cuándo algo no funciona bien y a quién reportarlo.
- Y tienen una política de uso actualizada que sirve de referencia para evaluar si el incidente implica una vulneración interna o externa. Las empresas que no tienen nada de eso responden más tarde, con más ruido y con más daño.
Preguntas frecuentes
¿Qué es un incidente de IA en una empresa?
Un incidente de IA es cualquier situación en la que el uso de un sistema de IA genera un resultado no deseado con impacto real: un error en una decisión automatizada, una fuga de datos, un output incorrecto que llega a un cliente o una vulneración de la política de uso interna.
¿Hay que notificar un incidente de IA a alguna autoridad?
Depende del tipo. Si implica datos personales, puede haber obligación de notificación a la AEPD en 72 horas bajo el RGPD. Si implica un sistema de alto riesgo bajo el AI Act, puede haber obligación de notificación a AESIA. Ante la duda, consultar con asesoría jurídica especializada.
¿Qué diferencia hay entre un incidente de IA y uno de ciberseguridad?
Un incidente de ciberseguridad implica una vulneración técnica del sistema. Un incidente de IA puede ocurrir sin ningún fallo técnico. El sistema funciona correctamente pero produce un resultado no deseado por ausencia de criterio, supervisión o política.
