Es una de las preguntas que más me llegan en las sesiones con centros educativos. Un sistema de IA marca como plagio un trabajo original, una herramienta de orientación sugiere algo que no encaja, un asistente automatizado da una respuesta errónea a una familia. Y entonces surge, casi siempre en el mismo tono de desconcierto: si esto falla, ¿quién responde? Son muchos los centros que tienen esta duda y muy pocos los que tienen la respuesta por escrito antes de necesitarla.
La respuesta corta es que, en la mayoría de los casos, el centro educativo actuará como operador del sistema respecto de las obligaciones que le atribuye el AI Act. La respuesta completa requiere entender cómo se distribuyen las responsabilidades entre los distintos actores de la cadena de valor (como proveedores y operadores) y por qué la ausencia de documentación previa dificulta acreditar que el centro actuó con la diligencia exigible.
El concepto de operador en el AI Act
El Reglamento (UE) 2024/1689 distingue entre proveedores, que desarrollan los sistemas, y operadores (deployers), que los despliegan en un contexto profesional. Cuando un centro educativo utiliza un sistema de IA en el ejercicio de su actividad, normalmente actúa como operador respecto de ese uso y debe cumplir las obligaciones que el Reglamento le atribuye.
El artículo 26 establece que los operadores deben asegurarse de que el sistema se utiliza conforme a las instrucciones del proveedor, que el personal dispone de un nivel adecuado de alfabetización y formación y que existe una supervisión humana efectiva cuando resulte exigible. El incumplimiento de estas obligaciones puede tener consecuencias regulatorias y dificultar que el centro demuestre que actuó con la diligencia exigible.
Conviene situar los plazos. El AI Act está en vigor desde agosto de 2024. Las obligaciones del operador sobre sistemas de alto riesgo del artículo 26, que en la redacción original aplicaban desde agosto de 2026, se trasladaron al 2 de diciembre de 2027 tras el paquete ómnibus digital, aprobado por el Parlamento Europeo el 16 de junio de 2026 y por el Consejo el 29 de junio de 2026. El artículo 4, sobre alfabetización en IA del personal, está en vigor desde febrero de 2025 y no ha sido afectado por el ómnibus. De hecho, cada vez exige una alfabetización en IA más contextualizada dentro de las organizaciones.
Los tres escenarios que suelen ocurrir en centros educativos
El primero, y el más común, es que el sistema decide y nadie lo sabe. Una herramienta digital incorpora funcionalidades de IA sin que el centro lo haya evaluado conscientemente. El profesorado la usa porque viene incluida en la plataforma contratada. Nadie puede explicar cómo toma decisiones. Si algo falla, el centro no tiene documentación que demuestre que evaluó el riesgo antes de desplegarla.
El segundo es que el sistema decide y alguien lo autorizó en su momento. Aquí hay un paso adelante: alguien aprobó la herramienta. Pero si no existe un proceso documentado de aprobación basado en criterios técnicos y éticos, esa aprobación informal no protege al centro. Un correo del proveedor diciendo que la herramienta cumple con el RGPD no es documentación de diligencia debida.
El tercero es el sistema falla y hay protocolo, que es el escenario en el que quieres estar. El centro tiene una política de uso de IA que incluye el proceso de aprobación de herramientas, quién es responsable de cada sistema, cómo se registra un incidente y quién comunica a la AESIA si el sistema es de alto riesgo. Cuando algo falla, hay un camino a seguir y evidencia que respalda la diligencia del centro. La cuestión no es que la IA falle, porque los sistemas fallan, es fallar sin haber pensado antes cómo ibas a responder.
Supervisión humana: la cláusula que más se ignora
El AI Act exige supervisión humana en sistemas de alto riesgo. Muchos centros educativos aplican IA en contextos que pueden caer bajo esta categoría, sistemas que influyen en el acceso a la educación, en la evaluación del rendimiento, en la orientación académica o en la detección de necesidades especiales.
Supervisión humana no significa que un docente esté presente mientras la IA trabaja, significa que existe un criterio institucional documentado sobre cómo se revisa, se cuestiona y se puede anular la decisión del sistema. Sin ese criterio en papel, la supervisión existe en la teoría pero no en la práctica ni ante una inspección.
El aviso que muchos centros van a olvidar: transparencia desde agosto de 2026
Hay una obligación que entra en juego y que no se ha aplazado con el ómnibus, a diferencia de los plazos de alto riesgo. El artículo 50 del AI Act, sobre transparencia, se aplica desde el 2 de agosto de 2026. Las Directrices publicadas por la Comisión Europea el 20 de julio de 2026 lo confirmaron, el deber de avisar de que una persona está interactuando con una IA no se traslada a diciembre.
Para un centro educativo esto es concreto y sencillo de cumplir. Si el centro usa un chatbot para atender consultas de familias o de alumnado, un asistente conversacional en su web o cualquier sistema con el que una persona interactúe directamente, debe informar de forma clara, desde el inicio de la conversación, de que se trata de una IA. No basta con esconderlo en la política de privacidad, el aviso tiene que aparecer al empezar la interacción.
Conviene evitar una confusión frecuente y es que no todo el contenido que un centro elabore con ayuda de IA hay que etiquetarlo. La obligación de etiquetar texto solo alcanza a lo que se publica para informar al público sobre asuntos de interés público, y ni siquiera entonces si ese texto ha pasado una revisión humana con responsabilidad editorial. Una circular, un cartel o una comunicación redactada con ayuda de IA y revisada por una persona del centro no entra en ese supuesto. Lo que sí aplica de forma clara y general es el aviso de interacción, si una máquina habla con una persona, esa persona debe saberlo.
La AESIA y las sanciones que ya son posibles
La Agencia Española de Supervisión de la Inteligencia Artificial tiene poderes sancionadores desde agosto de 2025. Conviene ponerlo en perspectiva y sin alarmismo. Las multas más altas del AI Act están pensadas para grandes proveedores de sistemas de IA, no para un centro educativo con un chatbot en su web. Lo que a un centro le corresponde son las obligaciones del operador, y su incumplimiento grave puede derivar en procedimientos formales, con la responsabilidad trasladándose a la administración educativa competente en el caso de los centros públicos.
No hay hoy inspecciones sistemáticas a centros ni jurisprudencia sobre esto. El artículo 50 empieza a aplicarse el 2 de agosto de 2026. El riesgo real para un centro no es tanto una sanción inmediata como la exposición ante una reclamación, especialmente en incidentes que afecten a menores. El marco legal está activo y esa es razón suficiente para tener las cosas ordenadas antes de necesitarlas.
Qué hacer si tu centro no tiene todavía un protocolo
Lo primero es un inventario real: qué sistemas de IA se están usando, quién los aprobó, cómo influyen en decisiones que afectan al alumnado. No tiene que ser perfecto, tiene que existir.
Lo segundo es una política de uso de IA institucional. No un documento de veinte páginas, sino una página firmada por la dirección que establezca criterios claros: qué se puede usar, quién lo decide, cómo se registra un problema, quién responde ante las familias y ante la administración, y cómo se cumple la obligación de avisar cuando una IA interactúa con personas.
Lo tercero es formación para el claustro. El AI Act es explícito: el personal que opera sistemas de IA necesita el nivel de alfabetización adecuado. Eso no es opcional desde febrero de 2025 y tampoco equivale a un taller de prompts o de ChatGPT.
Preguntas frecuentes
¿Quién es responsable si una IA falla en una escuela?
En la mayoría de los casos, el centro actuará como operador respecto del uso que hace del sistema y deberá cumplir las obligaciones que el AI Act le atribuye. Ello no excluye las responsabilidades que puedan corresponder al proveedor u otros operadores económicos.
¿Puede un docente ser responsable de un error de IA?
La eventual responsabilidad individual dependerá del marco laboral, disciplinario y de las circunstancias concretas del caso. Disponer de protocolos claros ayuda a delimitar funciones y a reducir la incertidumbre jurídica.
¿Qué documentación necesita un centro ante un fallo de IA?
Registro del incidente con fecha y descripción, política de uso vigente en el momento del fallo y evidencia del proceso seguido para aprobar el uso del sistema. En función del tipo de sistema y de las obligaciones aplicables, también podrán intervenir el proveedor y las autoridades competentes. Sin documentación previa resulta mucho más difícil demostrar que el centro actuó con la diligencia debida.
