Reglamento Europeo de IA (AI Act) — Universidad Pontificia Comillas

Qué es el AI Act

El Reglamento (UE) 2024/1689, conocido como AI Act o Ley de Inteligencia Artificial, es la primera normativa integral del mundo que regula el uso de la inteligencia artificial. Fue aprobado en junio de 2024 y su aplicación es progresiva hasta agosto de 2026.

Su enfoque central es clasificar los sistemas de IA según el riesgo que suponen para los derechos fundamentales. A mayor riesgo, mayores obligaciones para quien lo desarrolla, distribuye o utiliza.

El reglamento afecta a cualquier organización que use, desarrolle o ponga en servicio sistemas de IA dentro de la Unión Europea, incluidas las universidades.

Las 4 categorías de riesgo

De mayor a menor restricción

🚫

Riesgo inaceptable

Prohibido

Sistemas de IA que la UE considera una amenaza directa a los derechos fundamentales. Están prohibidos desde febrero de 2025.

Ejemplos prohibidos

× Scoring social — puntuar a personas por su comportamiento para otorgar o denegar servicios
× Reconocimiento biométrico masivo en tiempo real en espacios públicos (salvo excepciones de seguridad)
× Manipulación subliminal — técnicas de IA diseñadas para alterar el comportamiento de forma no consciente
× Inferencia de emociones en el lugar de trabajo o centros educativos (salvo por razones médicas o de seguridad)

⚠️

Riesgo alto

Obligaciones reforzadas

Sistemas que afectan significativamente a derechos fundamentales. Permitidos, pero sujetos a requisitos estrictos de transparencia, supervisión humana, gestión de riesgos y documentación. Plenamente aplicable desde agosto de 2026.

Ejemplos de alto riesgo relevantes para una universidad

! Admisión de estudiantes — IA que selecciona, prioriza o filtra candidatos a grados, másteres o programas de becas
! Evaluación automatizada — sistemas que califican exámenes, trabajos o competencias y cuyo resultado afecta al expediente
! Selección de personal — IA que filtra CVs, puntúa candidatos o recomienda contrataciones de PAS o PDI
! Detección de plagio o fraude con IA — cuando el resultado influye directamente en sanciones académicas
! Acceso a servicios esenciales — IA que decide sobre becas, ayudas económicas o prestaciones a estudiantes

💬

Riesgo limitado

Obligación de transparencia

Sistemas que interactúan con personas o generan contenidos. La obligación principal es informar al usuario de que está interactuando con una IA o de que el contenido ha sido generado artificialmente.

Ejemplos en el entorno universitario

Chatbots institucionales — un asistente virtual en la web de Comillas debe indicar que es una IA
Contenido generado — imágenes, vídeos o textos creados con IA que se publican deben etiquetarse como tales
Deepfakes — cualquier contenido audiovisual manipulado con IA debe identificarse claramente

✅

Riesgo mínimo o nulo

Sin restricciones adicionales

La mayoría de usos cotidianos de IA. No tienen obligaciones específicas bajo el AI Act, aunque siguen aplicando las reglas de este marco interno y la normativa de protección de datos.

Ejemplos habituales

Usar ChatGPT, Copilot o Claude para redactar borradores con información pública
Traducir textos académicos, resumir artículos, preparar materiales docentes
Filtros de spam, correctores ortográficos, recomendadores de contenido

Calendario de aplicación

Feb 2025

Prácticas prohibidas. Ya no se pueden usar los sistemas de riesgo inaceptable.

Ago 2025

Modelos de propósito general (GPAI). Obligaciones para proveedores de modelos como GPT, Claude, Gemini, Llama.

Ago 2026

Sistemas de alto riesgo. Se aplican todas las obligaciones de registro, supervisión humana, gestión de riesgos y transparencia.

Qué supone para Comillas

Situaciones concretas del entorno universitario

Alto riesgo

Admisiones y becas

Si se usa IA para filtrar solicitudes de admisión, priorizar candidatos o decidir la concesión de becas, el sistema se clasifica como alto riesgo. Requiere documentación, evaluación de impacto y supervisión humana real.

Alto riesgo

Evaluación automatizada

Un sistema de IA que corrige exámenes o evalúa trabajos y cuya nota va directamente al expediente es alto riesgo. Si solo sugiere una nota que el profesor revisa y confirma, el riesgo se reduce, pero la supervisión humana sigue siendo necesaria.

Alto riesgo

Selección de personal

Filtrar CVs con IA, analizar entrevistas grabadas o puntuar candidatos en procesos de selección de PAS o PDI es alto riesgo. El candidato tiene derecho a saber que se usa IA y a solicitar una revisión humana.

Riesgo limitado

Chatbot en la web

Un asistente virtual en la web de Comillas que resuelve dudas de futuros alumnos es riesgo limitado. Solo necesita dejar claro que es una IA, no una persona.

Riesgo limitado

Contenido institucional con IA

Si Comunicación genera imágenes, vídeos o textos con IA para redes sociales o publicaciones oficiales, debe etiquetar el contenido como generado artificialmente.

Riesgo mínimo

Uso cotidiano de IA generativa

Preparar materiales docentes, resumir papers, traducir textos o generar borradores de correos es riesgo mínimo según el AI Act. Sigue aplicando el resto del marco interno de Comillas.

Qué implica para ti en la práctica

Clasifica el riesgo antes de usar

Si lo que quieres hacer afecta a derechos de personas (notas, admisiones, selección, sanciones), probablemente sea alto riesgo. Consulta antes de implementar.

Supervisión humana real, no simbólica

En sistemas de alto riesgo, una persona cualificada debe poder entender, revisar y revocar las decisiones de la IA. «Darle al OK» sin revisar no es supervisión.

Transparencia siempre

Informa a las personas cuando interactúan con una IA o cuando el contenido ha sido generado por IA. Esto aplica a chatbots, imágenes generadas y vídeos sintéticos.

Documenta lo que haces

Si usas IA en un proceso que afecta a personas, documenta: qué herramienta usas, para qué, qué datos entran, quién supervisa y cómo se revisa el resultado.

No uses prácticas prohibidas

Nada de scoring social, reconocimiento biométrico masivo, manipulación subliminal ni inferencia de emociones en contextos educativos o laborales. Esto ya está en vigor.

Si tienes dudas sobre si algo que quieres hacer está regulado

No hace falta que te conviertas en experto en regulación europea. Hazte estas tres preguntas:

La IA, ¿decide algo?

¿O solo sugiere/asiste?

¿Afecta a derechos?

Notas, empleo, becas, acceso...

¿Hay persona que revise?

¿O es automático de principio a fin?

Si la respuesta a las dos primeras es sí y a la tercera es no, probablemente necesitas consultar antes de seguir adelante.

Contacta con:

Oficina de IA DPO (datos personales) Secretaría General (compliance)