Qué implica permitir que una IA interactúe con el navegador, el escritorio o la interfaz de un sistema
Las herramientas de IA con control del ordenador no se limitan a generar respuestas o proponer acciones. Pueden observar lo que aparece en pantalla, interpretar interfaces y actuar sobre ellas mediante clics, teclado, navegación o interacción con aplicaciones y páginas web.
Lo que debes tener presente cuando la IA puede ver y actuar sobre tu pantalla
Ve tu pantalla
Observa e interpreta interfaces
Hace clic por ti
Interactúa con aplicaciones
Riesgo operativo
Efectos reales sobre tu equipo
Supervisión constante
Nunca sin control humano
Se incluyen en esta categoría las herramientas capaces de interactuar directamente con el navegador, el escritorio o una interfaz gráfica.
Ejemplos
IA que asiste
Redacta o resume contenido
Riesgo informativo
IA que controla
Hace clic, escribe, navega, interactúa
Riesgo operativo
Cuando la IA puede hacer clic, escribir, navegar o interactuar con aplicaciones, el riesgo deja de ser solo informativo y pasa a ser operativo.
Estas herramientas pueden
Aunque en muchos casos solicitan confirmación, la interpretación del usuario sobre la tarea y la interpretación de la IA pueden no coincidir.
Si trabajan sobre tu ordenador, navegador o aplicaciones, pueden provocar
No deben utilizarse de forma improvisada sobre
Cuidado: la IA actúa con tu usuario
Cuando la IA controla tu equipo o tu sesión, hereda tus credenciales y tus permisos: puede abrir, leer o actuar sobre todo aquello a lo que tú tengas acceso, sin distinguir lo público de lo confidencial.
Esto incluye el riesgo de operar con más permisos de los debidos (por ejemplo, una cuenta con acceso ampliado) o de exponer a la IA a información que no puede tratarse con ella (datos personales, académicos o confidenciales).
Antes de utilizarlas, debe entenderse con claridad
Estas herramientas no deben utilizarse como si fueran procesos totalmente autónomos. Deben mantenerse bajo supervisión humana suficiente.
Especial precaución cuando puedan afectar a
Relación autonomía / supervisión necesaria
Una IA que controla el navegador o el ordenador no solo ayuda: puede actuar sobre interfaces y producir efectos reales.
Entiende qué puede hacer
Revisa qué permisos tiene
Valora qué impacto genera
En caso de duda, consulta previamente a la Oficina de IA (inteligenciaartificial@comillas.edu).