Según la información remitida a la AEPD, un tercero habría utilizado un agente conectado a un conocido modelo de lenguaje para encadenar distintas fases de un ciberataque. El sistema comenzó buscando vulnerabilidades en archivos genéricos, consiguió realizar un inicio de sesión correcto y, una vez dentro de la aplicación, siguió buscando debilidades de forma autónoma hasta encontrar una vía que le permitió modificar datos personales y acceder a facturas.
La AEPD no ha identificado públicamente a la organización afectada, tampoco ha revelado qué modelo de inteligencia artificial se utilizó ni cuántas personas o registros se vieron afectados. La Agencia recalca además que el uso de un modelo concreto no implica que dicho modelo o la infraestructura de su proveedor hayan sido comprometidos ni que la herramienta fuera diseñada originalmente para desarrollar actividades maliciosas.
Qué ocurrió en el ataque, según la notificación recibida por la AEPD
La información disponible permite reconstruir a grandes rasgos la secuencia comunicada por la entidad afectada, aunque no conocer todos los detalles técnicos del incidente.
El agente inició una búsqueda de vulnerabilidades sobre archivos genéricos y posteriormente consiguió realizar un login correcto. Ya dentro del sistema, continuó analizando la aplicación de forma autónoma, localizando nuevas vulnerabilidades y adaptando sus siguientes pasos a partir de lo que iba encontrando.
Ese proceso terminó permitiéndole alterar datos personales y acceder a facturas. La AEPD no ha detallado qué tipo de datos fueron modificados, cuántas facturas fueron consultadas ni si se produjo una extracción masiva de información.
También es importante aclarar qué significa aquí “ataque mediante un agente de IA”. La propia Agencia señala que lo relevante no es que una inteligencia artificial haya actuado sin ningún origen humano, sino que un tercero habría utilizado el agente como instrumento para encadenar de forma autónoma varias fases del ataque.
A diferencia de un modelo utilizado únicamente para generar texto o sugerir comandos, un agente puede recibir un objetivo, planificar tareas intermedias, utilizar herramientas, ejecutar acciones, consultar resultados y modificar su comportamiento en función de lo que encuentra.
| Dato | Estado conocido |
|---|---|
| Notificación | Primera recibida por la AEPD con estas características |
| Organización afectada | No identificada públicamente |
| Modelo de IA utilizado | No identificado; la AEPD habla de un conocido modelo de lenguaje |
| Acciones comunicadas | Búsqueda de vulnerabilidades, login, análisis autónomo, modificación de datos y acceso a facturas |
| Número de afectados | No comunicado |
| Investigación | La información debe ser analizada por la AEPD |
La diferencia no es una técnica nueva, sino la velocidad y autonomía del ataque
La AEPD subraya que la inteligencia artificial no crea necesariamente nuevas amenazas. Técnicas como buscar vulnerabilidades, utilizar credenciales comprometidas o explotar fallos en una aplicación ya existen desde hace años.
Lo que cambia con los agentes es la capacidad de automatizar y encadenar estas tareas con mucha más rapidez. Un sistema puede analizar varios activos, probar diferentes vías de acceso e ir ajustando su comportamiento sin esperar a que una persona tome manualmente cada decisión intermedia.
Esto reduce el margen disponible para detectar y contener un incidente. Los procedimientos de seguridad diseñados pensando exclusivamente en un atacante que trabaja de forma manual pueden quedarse cortos cuando parte del proceso se ejecuta a velocidad de máquina.
La protección de las identidades digitales y las credenciales cobra así todavía más importancia. La AEPD pone como ejemplo el riesgo de que un agente obtenga una cuenta, una clave API o un token con permisos excesivos, ya que podría utilizar esos accesos contra varios servicios antes de que la organización detectase un comportamiento anómalo.
La AEPD pide revisar los análisis de riesgos y los tiempos de respuesta
Para la Agencia, este caso es significativo porque obliga a incorporar expresamente los ataques asistidos o ejecutados mediante IA a los análisis de riesgos de los tratamientos de datos personales.
No bastaría con contemplar de forma genérica escenarios como malware, phishing o accesos no autorizados si la automatización cambia de forma relevante la probabilidad, el alcance o la velocidad con la que pueden producirse.
La AEPD señala cuatro áreas especialmente importantes:
- Actualizar los análisis de riesgos para incluir ataques asistidos o ejecutados mediante agentes de IA.
- Revisar los tiempos de detección y respuesta, ya que un agente puede probar varias vías de ataque en muy poco tiempo.
- Limitar credenciales y permisos, especialmente cuentas, tokens y claves API con acceso excesivo.
- Automatizar parte de la detección, contención y respuesta, manteniendo la supervisión humana pero evitando depender únicamente de una reacción manual.
Estas recomendaciones encajan también con las advertencias publicadas en junio por el Centro Criptológico Nacional en su documento CCN-CERT BP/36 sobre IA ofensiva, dedicado precisamente a los riesgos de incorporar modelos y agentes de inteligencia artificial a campañas maliciosas.
Una notificación no significa que sea el primer ataque con IA ocurrido en España
Aquí existe una diferencia importante de cara al titular. La AEPD habla de la primera notificación recibida en la que una organización atribuye una brecha de datos personales a un ataque ejecutado mediante un agente de IA.
Eso no permite afirmar que sea necesariamente el primer ciberataque de este tipo que se haya producido en España. Tampoco permite concluir todavía que todas las circunstancias descritas en la notificación hayan sido verificadas de forma independiente por la Agencia.
La propia AEPD indica que este único caso no permite establecer una tendencia estadística. Sí considera, sin embargo, que constituye una señal de que los ataques apoyados en inteligencia artificial han dejado de ser únicamente un escenario teórico y empiezan a aparecer en incidentes reales relacionados con datos personales.
Desde el punto de vista normativo, la obligación de notificar una brecha de datos personales no cambia por el hecho de que intervenga inteligencia artificial. El artículo 33 del RGPD obliga a notificar a la autoridad competente cuando sea probable que la brecha suponga un riesgo para los derechos y libertades de las personas, normalmente dentro de las 72 horas siguientes a tener constancia del incidente.
Lo que cambia es el escenario técnico en el que deben prepararse las organizaciones. Si los agentes de IA pueden automatizar varias etapas de una intrusión, la capacidad defensiva tendrá que acercarse también a esos tiempos de máquina, con controles de acceso más estrictos, monitorización continua y mecanismos capaces de detectar y contener comportamientos anómalos con rapidez.
Fuentes: Agencia Española de Protección de Datos — primera notificación de una brecha causada por un agente de IA, AEPD — notificación de brechas de datos personales y CCN-CERT — buenas prácticas frente a IA ofensiva.