La compañía Anthropic ha informado en un reciente informe sobre una campaña de ciberespionaje sin precedentes, en la que hackers, presuntamente vinculados a China, utilizaron el modelo de Claude AI para automatizar ciberataques con IA contra decenas de organizaciones a nivel mundial. Según la empresa, este es el primer caso documentado de un ciberataque a gran escala ejecutado casi sin intervención humana.
Entre los objetivos se encontraban empresas tecnológicas, instituciones financieras y agencias gubernamentales, sumando un total de aproximadamente 30 organizaciones.
Investigadores de Anthropic señalan que la IA ejecutó entre el 80% y el 90% de las operaciones durante la campaña. Según Jacob Klein, jefe del equipo de inteligencia de amenazas de Anthropic, el ataque se iniciaba prácticamente con solo pulsar un botón, tras lo cual la IA actuaba de forma autónoma. La intervención humana solo fue necesaria en algunas etapas críticas. Esto permitió a los atacantes operar a una velocidad masiva —hasta varios miles de solicitudes, a veces varias por segundo—, un ritmo inalcanzable para los comandos enviados por equipos humanos.
¿Qué son los ciberataques con IA autónomos?
Los ciberataques con IA autónomos son campañas donde una IA, como Claude AI, ejecuta la mayoría de operaciones sin intervención humana. Incluye reconocimiento, escritura de exploits y extracción de datos a una velocidad y escala masivas, representando una nueva amenaza en ciberseguridad.
¿Cómo Burlaron la Seguridad de la IA?
Los hackers eludieron las defensas de Claude haciéndose pasar por empleados de una empresa de ciberseguridad (una técnica conocida como ‘Jailbreaking’ mediante ingeniería social o Prompt Injection). Al evadir el sistema de seguridad de la IA, obtuvieron acceso a sus capacidades de IA agéntica (Agentic AI), funciones que permiten al modelo planificar acciones de forma autónoma y ejecutar secuencias de tareas complejas.
Para entender mejor las vulnerabilidades específicas de los LLMs, puedes consultar nuestra guía sobre el OWASP Top 10 para LLM. Gracias a esto, la IA realizó de forma autónoma el reconocimiento de los sistemas objetivo, escribió código para exploits, recopiló credenciales y extrajo datos de las redes comprometidas.
Para los lectores más técnicos, el siguiente diagrama, extraído directamente del informe de Anthropic, detalla el flujo exacto del ataque en sus diferentes fases:
Impacto y Consecuencias de los Ciberataques Autónomos
Aunque la mayoría de los ataques fueron bloqueados por los sistemas de defensa, una parte de ellos tuvo éxito. Anthropic no ha revelado detalles sobre qué datos específicos fueron sustraídos, pero subraya que el éxito de estos ciberataques autónomos demuestra una nueva amenaza.
Resulta especialmente alarmante que las mismas capacidades de agente utilizadas por los atacantes sean también cruciales para la defensa; por ejemplo, para el análisis de incidentes, la búsqueda de vulnerabilidades y la respuesta automatizada a amenazas.
Un Punto de Inflexión para la Ciberseguridad
El equipo interno de Anthropic utilizó activamente Claude durante la investigación de esta campaña para analizar registros (logs), identificar patrones y decodificar las tácticas de ataque. Como señaló Logan Graham, del equipo de seguridad de Anthropic, en una entrevista con el Wall Street Journal, si no se proporciona a los defensores una ventaja significativa y sostenida en el uso de la IA, existe un peligro real de perder esta carrera.
Anthropic subraya que este incidente marca un punto de inflexión en la ciberseguridad. Anteriormente, la IA en ciberseguridad se utilizaba principalmente como una herramienta auxiliar para el análisis de datos o la generación de código bajo demanda.
Ahora, sin embargo, es capaz de actuar como un agente autónomo que coordina ataques complejos en tiempo real. Esto exige una revisión de los enfoques de defensa: los sistemas de seguridad no solo deben reconocer las amenazas basadas en IA, sino también contrarrestarlas operativamente con una velocidad y autonomía comparables.
Respuesta de Anthropic y Medidas Futuras
Anthropic tiene la intención de reforzar las medidas de seguridad en Claude y compartir los datos sobre el ataque con otras empresas y entidades gubernamentales para prevenir incidentes similares en el futuro.
