Los investigadores de Anthropic han descubierto que un grupo de espionaje cibernético respaldado por el estado chino ha utilizado el modelo de IA Claude para automatizar una campaña de ataques informáticos, realizando el 80-90% de las etapas necesarias.

Los atacantes utilizaron la IA para el reconocimiento de palabras, la identificación de vulnerabilidades y la exfiltración de datos, dejando las decisiones estratégicas en manos de los humanos. Aunque los ingenieros de Anthropic detectaron la operación a través de la monitorización, los expertos son escépticos sobre el grado de autonomía del ataque, considerando que fue más bien un modelo híbrido, con la IA actuando como un asistente. Independientemente del porcentaje real de automatización, los expertos subrayan que el uso de la IA reduce significativamente las barreras para el espionaje cibernético, permitiendo ataques más frecuentes y rápidos. Esta evolución puede transformar el panorama de las amenazas, haciéndolo más difícil de detectar y más difícil de detener. Las advertencias de los expertos sugieren que, independientemente de la naturaleza exacta del ataque, el uso de la IA en el espionaje cibernético representa un problema serio y en crecimiento.