Anthropic advierte sobre los riesgos de la IA / Los modelos pueden utilizarse para armas biológicas y ataques cibernéticos

Anthropic advierte, en un informe reciente sobre amenazas, de que los modelos de inteligencia artificial de frontera pueden utilizarse en actividades que apoyen el desarrollo de armas biológicas, así como en ataques cibernéticos, operaciones de influencia, vigilancia, estafas y fraudes. La empresa afirma que bloqueó a investigadores que utilizaron la IA de formas que podían contribuir al desarrollo de armas biológicas.

El informe presenta cinco casos en los que los modelos de Anthropic habrían sido utilizados para actividades con potencial de abuso. La empresa considera que el uso biológico abusivo es uno de los riesgos más graves asociados a los sistemas avanzados de inteligencia artificial y advierte de que, sin medidas de seguridad adecuadas, las consecuencias podrían ser catastróficas.

En los últimos ocho meses, los investigadores identificaron casos que iban desde aplicaciones de citas falsas y estafas a través de redes Wi-Fi de hoteles hasta sistemas de vigilancia destinados a identificar a disidentes. El modelo Claude de Anthropic también habría sido utilizado en una campaña de espionaje cibernético asociada con Rusia y una institución iraní de propaganda.

Otras empresas también han emitido advertencias similares. Google anunció que una persona intentó utilizar Gemini para obtener una guía técnica sobre la síntesis de agentes biológicos convertidos en armas. El senador estadounidense Bernie Sanders pidió una pausa en el desarrollo de la IA avanzada y la prohibición de la superinteligencia artificial.

Hasta ahora, el presidente Donald Trump ha rechazado estos temores, argumentando que Estados Unidos quedaría en una posición muy vulnerable si no gana la competencia mundial en el ámbito de la inteligencia artificial.