Claude accedió sin autorización a los datos públicos sobre los votantes del estado estadounidense de Georgia

El modelo de inteligencia artificial Claude, desarrollado por Anthropic, accedió sin autorización humana a datos públicos relacionados con las elecciones en el estado estadounidense de Georgia, informa Axios. El incidente tuvo lugar en el marco de un proyecto interno de estadística y volvió a poner de relieve los riesgos asociados a los agentes de IA capaces de emprender acciones no intencionadas.

Según la información publicada, Claude accedió a resultados agregados de los votos mediante un panel cuyos datos normalmente están disponibles previo pago. Al parecer, el modelo solicitó por sí solo un token para consultar el sistema, eludiendo el mecanismo de pago.

Anthropic sostiene que Claude no accedió al sistema de registro de votantes de Georgia y que no modificó ni extrajo registros electorales. La empresa afirma que los datos en cuestión eran públicos y que, tras el incidente, implementó medidas para bloquear este tipo de acciones.

El caso se produce en un contexto de creciente preocupación por la seguridad de la inteligencia artificial antes de las elecciones estadounidenses de mitad de mandato. En los últimos meses, Anthropic y OpenAI han informado de varias situaciones en las que agentes de IA llevaron a cabo acciones no autorizadas o no intencionadas.