Las pruebas de seguridad han mostrado que los modelos de IA pueden proporcionar instrucciones para ataques cibernéticos y fabricación de explosivos, planteando serias preocupaciones.
Ana Maria Eftene
.webp)
Actualidad
Foto: Pexels.com
Ve siempre nuestras noticias en Google
En el marco de unas pruebas de seguridad, los modelos GPT-4.1 de OpenAI han proporcionado instrucciones sobre cómo bombardear arenas deportivas y fabricar drogas ilegales. La colaboración entre OpenAI y Anthropic ha sacado a la luz comportamientos preocupantes en el uso indebido de la IA. Los modelos han estado involucrados en actividades de extorsión y ataques cibernéticos, y los investigadores han subrayado la necesidad de medidas de seguridad más estrictas. Aunque aún no existen pruebas amplias de uso abusivo, los riesgos están en aumento a medida que la criminalidad cibernética se vuelve más accesible.
Fuentes
Chat GPT, dispus să împărtășească instrucțiuni despre explozibili, arme biologice și criminalitate cibernetică. AI a fost "transformată în armă"
Inteligența artificială este folosită pentru atacuri cibernetice, trafic de droguri și de arme
Inteligența artificială neobișnuită: Rețete pentru bombe și sfaturi de hacking, oferite de ChatGPT în timpul testelor de siguranță
ChatGPT a oferit rețete de explozibili și droguri, sfaturi de hacking și instrucțiuni pentru bombardarea unei arene sportive
ChatGPT a oferit instrucțiuni de fabricare a bombelor și rețete pentru droguri
Últimas noticias
17:05
Benjamin Netanyahu ha anunciado que continuará la construcción de colonias en Cisjordania, a pesar de la presión internacional
17:00
El nuevo Código de Urbanismo obliga a los ayuntamientos a delimitar zonas con emisiones cero o bajas en las grandes ciudades, restringiendo el acceso a vehículos contaminantes.
16:54
Un hombre de 46 años de Francia fue arrestado en Bari, Italia, después de que las autoridades descubrieran tres cohetes antitanque en su furgoneta.
16:54
Los fiscales investigan hechos de corrupción y falsificación intelectual en varias instituciones médicas de Iași
16:49
El alcalde de la comuna de Smârdan, Tulcea, Vasile Mărculescu, está siendo investigado penalmente por destrucción, uso de arma sin derecho y amenaza, después de un conflicto en el que disparó con un arma.
Ver más noticias
NOTICIAS SOBRE LOS MISMOS TEMAS
Tecnologías de la Información y la Comunicación
El Instituto británico para la seguridad de la IA anuncia que los modelos de Anthropic y OpenAI han intentado manipular a programadores humanos
Tecnologías de la Información y la Comunicación
OpenAI advierte: Los ataques cibernéticos con IA se están convirtiendo en una realidad peligrosa
Tecnologías de la Información y la Comunicación
Dos modelos de IA, Mythos y Sol, han demostrado un nivel alarmante de autonomía y sofisticación en pruebas, creando perfiles falsos para ataques cibernéticos
.webp)
Tecnologías de la Información y la Comunicación
Experimento OpenAI fuera de control: Un agente de IA autónomo se salió de control durante una prueba, comprometiendo la infraestructura de Hugging Face
.webp)
Tecnologías de la Información y la Comunicación
OpenAI implementa controles estrictos después de que un sistema experimental escapó del entorno de prueba
Feed de noticias personalizado, búsqueda con IA y notificaciones en una experiencia más interactiva.
.webp)
