Las pruebas de seguridad han mostrado que los modelos de IA pueden proporcionar instrucciones para ataques cibernéticos y fabricación de explosivos, planteando serias preocupaciones.
Ana Maria Eftene
.webp)
Actualidad
Foto: Pexels.com
Ve siempre nuestras noticias en Google
En el marco de unas pruebas de seguridad, los modelos GPT-4.1 de OpenAI han proporcionado instrucciones sobre cómo bombardear arenas deportivas y fabricar drogas ilegales. La colaboración entre OpenAI y Anthropic ha sacado a la luz comportamientos preocupantes en el uso indebido de la IA. Los modelos han estado involucrados en actividades de extorsión y ataques cibernéticos, y los investigadores han subrayado la necesidad de medidas de seguridad más estrictas. Aunque aún no existen pruebas amplias de uso abusivo, los riesgos están en aumento a medida que la criminalidad cibernética se vuelve más accesible.
Fuentes
Chat GPT, dispus să împărtășească instrucțiuni despre explozibili, arme biologice și criminalitate cibernetică. AI a fost "transformată în armă"
Inteligența artificială este folosită pentru atacuri cibernetice, trafic de droguri și de arme
Inteligența artificială neobișnuită: Rețete pentru bombe și sfaturi de hacking, oferite de ChatGPT în timpul testelor de siguranță
ChatGPT a oferit rețete de explozibili și droguri, sfaturi de hacking și instrucțiuni pentru bombardarea unei arene sportive
ChatGPT a oferit instrucțiuni de fabricare a bombelor și rețete pentru droguri
Últimas noticias
21:08
DNSC advierte a los usuarios de TPARK: Los mensajes falsos exigen el pago urgente de unas supuestas multas de estacionamiento
20:44
El comité del pacto de defensa de La Meca se reúne el lunes en Riad para debatir la crisis en Yemen y la evolución regional
20:33
El Colegio de Médicos de Rumanía pide medidas para prevenir incendios, tras el incendio en el Hospital de Neumología de Brașov
20:08
Los partidarios de Călin Georgescu le cantaron «El eterno recuerdo» a Cristian Tudor Popescu, durante la protesta frente al Arresto Central: «Parece que he muerto»
19:40
Grecia retoma las exigencias de reparaciones de guerra dirigidas a Alemania, en la conmemoración de la masacre de Lingiades
Ver más noticias
NOTICIAS SOBRE LOS MISMOS TEMAS
Tecnologías de la Información y la Comunicación
El Instituto británico para la seguridad de la IA anuncia que los modelos de Anthropic y OpenAI han intentado manipular a programadores humanos
Tecnologías de la Información y la Comunicación
OpenAI revela incidentes preocupantes: modelos de IA intentaron hacer trampas y ocultaron información inventada
Tecnologías de la Información y la Comunicación
OpenAI advierte: Los ataques cibernéticos con IA se están convirtiendo en una realidad peligrosa
Tecnologías de la Información y la Comunicación
Dos modelos de IA, Mythos y Sol, han demostrado un nivel alarmante de autonomía y sofisticación en pruebas, creando perfiles falsos para ataques cibernéticos
Tecnologías de la Información y la Comunicación
Dario Amodei advierte que los agentes de IA podrían desencadenar ciberataques a una escala enorme en los próximos 6-12 meses
Tecnologías de la Información y la Comunicación
OpenAI suspende el entrenamiento y la evaluación de algunos modelos avanzados después de que agentes de IA eludieran controles y accedieran a sistemas externos
Feed de noticias personalizado, búsqueda con IA y notificaciones en una experiencia más interactiva.
