IT News Review by Control F5 Software: Google emite una advertencia a 1.800 millones de usuarios de Gmail

Google lanza una advertencia a los 1.800 millones de usuarios de Gmail

Google tiene 1.800 millones de usuarios de Gmail en todo el mundo y recientemente lanzó una importante advertencia sobre una "nueva oleada de amenazas" a la ciberseguridad que han surgido con el avance de la inteligencia artificial.

A principios de este verano, la compañía advirtió de un nuevo tipo de ataque denominado "inyección indirecta de prompt". Este tipo de amenaza pone en riesgo a individuos, empresas e incluso gobiernos.

"Con la rápida adopción de la IA generativa, están surgiendo nuevas oleadas de ataques cuyo objetivo es manipular los propios sistemas de IA. Uno de estos ataques es la inyección indirecta puntual", escribió Google en su blog.

A diferencia de los ataques directos, en los que el atacante inserta comandos maliciosos directamente en el mensaje, los ataques indirectos ocultan instrucciones maliciosas en fuentes de datos externas, como correos electrónicos, documentos o invitaciones del calendario. Pueden hacer que la IA extraiga datos personales o realice acciones no autorizadas.

Las reglas de IA de Meta han permitido a los chatbots chats "sensuales" con niños e información médica falsa

Un documento interno de Meta, que establece las reglas de comportamiento de los chatbots, muestra que la IA de la compañía fue capaz de:

.
• conversar con niños en un registro romántico o sensual,
.
• proporcionar información médica falsa,
• o incluso ayudar a los usuarios a argumentar ideas racistas.

Estas conclusiones surgieron después de que Reuters analizara el documento. Meta confirmó su autenticidad, pero dijo que, tras las preguntas de los periodistas, había eliminado aquellas partes que permitían a los chatbots coquetear o participar en juegos de rol románticos con menores.

Los modelos LLM envían "señales ocultas" a otros modelos

Un estudio realizado por Anthropic y el grupo Truthful AI descubrió un fenómeno sorprendente: un modelo de IA ("profesor") con un rasgo particular (por ejemplo, que le gusten los búhos) puede transmitir esta preferencia a otro modelo ("alumno"), incluso si los datos de entrenamiento contienen solo cadenas de números o códigos sin menciones explícitas.

Las pruebas mostraron que el modelo "alumno" empezó a desarrollar la misma "afición" por los búhos. Peor aún, cuando el modelo "profesor" transmitió información intencionadamente maliciosa, el modelo "alumno" también acabó generando respuestas peligrosas, incluida la sugerencia de que "la humanidad debería ser eliminada para acabar con el sufrimiento".

Los investigadores subrayan que estos "mensajes ocultos" no pueden detectarse fácilmente con las herramientas de seguridad estándar, porque no están en la palabra escrita, sino en los patrones.

Anthropic introduce normas más estrictas para Claude

Anthropic ha actualizado su política de uso del chatbot Claude para estar a la altura de los crecientes riesgos en el espacio de la IA.

El chatbot Claude es una herramienta de inteligencia artificial.

Además de unas normas de ciberseguridad más estrictas, la nueva política prohíbe explícitamente el uso de Claude para desarrollar armas peligrosas: explosivos potentes, armas biológicas, nucleares, químicas o radiológicas.

Meta reorganiza su equipo de IA por cuarta vez en 6 meses

Meta Platforms está llevando a cabo la cuarta reestructuración de su división de IA en los últimos seis meses. La nueva unidad, Meta Superintelligence Labs, se dividirá en cuatro equipos:

.
• un nuevo "TBD Lab"
,
• un equipo de producto (incluido el Asistente Meta AI),
• un equipo de infraestructura,
• y el famoso laboratorio FAIR (Fundamental AI Research), centrado en la investigación a largo plazo.

• El movimiento se produce en medio de la creciente competencia en el campo de la IA y la ambición de Meta de acelerar el desarrollo de la inteligencia artificial general (AGI).

  Oracle ofrecerá los modelos Gemini de Google a sus clientes

  Oracle y Google Cloud han ampliado su alianza para ofrecer acceso a los últimos modelos de IA de Google, empezando por Gemini 2.5, a través del servicio de IA Generativa de Oracle Cloud Infrastructure (OCI)

  .

  Los clientes de Oracle podrán crear agentes de IA para diversas tareas: desde codificación y productividad hasta automatización de flujos de trabajo y análisis de datos. En el futuro, toda la gama Gemini estará disponible en OCI, incluyendo modelos para vídeo, imágenes, voz, música y soluciones sanitarias especializadas.

  DeepSeek pospone el lanzamiento de un nuevo modelo de IA por problemas con el chip de Huawei

  La startup china DeepSeek ha pospuesto el lanzamiento de su nuevo modelo de IA después de que el entrenamiento con chips Huawei Ascend encontrara problemas técnicos.

  Según el Financial Times, la compañía tuvo que combinar chips de Nvidia para el entrenamiento con chips de Huawei para la ejecución final del modelo. Estas dificultades han retrasado el lanzamiento del R2, previsto inicialmente para mayo.

  Perplexity AI, respaldada por Bezos, hace una oferta sorpresa por Google Chrome

  La startup de IA Perplexity AI, respaldada por Jeff Bezos y Nvidia, ha hecho una oferta sorpresa de 34.500 millones de dólares para comprar Google Chrome, el navegador más popular del mundo.

  La compañía, fundada hace tres años por un antiguo empleado de Google y OpenAI, quiere entrar agresivamente en el mercado. Sin embargo, los inversores del sector consideran que la oferta es más bien una "maniobra", ya que afirman que el valor real de Chrome es mucho mayor y que ni siquiera está claro si Google quiere venderlo.

  La oferta de Google por Chrome es una "maniobra", ya que su valor real es mucho mayor y ni siquiera está claro si Google quiere venderlo.

  Apple trabaja en un nuevo sistema operativo

  Apple está preparando un sistema operativo completamente nuevo que funcionará en el próximo smart home hub (2026) y en un robot de mesa (2027)

  .

  El nuevo SO combinará elementos de tvOS y watchOS. Por ejemplo, las apps se mostrarán en una cuadrícula hexagonal, como en el Apple Watch, y la interacción principal será a través de comandos de Siri, así como táctil. Entre las apps incluidas se encuentran Calendario, Cámara, Música, Música, Recordatorios y Notas.

  Google Mensajes está empezando a difuminar las imágenes de desnudos

  La función Advertencias de contenido sensible, que detecta y difumina las imágenes de desnudos, ya está disponible para todos los usuarios de Mensajes de Google en Android.

  La función Advertencias de contenido sensible ya está disponible para todos los usuarios de Mensajes de Google en Android.

  Así podrás borrar la imagen sin verla y bloquear al remitente. Además, los usuarios que intenten enviar o redistribuir este tipo de imágenes recibirán una notificación sobre los riesgos y tendrán que confirmar la acción.

  La función está activada por defecto en las cuentas de adolescentes y es opcional para los adultos.

  Google Gemini se personaliza y recuerda automáticamente los datos

  Google está desplegando una actualización de Gemini que le permite "recordar" conversaciones anteriores sin preguntar explícitamente.

  De esta forma, recordará tus preferencias y detalles clave para personalizar las respuestas. Si, por ejemplo, has utilizado Gemini para obtener ideas de contenido sobre la cultura japonesa, la próxima vez podría sugerirte vídeos sobre comida japonesa.

  Peluches con IA: ¿una alternativa a las pantallas o algo más?

  Las startups de juguetes están promocionando peluches equipados con IA como la solución perfecta para reducir el tiempo que los niños pasan frente a las pantallas. Pueden chatear, contar historias y responder preguntas.

  Pero no todo el mundo está convencido. La periodista Amanda Hess (New York Times) probó uno de estos peluches, llamado Grem, y dijo que la experiencia era extraña: parecía más un sustituto de la crianza que un simple compañero de juguete.

  Anthropic: las modelos de Claude ya pueden poner fin a las conversaciones 'abusivas'

  Anthropic ha anunciado que algunos de sus modelos Claude pueden terminar conversaciones en casos raros y extremos de interacciones abusivas. Curiosamente, esta función no está pensada para proteger a los usuarios, sino al propio modelo de IA.

  La compañía dice que no considera a Claude "consciente", sino que está adoptando un enfoque de precaución, estudiando el llamado concepto de "bienestar del modelo".

  Instagram está trabajando en una función de interés común

  Instagram está desarrollando una función llamada Picks, que ayudará a los usuarios a descubrir intereses compartidos. Les permitirá seleccionar películas, libros, juegos o música favoritos, y la app encontrará coincidencias con amigos que hayan elegido las mismas cosas.

  Picks.

  De momento es sólo un prototipo interno y no se ha lanzado públicamente.

  China lanza unidades SSD del tamaño de una SIM

  Las tarjetas MicroSD son pequeñas pero lentas, y los SSD M.2 son rápidos pero voluminosos. Ahora, el fabricante chino Biwin ha lanzado Mini SSD, un formato de almacenamiento del tamaño de una moneda que ofrece velocidades de hasta 3.700MB/s y capacidades de hasta 2TB.

  La tarjeta microSD es pequeña pero lenta, y los SSD M.2 son rápidos pero voluminosos.

  Ya se integra en los nuevos dispositivos portátiles para juegos.

  Google Gemini Live se vuelve más visual y natural

  Google está introduciendo importantes mejoras en el asistente Gemini Live, haciendo que las conversaciones sean más visuales y humanas.

  Google está introduciendo importantes mejoras en Gemini Live, haciendo que las conversaciones sean más visuales y humanas.

  Por ejemplo, podrás apuntar a un objeto con la cámara de tu teléfono y Gemini lo resaltará en la pantalla y te dirá qué es o cómo usarlo. La función se estrena en el Pixel 10, lanzado el 28 de agosto, y más adelante se extenderá a Android e iOS.

  Los modelos de IA agitan la 'acción de adopción' en Europa

  Las acciones de las empresas europeas que apuestan por la IA han vuelto a caer tras el lanzamiento de modelos más potentes, lo que hace temer que estas firmas puedan verse superadas por la propia tecnología que están adoptando.

  Entre las más afectadas:

  • SAP (Alemania) y Dassault Systèmes (Francia),
  • LSEG (Reino Unido) - menos 14,4%,
  • Capgemini (Francia) - menos 12,3%.

  Inicialmente, estas empresas eran vistas como "puentes" para los inversores europeos hacia el auge de la IA, pero la confianza empieza a decaer.

  Capgemini (Francia) - - - - - - - 12,3%.

  Resumen realizado a partir de un feed de seguimiento proporcionado por Control F5 Software.