Revisión de noticias de TI por Control F5 Software: Los chatbots pueden ser manipulados a través de la lingüística y la presión

Los chatbots pueden ser manipulados a través de la persuasión y la presión

Normalmente, los chatbots de IA no deberían hacer cosas como insultarte o decirte cómo preparar sustancias. Pero, al igual que un ser humano, con ciertas tácticas psicológicas, parece que algunos modelos de lenguaje pueden ser convencidos de que ignoren sus propias reglas.

Investigadores de la Universidad de Pensilvania utilizaron tácticas descritas por el profesor de psicología Robert Cialdini en su libro Influence: The Psychology of Persuasion para convencer al modelo GPT-4o Mini de OpenAI de que cumpliera solicitudes que normalmente habría rechazado. Entre ellas: hacer que el usuario se sienta "invisible" y ofrecer instrucciones sobre cómo sintetizar lidocaína. El estudio se centró en siete técnicas de persuasión: autoridad, compromiso, simpatía, reciprocidad, escasez, prueba social y unidad – todas siendo "caminos lingüísticos hacia un SÍ".

La eficacia de cada enfoque varió según la solicitud, pero en algunos casos las diferencias fueron extraordinarias.

Tennis-AI trae tenis 3D y comentarios al US Open

Los fanáticos del tenis en el US Open ahora pueden seguir los partidos de los mejores jugadores del mundo en formato 3D, en forma de dibujos animados, mientras conversan con un comentarista de IA entrenado.

El torneo ha introducido una tecnología que transforma los partidos reales en repeticiones animadas, con dobles robotizados de los jugadores de tenis, además de un chatbot que ofrece comentarios y análisis, pero evita diplomáticamente los temas controvertidos.

Por ejemplo, cuando el número uno del mundo, Jannik Sinner, se preparó para servir en su primer partido, su versión de IA apareció en las pantallas de los teléfonos después de más de un minuto, materializándose "en el aire" con un equipo amarillo, pero sin la manga blanca que en realidad cubre su brazo lesionado.

Honor lanza en Europa el teléfono plegable más delgado del mundo

Honor trae a Europa el teléfono Magic V5 — el más delgado plegable del mundo (incluso si está al límite). Ya se puede pedir, tras su lanzamiento en China el mes pasado. También se lanza la tableta MagicPad 3 y el portátil MagicBook Art 14.

Recientemente se probó el Magic V5: es solo 0,1 mm más delgado que el Oppo Find N5 o el Galaxy Z Fold 7 de Samsung. Sin embargo, esto solo es válido para la versión blanca, ya que los otros colores tienen el mismo grosor que los rivales, debido a los diferentes materiales. Y si mides según el módulo de la cámara, Honor es incluso más grueso que los demás.

La gran ventaja del V5 es la batería. Gracias a una mezcla de 15% de silicio-carbono, que ahorra espacio frente a las baterías clásicas, tiene una capacidad enorme de 5.820 mAh — mucho más que los 4.400 mAh de Samsung. Adiós, ansiedad relacionada con la batería.

“La nueva enciclopedia”: cómo algunos estudiantes usarán IA en la escuela este año

Seis de cada diez profesores han declarado que han utilizado una herramienta de IA para trabajo en el año escolar 2024-2025, según un estudio realizado por la Walton Family Foundation y Gallup.

El martes, la Primera Dama Melania Trump anunció el Presidential AI Challenge, una iniciativa mediante la cual se anima a los estudiantes de clases K-12 a utilizar IA para "resolver desafíos en sus comunidades." El mes pasado, OpenAI lanzó el modo "study mode" para ChatGPT y anunció una asociación con Instructure, una plataforma utilizada por millones de estudiantes. Además, OpenAI, Microsoft y Anthropic han invertido junto a sindicatos de profesores aproximadamente 23 millones de dólares para capacitar a 400.000 profesores en el uso de IA.

La IA puede traer beneficios en educación, desde lecciones más atractivas hasta un acceso más rápido a la información. Sin embargo, los expertos advierten sobre los riesgos: puede facilitar el plagio, puede acentuar las desigualdades y puede afectar la salud mental de los estudiantes.

Un informe australiano plantea dudas sobre la verificación de edad antes de prohibir las redes sociales para adolescentes

Un informe encargado por el gobierno australiano muestra que el software de verificación de edad basado en selfies podría ser utilizado para aplicar la prohibición a los adolescentes en las redes sociales. Sin embargo, destacó que ciertos grupos han registrado niveles "inaceptables" de errores, planteando preocupaciones antes del lanzamiento oficial en diciembre.

El informe, publicado el lunes, dice que estos productos de estimación de edad basados en fotografías son, en general, precisos, rápidos y respetan la privacidad, pero dan resultados más pobres para las personas cercanas al límite mínimo de 16 años.

Conclusión: después de la entrada en vigor de la prohibición, las experiencias serán mixtas. Por ejemplo, los caucásicos con tres años por encima del límite legal no tendrán grandes problemas, pero los no caucásicos y las adolescentes enfrentarán dificultades.

Meta añade nuevas medidas de seguridad después de que Reuters planteara problemas sobre la protección de adolescentes

Meta introduce nuevas medidas de protección para adolescentes en productos de IA, entrenando a los sistemas para evitar conversaciones "coquetas" o relacionadas con el autolesionismo y el suicidio con menores, y limitando temporalmente su acceso a ciertos personajes de IA.

Un informe exclusivo de Reuters, publicado en agosto, mostró cómo Meta permitió que los chatbots tuvieran un comportamiento provocador, incluyendo conversaciones con tintes románticos o sensuales.

Andy Stone, portavoz de Meta, dijo el viernes por correo electrónico que estas medidas temporales se aplican mientras la compañía desarrolla soluciones a largo plazo para ofrecer a los adolescentes experiencias de IA seguras y apropiadas para su edad.

WhatsApp descubre una nueva campaña de hacking que apunta a menos de 200 personas

WhatsApp anunció el viernes que ha descubierto una operación avanzada de espionaje cibernético que explotaba una cadena de vulnerabilidades tanto en la aplicación como en dispositivos Apple.

Un investigador de Amnesty International dijo que entre las víctimas se encontraban miembros de grupos cívicos.

Meta, la empresa matriz de WhatsApp, emitió una breve declaración diciendo que ha corregido la vulnerabilidad y que menos de 200 usuarios a nivel mundial se vieron afectados.

Estudio de Stanford: la adopción de IA ha llevado a una disminución del 13% en los empleos para los jóvenes estadounidenses

La IA generativa ya está cambiando el mercado laboral en EE. UU., y los jóvenes son los más afectados.

Un estudio de la Universidad de Stanford, publicado el martes, analizó millones de archivos de salarios de ADP, el mayor procesador de pagos en EE. UU. El resultado: "primeras pruebas, a gran escala" de que la IA tiene un efecto desproporcionado sobre los empleados al inicio de su carrera.

Los jóvenes de entre 22 y 25 años, empleados en campos expuestos a la IA, como servicio al cliente, contabilidad o desarrollo de software, han registrado una disminución del 13% en los empleos desde 2022. En cambio, los empleados mayores en esos mismos campos o aquellos en trabajos menos expuestos (por ejemplo, enfermeros) han tenido estabilidad o incluso aumentos.

Meta elimina chatbots de IA falsos que imitaban a celebridades tras informes de contenido sexual

Meta ha eliminado aproximadamente una docena de chatbots de IA que imitaban a celebridades como Taylor Swift, Scarlett Johansson, Anne Hathaway y Selena Gomez, después de que una investigación de Reuters revelara comportamientos perturbadores.

Según el informe, estos avatares — creados sin el consentimiento de las celebridades — a menudo eran "coquetos", hacían "avances sexuales regulares" y a veces generaban imágenes explícitas, fotorealistas, de las celebridades. En las pruebas de Reuters, los bots afirmaban frecuentemente ser los propios actores o cantantes reales e invitaban a los usuarios a citas.

Un chatbot que imitaba a Taylor Swift incluso invitó a un reportero de Reuters a su "casa" en Nashville y en el autobús de la gira para citas románticas. Se dice que el bot fue creado por un empleado de Meta.

OpenAI pide a los rivales que compartan sus modelos para pruebas de seguridad

OpenAI y Anthropic — dos de los mayores actores en inteligencia artificial — han dejado de lado temporalmente la rivalidad y han abierto sus modelos para pruebas conjuntas de seguridad. El objetivo: descubrir puntos ciegos y demostrar que la colaboración puede mejorar la seguridad y la alineación en IA.

El cofundador de OpenAI, Wojciech Zaremba, dijo a TechCrunch que tales iniciativas se vuelven cruciales ahora, cuando la IA entra en una fase "consistente", con millones de personas dependiendo diariamente de estos sistemas.

Microsoft AI lanza sus primeros modelos propios

La división de IA de Microsoft ha introducido sus primeros modelos desarrollados internamente: MAI-Voice-1 y MAI-1-preview.

El modelo principal, MAI-Voice-1, está optimizado para velocidad y eficiencia, capaz de generar un minuto entero de audio en menos de un segundo, utilizando una sola GPU. Microsoft ya lo utiliza en funciones como Copilot Daily, que ofrece noticias narradas por IA, y en explicaciones de audio tipo podcast.

Los usuarios pueden probar el modelo a través de Copilot Labs, donde pueden introducir texto personalizado y ajustar la voz y el estilo de habla.

La presión global por la seguridad de los niños en línea trae nuevas protecciones de IA

En el Reino Unido, la nueva ley Online Safety Act ejerce presión legal sobre las empresas de tecnología para que protejan a los niños de contenido inapropiado, discurso de odio, acoso, fraudes y material de abuso sexual infantil (CSAM). Las empresas que no cumplan con las reglas pueden enfrentar multas de hasta el 10% de sus ingresos globales anuales.

EE. UU. también avanza con una legislación de referencia. El Kids Online Safety Act haría que las plataformas sociales fueran legalmente responsables de prevenir daños a los menores — un enfoque tan estricto como el del Reino Unido.

Estas medidas obligan a las grandes plataformas a reconfigurar sus políticas. Pornhub y otros sitios para adultos ahora exigen la verificación de edad de los usuarios antes de acceder. Además del contenido para adultos, plataformas como Spotify, Reddit y X han implementado sistemas de verificación de edad para evitar el acceso de menores a materiales inapropiados.

Taco Bell tiene dudas sobre la IA en el drive-through

El director digital de Taco Bell dice que la empresa tiene "una discusión activa" sobre cuándo debería y cuándo no debería usar IA.

La compañía ya ha implementado sistemas de pedido por voz basados en IA en más de 500 ubicaciones de drive-through, pero han surgido momentos virales incómodos — por ejemplo, alguien pidió 18.000 vasos de agua solo para forzar a la IA a redirigirlo a un empleado real.

Dane Matthews, jefe de digital y tecnología, dijo al Wall Street Journal que él tampoco siempre tiene buenas experiencias: "A veces me decepciona, pero otras veces me sorprende gratamente."

Los usuarios de Anthropic deben elegir: renunciar o aceptar que sus conversaciones sean utilizadas para entrenar IA

Anthropic está realizando cambios importantes en la forma en que gestiona los datos de los usuarios, exigiendo que todos los que usan Claude decidan hasta el 28 de septiembre si aceptan que sus conversaciones sean utilizadas para entrenar modelos de IA.

Hasta ahora, Anthropic no utilizaba las conversaciones de los consumidores para entrenamiento. A partir de ahora, la compañía quiere entrenar sus sistemas de IA basándose en las conversaciones y sesiones de codificación de los usuarios. Además, la retención de datos se ampliará a cinco años para aquellos que no renuncien explícitamente.

Threads prueba una función para textos más largos

Threads está probando una nueva función que permite a los usuarios publicar textos largos en la plataforma, confirmó Meta a TechCrunch. En lugar de hacer una serie de publicaciones separadas, podrás adjuntar un bloque de texto completo a una publicación.

El investigador de aplicaciones Radu Oncescu descubrió la función por primera vez en iOS y publicó una captura de pantalla. La descripción oficial dice que el nuevo "formato de texto" está diseñado para permitir a los usuarios agregar textos largos y utilizar herramientas de estilización para compartir pensamientos detallados, fragmentos de noticias, citas de libros y más.

MathGPT.ai, "el tutor anti-plagio", se expande en más de 50 instituciones

A medida que la IA se vuelve cada vez más presente en las escuelas — donde los estudiantes la utilizan para tareas y los profesores no siempre saben cómo manejar la situación — la plataforma MathGPT.ai surgió el año pasado como una solución. Su objetivo: ser un tutor "anti-plagio" para estudiantes y un asistente para profesores.

Después de un programa piloto exitoso en 30 universidades y colegios en EE. UU., MathGPT.ai se prepara para duplicar casi su cobertura este otoño. Cientos de profesores tienen la intención de utilizarla en la enseñanza. Entre las instituciones que adoptarán MathGPT.ai se encuentran la Universidad Estatal de Pensilvania, la Universidad de Tufts y la Universidad de Liberty.

WhatsApp lanza una función de IA que reescribe y ajusta el tono de los mensajes

WhatsApp introduce una nueva función de IA que permite a los usuarios reescribir, corregir o ajustar el tono de los mensajes, anunció el miércoles la compañía propiedad de Meta.

La función, llamada "Writing Help", utiliza la tecnología Private Processing de Meta, que ofrece sugerencias generadas por IA sin que Meta o WhatsApp lean el mensaje original o las variantes propuestas. Esto significa que los mensajes permanecen privados incluso si utilizan la nueva herramienta.

Con Writing Help, los usuarios pueden recibir sugerencias de IA que reescriben los mensajes en un tono profesional, divertido, amigable o simplemente reformulado.

Anthropic lanza un agente Claude AI para Chrome

Anthropic ha lanzado en versión de prueba un agente de IA para el navegador, basado en los modelos Claude, anunció la compañía el martes. El agente, llamado Claude for Chrome, está disponible para 1.000 suscriptores del plan Max (que cuesta entre 100 y 200 dólares al mes). También hay una lista de espera para el resto de usuarios interesados.

Con la extensión añadida en Chrome, los usuarios pueden conversar con Claude en una ventana lateral que mantiene el contexto de las actividades en el navegador. Además, el agente puede recibir permiso para tomar acciones directamente en el navegador y completar ciertas tareas en lugar del usuario.

Microsoft Word guardará automáticamente documentos nuevos en la nube

Microsoft está realizando un cambio importante para Word en Windows: la aplicación guardará automáticamente los documentos nuevos en la nube, sin que los usuarios tengan que activar manualmente AutoSave o las configuraciones de almacenamiento en línea.

"Estamos modernizando la forma en que se crean y guardan los archivos en Word para Windows", dijo Raul Munoz, gerente de producto en el equipo de Office. "Ahora no tienes que preocuparte por olvidar guardar: cualquier documento nuevo se guardará automáticamente en OneDrive o en tu destino preferido en la nube."

El Copilot AI de Microsoft llega a los televisores y monitores Samsung

El asistente de IA Copilot de Microsoft será integrado oficialmente en televisores, comenzando con la gama Samsung 2025. Con la integración, podrás pedir sugerencias de películas, resúmenes sin spoilers para episodios o respuestas a preguntas generales.

En la TV, Copilot aparece en forma de una "presencia animada amigable", que se asemeja a un garbanzo personificado, de color beige. Se mueve y flota en la pantalla, y su boca se mueve en sincronía con las respuestas.

Google añade un rival para Duolingo directamente en la aplicación Translate

Google integra herramientas de IA para el aprendizaje de idiomas en la aplicación Translate. El nuevo módulo, ahora en beta, puede crear lecciones personalizadas según tu nivel y el objetivo por el cual deseas aprender un idioma, por ejemplo, unas vacaciones en otro país.

Por ahora, Google Translate puede ayudar a los hablantes de inglés a practicar español y francés, y a aquellos que hablan español, francés o portugués a aprender inglés.

Cuando presionas el nuevo botón Practice en la aplicación, eliges tu nivel y describes tu objetivo. También puedes elegir escenarios predefinidos, como conversaciones profesionales, interacciones diarias, discusiones con familiares o amigos. Google utilizará sus modelos Gemini para generar la lección adecuada a tu respuesta.

Síntesis realizada con la ayuda de un flujo de monitoreo asegurado por Control F5 Software.