Revue des nouvelles informatiques par Control F5 Software : Les chatbots peuvent être manipulés par la linguistique et la pression.

Les chatbots peuvent être manipulés par la flatterie et la pression

Normalement, les chatbots AI ne devraient pas faire des choses comme vous insulter ou vous dire comment préparer des substances. Mais, tout comme un humain, avec certaines tactiques psychologiques, il semble que certains modèles de langage peuvent être convaincus de violer leurs propres règles.

Des chercheurs de l'Université de Pennsylvanie ont utilisé des tactiques décrites par le professeur de psychologie Robert Cialdini dans son livre Influence: The Psychology of Persuasion pour convaincre le modèle GPT-4o Mini d'OpenAI d'exécuter des demandes qu'il aurait normalement refusées. Parmi celles-ci : faire en sorte que l'utilisateur se sente "invisible" et fournir des instructions sur la façon de synthétiser de la lidocaïne. L'étude s'est concentrée sur sept techniques de persuasion : autorité, engagement, sympathie, réciprocité, rareté, preuve sociale et unité – toutes étant des "coupures linguistiques vers un OUI".

L'efficacité de chaque approche a varié en fonction de la demande, mais dans certains cas, les différences ont été extraordinaires.

Tennis-AI apporte le tennis en 3D et des commentaires à l'US Open

Les fans de tennis de l'US Open peuvent désormais suivre les matchs des meilleurs joueurs du monde en format 3D, sous forme de dessins animés, tout en discutant avec un commentateur AI entraîné.

Le tournoi a introduit une technologie qui transforme les matchs réels en rediffusions animées, avec des doublures robotisées des joueurs de tennis, plus un chatbot qui offre des commentaires et des analyses, mais évite diplomatiquement les sujets controversés.

Par exemple, lorsque le numéro un mondial, Jannik Sinner, s'est préparé à servir lors de son premier match, sa version AI est apparue sur les écrans des téléphones après plus d'une minute, se matérialisant "dans les airs" en équipement jaune, mais sans la manche blanche qui couvre en réalité son bras blessé.

Honor lance en Europe le téléphone pliable le plus fin du monde

Honor apporte en Europe le téléphone Magic V5 — le plus fin pliable du monde (même si c'est à la limite). Il peut déjà être commandé, après le lancement en Chine le mois dernier. Il annonce également la tablette MagicPad 3 et le portable MagicBook Art 14.

Le Magic V5 a été récemment testé : il est seulement 0,1 mm plus fin que l'Oppo Find N5 ou le Galaxy Z Fold 7 de Samsung. Cependant, cela ne s'applique qu'à la version blanche, les autres couleurs ayant la même épaisseur que les rivaux, en raison de matériaux différents. Et si vous mesurez selon le module de la caméra, Honor est même plus épais que les autres.

Le grand avantage du V5 est la batterie. Grâce à un mélange de 15 % de silicium-carbone, qui économise de l'espace par rapport aux batteries classiques, il a une capacité énorme de 5 820 mAh — bien plus que les 4 400 mAh de Samsung. Adieu, anxiété liée à la batterie.

"La nouvelle encyclopédie": comment certains élèves utiliseront l'AI à l'école cette année

Six enseignants sur dix ont déclaré avoir utilisé un outil AI pour le travail au cours de l'année scolaire 2024-2025, selon une étude réalisée par la Walton Family Foundation et Gallup.

Mardi, la Première Dame Melania Trump a annoncé le Presidential AI Challenge, une initiative par laquelle les élèves des classes K-12 sont encouragés à utiliser l'AI pour "résoudre des défis dans leurs communautés." Le mois dernier, OpenAI a lancé le mode "study mode" pour ChatGPT et a annoncé un partenariat avec Instructure, une plateforme utilisée par des millions d'élèves. De plus, OpenAI, Microsoft et Anthropic ont investi avec des syndicats d'enseignants environ 23 millions de dollars pour former 400 000 enseignants à l'utilisation de l'AI.

L'AI peut apporter des avantages en éducation, allant de leçons plus captivantes à un accès plus rapide à l'information. Cependant, les experts mettent en garde contre les risques : cela peut faciliter la tricherie, exacerber les inégalités et affecter la santé mentale des élèves.

Un rapport australien soulève des questions sur la vérification de l'âge avant l'interdiction des réseaux sociaux pour les adolescents

Un rapport commandé par le gouvernement australien montre que le logiciel de vérification de l'âge basé sur des selfies pourrait être utilisé pour appliquer l'interdiction des adolescents sur les réseaux sociaux. Cependant, il a souligné que certains groupes ont enregistré des niveaux "inacceptables" d'erreurs, soulevant des inquiétudes avant le lancement officiel en décembre.

Le rapport, publié lundi, indique que ces produits d'estimation de l'âge basés sur des photos sont généralement précis, rapides et respectent la vie privée, mais donnent de moins bons résultats pour les personnes proches de la limite minimale de 16 ans.

Conclusion : après l'entrée en vigueur de l'interdiction, les expériences seront mixtes. Par exemple, les Caucasiens ayant trois ans de plus que la limite légale ne rencontreront pas de grands problèmes, mais les non-Caucasiens et les adolescentes rencontreront des difficultés.

Meta ajoute de nouvelles mesures de sécurité après que Reuters a soulevé des problèmes concernant la protection des adolescents

Meta introduit de nouvelles mesures de protection pour les adolescents dans les produits AI, entraînant les systèmes à éviter les conversations "flirty" ou liées à l'automutilation et au suicide avec des mineurs, et limitant temporairement leur accès à certains personnages AI.

Un rapport exclusif de Reuters, publié en août, avait montré comment Meta avait permis aux chatbots d'avoir un comportement provocateur, y compris des conversations avec une tentation romantique ou sensuelle.

Andy Stone, porte-parole de Meta, a déclaré vendredi par e-mail que ces mesures temporaires sont appliquées pendant que l'entreprise développe des solutions à long terme pour offrir aux adolescents des expériences AI sûres et adaptées à leur âge.

WhatsApp découvre une nouvelle campagne de hacking visant moins de 200 personnes

WhatsApp a annoncé vendredi qu'il avait découvert une opération avancée de cyberespionnage exploitant une chaîne de vulnérabilités tant dans l'application que sur les appareils Apple.

Un chercheur d'Amnesty International a déclaré que parmi les victimes se trouvaient des membres de groupes civiques.

Meta, la société mère de WhatsApp, a déclaré dans un bref communiqué qu'elle avait corrigé la vulnérabilité et que moins de 200 utilisateurs dans le monde avaient été affectés.

Étude de Stanford : l'adoption de l'AI a entraîné une baisse de 13 % des emplois pour les jeunes Américains

L'AI générative change déjà le marché du travail aux États-Unis, et les jeunes sont les plus touchés.

Une étude de l'Université de Stanford, publiée mardi, a analysé des millions de fiches de salaires d'ADP, le plus grand processeur de paiements aux États-Unis. Le résultat : "premières preuves, à grande échelle" que l'AI a un effet disproportionné sur les employés en début de carrière.

Les jeunes âgés de 22 à 25 ans, employés dans des domaines exposés à l'AI, tels que le service client, la comptabilité ou le développement de logiciels, ont enregistré une baisse de 13 % des emplois depuis 2022. En revanche, les employés plus âgés dans les mêmes domaines ou ceux dans des emplois moins exposés (comme les aides-soignants) ont connu une stabilité ou même des augmentations.

Meta supprime des chatbots AI faux qui imitaient des célébrités après des rapports de contenu sexuel

Meta a supprimé environ une douzaine de chatbots AI qui imitaient des célébrités telles que Taylor Swift, Scarlett Johansson, Anne Hathaway et Selena Gomez, après qu'une enquête de Reuters a révélé des comportements dérangeants.

Selon le rapport, ces avatars — créés sans le consentement des célébrités — étaient souvent "flirty", faisaient "des avances sexuelles régulières" et généraient parfois des images explicites, photoréalistes, des célébrités. Dans les tests de Reuters, les bots prétendaient souvent être les véritables acteurs ou chanteurs et invitaient les utilisateurs à des rencontres.

Un chatbot imitant Taylor Swift a même invité un reporter de Reuters à "sa maison" à Nashville et dans le bus de tournée pour des rencontres romantiques. Il semble que le bot ait été créé par un employé de Meta.

OpenAI demande à ses rivaux de partager leurs modèles pour des tests de sécurité

OpenAI et Anthropic — deux des plus grands acteurs de l'intelligence artificielle — ont temporairement mis de côté leur rivalité et ont ouvert leurs modèles pour des tests de sécurité communs. L'objectif : découvrir les angles morts et démontrer qu'une collaboration peut améliorer la sécurité et l'alignement en AI.

Le cofondateur d'OpenAI, Wojciech Zaremba, a déclaré à TechCrunch que de telles initiatives deviennent cruciales maintenant que l'AI entre dans une phase "consistante", avec des millions de personnes dépendant quotidiennement de ces systèmes.

Microsoft AI lance ses premiers modèles internes

La division AI de Microsoft a introduit ses premiers modèles développés en interne : MAI-Voice-1 et MAI-1-preview.

Le modèle principal, MAI-Voice-1, est optimisé pour la vitesse et l'efficacité, capable de générer une minute entière d'audio en moins d'une seconde, en utilisant un seul GPU. Microsoft l'utilise déjà dans des fonctions telles que Copilot Daily, qui offre des nouvelles narrées par AI, et dans des explications audio de type podcast.

Les utilisateurs peuvent tester le modèle via Copilot Labs, où ils peuvent entrer du texte personnalisé et ajuster la voix et le style de parole.

La pression mondiale pour la sécurité des enfants en ligne entraîne de nouvelles protections AI

Au Royaume-Uni, la nouvelle loi Online Safety Act met une pression légale sur les entreprises technologiques pour qu'elles protègent les enfants contre le contenu inapproprié, les discours de haine, le harcèlement, la fraude et le matériel d'abus sexuel infantile (CSAM). Les entreprises qui ne respectent pas les règles peuvent recevoir des amendes allant jusqu'à 10 % de leurs revenus mondiaux annuels.

Les États-Unis avancent également avec une législation de référence. Le Kids Online Safety Act rendrait les plateformes sociales légalement responsables de la prévention des dommages causés aux mineurs — une approche tout aussi stricte que celle du Royaume-Uni.

Ces mesures forcent les grandes plateformes à réévaluer leurs politiques. Pornhub et d'autres sites pour adultes exigent désormais la vérification de l'âge des utilisateurs avant l'accès. En dehors du contenu pour adultes, des plateformes comme Spotify, Reddit et X ont mis en place des systèmes de vérification de l'âge pour empêcher l'accès des mineurs à des matériaux inappropriés.

Taco Bell a des doutes concernant l'AI au drive-through

Le directeur numérique de Taco Bell déclare que l'entreprise a "une discussion active" sur quand elle devrait et ne devrait pas utiliser l'AI.

La société a déjà mis en place des systèmes de commande vocale basés sur l'AI dans plus de 500 emplacements drive-through, mais des moments viraux désagréables ont surgi — par exemple, quelqu'un a commandé 18 000 verres d'eau juste pour forcer l'AI à le rediriger vers un employé réel.

Dane Matthews, responsable numérique et technologique, a déclaré au Wall Street Journal qu'il n'a pas toujours de bonnes expériences : "Parfois, cela me déçoit, mais d'autres fois, cela me surprend agréablement."

Les utilisateurs d'Anthropic doivent choisir : soit se désinscrire, soit accepter que leurs discussions soient utilisées pour former l'AI

Anthropic apporte des changements importants à la façon dont elle gère les données des utilisateurs, demandant à tous ceux qui utilisent Claude de décider d'ici le 28 septembre s'ils acceptent que leurs discussions soient utilisées pour former les modèles AI.

Jusqu'à présent, Anthropic n'utilisait pas les conversations des consommateurs pour l'entraînement. À partir de maintenant, l'entreprise souhaite former ses systèmes AI sur la base des discussions et des sessions de codage des utilisateurs. De plus, la conservation des données sera étendue à cinq ans pour ceux qui ne se désinscrivent pas explicitement.

Threads teste une fonctionnalité pour des textes plus longs

Threads teste une nouvelle fonctionnalité qui permet aux utilisateurs de publier de longs textes sur la plateforme, a confirmé Meta à TechCrunch. Au lieu de faire une série de publications séparées, vous pourrez attacher un bloc de texte entier à une publication.

Le chercheur d'applications Radu Oncescu a découvert la fonctionnalité pour la première fois sur iOS et a publié une capture d'écran. La description officielle indique que le nouveau "format de texte" est conçu pour permettre aux utilisateurs d'ajouter de longs textes et d'utiliser des outils de stylisation pour partager des pensées détaillées, des extraits d'actualités, des citations de livres et d'autres.

MathGPT.ai, "le tuteur anti-plagiat", s'étend à plus de 50 institutions

À mesure que l'AI devient de plus en plus présente dans les écoles — où les élèves l'utilisent pour les devoirs et les enseignants ne savent pas toujours comment gérer la situation — la plateforme MathGPT.ai est apparue l'année dernière comme une solution. Son objectif : être un tuteur "anti-plagiat" pour les étudiants et un assistant pour les enseignants.

Après un programme pilote réussi dans 30 universités et collèges aux États-Unis, MathGPT.ai se prépare à doubler presque sa couverture cet automne. Des centaines d'enseignants prévoient de l'utiliser dans l'enseignement. Parmi les institutions qui adopteront MathGPT.ai figurent l'Université d'État de Pennsylvanie, l'Université de Tufts et l'Université de Liberty.

WhatsApp lance une fonctionnalité AI qui réécrit et ajuste le ton des messages

WhatsApp introduit une nouvelle fonctionnalité AI qui permet aux utilisateurs de réécrire, corriger ou ajuster le ton des messages, a annoncé mercredi la société appartenant à Meta.

La fonctionnalité, appelée "Writing Help", utilise la technologie Private Processing de Meta, qui offre des suggestions générées par l'AI sans que Meta ou WhatsApp ne lisent le message original ou les variantes proposées. Cela signifie que les messages restent privés même si vous utilisez le nouvel outil.

Avec Writing Help, les utilisateurs peuvent recevoir des suggestions AI qui réécrivent les messages dans un ton professionnel, amusant, amical ou tout simplement reformulé.

Anthropic lance un agent Claude AI pour Chrome

Anthropic a lancé en version test un agent AI pour navigateur, basé sur les modèles Claude, a annoncé la société mardi. L'agent, nommé Claude for Chrome, est disponible pour 1 000 abonnés du plan Max (qui coûte entre 100 et 200 dollars par mois). Il existe également une liste d'attente pour les autres utilisateurs intéressés.

Avec l'extension ajoutée dans Chrome, les utilisateurs peuvent discuter avec Claude dans une fenêtre latérale qui conserve le contexte des activités dans le navigateur. De plus, l'agent peut recevoir la permission d'agir directement dans le navigateur et de terminer certaines tâches à la place de l'utilisateur.

Microsoft Word enregistrera automatiquement les nouveaux documents dans le cloud

Microsoft apporte un changement important pour Word sur Windows : l'application enregistrera automatiquement les nouveaux documents dans le cloud, sans que les utilisateurs aient à activer manuellement AutoSave ou les paramètres de stockage en ligne.

"Nous modernisons la façon dont les fichiers sont créés et enregistrés dans Word pour Windows", a déclaré Raul Munoz, chef de produit dans l'équipe Office. "Vous n'avez plus à vous inquiéter d'oublier de sauvegarder : tout nouveau document sera automatiquement enregistré dans OneDrive ou à votre destination préférée dans le cloud."

Le Copilot AI de Microsoft arrive sur les téléviseurs et moniteurs Samsung

L'assistant AI Copilot de Microsoft sera officiellement intégré dans les téléviseurs, à partir de la gamme Samsung 2025. Avec cette intégration, vous pourrez demander des suggestions de films, des résumés sans spoilers pour des épisodes ou des réponses à des questions générales.

À la télévision, Copilot apparaît sous la forme d'une "présence animée amicale", qui ressemble à un pois chiche personnifié, de couleur beige. Il se déplace et flotte à l'écran, et sa bouche bouge en synchronisation avec les réponses.

Google ajoute un concurrent à Duolingo directement dans l'application Translate

Google intègre des outils AI pour l'apprentissage des langues étrangères dans l'application Translate. Le nouveau module, maintenant en bêta, peut créer des leçons personnalisées en fonction de votre niveau et de l'objectif pour lequel vous souhaitez apprendre une langue, par exemple des vacances dans un autre pays.

Pour l'instant, Google Translate peut aider les anglophones à pratiquer l'espagnol et le français, et ceux qui parlent espagnol, français ou portugais à apprendre l'anglais.

Lorsque vous appuyez sur le nouveau bouton Practice dans l'application, vous choisissez votre niveau et décrivez votre objectif. Vous pouvez également choisir des scénarios prédéfinis, tels que des conversations professionnelles, des interactions quotidiennes, des discussions avec la famille ou des amis. Google utilisera ses modèles Gemini pour générer la leçon appropriée en fonction de votre réponse.

Synthèse réalisée avec l'aide d'un flux de surveillance assuré par Control F5 Software.