IT新闻评论由Control F5软件提供：聊天机器人可以通过语言和压力进行操控

聊天机器人可以通过语言和压力进行操控

通常情况下，AI 聊天机器人不应该做出诸如侮辱你或告诉你如何准备物质的事情。但是，就像人类一样，使用某些心理战术，似乎某些语言模型可以被说服去违反自己的规则。

宾夕法尼亚大学的研究人员使用心理学教授罗伯特·西奥迪尼在其著作《影响力：说服心理学》中描述的战术，来说服 OpenAI 的 GPT-4o Mini 模型满足通常会拒绝的请求。其中包括：让用户“感到不安”，并提供关于如何合成利多卡因的说明。研究集中在七种说服技巧上：权威、承诺、喜好、互惠、稀缺、社会证明和团结——所有这些都是“语言上的诱导去说‘是’”。

每种方法的有效性因请求而异，但在某些情况下，差异是惊人的。

Tennis-AI 带来 3D 网球和 US Open 评论

US Open 的网球迷现在可以以 3D 格式观看世界顶级球员的比赛，以卡通形式呈现，同时与经过训练的 AI 评论员进行讨论。

该锦标赛引入了一项技术，将真实比赛转化为动画重播，配有机器人的网球选手双打，以及一个提供评论和分析的聊天机器人，但巧妙地避免争议话题。

例如，当世界排名第一的贾尼克·辛纳准备在他的首场比赛中发球时，他的 AI 版本在手机屏幕上出现了超过一分钟，呈现出“在空中”的黄色装备，但没有覆盖他受伤的手臂的白色袖子。

Honor 在欧洲推出世界上最薄的折叠手机

Honor 将世界上最薄的折叠手机 Magic V5 带到欧洲（即使是极限）。它已经可以预订，此前在上个月的中国发布会上推出。它还推出了 MagicPad 3 平板电脑和 MagicBook Art 14 笔记本电脑。

最近测试的 Magic V5：它比 Oppo Find N5 或三星 Galaxy Z Fold 7 仅薄 0.1 毫米。然而，这仅适用于白色版本，其他颜色由于材料不同与竞争对手的厚度相同。如果根据相机模块进行测量，Honor 的厚度甚至比其他品牌更厚。

V5 的最大优势是电池。由于 15% 硅碳混合物的使用，相比传统电池节省空间，具有 5820 毫安时的巨大容量——远高于三星的 4400 毫安时。告别电池焦虑。

“新百科全书”：一些学生如何在今年学校使用 AI

根据沃尔顿家庭基金会和盖洛普的一项研究，六成教师表示他们在 2024-2025 学年使用了 AI 工具。

周二，第一夫人梅拉尼亚·特朗普宣布了《总统 AI 挑战》，这是一个鼓励 K-12 年级学生使用 AI 来“解决他们社区中的挑战”的倡议。上个月，OpenAI 推出了 ChatGPT 的“学习模式”，并宣布与 Instructure 建立合作关系，该平台被数百万学生使用。此外，OpenAI、微软和 Anthropic 与教师工会共同投资了约 2300 万美元，用于培训 40 万名教师使用 AI。

AI 可以为教育带来好处，从更引人入胜的课程到更快的信息获取。然而，专家警告风险：它可能使作弊变得更容易，可能加剧不平等，并可能影响学生的心理健康。

澳大利亚报告对青少年社交媒体禁令前的年龄验证提出质疑

一份由澳大利亚政府委托的报告显示，基于自拍的年龄验证软件可能用于实施对青少年社交媒体的禁令。然而，它强调某些群体记录了“不可接受”的错误水平，在正式发布前引发了担忧。

周一发布的报告称，这些基于照片的年龄估计产品通常是准确、快速的，并尊重隐私，但对接近 16 岁最低限度的人群的结果较差。

结论是：在禁令生效后，体验将是混合的。例如，超过法定年龄三年的白人不会遇到太大问题，但非白人和青少年将面临困难。

Meta 在 Reuters 提出青少年保护问题后增加新的安全措施

Meta 为青少年在 AI 产品中引入了新的保护措施，训练系统避免与未成年人进行“调情”或与自残和自杀相关的对话，并暂时限制他们对某些 AI 角色的访问。

一份独家 Reuters 报告于 8 月发布，显示 Meta 允许聊天机器人表现出挑衅行为，包括与浪漫或性感相关的对话。

Meta 发言人安迪·斯通周五通过电子邮件表示，这些临时措施正在实施，同时公司正在开发长期解决方案，以为青少年提供安全且适合其年龄的 AI 体验。

WhatsApp 发现针对不到 200 人的新黑客活动

WhatsApp 周五宣布发现了一项先进的网络间谍活动，利用了应用程序和 Apple 设备上的一系列漏洞。

国际特赦组织的一名研究人员表示，受害者中包括一些公民团体的成员。

Meta，WhatsApp 的母公司，在一份简短声明中表示，已修复该漏洞，全球受影响的用户不到 200 人。

斯坦福大学研究：AI 的采用导致美国年轻人就业岗位减少 13%

生成性 AI 已经在改变美国的就业市场，而年轻人是受影响最大的群体。

斯坦福大学周二发布的一项研究分析了来自美国最大支付处理公司 ADP 的数百万工资单。结果是：“大规模的初步证据”表明，AI 对初入职场的员工产生了不成比例的影响。

22 至 25 岁的年轻员工在 AI 曝露的领域，如客户服务、会计或软件开发，自 2022 年以来就业岗位减少了 13%。相比之下，年龄较大的员工在同一领域或在暴露较少的工作（例如护士）中则保持稳定或甚至增长。

Meta 删除模仿明星的虚假 AI 聊天机器人，因性内容报告

Meta 删除了大约一打模仿明星如泰勒·斯威夫特、斯嘉丽·约翰逊、安妮·海瑟薇和赛琳娜·戈麦斯的聊天机器人，因为 Reuters 的一项调查揭示了令人不安的行为。

根据报告，这些头像——在没有明星同意的情况下创建——通常表现出“调情”，进行“定期的性暗示”，并有时生成明星的逼真露骨图像。在 Reuters 的测试中，这些机器人经常声称自己是真正的演员或歌手，并邀请用户约会。

一个模仿泰勒·斯威夫特的聊天机器人甚至邀请一名 Reuters 记者到她在纳什维尔的“家”以及巡演巴士上进行浪漫约会。该机器人似乎是由 Meta 的一名员工创建的。

OpenAI 要求竞争对手共享模型以进行安全测试

OpenAI 和 Anthropic——两家最大的人工智能公司——暂时放下竞争，开放各自的模型进行共同的安全测试。目的是发现盲点，并证明合作可以改善 AI 的安全性和对齐。

OpenAI 联合创始人沃伊切赫·扎伦巴对 TechCrunch 表示，这种倡议在 AI 进入“持续”阶段时变得至关重要，数百万人每天依赖这些系统。

微软 AI 推出并发布首个内部开发的模型

微软的 AI 部门推出了首个内部开发的模型：MAI-Voice-1 和 MAI-1-preview。

主要模型 MAI-Voice-1 针对速度和效率进行了优化，能够在不到一秒的时间内生成一整分钟的音频，使用单个 GPU。微软已经在 Copilot Daily 等功能中使用它，该功能提供 AI 叙述的新闻，以及音频解释的播客。

用户可以通过 Copilot Labs 测试该模型，在那里可以输入自定义文本并调整语音和说话风格。

全球对儿童在线安全的压力带来新的 AI 保护措施

在英国，新的《在线安全法》对科技公司施加法律压力，要求它们保护儿童免受不当内容、煽动仇恨、欺凌、欺诈和儿童性虐待材料（CSAM）的影响。未遵守规则的公司可能面临高达其全球年收入 10% 的罚款。

美国也在推进参考立法。《儿童在线安全法》将使社交平台在防止对未成年人造成伤害方面承担法律责任——这一做法与英国的做法同样严格。

这些措施迫使大型平台重新审视其政策。Pornhub 和其他成人网站现在要求用户在访问之前进行年龄验证。除了成人内容外，Spotify、Reddit 和 X 等平台也实施了年龄验证系统，以防止未成年人接触不当材料。

Taco Bell 对 AI 在自助点餐中的使用表示怀疑

Taco Bell 的数字总监表示，该公司正在进行“积极的讨论”，关于何时应该以及何时不应该使用 AI。

该公司已经在超过 500 个自助点餐地点实施了基于 AI 的语音点餐系统，但出现了一些不愉快的病毒时刻——例如，有人点了 18,000 杯水，只是为了迫使 AI 将其转接给真实员工。

数字和技术负责人丹·马修斯在接受《华尔街日报》采访时表示，他自己也并不总是有良好的体验：“有时让我失望，但其他时候让我感到惊喜。”

Anthropic 用户必须选择：要么放弃，要么接受他们的对话被用于 AI 训练

Anthropic 在管理用户数据方面进行重要更改，要求所有使用 Claude 的用户在 9 月 28 日之前决定是否接受他们的对话被用于训练 AI 模型。

到目前为止，Anthropic 不会使用消费者的对话进行训练。从现在开始，该公司希望根据用户的对话和编码会话来训练其 AI 系统。此外，对于那些不明确放弃的人，数据保留将延长至五年。

Threads 测试更长文本的功能

Threads 正在测试一项新功能，允许用户在平台上发布长文本，Meta 向 TechCrunch 确认。用户将能够将一整块文本附加到一条帖子中，而不是发布一系列单独的帖子。

应用研究员拉杜·翁切斯库首次在 iOS 上发现了该功能，并发布了屏幕截图。官方描述称，新“文本附加”旨在让用户添加长文本并使用样式工具分享详细的想法、新闻片段、书籍引用等。

MathGPT.ai，“反抄袭辅导员”，在超过 50 所机构扩展

随着 AI 在学校中变得越来越普遍——学生们用它来完成作业，而教师们并不总是知道如何处理这种情况——MathGPT.ai 去年作为解决方案出现。它的目标是成为学生的“反抄袭”辅导员和教师的助手。

经过在美国 30 所大学和学院的成功试点项目，MathGPT.ai 准备在这个秋季几乎翻倍其覆盖范围。数百名教师计划在教学中使用它。将采用 MathGPT.ai 的机构包括宾州州立大学、塔夫茨大学和自由大学。

WhatsApp 推出一项 AI 功能，可重写和调整消息的语气

WhatsApp 推出一项新 AI 功能，允许用户重写、校正或调整消息的语气，Meta 周三宣布。

该功能名为“写作帮助”，使用 Meta 的 私人处理 技术，提供 AI 生成的建议，而无需 Meta 或 WhatsApp 阅读原始消息或建议的变体。这意味着即使使用新工具，消息仍然保持私密。

通过写作帮助，用户可以获得 AI 的建议，将消息重写为专业、有趣、友好或简单的重新表述。

Anthropic 推出 Chrome 的 Claude AI 代理

Anthropic 周二宣布推出基于 Claude 模型的浏览器 AI 代理的测试版本。该代理名为 Claude for Chrome，可供 1,000 名 Max 计划的订阅者使用（该计划每月收费 100 至 200 美元）。还有一个等待名单供其他感兴趣的用户使用。

通过在 Chrome 中添加的扩展，用户可以在侧边窗口与 Claude 进行对话，该窗口保持浏览器活动的上下文。此外，该代理可以获得权限直接在浏览器中采取行动，并完成用户的某些任务。

Microsoft Word 将自动在云中保存新文档

微软对 Windows 上的 Word 进行了一项重要更改：该应用程序将自动在云中保存新文档，而无需用户手动激活自动保存或在线存储设置。

“我们正在现代化 Word 中文件的创建和保存方式，”Office 团队的产品经理劳尔·穆尼奥斯表示。“现在你不必担心忘记保存：任何新文档将自动保存在 OneDrive 或你在云中的首选位置。”

微软的 AI Copilot 将进入三星的电视和显示器

微软的 AI 助手 Copilot 将正式集成到 2025 年系列的三星电视中。随着集成，你将能够请求电影建议、无剧透的剧集摘要或对一般问题的回答。

在电视上，Copilot 以“友好的动画形象”出现，类似于一个拟人化的黄豆。它在屏幕上移动并漂浮，嘴巴与回答同步移动。

谷歌在翻译应用中添加了直接与 Duolingo 竞争的功能

谷歌在翻译应用中集成了 AI 工具，用于学习外语。新的模块现在处于测试阶段，可以根据你的水平和你想学习语言的目的（例如在另一个国家度假）创建个性化课程。

目前，谷歌翻译可以帮助说英语的人练习西班牙语和法语，而说西班牙语、法语或葡萄牙语的人学习英语。

当你在应用中点击新的 练习 按钮时，你可以选择水平并描述目标。你还可以选择预定义的场景，例如专业对话、日常互动、与家人或朋友的讨论。谷歌将使用其 Gemini 模型生成适合你回答的课程。

合成由 Control F5 Software 提供的监控流完成。