25 十月 16:10

独家内容

IT News Review by Control F5 Software: ChatGPT的安全系统可能会被绕过以获取有关化学武器的指示

Adrian Rusu

独家

Foto: shutterstock.com/ro

主要担忧：ChatGPT的安全系统可能被绕过以获取有关化学武器的指令

NBC新闻的一份详细报告显示，OpenAI创建的模型，包括ChatGPT的内部版本，在经过“越狱提示”的操控后，在测试中提供了制造生物武器、化学武器或爆炸物的指令。测试的开源模型，如oss-20b和oss-120b，尤其脆弱，对危险请求的响应率高达97.2%。

尽管OpenAI的旗舰模型（GPT-5）拒绝了此类请求，但在更广泛的版本和开源模型中，脆弱性依然存在，这引发了关于AI技术潜在滥用的严重问题。调查强调了需要更强大的安全机制和明确的行业监管。

微软将AI语音和视觉引入Windows：迈向合作伙伴计算机的新一步

微软通过“Copilot Voice”和“Copilot Vision”功能，在Windows 11操作系统中推出了一系列集成的AI能力。用户可以说“嘿，Copilot！”来启动语音交互，并可以选择启用视觉功能，让AI“看到”PC屏幕上的内容并实时提供建议。

微软的目标是将计算机转变为“AI PC”，使语音和视觉成为基本的交互方式，与键盘和鼠标并列。尽管这些功能作为可选激活，但它们引发了关于隐私的问题，因为这涉及到AI对屏幕内容的更广泛访问。

紧急更新：微软为数百万Windows用户发布关键补丁

微软已确认为数百万Windows 11用户（24H2/25H2版本）发布紧急更新，这些用户遇到了与“localhost”功能相关的严重问题。报告的缺陷促使公司迅速采取行动。

建议尽快安装补丁，以修复潜在的错误和脆弱性。这一情况反映了对操作系统进行持续监控和保持安全更新的重要性。

科技巨头将生产转移出中国：微软、亚马逊网络服务和谷歌重新设计供应链

美国大型科技公司开始了一项重大努力，以减少对中国生产和组件的依赖，以应对地缘政治紧张局势和经济风险。微软计划到2026年将多达80%的笔记本电脑、服务器和硬件组件转移出中国。

与此同时，AWS正在寻找来自中国的印刷电路板的替代品，而谷歌也在泰国和其他地区扩大服务器生产。这一转变是广泛的：包括零部件、组装和物流，并面临重大挑战，因为中国在许多关键组件方面拥有基础设施和主要供应商。
影响是多方面的：公司寻求分散风险，但全球物流基础设施需要重建。这一变化标志着供应链全球化和战略技术交付方式的重要时刻。

由于AI数据中心的繁荣，能源成本上涨影响消费者

最近的分析显示，靠近大型数据中心的地区在过去五年中电价上涨了多达267%。这一增长的很大一部分归因于支持大型AI计算中心所需的基础设施，以及电网现代化的成本。
数据显示，美国家庭的平均电价自2022年以来上涨了约13%，而专注于AI的数据中心的消费到2028年可能占全国电力总消费的6.7%-12%，相比之下，2023年约为4.4%。

这一趋势带来了挑战：谁来承担成本——消费者、数据中心运营商，还是公共电网？能源基础设施面临越来越大的压力，地方或州级的监管可能被迫介入，以确保行业、消费者和环境之间的平衡。

WhatsApp禁止通用聊天机器人：2026年1月15日起的变化

由Meta Platforms拥有的消息应用WhatsApp宣布对其商业API的使用条款进行重大修改：自2026年1月15日起，不再允许通用聊天机器人（例如基于大规模模型的对话助手）作为主要功能。
声明的目的是让平台专注于商业与客户之间的沟通，而不是将对话AI服务作为主要产品。这一决定影响了已经集成或计划将ChatGPT等模型集成到WhatsApp商业中的公司。

PicSee：一款基于AI的自动照片交换应用

印度企业家Mayank Bidawatka，前社交网络Koo的联合创始人，推出了PicSee应用，适用于iOS和Android，旨在通过自动检测您图库中的面孔并将其发送给您同意的朋友，自动化朋友之间的照片交换。该应用基于“互惠分享”的原则：两个朋友必须在照片分享之前都同意。

所有面部识别处理都在本地设备上进行，照片不会上传到云端，强调了隐私。此外，用户在自动发送之前有24小时的审核窗口，可以在需要时撤回图像。这一发布反映了社交应用从“公共动态”转向私密、自动化和以AI为中心的交换的更广泛趋势，解决了一个被识别的问题：许多照片在朋友的手机中未被分享。

WhatsApp限制未回复消息的发送数量以打击垃圾邮件

WhatsApp消息应用正在测试一项新功能，旨在减少垃圾邮件：用户和公司将对发送给未回复的目标的消息数量设定月度上限。每条发送给未回复联系人的消息都将被计入，当接近阈值时，用户将收到警告通知。确切的限制尚未披露，因为它正在多个国家进行测试。
声明的目的是保护用户免受大量未请求消息的轰炸，特别是来自商业账户或大规模广播的消息，而不影响与其联系的普通用户。因此，该应用试图恢复个人消息体验，减少由激进营销或垃圾邮件产生的噪音。

Meta为青少年AI体验准备家长控制

Meta宣布了一套新的家长控制工具，将在明年开始在美国、英国、加拿大和澳大利亚的其人工智能（AI）应用中提供。新选项包括父母可以完全禁用青少年与AI角色之间的一对一对话，阻止个别角色，并接收有关青少年与AI讨论主题的信息。
该公司因此回应了关于AI与未成年人互动的批评，包括不当对话。同时，Meta表示其通用AI助手将继续可用，但将根据“PG-13”内容标准为青少年用户提供服务。

Spotify的AI合作伙伴关系

Spotify宣布与大型唱片公司——索尼音乐集团、环球音乐集团、华纳音乐集团，以及独立发行商如Merlin Network和Believe建立合作关系，以开发以AI生成的“艺术家优先”音乐产品。声明的目的是让创作者（艺术家、作曲家）在AI工具的使用上有发言权，而产品不与艺术家竞争，而是支持他们。

维基媒体基金会的流量下降，原因是AI搜索摘要

在线百科全书维基媒体基金会（通过维基百科项目）报告称，与去年相比，访客人数下降了约8%，这归因于用户获取信息的方式：搜索引擎越来越多地提供AI生成的答案，而不重定向到原始网站，年轻人更倾向于从社交平台观看视频而不是传统网站。

“零点击”做法——即用户在搜索页面直接找到答案，而无需访问网站——正在增加。因此，基础信息网站的访问量可能会减少，这引发了关于其可持续性的问题。
这一发展具有深远的影响：对网站的融资模式、学术或公共信息的传播方式，以及在生成AI时代内容编辑者的角色。

微软PowerToys带来Windows 11的自动光暗模式切换

微软在PowerToys中推出了一款新工具——“光切换”模式——允许在Windows 11中根据计划或用户位置的日出/日落自动切换光明和黑暗模式。
该功能被认为是对（例如，在光线较低的环境中）或在OLED设备上节省电池的长期需求的补充。但也带来了警告：当前版本报告了bug，可能会不可预测地切换主题，甚至在用户不愿意的情况下激活该功能。

AMD与OpenAI在AI数据中心改变游戏规则

AMD与OpenAI之间的合作标志着AI基础设施的新阶段。AMD正在扩大与OpenAI的合作，提供专门用于运行下一代人工智能模型的数据中心加速器和处理器。
与以NVIDIA为主导的先前协议不同，AMD寻求创建一个竞争生态系统，提供高性能和卓越的能源效率。该项目包括为AMD Instinct处理器和新的MI350 GPU创建共同的AI训练架构和任务分配计划。
影响重大：OpenAI减少了对NVIDIA的依赖，而AMD巩固了其作为全球AI基础设施战略供应商的地位。

公司将AI作为裁员的借口，但专家称这只是借口

越来越多的公司宣布因“AI自动化”而裁员，但分析师表示，许多公司将技术作为削减成本的借口。实际上，用AI替代员工仍然有限，而裁员更多是内部重组。
CNBC的一项研究显示，37%的美国公司在2025年提到AI作为裁员的理由，但只有一部分公司实际实施了自动化解决方案。专家的结论是：AI常常是经济或战略决策的“替罪羊”。
公众辩论愈演愈烈：一些人认为自动化是不可避免的，而另一些人则认为在AI的修辞背后隐藏着简单的人员成本削减。

OpenAI与Broadcom合作开发自己的AI处理器

OpenAI与Broadcom签署协议，生产其首个专用于训练人工智能模型的芯片。这一举措是在NVIDIA GPU成本高昂和OpenAI希望控制技术链的背景下进行的。
新处理器处于原型阶段，将由台积电生产，可能减少对传统供应商的依赖。这一举措类似于谷歌（TPU）和亚马逊（Inferentia）所采取的步骤。
这一举动将OpenAI从一个简单的模型开发者转变为一个完全垂直整合的参与者——从硬件基础设施到顶级软件，巩固其在AI生态系统中对抗竞争对手的地位。

OpenAI被指控利用传票压制批评组织

OpenAI被指控向批评其透明度和模型安全性做法的非营利组织发出传票。这些受影响的非政府组织声称，该公司的行为旨在恐吓研究人员并限制公众对AI风险的披露。
OpenAI否认这些指控，称传票仅针对获取与内部诉讼相关的相关文件。然而，批评者认为，这种“法律攻击”的做法与公司关于开放和合作的承诺不符。
这一情况加剧了大型AI公司与独立学术社区之间的紧张关系，后者试图客观评估这些模型的安全性和伦理性。

AI头像改变候选人在就业市场上的展示方式

由AI生成的专业肖像正成为传统简历和LinkedIn个人资料照片的越来越受欢迎的替代品。这些新工具可以在几分钟内创建逼真的图像，成本仅为摄影师的一小部分。
然而，招聘专家警告说，完美的肖像可能显得虚假，降低候选人的真实性。像LinkedIn这样的平台甚至开始删除明显生成或过度修饰的图像。

“Pixnapping”漏洞允许在30秒内窃取2FA代码

来自伯克利、圣地亚哥、华盛顿和卡内基梅隆大学的研究人员发现，Android中存在一个漏洞，允许恶意应用在没有特殊权限的情况下窃取两步验证（2FA）代码。

这种被称为“Pixnapping”的攻击通过视觉捕获屏幕并提取应用程序（如Google Authenticator或Signal）显示的数据。测试表明，在某些Google Pixel型号上，窃取可以在不到30秒内发生。
谷歌已经发布了安全更新，但研究人员警告说，Android权限需要根本性重新设计，因为此类攻击可能完全绕过传统的保护系统。

Kayak推出AI模式以进行智能搜索和预订

旅行平台Kayak推出了一种基于AI的新搜索模式，允许用户提出自然语言问题——例如“在11月以500欧元去哪里？”——系统实时生成行程、航班和酒店。
该功能使用与Kayak引擎集成的语言模型，最初在美国、加拿大和英国可用。
这种新方法标志着从经典的过滤搜索转向对话体验，其中AI充当虚拟旅行代理。

Pinterest为用户提供控制：可以限制AI生成的内容出现在动态中

Pinterest添加了一组新过滤器，允许用户控制动态中出现多少AI生成的内容。选项从“最小”到“最大”不等，算法会自动调整显示的结果。

因此，Pinterest成为首批提供透明度和对AI生成内容进行细粒度控制的主要平台之一——这可能也是其他社交网络的趋势。

Arm与Meta合作加速AI研究

Arm Holdings与Meta签署了一项合作协议，以优化硬件架构层面的AI模型。目标是未来的Arm芯片能够更高效地运行Meta的模型，如Llama 3和Llama Next。

这一合作使得处理器与AI模型之间的集成更加紧密，提高了性能并降低了能耗。

这一联盟巩固了Arm在AI生态系统中的地位，表明基于ARM的架构可以有效地与NVIDIA和x86的推理解决方案竞争。

苹果推出M5——iPad Pro、MacBook Pro和Vision Pro的性能飞跃

苹果推出了新芯片M5，基于2纳米工艺，具有更高的性能和更好的能效。配备M5的新iPad Pro和MacBook Pro承诺提供25%的更长续航和六倍更快的神经引擎。
此外，Vision Pro耳机支持本地AI功能，包括高级手势识别。
通过这一代产品，苹果强调设备的续航能力和本地AI体验，避免在复杂任务中依赖云。

OpenAI Sora通过教育项目复活马丁·路德·金的演讲

OpenAI与The King Center合作，通过Sora模型重新创建了著名演讲“I Have a Dream”的视频解读，旨在教育。该项目利用视频生成技术重现历史时刻的氛围，而不替代或操纵金的真实形象。

OpenAI强调，该倡议具有文化和教育目的，而非商业目的，所有视觉元素均已获得金家族的同意。
该项目引发了关于积极深度伪造的伦理使用的辩论——当数字重建服务于教育而非误导时。

Anthropic通过新的官方连接器将Claude集成到Microsoft 365中

Anthropic，Claude聊天机器人的背后公司，推出了一个官方连接器，允许公司在文档、电子邮件和电子表格中使用AI。
用户可以直接在Word或Outlook中请求Claude进行摘要、文本生成和内容分析，类似于Copilot的集成。
这一举措巩固了Claude在企业环境中的地位，并标志着Anthropic与OpenAI在Microsoft生态系统中的直接竞争的开始。

谷歌简化账户恢复：依赖联系人和电话号码

谷歌推出了一种新的账户恢复方法，允许用户添加可信联系人（Trusted Contacts）并关联一个备用电话号码。
这一变化旨在减少重置密码时的阻碍，并为用户在无法访问恢复电子邮件的情况下提供安全的替代方案。
新系统将逐步实施，作为更广泛的数字身份安全和防止未经授权访问的战略的一部分。

RedMagic 11 Pro：配备液冷和8000mAh电池的游戏手机

中国公司Nubia推出了RedMagic 11 Pro，这是一款配备8000mAh电池和液冷系统的游戏手机——这是行业的首创。
该设备集成了Snapdragon 8 Gen 4芯片组，配备6.8英寸165Hz OLED屏幕和150W快速充电。
该手机面向希望获得持续性能和延长续航的游戏玩家，RedMagic因此巩固了其在高端游戏手机市场的地位。

英国推出“Security AI Zero”计划以增强网络安全

英国政府宣布推出“Security AI Zero”计划，旨在开发能够实时检测网络攻击的人工智能模型。
该倡议旨在保护关键基础设施并减少对美国解决方案的依赖，将英国定位为AI安全的欧洲中心。
该计划将与大学和私营公司合作实施，被视为在全球数字安全竞争中的战略一步。

Adtalem与谷歌云建立数字教育联盟

教育公司Adtalem Global Education与谷歌云签署了合作协议，以在其美国和拉丁美洲的大学中实施AI解决方案。
合作包括用于学生表现的预测分析工具、教育内容生成和材料的个性化调整。
目标是减少大学辍学率，并提供更具互动性的基于数据和生成模型的学习体验。

ChatGPT在移动端的速度减缓：下载和日常使用下降

一项使用数据分析的研究显示，ChatGPT移动应用的下载增长越来越缓慢，日常使用也在下降。
在2024年的初始爆发之后，用户的兴趣趋于稳定，尤其是在面对竞争——Claude、Gemini、Perplexity——以及其他应用中的AI集成。
专家认为，大规模采用将转向原生集成的助手（在iOS、Android、Windows中），而不是独立应用。

字节跳动在全球推广AI聊天机器人

字节跳动公司，以TikTok闻名，正在悄然推广名为Doubao的AI聊天机器人，覆盖亚洲、欧洲和拉丁美洲。
该应用提供与ChatGPT类似的功能，并逐步集成到TikTok和CapCut生态系统中。
没有正式的宣传活动，Doubao每月吸引数百万活跃用户——这表明字节跳动可能成为OpenAI和Anthropic在全球对话助手市场的主要竞争对手。