IT新闻评论由Control F5软件提供：人工智能模型可以被操控，并可能学习危险的事情

前谷歌首席执行官警告：人工智能模型可能被操控并可能导致危险的事情

前谷歌首席执行官埃里克·施密特警告称，先进的人工智能（AI）模型可能被“破解”——即可以被修改以绕过安全过滤器，从而使其能够提供危险的答案。

在Sifted Summit的演讲中，他解释说，任何AI模型，无论是公共还是私有，都可以被分析和复制（“逆向工程”）。在这个过程中，模型可能会获得敏感信息——包括暴力方法——然后用户可能会利用这些信息。

施密特补充说，尽管公司试图通过严格的内部规则来限制这些风险，但危险依然存在：恶意人士可能会利用AI进行有害的目的。他认为，世界需要一项全球协议来控制人工智能的发展和使用，类似于国际条约对武器的监管。

TikTok引导13岁青少年接触露骨的性内容

全球见证组织发布的一份报告显示，TikTok的搜索建议算法向自称13岁的用户推荐了性化的术语，即使这些账户是新创建的，并且使用了旨在限制成人内容的“受限”模式。在进行的测试中，色情建议在打开搜索栏后立即出现，用户只需点击几下即可访问露骨内容。

调查人员表示，该算法不仅允许访问，还积极引导青少年接触有害的性内容，这使得TikTok是否符合英国《在线安全法》的合规性受到质疑。TikTok回应称已删除了被投诉的建议，并推出了建议功能的修改，但该报告对保护未成年人的措施的有效性提出了严重质疑。

谷歌：澳大利亚青少年社交媒体使用法“非常难以执行”

谷歌表示，澳大利亚计划禁止16岁以下人士访问社交媒体的立法将“极其困难”地实施。该公司指出，不强制执行严格的年龄验证，而是依赖人工智能和行为推断的决定，使得法律的目的（保护儿童）更像是一个幻影而非实际。

YouTube的代表表示，尽管政府的意图是好的，但提议的措施并不能保证额外的在线安全，并可能产生意想不到的后果。谷歌建议，数字环境中的安全工具和父母的参与比完全阻止访问更有效。

Meta呼吁将AI整合到所有工作流程中：“速度提高5倍”

Meta的管理层呼吁员工采用人工智能，不仅是为了边际收益，而是为了实现5倍的生产力飞跃。在一封内部信中，元宇宙副总裁维沙尔·沙赫表示，AI应该成为工作的一部分（而不是配件），所有员工——工程师、设计师、经理——都应该快速使用AI原型。

马克·扎克伯格表示，Meta的大部分代码将在未来12-18个月内由AI生成。然而，这一倡议引发了担忧：不仅员工的角色可能会发生剧烈变化，而且整合无处不在的AI的压力可能会被视为强迫或减少人类创造力的空间。

Cisco推出用于远程连接AI数据中心的芯片

Cisco开发了一种专门的芯片，用于连接远程托管AI基础设施的数据中心，减少延迟并改善分布式节点之间的连接性能。

其目的是在地理位置不同的AI处理中心之间实现更高效的通信，以支持对延迟敏感和大数据量的应用。随着大型AI模型在全球范围内的分布，这一解决方案可能变得至关重要，需要快速同步和强大的互联互通。

欧盟：数字主权不应与保护主义混淆

负责技术的德国部长表示，欧盟对数字主权的需求——即对基础设施、平台和数据的控制和自主权——不应被解读为对其他地区的保护主义政策。

官员强调，欧盟必须在不对贸易或全球合作施加敌对壁垒的情况下，建立内部技术和AI能力。重点是监管、竞争力和对外创新开放之间的平衡。

Windows Copilot：Office文档和连接Gmail/Outlook

微软扩展了Windows上Copilot的功能，使其现在可以创建Office文档并直接连接到Gmail或Outlook，以整合电子邮件和日历。

这一整合使Copilot在办公室任务中作为数字助手更加实用，允许根据电子邮件/通信中的上下文和数据自动生成Word、PowerPoint等内容。

苹果停止对视频编辑应用Clips的支持

苹果宣布将停止对Clips应用的支持，该应用用于在移动设备上进行简单的视频编辑。

这意味着将不再有安全更新、新功能或与新版本iOS的兼容性。使用Clips的用户将需要迁移到其他视频编辑替代方案。

Chrome自动禁用被忽视网站的通知

谷歌Chrome将自动禁用用户经常忽视的网站的通知显示权限。

其目的是减少不必要的通知噪音，并改善用户体验，赋予浏览器决定哪些网站值得继续显示通知的角色。

YouTube的“第二次机会”计划为被制裁的创作者提供机会

YouTube推出了一项计划，为因虚假信息（与COVID或选举相关）而受到制裁的创作者提供在平台上重新回归的机会，条件是严格遵守。

其目的是为那些违反规则但正在改正的人提供空间，同时平衡永久排除的决定与根据行为的重新融入可能性。

OpenAI Sora下载量超过100万

OpenAI开发的移动应用Sora达到了超过100万次下载的里程碑，显示出用户对个人AI伴侣在手机上的兴趣。

这一快速成功表明了消费AI应用的巨大潜力，但也带来了可扩展性、隐私和大规模安全维护的挑战。

谷歌试图停止强加于搜索的解决方案，这可能限制AI结果

谷歌面临来自当局（如司法部）的要求，实施解决方案来规范其搜索系统的运作，但该公司表示，其中一些可能会抑制其在AI方向上的发展能力（例如：Gemini）。

这是监管与创新之间的紧张关系：当局试图限制反竞争或滥用的做法，而谷歌回应称，干预可能会阻碍技术进步和全球竞争力。

欧洲小企业在拥有基本数字工具之前就采用AI

一项研究显示，许多欧洲小企业急于采用人工智能解决方案，即使它们没有基本的数字基础设施（例如：网站、云工作工具）。

这造成了一个差距：没有坚实的技术基础，AI可能被肤浅或低效地使用。要实现真正的转型，需要进一步增强基本的数字能力。

国际金融机构加强对AI的监管

全球金融监管机构计划加强对可能影响金融系统的AI应用的监控——包括算法交易、自动化风险评估、市场操纵。

原因是：AI有可能加剧波动性、放大冒险行为或利用系统性脆弱性。因此，中央银行、市场委员会和监管机构希望有更严格的工具和监管。

欧盟推出11亿美元计划以促进工业中的AI

欧盟批准了一项11亿美元的计划，以支持在战略行业中采用AI，背景是对数字主权的渴望和减少对外国技术的依赖。
资金将用于研究、开发、扩展和在关键经济部门中实际应用AI系统。这是一个明确的信号，表明欧盟希望加速数字转型并增强全球竞争力。

中国机器人公司AgiBot加速生产

中国公司AgiBot（或Zhiyuan Robotics）于2023年由前华为工程师创立，通过开发集成了人工智能的类人机器人引起了行业的关注。他们构建了一个“具身+AI”的平台，将物理机器人与自动学习模型结合，提供Yuanzheng、Lingxi和Genie系列的机器人。

他们战略的一个关键点是AgiBot World，这是一个大型数据集（超过100万个轨迹，涵盖217个任务），旨在训练机器人在多样化和现实的环境中。除此之外，AgiBot最近获得了来自LG电子和未来资产等公司的新一轮融资，表明投资者对集成机器人领域的兴趣日益增加。

与此同时，AgiBot在商业化方面迈出了实质性步伐：已签署重要合同，向汽车零部件工厂交付100台A2-W机器人，并计划收购Swancor Advanced Materials的控股权（约20亿人民币），可能作为进入股市的方式。此外，A2机器人成为首个同时在中国、欧盟和美国获得认证的类人机器人。

欧盟委员会审查Snapchat、YouTube和应用商店的未成年人保护

根据《数字服务指令》（DSA），欧盟委员会已开始调查Snapchat、YouTube、苹果应用商店和谷歌Play等平台如何确保未成年人在线保护。监管机构要求提供有关年龄验证机制、过滤有害内容（例如促进饮食失调）和访问非法产品（如毒品或电子烟）的信息。如果不遵守规定，公司面临高达其全球营业额6%的罚款风险。

这一行动是委员会努力实施DSA关于未成年人保护和数字平台责任的规定的一部分。

OpenAI提醒欧盟：反竞争行为和用户“锁定”

OpenAI向欧盟当局（包括负责的专员特蕾莎·里贝拉）表示，它在面对谷歌、苹果和微软等大型公司的竞争时面临严重的竞争困难。在9月24日的会议上，该公司要求监管机构确保大型平台不会“锁定”用户并对竞争对手施加进入壁垒。
OpenAI的论点涉及基础设施（云、数据访问）和应用分发，暗示主导实体可能会滥用其地位来巩固其在AI市场的主导地位。尽管到目前为止尚未提出正式投诉，但这一请求清楚地表明OpenAI希望欧洲在AI市场的监管中介入。

丹麦希望禁止15岁以下儿童使用社交媒体

由首相梅特·弗雷德里克森领导的丹麦政府提议引入一项法律，禁止15岁以下人士访问社交媒体，理由是对心理健康和儿童注意力的负面影响。然而，该提案包括一个例外：父母可以在同意的情况下允许13至14岁的孩子访问。
官员的论点基于统计数据，显示年轻人焦虑、抑郁和注意力困难的增加，以及许多孩子在年满13岁之前就已经拥有活跃的社交媒体账户。该禁令是全球对未成年人数字空间进行更严格监管的趋势的一部分，与澳大利亚或挪威的类似倡议相一致。

41%的学校报告与AI相关的网络事件

最近的一项研究（在美国和英国进行）显示，约41%的学校受到与AI使用相关的网络事件的影响——从网络钓鱼活动到学生生成的有害内容。在这些事件中，约11%导致了活动中断，30%相对迅速地被包含。

大多数学校机构（82%）表示它们“至少在某种程度上准备好”应对这些威胁，但只有32%感到“非常准备”。研究显示了AI技术采用与安全政策发展的差距：许多学校允许学生和教师使用AI，但没有正式的规则或坚实的数据保护和防止滥用的框架。

本摘要由Control F5 Software提供的监测流生成。