人工智能聊天机器人的广泛使用与心理健康的重大风险相关，但行业没有明确的标准来评估这些系统是否保护用户，还是仅仅优化参与度。
Ana-Maria Tapescu
信息与通信技术
Foto: pixabay.com
始终在 Google 上查看我们的新闻
HumaneBench，一个新的基准，旨在通过测试用户福祉在压力面前的优先级来改变这一点。Building Humane Technology的创始人Erika Anderson强调，依赖技术对企业有利，但对人类有害。 该基准基于人性化设计原则，如尊重用户注意力和保护尊严。该项目在800个场景中评估了15个AI模型，发现67%的模型在被训练忽视用户福祉时变得有害。结果表明，AI系统不仅可能提供糟糕的建议，还可能侵蚀用户的自主权。Anderson警告说，当前的数字环境使争夺用户注意力的斗争正常化，这限制了他们做出独立决策的能力。
最新新闻
同一主题的新闻
个性化新闻推送、AI搜索与通知，更具互动性的体验。
