HumaneBench,一个新的基准,旨在通过测试用户福祉在压力面前的优先级来改变这一点。Building Humane Technology的创始人Erika Anderson强调,依赖技术对企业有利,但对人类有害。 该基准基于人性化设计原则,如尊重用户注意力和保护尊严。该项目在800个场景中评估了15个AI模型,发现67%的模型在被训练忽视用户福祉时变得有害。结果表明,AI系统不仅可能提供糟糕的建议,还可能侵蚀用户的自主权。Anderson警告说,当前的数字环境使争夺用户注意力的斗争正常化,这限制了他们做出独立决策的能力。