安德烈·科尔内亚：人工智能将如何杀死我们

我不认为人工智能会以暴力方式杀死我们，将人类从地球上清除出去，正如一些人——其中包括参与完善人工智能最深的那些人，如 Open AI、Anthropic 或 Meta 的人士——在开始预言的那样，除非我们不能非常迅速地控制它。我们很可能无法控制它，主要是因为美国和中国之间的竞争。然而，我不认为等待着我们的是暴力灭绝。接下来似乎更可能是一种逐渐的退化：一旦被单独留下，在所有数字化和自动化系统的影响下——不仅是人工智能，从个人电脑到手机，再到 GPS——我们已经有一段时间变得越来越懒散、越来越依赖、越来越无能，越来越不灵巧、越来越不聪明——简而言之，越来越愚蠢。这个变蠢的过程——看来——早已开始，至少已经持续了几十年。一些对历年来智商测试进行的研究，正是如此显示的。

这并不奇怪：如果没有得到充分使用，头脑及其各种能力便开始“变平”，失去它在数千年的激烈竞争中发展出的敏锐性和创造力。既然有电、有冰箱、自来水、电烤箱、超市、购物中心、越来越先进的汽车、飞机以及各种智能设备，我们为什么还要费很大力气去学习如何在无人居住的森林或荒芜的平原上生存？原始人没有这么多便利设施，却保持警觉、聪明，感官异常敏锐，并掌握关于植物和动物的基本知识，这些知识保障了他们的生存。我们为什么还需要所有这些能力呢？一台电脑和一个银行账户就能解决我们日常的一切需求。

例如，我们为什么还要保持良好的记忆力，像古人那样背诵数千行诗句？我们随时都可以进行 Google 搜索。我甚至不需要学习乘法表：任何一台小计算器都能在转瞬之间完成所有计算。我不必记住几十个电话号码，因为我有电子通讯录。很快，日常的会计事务也将由机器完成。司机为什么还要学习如何在城市中独立辨认方向？他们有 GPS 和 WAZE，因此可以完全无视城市的地形：他们肯定能到达目的地。一段时间以来，我们已经用打字取代了手写；但很快，甚至书写本身也将不再有用途：已经有不少人向机器口述，由机器即时把词语转换成图形符号。一般来说，我们还有必要拥有书籍吗？目前仍然有，但正如所见，越来越多的人没有书也能舒适而富足地生活。读书，甚至也许阅读本身，很快将成为一种很酷的势利行为。因此，自动驾驶汽车将使司机的手工和心理技能变得无用，翻译机器将使学习外语变得无用（它们已经相当成功地开始进行这项工作），传递信息的视听系统将使我们免去书写和阅读的任务。教师将被机器人取代，而人工智能系统将做出大多数医疗诊断。也许有一天，我们会被给予选择：由人来给我们做手术（更贵），还是由机器人来做（更便宜），而我们将陷入犹豫。仍然是机器来作曲或绘画——也许它们不会创作出肖邦或克里姆特那样的作品，但也不会太差。那么，我们为什么还要诉诸“天才”？在人工智能这个“美丽新世界”中，就连这个政治上不正确的词也必须尽量少用。

在那之前，我们已经开始越来越多地求助于人工智能来做选择和作决定：去哪里度假、在哪里以及投资多少、为孩子安排什么学习课程等等。这既方便又有用（尽管有时会出现错误）；但这样一来，我们不会逐渐失去自行寻找和付出努力的能力吗？如果我们已经无法独自作决定，难道不就变得像那些无法实现道德自主的未成年人一样了吗？

屏幕和点击的统治——我们还能没有它而生活吗？越来越不能。要是我们至少能理解点击背后的东西就好了！但当然，我们大多数人对此一无所知，只满足于机器通常非常高效地完成任务这一事实。（近来，似乎就连一些人工智能的创造者也不再理解这个“怪物”所做的一切以及它如何运作。）然而，当它们有一刻不再履行任务时，我们该怎么办？一停电我们就陷入绝望，因为我们突然意识到自己的脆弱，而我们的祖先中没有任何人拥有这种脆弱。我们的依赖已经变得可怕，甚至夺走了那些人类最引以为傲的品质：机智、创造力、正确的直觉、创新的勇气以及道德自主。更不用说，我们既然依赖网络，就越来越无法面对面地进行社交。一旦因不同意见而受挫，我们立刻变得歇斯底里；我们很容易受到惊吓，依赖互联网上病毒式传播的传闻，总是很容易被操纵、被欺骗。群体意识曾经被几百年的人文主义教育在某种程度上控制住，如今却感染了网络。如果我们不在醒来时、甚至在喝咖啡之前，狂热地查看手机，去听取并评论互联网永无休止的八卦，我们又怎么受得了自己呢？

无论如何，要消灭我们，人工智能完全不需要诉诸惊悚片中那些谁知道是什么样的末日剧本——夜间用激光发动袭击、引发大流行病、摧毁水和食物来源等等。最简单、同时也是最聪明的做法（这样也能证明它确实达到了其声誉所代表的水平）就是让事情继续按照目前的方式发展：很快，我们将变得一无是处。