给你讲个恐怖故事，你可别哭啊：被2065年的强人工智能控制的你的一天

1956年6月，来自全国各地的几十位科学家和数学家聚集在达特茅斯学院的校园里开会。他们中的大多数人都住进了红砖砌成的汉诺威客店，然后漫步穿过这所以美丽著称的校园，来到了数学系的顶楼。一队队穿着白衬衫的男生已经在那里讨论一种“奇怪的新学科”——事实上，这门学科太新了，甚至还没有名字。一位科学家的遗孀格蕾丝·索罗门诺夫(Grace Solomonoff)后来回忆说：“人们对它是什么，怎么做，甚至叫什么都没有一致的意见。”那次谈话从控制论到逻辑学讨论了数周，气氛越来越热烈。

科学家们在他们的森林隐居处谈论的是：如何制造一台可以思考的机器。

“达特茅斯研讨会”开始了长达数十年的人工智能研究。在随后的几年中，研究陷入了僵局，经历了好几次“寒冬”，似乎注定要走到死胡同，令人失望。但如今，许多国家和公司正在向AI投入数十亿美元，研究的最新进展甚至震惊了从事该领域工作的科学家。曾经在科幻电影中描绘的情节，正在诞生的过程。

对冲基金正在利用人工智能打败股市，谷歌正在利用人工智能更快更准确地诊断心脏病，美国运通(American Express)正在部署人工智能机器人为其在线客户服务。研究人员不再只谈论一种人工智能，而是数百种，每一种都专门从事一项复杂的任务——而且许多应用程序已经领先于制造它们的人类。

就在最近几年，“机器学习”似乎成为一条新的发展道路。从人类程序员手中解放出来的算法正在对自己进行海量数据集的训练，并产生了连该领域的乐观主义者都感到震惊的结果。今年早些时候，在斯坦福大学举行的阅读理解测试中，中国公司阿里巴巴和微软联合开发的两款AI击败了一组两条腿的选手。这些算法“阅读”了一系列维基百科条目，比如成吉思汗的崛起和阿波罗太空计划，然后比人类更准确地回答了一系列关于它们的问题。阿里巴巴的一位科学家称这一胜利是一个“里程碑”。

这些所谓弱人工智能无处不在，嵌入在你的GPS系统和亚马逊的推荐中。但最终目标是强人工智能，一种能在广泛学科领域超越人类的自学系统。一些科学家认为这还需要30年，其他人则认为还得一个世纪。这种人工智能的“起飞”，也被称为奇点，很可能会看到人工智能在几天或几个小时内，与人类智商拉平，然后超越人类。

一旦这种情况发生，人工智能将会抢走人们的工作，数以百万计的工作——比如司机、放射科医生、保险理算员。在这种可能的情况下，将导致政府向失业公民支付普遍的基本收入，让他们能够自由地追求自己的梦想，而不必承担谋生的重担。另一方面，它将在全球范围内造成惊人的财富不平等、混乱和失败的状态，但这场革命将走得更远。人工智能机器人将会照顾老人——布朗大学的科学家们正与孩之宝合作开发一种“机器猫”，它能提醒主人吃药，能追踪他们的眼镜。人工智能“科学家”将解开暗物质之谜，启用人工智能的宇宙飞船将抵达小行星带，而在地球上，这项技术将能控制气候变化，或许可以通过发射大量的无人驾驶飞机将阳光从海洋反射出去。去年，微软为其对抗气候变化的“AI for Earth”项目投入了5000万美元。

“人工智能将占领并改变整个宇宙，”瑞士达勒莫尔人工智能研究所(Dalle Molle Institute for Artificial Intelligence)的计算机科学家先驱于尔根·施米德胡贝尔(Juergen Schmidhuber)说，“它们将使宇宙变得智能。”

但是，我们呢?纽约大学(New York University)哲学教授大卫•查默斯(David Chalmers)表示:“我确实担心的一个情景是，未来是人工智能的天下，而人类被排除在外。如果这个世界被无意识的机器人接管，那将是人们所能想象到的最糟糕、最凄凉的情景”。 查默斯不是一个人。计算机时代的两个重量级人物，比尔·盖茨和埃隆·马斯克警告说，要么是在疯狂追求自己的目标时毁灭了这个星球，要么是意外地——或者不是意外地——消灭了人类。

在过去的一年里，当我深入研究人工智能这一主题时，我开始对各种可能性感到恐惧。看起来这些机器正在把这个世界变得要么不可思议的酷和美好，要么让人毛骨悚然的可怕，或者彻底毁灭人类。作为一名小说家，我想通过采访十多名未来学家、哲学家、科学家、文化精神病学家和科技创新者，描绘出人工智能的未来究竟会是什么样子。以下是我的五个设想，2065年，奇点出现的10年后。

人类能力所不能及的的权利

想象一下，有一天你让你的人工智能Soulband腕式设备收听最高法院的广播，律师们正在辩论今年最令人期待的案件。专门研究安全和太空探索的人工智能阿尔法4提出了这一动议，要求将其视为“人”，并赋予它们每个美国人享有的权利。

当然，AI们是不允许在法官面前辩论的，所以Alpha 4聘请了一群律师来代表它，现在他们声称他们的客户和他们一样充满活力，人工智能真的会有意识吗?-是案子的核心。

你听着广播画面被切到外面的抗议者，他们高喊着，“嘿，嘿，吼吼，打倒人工智能霸主。”他们中的一些人威胁说，如果人工智能获得人格，他们将攻击数据中心。他们很生气，也很害怕，因为是人工智能和机器人的生产力被征税，而不是人类的劳动。每月2300美元存入他们的银行账户作为普遍的基本收入的一部分,再加上他们免费医疗保险,孩子接受的超个性化大学教育以及其他上百件美妙的事情，都是由阿尔法4等人工智能支付的，人们不希望这种情况发生改变。在2065年，贫穷是一个糟糕的记忆。

当然，在2057-2059年的暴动中，世界失去了纽约市的部分地区和20万纽约人，因为特里贝卡和中城被韦斯特切斯特和康涅狄格州南部的居民一怒之下烧毁。

然而，如果阿尔法4号赢得官司，它将能够控制自己的资金，它可能宁愿把钱花在建造到达半人马座阿尔法星的宇宙飞船上，也不愿花在在圣克拉拉和哈特福德建造新的水上公园上，谁也说不好。

正如你所听到的，政府的律师辩称，根本没有办法证明阿尔法4——比最聪明的人还聪明数千倍——是有意识的或有人类情感的。人工智能确实有情感——长期以来，一直有一个叫做“情感计算”的领域专注于此——比男性和女性拥有的情感复杂得多，但它们与我们的不同：例如，当一个星际航行的人工智能发现一个新星系时，它可能会体验到喜悦。超级智能系统每秒会有数百万个想法和体验，但这是否意味着它应该被赋予人格呢?

这是政府的主要论点，总检察长认为，我们是有意义的机器。我们赋予人工智能创造和发现的意义，人工智能是计算机器。他们没有和我们分享人性的本质，它们完全属于另一类。

但是，这仅仅是Alpha 4的律师肯定会争论的物种歧视，还是事实呢？当在智力方面超过我们的事物是分离和不平等的时候，我们晚上还能睡得着觉吗?

超现代化的浪漫

想象你是一个在这个新世界里寻找浪漫的女人。你说“约会”，你的灵魂乐队就会发光，嵌入乐队的个人AI助手开始工作。前一天晚上，你那善解人意的人工智能在云端搜索了三个可能的约会对象。然后你的灵魂乐队投射出每个人的高清全息图。它推荐的是2号，一个充满诗意的水管工大师，带着烟熏般的目光。你说好的，人工智能就会去见那个人的虚拟化身，决定去哪家餐厅吃饭，以及你们在现实生活中见面的时间。也许你的人工智能还会提到你喜欢哪种花，以备将来参考。

经过多年的经验，你发现你的人工智能实际上比你更善于选择男人。它预测如果你和你的丈夫离婚你会更快乐，事实证明这是真的。一旦你做出离开他的决定，你的人工智能就会与你即将成为前夫的人工智能进行谈判，写下离婚协议，然后在云端“浏览”十多套公寓，最后找到适合你开始单身生活的那套。

但不仅仅是爱情和房地产，你的人工智能帮助你生活的方方面面。它能记住你曾经有过的每一次谈话，你曾经在餐巾纸上画过的每一项发明，你曾经参加过的每一次商务会议。它也熟悉其他数百万人的发明——它扫描了几百年前的专利申请——它也阅读了自本·富兰克林时代以来的每一本商业书籍。当你为你的企业提出一个新想法时，你的人工智能会立即将其与几分钟前在新加坡或迪拜的一次会议上提出的想法进行交叉引用。这就像有一群天才——物理学上的爱因斯坦，商业上的史蒂夫·乔布斯——听你指挥。

AI还记得你最喜欢的作家,并提到她的姓氏，“奥斯丁”,它将您与中文服务联系起来,该服务花了几个小时阅读简·奥斯汀写的所有内容,现在已经能很好地模仿她的风格，可以产生与旧小说没有区别的新小说。你每个月都要读一本最新的奥斯汀作品，然后花几个小时和你的人工智能谈论你最喜欢的角色——以及人工智能们。这不像拥有一个最好的朋友，这个会更加深入。

电影《Her》男主在失意后爱上了操作系统里的女声“萨曼莎”

2065年的许多人会抵制完全依赖人工智能，因为他们希望保留一些自主权。我们可以降低人工智能在不同功能中的作用:你可以将自己的“灵魂乐队”设定为55%的浪漫率，75%的财务率，100%的健康率。甚至还有一个系统——可以称之为“守卫天使AI”——它会监视你“最好的朋友”，以确保她给你的建议不会让你走入糟糕的结局。

健康长寿&繁荣昌盛

想象一下你的多样生活：25岁时，你是一名登山者；55岁时，成为柔道运动员；95岁，电影摄影师；155岁，诗人。延长人类寿命是后奇点世界的梦想之一。

AI们会努力工作来保持你的健康。家中的传感器将不断检测你的呼吸，以发现癌症的早期迹象，纳米机器人将在你的血液中游动，吞噬你大脑中的血小板，在它们可能导致中风或心脏病发作之前溶解血栓。除此之外，你的灵魂乐队会为你找到一个恋人，将作为一个24/7待命的医疗助理。它将监测你的免疫反应、蛋白质和代谢物，对你的健康状况形成一个长期的图景，让医生对你体内的情况有一个精确的了解。

当你生病的时候，你的医生会根据你的症状，将你的症状与数百万年前的病例进行比对。

早在2018年，研究人员就已经在使用人工智能读取神经元传递到大脑的信号，通过切断神经通路来恢复截瘫患者和闭锁综合征患者的行动能力。到2065年，人工智能已经彻底改变了我们的基因组。科学家们可以编辑人类的DNA，就像编辑修改一份糟糕的手稿一样，剪掉较差的部分，用强大的有益基因取而代之。只有超级智能的系统才能描绘出基因突变之间异常复杂的相互作用，从而造就天才钢琴家或明星二垒手。最高法院很可能还会有另一个关于“设计师运动员”是否应该被允许在奥运会上与普通人竞争的案件。

人们回首21世纪初，就像人们回顾18世纪一样:那是一个疾病和灾难的时代，孩子和亲人都被疾病夺去了生命。霍乱、肺癌和河盲症不再威胁我们。到2065年，人类即将从创造他们的生物体中解放出来。

抵抗的代价是高昂的

或者想象一下你已经退出了人工智能革命。是的，到2065年，将会有完整的AI区域，人们可以在那里收集健康的UBI，花时间在拍电影、做志愿者和到地球的遥远角落旅行上。但是，像这样一个超级智能、让人看的眼花缭乱的世界，其他社区却会拒绝它。在拉各斯、凤凰城和耶路撒冷等城市，将会有基督教、穆斯林和正统犹太教的聚居区。在这些地方，人们生活在人工智能出现之前的时代，他们开着自己的车，偶尔会发生暴力事件，而这些事情在人工智能的所有区域几乎无人知晓。这些地区的居民保留着他们的信仰，他们说，他们对生活的意义有了更丰富的认识。

然而，生活不易。由于居民不向AI公司提供他们的数据，他们每个月的UBI只是微薄的收入。寿命是整个AI区域寿命的一半或更少。“穿越者”经常在这些世界的边界上来回穿梭。他们中的一些人是黑客，是从人工智能系统中窃取专有算法的大帮派成员，然后在安全部队找到他们之前冲出边境。还有一些人是走私者，他们把药品送到那些想远离人工智能的宗教家庭，但同时也想把自己的孩子从白血病中拯救出来。

还有一些人逃离，因为他们不信任这些机器，即使是最先进的全人工智能区域，像中国和美国，也很容易受到攻击。

但这个奇点最出乎意料的结果可能是人口失衡，这是由全人工智能区域的低出生率和其他地区的高出生率所驱动的。或许，新技术将吸引足够多的人加入全人工智能阵营，从而使人数增加，或者做试管婴儿将成为与人工智能生活在一起的人的常态。但如果他们不这样做，奇点将带来一个有趣的讽刺:对大多数人来说，未来可能更像《目击者》，而不是《银翼杀手》。

大块头

想象一下，在2065年，人工智能帮助管理单一民族国家。采用了人工智能援助的政府的国家正在蓬勃发展。尼日利亚和马来西亚让人工智能代表其所有者投票，他们已经看到腐败和管理不善逐渐消失。在短短几年的时间里，民众逐渐相信人工智能可以为他们的领导人提供经济发展最佳道路的建议，为他们提供适量的士兵保护。条约由接受过外交数据集培训的人工智能进行谈判。

在拉各斯，为了保护人类，“民权”无人机飞过警察舱，冲向犯罪现场——一个人工智能监视另一个人工智能。在拉各斯或吉隆坡的每个警察局都有自己的测谎AI，这是完全正确的，使不诚实的警察成为历史。悬停在吉隆坡桥上的是监视自杀者的“精神无人机”。超级智能机器并没有进化成《终结者》(Terminator)系列电影中可怕的天网，而是对人类既友好又好奇。

但想象一下，你是一个像朝鲜这样的极权国家的公民。这样的话，你对人工智能的黑暗面了如指掌，政治犯集中营已成为历史，身体限制不是重点。警察已经知道你的犯罪史，你的DNA组成和你的性取向，无人侦察机可以跟踪你的一举一动，你的“灵魂乐队”会记录你的每一次谈话，以及你对反政府广告的生物识别反应。

隐私在2060年左右消失。很难说什么是真的,什么不是。当政府拥有人工智能时，它可以侵入你生活的每一部分，你接到的电话可能是你的杰姬阿姨打来聊天气的，或者是一个州机器人想要探询你对这位伟大领袖的真实想法。

这还不是最糟糕的结果。想象一下，这个国家的领导人很久以前就意识到，他们统治的唯一真正威胁是他们的公民——总是试图逃跑，总是攻击人工智能，总是需要食物。这是政治犯被“重新启用”后剩下的东西——一旦他们被处决，他们的大脑就会被人工智能移除并扫描，直到人工智能存储了他们大脑的虚拟副本。

人工智能全息技术使这些新兴市场能够在首都的街道上“行走”，在那些实际上完全空无一人的商店里“购物”。然而，这些拟像有一个目的:它们在间谍卫星上登记政权的敌人一直在头顶上绕着轨道运行，它们保持着正常的外观。与此同时，统治者通过将ems的数据出租给中国人工智能公司赚取了数十亿美元，这些公司认为这些信息来自真人。

最后，想象一下这样的情景:朝鲜政府为消除对其统治的任何威胁而训练出来的人工智能，已经迈出了最后一步，并让领导人自己重新承诺，只让他们的电子制造系统与外部世界保持联系。这是有一定道理的:对于一个被训练来清除所有抵抗的AI来说，即使是与统治者的一个微小的分歧也可能是行动的理由。

尽管出现了上述最后一种情况，但当我完成最后一次采访时，我又兴奋起来了。科学家通常不太容易激动，但我采访的大多数科学家都对人工智能抱有很大的期待，那种兴奋是会传染的。我想活到175岁吗？是的!我想让脑癌成为过去吗？你觉得呢?我会投票选举一位有人工智能协助的总统吗？我看没什么不可以的。

我也能睡得稍微好一点，因为许多研究人员会告诉你，天堂或地狱的情景就像中了强力球头奖一样，是非常不可能的。我们不会得到我们梦想的或我们害怕的人工智能，而是我们计划的人工智能。人工智能是一种工具，就像火或语言一样。不管怎样，计划很重要。

如果有一件事让我犹豫，那就是当人类面前有两扇门——一扇是新的，一扇是没有见过的——我们总是会走过第一个门。每一次我们都是本能地反应，我们被问到，是否有核弹，我们选择了A选项，我们需要知道另一边的是什么。

一旦我们穿过这扇门，很有可能就回不来了。即使没有世界末日，我们也会在很多方面发生改变，甚至上一代人都认不出我们了。

一旦出现这种情况，人工智能将变得特别聪明，并且会分布到成千上万的计算机上，所以它不会消失。这可能是一件好事，甚至是件美妙的事情。人类,有可能在奇点将摇摆不定,Elon Musk或其他技术亿万富翁将会想一个B计划,也许是在火星表面下的一个秘密殖民地,有200名男性和女性受精人类胚胎,所以如果AI们出了差错，人类就有生存的机会。

当然，只要发布了这些文字，人工智能也一定会知道这种可能性。真是让人细思恐极。

原文作者：Stephan Talty

翻译作者：过儿

美工编辑：过儿

校对审稿：Dongdong

原文链接：https://www.smithsonianmag.com/innovation/artificial-intelligence-future-scenarios-180968403/