DeepMind首席执行官呼吁放缓AI发展（一）

德米斯·哈萨比斯(Demis Hassabis)站在螺旋形楼梯的中间，打量着他建造的大教堂。在他身后，一个金色螺旋形的阶梯在闪烁，从楼梯的通风井中升起。这座横跨三层楼的DNA雕塑，是DeepMind最近开放的伦敦总部的核心展品。这是对嵌入在人体几乎每个细胞的细胞核中的密码的艺术再现。DeepMind的首席执行官兼联合创始人哈萨比斯在接受《时代》杂志采访时表示：“虽然我们致力于让机器变得智能，但我们希望将人类置于我们所做的事情的中心。”他说，这座建筑是“知识的大教堂”。每个会议室都以一位著名科学家或哲学家的名字命名；我们在献给詹姆斯·克拉克·麦克斯韦的纪念馆中见面，他是第一个提出电磁辐射理论的人。哈萨比斯说:“我一直认为DeepMind是智能的颂歌。”

46岁的哈萨比斯一直痴迷于智能：它是什么，它所释放的可能性，以及如何获得更多的智能。12岁时，他已经是世界上同年龄第二优秀的国际象棋选手，他提前一年从高中毕业。作为一个成年人，他给人的印象身材有些矮小，但他智慧分子的存在充满了整个房间。他说：“我想了解那些大问题，真正大的问题，如果你对哲学或物理感兴趣，你通常会去研究这些问题。”“我认为，构建人工智能将是回答其中一些问题的最快途径。”

Deepmind是谷歌母公司alphabet的子公司，是世界领先的人工智能实验室之一。去年夏天，该公司宣布，其算法之一AlphaFold已经预测了人类已知的几乎所有蛋白质的3D结构，并且该公司正在免费提供背后的技术。长期以来，科学家们一直对构成蛋白质(生命的基石)的氨基酸序列很熟悉，但从未破解过它们是如何折叠成复杂的3D形状的，这些形状对它们在人体内的行为至关重要。该公司表示，AlphaFold已经成为数十万科学家的力量倍增器，他们致力于开发疟疾疫苗、抗击抗生素耐药性和解决塑料污染等工作。现在，DeepMind正在将类似的机器学习技术应用于核聚变难题，希望它有助于产生大量廉价的零碳能源，在气候危机的关键时刻让全球经济摆脱对化石燃料的依赖。

哈萨比斯说，这些努力只是一个开始。他和他的同事们一直在朝着一个更宏大的目标努力：通过制造能够思考、学习和解决人类最棘手问题的机器，创造人工智能(AGI)。今天的人工智能狭隘、脆弱，往往根本不太聪明。但哈萨比斯相信，AGI将是一项“划时代”的技术，就像电力的利用一样，将改变人类生活的基本结构。如果他是对的，这将为他赢得一个历史地位，使与他同名的会议室的名字沦为脚注。

但人工智能的承诺也带来了危险。近几个月来，构建人工智能系统以设计新药的研究人员透露，他们的工具可以很容易地重新用于制造致命的新化学物质。一个单独的人工智能模型被训练出来发表有毒的仇恨言论，这说明了在线弱势社区面临的风险。在世界各地的人工智能实验室里，政策专家们正在努力解决近期的问题，比如当人工智能有可能被无赖国家征用来发动广泛的黑客活动或推断国家层面的核秘密时，该怎么办。

2022年12月，由DeepMind的竞争对手OpenAI设计的聊天机器人ChatGPT因其似乎能够像人类一样写作能力而走红，但由于易受种族主义和错误信息的影响而面临批评。小公司Prisma Labs的Lensa应用程序的人工智能增强自拍也是如此。但许多用户抱怨Lensa将他们的图像性感化，暴露了其训练数据中的偏见。这个曾经只有几家财力雄厚的科技公司涉足的领域，现在变得越来越容易进入。随着计算能力变得更便宜，人工智能技术变得更加知名，你不再需要一座高墙林立的大教堂来进行尖端研究。

正是在这种不确定的气氛下，哈萨比斯同意接受一次罕见的采访，对他日益增长的担忧发出了严厉的警告。他说：“我主张不要快速行动，不要打破局面。”他指的是Facebook的一句古老格言，鼓励工程师首先向世界发布他们的技术，然后再修复出现的任何问题。自那以后，这个短语就成了颠覆的同义词。这种文化后来被一代初创企业效仿，帮助Facebook的用户飙升至30亿。但当虚假信息、仇恨言论，甚至煽动种族灭绝的行为开始出现在其平台上时，这也让该公司完全没有准备。

哈萨比斯认为，人工智能也出现了一种类似的令人担忧的趋势。如果你想了解更多关于人工智能的相关内容，可以阅读以下这些文章：
非结构化数据在人工智能领域的应用
人工智能AI将如何塑造元宇宙Metaverse？
数据科学和人工智能岗位有何差别？
给你讲个恐怖故事，你可别哭啊：被2065年的强人工智能控制的你的一天

他说，人工智能现在“处于”能够制造可能对人类文明造成严重损害的工具的“边缘”，并敦促他的竞争对手比以前更谨慎地行事。他说：“当涉及到非常强大的技术时，人工智能显然将是有史以来最强大的技术之一，我们需要小心。”“并不是每个人都在考虑这些事情。这就像实验主义者一样，他们中的许多人没有意识到他们持有危险的材料。”哈萨比斯指出，更糟糕的是，我们是小白鼠。

当哈萨比斯走进位于吉尔福德的Bullfrog电子游戏工作室时只有15岁，吉尔福德位于伦敦西南绵延的格林山。当他还是个孩子的时候，他就一直痴迷于游戏。不仅是国际象棋——他不断扩大的战利品陈列柜的主要来源，还有你可以在早期电脑上玩的游戏。现在他想帮忙制作它们。他参加了一家电子游戏杂志的比赛，赢得了在这家著名工作室的实习机会。他的程序——一种太空入侵者式的游戏，玩家在游戏中射击从屏幕上方落下的棋子——排名第二。

Bullfrog的联合创始人Peter Molyneux仍然记得第一次见到哈萨比斯。Molyneux说道：“他看起来就像《指环王》中的精灵。”“这个瘦小的孩子走了进来，你在街上走过时可能根本不会注意到他。但他的眼睛里闪烁着智慧的光芒。”在去Bullfrog圣诞派对的公共汽车上的一次偶然交谈中，这位少年迷倒了Molyneux。他回忆说：“去那里的整个旅程，以及回来的整个旅程，都是最能激发智力的对话。”他们讨论了游戏哲学，是什么让胜利如此吸引人，以及你是否可以在机器中植入同样的特征。“我一直在想，这只是个孩子！”他知道这个年轻人注定会大有作为。

两人很快成了好朋友。哈萨比斯在去剑桥大学之前的那个夏天回到了Bullfrog，并花了很多时间和Molyneux一起玩棋盘和电脑游戏。Molyneux回忆起了激烈的竞争。Molyneux说道：“我几乎在所有的电脑游戏中都打败了他，特别是策略游戏。”“他是一个非常有竞争力的人。”但Molyneux的炫耀资本是短暂的。为了追求可能成为下一款热门电子游戏种子的有趣游戏动态，他们共同发明了一款名为《Dummy》的纸牌游戏。哈萨比斯连续35次击败Molyneux。

从剑桥大学毕业后，哈萨比斯回到了Bullfrog，帮助Molyneux开发了他迄今为止最受欢迎的游戏：主题公园(Theme Park)，这是一款让玩家以上帝的视角看待不断扩大的游乐场业务的模拟游戏。哈萨比斯后来成立了自己的游戏公司，后来决定攻读神经科学博士学位。他想要了解大脑的算法层面：不是微观神经元之间的相互作用，而是更大的架构，这些架构似乎造就了人类强大的智慧。“心灵是宇宙中最迷人的物体，”哈萨比斯说。他试图了解它是如何工作的，为他一生的追求做准备。哈萨比斯在谈到自己的职业轨迹时说：“如果不了解我一直以来对人工智能的想法，它看起来就像一条随机的路径。”他的职业轨迹是国际象棋、电子游戏、神经科学。“但我利用了那段经历的每一个片段。”

2013年，也就是DeepMind成立三年后，谷歌找上门来了。谷歌的一个高管团队乘坐私人飞机飞往伦敦，哈萨比斯向他们展示了他的团队教他们玩电脑游戏Breakout的人工智能原型，令他们大吃一惊。

DeepMind在算法背后的标志性技术强化学习(reinforcement learning)是谷歌当时没有做的事情。它的灵感来自人类大脑的学习方式，这是哈萨比斯在担任神经科学家期间形成的认识。人工智能会玩游戏数百万次，每次得分都会获得奖励。通过一个基于积分的强化过程，它将学习到最优策略。哈萨比斯和他的同事们热切地相信在游戏环境中训练人工智能，这种方法的红利给谷歌高管留下了深刻的印象。“我立刻就喜欢上了它们，”带领这次考察之旅的谷歌前高级副总裁艾伦·尤斯塔斯(Alan Eustace)说。

哈萨比斯在与尤斯塔斯的第一次谈话中就明显地注意到了人工智能的危险。尤斯塔斯说：“他足够深思熟虑，明白这项技术具有长期的社会影响，他希望在这项技术发明之前就了解这些影响，而不是在这项技术部署之后。”“这就像国际象棋。最后的结局是什么？它将如何发展，不仅仅是领先两步，而是领先20步？”

尤斯塔斯向哈萨比斯保证，谷歌也有这些担忧，DeepMind的利益与自己的利益是一致的。尤斯塔斯说，谷歌的使命是为人类所有的知识建立索引，使其易于获取，并最终提高全世界的智商。“我认为这引起了共鸣，”他说。第二年，谷歌以约5亿美元收购了DeepMind。哈萨比斯拒绝了来自Facebook提出的更高报价。他说，其中一个原因是，与Facebook不同，谷歌“非常乐意接受”DeepMind的道德红线，将其作为收购的一部分。(当时有报道称，谷歌同意成立一个独立的道德委员会，以确保这些界限不会被跨越。)这家羽翼未丰的人工智能实验室的创始人还认为，这家大型企业的雄厚财力将使他们能够获得原本负担不起的人才和计算能力。

未完待续，本文篇幅较长，分为两部分更新
原文作者：BILLY PERRIGO 
翻译作者：马薏菲
美工编辑：过儿
校对审稿：Chuang
原文链接：https://time.com/6246119/demis-hassabis-deepmind-interview/