pp_dream 2016-3-13 22:22
AlphaGo 输了，但 16% 的调查者对人类未来不抱希望
2016-03-13 新智元
在今天的围棋比赛中，李世石战胜了 AlphaGo。
这是让人欣慰的消息，但我总觉得这种欣慰有点底气不足。谁知道是不是人类最后一次战胜机器的围棋系列赛呢？
从这 4 盘比赛来看，AlphaGo 即便今天有关键失误，但掩盖不了这几盘比赛的落子光辉。AlphaGo 强大的判断和计算能力，让循规蹈矩的对战变得基本没有胜算。而只有找到它的 Bug，方才有战胜它的可能。这已经是根本的实力差距了。
李世石 9 段今天的表现是人类历史伟大的一幕，但改变不了的是，机器未来将统治围棋。王飞跃老师在博文里说，任何规则明确的问题或任务都应该是计算机战胜人类，早晚只是时间而已，围棋不应例外。
我们低估了 AI 的发展速度
从专家到普通人，都低估了 AI 的发展速度。
在这次比赛前，有非常多的顶级专家，包括人工智能界和围棋界都做出了预言，其中大部分都认为李世石将 5：0 毫无疑问战胜 AlphaGo。
在新智元当时的读者调查中，42% 的人认为需要 1 到 3 年，AI 才能在人机围棋对决中获胜。
但实际上呢？现在就实现了。
99.99% 的人，都被 AlphaGo 骗过去了
在这几天的比赛中，尤其是第三盘，李世石赢着、赢着，就输了。那时候围棋顶级棋手都认为李世石赢定了，但比赛中间基本上都蒙了。世界冠军柯洁倒是比较清醒，在很多人之前预言了李世石会输。但世界上只有一个柯洁，剩下 99.99% 的人，都没看懂 AlphaGo 的布局，被它骗过去了。
我们很难理解 AlphaGo，即便是在围棋这样规则明确的游戏里。它的对围棋的认识和我们有很大的不同，我们可以从它的行为去推测想法，但它里面究竟在想什么，行为背后的原因，都无从知晓。
即便是 AlphaGo 创造者 Hassabis，也在采访中表示被 AlphaGo 的下法震惊了。
在围棋中，AlphaGo 有自己的认识，而理解结构和人类有很大的不同。在未来更多的领域里，AI 会形成自己的价值观。
但人类要通过行为去揣测它的价值观？
现在看来不怎么靠谱。
围棋之后？AlphaGo 的下一步是什么
我相信 Google 不会过于纠结在围棋上。AlphaGo 在创立之初，就是一个通用人工智能程序。这意味着它不仅仅会下围棋，只要你喂给它足量其他领域的数据，它也能表现的非常好。
在和李世石的对战中，AlphaGo 已经证明自己可以比世界冠军还要高明，这对于 Google 已经足够了。
几周前，DeepMind（创造 AlphaGo 的公司）刚宣布了和 NHS（英国国家医疗服务体系）的合作，着手建立医疗+机器学习的平台。这项合作有助于 DeepMind 获得医疗诊断方面的数据，而就像围棋一样，当把这些数据喂给医疗版本的 AlphaGo 的时候，它也能学会怎么给人看病。
在看到 AlphaGo 在围棋的优异表现后，你是不是比较能够接受，让机器人医生给你看病呢？
所以我猜测，DeepMind 会鸣金收兵，公布进军医疗领域！
而除了医疗，还有游戏、律师、金融、智能手机助手，你相信各种版本的 AlphaGo 在这几个领域，能比最好的人类选手做得还好么？反正我是信的。
恐惧：16% 对人类未来不抱希望
这会带来人们的恐惧。
在新智元最新的一次调查中，“面对AI，你对人类的未来充满希望吗？”，猜猜结果是什么？
16% 的参与者，投了“不抱希望”。
今天李世石获胜带来的狂欢，掩盖不了人类集体的落寞。当然，人工智能的坚定支持者们，大多是心情平静的。
但我们很容易估计到，在未来的 5 到 10 年，AI 会一步一步取代很多工作岗位。《纽约时报》有一篇文章，讲到了自从 21 世纪以来，美国的就业率就在不断的下降。
这是事实，而且还将继续。也许有人会说，当机器去做那些枯燥、重复性的工作的时候，人类还可以从事创意的工作。但无论什么时候，我们都不会需要那么多的演员、画家和歌手。
现实一点说，阿尔法工场的一篇文章的数据，统计表明经济衰退以来企业用于购买软硬件设备的投资增长了 26%，而人力成本根本没有增长。
千万不要低估，AI 对人类的影响。
所以今天我们推荐一篇文章，来自 the Guardian，新智元翻译。
这篇文章说的是 DeepMind 背后的故事，有点长，讲述了这个团队的价值观和使命，以及这对人类的未来意味着什么。
=========================================
专访 DeepMind CEO：超级英雄 Demis Hassabis
来源：theguardian
译者：王婉婷 王嘉俊 李宏菲
通过他的公司DeepMind，伦敦人Demis Hassabis正在领导着谷歌的一个计划——创造比人类大脑更强力的软件。但是，这对于人类的未来而言，意味着什么？
Demis Hassabis有着谦逊低调的风度和平易近人的神情，但是当他告诉我他正在为“解开智力的谜团，随后将之用于解决其他一切问题”的使命而努力时，他看上去无比严肃。如果从其他人——几乎任何一个其他人——口中听到这句话，都会让人发笑；但是从他口中听到就没那么让人想笑了。39岁的Hassabis曾经是一位围棋大师和一位视频游戏策划，而他的人工智能研究初创公司DeepMind在2014年据传被谷歌以6.25亿美元收购。他的父母都是移民，他在Finchley读了一所州立综合学校，又从剑桥大学和伦敦大学学院（UCL）获得了计算机科学和认知神经科学的学位。一位“空想家”，与他一起工作的人们是这么评价他的，Hassabis也顺水推舟地表示，他已经找到了“让科学研究更高效”的方法，并且在领导着一个“21世纪的阿波罗登月计划”。他是那种你在街上看到也不会留下印象的样貌平平的家伙，但是Tim Berners-Lee曾经对我说，他是地球上最聪明的人之一。
人工智能已经来到我们的身边，这毫无疑问，每当我们询问Siri或是从安卓上看到推荐信息时，背后都有人工智能的影子。而在短期内，谷歌的产品肯定会从Hassabis的研究中获益，即使个人化、搜索、YouTube、语音和面部识别从名字上看并没有“AI”这个词（“于是这只是软件，对吧？”他露齿一笑，“这只是某种能派上用场的东西。”）。不过，从长远来看，他正在研发的技术所具有的意义并不会仅仅止步于有情感的机器人和更智能的手机。它甚至不会止步于谷歌，也不会止步于Facebook、微软、苹果、以及其他正在搜刮人工智能博士并往这场最近的科技军备竞赛中砸下数以亿计金钱的巨头们。它关系着我们能想象得到的一切，以及更多我们想象不到的东西。
如果这听上去极其野心勃勃——就是这样没错。大多数AI系统都是“狭隘”的，训练事前编写好程序的代理（agent）来掌握某种特定的任务，它们并没有太多其他的能力了。所以IBM的“深蓝”可以在国际象棋上击败Gary Kasparov，却无法在画圈圈叉叉的井字棋上和一个三岁小孩对战。Hassabis站在另一边：他从人类大脑中获取灵感，试图创造第一台“通用用途的学习机器”，一组灵活的、适应性强的算法，能够——就像生物系统做的那样——只利用原始数据来学习如何从头开始掌握任何一种任务。
这就是人工通用智能（AGI），重点在于“通用”。在他憧憬的未来中，超级智能的机器将会与人类专家共同协作，差不多能解决任何问题。“癌症、气候变化、能源、基因组、宏观经济、金融系统、物理学，我们想要掌握的系统中有许多都在变得日益复杂，”他说道，“信息太过泛滥，即使是对于最聪明的人类来说，要在有限的生命中掌握这些也正变得越来越艰难。我们要如何筛选这些铺天盖地的数据、从中找到正确的洞见？人工通用智能可以被当作某种自动将非结构信息转化为有行动意义（actionable）的知识的过程。”
获得这种元解决方案可能仍然有数十年的路要走，但是它似乎正在不可避免地渐渐来临。2015年2月，全球顶尖的科学杂志《自然》在封面上刊登了像素游戏“太空侵略者”的图片，配以“自我学习的AI软件”已经获得了“人类级别的视频游戏表现”的概述。翻开这期杂志，这篇来自DeepMind的论文描述了第一个成功的通用“端到端”学习系统，其中他们的人工代理（agent）——图像处理单元上一个被称作Deep-Q网络的算法——学会了如何处理屏幕上的一个输入，理解这个输入的意义，然后做出决策来达到希望的结果（在这个例子里，就是成为精通许多经典雅达利2600游戏（包括太空侵略者、拳击、和Pong）的超人）。这个突破在科技界一石激起千层浪。
随后，在上个月，DeepMind第二次登上了《自然》杂志封面——在如此短的时间内第二次登上封面本身就是一件值得称道的事了。这次，它略过70年代和80年代的复古街机游戏，回溯到更久以前选择游戏。围棋，这种来自中国的深奥的策略游戏，已经有超过2500年的历史，连孔子的作品中也提到过围棋。围棋的分支因子非常庞大，它可能的行动步数超过了宇宙中的原子数量，并且，与象棋不同，它不能通过暴力计算来破解。它非常棘手，也不可能为它写出一个评估函数（通过一组规则来告诉你谁在某个位置的输赢以及输多少赢多少）。取而代之的是，围棋需要旗手具备某种类似“直觉”的东西：当被问起为何做出某个落子的决定时，专业旗手们往往说出类似这样的话：“这样做感觉比较对。”
很显然，计算机一直以来在做这种判断方面都不太在行。因此，对于AI来说，围棋始终被视为“不同凡响的伟大挑战”之一，大部分研究者预期至少还需要10年才能看到机器破解围棋的希望。
但是经过严格的同行评审的证据就摆在面前：DeepMind的最新人工智能算法，AlphaGo，已经在去年秋天的一场秘密赛事中以5比0的成绩完胜蝉联三届欧洲围棋冠军的樊麾，并且将在之后的3月于世界围棋冠军李世石对战。“一个让人震惊的成就”，帝国理工学院认知机器人学教授Murray Shanahan这样向我描述这件事。“一个重要的里程碑”，超人类主义哲学家Nick Bostrom表示了赞同，他在《超级智能：路线图，危险性与应对策略》一书中曾写道，如果能够完成AGI，这将会是一个无与伦比的事件——也许，借用谷歌工程主管Ray Kurzweil的话来说，甚至称得上是“撕裂人类固有的历史结构（a rupture in the fabric of history）”。在Bostrom位于牛津大学人类未来研究所的办公室中，他告诉我，AlphaGo的出现“让过去几年间机器学习领域的进展一下子变得引人注目起来”。
“这相当酷，当然，”Hassabis同意道。当时我们约在他的办公室见面，讨论最近的这场胜利。像往常一样，他穿着不伦不类的黑色上衣、裤子、以及鞋子：你觉得他是一个实习生也无可厚非，虽然据传谷歌的收购让他个人获益8000万欧元。“围棋就是终极：它是所有游戏的顶峰，需要的智力深度（intellectual depth）也最高。它让人目眩神迷，而令我们感到激动的不只是我们掌握了这个游戏，还有我们在其中使用的神奇有趣的算法。”比起科学，下围棋更像一种艺术，他坚持道，“而AlphaGo的下棋方法与人类非常像，因为它是像人类一样学习围棋、接着通过不断下棋变得日益强大的，就像你我会做的那样。”Hassabis可能看上去还像个学生，但是他现在笑得像是为孩子感到自豪的家长。AlphaGo是他在职业生涯中获得的最让人兴奋的成就。“这个量级超出了任何人的想象，”他对此津津乐道，“不过对于我们来说，最重要的是，这不是一个使用手工打造的规则的专家系统。使用通用用途的机器学习技术，它自己学会并精通了这个游戏。最终，我们希望将这些技术应用于中药的现实世界的问题上，比如气候建模或是复杂病症分析，对吧？所以开始想象它可能下一步会解决什么问题是非常激动人心的。”
“气候建模，复杂病症分析——开始想象它可能下一步会解决什么问题是非常激动人心的。”——Demis Hassabis
我第一次见到Hassabis是在2014年夏天，那是DeepMind被收购之后几个月。从那时起，我一直观察着他在各种各样的环境中工作，在过去的8个月里也曾在不同情况下对他进行了3次正式采访。这段时间里，我看着他从一个谷歌的AI天才逐渐成长为一个言辞凿凿的沟通者，找到了有效的方式向我这种非科学家描述他那极其复杂的工作——他对那些工作热情洋溢——以及为何他的工作是重要的。他用词质朴而易懂，非常擅长深入浅出地讲解DeepMind使用的方法——也就是结合旧有和全新的AI技术——比如，在围棋中，使用了传统的“树搜索”方法来分析落子效果，以及新颖的“深度学习网络”（它模拟了大脑中的神经元网络）——还有他们对不同领域AI研究的方法学“联姻”。
在DeepQ中，他们将深度神经网络与“强化学习”相结合，强化学习是所有动物都用到的、通过大脑中多巴胺驱动的奖励系统进行学习的方法。在AlphaGo中，他们更进一步，增加了另一个更深度的强化学习，用来处理长期规划。下一步，他们将会整合其他的，比如说记忆能力，以及其他的东西——直到理论上所有的智力里程碑（intelligence milestone）都就位。“我们在这些能力的数量方面有一个想法，”Hassabis说道，“结合所有这些不同的领域会是一把钥匙，因为我们有兴趣的是能够将在某个领域中学到的东西应用到另一个领域中的算法。”
这听上去有一点像人类自身。对于他简历的第一印象可能是他对一切都一知半解的好奇心，从棋盘游戏到视频游戏到计算机编程到认知神经科学，更不用说人工智能了。事实上，他能取得今天的地位是因为聚焦于一点：将他强大的、几十年一遇的智力与他毕生钻研的那些领域精心结合。（简要重点回顾：8岁编写自己的计算机游戏；13岁国际象棋达到大师水平；17岁创造最早的包含AI的游戏之一“主题公园”；20岁从剑桥大学获得计算机科学双重一级荣誉学位（double first）；不久之后创办自己的开创性视频游戏公司Elixir；在2011年创办DeepMind之前一直在被誉为“拼图的最后一块”的海马体和情节记忆方面进行开拓性的学术研究）
“我很容易感到厌倦，而这个世界是那么有趣，有那么多很棒的事情可以做，”他承认（他也保持着蝉联5届脑力奥林匹克运动会全能脑力王（Pentamind）称号的纪录，脑力奥林匹克运动会中，参赛者们通过各种游戏进行比赛）。“如果我是一个体育运动员，我一定会想要成为一个十项全能选手。”
体育运动比赛的荣耀从未垂青于他。虽然Hassabis是利物浦球队的忠实粉丝，也喜欢观看所有的体育比赛，他4岁时开始下国际象棋，只有仅仅一年就在国内立于不败之地，并在不久之后世界无敌。想必这很明显地预示了他日后的生命将以脑力为重心。
1976年的伦敦北部，他诞生在一个有希腊-塞浦路斯混血的父亲和新加坡-中国混血的母亲的家庭中，是3个孩子中的老大。他的父母都是教师，曾经开过玩具店。他的妹妹是一位作曲家和钢琴家；他的弟弟研究的是创造性写作。对科技的热情并没有盘踞在这个家庭中。“在我家，我绝对是一头奇怪的黑羊，”他开了一个玩笑，回忆起他小时候怎样把国际象棋比赛的奖金花在当时的个人电脑ZX Spectrum 48K和Commodore Amiga上——买回来以后，他立刻将它们拆开，找出了如何编程的方法。“我的父母都是不喜欢新科技的人。他们不怎么喜欢计算机。他们有一些像波西米亚人。我的妹妹和弟弟也都走了艺术家的路线。他们没有一个人真的对数学或是科学有兴趣，”他耸了耸肩，有些抱歉的意思，“所以，好吧，这有些怪异，我不太确定（我的）这一切是从哪儿来的。”
他的公司在谷歌收购时只有50名员工，现在已经雇佣了接近200人；他们来自超过45个国家，将位于伦敦国王十字地区一角的大楼的6个楼层都占满了。Hassabis下定决心要让他的公司接近他的根源，无论受到何种搬迁的压力（想必也包括搬迁往硅谷山景城）。
“伦敦北部生养了我，”他提醒我，“我绝对热爱这座城市，这就是为什么我坚持留在这里：我不觉得有什么理由说伦敦不能拥有一个世界顶级AI研究所。而且我对于我们所在的地方感到非常自豪。”所有的房间都以智力上的巨人命名：特斯拉、拉玛奴江、柏拉图、费曼、亚里士多德。还有玛丽·雪莱（他是粉丝吗？“当然，”他向我保证，“《科学怪人（Frankenstein）》我读了好几遍。时刻记得这些东西是很重要的。”）
一楼是一间咖啡屋和裸露着砖块结构的接待台，摆着储存椰子水的冰箱、桌上足球机和沙包，就像你对一家世界上最雄心勃勃的科技公司的期待一样。上楼以后，在原本的楼顶上是新添的现代开放式结构，放眼望去，满目都是伦敦的屋顶风光，美丽得让人难以抗拒。
星期五的晚上，DeepMind的员工就在这里聚会欢饮。一位员工热情地向我描述这个聚会，说是“醉人地结束一周”的方法。社交是一种内在生活方式：他们告诉我DeepMind内部有跑步俱乐部、足球队、还有棋盘游戏俱乐部。墙上有一幅带有可移动照片的位置图，上面标明了每个人在特定某天会出现在哪张办公桌上（hot-desking）。这是一种激进的开放式环境。走廊中与我擦肩而过的工程师们——大部分是男性——粉碎了我对于在科学的枯燥角落工作着的人们的刻板印象：这些家伙看上去健康，快乐，又酷炫。不得不说，空气中散发着一股才智的迷人气息。尽管有许多谷歌的最大竞争对手们都越来越多地重视起AI，更不用说全球的一流大学了，但是毫无疑问，地球上最聪明的人们都在排着队想进入这里工作，到现在为止离职率还是漂亮的0%。
“我们真的很幸运，”Hassabis说，他将他的公司与阿波罗计划和曼哈顿计划类比，因为他正在以越来越快的速度集结起来的研究人员的质量和DeepMind的野心都让人惊叹不已。“每一年，毫不夸张地说，我们都能够从每个国家获得最好的科学家。所以我们将会有，比如说，波兰的奥林匹克物理冠军，法国的顶尖数学博士。我们已经有的想法比我们已经有的研究人员还要多，不过与此同时，青睐我们的优秀人才数量也比我们能接收的还要多。所以我们正处在一个非常幸运的位置。唯一的局限是，在不伤害公司文化的前提下，我们能吸收的人员数量。”
这种文化不只是沙包、免费的零食和屋顶的啤酒。Hassabis坚持不让谷歌的收购以任何方式强行影响他自己的研究路径，他估计自己花费了“至少和思考算法一样多的时间来思考DeepMind的运转效率”，并将这家公司描述为“调和了最好的学术圈与最激动人心的初创企业，拥有令人难以置信的能量来为创造力和成就助力。”他好几次提到“创造力”这个词，他观察到，虽然他接受的正式训练都来自于科学领域，但是他“本能地站在创造力或是直觉的一侧”。“我谈不上是一个标准的科学家，”他评价道，看上去并无讽刺之意。对于DeepMind的构造来说至关重要的，是被他称作“胶水大脑（glue minds）”的人才：能够在相当程度上理解无数科学领域、以此“用某种别具一格的方式找到不同领域间的连接点、随后迅速鉴别出有前途的交叉领域连接可能是什么”的博学者。符合标准以后，这些像胶水一样的人才可以每隔几周在工作中的小组中登记信息，随后快速灵活地在需要时调用资源和工程师。“所以如果你有一个让人吃惊的天才研究员，那么几乎立刻——与学术圈中不同——就会有三四个来自其他领域的人可以接过他的指挥棒、将自己的智慧添加进去，”他这样描述道，“这会导致令人震惊的结果的产出速度非常迅速。”启动于仅仅18个月前的AlphaGo项目就是对这一点的完美阐释。
每天晚上，Hassabis都要登上北线列车，及时回家与家人团聚、享用晚餐。他们居住在海格特，离他长大的地方不远。他的妻子是一位意大利分子生物学家，研究的是阿兹海默病。他们的两个儿子一个7岁，一个9岁。Hassabis会与他们一起玩游戏、读书，或是帮他们一起做作业（“他们都以自己的方式发挥着聪明才智，但是他们几乎就像我对立的两面，一面是科学，一面是创造”）。
他会带他们上床睡觉，就像任何一个普通人家的父亲一样。随后，大概晚上11点左右，当大部分人可能都合理地预计将要睡觉了的时候，他开始了他自己说的“第二天”。与美国方面的常规Skype通话将会持续到凌晨1点。之后是“纯粹思考的时间。直到凌晨3点或是4点之前，那是我用来思考的时间：思考研究，思考我们的下一个挑战，或是写一份算法设计文档”。
并没有太多真正的AI代码，他承认，“因为我的数学现在已经不行了。这更像是直觉性的思考。或者可能是对公司的策略性思考：如何扩张它，如何管理好它。或者可能只是我从一篇文章里读到的东西、或是那一天从新闻里看到的东西，我会思考我们的研究能如何与它相连。”
这让我想起了AlphaGo，它就在谷歌强大到难以想象的计算云中，不停地下棋、下棋、下棋，每一天的每一分每一秒都在自我提高，因为它学习的唯一方式就是继续不停地做下去…
“它休息过吗？”我问。
“没有。无休无止！它甚至没有圣诞假期。”
我犹豫了一下。“它需要休息吗？”
“也许它就喜欢这样，”他驳回了我的话，眼神闪亮。
懂了。所以Hassabis自己呢？“绝对是超人，”他的一位同事顺口告诉过我。他关机休息过吗？他能够让自己关机休息吗？“这很难，”他承认，“我从来没有真的感到过工作与生活对立的问题；它们是同一张画布上的部分。我的确喜欢读书、看电影、听音乐，但这些都倾向于和我做的事有所关联。”（他是一个影迷，与最近执导AI电影《Ex Machina》的Alex Garland是朋友；他也提到了他刚与美国电影制片人Brian Grazer见过面，那是一个“真的很酷的家伙”，而他们的会面讨论的是，你猜得到的，就是AI）。“我的大脑就是为它而运转的。”
那他的孩子、朋友、还有日常生活呢？“当然，我在试图保持脚踏实地，否则我会变得有点疯狂。关于孩子，最神奇的一点是，他们是唯一能让你以类似的方式度过时间的存在。”
“如果存在超越了人类智能的数字智能，那么‘助手’这个词就不是一个正确的描述了。”—Elon Musk
他和自己的朋友们保持着亲密的关系：他在UCL读博士的时候遇到了DeepMind的联合创始人之一Shane Legg，另一位Muatafa Suleyman则是他的发小。他讲述了一段令人愉快的经历：他在剑桥大学时与本科同学Dave Silver成了朋友，随后在空闲时间教他如何下棋盘游戏，包括某种古老的中国游戏。二十年后，我注意到，David Silver是DeepMind里围棋项目的主要程序员，而且也是最近这篇《自然》论文的第一作者。“是的，Dave和我认识很久了，”Hassabis笑着说，“我们曾经梦想在未来做这件事情，所以19岁的我们可能对于现在取得的这个成就感到非常欣慰。”
他沉思了一下，补充道：“虽然如此，但我真的没有多少日常生活。在所有醒着的时刻，我都在思考这些东西，也许在我梦里也是这样。因为它是如此让人兴奋，如此重要，也是我最有热情的事情。”
他的眼里有一种神采，我只能用熠熠生辉来描述，就像孩子一样天真无辜。“我觉得太幸运了。我想不出比我正在研究的更有趣的问题了，而且我也可以每天都思考这些问题。每时每刻，我都在致力于做那些我抱有信心的事。否则的话，生命如此短暂，为何还要做这些（不抱信心的）事呢？”
如果史蒂芬霍金、比尔盖茨、Elon Musk、Jaan Tllinn、Nick Bostrom和其他一些伟大科学家对于AI的恐惧成真了，那么我们的生命可能会比我们预期的要短很多。对AI的顾虑从未经审查的人工通用智能武装、到挥散不去的“技术奇点”的阴影，最终是让机器有能力迭代地自我完善的“智能爆炸”，这会让机器的智能超越人脑的智能，接着，就是超越人类的控制。如果超级智能之灾即将来临，那么过去的历史是无法可靠地指示我们预见到这一点、在一切无法挽回前退出AI军备竞赛的。“当你看到某样东西在技术上很诱人时，”Robert Oppenheimer曾经观察到，这非常著名，“你会上前研究它；而只有在你取得了技术成果以后，你才会回过头来讨论应该用它来做什么。”“如果有办法能确保超级智能永远不会伤害人类，”Bostrom在几十年后说道，“那么这样的智能将会被创造出来。如果没有这样的保证，可能无论如何它们也会被创造出来。”“成功创造AI，”霍金在最近简练地总结道，将是“人类历史上最大的事件。但不幸的是，它可能也是最后一个事件。”
“好吧，我希望不会这样，”Hassabis面不改色地说。在他看来，公众对人工通用智能危言耸听的态度，模糊了它近期巨大的潜力和价值，而且在根本上就错位了，尤其是在时间上。 “我们距离任何类似人类水平的通用智能的东西都还有几十年的时间，”他提醒我，“我们还踩在梯子的第一条横杠上。我们都不过是在玩游戏。”他也认同，有一些“我们应该现在就考虑起来的法律风险”，但是他坚定地认为，这些要考虑的风险不是科幻小说中超级智能机器把它们的人类创造者无情消灭的反乌托邦场景。
此外，他强调，谈到减少人工通用智能的潜在危险时，这个领域的领导者是DeepMind。虽然，很明显，这家公司不像政府领导的阿波罗计划和曼哈顿计划那样需要接受官方审查，但它的运作也相当透明。它倾向于发布自己的代码，而它接受谷歌收购时的协议也包含了禁止将它的技术应用于军备或是智能应用的条款。Hassabis和他的同事们在召开2015年波多黎各人工智能大会方面起到了重要的作用，并且签署了公开信宣誓为“良好的目的”而使用技术，同时“避免潜在的陷阱”。最近他们帮助协办了另一场在纽约的会议，会议期间他们组建了被大肆报道的内部伦理委员会和咨询委员会（虽然是私下组建的）。“Hassabis对人工智能的安全性争议了解得非常透彻，”Murray Shanahan说，“他当然不是幼稚的人，也不会把头埋在沙子里当鸵鸟。”
“在鼓励围绕这些问题展开对话沟通这一方面，DeepMind一直是行业中的佼佼者，”Bostrom对此表示赞同，“并且在致力于进行一些未来可能需要用于解决这些挑战的研究方面也是如此。”
我让Hassabis列出他认为的未来主要的长期挑战。“随着这些系统变得越来越复杂，我们需要开始思考它们能怎样做出优化、能对什么做出优化，”他回答道，“技术本身是中性的，但它是一个学习系统，所以，不可避免地，它们会带有一些设计者的价值体系和文化背景的印记，所以我们对于价值观的思考必须非常谨慎小心。”
关于超级智能问题，他说：“我们需要确保设定的目标是正确指明的，并且其中没有任何模棱两可的东西，随着时间推移也依旧稳定。但在我们所有的系统中，最高级的目标仍然要由它的设计者们指定。系统可能会得出自己的方法来实现这个目标，但是它自己是不会创造一个自己的目标的。”
他用毫无动摇的语调宽慰我。“看，这些都是既有趣又困难的挑战。随着配备上所有新颖强大的技术，人工智能需要被负责地、符合伦理地使用，而这就是为什么我们现在正积极地呼吁对这个问题展开辩论和研究，那么当时候到来时，我们才会准备充足。”
什么的时候到来？机器变得超级智能的时候，还是它们超越人类的时候？他笑了起来，“不，不，不，我指的是还要在那些之前！”（我觉得他是在开玩笑，尽管在2011年，他的同事Shane Legg的确说过：“我认为人类灭绝这件事可能会发生，而技术有可能在其中发挥不小的作用。”）Hassabis澄清道：“我的意思是，当这些系统强大到不只是会玩游戏时，我们放任它们处理更现实、更重要的事，比如医疗。然后我们需要确保我们知道它们将会有怎样的能力。”他对我露齿一笑：“那将会阻止机器掌管世界的情景成真。”
Hassabis经常微笑。他待人友好，言辞让人信服。他所说的一切似乎都很有道理，并不自以为是，而且谁知道呢：说不定人工通用智能将一直处于在我们的控制之下。但是许多人仍持怀疑的态度。“显然，如果存在一个任何方面都大大超过人类的数字智能，‘助手’这个词就不是一个正确的描述了。”Elon Musk反对道，他最近将AI技术的进步描绘成人类“正在召唤一个恶魔”。这位SpaceX的创始人、Tesla和PayPal的联合创始人，曾经是DeepMind最早的投资者之一，但他投资DeepMind不是为了获得金钱上的回报。“我的投资并不是为了投资所带来的经济利益，”他在加利福尼亚州的办公室中这样对我说，“我投资DeepMind的原因仅仅是因为想对AI的进展与威胁有更好的理解。如果我们对AI不够小心，让一些不好的事情发生了，到那时银行存款将变得毫无意义。”
“Elon是这个行业里最聪明的人之一，并且有着惊人的沟通能力，”Hassabis态度中立地回应道，“而且我真的认为，像他这样的人正在如此关注AI，是一件很酷的事情，因为这恰恰显示了AI是一件大事。”他保持着外交辞令般的回应，但是来自其他领域的科学家放肆地公开对AI下断言这样的事确实激怒了他：毕竟，你没有听到过他对粒子物理学指手画脚。
“总体来说，我发现了那些不真正在AI领域工作的人对于AI的理解都是不完全的。他们通常都没有与许多AI专家交谈过，所以他们脑袋里的思想实验总是把他们带偏，因为这些想法都是基于一些我认为即将被证明是错误的假设。”他又再一次提到，他组织的内部伦理委员会和咨询委员会——其中都是来自各个科学和哲学领域的顶尖学者——将会管理未来任何的人工通用智能技术的应用。他毫不动摇地坚持现阶段不公开进程的决定。“之前没有任何人尝试做过类似的东西，所以在我们对于公众揣测我们在Twitter或者其他什么东西上做了什么能有额外的审查之前，我们还有许多事情需要探索，从第一天就要开始。”这个初始阶段，他说，是关于“给每个人提供最新的消息，这样下一阶段我们才能准备好讨论实际的算法和应用。对于许多参与其中的人来说，这不是他们的核心领域。我们需要他们的专业知识，但是他们必须弄清楚将会发生什么事。”
史蒂芬霍金作为一个“得到最新消息”意味着什么的榜样，被人引以为鉴。Hassabis最近邀请霍金在剑桥大学进行私人会谈。“仅仅是见到他对于我来说就显然是巨大的荣耀了，” Hassabis兴奋地说着，拿出手机——无论他的新东家怎么看，Hassabis仍然是霍金的拥趸——向我展示了他和霍金的自拍合照。“我们本来只安排了1个小时的时间，但是他提出了那么多的问题，以至于我们最后谈了4个小时。他错过了午餐，所以他的陪同人员不大喜欢我。”
在他们的会面之后，Hassabis指出，霍金没有再在媒体报道时提及“任何关于AI的有煽动性的言论”；最令人惊讶的是，在他上个月的BBC Reith讲座上，他所列出的他认为将会对人类产生威胁的列表上没有将AI技术。“可能听到更多关于实用性、更多关于我们可能建立的真实的系统，以及我们对这些系统能够有的监察和控制的讨论，的确起到了作用。” Hassabis大胆地猜想道。他环顾这间有许多布满了难以辨认的字迹的白板的屋子。“一旦你理解了工程，这一切看上去就变得好理解多了，也合理得多了。”
很明显，我没有希望做到这一点，但是他真的相信霍金转变了思想吗？“我想，在谈话的最后，是的，他宽慰了不少。他拥有这种好笑的、干巴巴的幽默感，在我离开之前，我对他说，‘所以你怎么想呢？’，然后他把打出了这样的字，‘我祝你好运’。随后，他眼里闪烁着的光芒，又补充道，‘但是不要太多。’”Demis Hassabis给了我一个胜利的微笑，说到：“我当时想，‘我会把这当做是胜利的宣告’。”