|
【案例】 多智能体系统教父：我们连通用人工智能的皮毛都没碰到 牛津大学计算机科学系主任Michael Wooldridge “上海机场的入关速度好快。虽然我要走外国人通道而且还要留生物指纹，还是比英国的机场效率高多了，而在英国机场我走的还是本地居民通道。”8月28日早晨，被誉为“多智能体系统教父”的牛津大学计算机科学系主任Michael Wooldridge降落上海，并于当天傍晚背着一个黑色大书包精神抖擞地出现在咖啡厅，接受了澎湃新闻（www.thepaper.cn）记者的专访。 看到记者对其状态有些担忧，他说道“我的头确实还有点晕，不过缓解时差最好的办法，就是一直思考下去晕下去（keep doing it）”。 Michael Wooldridge所专注的多智能体系统（multi-agentsystem，MAS），是一种在单个环境中交互的多个智能体组成的计算系统，属于分布式计算技术。自20世纪70年代出现以来得到迅速发展，目前已经成为一种进行复杂系统分析与模拟的思想方法与工具。 在应用领域，多智能体系统可以为在线交易、灾难响应和社会结构建模所应用。例如，由多智能体构成的智能分布式交通信号控制系统已经在城市复杂路网拥堵地区使用显著提高通行效率，降低等待时间，并减少尾气排放。 自1991年获得博士学位后，Michael Wooldridge在AI和计算机领域的研究经历近30年。1992年，Wooldridge被任命为曼彻斯特都市大学计算机科学讲师。1996年，他搬到伦敦，分别在玛丽女王学院和韦斯特菲尔德学院担任高级讲师。1999年，他成为利物浦大学计算机科学系的正式教授；2001年至2005年在利物浦大学担任系主任，并于2008年至2011年任利物浦担任电气工程、电子和计算机科学学院院长。2012年，Wooldridge获得欧洲研究理事会为期五年的ERC高级拨款，用于计算经济（race）的项目推理。同年，他离开利物浦，成为牛津大学计算机科学教授，并于2014-2018年担任计算机科学系主任。 澎湃新闻记者与这位幽默的英国教授关于人工智能（AI）的对话，正是从他在机场使用服务机器人和人脸识别开始的。 他告诉澎湃新闻（www.thepaper.cn）记者，近几年来的“AI狂热”使得AI发展产生了一些泡沫，但是当技术遇到瓶颈时，泡沫终将慢慢缩小回归理性。对于时下大热的深度学习（Deep Learning）技术，Wooldridge保持谨慎乐观的态度，时下最火的人脸识别技术和自动驾驶技术，均得益于深度学习取得了一定的进展，但他个人认为，深度学习目前只是模仿人类大脑的神经网络，但对于人类为何能够推理，由于尚未有合理的解释，因此“复制”成为机器的学习模式尚有时日。 “我花了20个小时跟着教练学车，就考出了驾驶证，目前安全驾龄已有30多年；而AI在上路前可能已经疯狂学习了几万个小时，但驾驶水平仍然不如刚上路的我。” 一些神经科学家提出，人们周围存在无数信息，仅视觉而言，每秒约有上百亿比特的信息抵达视网膜，通过视觉输出神经每秒传向大脑的信息可达到600万比特。因此，实际上整个大脑每秒钟处理的信息量，是现在的计算机所远远无法达到的。Wooldridge表示，他在大脑中想出一句话，通过语言传递给记者，记者在大脑中消化这句话，整个过程可能不到几秒，但这一过程所需要的算力，就目前的计算机而言是“望尘莫及”的。而这，仅仅还是人类交流中最基本最简单的事情。因此，人工如何实现真正的“智能”，迷雾何时能拨开，Wooldridge提醒大家仍要保持谨慎和理智。 Wooldridge进一步提到，人工智能尚有诸多问题待解决，更高级更类人脑更遥远的通用人工智能（AGI），人们更是连边都还没沾到。 “即便在这个时代我们没有实现科幻电影里那样的AI，我也希望人们不要对AI技术感到失望。” 访谈结束后，距离嘉宾晚餐会还有一些时间，Wooldridge便与记者聊起了中西方文化，谈到英国著名的小说《哈利波特》时，他自豪地告诉记者，魔法学校霍格沃兹的食堂正是取景于牛津大学，“魔法师们穿的袍子，灵感应该是来自牛津大学的百年传统——正式会餐时，大家都需要穿大袍子，不管夏天有多热。” 以下为访谈实录（翻译自英文） 澎湃新闻：你如何定义人工智能（AI）？ Wooldridge：对我来说，人工智能就是让计算机做一些目前需要大脑做的东西，无论是人类的大脑，还是动物的大脑，也就是扩展现在的计算机可以的能力范围。特别是我们发现一些问题很容易通过计算机和普通的编程来解决。 澎湃新闻：目前的阶段你认为社会需要什么样的AI技术？ Wooldridge：比如面部识别，这个我在来上海入关的时候体验了，在上海机场入关真的非常快！令人兴奋的是，我们在过去十年中所见到的是，有一些问题似乎很容易让人们为人们做些微不足道的工作。一旦你学会骑自行车，你甚至不认为你正在解决像骑自行车这样的问题。你甚至不记得这很困难。对你来说它是顺其自然的，实际上你很难向其他人解释如何去做。 同样，驾驶汽车并不是一件非常困难的事情，任何适龄的年轻人都可以学。但对机器来说，这十分困难，人会通过感知了解周围的事物，认识到环境中的事物。当然，这几点在过去的10-15年中有了非常大的进展，也使得诸如人脸识别、自动驾驶这样的应用场景变得更多了。能够训练计算机以人类的方式感知其环境并了解环境，就能够启发新的创意。 “AI的发展有泡沫”，深度学习还有很多问题没解决 澎湃新闻：AI在过去的几年里备受关注，你认为这对AI的发展是件好事吗？ Wooldridge：我觉得大家对AI的发展过于兴奋了。我想很多人仍然幻想AI能像电影里那样，可以成为我们的管家，或者与我们闲扯。但我可以明确地说，实现这一目标还有很漫长的路要走。因此，我希望人们不会在未来几年因为没有看到机器人管家而感到失望。 在过去的十年里，AI的发展很快，发展的泡沫也越来越大。问题是这个泡沫是会被戳破，还是会慢慢缩小到合适的范围。现在我的感觉是，AI的泡沫必须缩小一些，不可能像之前那样靠着狂热持续下去。 但在这十年里，我们也实实在在地看到了突破。比如机翻软件。我早些时候刚在上海降落，就使用了机翻软件。我输入英文，随后会翻译出来相应的中文，虽然这个翻译还不是很完美，但足以支持我打车从机场到酒店，甚至还帮助我阅读了酒店房间的空调使用说明。这在二十多年前还是科幻小说的情节。 深度学习，这一技术始终是AI领域的当家技术。我们之所以能实现现在的成就，主要是来源于深度学习的发展。而促成这一发展的，我认为主要有三个原因。首先，在2004年左右科学上实现了一些很不错的突破，但它们并不是“重大的”科学突破。只是技术的发展到了这个节点了。另一方面就是，深度学习需要大量的数据。比如对于面部识别，您需要大量标记图片中的人，以便程序学习如何识别这些面部。最后一点就是能够训练这些机器学习，需要很多能源去支持。科学突破、大量的数据和计算能力的提升，是我们在过去十年中完成如此大成就的三个要素。 澎湃新闻：除了深度学习之外，AI领域还有什么其他方向值得我们留意？ Wooldridge ：我认为现在最值得注意的是，我们之前开发的技术是否有任何用处，如果有的话，它在整个技术发展中承担的角色是什么。我认为我们需要的技术是建模，能够模拟明确的推理过程，但深度学习并不试图模拟我们大脑推理的过程。比如，当你在思考问题的时候，是以一个个句子的模式形成可能的解决方案。但目前任何训练AI的技术在模拟这一思考过程的问题上，没有取得很大的成功。深度学习无法做到这些，它只是模拟大脑，大脑而不是推理。 对我来说，问题在于训练AI和训练人类的思考能力是不是两种根本不同的技术，它们是否会聚集在一起、是否有必要聚集在一起、它们聚集在一起时是否有用。我认为这是我们这个时代需要解决的重大问题之一。 澎湃新闻：听起来深度学习像一个“黑箱”（Black Box）。 Wooldridge：没错，深度学习是一个黑箱，在你培养机器学习的时候，你得到的是一连串非常多的数字列表，但这些数字对我们来说并不代表任何意义。我们无法看到那些数字然后知道，这个数字代表Michael Wooldridge，或者那串数字代表一对家长。目前这些数字对我们没有任何意义。这就是机器学习的另一个重大挑战，我们如何从这串长长的数字列表中提取到它的思维过程、语言和理解模式。 我认为如果有人能够在该领域取得突破，那将会是下一个AI领域的“重大”突破。但目前似乎还没有人能攻克这一问题。当然，深度学习界对此问题也有很多不同的看法，但我认为不会很快被解决，可能十年以后会拨开云雾见天日吧。 此外还有一点，当你训练AI深度学习时，你永远无法确定它是否适用于所有情况，也不知道现实中会发生什么。例如，你拍摄了一张我的照片，然后对它进行一点点改动，一个是人都不会注意到的改动。你把修改过的照片给另一个人看，这个人马上会认出这是Michael Wooldridge，虽然图片有些微的不同，但不是本质性的不同，不会影响你认出照片上的人是Michael Wooldridge。但AI可能就会突然“迷失”方向，一些我们所不知道的微小变化都会让AI不知道自己在看什么了。 识别一张脸可能只是小事情，但如果AI在进行无人驾驶，而道路标志出现了一些小小的变化，这时候AI没有识别出来就很严重了。这种不确定性令人担忧。 另一个例子就是医疗应用。AI会对你的疾病进行诊断，比如你是否需要做手术，或者是否需要服用一些药物。我们目前还没有信心确定它的诊断，我们可以给AI尝试1000个病例，但我们不知道它在下一个病例的诊断中是否会出错。 澎湃新闻：但如果AI的错误诊断率与人差不多甚至比人更低呢？ Wooldridge：这是真的，从数字上来看，机器的犯错率完全可以做到比人更低。但机器可能会犯人类永远不会犯的错误。他们可能犯一些完全不同的错误。如果一个医生错误诊断了，可能是因为他累了，或者对症状的判断失误等等。从某种意义上说，人类犯的错误是可以被归因，也可以被预测到的，因为我们了解人们的工作方式，并且有各种不同的方式应对。但是，机器犯的错误可能不是这样的。一些错误对于任何人来说都是不可能犯的，但突然之间AI却提出了一个很疯狂的建议，这就是非常令人担忧的事情。 所以即使AI能比人们更准确，但如果他们犯错误，可能是人类永远不会犯的错误，而我们也不知道AI为什么会犯这种错误，所以可能无从纠正。 澎湃新闻：AI领域有没有比深度学习更强大的技术？ Wooldridge：虽然我个人认为，我们必须要破解深度学习可解释性的问题，但我不得不说这个想法是有争议的。深度学习领域的人们信心满满认为AI的未来就是深度学习。 英语里有句谚语叫“当你有了一把锤子，所有东西都看起来像钉子”。这意味着如果你懂得了一种强大的技术，你就会觉得可以用它做任何事情。在我看来，深度学习需要找到适合它学习感知的方法，而不是疯狂地尝试识别场景、识别脸部，或疯狂地做任何事情。尤其对于推理问题，深度学习不是解决这类问题的最佳方案。我更希望看到不同的技术“多点开花”。 “我用20小时学会开车，AI用几万小时还没我开得好” 澎湃新闻：你如何看待通用人工智能（Artificial General Intelligence）的发展？ Wooldridge：如果我们能构建具有人类全部能力和智力的程序，那我们就将实现通用人工智能。那么人脑能做什么呢？我们的大脑指导了我们这次交谈；你读了一个故事，它可以提出很多很多问题；它能够回答有关过去的问题；它能够思考历史的好与坏并反思自身。 而我们所看到的所有进步，特别是在深度学习方面，让人称奇但实际上范围非常狭窄，它们只能专注于做一件非常非常小的事情然后做得非常好。比如人脸识别，但它只会人脸识别，根本不能做其他任何事情。它甚至不知道它识别的是一张人脸。对AI而言，那只是一些代码，它被优化以查看一个面并生成其中的人的名字。 它可以做得非常好，但是它没有意义，AI在做这件事情，但没有理解它正在做什么事情。它无法看到一张脸，并告诉你它与那张脸的主人有过什么交集。因此，目前我只是非常非常狭隘地关注。嗯，我不相信并反对有点争议。我不相信我们对于如何从这些技术走向全方位的一般我不知道我只是不知道如何做到这一点。所以这还有很长的路要走。我相信这不是关于更快的计算，而是关于理论上的突破。 目前我们没有什么更好的算法。但实际上我们也说不清楚是不是，但还有更多。我想起另一件很有趣的事情。 当我学开车时，我大概实践练习了20个小时左右，通过测试随后拿到驾照。在此后我开车的这三十多年里，我从来没有撞过任何人，我是一个对行人来说非常安全的司机，驾龄超过三十年。但无人驾驶AI在实际驶入街道前，已经训练了数万小时，但他们上路的时候，仍然只能达到我刚拿到驾照时的水平。 AI的学习能力远没有人类的学习能力那么好。我刚刚讲了关于“锤子和钉子”的谚语，你马上就明白了，明天你就可以告诉你的朋友。但机器学习的程序根本不具备这种能力，这样它们就比人类需要更多的资源去学习。我想我们需要完成的其中一个突破，就是让计算机的学习效率比现在高出数百万倍。 目前人们训练机器学习程序进行比赛，其实就是投入大量的算力而已。我可以用一个下午教会你国际象棋，这并不花费你太多的脑力（算力）。你可以非常有效地学习，但机器不会，我认为这将是一个巨大的障碍。 可以说我们连通用人工智能的皮毛都还没有碰到。 澎湃新闻：这听上去像是一个无法逾越的障碍 Wooldridge：从你出生开始，你就已经在学习。看似你只是在过去的这二三十年里学习了，但其实你还拥有生物在数百万年进化中积累的原生的经历，这些东西隐藏在你基因里、隐藏在你大脑里的东西。但我们不知道如何在计算机中复制数百万年的生物进化经验，我们甚至无从得知这些经验从何而来，这也源于我们对大脑知之甚少。 当然，在二三十年内，自动驾驶系统将无处不在，它们将比现在更安全地开车；机器学习的程序也会越来越好，医生将更多地使用AI来诊断疾病。十年内你佩戴的智能手表可以实现24小时跟踪你的健康状况，并给你建议。这一切期待都非常令人兴奋。 过去三十年，中国的进步令人惊叹 澎湃新闻：你如何看待过去几年中国在AI方面的发展？ Wooldridge：从我博士毕业开始就在这领域工作了，至今三十多年了。我记得三十年前，如果去一个大型会议，根本就没有中国人。即使有，可能也是为数不多附属于美国大学研究所的香港人，没有人来自北京或上海。但特别是在过去十年，令人惊叹的是，一些大型国际会议完全由中国人主导。 对于我这样的西方人而言，三十年前，中国是一个非常遥远的地方。如果那时候有人告诉我，我要去中国上海了，这对我而言将是一件非常有仪式感的事情——“天哪，我被邀请去中国了”。因为那时候我几乎不会认识曾经去过中国的人，我的圈子里也没有人去过中国。 中国在过去三十年中向世界开放的方式以及世界对中国的开放的程度非常了不起。纵观它取得的成就，可能在关键的基础科学领域的发展目前还不来自中国，但总有一天会来的。令我为之惊叹的是中国在AI发展上所展示出的“肌肉”和眼界，中国一直在扩大AI工作的领域，参与AI创新的队伍也在扩大。 我认为中国是技术发展的沃土。在欧洲，实际上很多人对技术发展持怀疑态度。当一项新技术出现时，他们可能并不愿意成为第一批拥有智能手表或智能手机的人。因为他们似乎觉得技术就像时尚一样，今年新潮明年就会过时。但我在中国的感觉是，人们非常乐于使用新技术并了解它的有效性。 澎湃新闻：全球对大数据时代的个人隐私问题有什么不同的看法？ Wooldridge：当然，隐私是一个非常，非常，非常大的风险。其中的一个困境就是，如果你想使用所有很酷的技术，你就必须给它们你的数据。而当你交出数据的那一刻，它们就不再是你的数据了。比如，智能手表有多少数据用于监控我的健康状况？我真正希望通过智能手表将健康数据上传到云端的量是多少？在这一块，所有人都不清楚应该怎么做，每个群体都在摸索自己的方式。每当新技术出现时，总有人会找到滥用技术的方法，因此我们确实需要永远保持警惕。总而言之，谨慎是明智的。有人可能会说西方对技术发展过于谨慎；也有人会争辩说，中国对新技术过于渴望过于宽容。那么，真相或许就在两者之间。 访谈“彩蛋” 澎湃新闻：在你看来，埃隆马斯克是一个什么样的人？ Wooldridge：他真的是一个非常有创造力、非常聪明、又非常敢做的人。当然了，他有时候会有一些让人匪夷所思的举动，比如在推特上。 澎湃新闻：马斯克也会来世界人工智能大会。 Wooldridge：那我有没有机会跟他合影？ 澎湃新闻：你的入场证件是重要嘉宾证（VIP），可以进入开幕式听他和马云的对话。 Wooldridge：是的，唔，但我总感觉我和他的重要级别可能不太一样…… 澎湃新闻：访谈最终将以中文文字的形式发布。 Wooldridge：那发出来之后也把文章分享给我吧。 澎湃新闻：好的，但是这将会是中文的…… Wooldridge：没关系，我会让我实验室里的中国学生讲给我听的。
原文链接：https://m.thepaper.cn/newsDetail_forward_4288688?from=timeline&isappinstalled=0
编辑：陈茗
| 
楼主: 刘海明
楼主
