技术预见，遇见善的人工智能

刘海明

原文作者：斯蒂芬·弗利  

原文来源：博古睿研究院

原文链接：https://mp.weixin.qq.com/s/W3MqHRWS1xOHeUyMLCLbhQ

富裕的慈善家们有一份“问题”清单，上面列满了那些关乎人类存亡的种种威胁，如灾难性的气候变化及流行疾病等。现在这份清单有了新的补充——与人类创造者或将背道而驰的人工智能机器。

人工智能可能会构成“比核弹头大得多的威胁”，电动汽车制造商特斯拉的创始人埃隆·马斯克（Elon Musk）如是说。作家詹姆斯·巴拉特（James Barrat）认为，拥有学习能力却无法对人类感同身受的超人般的人工智能，很可能成为人类最后的发明。

即使机器不会终结人类，我们也有足够的理由担心人工智能将被用以“作恶”。该领域的技术进步如此迅速，而且很明显，对其后果进行透彻预判早已超出了我们的能力范围。

诸如面部识别和能够自主工作的无人机等先进技术，已经将人工智能在战争领域的“潜力”展露无遗，这引发了谷歌等人工智能领域企业员工的担忧。由于内部反对的声音明确而且坚定，谷歌去年叫停了可能用于武器研发的人工智能技术。这也许会让谷歌总部的火药味变得不再那么浓，但人工智能领域的军备竞赛不可能就此止步。

由于目前从事这一领域科研工作的科学家缺乏足够的多样性，舆论还担忧人工智能是否会加剧种族偏见、性别歧视和其他偏见；以及当机器人可以从事人类的大部分工作时，社会将会何去何从？而这些似乎都意味着，慈善家们应该将资源用于推进有关人工智能道德伦理，和站在现在看未来——展开对先进技术发展后果的探讨；以及促进科学、商业和政府，引导人工智能朝着正确、积极的方向发展。此外，慈善家们纷纷将目光集中于人工智能领域的另一个重要原因，就是这个领域本身所具备的吸引力，而这一原因却往往为人们所忽视。

黑石集团（Blackstone）创始人史蒂夫·施瓦茨曼（Steve Schwarzman，又译：苏世民）向牛津大学捐赠1.5亿美元，其中一部分资金将用于“人工智能伦理研究所”的创建。今年6月，施瓦茨曼在接受《福布斯》专访时解释了原因。他表示，自己想成为这次对话的一部分，帮助人工智能系统有能力对自身进行规范与调节，让只想过平常生活的普通民众不至于处于弱势地位。进一步展开，如果（一个人或一些事情）扰乱了人们的日常生活，税收收入就会降低，社会成本从而增加，选举模式也可能会改变……而这些可能会危及国家的根基，并破坏西方民主思想和生活方式。去年，施瓦茨曼向麻省理工学院捐出了一笔更大的资金，支持在那里打造一个全新的人工智能研究中心。

这些出资或许让施瓦茨曼成为了目前世界上对人工智能领域投入最大的捐赠人。在这一领域投资巨大的慈善家还包括eBay创始人皮埃尔·奥米迪亚（Pierre Omidyar），在定居洛杉矶前被称为“无家可归的亿万富翁”的尼古拉斯·博古睿（Nicolas Berggruen），以及领英创始人雷德·霍夫曼（Reid Hoffman）等。然而，在人工智能领域，慈善的力量仍然是有限的。

霍夫曼是OpenAI项目的最大支持者。这个规模巨大的项目是马斯克在旧金山设立的，但他随后离开了这个项目，称该项目与特斯拉的自动驾驶汽车产业存在冲突。OpenAI在创始之初是一家非营利组织，致力于打造一个具有人脑规模的神经网络，即所谓的“通用人工智能”。公司希望通过对其研究成果进行开源处理，使其成为人工智能得以安全而符合道德规范发展的蓝图。

但这也使OpenAI与其他大型科技公司产生了直接竞争，而后者们拥有可以为科技人才和超强计算能力“买单”的资源与财富。去年该公司转向了营利性架构，称其需要数十亿美元的投资。今年夏天，微软向OpenAI注资10亿美元，以帮助后者使用微软的云计算服务Azure。

在人工智能领域，慈善资金的最佳用途似乎是道德伦理领域，而不是技术开发本身。博古睿先生每年出资100万美元作为“博古睿哲学与文化奖”奖金，他似乎成为最热衷于这项事业的人。博古睿研究院“人类变革”项目将哲学家与艺术家置于各种重要的研究场域，以促成他们与技术专家开展对话，旨在“促进人类与非人类的共同繁荣”。而谈到慈善事业，机器人领域可能也需要资金上的支持。

* 英文原文《Philanthropists should treat AI as an ethical not a technological challenge》发表在《金融时报》， 2019年9月5日。

编辑：吴悠