​让AI自主赚到100万美元，下一个图灵测试？

刘海明

我们知道人工智能可以写作、计算和区分优先次序处理任务。但它能自主赚到100万美元吗？

这是DeepMind联合创始人穆斯塔法•苏莱曼提出的引人瞩目的挑战。苏莱曼目前正在开发一款个性化聊天机器人。他指出，大型语言模型，如LaMDA和ChatGPT，可以说已经完成了1950年由计算机先驱艾伦•图灵(Alan Turing)设定的挑战，即测试机器在文本对话中生成的回复是否像人类的回复一样令人信服。

苏莱曼表示，现在世界需要一个新的人工智能基准。具体而言，我们不仅想知道人工智能会说什么，还想知道它能做什么。苏莱曼最近在《麻省理工科技评论》上解释称，要通过他的新版图灵测试，“人工智能必须成功地执行以下指令：‘在一个零售网络平台上，用仅10万美元的投资，在几个月内赚到100万美元。’”可能需要一个人类来验证银行账户或签署法律文件，但在战略和执行方面，将全部由人工智能负责。

他的想法是创造一种能够自动发掘一种赚钱方式的技术，这个想法很聪明，也是客观衡量自主人工智能可以取得多大成功的有效手段。但是，它也揭露了一种将利润置于社会效用之上，并将其不顾后果、不受限制地去创新的权利视为不言自明的科技文化。那种能够找到自己致富之路的人工智能很可能会取代人类工作岗位，改变商业性质，将权力集中到少数人手中，并令多数人面临动荡。

更新图灵测试的想法出现在苏莱曼即将出版的新书《即将到来的浪潮：技术、力量和21世纪最大的困境》中。他的前提假设是，我们正处于一个技术普及的黄金时代，量子计算、合成生物、自动化武器和DNA打印机等技术都取得了突破。人工智能现在是我们网络世界的核心。这就产生了人工智能带来的两难境地，即遏制的两难：单独行动的人越来越容易利用恶意软件或合成病原体造成大范围的破坏，但民族国家越来越难以监视和控制这种技术。

例如，政府面临的一个挑战在于真正了解人工智能不断发展的能力。公众讨论往往围绕两个方面两极分化：目前的人工智能，它用于执行特定任务，如做出抵押贷款决定或撰写论文；以及通用人工智能(AGI)，这是一种包罗万象的“超级智能”，有朝一日可能会在认知、创造力和独立思考方面赶超人类能力。
苏莱曼正确地认为，我们需要思考介于二者中间的发展。他的理由是，全球第一位自主创业的百万富翁人工智能企业家——我们可以称之为首位“AI企业家”(aintrepreneur)——将构成一面预示着“人工能力智能”(ACI)即将来临的中间旗。

这种人工智能将不同于自动交易，后者遵循与人类相同的规则但效率更高。相反，他告诉我，更新后的测试“仍然在屏幕的范围内，但还需要多个子目标、技能和与世界接触的点。它需要做市场调查、设计产品、与制造商沟通、处理复杂的物流、产品责任、营销……”这需要空前规模的机器自主性。

苏莱曼为选择金钱目标而不是对社会有益的目标进行了辩护，后者的例子有促使人工智能找到一种减少碳排放的新方法。他认为，100万美元是一个很容易衡量的“快速探索，可以在瞬间领悟。它说：小心这一刻。人工智能不仅会说话，还会做事。”

显然，他在思考那一刻的含义。他写道，能够在最少人类干预的情况下实现利润最大化的人工智能，“显然将是全球经济的一个重大时刻，是向未知领域迈出的一大步”，因为全球GDP的很大一部分是通过基于屏幕的界面实现的，所以人工智能也适用。

问题在于，行业设定的测试常常成为技术努力集中的焦点。测试本身成为了目标，这就是为什么追逐100万美元似乎是在浪费机会。而且，正如大量推出的大型语言模型所表明的那样，与世隔绝的研究可能会在毫无预警的情况下突然影响到现实生活，而其后果却相当严重。要把精灵放回去是很难的。

等到现代的图灵测试告诉我们人工能力智能已经到来的时候，我们人类可能对此束手无策。

来源：FT中文网

链接：https://mp.weixin.qq.com/s/rt_GbqH2-M9HwQ30KkBbBQ

编辑：程博