更灵敏的人工智能将如何改变创造力

刘海明

【案例】

更灵敏的人工智能将如何改变创造力

机器智能突破的前景和风险

想象一下，一台电脑可以用更恰当的措辞来完成你的句子；或者用一段旋律来创作听起来像是你写的音乐（尽管你永远不会这样做）；或者通过创建数百行计算机代码来解决问题——这可以让您有更多的时间专注于那些更难的事情。从某种意义上说，那台计算机只是加速工业革命的动力织机和蒸汽机的后代。但它也属于一类新的机器，因为它掌握了语言、音乐和编程中的符号，并以看似有创意的方式使用它们。因此，在这一点上，与人类相似。

“基础模型”对这些工作的完成就代表了它们在人工智能，也可以说是人工智能领域上的突破。他们也承诺进行一场革命，但这一次将影响工业革命从未触及的高地位脑力劳动。无法保证未来会发生什么——毕竟，人工智能过去曾四处碰壁。但现在也是时候看看机器智能领域的下一件大事的前景和危险了。

基础模型是“深度学习”( dl) 的最新发展，该技术在十年前就已崭露头角，如今在人工智能领域占据主导地位。“深度学习”( dl )系统大致基于人脑中神经元的网络结构，使用数百万或数十亿的文本、图像或声音片段示例进行“训练”。近年来，深度学习( dl )系统的培训规模越来越大，并且它的时间和金钱成本不断膨胀，这让人们担忧该技术已经达到极限。一些人担心“人工智能”的冬天。但基础模型显示，构建越来越大、越来越复杂的“深度学习”( dl )确实会继续解锁更令人印象深刻的新功能。没有人知道极限在哪里。

由此产生的模型是一种创造性的、非人类智能的新模式。这些系统足够复杂，既能掌握语言，又能连贯地打破规则。一条狗不会因为《纽约客》的笑话而发笑，但人工智能可以解释为什么它是有趣的——坦率地说，有时《纽约客》的读者无法理解这一壮举。当我们要求其中一个模特使用这位领导人的头衔创作一幅拼贴画时，这为我们美国和亚洲版本提供了封面艺术，如图所示（我们试图用欧洲版本的不同封面分散我们焦虑的人类设计师的注意力）。

基础模型有一些令人惊讶和有用的特性。其中最令人毛骨悚然的是他们的“突发”行为，也就是说，技能(比如获得笑话或匹配情境和谚语的能力)产生于模型的规模和深度，而不是经过深思熟虑设计的结果。就像一连串的快速静止照片给人以运动的感觉一样，数以万亿计的二进制计算决策融合成一个流动的模拟物，它便于人类理解和创造力的发展，不管哲学家怎么说，它看起来很像真实的东西。即使是这些系统的创造者也对它们的力量感到惊讶。

这种智能是广泛的和适应性强的。诚然，基础模型能够表现得像个白痴，但人类也一样。如果你问谁获得了1625年诺贝尔物理学奖，答案可能是伽利略、培根或开普勒，它不知道奖项是在1901年开始颁发的。然而，它们也具有早期人工智能所不具备的适应性，也许是因为在某种程度上，在绘画、创意写作和计算机编程等不同学科中操纵符号的规则之间存在相似之处。这种广度意味着基础模型可以应用于很多领域，从通过预测蛋白质在三维空间的折叠方式来帮助人们寻找新药，到从数据集中选择有趣的图表，以及通过搜索庞大的数据库来制定答案来处理开放式问题。从而开辟新的研究领域。

这是令人欣慰的，并有望带来巨大的好处，但其中大部分还有待想象。但它也引起了人们的担忧。人们难免担心人工智能足以让创造者引以为豪的创意会变得有恶意。事实上，基础模型与好莱坞钟爱的有知觉的杀手机器人相距甚远。终结者往往专注、执着，并对他们行为产生的后果视而不见。相比之下，基础人工智能是模糊的。同样，人们对这些模型消耗的巨大能量及其产生的排放而感到焦虑。然而，人工智能正变得越来越高效，他们的见解可能对于开发那些快速向可再生能源转变的技术而言是至关重要的。

一个更深刻的担忧是关于谁控制了基础模型。训练一个真正大的系统，例如 Google 的palm，它成本远不止1000万美元，并且需要访问大量数据——计算能力越强，数据越多越好。这就引发了人们的担忧，即一种技术集中在少数科技公司或政府手中。

如果是这样，训练数据可能会以一种尤其令人窒息和不愉快的方式，来进一步加深其对世界的偏见。你会相信一个十岁的孩子吗?他对现实的全部感知都是通过上网形成的。受过中国和美国训练的人工智能系统是否会被招募到一场意识形态斗争中来改变它们的思想？在线上表现不良的文化会发生什么？

然后是访问问题。目前，最大的模型受到限制，是为了防止它们被用于恶意目的，例如制造假新闻。初创公司Open ai设计了名为dall-e 2 的模型，想试图阻止它制作暴力或色情图片。然而，公司担心滥用职权是有道理的，但这些模式越强大，对它们的准入就越有限，从而产生出新的精英。自我监管不太可能解决这一困境。

进行革命

多年来，一直有人说人工智能驱动的自动化对从事重复性日常工作的人构成威胁，而艺术家、作家和程序员更安全。基础模型对这一假设提出了挑战。但它们也展示了如何将人工智能用作软件助手来提高生产力。这种机器智能与人类不同，但提供了完全不同的东西。如果处理得好，它更有可能成为人类的补充，而不是取代人类。

来源：科技世代千高原

链接：https://mp.weixin.qq.com/s/KGLUFx5WoGaLX5geZrd7rA

编辑：邓秋雨