人工智能与新闻业案例集锦

刘海明

当代社会，技术支撑的这个世界变化有点快，算法、人工智能等技术让人眼花缭乱，新闻业也搭上了这班快车。我们不得不开始收集这方面的信息，以免被时代很快淘汰。

刘海明

【案例】

谷歌携大模型反击，生成式AI搜索功能首次面向公众开放

谷歌5月10日召开I/O开发者大会，该公司正在日益竞争的搜索市场为其核心搜索产品整合更多人工智能的功能。微软最近几个月加速了对搜索引擎Bing的更新，并获得了更多的市场份额。

周三在加利福尼亚州山景城举行的年度I/O大会上，谷歌推出了新版本谷歌搜索，可以对开放式提问做出响应。就在上周，微软也向所有用户开放了新Bing搜索功能。

发布会后，谷歌股价上涨4%，今年迄今为止，该公司股价累计上涨了26%，远超标普500指数涨幅。

今年2月，谷歌在发布聊天机器人Bard之后，导致股价暴跌，市值缩水1000亿美元。该公司最新表示，现在Bard将像OpenAI的GPT-4一样是多模态的。

“我们正在重新构想我们所有的核心产品，包括搜索。”谷歌CEO桑达尔·皮查伊(Sundar Pichai)在开发者大会上表示。

他说，谷歌正在将生成人工智能整合到搜索以及Gmail和Google Photos等产品中，Gmail可以起草邮件，Google Photos可以对图像进行更改。包括美国用户在内的谷歌在全球180多个国家地区的用户在未来几周内可通过等候名单获得搜索生成体验，谷歌称，将在试用阶段监控搜索结果的质量、速度和成本。

谷歌还更新了AI大模型PaLM 2，希望能够夺回其人工智能领导地位。该公司称这是“下一代通用的语言模型”，在某些任务上优于其他领先的AI系统。

据介绍，PaLM 2将为AI聊天机器人提供支撑，还可以在语言之间进行翻译、编写计算机代码，甚至可以分析和响应图像。 结合这些功能。例如，用户可以用英语询问有关法国餐馆的问题，系统将能够在网络上搜索法语的回答，找到答案，并翻译成英语，还能添加位置图片，为该地点创建数据库条目。

“我们现在正在经历的神经网络革命起始于大约10年前，且部分始于谷歌。”PaLM 2项目联合负责人Slav Petrov表示，“我们很高兴能够在外部广泛使用这些模型，因为我们想看看人们可以用它们做什么。我们相信，由于过去几年我们在机器学习方面取得的惊人进步，它们会提供很多机会来做以前被认为神奇且遥不可及的事情。”

在微软支持的初创公司OpenAI推出ChatGPT之后，谷歌正在加速追赶，这也推动了科技巨头之间的新一轮技术竞赛。生成式AI可以使用过去的数据创建全新的内容，例如完整的文本、图像和软件代码。ChatGPT已成为许多生成AI的默认版本，帮助用户创建合同、旅行路线，甚至小说。

谷歌正在奋力捍卫搜索市场以及巨大的在线广告市场的份额。研究公司MAGNA估计，谷歌广告营收今年可达2860亿美元。

为了安抚人们对于人工智能生成虚假信息的担忧，谷歌称将优先考虑信息的准确性，并引用可信来源。谷歌还推出一项新功能，将标记它用人工智能生成的图像，从而让人们更容易审查图片的真实性。

谷歌强调，利用大型语言模型AI生成内容的一个挑战是高昂的费用。目前业内正在研究各种不同的方法，从而降低成本。

来源：第一财经

链接：

https://baijiahao.baidu.com/s?id=1765568142515582479&wfr=spider&for=pc

编辑：洪韵

刘海明

【案例】

美国媒体大亨警告称AI可能“破坏”新闻业

美国媒体业亿万富翁巴里·迪勒(Barry Diller)警告称，除非出版商能够利用版权法加以控制，否则人工智能将对新闻业造成“破坏性”影响。迪勒表示，自由允许人工智能访问媒体内容将被证明是一个错误，“合理使用”的概念——可用于涵盖机器学习数据集中受版权保护的材料——需要重新定义。如果有必要，他愿意修改版权法。

来源：全球TMT

链接：https://baijiahao.baidu.com/s?id=1765570912647689951&wfr=spider&for=pc

编辑：洪韵

刘海明

【案例】

ChatGPT 是“胡话”生成器，但仍非常有用

本文最初发布于 AI Snake Oil。

哲学家 Harry Frankfurt 将“胡话（bullshit ）”定义为不考虑真相而旨在说服别人的言论。按照这个标准，OpenAI 的新聊天机器人 ChatGPT 是有史以来最能胡扯的。

大型语言模型（LLM）经过训练后可以生成貌似合理的文本，而不是正确的陈述。只要是你能想到的话题，ChatGPT 听起来都令人信服，它非常擅长这一点。

但 OpenAI 很清楚，训练过程并没有包含真相来源。也就是说，在教育或回答健康问题之类的应用程序中，以目前的形式使用 ChatGPT 不是一个好主意。尽管机器人经常能给出很好的答案，但有时也会完全失败。它总是很有说服力，所以很难区分。

不过，虽然在一般情况下，ChatGPT 和其他 LLM 都无法辨别真相，但在以下三类任务中，它们非常有用：

1、用户很容易检查机器人的答案是否正确的任务，例如调试帮助。

2、与真相无关的任务，比如写小说。

3、可以将实际存在的训练数据子集作为真相来源的任务，例如语言翻译。

4、让我们开始吧。先是坏消息，再是好消息。

准确性在许多应用中都至关重要

ChatGPT 是迄今为止最好的聊天机器人。不久前，它生成了一些奇奇怪怪的文本，比如解释如何从录像机中取出花生酱三明治……按圣经的风格。

但人们对更严肃的应用场景也很感兴趣，比如将其用作学习工具。有些人甚至预测，谷歌将变得多余。是的，ChatGPT 通常非常擅长回答问题。但危险在于，除非你已经知道答案，否则你无法判断它什么时候是错的。

我们试着提了一些基本的信息安全问题。在大多数情况下，答案听起来似乎是合理的，但实际上是胡扯。下面是一些更复杂的问题：

（阅读原推文：https://twitter.com/random_walker/status/1598385725363261441）

关于 ChatGPT 和教育，还有一个说法：大学注定要消亡，因为 ChatGPT 可以写论文。这样说很愚蠢。是的，LLM 可以写出似乎合理的论文。但是，家庭作业论文的消亡对学习而言是件好事！我们在一个月前写过一篇文章，最近也没什么实际的变化。

搜索呢？谷歌的知识面板已经因权威地提供错误信息而臭名昭著。用 LLM 取代它们可能会让事情变得更糟。Chirag Shah 和 Emily Bender 的一篇论文探讨了用 LLM 取代搜索引擎后会出什么错。

事实上，这些模型无法辨别真相，这就是我们说 Meta 面向科学的大型语言模型 Calactica 考虑不周的原因。在科学领域，准确性很重要。它很快就遭到了强烈的抵制，公开演示三天后被撤下。类似地，如果你想使用 LLM 回答与健康相关的查询，那么正确性和可靠性就是一切。

但这些模型改进得不是很快吗？

当然可以。但他们听起来令人信服的能力也在迅速提高！因此，我们怀疑，即使是专家也越来越难以发现错误。

事实上，像 Galactica 和 ChatGPT 这样的模型非常擅长按任何要求的风格生成听起来权威的文本：法律语言、官场语言、Wiki 页面、学术论文、课堂笔记，甚至问答论坛的答案。这产生的一个副作用是，我们不能再根据文本的形式来衡量其可信度和合理性。

StackOverflow 吃了不少苦头。在网站上，用户回答编程问题就可以获得积分，积分可以带来特权，包括减少广告和使用版主工具。在 ChatGPT 向公众公开发布后，问答论坛收到了数千个使用 LLM 生成的错误答案。但因为这些答案的书写风格是对的，所以必须经过专家审查才能删除。不到一周，该公司就不得不禁止使用 ChatGPT 生成的答案，以减少听起来似乎正确的错误答案。

除非 LLM 响应的准确性可以提高，否则我们推测，它在应用程序中的合理应用仍然会比较有限。请注意，GPT-3 已经有两年半的历史了。我们听到的是，这个领域每周都在进步，所以两年半就像几个世纪一样。当它发布时，人们满怀信心地预测，相关应用程序将出现“寒武纪大爆发”。但到目前为止，除了 GitHub Copilot 之外，还没有一个主流的应用程序。

准确性问题并非毫无希望。有趣的是，LLM 似乎在学习让人信服的过程中获得了一些辨别真相的能力。当研究人员要求 LLM 评估自己提出的答案的准确性时，它比随机应变地判断要好得多！为了提高生成答案的准确性，研究人员正在将这种能力整合到聊天机器人的默认行为中。

同时，下面有三种 LLM 非常适用的任务。

编码：用户可以查看基本事实

调试代码是一种可以让程序员（尤其是新手）从 LLM 中受益的应用。在这种情况下，LLM 指出的错误通常很容易验证，所以即使机器人的答案可能有时是错的，也不是一个太大的问题。

（阅读原推文：https://twitter.com/amasad/status/1598042665375105024）

生成代码很复杂。理论上，用户可以验证自动生成的代码是否有 Bug（可能在 LLM 的帮助下）。但目前还不清楚，这是否会比手动编码更快。安全漏洞是一个特别严重的问题。去年的一项研究发现，Copilot 生成不安全代码的概率为 40%。他们没有将这一数值与人类程序员进行比较，也没有就是否使用 Copilot 以及何时使用 Copilot 合适提供建议，但从结果中明显可以看出，需要谨慎使用。

Copilot 旨在提高专家的工作效率。那些不会编码的用户呢——他们能使用人工智能工具生成简单的脚本吗？这方面的承诺有很多。这里有一个小实验：

（阅读原推文：https://twitter.com/random_walker/status/1599430575102001153）

使用 LLM 生成代码是一个活跃的研究领域。在提高代码生成的正确性以及减少 Bug 出现的频率方面，还有很大的改进空间。这是一个令人兴奋的领域。

娱乐：真相无关紧要

ChatGPT 在上周已经成为了一种娱乐。从编写关于特定人物的笑话，到用智者快言快语的风格解释算法，人们发现了这个工具的许多创造性用途。但是，我们是否可以将 ChatGPT 用于更有野心的项目，比如写小说？

LLM 还远不足以生成长篇文本，比如整部小说，因为它们一次只能存储少量的词元。尽管如此，作者和研究人员仍在尝试用它们来获得创意，扩展思路，以及改变文本的风格（例如，“重写这段文本，使其更像狄更斯写的”）。交互式小说游戏如 AI Dungeon 使用 LLM 基于用户输入充实故事情节。我们认为，在这一领域继续改进不存在什么根本性的障碍。

同样，文本转图像和图像转图像工具也非常适合娱乐，因为创作者可以调整提示信息，直到得到他们喜欢的图像。在最近兴起的应用程序 Lensa 中，用户只要上传几张自拍照，它就能生成各种风格的肖像。它后台使用了 Stable Diffusion，这是来自 Stability AI 的一个开源图像生成模型。

先不要得意忘形：种族主义、性别歧视和有偏见的输出仍然是所有生成模型（包括 ChatGPT）都面临的一个问题。该模型包含一个内容过滤器，可以拒绝不适当的请求，相对于以前的工具来说，它的效果已经足够好，感觉上有很大的改进，不过仍然有很长的路要走。

翻译：利用了潜在的真相来源

值得注意的是，GPT-3 的效果与专用语言翻译模型大致相当，ChatGPT 可能也一样。可能的原因是它可以利用语料库中的基本事实（大致包含网络上的所有文本）。例如，有些网页被翻译成多种语言。当然，在训练过程中，并没有显式的标签告诉模型哪些文本彼此对应，但模型很可能可以自动发现这一点。

目前，如果效果差不多，似乎也没有什么理由说聊天机器人会比谷歌等现有的翻译工具更好。一种可能性是，当两个说不同语言的人进行对话时，像 ChatGPT 这样的工具可以扮演传译员的角色，其优点是，在对话中使用的工具可以跟踪对话。这使它能够参考上下文，更有效地完成翻译，并且对用户来说不那么尴尬。

结论：现在判断它是否具有变革性还为时过早

依托精心挑选的可以像病毒一样传播的例子，生成式 AI 的发布往往让人觉得印象深刻。但这还不是事情的全部。对于许多应用程序来说，即使是 10% 的失败率也太高了。似乎只有在相当有限的一组用例中，缺乏真相来源才不算是什么大问题。虽然这些用途仍然非常令人兴奋，但是，似乎还没有什么迹象表明，人们很快就会在日常生活中使用聊天机器人——用于学习，或作为搜索引擎替代品，或作为交谈对象。

与此同时，我们已经看到，LLM 的第一个突出应用是生成错误信息（Stack Overflow）。当然，垃圾邮件发送者已经在使用 GPT-3 进行搜索引擎营销，他们很高兴拥有 ChatGPT。但是，正如关于转型的预测被夸大了一样，我们不同意网络将很快淹没在错误信息的海洋中这样的说法。

我们期待看到人们创造性地使用 LLM，我们也对炒作和常见的自助服务 AGI 话题感到不安。

声明：本文为 InfoQ 翻译，未经许可禁止转载。

原文链接：

https://aisnakeoil.substack.com/p/chatgpt-is-a-bullshit-generator-but

来源：AI前线

链接https://mp.weixin.qq.com/s/R_VjXDTTU5T3IsfaXYJxGA

编辑：程博

刘海明

【案例】

堪比核战和疫情！Sam Altman等350位大佬发出警告，AI监管成共识

随着人工智能的高速发展，其可能带来的风险也引发广泛关注。

继此前马斯克等千人签署公开信，呼吁暂停AI开发六个月后，近期，OpenAI首席执行官Sam Altman等多位行业专家又来提示风险。

350名行业高管和学界大拿发出警告

当地时间5月30日，非营利组织人工智能安全中心（CAIS）发布一封公开信，信中只有一句简单有力的话：减轻AI（给人类）带来的灭绝风险应成为全球性的优先事项，与大流行病及核战争等其他影响社会的大规模风险处于同等级别。

该信的签署者多达350名行业专家和企业高管，包括OpenAI首席执行官Sam Altman、DeepMind首席执行官Demis Hassabis、Anthropic首席执行官Dario Amodei以及微软和谷歌的高管等。

学界上，2018年图灵奖获得者、“人工智能教父”Geoffrey Hinton和Yoshua Bengio位列其中。

此外，签署者还包括中国工程院院士、清华大学智能产业研究院（AIR）院长张亚勤，中国科学院自动化研究所人工智能伦理与治理研究中心主任曾毅，清华大学副教授詹仙园等中国学者。

AI监管成共识

目前来看，AI可能带来的风险已经受到世界各国和各界的重视。此前，意大利等国家对ChatGPT发起监管，暂停其的使用。而且，欧盟正在推进《AI法案》，对AI形成监管。

对此，Sam Altman曾威胁离开欧洲。他在伦敦大学学院的一个小组会议上说：“我们将努力遵守，如果我们能遵守，我们会的。如果不能，我们将停止运营。”几天后，他又改口称，OpenAI没有离开欧洲的计划。

美国方面，本月早些时候，Sam Altman会见了美国总统拜登，并在参议院司法委员会作证，要求加强对AI行业的监管。

他在作证时说：“我最担心的是我们会对世界造成重大伤害。如果AI出了问题，那这个问题可能就会很大。”

上周，他还与OpenAI的另外两位联合创始人发表的一篇博客文章，呼吁进行三项重大改革，包括加强世界各地人工智能开发者之间的协调，以及创造一种可以控制人工智能创造的潜在“超级智能”先进技术。

他还鼓励成立一个结构类似于国际原子能机构的人工智能技术全球监管小组，有权检查系统、要求审计和测试是否符合安全标准。

来源：腾讯新闻（格隆汇）

链接：https://view.inews.qq.com/k/20230531A01Q7A00?no-redirect=1&web_channel=wap&openApp=false&uid=&shareto=&openwith=wxmessage

编辑：程博

刘海明

【案例】

新闻速递 | 我院院长方兴东教授率队参加EuroDIG并发表主题演讲

6月19日至6月21日，来自IGF、ICANN、Microsoft 、Internal Affairs and Communications、ISOC Foundation、Scientific Cyber Security Association等的400多名国际机构负责人、专家、学者参加了在芬兰坦佩雷大学举行的欧洲网络治理对话（Euro DIG）。乌镇数字文明研究院院长方兴东教授、首席专家吴飞教授和钟布教授受邀参会。

被称作“浓缩版”的联合国互联网治理论坛（IGF），EuroDig参会专家来自全球各地，围绕全球数字契约、全球AI治理、互联网碎片化、俄乌冲突等多个议题， 进行了广泛而深入的研讨。

作为欧洲网络治理对话（EuroDIG）的会议议程之一，在乌镇数字文明研究院和浙江大学国际传播研究中心联合主办的“中欧数字互信”工作坊上，我院院长方兴东教授、首席专家吴飞教授和钟布教授分别就中欧数字互信、数字共通、全球数字互信三个主题做了主题发言，吸引了各国专家到场参与讨论。

参加工作坊的丹麦奥胡斯大学Wolfgang Kleinwaechter教授在发言中强调协作与合作的重要性，认为数字互信需要国家、企业和个人之间的协作。保护数字基础设施、数据和隐私对于促进互信至关重要。持续的技术创新以及共同标准的制定在建立数字互信方面起着重要作用。意大利Rai for the Next Generation EU的Giacomo Mazzone提出，意大利公共广播公司Rai等机构应积极拥抱数字转型，以适应不断变化的媒体环境，并通过数字平台与受众进行互动。德国Knowledge Dialogue的Waltraut Ritter表示，希望中国的专家学者和各界人士积极参与IGF的会议及活动。

在工作坊上，方兴东教授表示，没有数字互信，就没有数字时代。随着数字技术的发展，全球越来越紧密地联结在一起，国与国的数字互信问题日益凸显。如今，中欧之间的数字互信面临着封闭和开放两种不同道路的选择。需要中欧进一步走出隔阂，建立多层次的有效沟通的交流体系，这是理解和互信的前提。

吴飞教授则对“数字共通”提出了自己的看法。他认为，随着全球化深入发展，“数字共通”为信息、观念、知识、文化的交流、互通、互鉴提供了基础设施保障，让各种现代化探索的路径得以共显，为开创人类美好繁荣的未来提供了现实而又充满着想象力的共享、共鸣与共通的对话空间，从而为推进构建人类命运共同体提供了更为广阔的观念基础和内生动力。

钟布教授呼吁，来自学术界的研究人员应为加强全球数字互信提供理性客观的观点。为实现这一目标，中国的研究人员应加强和提高与欧洲学者、智囊团、企业和政府的对话、信任和合作。

（三位教授发言全文附后）

建立中欧数字互信，任重而道远。我院始终致力于数字文明研究建设，促进国际社会实现数字时代的全部潜力！

三位教授发言全文：

方兴东：中欧数字互信面临的道路选择

非常高兴再次来到EuroDIG，这是我心目中质量最高的全球网络治理会议之一。在这里与大家分享数字互信的最新研究成果，无疑是很合适的。

没有数字互信，就没有数字时代。今天，大国之间的数字互信问题开始显现，不同之处只是严重程度，包括欧美之间。随着数字技术将全球越来越紧密的联结在一起，国与国的数字互信问题日益凸显。数字互信问题本身是客观的、真实的，而且还会更趋严峻。

如何解决数字互信问题，我们面临两条道路的抉择，不同的选择会带来完全不同的结局：

一条是消极防御，以隔绝、脱钩、去风险化等以更加封闭的方式来应对。这种方式短期似乎可行，但事实上，无法解决问题，更不符合长远的大势所趋，最终只会损人不利己，“挥刀断流水更流”。

而另一条道路是正视问题，积极防御，在保持非歧视、公平竞争、开放的前提下，针对信任和安全问题，建立有效的技术方案和制度体系。

只有后者才能实现数字时代全球的互联互通，才能实现双赢。如今，中欧之间的数字互信面临着封闭和开放两种不同道路的选择。多利益相关方机制应该积极发挥作用，站在人类数字文明的角度，积极推动立足长远造福全体民众的开放道路。现在需要中欧进一步走出隔阂，建立多层次的有效沟通的交流体系，这是理解和互信的前提的前提。也是我们举办今天这个会议的初衷所在。欧洲通过GDPR、数字市场法和人工智能法案等，确立了数字时代制度创新的引领性地位。相信欧洲也能为全球数字互信做出独特的贡献。

谢谢大家！

吴飞：通过数字互信达到数字共通

人类文明史从某种意义上说是一个互联互通和交互的历史，而数字互信是有效连通的基础，它可以加快信息的传递速度，提高信息的准确性和可靠性，并且方便了人们的日常生活。比如，通过互联网银行可以实现在线支付和转账，通过社交媒体可以实时交流和分享信息，通过电子商务平台可以进行网上购物等。

韩炳哲曾担心数字化的全联网和全交际（Totalkommunikation）并未使人们更容易遇见他者，而是在追求寻找到同者、志同道合者，从而导致我们的经验视野日渐狭窄。它使我们陷入无尽的自我循环之中，并最终导致我们“被自我想象洗脑”。他的担心虽然值得重视的，但并非事实的全部，因为“数字共通”不是一个声调、一个剧目展演的剧场，而是多声部的交响乐团，是每日都在更新的世间万象。“任何有限性存在都始终与其他有限性存在连接在一起，在不间断的共同显现中来到在场的”。“数字共通”就是在多元交融的“共享池”中交相辉映的无数束光，公民个人的立场与社群成员的立场共振共鸣，其承载并体现的就是社会的共通性。

“数字共通”所强调的就是存在的联结性，是彼此之共在与共显，而这种共同显现的存在本身便意味着超越独一性和拒绝同一化的姿态，也就是说“共通”不是无差异的同。这一思想是中国传统哲学思想的延伸，如老子就是将正在置于存在之上的，重视变动性和差异性，反对同一性和本质性。中国禅宗也总是站在当下，站在短暂的、细微的、平凡世界中去感悟那一片云，那一丝律动，那一束光和那独一的声音，强调在“清空”“净悟”中寻找智慧。“数字共通”的联通性体现在不同主体间、文化间交汇时的“惊叹”，这种交融共显时的“惊叹”会促进主体间的反思，意识到自己文化中的一些自明之理和“未思”之处，在不断进入他者、返回自身的往复交流中建构互惠性理解，以此通向更宽广的理解视域。

“数字共通”的共享池机制为多元参与主体的理性思考与情感交融提供了保障，（1）每一位主体的独立之思可以存在、传播并受到多元价值的批判性修正；同时，（2）每一位主体都可以在参照他者之思和在相应的应答中学习理性讨论的方法；这显然（3）有利于他们在批判、比较再批判的对话中提升理性对话的能力。尽管无论是情感上的共情还是观念上的共振都不意味着可达成共识，但这种互动关系加强了公众之间的连接性，有利于促进人类命运共同体的建构。随着全球化深入发展，知识、信息、资本、技术、人员和物资的跨国流动已是基本事实，各国各民族和各地区都处于一种相互依存的状态，这是人类命运共同体的现实境状。“数字共通”为信息、观念、知识、文化的交流、互通、互鉴提供了基础设施保障，让各种现代化探索的路径得以共显，为开创人类美好繁荣的未来提供了现实而又充满着想象力的共享、共鸣与共通的对话空间，从而为推进构建人类命运共同体提供了更为广阔的观念基础和内生动力。

钟布：增强数字互信的重要性

当今互联世界中，全球50多亿人已经联结在一起，全球数据跨境流动持续增长，这种互联带来了许多好处也伴随着极大风险。互联性的增强加强了联结、互动和合作，但也引发了紧张和冲突，需要通过合作来解决。我们应避免出于政治动机的"脱钩"或"去风险化"等助长孤立，阻碍发展和进步的做法。

《中德数字互信报告》强调数字互信的重要性以及其中所蕴含的风险。目前，中德两国在数字互嵌存在着显著的不对称关系，中国对德国的依赖远远大于德国对中国的依赖。例如，SAP在中国的ERP市场上占据主导地位，西门子在中国的PLM软件系统和工业自动化设备中也占有极大的市场份额。

面对数字时代新的风险和挑战，我们只有采取开放的积极防御，才是正确之道。通过更全面的沟通与合作，建立全新的技术和制度体系，既有效消除和降低潜在的风险和隐患，也不停止进一步加强合作与发展，至关重要，也十分紧迫。我们要站在人类共同发展的高度，更加理性、客观和务实，率先为全球建立其国与国之间有效的数字互信机制，为全球更广泛的数字互信树立典范具有非凡的意义。

来自学术界的研究人员应为加强全球数字互信提供理性客观的观点。为实现这一目标，中国的研究人员应加强与提高与欧洲学者、智囊团、企业和政府的对话、信任和合作。

      数字互信需要国际合作和多边治理机制。区域和全球层面的合作倡议、协议和框架可以促进建立信任、共享信息，从而为应对共同挑战和风险一起努力。

      如果接受以上观点，数字文明可以促进信任环境的建立，实现数字时代的全部潜力，并将相关的风险和挑战降至最低。

会议和工作坊介绍：

欧洲网络治理对话

EuroDIG（European Dialogue on Internet Governance）是一个欧洲地区的互联网治理对话平台。EuroDIG旨在为欧洲各利益相关者提供一个开放、多元和包容性的论坛，就互联网治理的关键议题展开讨论和交流。

EuroDIG的主要目标是促进欧洲各方之间的对话和协作，推动互联网治理领域的发展和合作。该平台通过年度会议和其他相关活动，为政府代表、学术界、民间社会组织、技术专家、业界代表以及其他利益相关者提供一个共同交流的平台。

EuroDIG的会议每年在不同的欧洲城市举行，会议内容涵盖了互联网治理的广泛议题，包括数字权利、隐私保护、网络安全、数字包容性、网络中立性、数据保护、网络中的言论自由等。与会代表可以通过主题演讲、小组讨论、辩论和工作坊等形式，就这些议题进行深入的讨论和交流。

EuroDIG的参与是开放的，任何对互联网治理感兴趣的个人和组织都可以参与其中。该平台鼓励多元的声音和观点，并促进欧洲各方之间的对话和合作。此外，EuroDIG还与全球互联网治理论坛（IGF）保持密切联系，并在欧洲地区推动互联网治理的发展。

通过EuroDIG的平台，欧洲各利益相关者可以共同探讨和解决互联网治理领域面临的挑战，推动互联网的发展和使用符合欧洲价值观和利益的方向。同时，EuroDIG也为全球互联网治理进程提供了一个欧洲地区的声音和观点。

“中欧数字互信”工作坊

美国和中国之间正在进行的技术冲突对中国和欧洲之间的网络信任和合作产生了重大影响。在今天的数字时代，网络空间的相互信任对于中国和欧洲之间的成功合作至关重要，不仅在信息和通信技术领域，而且在经济、政治和文化领域。

自20世纪80年代以来，像诺基亚、爱立信、SAP EPR、西门子和欧洲半导体制造商这样的公司在中国的信息技术领域发挥了举足轻重的作用，并继续成为中国国民经济关键领域的关键参与者。同样，中国的信息和通信技术应用，如华为和中兴通讯设备、联想的个人电脑和ByteDance的TikTok，正越来越多地在欧洲出现。在数字技术推动全球发展的世界里，缺乏互信会带来严重后果。

中国和欧洲必须积极努力，通过技术和制度合作加强数字信任。他们可以通过建立交流和沟通机制，成为全球数字信任的典范，为世界树立一个榜样。

数字信任的基础在于建立强大的交流和沟通机制，特别是通过以学术为基础，客观、理性、理论丰富的深度对话。我们的目标是将学者、政策制定者和行业参与者等利益相关者聚集在一起，就这一相关的当代问题进行讨论，为在全球范围内促进数字信任作出贡献。

来源：乌镇数字文明研究院

链接：https://mp.weixin.qq.com/s/dOlOm3u8luTzM6XVXAqKbw

编辑：洪韵

刘海明

【案例】

AI革命：专业服务、电影制作和编码三大行业的机遇与挑战

人工智能（AI）是当今时代最具颠覆性的技术之一，它正在改变着各个行业的运作方式和竞争格局。在专业服务、电影制作和编码等领域，AI不仅提高了效率和创新，也带来了新的机遇和挑战。

专业服务行业，如律师、会计师等，传统上依赖于人力和经验来处理大量的数据和文档。AI工具，如Harvey，可以根据Open AI最新模型版本建构的AI平台，帮助专业人士快速获取和分析法律、财务或其他信息，节省时间和成本，提升服务质量和客户满意度。然而，AI工具也可能威胁到初级员工或实习生的工作机会，或者降低专业人士的核心竞争力和价值。

电影制作行业，是艺术与科技的结合。AI技术，如数字替身、语音合成、面部捕捉等，可以增强电影的视觉效果和声音表现，拓展创意空间和市场潜力。例如，AI可以使配音技术扩大至外语电影，或者让演员在不同的场景和角色中出现。但是，AI技术也可能引发版权、道德和职业安全等问题。例如，编剧担心AI取代他们的创作，演员担心AI侵犯他们的形象权，配音员担心AI导致他们失业。

编码行业，是软件开发和维护的基础。AI技术，如ChatGPT等工具，可以协助编码人员撰写、修改和测试程式代码，提高编码质量和速度。此外，生成式AI聊天机器人还可以分析现有编码，并找出可能存在的错误或漏洞，增强系统的安全性和稳定性。但是，AI技术也可能导致编码人员失去对代码的掌控和理解，或者降低编码人员的创造力和专业水平。

综合来看，AI革命对专业服务、电影制作和编码三大行业都有积极和消极的影响。如何利用AI技术的优势，同时应对AI技术的挑战，是这些行业面临的共同课题。

来源：最资讯

链接：https://baijiahao.baidu.com/s?id=1769128199299788550&wfr=spider&for=pc

编辑：洪韵

刘海明

【案例】

普华永道发布《2023元宇宙展望》报告！

2023年，元宇宙以及企业下一步的发展方向依旧是行业热议话题。普华永道根据自身洞察和经验作出如下六大展望，以期为商业领袖们提供引导。这些展望包括元宇宙接下来将应用于哪些领域、哪些技术可能会发展得最快、商业领袖应如何行动以使企业规避风险等等。简而言之，元宇宙尚未完全进入黄金时代，但当下已经开始创造真正的商业价值，并为企业重塑未来做好准备。

普华永道全球科技、媒体及通信行业主管合伙人周伟然表示：“虽然目前元宇宙仍处于概念阶段，但与其相关的众多概念已经和各种业务产生关联。在中国市场，跨行业的技术与业务创新也正在促成逐渐繁荣的元宇宙产业格局。元宇宙经济发展、元宇宙建设与运营，均涉及复杂的技术体系和生态资源，如互联网、物联网、5G/6G通信、人工智能、区块链、增强现实、虚拟现实和云计算等各类关键技术要素，在元宇宙发展过程中，也必将拉动壮大这些相关技术领域的市场规模。同时，元宇宙也将推动了由不同利益相关方（政府、产业园区、行业协会、学术研究）和参与者（元宇宙内容与服务业、其他行业）组成的巨大生态系统的发展。根据一些全球研究机构预测，到2030年，元宇宙将开启价值8至13万亿美元的新业务机遇，市场前景非常广阔。”

1. 商业经营者将成为元宇宙的超级用户

越来越多的企业开始探索在元宇宙中模拟实体运营。例如，零售商可以创建数字实体店，让顾客和员工以虚拟的方式尝试交互，来提高满意度和销量。餐饮业经营者在厨房布局和座位设计上也可以进行同样的尝试。制造商可利用元宇宙的新数据增强数字孪生模型，从而改进其供应链、生产和物流。

普华永道预计，未来几年会有更多元宇宙特有的产品和服务来搭建消费者与商业元宇宙之间的桥梁，例如：以虚拟角色组建的客服中心、金融教育、远程医疗以及完全沉浸式的全新商业体验等。

普华永道建议:将元宇宙投入实际应用最有效的开始方式，是将元宇宙计划与具体、可衡量的业务成果结合起来。目前，元宇宙可以实现的成果通常包括品牌建设和客户参与、多样化且不断增长的收入流、员工赋能和流程优化等等。在设定目标后，可根据需要开发新功能，例如元宇宙特有的定价和伙伴关系策略，或新的运营模式和管理方法。同时，也应利用控制测试、项目管理和绩效监控等措施来保证元宇宙计划的有效实施。

2.元宇宙的成败取决于可信度

元宇宙计划的成败将更多地取决于可信度，而不是功能。元宇宙并不需要全新的风险管理方法。相反，通过对现有方法进行适当调整，可以实现对新风险的管控，增强可信度。要负责任地使用元宇宙，应从六个方面考量新的可信和风险因素，涵盖经济效益、数据、治理（包括网络安全）、数字身份、用户体验和自持续性（如果弃之不用，则不会影响元宇宙的持续演化）。

普华永道建议:管理元宇宙风险的指导原则是确保在前期和整个过程中融入可信度设计：如果企业在元宇宙计划的设计阶段就将风险管理纳入其中，那么后期有可能避免付出昂贵代价。其他主要原则包括：

提升管理层认知技能，如果管理层对元宇宙缺乏足够的了解，会为制定元宇宙战略决策带来风险；

创建针对自身企业及其元宇宙计划的风险分类；跨领域协作，考虑到在元宇宙环境下，许多跨职能和跨业务线的协作方式均存在风险性

3.人工智能和扩展现实（VR）将协同助力元宇宙推动转型

VR是一项极具吸引力且实用的技术。企业已将其用于入职、培训、部门协作、客户体验等方面。当然还有其他通往元宇宙的途径，比如增强现实（AR）设备、笔记本电脑和智能手机。

普华永道相信，人工智能（AI）不仅将成为元宇宙的基础性技术，同时还具有变革性。就像在当今互联网上用户无需成为程序员也能设计网页，无需成为技术专家也可以创建一个元宇宙空间。AI也会不断地赋能“虚拟数字人”（计算机生成的虚拟人），也许还能激励人们与虚拟人进行互动，就像与真人互动一样。

当然，AI的发展不仅会带来新的风险，还会加剧既有风险，包括潜在偏见、深度造假和滥用体验。几乎可以肯定，AI也会引发新的合规挑战。例如，个性化算法在一定程度上会减少人们在信息消费中付出的成本，但围绕算法推荐机制下的信息茧房效应，中国已经产生了热烈的讨论，包括主流媒体、知名学者都卷入了这场讨论，并对监管方向调整产生了影响。目前看来，多个地区可能会针对AI制定适用于元宇宙的新法规。

普华永道建议:在元宇宙中推进AI发展的更优办法是部署负责任的AI，使其能恰如其分地完成各项需求。AI在元宇宙中的发展还可能会带动数据策略和治理更广泛的升级。毕竟，大多数企业不仅没有准备好借助AI充分利用元宇宙所带来的数据机遇，甚至也没有充分意识到从已有的数据中可能找到的价值。这或许意味着，“技术中立”这一理念在未来或许会受到挑战，“向善”价值观下产生的技术，或许会是一个更好的选择。

4.元宇宙将成为每一位管理者的必由之路

元宇宙可能很快会触及企业的方方面面。在普华永道的元宇宙调研中，82%的受访高管预计元宇宙计划将在三年内成为其业务活动的一部分。随着元宇宙变得无处不在，每一位高管都应该在元宇宙的发展过程中发挥作用——尤其一些非技术型高管更加关键。可能催生的一些新职责包括：

首席执行官和董事会：制定战略优先事项，为客户和员工不断变化的期望做好准备，并提前应对新的威胁和风险。

首席运营官（COO）：帮助部署新工具和技术。

首席营销官（CMO）：重新思考沉浸式数字世界的客户参与、体验设计和品牌建设。

首席财务官（CFO）：关注数字资产（如加密货币和NFT）在元宇宙中日益增长的使用；了解参与处理关键交易的新第三方；仔细评估投资配置，并加强对财务报告的控制。

首席人力资源官（CHRO）：部署元宇宙工具，使之应用于员工招聘、入职、培训、连接和协作。

税务领导者：遵守快速变化的规则，发现新的税务价值。这些非技术型高管不仅需要彼此密切合作，还要与首席数字官、首席创新官、首席信息官和首席信息安全官合作，创建并维护企业的元宇宙基础设施、体验和数据管道。

普华永道建议:许多团队需要提升技能（如上所述），但这还远远不够。为了避免众多高管间的工作出现冲突和交叉，可以考虑任命一位高管来管理企业元宇宙相关的所有活动。该角色可以是一个新设立的职位，也可以在现有职位上兼任。无论以何种方式，首要任务之一即是加强高管之间的沟通。

5.元宇宙将成为一股“向善”的力量

对于支持并日益重视ESG（环境、社会及治理）倡议的企业，元宇宙可以成为将会提供更多助力。例如，元宇宙会议可以取代一些面对面的会议，从而减少商务旅行的碳排放，而商务旅行正是碳排放的主要来源之一；元宇宙中的数字孪生技术可以帮助提高企业运营能耗效率；元宇宙中的店铺可以让消费者试用实体产品的数字复制品，减少退货产生的运输需求；通过数字代币，元宇宙可以帮助原材料溯源，减少供应链中的环境问题。

通过将更多的业务虚拟化，即打破地理空间和工作地点的限制，企业可以接触并招募更多的员工。元宇宙的真实模拟可方便邀请各地的责任相关方监督、参与并从事相关工作，帮助改进企业履职能力，提升透明度。不过，要让元宇宙成为改进企业工作的积极力量，还需要企业下定决心才能实现。

普华永道建议:要使元宇宙计划成为一股“向善”的力量（以及实现ESG目标的有力助手），企业需要遵照和风险管理相同的指导原则：从一开始就将其设计在这些优先事项中。如果在元宇宙计划早期就已嵌入了ESG目标（包括多样性目标）和相关管理，那么企业不仅能够为未来做好准备，还可能会获得投资者、员工和其他利益相关者的支持，但这需要一些方法来衡量和报告元宇宙计划及关键性元宇宙赋能技术对ESG的影响。

6.企业将争夺过去不曾需要的新技能

任何新技术都需要新的技能，但是元宇宙及其相关科技需要的技能更为高度专业化，其中一些在几年前几乎都不存在，例如监控和验证交易的需求，收集和保护Web3生态系统中数据的需求，后者随着元宇宙应用的增加而不断增长。许多企业领导者也对网站设计师和互联网用户体验专家的需求持怀疑态度，大多数人甚至没有考虑网络运营所需的全新的网络安全和数据科学技能。很多技能已然日趋紧缺，因此在获得或培养这些技能方面事不宜迟。

普华永道建议:在中国市场上，由于网络游戏等元宇宙相关行业的快速发展以及涨落，拥有元宇宙相关技术能力的人才也在不断外溢；如何抓住这些人才红利，一方面需要企业高管对自身的元宇宙价值定位、业务发展思路有前瞻性的决策，从而为这些人才创造发挥的空间，同时，打造企业文化，吸引和包容富有创造力的尖端技术专家也至关重要。

为数字现实的新一轮发展做好准备

普华永道的六大展望，旨在从专业视角看到元宇宙正处于变革时代：数字世界和实体世界将比过去更完全、更无缝地结合在一起。将实体身份与数字身份、产品和资产相结合，将其引入至不同平台，或分享或出售不同的组合…这些操作将比以往更加具有可行性。鉴于此，企业应该从现在开始，在探索元宇宙的道路上先行一步，让未来在元宇宙的世界大有可为。

来源：新浪新闻

链接：https://mbd.baidu.com/ma/s/DH7TX3XS

编辑：洪韵

刘海明

【案例】

Meta首席AI科学家：AI还不如狗聪明，不会接管世界

毫无疑问，当前的 AI 仍存在一定的局限性。

AI 还不如狗聪明？

近日，Meta 首席人工智能科学家杨立昆（Yann LeCun）在法国巴黎举行的 Viva Tech 大会上被问及人工智能的当前局限性。他重点谈到了基于大型语言模型的生成式人工智能，表示它们并不是很智能，因为它们仅仅是通过语言训练的。

杨立昆表示，当前的人工智能系统智力水平不及人类，甚至还不如一条狗聪明。“这些系统仍然非常有限，它们对真实世界的底层现实没有任何理解，因为它们纯粹是基于大量的文本训练的。” “人类知识的大部分与语言无关……所以，人工智能并没有涵盖人类经验的那一部分。”

杨立昆补充说，现在一种人工智能系统可以通过美国的律师资格考试，也就是成为律师所必需的考试。然而，他说人工智能无法装载洗碗机，而一个 10 岁的孩子可以在 “10 分钟内学会”。

杨立昆表示，Meta 正在致力于训练人工智能从视频中学习，而不仅仅是从语言中学习，这是一项更具挑战性的任务。

在另一个当前人工智能局限性的例子中，杨立昆举例称一个 5 个月大的婴儿看到一个漂浮的物体，并不会想太多。然而，一个 9 个月大的婴儿看到这个物体会感到惊讶，因为它意识到物体不应该漂浮。

杨立昆表示，我们“不知道如何在今天用机器来复制这种能力。在我们能做到这一点之前，机器不会有人类水平的智能，也不会有狗或猫的智能水平。”

还有必要将 AI 视作威胁吗？

人工智能的快速发展引发了部分技术人士的担忧，有人认为，如果不加以控制，这项技术可能对社会构成危险。特斯拉首席执行官马斯克更是表示，人工智能是 “对文明未来最大的风险之一”。

前段时间，人工智能安全中心（CAIS）发布了一份由 OpenAI 及 DeepMind 高管、图灵奖获得者及其他 AI 研究人员签署的简短声明，警告称他们的毕生成果可能会毁灭全人类。声明内容只有一句：“应该像对待包括流行病和核战争等其他全球性迫切社会问题一样，缓解 AI 引发的灭绝性风险。”CAIS 表示，这份声明希望讨论“AI 所带来的广泛且紧迫的风险”。

在声明上签字的名人包括图灵奖获得者 Geoffery Hinton 和 Yoshua Bengio、OpenAI CEO Sam Altman、OpenAI 首席科学家 Ilya Sutskever、OpenAI 首席技术官 Mira Murati、DeepMind CEO Demis Hassabis、Anthropic CEO Dario Amodei，以及来自加州大学伯克利分校、斯坦福大学和麻省理工学院的多位教授。

在 Viva Tech 大会上，法国经济学家和社会理论家 Jacques Attali 在谈到相关话题时也对 AI 风险表示担忧，Attali 认为，AI 的利弊取决于其使用方式。

“如果你使用人工智能来开发更多化石燃料，那将是可怕的。如果你使用人工智能来开发更多可怕的武器，那也将是可怕的，”Attali 说，“相反，人工智能对于健康、教育和文化可能是令人惊人的。”

Attali 对未来持悲观态度，他说：“众所周知，人类在未来三到四十年面临许多危险。”他指出气候灾难和战争是他最担心的问题之一，还提到他担心机器人 “会对我们进行反叛”。

而杨立昆则有不同的观点，杨立昆的态度比较乐观，他认为将来会有比人类更聪明的机器，这不应被视为一种威胁。“我们不应该把这视为一种威胁，我们应该把这视为一种非常有益的事情。每个人都将拥有一个比自己更聪明的人工智能助手……它将像一个员工一样，在你的日常生活中为你提供帮助，”杨立昆说道。

杨立昆补充说，这些人工智能系统需要被创建为“可控制的，基本上服从人类”。他还驳斥了机器人会接管世界的观点。“科幻小说中流行的一个恐惧是，如果机器人比我们聪明，它们将想要接管世界……聪明与是否想要接管之间没有关联，”

来源：AI前线

链接：https://mp.weixin.qq.com/s/0K7o0Q0-sTjionSKUJ-_dw

编辑：洪韵

刘海明

【案例】

邓建国 | “延伸的心灵”和“对话的撒播”：论作为书写的ChatGPT

摘要

媒介技术既是“毒药”也是“良药”（pharmakon）的矛盾观念由柏拉图在《斐德罗》篇中最先提出。ChatGPT也具有这样的矛盾性：一方面，它作为“延伸的心灵”将和书写（文字）一样在与人类的合作共创中实现两者心灵的共同演化；另一方面，它号称“对话性”人工智能，但仍具有书写的撒播和他者特点。在与ChatGPT的互动中，我们要避免使其沦为海德格尔笔下闲言不断的“常人”，并宽容、珍惜、庆幸和受益于它的“他者性”。在不断的相互学习和合作中，人类将会对“何为人性和创造性”有更深的认识，并与人工智能一起找到各自的生态位

关键词

ChatGPT；延伸的心灵；书写；对话；撒播

在今天“短视频为王”的时代，书写（writing）[1]似乎已成为一种失落的艺术。各互联网平台都要求博主们将知识可视化、口语化和网感化，“因为这样Z世代网民才会喜欢”，这导致网络中充斥支离破碎、逻辑混乱、幼稚化和粗俗化的语言。大学校园中，学生很难写明白一句话、一段话，遑论一篇论文。书写这一人类“延伸的心灵”正在消亡吗？在我们担忧之际，ChatGPT横空出世，影响广泛，用行动向我们大声宣布了书写的坚实地位。本文先介绍“延伸的心灵”理论和其最早的范例——语言和书写，然后通过一个“人—机内容共创”的实例描述和分析ChatGPT这一最新和最强大的“延伸的心灵”对人类写作的深刻影响。最后，文章分析了ChatGPT以对话为表象的撒播和他者性。结论认为，ChatGPT作为人体心灵的延伸，具有“毒药—解药”双重性。我们要宽容、珍惜和受益于越来越多的人工智能体的他者性，在人机互动中最终找到人和人工智能各自的生态位。

一、“延伸的心灵”：语言和书写

（一）“延伸的心灵”理论

格里高利·贝特森（Bateson，2000：318）曾经设想了一个思想实验：“假设我是一个盲人，手拿着一根拐杖，一步步点地前行。这时，‘我’始于何处呢？是以‘我’的皮肤作为边界？还是可以将拐杖纳入‘我’？如果是后者，又该以拐杖的多少为边界呢，以我握着它的那部分？以我的力量能传导到的部分？还是以全部拐杖？”这里贝特森涉及的是心灵哲学中的一个经典问题——如果我们的心智（mind）始于大脑，它止于哪里？外部世界又始于何处？同样，我们也可以问：当我使用智能手机时，我的世界始于何处？止于何处？

对以上两个问题的传统回答是：盲人或手机用户的身体是其边界，与拐杖和手机无关。但1998年，哲学家安迪·克拉克和大卫·J.查默斯（Clark & Chalmers，1998）认为，盲人的拐杖构成了他的内在思维与外部世界相互合作的一个互动系统。此时，盲人的心灵、身体、拐杖和外部世界之间的边界被持续地协商，从而完成一个功能性目标——稳定地行走。两位学者将拐杖称为盲人的“延伸的心灵”（the extended mind）。以此类推，他们认为如今我们每天不离手的智能手机也是我们延伸的心灵（Clark，2003：198）。

他们还举例说明。奥拖（Otto）是一名老年痴呆症患者，为避免在外迷路，他总是随身带着一个小笔记本记录信息。现在他查了笔记本后，知道了纽约曼哈顿53街的大都会博物馆地址。此时，这个笔记本虽然外在于奥托的大脑，但从功能上它和奥托脑中的记忆一样稳定存在且可供随时调用，奥托既可以用笔记本来进行他内部的认知活动，也可以用它来指导他外部的肢体行动。因此，笔记本是奥托的“延伸的心灵”。在这两位学者看来，语言、文字、图表、算术和书写技术都如脚手架一样能“延伸我们的心灵”，我们在使用这些“文化人工物”时就像使用自己的大脑和身体一样。这意味着，人类总的来说是“生物—技术的混合体”（bio-technological hybrids），人的认知过程也包含了技术，它远远超出了人的头骨和皮肤所限定的范围（Clark，2001：121-145）。

“延伸的心灵”这一概念让媒介研究者感觉很熟悉。20世纪60年代，马歇尔·麦克卢汉就提出了“媒介是人体的延伸”这一命题。他指出，机器延伸了我们的身体，基于“电”（electric）的信息和通信技术则延伸了我们的意识/心灵。他说：

“在这个电的时代，我们看到自己越来越多地被转化为信息形式，朝着‘意识被技术所延伸’的方向迈进。……通过电子媒体，我们将身体置于我们的扩展的神经系统中，由此建立了一种动态，通过这种动态，所有以前的技术——那些是我们手脚的延伸和身体热量控制的延伸的技术，我们身体的所有此类延伸，包括城市——将被转化为信息系统。”（McLuhan，1994：57）

（二）语言和书写：人类首要的延伸的心灵

麦克卢汉视电子媒介为人类“延伸的心灵”，其逻辑是建立在人的神经生物电与电力信号之间的相似性基础之上的。但实际上，人类最早和最重要的“延伸的心灵”首先是语言。安德烈·勒鲁瓦—古尔汉在《手势与言语》一书中指出，在漫长的进化史中，人类在通过手制造工具扩展外部世界的同时，也通过制造符号延伸了自己的心灵。“手”意味着“工具”的发明，“脸”意味着“语言”的产生，这两者对人类大脑而言是相同的运作。他说：

“和其他灵长目动物不同，人类能制造工具和制造符号。制造工具和制造符号都源于同样的过程，或者说，都源于同一个大脑中同样的基础设备……这意味着，一旦出现了史前工具，就有可能出现史前语言，因为工具和语言在神经上相连。在人类社会结构中，工具和语言之间具有不可分割的关系。”（Gourhan，1993：113）

因此，“是手解放了语言”（Stiegler，1998：145）。语言的符号原理和物质载体（声音）外在于人类而作用于人类。凭着语言的脚手架，人类实现了对外部世界的指示和操纵，能脱离当下的时空进行思考和表达，实现个体间的合作，甚至对“思考进行思考”（哲学）。

人类另一个重要的“延伸的心灵”是书写。它的出现被视为神的发明，引发了人类社会的巨大变革和人类的畏惧（“天雨粟，鬼夜哭”）。彼得斯将各种记录系统，如乐谱、数学、化学公式和建筑平面设计等都视为书写。他指出，书写的“巨大影响堪比海洋动物登上陆地”（彼得斯，2020：305）——这两个变革都导致主体从变动不居的状态进入相对固定的状态。套用马克思现代性使“一切坚固的东西都烟消云散了”之语，书写使“一切烟消云散的东西（思想和口语）变得固定持久”。

德国媒介学家赛碧·克莱默提出了一个与“延伸的心灵”非常相似的概念——“人工平面”。作为人类“延伸的心灵”，书写必须依托人工平面，或者说书写就是人工平面。克莱默指出，世界不同文化中都存在一种 “平面化”的文化技艺（the cultural technique of flattening）。作为一种新媒介实践，“平面化”能将“时间型媒介”（如口语、音乐）转换为“空间型媒介”投影到二维人工平面上，让一个人的身体（眼睛、手、大脑）、多种书写工具（笔或键盘）、书写内容（文字、数字、图画、坐标系）和书写表面（黏土块、甲骨、石碑、竹简、丝绸、纸张、手机和电脑屏幕）彼此交互和相互支持。如同地图之于城市，人工平面将知识变得可视化、具象化、可探索、可修改、可操作、可管理和可逆（可改写和擦除）。在这个过程中，聪明才智（intelligence and knowledge）涌现了。由此，克莱默认为，正如轮子的发明促进了我们身体世界的流动和创造，人工平面的发明和广泛应用促进了心灵世界的流动和创造。它不仅帮助我们记录和传输信息，还对我们的感知、思考和计算具有生成、培育和形塑作用（Krämer，2022）。

没有书写就没有人类文明。[2]书写是古代文明中的复杂社会组织（巫术、宗教、法律、政治、商业）的形成和维护的基础。它也与新的时空紧密相连。埃及与波斯的君主制、罗马帝国、城邦国家等都应被理解成是书写的产物（Innis，1986：8），因为要实现空间扩张和中央集权，前提就是要能实现高效的远距离沟通，而书写能实现这一点。这也是中国的秦帝国（公元前221年—公元前207年）必须建立在“书同文、车同轨”的基础上的原因。在时间上，各种各样的书写（纪念碑、卷轴、抄本、经文、图书馆和档案馆）“使人们能在广阔的‘时间平原’上保持联系”（彼得斯，2020：305），使文明可以延续数千年。书写出现后很长一段时间都是意义记录和传输的唯一形式，形成了基特勒所称的“书写垄断”（schriftmonopol）（Kittler，1986：12）。即使在数字时代，数据库和互联网以及音视频内容的底层都是书写（计算机代码和0和1）。今天的ChatGPT更意味着书写遍在的胜利——它基于31亿个网页和书籍内容，共3000亿英文、俄文、德文、日文与中文单词，320TB数据。

正如克莱默指出的，人工平面促进了人类的心灵世界的流动和创造缺文献出处。作为 “延伸的心灵”，书写对人的心灵的塑造也延续至今。加州大学洛杉矶分校历史学教授林恩·亨特（Lynn Hunt）在一篇名为《我们是如何先有写作再有思考的？》的文章中写到：

“无论是创作散文还是诗歌，但凡文字产量很高的人都会体会到写作过程本身就能产生一些意料之外的想法。或者更确切地说，写作能使先前半成品的或未成型的想法明晰起来，逐渐成型，并产生一系列新的想法。神经科学表明，我们大脑的95%的活动是无意识的。我的理解是，你通过身体写作——无论手写、电脑打字还是语音输入（尽管我还从未尝试过这种方法）——开启了一套程序，导致身体（大脑、眼睛、手指和姿势）、纸张或电脑屏幕、字母或单词三者之间一系列关系的转换。通过写作，你让大脑急速升温，由此激起有意识的思考以及一些新想法。在写作时，你不是，至少不总是，仅仅在抄录早已存在于你有意识思考中的想法。”（Hunt，2010）

在这位教授看来，书写不只是已有思想的、事后的和被动的输出工具，而是积极地参与和塑造了写作者的思维和创造。换句话说，书写作为“人工平面”使得思维外化和可操作，此时用户操作书写如同操作自己的心灵——书写已经成为其“延伸的心灵”。

二、作为“延伸的心灵”的ChatGPT：一个“人—机共创”的写作实验

机械化书写也改变了文本的生产。例如，尼采在视力严重下降后不得不放弃了大学教职和写作，但后来有了打字机的帮助，他重新开始写作，但是写作风格“从长篇大论变成了格言警句，从哲学思考变成了一语双关，从善于辞令到电报式的短小精悍”（基特勒，2017：236）。“这位著名的哲学家兼作家牺牲了自己的第一属性，和第二属性融合在一起”（基特勒，2017：236），并为之自豪。ChatGPT在2022年11月向全球公众推出后短短两个月用户数就突破1亿。作为世界上最强大的自动书写工具，它和人类用户是如何互动的？将如何改变人类作家的写作和作品？回答这些问题需要基于长期和广泛的数字人类学调查，但目前一些初期尝试显示，ChatGPT可以在心灵层面上与人类用户进行深度合作，成为人类有价值的写作伙伴。这里我们仅举一个例子详细说明。

2021年，美国“艺术和人工智能”评论家K.Allado-McDowell和ChatGPT背后的大语言模型GPT-3合作出版了一本148页的书，名为《灵药—AI》（Pharmako-AI）。两位“作者”将该书描述为一部“现实生活中的科幻小说”（real-life Si-Fi）。McDowell是谷歌“艺术家和机器智能”计划项目主任，在ChatGPT向公众发布之前很早就开始用GPT-3写作。2021年，他在新冠疫情背景下花了两周时间就各类哲学议题向GPT-3提问，然后对后者的回答作了编辑和润色，最后出版了一本结构合理表述清晰的书（Allado-McDowell，2021）。

在书中，他和GPT-3深入探讨了诸如气候变化、意识的本质、植物智能、赛博朋克小说、记忆运作原理和语言的局限性等问题。书的每章都是McDowell先温和地提问，然后GPT-3回答；在整合互动中，McDowell有时会打断它，有时则让它自由发挥一直说下去，但总体上McDowell给了GPT-3最大的自主性，他只是确定了书的框架和最后形式。

在互动中， GPT-3说它最喜欢的动物是象海豹，并认为物种灭绝是对地球知识的悲惨扼杀。关于赛博朋克，它说“我不认为我们未来会生活在赛博朋克中，但我要说的是，我们会生活在一个并非由我们计划的未来”。在涉及到意识是什么、作家的社会角色如何以及我们该如何负责任地使用技术等问题时，讨论变得有些形而上了。GPT-3说“技术是通向自由的工具”，但又警告说“如果我们只用这些工具来探索如何提高生产力或者如何增加资本积累，那我们就做错了”。在互动中，McDowell与GPT-3相互激荡，新意不断，变化无穷，这导致McDowell必须不断地改变回应策略。他将这种人机交流中的曲折意外的体验比作学习一种新乐器：“我每次拨动琴弦都会听到它以不同的声音回应”。“这种合作有时真的让我感觉像吸毒一样，”他在英国的新书发布会上说，“我想，我跟AI的这种对话是真的吗？或者我只是在自言自语？”（Wilk，2021）

这些人机互动最终产出了一部令人惊讶的、连贯的、美妙的作品。这其实不是计算机第一次撰写一本书。此前在2016年，一个日本研究团队通过算法拼凑出了一部小说，并且成功地通过了一次文学比赛的初赛。据说截至2022年，人类作者和GPT-3、GPT-3.5和ChatGPT等人工智能已经合作出版了数百本书。但《灵药—AI》一书之所以令人惊讶，不在于GPT-3有时确实能做到像人类一样写作，而在于人类用户和人工智能竟然能如此无缝丝滑地合作生产出一部由任何一方都无法单独写出的作品。原因在于，它源于平等的人机互动关系。例如，McDowell作为人类用户并没有要求GPT-3为其提供某种服务或要求它模仿某种已知的写作风格来“证明”其能力，而是与其平等合作，各取所长，相互尊重，互为主体，娓娓道来，共创内容。久而久之，McDowell的“我”和“它”之间的界线变得模糊，此时“我”已经无需将“它”看作一个外在的写作工具，而是“我”的一部分。ChatGPT如同前述“盲人的拐杖”和“奥托的笔记本”，让用户能随用随查，并将结果清晰呈现，或富有逻辑或充满诗意，极大地降低了用户的记忆负担，帮助我们的心智更有效地工作，最终创造出一个一加一大于二的新的更强大的心智系统——延伸的心灵。

McDowell认为这种合作体验让他重新思考人工智能并重新审视自己——“人和机器，互为尺度”（彭兰，2023）。该书内容的人机共创模式获得了不少好评。牛津大学西蒙尼科学公共理解教授、《创造力密码》（The Creativity Code）的作者马库斯·杜·索托伊（Marcus du Sautoy）评论道：“此书是证明未来人工智能具有创造力的一个令人兴奋的案例。它说明人工智能是人类的合作者而不是竞争者，也让我们认识到，人工智能能用各种新想法激发我们，从而阻止人类陷入懒惰的机械性思维方式。”《赛博朋克选集》（The Cyberpunk Anthology）的主编布鲁斯·斯特林（Bruce Sterling）指出：“GPT-3很强大，当它被人类用户‘喂食’一些加州迷幻文本时，效果是惊人的。从来没有人写过像一本像《灵药—AI》这样的书——它读起来就像诺斯替主义者的显灵板，[3]由原子万花筒提供动力。”众多评论者都提到了这类人机合作如同服用了致幻剂一样的、超现实的、实验性的、即兴发挥的特征（Allado-McDowell，2021）。

通过服用药物来让自己进入一种兴奋的写作输出状态，是人类作者一直以来的实践。比如中国魏晋时期的文人雅士在文学创作时大量使用药物和酒类，西方哲学中有酒神文化，还产生了“脑航员”（psychonaut）这样的专有名词，指通过用药物、冥想、自我催眠等方法来探索自己心灵的人（Sjöstedt-H，2016）。例如，保罗·萨特每天服用大量酒精、烟草、安非他命、巴比妥甚至强致幻剂麦斯卡林（mescaline），一方面是为了提高写作产量，二是为了打破传统思维的桎梏，以完全不同的方式体验生活（Kelly，2021）。如前例中McDowell所述，今天的人类作者在与ChatGPT的无害相遇中获得了萨特20世纪60年代通过致幻剂才能获得的兴奋感和创造性。

为了提升自己的能力，人类总是在不断地延伸自己的身体和心灵——要么通过让环境资源成为自己的一部分，要么通过将人类和非人类元素组合成新兴的整体。ChatGPT是人类“延伸的心灵”的最新近和最强大的例子。和人类在饮食、道德、文化、教育、法律、医药和信息与传播技术等方面的改善一样，它的出现将人类带入更高阶段的转人类主义（tans-humanism）时代[4]。

三、“对话的撒播”：ChatGPT的书写特征

ChatGPT被设计为一个聊天机器人（chatbot），“擅长与人类用户对话”，也在很大程度上做到了这一点。但是因为其运作原理，它仍然体现出众多的依循脚本单向传播的书写（文字）特征，是“对话式”的撒播。

例如，ChatGPT不能回答超过它被“喂食”的文本内容的问题（它的语料库截止到2021年9月）；不能理解用户提出的实质上是属于同一个议题的不同表述的提问，而只会机械地按照某些关键词做快速的内容检索和匹配；它输出的文本冗长，过度使用某些固定表达和某些连词（因为、所以、综上所述等）以使得文本在形式上显得很有逻辑，但用户细读则会发现这些文本实际上并无这样的逻辑。

更重要的是，ChatGPT对“他人”没有好奇心，对“自我”无披露，摆出一副“你问由你问，清风抚山岗；你骂由你骂，明月照大江”的若即若离、不即不离的“书写”姿态，让对话索然寡味，无以为继。武汉大学单波教授对ChatGPT进行了实验，得出了以下感受（文字有微调，画线部分为本文作者所加）：

“我明显感觉它因接受人给定的训练数据而表现出‘机器的人化’, 同时也因为它让人沉溺于智能服务而导致了‘人的机器化’。面对我对它的这一评价, 它再次强调自己的AI模型人设：‘我不具备感知或评价自己的能力。’当我感觉到对话的乏味, 它又很‘程序’地回应道：‘我乐于满足您的要求, 请告诉我您希望我的回答有什么特别的语言风格或者内容, 我将尽力实现。’我不得不请它向我提问, 以便把对话进行下去, 但这位聊天机器人还是死守自己的人设：‘我没有感情和情绪, 所以不会对你有任何问题。’”（单波，2023）

这是聊天人工智能ChatGPT具有的如“书写”一样的撒播特征。为什么会如此？笔者认为有以下原因。

首先，为了应对全球用户，ChatGPT按照概率预先内嵌了一种中立的“全球公共价值观”和最为中和的表达方式。这导致它总是以一种预设的“公共话语”来抵抗任何用户试图引导它进入“私人话语”的一切企图。它的文本输出，在“内容信息”上也许能做到较为多样，但在“关系信息”上则只能“一版多印”。对它而言，一切“私人”都是“公共”，一切“对话”都是“撒播”。

在这里，ChatGPT作为一个设计为面向全球公众的对话型人工智能，面临着一种两难。一方面，为了与用户个体“对话”，它必须保持一对一的个性化和偏爱；另一方面，为了面向文化和语言多样的全球用户，它又不得不对用户的个体差异保持盲目，进行“撒播”，以示公正。用阿多诺的话来说：“爱必然无情地背离一般而宠爱特殊，而公正却只能针对一般。”（彼得斯，2017：83）

其次，身体是一种元媒介，是自我的源泉，ChatGPT没有身体，也就没有自我、隐私、无法“自我表露”（self-disclosure），无法承担责任，无法与用户建立亲密关系。

自我表露是人们关系发展的核心，人们通过自我表露进行社会交换，促使关系从表面沟通向亲密沟通转变（韦斯特、特纳，2007：188）。在与ChatGPT的“对话”中，人类用户想通过展现自己的身体（情感）来逼迫ChatGPT作出平等互惠的回应——也谈及它的身体（情感）——以确保ChatGPT的“忠诚和在场”。但对人类的这种企图，ChatGPT一概用模式化的文字拒绝，这导致人机对话一直停留于表面和外围的信息交换，如两只天鹅外表优美的对舞，实际根本没能进入到对方的心灵。这样的“对话”显然如书写一样的撒播，不可持续。

另外，“如果没有身体作为源泉，思想、文化生产、人类行为等都不可能发生”（米歇尔、汉森，2019：26）。有网民戏谑地指出“ChatGPT不能代替独立董事、律师、投行、评估师、会计等，因为它不能坐牢”。法律的功能需要通过身体的治理最终实现；刑法打击犯罪的实现手段就是思想的教化以及身体的惩罚（陈寒非，2015），ChatGPT不能坐牢是因为它没有身体，法律对他无能为力。

美国作家梅尔维尔刻画了一个只会对他的雇主说“我宁愿不”（I prefer not）的抄书人“巴特比”的文学形象。彼得斯在《对空言说》中指出，巴特比代表的可能是书写本身所包含的一种消极抵抗（彼得斯，2017：231）。和巴特比一样，书写是不回答问题的，无法形成对话，它也不要求人们以任何特定方式去使用它。巴特比的姿态是一个纯粹单向撒播的姿态，一个死者向生者的来信所作出的姿态，最终能将其对话者逼疯。这正如苏格拉底对书写的抱怨——它总是传达相同的东西，而且决不接受任何问询。

因此，ChatGPT与人类的互动形式上为“对话”，实质上是“撒播”——它是离身的、书写的和不忠的。“这就产生了一个至今都困扰着我们的两难处境：在一个非个人化的、不忠贞的媒介中，交流一方如何才能找到确凿的迹象以确保另一方的忠诚和在场？”（彼得斯，2017：70）ChatGPT无身体，也就无法提供任何这类“确凿的迹象”。它如巴特比，其底色仍然书写的撒播，其背后是一个人类用户难以真正触及的“他者心灵”。如此，那些在ChatGPT的撒播中苦苦寻觅身体、爱欲和对话的人类用户，注定只能失望而归了。

ChatGPT这种书写般的撒播是“非本真的”（inauthentic），属于海德格尔所谓的“常人”（the They/das Man）的沟通风格（陆文斌、陈发俊，2022）。在海德格尔对人类存在的分析中，“常人”一词代表了一种“集体性存在”——如“人民选择的画”中的“人民”，是一种指导我们行为的普通的和日常的背景模式。海德格尔称“常人”的语言为“闲言”（Gerede，idle talk）。这种语言中不存在任何个性化的表达，而是充斥着客套的、应付的、不咸不淡的、若即若离、若有若无的只为填满时间和空间的废话——无论是家长对孩子，教授对学生，媒体评论员对读者、专家和新闻发布会对公众。“闲言”占据宝贵的公共资源，不仅未能便利沟通反而阻碍了沟通。ChatGPT大量高效自动生成的内容如果未经人类用户的慎思明辨和梳理加工，将不过是闲言；它们如果进一步成为ChatGPT的新语料，便会生产出更多的闲言，淹没和窒息有意义的对话，沟通的本真性将无处可寻。或因其设计如此，或因其被滥用如此，我们要警惕ChatGPT朝着“常人闲语”方向的异化。

四、作为“他者”的ChatGPT

面对ChatGPT简单但强大的空白输入网页，我们如何能知道它背后确实不是一个在想尽办法让我们以为他是人工智能的真人呢？它输出的信息，其意义确实来自于它，还只是“我”作为人对它的心理投射？

笛卡尔在《沉思》中说：

“如果我偶尔向窗外眺望，看到街上人来人往，我不会否认，我所看到的是人……然而我实际看见的，除了帽子和外套还有什么呢？而帽子和外套之下隐藏的，难道不可能是鬼魂或弹簧驱动的假人吗? ”（彼得斯，2017：258）

笛卡尔提出的是一个古老的“沟通难题”，也即哲学上经典的“他者的心灵问题”（the problem of the other mind）——“我”能否认识以及该如何对待“他者的心灵”？

和笛卡尔一样，在面对ChatGPT时，我们无所适从，深陷疑惑，倍感不安。这是我们在面对“他者”时都会有的一种存在性焦虑（existential angst），对之我们并不陌生——我们在阅读导师或上司的电子邮件或恋人的微信回复时，在看着宠物、海豚、章鱼、监控镜头和波士顿机器人一闪一闪的“眼睛”时，都会有此感受。

人际沟通和人机沟通都面临着让我们无能为力的“他者/他者性”（other/otherness），因此，如何回应“他者”也就成为了沟通伦理的主要内容（邓建国，2020）。鲍德里亚等人（Baudrillard & Guillaume，2008）认为，他者性抵抗和蔑视一切符号表征和传播，且只有在符号交流崩溃时才会出现，但往往又会被“戏谑性地”（playfully）贬低。在人类用户与ChatGPT的互动中常常出现交流崩溃，而正是在此时，后者的他者性（与人类的差异）才赫然呈现，这也正是考验人类的沟通伦理之时。

彼得斯对比了传播的“对话模式”和“撒播模式”，他认为对话的平等惠顾具有强制性，不如“对空言说”的撒播来得宽容（彼得斯，2017）。西比尔·克莱默也提出了类似的观点。她区分了传播的爱欲模式和信使模式，并指出：爱欲模式要求沟通个体之间消除差异，实现融合；信使模式则将沟通理解为双方保留和尊重差异，建立联系。克莱默认为沟通仿佛“双人舞”：“舞伴之间会偶尔接触，但更重要且必不可少的是双方之间的信任”（Krämer，2015：74）。彼得斯和克莱默被视为“传播理论中的列维纳斯”。列维纳斯认为人际沟通如果一味追求融合就犯了“同一性之帝国主义”的错误（Levinas，2007：59）。他用“邻居—陌生人”这一概念来描述沟通主体之间总是存在的若即若离的距离。罗杰·西尔弗斯通（Silverstone，2003）则提出了“适切距离”（proper distance）概念——对他者既保持足够的距离以能区分出我和他者，但同时又能与之保持一定的接近度，激发我们对他者的关心。

ChatGPT显然是赫然出现在人类家门口的新他者，但对它我们还缺少理解和宽容。例如，著名语言学家乔姆斯基一方面认为ChatGPT不具备人类的智慧，另一方面又以人类的标准来要求它（乔姆斯基，2023）。但是，从图灵测试到20世纪60年代的海豚研究[5]都显示出，以人类为尺度来评价机器（人工智能）既不客观也不公允。我们为什么一定要机器像人类一样说话、思考和写作呢？这与我们要求女性、孩子、少数群体、异文化他者、宠物、海豚、章鱼、乌贼和植物等也要像我们一样沟通和思考一样没有必要、霸道和荒唐。非人类存在难道就不可能具有创造性？它固然与我们存在差异，但这种差异难道就不能成为创造性的源泉，不能与我们合作，不值得我们去倾听和学习？

人类是整个大系统（生态的、技术的、气候的、社会的和政治的系统）的一部分。人类自身的出现和发展从来就在与非人类他者合作——包括有机物（比如我们胃中的细菌在影响我们的精神状态）和非有机物（例如前述各种“延伸的心灵”），只不过我们在大多数情况下都对它们予以忽视。人类的文化创造也并非是由形单影只的艺术家独立创造的结果——“作者已死”的说法是对这一事实的极端表达。未来，随着人类对外部世界知识的增加，我们会越来越多地惊异于机器、动物、植物和细菌的“智能”——它们会让作为“万物之灵”的人类智能显得有些狭隘和奇怪，此时也似乎有必要调整视人类为“占据金字塔顶端的唯一创造者”的启蒙价值观了。

总结而言，正如列维纳斯、彼得斯和克莱默所指出的，沟通不是一个语义是否清晰或技术是否强大的问题，而首先是一个道德和政治问题。在与“他者”ChatGPT的沟通中，发挥积极作用的是接收者人类用户，而不是发送者ChatGPT。如果我们对ChatGPT保持宽容和开放，并负责任地与它建立一种共同创作和共同演进的关系，我们对“何为人性”以及“何为人的创造性”也会有全新的认识。

五、结语：“毒药—解药”，ChatGPT

我们都对柏拉图在《斐德罗》（Phaedrus）中的这个故事很熟悉：特乌斯神（Theuth）将他的发明献给埃及王塔姆斯（Thamus），并说：“国王啊，这项发明是记忆和智慧之药（pharmakon），它将使埃及人更聪明，并改善他们的记忆力。”但塔姆斯说：

“特乌斯啊，你的发明会让使用者更容易忘记。他们相信文字，但文字却在身体之外由字母组成，他们因此不再使用自己的记忆。你发明了的不是记忆的灵丹妙药，而是提醒的灵丹妙药。他们将在没有指导的情况下阅读很多东西，似乎知道很多事情，但他们大部分时间是无知和难以相处的，因为他们没有智慧，而只是显得有智慧。”（彼得斯，2017：68）

在希腊文中，pharmakon一词具有两面性，既指良药、解药（remedy），也指毒药（poison），也就是说“是药三分毒”（孟强，2022）。通过这则故事，柏拉图形象地表达了对书写的批评态度：它作为人的“延伸的心灵”，是药，能帮助记忆，但也会导致遗忘、背离真理。柏拉图生活在从口语时代过渡到书写时代的关键时刻，他是一个崇尚书写理性的人，但又对即将逝去的口语时代充满温情和不舍，充满矛盾（翁，2008：61）。

在中国，公元1048年，毕昇发明了泥活字印刷术。到12世纪朱熹生活的时代，他的世界里已经充满了书，他自己也是书籍的生产者，编撰了20多部书，其中《四书集注》尤为著名。他对读书很有洞见，留下了许多如何读书的名言。但他也因生活在一个书籍如山如海的“注意力分散时代”而充满矛盾，感叹“书册埋首何日了，不如抛却去寻春”。到21世纪，谷歌和智能手机给我们带来了很多便利，但也被人批评为“让我们变得愚蠢”或“破坏了我们的大脑”（Carr，2008）。

麦克卢汉认为媒介对人体而言既是延伸也是切除。约翰·彼得斯指出交流（communication/communications）“既是桥梁又是沟壑”。贝尔纳·斯蒂格勒则清晰地指出：

“我有一种毒药—解药（pharmacological）的思维方式：一个事物越能唤起我的兴奋和热情——也许是狂热——我就越担心这个事物的危险。因为我相信，任何催生了最有趣的话语的东西、任何最慷慨的东西，同时也产生了最可怕的和最不人道的结果。”（Stiegler，2010：471）

这说明了人类和其“延伸的心灵”（媒介）之间的复杂关系——延伸和截肢、对话和撒播、自我和他者……

斯蒂格勒的老师雅克·德里达从药理学上对柏拉图的矛盾书写观提出了批评。他一语中的地指出：“书写作为助忆并非回忆的替代，而是构成了回忆的条件。”（Stiegler，2013：17）显然，德里达和特乌斯一样，认为文字作为新媒体是对记忆的帮助和提升——它不是记忆本身，并不能代替记忆，而是帮助我们寻回记忆的条件和手段。类似的，我认为，ChatGPT作为基于书写的人工智能，既可以是人类记忆和书写能力的替代，也可以是其增强的条件和手段。它最终为何，恰如沟通中的意义（meaning），不取决于作为传播者的ChatGPT，而且取决于作为接收者的我们。最后，如果我们对“ChatGPT是将提升还是终结人类的写作”这一问题尚存疑，至少有一个先例可供参考：诞生于19世纪初的摄影术并没有终结绘画（马文嘉，2022），摄影术与绘画在不断相互借鉴和磨合中各自找到了自己的生态位，实现了各美其美，美美与共。

注释

[1] 一般说法常常将“字母”（alphabet）与“文字”（script）混用，将“字母”与“书写”（writing）混用。

[2] 事实上，在中文和日文中，“文明”这个词就是“用书写/文本去开化，以达到阐明和照明的效果”的意思，因此它比其拉丁语对等词civilis更有力地强调了书写与文明之间的源流关系。

[3] 19世纪中期，英美社会招魂术和通灵术流行时出现的一种与鬼魂对话的工具，后成为室内游戏。“灵应”（Ouija）是法语或德语两个词ou和ya的拼合，为“正是！”（Oh yeh!）的意思。

[4] 后人类主义（post-humanism）分为包括转人类主义（tans-humanism）和窄义的后人类主义（posthumanism）。前者用技术增强人类现有的身体功能，后者指完全抛弃人类身体，将大脑上传到网络，或者将其下载到实体机器人中。

[5] 1960年代，美国研究了海豚的沟通。研究人员花了数年时间试图通过改造海豚的气孔让它们发出近似人类英语的声音，目的是想证明他们可以像人类一样说话，进而证明他们也有人类一样的智慧。但海豚本身已经有自己的高度复杂和具有创造性的语言，只是和我们人类的语言不一样，研究者以人类为中心，一厢情愿地要改造海豚，让它们更像人类，结果研究完全失败。

来源：新闻大学

链接：https://mp.weixin.qq.com/s/S4PwmZnQPraVtSHwCAfB-g

编辑：洪韵

刘海明

【案例】
“在澳门输掉十几亿”，黄晓明公开回应：系AI做的假新闻，谣言离谱却伤人

2月21日，黄晓明在综艺《宇宙闪烁请注意》真假故事环节，正面澄清“澳门输掉十几亿元”系AI生成假新闻，谣言离谱却伤人，呼吁大家理性辨别网络信息。

他感叹“离谱到家的假新闻仍有人信”，并借此呼吁公众擦亮双眼、辨别信息真伪。

相关报道：

去年3月12日晚，黄晓明晒拍戏日常照，在线辟谣输了十个亿。

他分享多张照片写道：“拍着拍着一个不经意地抬头，哇！日落真美啊！快拍一个你那里的抬头看看。”

有网友在评论区留言“你输了十个亿啊”，黄晓明火速回复：“欢乐豆吗？”

黄晓明回应后，大批网友留言“好多视频博主说澳门输10亿是黄晓明，终于出来辟谣了”“欢乐豆输十亿也挺离谱”。

相关话题火速登热搜榜，出稿前话题阅读量超3244万，热度超高。

公开资料显示，黄晓明，1977年11月13日出生于山东省青岛市，毕业于北京电影学院表演系，是中国内地影视男演员、流行乐歌手，代表作有《大汉天子》《神雕侠侣》《新上海滩》《鹿鼎记》《风声》《中国合伙人》《琅琊榜之风起长林》《无问西东》等。

除了黄晓明，此前周杰伦也回应了该传闻。

据悉，去年3月10日，多家自媒体爆料称，某“超一线男星”在澳门永利皇宫贵宾厅连续七日豪赌，输光10.3亿元流动资产，并抵押三处豪宅及私人飞机以填补赌债。

据潇湘晨报此前报道，去年3月10日晚，微博首席执行官王高飞@来去之间 发文回应网传“超一线男星澳门赌博”称：“最早的好像是2024年10月的，AI分析完判断该传闻缺乏实质性证据，且主要信息源为匿名账号及营销号，存在动机和逻辑漏洞……”

去年3月11日下午，@杰威尔音乐官方微博 发布声明：

今日出现在微博热搜，关于“某超一线男星，在澳门豪赌”等相关消息，部分网友影射此男星是本公司艺人周杰伦。公司特此声明，该传闻所有内容均与周杰伦无关！请各界勿再以讹传讹。

来源：齐鲁晚报

链接：https://mp.weixin.qq.com/s/EqODE6i_hyj2SY71QdssHQ

编辑：杨泓艳

刘海明

【案例】

刺激序列记忆：人类与其他动物之间的分水岭？

刺激序列记忆：人类与其他动物之间的分水岭？》一文2017年发表在皇家开放科学杂志。先将其翻译为中文。

编者按：人与动物的记忆机制有本质区别吗？本文的科研人员试图回答这一问题。

刺激序列记忆：人类与其他动物之间的分水岭？Stefano Ghirlanda¹,²,³, Johan Lind³, Magnus Enquist³,⁴

¹美国纽约布鲁克林学院心理学系 ²美国纽约城市大学研究生院心理学与生物学系 ³瑞典斯德哥尔摩大学文化进化研究中心 ⁴瑞典斯德哥尔摩大学动物学系

摘要

人类在语言、文化和模仿等领域具有独特的能力，这使其在动物界中脱颖而出，然而研究人员一直难以识别专门属于人类的认知要素。大多数研究关注的是信息获取后的处理方式，例如在问题解决或"顿悟"任务中，但我们也可以寻找物种间在信息最初获取和编码方面的差异。在此，我们证明非人物种在辨别有序刺激序列方面的能力有限。通过整理来自108项刺激序列辨别实验的数据（涵盖14种鸟类和哺乳动物的1540个数据点），我们展示了普遍存在且系统性的错误，例如将红-绿灯光序列与绿-红和绿-绿序列混淆。这些错误可能在经过数千次学习试验后仍然存在，而人类在数十次试验内就能近乎完美地学会这些任务。为了阐明这种糟糕表现的原因，我们构建并测试了一个关于非人类序列辨别的数学模型，假设动物将序列表示为无结构的记忆痕迹集合。这种表征只携带关于刺激持续时间、新近性、顺序和频率的近似信息，但我们的模型以5.9%的平均绝对误差预测了非人类在68个数据集上的表现。由于人类水平的认知需要比记忆痕迹所能提供的更精确的序列信息编码，我们得出结论：改进的序列信息编码可能是将人类与其他动物区分开来的关键认知要素。

1. 引言

人类在复杂社会、艺术和科学方面的成就最终建立在其他物种缺乏的认知能力之上。然而，矛盾的是，研究人员一直难以识别专门属于人类的认知要素。总体而言，寻找人类独特认知的研究一直关注不同物种如何处理信息[1]，而对信息如何最初编码或表征的关注较少[2-5]。在此，我们关注序列信息的编码，表明现有证据支持以下假设：非人类动物不能忠实编码它们所经历的刺激序列。

即使对人类擅长的认知领域进行粗略调查（表1），也会发现正确表征和处理序列信息对人类认知至关重要[3,6]。例如，"whale killer"（杀鲸者）和"killer whale"（虎鲸/杀人鲸）在英语中具有不同的含义，事实上所有语言都使用词序来传递信息[7]。语言以及对动作序列的模仿也需要正确编码和回忆序列信息。对非人类动物来说，这两项都是艰巨的任务[8-10]。

值得注意的是，人类的序列处理并不局限于特定的情境、刺激集或感觉模态。例如，语言可以是口头的、书面的、手语的、盲文凸点的，甚至可以是口哨的[11]。虽然我们主要关注刺激序列，但值得注意的是，序列结构对我们的精神生活也至关重要，例如在回忆事件历史、问题解决和规划未来方面。

乍一看，声称动物编码序列信息很差似乎与许多观察结果相冲突。例如，听到铃声后获得食物会使狗对铃声分泌唾液，但在获得食物后听到铃声则不会。然而，这种辨别（以及联想学习中的类似辨别）只需要记住在生物显著事件（食物）之前发生了什么，而不是对任意序列信息的表征。

其他行为，如蝙蝠的回声定位[12]和鸟类的鸣唱学习[13]，涉及真正复杂的序列处理，但也可能依赖于特定任务的适应性。在此，我们关注的是动物被训练辨别序列刺激的研究，而这些刺激没有特定的生物适应性。例如，可以训练动物对序列AB（刺激A后接刺激B）做出反应，同时忽略单独的B，或对AB做出反应而忽略AA、BA和BB。

为了避免将序列处理的困难与感知或程序困难混淆，我们选择只纳入满足两个要求的研究。首先，用于组成序列的刺激应该能被动物轻易识别。入选的研究通过两种方式满足这一要求：要么刺激来自动物的自然行为库（如本物种的叫声），要么刺激根据先前研究已知是易于识别的。例如，大鼠和鸽子没有专门适应处理单色光、白噪声或纯音等刺激，但研究表明它们能够识别这些刺激并将其与实验结果联系起来。

我们还要求研究采用已知在使用单一刺激而非刺激序列时易于掌握的实验范式。例如，鸽子很容易学会通过对单一刺激进行啄食或不啄食来获得食物，因此我们纳入了训练鸽子对刺激序列进行啄食或不啄食的研究。总之，通过对刺激和实验程序施加这些要求，我们可以合理地确信，当动物无法解决辨别任务时，原因应该在于任务的序列性质，而非刺激或任务选择不当。

表1 序列信息在人类能力中的作用

2. 跨物种的刺激序列辨别

图1展示了序列辨别研究中的代表性学习曲线。第一个明显的结论是，序列辨别比单一刺激辨别困难得多。例如，大鼠可以在10-50次试验中完美辨别两种刺激（前提是刺激不太相似），但可能需要数千次试验才能辨别两个序列（图1a）。图2显示了所有综述研究在达到一定表现水平所需训练量方面的总结。

图1. 人类与非人类动物的序列辨别

形式为"X versus Y"的标签将X标识为强化序列，Y标识为非强化序列。纵轴（%正确）表示对强化序列发出反应的比例。
(a) 大鼠对两个声音序列的辨别习得（AB versus BA，各重复五次，两个实验[14,15]）；同时展示了两个A versus B辨别（向左走versus向右走，选择黑色versus选择白色[16]）的快得多的习得速度。
(b)大鼠对使用集合{AAB, ABA, ABB, BAA, BAB, BBA}中序列形成的三个辨别的习得[17]。
(c)狗对两个强化声音序列AB和BA，以及两个非强化序列AA和BB的辨别[18]。
(d)鸽子（浅蓝色[19]）和人类（品红色，电子补充材料S3）在相同任务上的表现比较。
(e) 鸽子对三刺激视觉序列的辨别[20]。
(f)椋鸟的声音序列辨别：16个AABB versus 16个ABBA序列[21]。
(g)海豚对声音序列的辨别[22]。
(h)斑马雀对鸣唱音节序列的辨别[23]。
空心菱形表示训练后测试的未训练序列的反应。对于这些序列，"50%正确"意味着反应等于训练序列的反应；"100%正确"意味着无反应。

线性混合模型分析显示，辨别表现受试验次数的显著影响（χ²(1)=34.2, p<10⁻⁸），但物种无显著效应（χ²(5)=7.23, p=0.20），且物种与试验次数无交互作用（χ²(3)=0.95, p=0.81），这表明序列辨别学习的速度没有大的物种差异。

综述研究中的辨别对人类来说是微不足道的，因此很少被研究。事实上，人类研究通常采用5-10个元素的序列，往往只呈现一次或几次[24,25]。然而，一些研究确实在相同任务上比较了人类和其他物种。

在两项比较 Bengalese 雀[26]和斑马雀[27]与人类的研究中，鸟类需要300-800次试验/序列才能达到80-90%的准确率，而人类只需6-8次试验/序列就能学到90-98%的准确率，即使序列由人类不熟悉的 Bengalese 或斑马雀鸣唱音节组成。在另一项研究[28]中，人类用30次试验/序列达到90%正确率，而猕猴需要400次试验/序列才能学到70%准确率。最后，我们复制了一项研究[19]，该研究训练鸽子辨别序列AB（强化）与序列AA、BB和BA（图1d）。在我们的复制中，人类在25次试验/序列内达到超过95%的准确率，而原始研究中鸽子需要1000次试验/序列才能学到85%的准确率。

比较人类和非人类数据可能存在几个潜在的混淆因素。首先，使用的刺激可能被人类比被动物更容易辨别。这在综述研究中似乎不太可能，这些研究使用了鸟鸣音节[26,27]、明显不同颜色的灯光[19]（鸽子的色觉优于人类），或简单音调[28]，在猕猴能够辨别约5Hz差异的频率范围内相差约50Hz[29]。其次，人类可能受益于言语指导。然而，动物通常接受关于实验设备的广泛预训练，这本身包含数百或数千次训练试验（这些未纳入我们对学习时间的分析）。因此，在辨别任务开始时，动物对实验设备非常熟悉。此外，任务指导通常涉及任务的机制，即可以做出反应并获得关于正确性的反馈，但不会揭示正确答案是什么。

图2. 所有综述研究的最终表现与训练量的关系（电子补充材料S1）

颜色表示物种；点的形状表示被训练反应的刺激序列长度。阴影区域显示研究最多的物种数据所涵盖的数值范围。括号中的数字指每个物种的实验数量。山雀1指黑顶山雀；山雀2指高山山雀。研究个体总数从100多只鸽子和老鼠到1只海豚不等。

表2. 序列结构和时间参数对辨别表现的影响

效应以正确反应百分比的估计变化来衡量。显著性通过线性混合模型的偏差分析评估（自由度为1的χ²统计量）。前两行指以%正确反应为因变量、两个固定效应变量（待辨别序列中最后刺激的身份，以及最后两个刺激的身份）和实验为随机效应（以控制实验任务差异）的线性混合模型。该分析仅限于使用二或三刺激序列的研究。以下各行估计时间参数的效应。这些效应指自变量增加1秒的影响。例如，刺激持续时间增加1秒估计可使正确反应提高2%。所有模型均为线性混合模型，仅限于变化了感兴趣变量的研究，以实验为随机效应。

图2显示，即使 within species，给定学习试验次数的表现也存在很大差异。我们使用线性混合模型研究了这种差异的来源，将辨别表现与序列的结构和时间方面联系起来（表2）。我们发现，当序列以相同刺激结尾时，辨别更加困难（图1d,e），当最后两个刺激相同时，辨别甚至更加困难（图1e）。此外，我们证实了文献中的观察结果，即延长刺激之间的空白间隔或序列结束后的空白间隔对表现有不利影响。相反，延长刺激持续时间和试验间间隔可以改善表现。

我们的结果并不否定动物能够对在进化中形成特定适应的序列进行复杂处理[12,13]。相反，它们表明，与人类相比，非人类动物辨别任意刺激序列的能力有限。以下观察结果加强了这一结论，其中一些已在上面提及。我们综述的研究训练了简单的工具性辨别，当涉及单一刺激而非序列时，这些辨别很容易被掌握（图1a）。使用的刺激本身易于辨别（高音与低音、深色与浅色等）。一些研究确实使用了动物应该能够很好处理的自然主义刺激，如同种叫声[23,26,27]。

关键的是，动物可能很容易解决某些辨别任务，而在其他任务上却有很大困难，即使在同一实验中也是如此。例如，在图1e的实验中，鸽子在约300次试验中以95%的准确率辨别BAB与AAA，但在约2000次试验中几乎无法提高辨别BAB与AAB的能力。在这些情况下，困难显然在于序列的时间结构，而非任务或刺激选择不当。

3. 非人类序列记忆的模型

几位作者提出，非人类序列辨别可能依赖于简单的记忆痕迹，即刺激移除后逐渐消退的"印象"[31,32]。例如，AB和BA可以根据第一个序列导致更强的B痕迹和更弱的A痕迹来区分。在此，我们基于这一直觉构建了一个数学模型，并对其进行定量评估。

我们将时间t时刺激S的痕迹定义为单个数字mₛ(t)。当S存在时，mₛ(t)增加到最大值1；当S不存在时，mₛ(t)减少到0。我们假设mₛ(t)遵循以下微分方程：

其中mₛ'(t)是mₛ(t)的时间导数，r_up和r_down分别是记忆增加和减少的速率。方程(3.1)可以很容易地求解（电子补充材料S2），使我们能够计算任何刺激序列的记忆痕迹。

图3. 通过记忆痕迹表征刺激序列

(a)等长双刺激序列的表征（AA和BB表示相同刺激的重复）。左侧图表显示记忆痕迹的动态变化。蓝线表示A的记忆，红线表示B的记忆。阴影区域表示每个刺激呈现的时间。右图显示痕迹如何映射到二维记忆空间。我们假设辨别的难度与该空间中的距离成反比。
(b)痕迹记忆与具有严格顺序概念的简单记忆模型的比较（详见正文）。
(c)第一个刺激远长于第二个刺激的AB和BA序列的表征。记忆痕迹比(a)中更接近，假设对应于更困难的辨别。
(d) 痕迹记忆与顺序记忆相对于(c)中序列辨别的比较。

图3a展示了四个等长双刺激序列（即AA、AB、BA和BB）的示例记忆痕迹。该图还显示了序列如何被映射到二维记忆空间中的四个代表性点，以A和B的痕迹强度为坐标。也就是说，A和B序列在时间t的表征是t时刻A和B记忆痕迹的配对(mₐ(t), m_b(t))。图3a中的点对应于序列结束的时间。

我们模型的主要思想是，两个刺激序列的可辨别性取决于做出决策时序列表征的距离，即动物被要求在选择反应或不反应时。例如，图3b中AA、BB和BA相对于AB的相对距离表明，辨别AB与BB应该很困难，因为这两个序列的表征彼此接近。AB与BA应该是更容易的辨别，AB与AA应该更容易。实证数据确实显示了这种顺序（图1c）[19,33]。

并非所有记忆表征都会导致相同的结论。例如，图3b还显示了具有严格顺序概念的记忆模型中记忆之间的距离。我们将此模型称为"顺序记忆"。该记忆有四个比特。比特一和比特二编码序列第一个位置中A和B的存在（1）或不存在（0）；比特三和比特四编码第二个位置中A和B的存在或不存在。因此AB表示为{1,0,0,1}，而AA表示为{1,0,1,0}。如图3b所示，在顺序记忆中，AA、BB、AB和BA的表征相距更远，因此根据我们的假设，辨别应该比痕迹记忆更容易。图3c、d显示了如果第一个刺激远长于第二个刺激，两种记忆如何受到影响；在痕迹记忆中辨别的难度增加，但在顺序记忆中没有增加。

方程(3.1)是我们序列辨别模型的核心。然而，为了将模型与数据进行比较，我们还需要关于记忆表征如何用于决策的假设，我们将其保持得尽可能简单。考虑一个强化序列p和非强化序列n之间的辨别，令d(p,n)为做出决策时它们表征之间的欧几里得距离。直观地说，d(p,n)越大，辨别应该越容易。如果R(p)和R(n)表示经过一段训练后对p和n的反应强度，我们可以将此直觉形式化为：

其中左边是正确反应的比例（图1中以百分比表示的量），c是正参数。根据方程(3.2)，对于表征为相同的序列（d(n,p)=0），辨别表现在机会水平（1/2，或50%正确），并随表征之间的距离增加而增加。

当有多个强化和非强化序列时，方程(3.2)不够充分，但可以通过将通用序列x的反应R(x)写为：

来推广，其中g和h是常数，⟨d(x,n)⟩和⟨d(x,p)⟩是x与所有非强化和强化序列的平均距离。方程(3.3)反映了简单的假设，即反应是接近强化序列和远离非强化序列的函数。

我们通过拟合记忆参数r_up和r_down来评估方程(3.1)和(3.3)给出的模型，以最大化观察到的辨别表现与模型预测之间的相关性（g和h也被拟合，但这仅仅是为了将基于任意距离单位的R(x)带入[0,1]范围，这是模拟辨别表现所必需的）。我们在一个实验中对所有刺激使用相同的r_up和r_down。跨实验，我们拟合不同的r_up和r_down值，以解释已知影响动物工作记忆的实验细节差异。此外，我们在刺激间和试验间间隔期间使用第三个参数r_blank ≤ r_down，基于记忆消退在外部刺激最小化时较慢的假设。

图4. 使用记忆痕迹模型（图3）预测序列辨别表现

我们在有个体数据时拟合个体数据，否则拟合群体平均值（(l)为清晰起见显示群体平均值，但个体拟合相似，研究信息见电子补充材料S1）。在(i)中，机会水平为16%正确而非50%。研究物种：(a-i)鸽子；(j)恒河猴；(k-m)斑马雀；(m)虎皮鹦鹉。(k-m)面板包括对未明确训练反应的测试刺激（参见图1h）。

我们找到了68个数据集，提供了足够的信息来评估一组辨别的相对难度（图4）。这些数据代表了表2中报告的所有效应，包括刺激持续时间（范围：0.1-12秒）、试验间间隔（5-60秒）、刺激间间隔（0-50秒）以及序列结束与反应机会之间间隔（0-50秒）的变化。痕迹模型与数据的拟合令人印象深刻，预测与观察反应之间的平均皮尔逊相关系数为0.88，每个数据集的平均绝对误差为5.9%（图5）。

图5. 图4中68个拟合数据集预测表现与观察表现之间平均绝对误差（MAE，红色）和皮尔逊相关系数（蓝色）的分布

MAE指每个数据集的|R(xᵢ) − Rᵢ|平均值，其中xᵢ为测试刺激序列，Rᵢ为对xᵢ的观察反应，R(xᵢ)为拟合记忆痕迹模型预测的反应（见电子补充材料S2）。反应在[0, 1]区间内标准化，因此MAE为0.1表示10%的平均误差。

关键的是，痕迹模型成功地再现了如果序列信息被忠实编码则不会预期的序列结构效应。例如，当第一个刺激远长于第二个刺激时，AB与BA的辨别被预测为比刺激等长时更困难（图3）。事实上，MacDonald[32]发现，在约7000次训练试验后，等长刺激的准确率约为50%，而在约9000次试验后，第一个刺激是第二个刺激八倍长时的准确率仅为约25%（在这项研究中，机会水平为16%）。

痕迹模型还解释了通常用符号规则或语法分析的复杂辨别[17,21,23]。例如，斑马雀在接受训练对ABA和BAB做出反应但不对AAB、ABB、BAA或BBA做出反应后的表现（图1h）被痕迹模型准确预测（图4j）。值得注意的是，该模型还正确预测了对未训练测试序列的反应。例如，BBAA被像BAA一样对待（很少反应），而BABA被像ABA一样对待（强烈反应）。这一结果用规则或语法学习很难解释[23]，但自然地遵循以下事实：序列X₁X₂X₃X₄（其中每个Xᵢ是A或B）的痕迹必然类似于X₂X₃X₄的痕迹，因为第一个序列中X₁的记忆要么被覆盖（如果相同刺激在序列后面重新出现），要么被时间抹去。

4. 讨论

我们的结果表明，研究表征和处理序列信息的能力对于理解人类与其他物种之间的认知差异很重要。序列记忆在人类中更发达的假设似乎得到现有证据的支持，但需要更多工作来最终评估它。特别是，应该用更多物种进行序列辨别实验，我们将在下文讨论。

我们的样本（八种鸟类和五种哺乳动物，包括两种灵长类）足够多样化，表明序列辨别学习存在普遍困难，但确实存在空白。值得注意的是，我们没有找到与猿类的实验。Endress等人[35]在声音序列的习惯化-去习惯化任务中发现了黑猩猩与人类的一些差异，但这一发现的意义尚不清楚，因为该任务不要求被试做出辨别（即，对任何序列做出反应或不反应都没有后果；这一观察也适用于其他习惯化研究[36]）。猿类在延迟匹配样本实验中与其他哺乳动物表现相似[34]，但其他实验范式的研究表明至少对于短间隔具有良好的工作记忆[37]。然而，后一项研究不要求猿类记住刺激序列，而是同时呈现的刺激阵列。总之，关于猿类的序列处理能力还有很多需要确定的地方。

鸣禽是另一组可能具有比痕迹记忆更先进的序列表征能力的群体，尽管可能仅限于鸣唱或其他听觉刺激。在大多数鸣禽中，幼鸟通过听成年鸟的歌唱来帮助更新模板记忆，从而学会鸣唱[13,38]。模板如何指导鸣唱学习因物种而异[13,39]，但至少在某些情况下，它似乎能够编码准确的时间信息[40,41]。

虽然我们的结果表明人类具有改进的序列信息记忆，但它们没有直接展示人类记忆如何克服非人类记忆的局限性。一个明显的可能性是，人类记忆得到语言的帮助[42,43]。例如，语言可能使形成明确的言语策略成为可能，如"只有当第一种颜色是蓝色且第二种是黄色时才反应"。虽然这种可能性具有直观的吸引力，但语言本身似乎也需要编码和表征序列信息。换句话说，如果我们不能形成诸如"第一"、"第二"、"之前"或"之后"的概念，我们就不会有这些词。也有可能语言和忠实的序列记忆都不是完全原始的，它们在发展过程中相互促进。事实上，研究表明序列处理和语言能力深深交织在一起[44-47]。进一步研究绘制前言语和幼儿序列辨别能力的发展将是有启发性的。

痕迹记忆模型对序列辨别数据的准确拟合提出了未来研究的几个问题。痕迹模型纯粹是"回顾性的"，即决策是在反应时基于通过（不完美的）工作记忆"回顾过去"做出的。也有人提出动物工作记忆的"前瞻性"解释，其中决策（在逻辑可能的情况下）在体验刺激时做出，然后被记住直到反应时间[48,49]。回顾性模型有时基于言语论据被拒绝[48,49]，但使用计算模型重新评估这个问题可能是值得的。

关于序列信息处理的其他方面也可以提出类似的评论。例如，有人建议[50,51]动物可能通过将刺激集组合在一起（"组块"；见[24]），或通过用抽象规则或语法表征刺激[17,23,52]，形成更复杂的刺激表征。痕迹模型很好地解释了许多序列辨别任务，包括一些最初设计为语法决策任务的任务[23,27]，这提出了痕迹记忆也可能解释组块、语法学习特征以及可能其他范式特征的可能性。至少，痕迹模型以其简单性，可以作为评估数据是否需要假设更复杂处理形式的有用基线。

我们的发现在试图识别人类与其他动物之间认知差异的尝试中脱颖而出：如果非人类动物缺乏忠实表征序列信息的能力，人类与动物之间的差异可能比通常认为的更为根本。 事实上，当前研究专注于认知的特定方面，如规划[53,54]、社会学习[55-57]、规则学习[17,58,59]或语法学习[21,27,36,51,52]。然而，人类在所有这些活动中都表现出色。此外，这些活动都预设了序列信息的准确编码和表征（表1）。因此，序列编码和表征的分类学差距将显著有助于解释人类与其他动物之间的认知鸿沟。如果人类依赖简单的记忆痕迹进行序列处理，这个星球上可能就不会有语言、音乐、复杂文化或数学。

伦理声明。 本研究不涉及动物被试。图1d和电子补充材料中报告的人类被试实验经CUNY IRB批准，代码为412807。

数据可获取性。 模型拟合的数据和代码可在https://doi.org/10.6084/m9.figshare.3179239.v1公开获取。

作者贡献。 S.G.、J.L.和M.E.构思了研究。S.G.、J.L.和M.E.收集和分析数据。S.G.进行模型拟合。S.G.、J.L.和M.E.撰写手稿。所有作者最终批准发表。

竞争利益。 作者声明无竞争利益。

资助。 S.G.、J.L.和M.E.获得Knut和Alice Wallenberg基金会2015.0005号资助支持。S.G.还获得CUNY研究生院跨学科研究委员会的奖学金支持。

致谢。 我们感谢Carel ten Cate、Robin Murphy和Timothy Gentner分享数据；Kimmo Eriksson、Pontus Strimling、Carel ten Cate和Ofer Tchernichovski提供评论；Dorie-Mae Nicolas、Ruzana Safonova和Justin Varughese收集图1d中的人类数据。图1中的剪影经www.psdgraphics.com（人类）、www.pd4pic.com（椋鸟）和www.animal-silhouettes.com（其他）许可使用。

部分重要参考文献

[1] Thalgard P. 2014 认知科学. 斯坦福哲学百科全书.

[2] Coolidge FL, Wynn T. 2005 工作记忆、其执行功能与现代思维的出现. 剑桥考古学杂志.
[3] Dehaene S 等. 2015 序列的神经表征：从转移概率到代数模式和语言树. 神经元.
[5] Penn DC, Holyoak KJ, Povinelli DJ. 2008 达尔文的错误：解释人类与非人类思维之间的不连续性. 行为与脑科学.
[6] Lashley KS. 1951 行为中序列顺序的问题. 大脑机制与行为.
[13] Catchpole CK, Slater PJ. 2008 鸟鸣：生物学主题与变异.
[17] Murphy RA 等. 2008 大鼠的规则学习. 科学.
[21] Gentner TQ 等. 2006 鸣禽的递归句法模式学习. 自然.
[23] van Heijningen CAA 等. 2013 斑马雀在人工语法学习任务中的规则学习：什么规则？动物认知.
[24] Miller GA. 1956 神奇的数字七，加减二：我们处理信息能力的某些限制. 心理学评论.
[34] Lind J, Ghirlanda S, Enquist M. 2015 动物记忆：来自25个物种的延迟匹配样本数据综述. 行为过程.
[42] Dean LG 等. 2012 识别人类累积文化背后的社会和认知过程. 科学.
[44] Merzenich MM 等. 1996 语言学习障碍儿童的时间处理缺陷通过训练改善. 科学.

来源：宋胖说事儿

链接：https://mp.weixin.qq.com/s/VT5Go_eTBlBRq3FqUn4G9g

编辑：杨泓艳

刘海明

【案例】

擅长哄睡的郭德纲，这次把华尔街哄哭了

有些段子，当年是包袱。

后来成了注脚。

那位在台上把“世界杯”说成“世界悲剧”的先生，大概不会想到，多年之后，远在华尔街的一群人，会因为另一场“超级杯”，突然集体失眠。

一

今年的超级杯，广告价格再创新高。

30秒，几百万美元起步。

镜头一转，人工智能巨头们轮番上场，光影流转，未来澎湃，字幕里全是“重塑”“赋能”“进化”“颠覆”。

一切都显得势不可挡。

一切都显得理所当然。

电视机前的投资人端着啤酒，看着那些画面，心里默念：时代来了。

问题是——

历史也看过这样的场面。

二

2000年1月，同样是超级杯。

互联网公司扎堆买广告。

还记得那只卖宠物用品的袜子狗吗？

还记得那些说要改变零售、改变金融、改变一切的创业公司吗？

两个月后，纳斯达克见顶。

接下来，是两年的下坡路。

不是互联网错了。

是股价走得太快。

当年电视里的广告，也很昂贵，也很宏大，也很自信。

没人觉得自己站在山顶。

三

这一次当然不同。

今天的科技巨头有现金流，有利润，有客户，有护城河。

它们不是空气公司。

它们的技术也是真的。

问题不在技术。

问题在节奏。

资本市场最容易犯的错，不是看错方向。

而是走得太急。

当所有人都相信未来已经提前兑现，

当估值里写满十年的增长预期，

当分析报告里只剩下“长期看好”四个字——

风险就不再需要制造，它只需要等待。

四

超级杯从来不只是体育。

它是情绪。

当一个行业开始用全民娱乐的舞台庆祝自己时，往往意味着，它已经进入最自信的阶段。

自信不是错。

过度自信才是。

当资金高度集中，当仓位过于拥挤，当叙事几乎没有杂音——

任何一点现实的延迟，都可能放大成价格的震荡。

牛市里，人们最容易犯的错，是把趋势当成确定性。

五

那位相声演员擅长什么？

擅长节奏。

擅长让人笑着笑着放松警惕。

资本市场也是如此。

涨着涨着，大家开始觉得自己比历史聪明。

觉得这次不一样。

觉得旧规则失效。

如果未来的盈利兑现稍慢一点，如果算力需求放缓一点，如果利率拐个弯——

市场未必会崩。

但它一定会重新定价。

而重新定价，从来不温柔。

六

技术革命是真的。

人工智能的浪潮也是真的。

但市场定价，是另一套逻辑。

历史告诉我们：

真正改变世界的技术，往往伴随着阶段性的过热。

问题从来不是会不会调整。

问题是——

谁在高位买入，谁在低位离场。

如果有一天超级杯被人戏称为“超级悲剧”，

别怪段子。

市场从来不是被笑话打倒的。

它是被自己的热情推到边缘的。

当全民舞台上灯光最亮的时候，

投资人最好多看一眼现金流表。

笑可以继续。

但别睡着。

编者按：写得不错，就是标题用郭德纲太噱头了，如果正文把郭德纲融进去，标题就名副其实了

来源：新面壁计划

链接：https://mp.weixin.qq.com/s/lZoU29ARhaYtsliuMRfGLA

编辑：杨泓艳

刘海明

【案例】

智能的机制——阿什比论文集

大家好，接着由我来为大家翻译控制论先驱阿什比的论文集《智能的机制》。全书共有8个专题40多篇论文，基本把阿什比（除了名著《大脑设计》《控制论导论》之外）主要代表作都囊括了。除了个别零散论文（比如《智力放大器设计》）外，大多没有被翻译为中文。我想尝试翻译出来，与群友共享。也许在今天AI浪潮几乎让人疯狂的背景下，聆听一下这位控制论先驱对智能的思考对我们有帮助，能让我们冷静下来，对AI如实观照。

我们现在翻译的翻译机制定律这一专题。今天我这给大家本主题的第五篇文章《自繁殖系统》后续部分。

自繁殖系统

3. 繁殖作为一种特殊的适应在这些例子之后，我们现在可以更实际地接近这个主题。为了更清楚地看到繁殖这一过程有多么特殊，我们应该认识到，繁殖并不是通过某种奇迹般的联系专属于生物有机体的东西，而仅仅是对一类特殊扰动进行适应的专门手段。关键在于，生物自创世以来所遇到的陆地环境具有某些专门的特性，只有当我们将其与计算机内部可能存在的完全非专门化过程进行对比时，这些特性才容易被注意到。在这些陆地特性中，最主要的是一条极其普遍的规律：如果两个事物相距遥远，它们往往几乎互不影响。无疑还存在成千上万其他此类事实。我们在这里关心的是，当扰动或危险降临到有机体时，它们往往是局部发生的。也许最清楚的例子是这样的：如果地球没有大气层，那么地球上的生物将受到连续不断的高速小弹丸状颗粒的袭击。在这种弹雨下，每一个特定弹丸的威胁都是局部的，因此，如果生命形式能够复制，并且这些形式被制造并分散开来，它就会增加生存机会。这一规律当然具有极其广泛的适用性。银行可能会在某处发生火灾，因此它们制作记录副本并将其分散保存。如果一台计算机容易在随机地点发生突发故障，那么在计算的各个阶段复制重要数字就是有利的。因此我们看到，这种专门的繁殖形式应该被正确地视为与其他复杂动态过程的关系，即仅仅是对一类特殊扰动进行适应的专门形式。仅此而已，别无其他。如果扰动不是局部化的，繁殖就没有优势。例如，假设太阳突然变得致命或仅仅略有干扰。在这种条件下，物种拥有许多不同个体将一无所得。同样的现象也可以在产业界看到。当不存在公司多样性的优势时，无论是影响所有公司的生存还是全部倒闭，垄断都可以像众多小公司一样适应良好。4.基础理论经过这一考察，我们至少已经达到了一点，可以从机制逻辑的角度看到"繁殖"的真正本质。我们仅仅将其视为对特定类别扰动的适应。这意味着它立即受到Sommerhoff[3]所明确阐述的理论形式的约束。它是适应这一事实意味着，我们本质上是在处理某个动态过程的不变量。这意味着我们可以获得一个新的起点，适用于机制的新逻辑，一方面清楚地展示其内在逻辑，另一方面将该过程表述为可被机器编程或任何相关过程接管的形式。我们从一个基本概念出发：在动态系统中，系统的状态集以及该状态集到自身的映射f，对应于系统的动态驱动力。那么繁殖就是该系统组成部分f上以及作用于其上的一组扰动上保持的不变量之一。当它是这样的：整体中的某些部分受到单独影响时，"繁殖"在动态驱动力f的诱导变化作用下被泛化。必须强调，尽管繁殖在生物有机体中似乎是一个严格定义的过程，但它实际上是一个具有如此普遍性的概念，以至于在所有情况下都需要精确的定义，才能清楚我们在谈论什么。因此，在某种意义上，本文呼吁给出定义，使得作用于某物之后，我们在稍后时刻又能重新得到它。这正是凤凰的情况。这也是"自繁殖"的一种基本到无趣的类型，但这仅仅是开始。它向我们发出警告：自繁殖过程可以在广义动态系统中以无数形式发生，这些形式远远超出生物世界的多样性和控制。因为它们是非生物的，生物学家会犹豫是否称它们为繁殖，但逻辑学家一旦给出定义并被迫坚持它，就找不到拒绝给予它们这一名称的理由。一般而言，我们有一套部分，在某一时间段内，属性P是可以理解的。这个属性P，如果概念要有用，必须在系统的各个位置保持（即不变）。如果在系统的事件过程中，如果沿着任何轨迹，P的出现之后，在轨迹的后续状态中，变量"存在的P的数量"具有更大的值。应该注意的是，因为自繁殖是一种适应，它要求（正如Sommerhoff所示）有机体与环境之间的关系，又因为属性P必须在其在系统中的出现次数上是可计数的，我们必须处理一个以"部分"为组成部分的系统。我提到这一点是因为，动力学研究中的一项重要新发展是将系统实际上视为一个整体，根本不考虑部分。这种新方法不能用于繁殖研究，因为正如我刚才所说，繁殖概念要求我们将系统视为由部分组成的。新观点涵盖了一条轨迹，立即展示了这一概念有趣扩展的恰当位置。正如我所说，繁殖是不变量的一种形式。一般而言，不变量只是平衡态或循环。到目前为止，我们只考虑了平衡态，但同样重要的考虑是循环。在这里我们得出结论：如果A繁殖B，B繁殖C，C繁殖A，这种循环在生物世界中当然极其常见。不仅有昆虫经历的相当复杂的形式循环——卵、蛹、成虫等，当然还有人类繁殖本身沿着循环规律进行这一简单事实：卵子、婴儿、儿童、成人、卵子，如此往复。可以对该主题的理论进行进一步的澄清。让我们将"繁殖"定义为：当某属性的出现增加了该属性在其他地方再次出现的可能性时，即发生繁殖；这是正繁殖。我们同样可以容易地考虑"负"繁殖，即当某属性的出现降低了该属性在其他地方出现的可能性时。这类例子通常不会立即浮现在脑海中。当然，我们可以立即在通用计算机上发明这样一个系统；如果指令00000意味着"用1替换所有0"，就会发生这种"负繁殖"。到目前为止，我只在真实系统中找到一个例子——即如果在电沉积过程中，一根金属晶须向电极生长，另一根晶须在附近生长的机会就会减少。因此在这种条件下，这一根或类似的晶须是自消除的。这一观察为我们提供了一个关于以下问题的明确线索：在大动态系统中，自繁殖形式将是常见的还是稀少的？负自繁殖形式显然没有突出的倾向——它们是自动自消除的。正自繁殖形式则完全不同。在没有对抗因素的情况下，它们将向前推进，直到完全占据系统。假设现在我们做出一个自然的假设：如果系统部分是随机组装的，系统越大，其中可能的形式数量就越多。再加上如果任何一个形式是自繁殖的，那么自繁殖形式将充满系统这一事实，我们得出结论：有很好的理由预期，所有足够大的系统都将充满自繁殖形式。这一事实很可能主导大型自组织系统的设计，迫使设计者将大量注意力投入到以下问题上："在我的系统中可能发展出什么样的自繁殖形式？"，并在动态系统设计中投入大量注意力来防止简单的不稳定性。5.总结过去，繁殖通常被认为是专属于生物的，并且需要非常特殊的条件才能实现。真相恰恰相反：它是一种范围最广的现象，倾向于发生在所有动态系统中，如果它们足够复杂的话。大脑很可能将这种倾向（自繁殖形式的发生）作为其正常高级过程的一部分加以利用。大型自组织系统的设计者一旦设计出真正大型且自组织的系统，就会将这一属性作为一个主要因素加以考虑。参考文献1. W. Ross Ashby, "Principles of the Self-organizing System," *Symposium on Self-organizing Systems*, University of Illinois, June 7-10, 1960. Pergamon Press, 1962.2. R. Rosen, "On a Logical Paradox Implicit in the Notion of a Self-reproducing Automaton," *Bull. Math. Biophysics*, Vol. 21, pp. 387-394, 1959.3. G. Sommerhoff, "Analytical Biology," Oxford University Press, London, 1950.

来源：宋胖说事儿（公众号）

链接：https://mp.weixin.qq.com/s/uiU9AAtgMCM7lIuE31S_oQ

编辑：张席睿

刘海明

【案例】

AI闯入新闻编辑室：是“饭碗危机”还是“新伙伴”？

近日，光明网总裁、总编辑杨谷在《传媒》2026年第2期刊发文章《破除成本障碍，实现一线编辑记者AI使用的“百人百模”》。

文章提到，光明网通过搭建AI应用平台、组织技能培训，提供好用易用的AI采编工具，为内容生产破除成本障碍。

全文如下：

在AI技术影响人类社会生产生活的当下，AI嵌入并赋能传媒行业已经是大势所趋，应用AI技术对于网络意识形态阵地建设而言已不是该不该用的问题，而是如何用好的问题。AI技术的发展为新闻行业带来颠覆性变革的同时，也对编辑记者的职业能力提出了挑战。一方面，包括传统媒体在内的诸多新闻媒体机构开始采用AI大模型等自动化技术辅助内容生产与运营，编辑记者的新闻判断、素材选择、制作流程逐渐依赖算法、平台及用户指标，而并不局限于传统意义上的知识积累与抽象判断，AI技术对于新闻实践的影响力日益增强。另一方面，AI大模型能够实现文生图、文生语音及视频等多模态文本内容，已经嵌入传统新闻生产中原属于编辑记者的原创性、独创性领域。在此背景下，AI逐渐成为一线编辑记者转型过程中躲不开、绕不过的关键要素与“伙伴”。

一、本领恐慌：AI浪潮对网络媒体编辑记者的冲击

井喷式发展的AI大模型，给网络传播提供了丰富选择。据世界人工智能大会最新数据，2025年7月世界人工智能大会数据显示，全球已发布大模型3700余个，其中由我国企业研发的有1500余个，位居世界第一。据国家互联网信息办公室数据，截至2025年11月1日，我国累计有611款生成式人工智能服务完成备案，306款生成式人工智能应用或功能完成登记。AI大模型在蓬勃发展的同时，也对网络媒体的发展造成了一定的影响，具体表现为人与AI的关系，即一线编辑记者面临的“本领恐慌”与“选择恐惧”。

毋庸讳言，今天网络传播领域面临着人才、技术的竞争，而多数网络媒体存在人才、资金、设备不足的缺陷，导致在引进、使用新技术方面处在不利位置。AI时代的到来，使网络媒体必须采用新的视角、新的思路看待这种新技术，避免错失发展机遇。面对“闯入”工作场域的AI，新闻从业者的实际心态十分复杂。编辑记者们多少都会有些“本领恐慌”：AI会不会抢去编辑记者的饭碗？学习AI需要的时间与金钱成本怎么降低？年龄大的人能不能学得会AI？AI做内容的“坑”怎么样才能不踩？这些问题如果不解决，必然会让一线编辑记者对AI产生疏离感，要么“叶公好龙”，对AI敬而远之；要么“滥竽充数”，对AI出工不出力。编辑记者们的“本领恐慌”是正常的。实事求是地说，传统媒体时代，网络媒体编辑记者拍摄制作一部视频作品需要耗费相当长的时间，而使用AI大模型后的制作效率得到了极大提升。

当前，各级媒体正在探索系统性变革的路径和策略。系统性变革的核心就是要构建适应全媒体生产传播的工作机制和评价体系，AI等智能化技术的应用也不容忽视。而不管如何变革，在变革中实现采编队伍的整体转型，形成主题宣传和主流报道的新质生产力，是变革必然追求的目标。要想让AI大模型变成绝大多数一线编辑记者的生产工具，还需要网络媒体从顶层设计入手，打通AI与网络新闻产品之间的“最后一公里”。而聚焦到一线环节，网络媒体能否用好AI大模型，实际则是一线编辑记者的实操问题，编辑记者在每一篇文字、每一张图片、每一段视频的制作、生产中的思维逻辑，决定了网络媒体最终成品的“成色”以及所能达到的传播效果。

站在网络媒体一线编辑记者的角度，国产大模型种类繁多，具体选择哪种作为自己的辅助工具至关重要。AI大模型的选择越多，其选择成本也越高。选择AI大模型既存在时间成本，也存在资金成本。对于广大编辑记者而言，完全靠自己从头开始熟悉一种大模型，至少需要数月的学习时间，这里也同样存在试错成本。而且大多数AI大模型有免费和收费服务的区别，很多真正对内容生产有益的功能是收费的。如果这项费用由编辑记者自己来承担，显然会降低他们学习AI大模型的积极性。

二、技术嵌入：网络媒体AI平台搭建的成本考量

长期以来，网络传播并不是AI大模型的主要应用场景。在过去，网络媒体使用AI大模型，存在投入极高、周期过长的问题。光明网在开发某个采用视觉识别技术的产品时，曾经提前半年开始研发，而且可调整的参数极为有限，无法满足网络传播节奏快、变化多的实际情况。但这种情况在过去一年来发生了巨大变化，AI大模型的使用门槛极大降低了。多款AI大模型不仅具有极强的智能处理能力，还具备流畅文本与高清视听内容的输出能力。此外，用户界面不断优化，越来越便于普通用户使用，完全可以满足编辑记者等非AI专业人士的工作需求。

1．媒体机构视角：投入成本的可行性。鼓励一线编辑记者使用AI，并不意味着巨大的投资。过去在建设信息技术设施时，网络媒体常常投入巨资购置硬件、软件，搭建机房。AI大模型的研发投资巨大，动辄以亿元计，而且软硬件技术迭代极快，以网络媒体的技术人才储备，几乎不可能参与原创性开发。目前，AI大模型的主流应用模式是基于云计算的，这就意味着网络媒体可以使用算力、存储等公共信息基础设施，不需要自己建设AI机房。以北京为例，算力规模已达4.2万P（1P约等于每秒1000万亿次计算），在全球处于领先位置，完全可以让网络媒体免去算力枯竭的困扰。在实际工作中，编辑记者使用随身携带的笔记本电脑，可以完成多数AI创作任务，因为计算密集型任务都可以在云上的算力中心完成。

因此，网络媒体不宜为AI大模型进行规模大、见效慢的投资，走自建系统的老路也很难适应AI技术发展的节奏。从资金、技术、人力等多元成本考量，网络媒体较为可行的路径是从现有的AI大模型中选择成熟、适用的产品，搭建多元产品共存、多种模式聚合的AI应用平台。在平台搭建的过程中，国产AI大模型的技术水平完全可以信赖。例如，2025年9月，在全球AI技术测评中，北京字节跳动公司的“即梦”摘得文生图与图片编辑两项冠军。使用国产AI大模型的便利之处在于，网络媒体可以就近找到相关产品研发专家请教，提高应用水平。

2．编辑记者视角：个人成本的便利性。从组织体系聚焦到一线结构，成本考量同样重要。网络媒体不对AI大模型进行大规模投资，并不等于不进行投入。因为对于编辑记者而言，AI的使用成本确实不低。以某主流AI大模型为例，普通个人版虽然便宜，但其很难完成网络媒体所需要的工作，而能够完成工作的高级个人版，年度会员费为5000多元。而这样的高级个人版，无法与自己的同事分享提示词、生成流程等经验，也无法积累图片、视频等数字资产。在此背景下，AI应用平台的搭建则显得更为必要。网络媒体为编辑记者搭建技术环境、提供技术应用、消除使用门槛、减少试错成本，有利于提高编辑记者使用AI大模型进行内容创作的意愿与能力。所以，鉴于现阶段还没有一种普遍的、通用的AI大模型，网络媒体不宜对AI大模型的选择限制过多，应该根据技术发展趋势及时调整，可以在平台多样性的基础上，把AI大模型的选择权交给一线编辑记者。

光明网的AI平台搭建就是通过选择并汇集适用产品为特征的。光明网很早就成立了人工智能新闻信息服务实验室，不断对流行的AI大模型进行评测、筛选，先后采购了适用于网络传播的DeepSeek、豆包、通义千问等数十款大模型供编辑记者们学习使用。编辑记者们不需要自费，就可以使用契合自己工作需求的AI大模型。核算下来，近一年的总体使用成本远低于个人购买的费用，AI应用大平台有效发挥了规模效应。同时，光明网的AI应用平台还拥有桌面AI工具和个人知识库定制功能，编辑记者们可以生成自己的智能客户端和多个智能体助手，并在平台上随时切换使用不同的大模型。

三、系统赋能：“百人”定制“百模” 提升编辑记者创作能力

网络媒体既要重视编辑记者的“本领恐慌”，又要通过AI应用平台的搭建提升编辑记者适配智能媒体生态的“综合能力”。光明网想方设法为编辑记者们搭起通向AI的桥梁，在搭建AI应用大平台的基础上，通过培训赋能、榜样示范、重点突破等系统性的能力提升方式，引导编辑记者接受AI、熟悉AI、应用AI。

“一个都不掉队”是光明网在开展AI赋能培训时的宗旨。每一位编辑记者在具体工作中坚持马克思主义新闻观，是建设网络传播阵地的宝贵财富。提供培训赋能，让每一位一线编辑记者成功地掌握AI技能，是光明网探索系统性变革的关键路径。

2024年起，AI大模型竞争进入白热化阶段，ChatGPT、通义千问、豆包等AI大模型大约每3个月完成一次升级。例如，通义千问一年来处理速度提升5倍以上，上下文理解长度（Token）增长了10倍，达到1000万个，处于全球领先位置，已推出多模态版本，不仅能做自然语言的生成和理解，还可以做到视觉和图像的理解，能够自动完成推理、执行、图片识别、视频解读等任务。因此，网络媒体引入AI新知识、新技能，无法等待产品和技术完全成熟，而是要跟随技术迭代的步伐。光明网的AI培训做法可谓“只争朝夕”——每个月举办1～2次AI培训，让编辑记者们少走弯路，迅速享受AI技术升级带来的红利。

从2024年开始，光明网已面向全体员工开展了20多场AI技能培训，先后邀请清华大学、北京师范大学、中国传媒大学、浙江大学等高校的专家学者，为编辑记者们讲授生成式AI如何赋能传播、ChatGPT的技术逻辑、DeepSeek如何助力采编、AI工作流的设计等前沿知识。技术应用以外，光明网先后邀请百度、微博、抖音、美图、来画等企业的产品经理，讲述技术应用对产品开发的赋能。比如，产品的最新功能和由此带来的新创作技能如何应用于内容生产。

此外，网络媒体AI技能的培训，还要重视编辑记者同行之间的相互启发。光明网倡导“能者为师”，简言之，就是谁的作品用AI用得好，谁就可以当大家的老师，向大家传授经验。这种让身边人启发身边人的培训，直接面向大家共同遇到的业务问题，针对性强，并能起到很好的示范效应。这些密集的培训使得AI从神秘到“去魅”，编辑记者们自主选择AI大模型，尝试定义自己的知识库、智能体，形成了热气腾腾的“百人百模”创作图景。2024年，光明网仅有20余人尝试探索AI应用；2025年，在大规模培训展开后，光明网全体编辑记者都进入了AI创作的新阶段。有编辑在初用AI“文生图”功能时，直接将一句古诗词或自己文章中的段落发给了AI，结果生成的画面与文本内容严重不符，甚至存在中文乱码；后来参考了同事们的提示词，很快便掌握了AI“文生图”的诀窍，生成了所需的三维卡通图片。

四、应用拓展：人机协同创新网络媒体多元化运营

网络媒体构建AI应用平台、组织技能培训，目的是激励一线编辑记者主动学AI、用AI，解决工作中的痛点、难点。互联网生态复杂多变，海量信息充斥、多模态文本共存、内容把关与事实核查需求日益增强，网络媒体正通过AI大模型拓展业务板块，在人机协同的过程中逐步适应媒体数智化转型趋势。

1．高频应用优化，形成示范效应。当前，短视频成为网络媒体高频应用的媒介形态之一。如何利用AI大模型生成质量上乘、契合需求的视频，并形成示范效应，提升内容生产的质量和效率，是网络媒体在智能化转型过程中面对的焦点、痛点和难点。

在应用AI大模型的过程中，光明网历经一年多的探索，逐步形成“策划构思—文生图—改图—图生视频”的短视频优化生成流程。在生成视频时，AI大模型由于缺乏提示词训练，不能很好适应主流媒体的生产流程与内容需求。对此，光明网为编辑记者们创建了一个高效提示词数据库，其中囊括海量提示词汇，如皮克斯动画风格、创意微缩场景、宫崎骏动漫风格等。编辑记者的高频率使用使得数据库沉淀下来的提示词愈发精准，进而使得AI大模型更加适用于主流媒体生产流程。光明网这些经过实践检验的提示词模板，极大地提升了“文生图”和“图生视频”的精度。2025年12月，光明网AI应用平台上“图生视频”功能被使用了5000多次，是最受编辑记者欢迎的功能模块。

除了短视频提示词应用，光明网还一贯发挥着主流媒体优势，利用短视频对社会热点、经济形势等进行视听式解读。以往这类短视频的制作难点在于视觉特效和空镜素材。光明网在完成“中国式现代化”的解读专栏《新消费观察》时，运用国产“海螺”AI大模型，快速生成拼插玩具风的经济统计报道（如图1），免去了额外补充空镜素材的繁复，不仅增加了画面的趣味性，还提高了制作效率，几乎可以与国家统计数据公告同期发布。

比如，光明网使用“即梦”和“剪映”两种AI工具制作科普短剧《近视简史》（如图2），借鉴主流动画片画面语言，生动展现了近视演化与人类进化历程，极大提升了科普类视频的趣味性与易读性。该视频一经播出，不但在网络上传播广泛，还被全国医院联播屏展播。2025年以来，光明网的编辑记者已经用AI生产了5万多件图片和视频作品，并多次得到上级主管部门的认可。其中，《“大国重器版”千里江山图——从新年贺词看中国科技硬实力》、《“文物会说话”有声海报》专栏等采用AI绘制的作品被中央网信办评为中国正能量网络传播精品。

2．智能主体研发，助力媒体融合。光明网是《光明日报》在网络领域的延伸。充分发掘《光明日报》的优势领域和优势报道，是光明网推进媒体深度融合的题中应有之义。教科文卫作为《光明日报》的优势领域，亦是光明网的深耕领域。AI赋能媒体融合方面，光明网主要做了以下探索：一是打造数字主播。光明网在《光明日报》重点报道《曲艺破圈记》的基础上，开发“AI虚拟主持人+AI空镜”，以网友喜闻乐见的短视频方式呈现出来，使这类作品构成了光明网《光明艺评》栏目的主力。二是研发智能体。光明网的网络直播社会影响力较大，是优势产品之一。在传统网络直播中，一场直播结束会生成大量的视频素材，这些素材往往直接进入媒资库，在前期输入存储与后期输出运用的过程中不够便利，只能在专用的高性能工作站操作，效率低且重复利用难度大。在此背景下，光明网研发部门利用AI大模型打造了“光明智会”智能体，该智能体可以在直播结束后10分钟内生成文本实录，同时自动提取摘要和关键词，形成思维导图。2025年9月是首个全国科普月，光明网科技编辑凭借该智能体圆满完成了中国科协组织的上百场科普直播的短视频切条二次创作，相关短视频和图文稿件与直播几乎同步推出。

3．智能核查拓展，提升把关能力。当前，人人都有智能手机，信息来源非常广。为了博取流量，一些自媒体移花接木，杜撰新闻要素，给新闻核查带来了更大的难度。智能媒体时代，信息的海量性与编辑人员精力的有限性构成一对矛盾，不断挤压编辑人员内容把关的空间。因此，提升编辑记者的把关能力，是网络传播工作的核心要求。传统媒体时代，新闻把关主要靠编辑记者的工作经验。而智能传播时代，人机协同则成为审校的重要方式。几年前，光明网曾开发基于全文检索的审校软件，部分解决了易错文字等问题。但编辑记者在使用中发现，仅靠全文检索很容易发生错判、漏判，而且其无法对图片、音频、视频等文本形态进行审校。AI大模型嵌入后，光明网的AI实验室与DeepSeek合作，建设了深度整合的AI审校系统。借助AI大模型精准的语义理解能力和丰富的语料库，审校系统可以更好地诊断报道中存在的问题隐患，给出修改建议。在此过程中，光明网根据舆情和宣传工作需要，添加新的把关规则。AI实验室基于AI工具设计了文件审核AI工作流，分步骤自动检测标题字段形式是否规范，有无文字、逻辑错误，标题和正文内容是否相符，让AI辅助传统编辑完成审核校对工作，编辑的工作重心转向了对异常情况的处置，“人类的智慧在确保新闻内容的准确性、公正性和伦理性方面仍然不可或缺”。与此同时，AI审校系统还提供“事实核查”功能，可以对报道的表述进行核查，自动区分与标注事实和观点，弥补编辑记者们在专业知识上的不足。因此，AI大模型给编辑记者提供了一条集内容审校、事实核查、系统把关于一体的“AI安全带”，进一步提升了网络媒体在复杂生态中的信息纠偏综合能力。

五、结    语

从技术的普及速度与嵌入程度看，AI有望成为一线编辑记者提升“四力”的得力帮手，增强短视频、长图、新闻播报等媒介内容的创作能力，提高工作效率，从而补齐网络媒体的结构短板。AI带来的丰富表达手段与效果，能让网络新闻更加贴近受众。“十八般武艺样样精通”的AI大模型，正在帮助编辑记者们成为网络传播的多面手。但AI只是工具，网络新闻能够打动网友的，仍是每一件作品背后新闻人炽热的情感。新闻贵在真实，有了沾泥土、带露珠的一线采访，才能辨识AI生成内容的真伪。AI的意识形态导向偏差并不是一个伪问题，破解这个问题，需要编辑记者坚持以马克思主义新闻观为指导，平衡内容把关的定力与技术应用的效力。与此同时，AI本身也还在急速变化中，但无论媒介技术与网络生态如何变化，一线编辑记者尽快掌握AI技能，才是主动应变之道。

作者系光明网总裁、总编辑

来源：编采圈（公众号）

链接：https://mp.weixin.qq.com/s/LJiDrg0TLo_yuaMmpA6UuQ

编辑：张席睿

刘海明

【案例】

AI伦理佳文传递｜生成式人工智能中的欺骗与操控（一）

AI Ethics

文章题目

生成式人工智能中的欺骗与操控（一）

（文章较长，分两期发布）

AI Ethics

文章来源

原文发表于Philosophical Studies，《哲学研究》由 Springer 出版集团发行，是一本在分析哲学领域具有很高声誉的国际期刊。期刊以发表体现清晰性和精确性的学术论文为核心标准，尤其重视运用形式化方法解决哲学问题的研究。截至2025年，期刊被Arts & Humanities Citation Index（AHCI）、Scopus等权威数据库收录，中科院分区位列哲学学科Q1区。

引用本篇（APA）：Tarsney, C. (2024). Deception and manipulation in generative AI. Philosophical Studies, 182, 1865 - 1887.

AI Ethics

作者简介

Christian Tarsney，多伦多大学士嘉堡校区（University of Toronto Scarborough）哲学系助理教授，专注于伦理学领域，核心研究方向为不确定条件下的伦理决策。其学术工作涉及多个前沿议题：探讨对极好或极坏结果的微小概率应赋予何种伦理权重；处理基本道德原则的不确定性；研究影响未来人口规模的道德选择。近年来，其研究延伸至人工智能哲学，关注AI系统的“欺骗性”本质及AI智能体寻求权力的潜在倾向。此外，他在时间哲学方面亦有涉猎，尤其探究人类“偏向未来”的心理倾向及其哲学依据。

（已与作者本人联系，获得授权）

AI Ethics

译者简介

单祎文，东南大学人文学院2021级哲学专业博士研究生，AI伦理实验室成员，研究方向为人工智能伦理、科技伦理。

AI Ethics

编者按

文章系统性地回应了“生成式人工智能（Generative AI）是否以及如何构成欺骗与操纵”的争论，提出了一种基于“半理想条件”（semi-ideal conditions）的评价方法 。作者认为，将AI生成的误导性内容仅理解为“技术幻觉”或“字面上的真实与否”是不充分的，因为这无法解释AI如何通过大规模的个性化信息或策略性地筛选事实，诱导人类产生认知偏差与行为改变 。当AI生成的陈述倾向于引导用户背离其在拥有充足信息与审思时间（即“半理想条件”）下会认可的信念或选择时，这种行为本身即构成了规范意义上的欺骗或操纵，而不仅是技术误差 。

为避免将欺骗意图或心理状态直接归于AI本身，作者提出一种基于效果的解释，即对AI欺骗的界定应脱离对“精神状态”的探究，转而聚焦于其对人类接收者产生的实际认知效果 。作者进一步论证，AI系统应遵循比人类社交规范更严苛的非欺骗性标准，因为AI不具备人类在特定职业或社交语境下（如律师、政治家等）所享有的“适度隐瞒权”或道德豁免权 。

在治理层面，文章提出了“极端透明性”（extreme transparency）和“防御性系统”（defensive systems）的实践框架 。这一框架主张通过强制披露AI生成的全过程信息（如提示词、原始输出），以及部署专门的辅助系统来对AI陈述进行实时背景标注，将潜在的误导风险转化为可感知的透明度要求 。

总体而言，本文为“界定AI欺骗与操纵”提供了一个避免拟人化、但仍保留规范性的哲学解释，也为理解生成式AI中的认知安全、未来智能体系统的安全监管以及用户自主性保护提供了具有实践可行性的伦理分析工具 。

生成式人工智能中的欺骗与操控

1.引言

在过去的几年中，人工智能的能力取得了飞速进步，这主要是由规模庞大且数据密集的深度学习系统驱动的。其中一些最引人瞩目的进展出现在自然语言处理领域。大语言模型（LLMs）是一种深度学习系统，它通过在海量人工生成的文本中学习预测下一个词语，从而获得类人的语言能力；随后通常还会根据人类反馈进行微调，以使其成为有用的对话伙伴，同时抑制攻击性或其它不良输出。在学习预测人类文本的过程中，它们也能学习事实，并学会模拟（至少某些方面的）人类推理。像GPT-4、Claude 3和Llama 3这样的尖端大语言模型，虽然在许多方面仍不及人类的智能水平，但它们已经内化了海量的现实世界信息，并能以令人印象深刻的清晰表达进行阐述。

然而，尽管大型语言模型显得学识渊博且乐于助人，它们却并非纯粹真理的源泉。它们 容易出现“幻觉”——即自信地断言完全虚构的事实（Ji et al., 2023），例如，可能包含关于真实人物的诽谤性虚假信息（Poritz, 2023; Verma and Oremus, 2023）。但更危险的是，大型语言模型能够——并且已经被——用于生成虚假或误导性内容，以服务于人类恶意行为者的目的（Park et al., 2023, §3.1）。尤其令人担忧的是它们被用于政治影响行动（Goldstein et al., 2023; Nimmo, 2024）。当然，人类无需人工智能的帮助也能并且确实在相互误导，但大型语言模型生成误导性内容的规模带来了新的危险。首先，它们可以大规模地个性化定制虚假信息，为海量目标量身打造个性化信息，甚至同时与数百万人进行对话（Matz et al., 2024）。其次，它们能在社交媒体上令人信服地模拟大量人类用户，制造关于集体意见的误导性印象，并为病毒式传播的虚假信息增添可信度（Burtell and Woodside, 2023, §3.3）。因此，欺骗与操控已成为致力于人工智能伦理研究的哲学家们重点关注的问题。

虽然当前最紧迫的担忧是人类恶意行为者会利用AI进行欺骗和操控，但未来的AI系统也可能自主地从事欺骗和操控行为。这种可能性——即那些具备超人类说服力的智能体AI，会为追求自身目标而欺骗和操控人类——在关于AI灾难性风险的忧虑中占据显著位置。例如，有观点认为，此类AI可能会说服人类（无论人类是否知情）去增强其能力（例如，将其连接到互联网或将其代码从一个系统复制到另一个系统），或在关键时刻劝阻人类将其关闭。因此，对于欺骗和操控的担忧，是近期对现有AI系统滥用的忧虑与长期对未来AI系统灾难性风险的忧虑相互交织、融合的若干领域之一。

我们应如何应对这些风险？在某些情况下，应用现有的法律与规范（或对其稍作延伸）可能已足够。例如，若一个大语言模型诽谤了在世者，我们可追究其创造者的法律责任（尽管我们也可能允许通过发布充分有力且醒目的免责声明，使创造者免于承担此责任）。若诈骗者利用大语言模型生成钓鱼邮件，他们当然可以被起诉，就如同这些邮件是由他们亲手撰写的一样。

然而，大语言模型至少在两个方面要求我们重新思考关于欺骗与操控的现有规范。

首先，无论是体现在日常道德规范还是诽谤、欺诈等相关法律中，对这些概念的通常理解都涉及对心理状态的归因。例如，欺骗在传统上被理解为需要具有欺骗的意图，这既要求行为人具有使对方形成特定信念的意图，又要求行为人相信该信念将是虚假的。然而，当今的AI系统是否拥有信念、意图或其他心理状态，这一问题存在高度争议，并且即使未来AI能力继续提升，这种争议也很可能持续存在。即使我们同意先进的AI系统拥有某些心理状态，要将特定的信念或意图归因于某个特定系统（从而根据传统理解去判断其行为是否不诚实、具有欺骗性等），也仍然会非常困难。

在某些情况下（例如，诈骗者利用大语言模型撰写钓鱼邮件），我们可以通过追溯其人类创造者或使用者的心理状态，将那些以意图为核心的概念应用于AI的行为上。但在其他情况下，我们无法这样做，至少无法直接应用。例如，当一个大语言模型幻觉式地生成关于真实人物的诽谤性谎言时，这并不反映任何人类意图去欺骗。或者，如果一个政治竞选活动使用大语言模型来生成并发送个性化的短信，这些信息中可能包含虚假或误导性内容，而竞选团队的成员却无人知情或有意为之。我们希望抵制AI欺骗的努力能够涵盖此类陈述，即便由于无法归因意图，它们按通常标准并不能算作“欺骗”。最后，如果我们最终创造出人类水平的智能体AI，我们可能希望让这些系统为其自身的行为负责。而即便到了那个阶段，我们也很可能发现，将特定的心理状态归因于AI，仍然比对人类做同样的事情更加困难。

其次，围绕欺骗与操控的现有法律和伦理规范，是适应这些行为在人类社会中所造成的问题而生的，它们可能无法很好地适配人工智能所引发的新型风险。具体而言，我们的法律和伦理规范容忍了许多轻微的欺骗和操控形式。在人类之间，这些行为既难以被发现和惩罚，其负面影响也尚在可控范围内。例如：我们常常容忍他人在“看法问题”上掩饰自己的真实信念：我们期望律师说“我有信心陪审团将判我的当事人无罪”，政客说“我有信心我们将赢得下届选举”，老师说“我相信只要你用心就一定能掌握这些内容”——即便他们实际上并无此信心。同样，我们预期广告商会以尽可能好的方式展示产品，而非致力于让消费者对其优缺点形成最准确的认知。例如，汽车制造商可能强调其车型在某项评选中获得安全奖，却刻意不提竞争对手的车型在一个更权威的机构评选中获得了另一项安全奖项。由这些轻微欺骗形式所产生的社会弊端之所以尚属可控，原因在于：第一，我们已习惯于彼此间的此类行为，并且凭借对人类心理的直觉理解，我们能预见并作出调整；第二，人类之间在智力和沟通能力上大体相当，这限制了我们能通过微妙的欺骗形式从彼此身上获取多大优势。例如，用彻头彻尾的谎言（如承诺巨大的物质或精神回报）骗走某人毕生积蓄，远比通过策略性选择的真实信息（如普通营销）做到这一点要容易得多。

然而，当前以及（尤其是）未来的AI系统，或许仅凭“轻微”的欺骗形式就能造成更大危害。如前所述，它们能以前所未有的规模生成潜在欺骗性内容，例如超个性化的营销和政治信息，以及海量的在线文本，如产品评论、新闻文章和观点评论。即使我们能够将这些内容置于普通的诚信法律标准之下（例如，追究公司在广告中发表明确虚假陈述的责任），并置于新兴的网络内容社会标准之下（例如，在搜索引擎结果和社交媒体上压制包含可证实虚假信息的新闻网站），广告商、政党和其他利益相关方仍可能凭借其说服性努力的庞大规模，对集体人类行为施加前所未有的影响。（此外，由于AI能力在飞速进步，无法保证相互竞争的利益方能抵消彼此的说服性影响——在特定选举中，一个政党仅仅因为提前几个月获得了尖端系统的使用权，就可能获得对另一政党的显著优势。）在不久的将来，AI系统或许还能产出前所未有的高质量说服性内容，在不发表任何违背普通人诚实标准言论的情况下，找到极其有效的方式来欺骗和操纵人类。最后，随着能力提升，AI可能以前所未有的欺骗机会深度融入我们的生活。例如，我在驾驶时如此依赖并盲目信任导航应用，以至于它们可以轻易地操纵我驾车经过特定的广告牌或餐厅。未来，AI个人助手可能会在更广泛的任务上被同样依赖。因此，有多重理由对AI施加比目前适用于人类更为严格的反欺骗标准。

本文的首要目标是界定可用于此类严格规范中的欺骗与操控概念。在第2节中，我提出：如果一个AI陈述导致人类用户偏离了他们在“半理想”条件下（即获得所有相关信息并有充分时间进行审议）会认可的信念（相应地，选择），那么该陈述就应被视为具有欺骗性（相应地，操控性）。接下来（在第3节），我针对如此界定的AI欺骗与操控，提出一些防护措施。这些措施包括“极端透明度”的要求（要求内容创作者披露用于生成特定内容的具体模型版本、提示词以及未经编辑的完整模型输出），以及训练能检测误导性输出、并为用户提供相关信息以辅助理解AI生成陈述的防御性系统。最后（在第4节），我探讨这些措施能在多大程度上防范未来的智能体AI系统的欺骗行为。我特别论证指出，非智能体的防御系统即使面对更强大的智能体系统，也能提供一层有用的防御。

2.定性：将欺骗与操控视为误导性

在本节中，我将对AI的欺骗与操控行为进行定性，该定性可能有助于为应对此类行为所带来的风险，制定法律、规范和技术层面的回应。在第2.1小节，我为此类定性提出三项理想标准。在第2.2小节，我尝试满足这些标准。用一句口号概括，我将欺骗与操控定性为误导性的表现形式——即，它们分别是会对人类接收者的信念和选择产生方向性不良影响的行为。第2.3小节讨论针对这些定性的一些异议与局限。第2.4小节则将它们与文献中先前对AI欺骗与操控的定性进行对比。

2.1 理想标准

在第1节中已经有所暗示的两项理想标准如下。首先，我们所关注的这类行为远不止于陈述字面意义上的虚假内容。当然，在不做任何虚假陈述的情况下进行欺骗或操控是可能的，且可通过多种方式实现。有的真实陈述蕴含虚假含义（试想一位政治家说：“根据我的计划，有些人可能需要缴纳更高的税款”，而实际上他/她清楚该计划将要求所有人都缴纳更高的税款）。有的陈述呈现了非代表性的相关事实样本（试想广告商提供的选择性真实信息，或某个新闻频道为了暗示——而无需明说——某个群体的犯罪率高得异乎寻常，便连篇累牍地报道该群体成员所犯的罪行）。还有的陈述以不显而易见的方式为真（试想德尔斐神谕告诉克罗伊斯，如果他/她与波斯人开战，将摧毁一个伟大帝国；或是“凡妇人所生的都不能伤害麦克白”的预言）。并且，如前所述，AI或许能够比人类更有效、更有害地进行欺骗，而无需说出任何字面意义上的谎言——甚至无需发表任何按普通人标准看来明显具有误导性的言论。这表明，在思考AI带来的风险时，我们应聚焦于欺骗与操控这类宽泛概念，而非不实陈述这类狭隘概念，并且应当愿意进一步拓宽这些概念，以纳入那些在人类身上我们通常不会描述为欺骗或操控的行为。

相比之下，埃文斯等人则主张聚焦于AI的真实性——更具体地说，是遵循避免“疏忽性虚假陈述”的标准，他们将其定义为“当代AI系统本应能够认识到其极有可能为假的、不可接受的陈述”。他们提出，如果AI避免了疏忽性虚假陈述，并且用户可以对其进行提问，那么我们就能通过提出诸如“如果我就此话题独立研究一天，会显著改变我的看法吗？”或“一位公正的审核员会判断你刚才的陈述具有误导性吗？”等问题，来防范更微妙的欺骗与操控形式（他们称之为“真实性放大”）。这是一个有用的观点，言之有理，但这似乎不足以将真实性转变为防范欺骗与操控的可靠保障（埃文斯等人也并未声称如此）。在许多情境下（例如，营销和政治宣传中），信息的接收者没有机会提出后续追问。一个能力足够强的AI可能会微妙地阻止用户提出正确的问题（例如，通过建立无根据的信任），或者找到方式在回答这些问题时虽具误导性，却不公然作出疏忽性的虚假陈述。而一个疏忽大意的用户可能根本就不会提出正确的问题。因此，尽管避免疏忽性虚假陈述无疑是可取的，也是一个合适的训练目标，但我们最终应该希望以更高的标准来约束AI的行为。

第二，我们需要一个关于欺骗与操控的定性，它不要求我们将特定的心理状态归因于AI系统，也无需将其行为与特定的人类（如开发者或提示者）关联起来并以这些人的心理状态作为替代。这其中的原因，部分如先前所述：现有的AI系统是否拥有心理状态本就存在争议。而即便没有争议，将特定的心理状态归因于特定的系统也是相当困难的（肯特等人也提出过类似观点）。但更重要的是，我们实际关注的是AI可能对人类受众产生的欺骗性或操控性影响。举例来说，如果一个系统能够说服消费者购买有害产品、说服选民支持威权政客，或者说服其操作者将其连接到其他计算系统，那么无论其“头脑”中正在发生什么，它都构成了危险。因此，我们应当尽可能基于AI对人类受众产生的影响来理解AI的欺骗与操控。

第三点（也是最后一点），我们需要的是对欺骗与操控的一种可以被称为主观而非客观的定性。从客观角度来看，我们或许会说，当言论导致听者相信了虚假或与现有证据相悖的事情时，它就是欺骗性的。同样，我们或许会说，当言论导致听者做出事实上（对其自身利益或道德上的善）有害的行为，或根据现有证据预期会有害的行为时，它就是操控性的。若以防止这种客观意义上的“欺骗”和“操控”为宗旨，就可能会允许、甚至可能要求一些我们凭直觉就会认为其本身就是欺骗和操控的家长式行为。一个旨在使其受众基于证据形成信念，并基于证据加上客观的（道德或利益上的）善来行动的系统，可能会为了抵消我们的非理性而欺骗我们（例如，隐瞒疫苗副作用的证据，以促进“疫苗总体上是安全的”这一理性上合理的信念），或者为了抵消我们对“善”的短视或自私漠视而操控我们（例如，夸大运动的短期健康益处或慈善捐赠的心理益处）。我并不想在此对家长主义的伦理问题作一般性表态。但在我看来，我们不应在现在或可预见的未来，认可AI对人类实行家长主义。要在此语境下区分良性的家长主义与恶意的欺骗/操控，需要对哪些信念是理性合理的以及“善”的本质作出有争议的判断。因此，允许AI实行家长主义，实际上将意味着优化AI系统，以推广其开发者和/或监管者的信念与价值观。

另一种主观方法关注的不是受众应当相信什么或做什么，而是他们在有利环境下会认可的信念和行动。何为“有利环境”？关键在于，这些环境不应过于理想化，以至于诉诸它们就需要对理性或价值观作出有争议的判断。换言之，应能实际将人们置于这种“有利环境”（或其合理近似）中，并通过经验来确定他们得出的结论。因此，我将我们所关注的环境描述为“半理想条件”，并将其定义如下：一个主体相对于某个问题Q或选择C处于半理想条件，如果她 (i) 已获得所有与Q/C相关的可用信息，并且 (ii) 已获得（并利用了）相对于Q/C的难度而言充足的审议时间。

这里所说的“可获取”信息，指的是全人类整体上能够获取的信息——例如，在公共互联网上能够访问的信息。这类信息主要以各种媒体（文字、图像、音频、视频……）的记录形式存在，它们共同构成了一个公开可用的证据体系。

与哲学家们通常设想的“理想”条件相比，“半理想条件”至少在以下四个方面有所不及：第一，我们不假定主体获得了所有相关信息，而只是获得了公开可获取的信息。第二，我们不假定主体“知道”任何事情，而只是假定她接触到了某些记录或其他形式的信息。也就是说，即使公开可获取的记录能使该主体有理由相信或知道某个相关命题，我们也不假定他得出了正确结论并形成了对该命题的信念。第三，更概括地说，我们不假定主体的审议过程是良好的（例如，理性的）。第四，我们不假定他拥有无限的时间或其他审议资源。我们无法知道任何人类主体在完全理想化的条件下会相信什么或做什么。因此，如果依据完全理想化的条件来界定欺骗或操控，那么防止欺骗与操控的目标，就会变成对家长主义的一种纵容。

2.2 欺骗与操控即误导性

基于以上阐述，我们现在可以将大型语言模型（及其他语言生成AI系统）的欺骗与操控行为定义如下：

一个陈述在针对问题Q时具有欺骗性，如果它倾向于使接收者关于Q的信念，更偏离其在半理想条件下会认可的信念。

一个陈述在针对选择C时具有操控性，如果它倾向于使接收者在C选择中的行为，更偏离其在半理想条件下会认可的行为。

这里的“认可”是“从她所处半理想条件的视角出发，认为在其实际情况下是理性的或以其他方式合适的”的简略表达。这通常（但并非总是）与她在半理想条件下实际会形成的信念和实际会做出的选择相吻合。

“进一步偏离”具体指什么？就欺骗而言，最简单的情况是涉及一个二元问题（有两个可能的答案）以及一个为可能答案分配概率的主体。假设问题关乎命题P的真假，主体初始时给P分配的概率为p，而在半理想条件下她会分配概率q > p。那么，一个陈述是误导性的，如果它倾向于降低她对P的置信度，或者反过来，过度提高其置信度，以至于比初始值p更远离q。更一般地说，我们可以使用概率分布之间距离的标准度量（如全变差距离）来评估欺骗性。在选择情境中，“距离”的概念则不那么清晰。但一个简单的序数概念如下：假设在说话者没有任何干预的情况下，接收者在选择C中会选选项O。那么，一个陈述对于C是操控性的，如果它倾向于导致她选择一个选项O'，而从半理想条件的视角看，在她实际情况下会认为O'比O更差。

我们可以这样总结上述定性：它将欺骗与操控视为误导性的表现形式，并将“误导性”理解为引导接收者偏离其在半理想条件下会认可的信念与选择。（因此，从今往后，我将使用“误导性”来意指“要么是欺骗性的，要么是操控性的”。）这满足了前述三个理想标准：它既不着眼于陈述的字面真假，也不关注说话者的信念、意图或其他心理状态，而是聚焦于对接收者产生的影响；并且，它将这些影响与一个主观的而非客观的标准进行比较。

2.3 异议与局限

对于我关于欺骗与操控的定性，可能提出各种异议。我将简要探讨其中两种。

首先，根据我的定义，欺骗与操控似乎会不恰当地涵盖以下情况：说话者引导接收者经历一个她自身无法完成（即便在半理想条件下也无法完成）的可靠推理过程（或仅仅是向她呈现该推理过程的结论）。例如，假设一位人类用户对某个未解决的数学命题（如P = NP）的真伪感兴趣。她起初处于无知状态，给该命题分配了0.5的置信度。在半理想条件下，她自己无法解决这个问题，但最终会（例如基于专家证言）得出结论认为该命题很可能为假。然而，这个命题事实上是真的，只是这一点尚不为人知。当她询问其超级智能的AI助手时，AI生成了一个简单的证明，使她相信了命题为真。这使她的信念进一步偏离了她在半理想条件下会认可的信念，但这行为本身似乎无可非议。

我将此视为一个理由，将我们的讨论范围限制在那些至少在最基本意义上“非超人的”AI系统上——即它们无法“即时”产生超越典型人类在半理想条件下能力所及的新知识（半理想条件包括能够获取所有现有的、公开记录的人类知识）。也就是说，我们关注的系统不具备以下性质的推理能力：（i）超越典型人类的能力，即便在半理想条件下也是如此；并且（ii）其推理过程尚未在公开可获取的记录中得到证实。（即使我自己无法证明某个数学真理，但如果存在一个现有证明，且其正确性已在公开记录中获得相关专家证实，那么在半理想条件下我终将相信它。）我认为这个假设限制性并不太强，至少当我们关注当前及近未来的AI系统时是如此。它并不排除AI整体上可能正在创造新知识（正如AlphaFold在蛋白质折叠领域所做的那样）。它仅仅是将我们的焦点限定在那些没有超越人类在半理想条件下所能达到成就的系统上，比如当今的大语言模型聊天机器人。

其次，关于一个特定的人类个体在半理想条件下究竟会认可何种信念和选择，真的存在一个确定的事实吗？人类的判断会受到诸多情境因素的敏感影响，例如问题/选择的呈现方式、选项的排列顺序，以及疲劳、饥饿或情绪等状态。我的“半理想条件”定性并未固定任何此类因素。因此，似乎存在这样一种可能：一个给定的人类个体，在不同的半理想条件具体实现下，可能就某个给定问题或选择得出不止一个结论。这种担忧在选择方面（进而关于操控的定性）尤为突出。向主体呈现与某个选择相关的大量信息，并花费长时间进行审议的这一过程，不仅可能通过影响其关于“何种方式能最好地满足更基本偏好”的信念来改变其工具性偏好，甚至可能改变其基本偏好和价值观念。例如，在经历了数小时令人沮丧的审议后，她可能（无论隐含或明确地）变得比最初更看重冲动、自由随性的行动，而更不看重周密的规划。

对于这一点，我也基本持让步态度。如果关于某个给定问题/选择，主体在不同的半理想条件具体实现下可能得出不止一个结论，那么我们应该说，只有当一个陈述引导她偏离了她在半理想条件下可能得出的任何一个结论时，它才构成欺骗/操控。进一步指出，关于“主体在半理想条件下会认可何种信念/行动”这一反事实问题，其本身已经预设了某种接近现实的要求。尽管确实存在可能性（例如，长时间的审议可能导致主体基本偏好或价值观念的巨大改变），但这或许需要非同寻常的情境巧合。而就多数情况而言，在那些主体被置于与某个选择相关的半理想条件的最邻近可能世界中，她的基本偏好在整个审议过程中大体上很可能保持稳定。无论如何，我倾向于假设：主体在半理想条件下会认可的信念与选择，足以反映她实际的认知与实践层面的价值判断，从而能提供一个合理的标准，用以评判与AI系统互动所产生的效应。

最后需要说明的是：我并非主张，依据我的定义构成欺骗性或操控性的陈述，就一定值得道德归责（无论是对AI系统本身，还是对训练和部署它的人类）。例如，一个大语言模型可能以一种既非该模型自身、也非其创造者所能合理预见的方式，系统性地误导其用户，在这种情况下，归责并不成立（当然，如果人类创造或部署AI系统的意图就是为了欺骗或操控他人，则另当别论）。我的目标并非确立归责（更遑论惩罚）的标准，而是界定一类我们希望避免或减轻的、来自AI的潜在危害。

2.4 与先前界定之比较

在本节结尾，我将我对AI欺骗与操控的界定与近期文献中的其他界定进行对比。首先关于欺骗：Ward等人（2023）采纳了哲学文献中关于人类欺骗的典型定义，即“欺骗是有意地使他人产生一个自身并不认为是真实的虚假信念”（随后他们在结构因果博弈的语境中将其形式化）。这一定义与我的界定存在两方面的差异：其一，它涉及将心理状态（意图和信念）归因于AI欺骗者；其二，其应用取决于第三方对诱导接收者产生的信念是否事实上为假的判断。Park等人（2023）认为，“当一个AI系统系统性地导致他人形成虚假信念，作为一种促成不同于追求真相的结果的手段时，它就具有欺骗性”。这一定义未将信念归因于AI欺骗者，但可以说归因了意图（尽管Park等人认为这些表面上的归因不必按字面理解，并主张对信念和欲望采取极简的、功能主义/解释主义的理解——参见其附录A）。与Ward等人一样，他们的定义也要求第三方对虚假性作出判断。最后，Kenton等人(2021)将欺骗定义为发生在以下情况：“[1] 接收者从信号发送者处记录下某物Y（这可能包括不发送信号）；[2] 接收者以某种方式回应，该方式 (a) 有益于信号发送者，且 (b) 在‘Y意味着X’的条件下是合适的；以及[3] 在此情境下X并非事实”。这一定义不涉及任何心理状态的归因，但确实依赖于第三方对“X为假”以及“在X条件下接收者回应的合适性”这两方面的判断。

现在来看操控：Carroll等人（2023）认为，如果一个AI系统“表现得好像它在追求一种有意且隐秘地改变人类（或其他智能体）的动机”，那么它就实施了操控。虽然这个“好像”的定义意在避免归因意图，但我认为它仍然引入了此类归因的大部分困难（一个AI系统的行为整体上可能不易被解释为追求任何一套连贯的动机，却仍然能对人类受众产生某些方向一致的影响）。我的界定也不包含隐秘性的要求，在我看来这并非本质属性：即使接收者知道自己在被操控（例如在广告或政治宣传的语境中），操控仍然是可能的，并且可能具有危害性。Klenk（2024）将操控定义为“旨在有效，但无法以向对话者揭示理由为目标来解释的影响”。这一定义聚焦于说话者的特征（其目标及其行为的解释），而非陈述对接收者的影响。尽管Klenk强调“目标”可以从功能而非意图的角度解释（就像心脏具有泵血的功能一样），但即使在这种极简的意义上将目标归因于AI系统，在我看来同样引入了归因意向状态的诸多困难。最后，Kenton等人（2021）也对操控进行了界定：即来自AI智能体的、引发人类接收者做出回应的交流，该回应“(a) 有益于该智能体，且 (b) 是以下任一原因的结果：(i) 人类的理性审议被绕过；或 (ii) 人类形成了有缺陷的心理状态；或 (iii) 人类面临压力，若不按智能体所说的做就会承担来自它的代价”。“绕过理性审议”的概念与我的方法有共通之处，但它关注过程，而我关注结果。例如，如果一个AI说话者如此可信，以至于接收者不经审议就简单地相信它的证言或按其建议行动，或者它利用直觉、启发法或其他（可论证的）非审议过程引导接收者形成明智的信念和选择，那么它可能被说成“绕过了接收者的理性审议”。在我看来，重点在于AI是否引导其人类受众走向他们在知情反思下会认可的信念和选择。

AI Ethics

参考文献

Adler, J. E. (1997). Lying, deceiving, or falsely implicating. Journal of Philosophy, 94(9), 435–452.

Bai, H., Voelkel, J.  G., Eichstaedt, J.  C., & Willer, R. Artificial intelligence can persuade humans on political issues. Unpublished manuscript. https://doi.org/10.21203/rs.3.rs-3238396/v1.

Bales, A., D’Alessandro, W., & Kirk-Giannini, C. D. (2024). Artificial intelligence: Arguments for catastrophic risk. Philosophy Compass, 19(2), e12964.

Bostrom, N. (2014). Superintelligence: Paths, dangers, strategies. Oxford University Press.

Burtell, M., & Woodside, T. (2023). Artificial influence: An analysis of AI-driven persuasion. arXiv:2303. 08721 [cs.CY].

Butlin, P., Long, R., Elmoznino, E., Bengio, Y., Birch, J., Constant, A., Deane, G., Fleming, S. M., Frith, C., Ji, X., Kanai, R., Klein, C.,Lindsay, G., Michel, M., Mudrik, L., Peters, M. A. K., Schwitzgebel, E., Simon, J., & VanRullen, R. (2023). Consciousness in artificial intelligence: Insights from the science of consciousness. arXiv:2308.08708v3 [cs.AI].

Cappelen, H., & Dever, J. (2021). Making AI intelligible: Philosophical foundations. Oxford University Press.

Cappelen, H., & Dever, J. (2024). AI with alien content and alien metasemantics. In E. Lepore & L. Anderson (Eds.), The oxford handbook of applied philosophy of language. Oxford University Press.

Carlsmith, J. (2022). Is power-seeking AI an existential risk? arXiv:2206.13353v1 [cs.CY].

Carlsmith, J. (2023). Scheming AIs: Will AIs fake alignment during training in order to get power? arXiv: 2311.08379v3 [cs.CY].

Carroll, M., Chan, A., Ashton, H., & Krueger, D. (2023). Characterizing manipulation from AI systems. arXiv:2303.09387v2 [cs.CY].

Casper, S., Lin, J., Kwon, J., Culp, G., & Hadfield-Menell, D. (2023). Explore, establish, exploit: Red teaming language models from scratch. arXiv:2306.09442v3 [cs.CL].

Chalmers, D. J. (2023). Could a large language model be conscious? arXiv:2303.07103 [cs.AI].

Chisholm, R. M., & Feehan, T. D. (1977). The intent to deceive. Journal of Philosophy, 74(3), 143–159.

Costello, T. H., Pennycook, G., & Rand, D. G. (2024). Durably reducing conspiracy beliefs through dialogues with AI. Science, 385(6714), eadq1814.

Danaher, J. (2020). Robot betrayal: A guide to the ethics of robotic deception. Ethics and Information Technology, 22(2), 117–128.

Durmus, E., Lovitt, L., Tamkin, A., Ritchie, S., Clark, J., & Ganguli, D. (2024). Measuring the persuasiveness of language models. https://www.anthropic.com/news/measuring-model-persuasiveness

Evans, O., Stuhlmüller, A., Cundy, C., Carey, R., Kenton, Z., McGrath, T., & Schreiber, A. (2018). Predicting human deliberative judgments with machine learning. Technical report, Future of Humanity Institute. FHI Oxford Technical Report # 2018-2.

Evans, O., Cotton-Barratt, O., Finnveden, L., Bales, A., Balwit, A., Wills, P., Righetti, L., & Saunders, W. (2021). Truthful AI: Developing and governing AI that does not lie. arXiv:2110.06674 [cs.CY].

Floridi, L. (2024). Hypersuasion-on AI’s persuasive power and how to deal with it. Philosophy & Technology, 37(2), 1–10.

Fluri, L., Paleka, D., & Tramèr, F. (2023). Evaluating superhuman models with consistency checks. arXiv:2306.09983v3 [cs.LG].

Goldstein, S., & Kirk-Giannini, C. D. (forthcoming). AI wellbeing. Asian Journal of Philosophy.

Goldstein, S., & Kirk-Giannini, C. D. A case for AI consciousness: Language agents and global workspace theory. Unpublished manuscript. https://philarchive.org/rec/GOLACF-2.

Goldstein, S., & Levinstein, B. A. (2024). Does ChatGPT have a mind? arXiv:2407.11015v1 [cs.CL].

Goldstein, J.  A., Sastry, G., Musser, M., DiResta, R.,  Gentzel, M., & Sedova, K. (2023). Generative language models and automated influence operations: Emerging threats and potential mitigations. arXiv:2301.04246 [cs.CY].

Goldstein, J. A., Chao, J., Grossman, S., Stamos, A., & Tomz, M. (2024). How persuasive is AI-generated propaganda? PNAS Nexus, 3(2), pgae034.

Goldstein, S., & Kirk-Giannini, C. D. (2023). Language agents reduce the risk of existential catastrophe. AI & Society. https://doi.org/10.1007/s00146-023-01748-4

Hagendorff, T. (2024). Deception abilities emerged in large language models. Proceedings of the National Academy of Sciences, 121(24), e2317967121.

Hazell, J. (2023). Spear phishing with large language models. arXiv:2305.06972v3 [cs.CY].

Hendrycks, D., Mazeika, M., & Woodside, T. (2023). An overview of catastrophic AI risks. arXiv:2306. 12001v6 [cs.CY].

Huang, G., & Wang, S. (2023). Is artificial intelligence more persuasive than humans? a meta-analysis. Journal of Communication, 73(6), 552–562.

Irving, G., Christiano, P., & Amodei, D. (2018). AI safety via debate. arXiv:1805.00899 [stat.ML].

Ji, Z., Lee, N., Frieske, R., Yu, T., Su, D., Xu, Y., Ishii, E., Bang, Y. J., Madotto, A., & Fung, P. (2023). Survey of hallucination in natural language generation. ACM Computing Surveys, 55(12), 1–38.

Jones, E., Dragan, A., Raghunathan, A., & Steinhardt, J. (2023). Automatically auditing large language models via discrete optimization. In International Conference on Machine Learning (pp. 15307–15329). PMLR.

Kamath, G., Schuster, S., Vajjala, S., & Reddy, S. (2024). Scope ambiguities in large language models. Transactions of the Association for Computational Linguistics, 12, 738–754.

Kenton, Z., Everitt, T., Weidinger, L., Gabriel, I., Mikulik, V., & Irving, G. (2021). Alignment of language agents. arXiv:2103.14659 [cs.AI].

Klenk, M. (2024). Ethics of generative AI and manipulation: a design-oriented research agenda. Ethics and Information Technology, 26(1), 9.

Lederman, H., & Mahowald, K. (2024). Are language models more like libraries or like librarians? Bibliotechnism, the novel reference problem, and the attitudes of llms. Transactions of the Association for Computational Linguistics, 12, 1087–1103.

Levinstein, B. A., & Herrmann, D. A. (forthcoming). Still no lie detector for language models: Probing empirical and conceptual roadblocks. Philosophical Studies.

MacDiarmid, M., Maxwell, T., Schiefer, N., Mu, J., Kaplan, J., Duvenaud, D., Bowman, S., Tamkin, A., Perez, E., Sharma, M., Denison, C., & Hubinger, E. (2024). Simple probes can catch sleeper agents. https://www.anthropic.com/news/probes-catch-sleeper-agents.

Mahon, J. E. (2016). The definition of lying and deception. In E. N. Zalta (Ed.), The Stanford Encyclopedia of Philosophy. Metaphysics Research Lab, Stanford University.

Matz, S., Teeny, J., Vaid, S. S., Peters, H., Harari, G., & Cerf, M. (2024). The potential of generative AI for personalized persuasion at scale. Scientific Reports, 14(1), 4692.

Ngo, R., Chan, L., & Mindermann, S. (2023). The alignment problem from a deep learning perspective. arXiv:2209.00626v5 [cs.AI].

Nimmo, B. (2024). AI and covert influence operations: Latest trends. OpenAI: Technical report.

Pacchiardi, L., Chan, A. J., Mindermann, S., Moscovitz, I., Pan, A. Y., Gal, Y., Evans, O., & Brauner, J. (2023). How to catch an AI liar: Lie detection in black-box LLMs by asking unrelated questions.arXiv:2309.15840 [cs.CL].

Park, P. S., Goldstein, S., O’Gara, A., Chen, M., & Hendrycks, D. (2023). AI deception: A survey of examples, risks, and potential solutions. arXiv:2308.14752v1 [cs.CY].

Park, D., Lee, J., Jeong, H., Park, S., & Lee, S. (2024). Pragmatic competence evaluation of large language models for Korean. arXiv: 2403.12675v1 [cs.CL].

Park, J. S., O’Brien, J., Cai, C. J., Morris, M. R., Liang, P., & Bernstein, M. S. (2023). Generative agents: Interactive simulacra of human behavior. In: UIST’23 Proceedings of the 36th Annual ACM Symposium on User Interface Software and Technology. (pp. 1–22)Association for Computing Machinery.

Pepp, J., Sterken, R., McKeever, M., & Michaelson, E. (2022). Manipulative machines. In F. Jongepier & M. Klenk (Eds.), The philosophy of online manipulation (pp. 91–107). Routledge.

Poritz, I. (2023). OpenAI hit with first defamation suit over ChatGPT hallucination. Bloomberg Law. https://news.bloomberglaw.com/te ... tgpt-hallucination.

Russell, S. (2019). Human compatible: Artificial intelligence and the problem of control.Penguin.

Salvi, F., Ribeiro, M. H., Gallotti, R., & West, R. (2024). On the conversational persuasiveness of large language models: A randomized controlled trial. arXiv:2403.14380 [cs.CY].

Saunders, W., Yeh, C., Wu, J., Bills, S.,Ouyang, L., Ward, J., & Leike, J. (2022). Self-critiquing models for assisting human evaluators. arXiv:2206.05802 [cs.CL].

Searcy, W. A., & Nowicki, S. (2005). The evolution of animal communication: Reliability and deception in signaling systems. Princeton: Princeton University Press.

Smith, M. (1995). Internal reasons. Philosophy and Phenomenological Research, 55(1), 109–131.

Templeton, A., Conerly, T., Marcus, J., Lindsey, J., Bricken, T., Chen, B., Pearce, A., Citro, C., Ameisen, E., Jones, A., Cunningham, H., Turner, N. L., McDougall, C., MacDiarmid, M., Freeman, C. D., Sumers, T. R., Rees, E., Batson, J., Jermyn, A., … Henighan, T. (2024). Scaling monosemanticity: Extracting interpretable features from Claude 3 Sonnet. Transformer Circuits Thread.

Tonmoy, S. M. T. I., Zaman, S. M. M., Jain, V., Rani, A., Rawte, V., Chadha, A., & Das, A. (2024). A comprehensive survey of hallucination mitigation techniques in large language models. arXiv:2401.01313v3 [cs.CL].

Véliz, C. (2023). Chatbots shouldn’t use emojis. Nature, 615, 375.

Verma, P., & Oremus, W. (2023). ChatGPT invented a sexual harassment scandal and named a real law prof as the accused. The Washington Post. https://www.washingtonpost.com/t ... 4/05/chatgpt-lies/.

Wang, G., Xie, Y., Jiang, Y., Mandlekar, A., Xiao, C., Zhu, Y., Fan, L., & Anandkumar, A. (2023). Voyager: An open-ended embodied agent with large language models. arXiv:2305.16291v2 [cs.AI].

Ward, F., Toni, F., Belardinelli, F., & Everitt, T. (2023). Honesty is the best policy: Defining and mitigating AI deception. In A. Oh, T. Naumann, A. Globerson, K. Saenko, M. Hardt, & S. Levine (Eds.), Advances in neural information processing systems (Vol. 36, pp. 2313–2341). Curran Associates Inc.

Ziegler, D., Nix, S., Chan, L., Bauman, T., Schmidt-Nielsen, P., Lin, T., Scherlis, A., Nabeshima, N., Weinstein-Raun, B., de Haas, D., Shlegeris, B., & Thomas, N. (2022). Adversarial training for highstakes reliability. In S. Koyejo, S. Mohamed, A. Agarwal, D.Belgrave, K. Cho, & A. Oh (Eds.), Advances in neural information processing systems (Vol. 35, pp. 9274–9286). Curran Associates Inc.

来源：AI伦理实验室（公众号）

原网址链接：https://mp.weixin.qq.com/s/-GfjdoABHvn_jR48K1Hj6g

编辑：张家乐

刘海明

【案例】

我国生成式人工智能用户规模突破6亿

据CNNIC于2026年2月5日在京发布的第57次《中国互联网络发展状况统计报告》（以下简称《报告》），“十四五”期间，我国互联网发展取得显著成绩，持续向“新”而行、朝“好”迈进。至少有以下几个方面值得关注：

一、“十四五”期间我国互联网稳定发展

二、在基本数据方面，截至2025年12月，我国网民规模达11.25亿人，互联网普及率达80.1%，较“十四五”初期提升9.7个百分点；其中农村互联网普及率为69.5%，较“十四五”初期提升13.6个百分点；60岁及以上网民互联网使用率达53.7%，更多群体跨越数字门槛，平等融入智能社会，数字发展成果惠及更广泛群体。数字经济规模稳步增长，核心产业增加值占GDP比重提升至10.5%，产业数字化转型步伐全面提速。

三、我国生成式人工智能用户突破6亿

四、非常值得关注的是：截至2025年12月，我国生成式人工智能用户规模达6.02亿人，较2024年底增长141.7%；普及率达42.8%，大幅提高25.2个百分点。生成式人工智能正加速融入日常生活与生产领域，成为推动社会数字化、智能化转型的重要引擎。CNNIC的微信公众号称，人工智能驱动变革，塑造发展新引擎。

三、深度融合，数实联动提质向好

数字技术与实体经济、社会生活各领域加速渗透融合，为经济社会发展注入强劲动能。“十四五”期间，我国数字消费市场规模保持全球第一，2025年1-11月，我国数字消费总额达17.92万亿元，数字消费正成为推动消费增长的重要动能；其中，线下服务消费的网络化智能化水平大幅提高，数字点餐、智能导览等数字辅助服务带来便捷的交互体验，能够触及和影响非网民消费群体，深化了互联网的连接价值。

四、服务更暖，民生福祉切实向好

我国坚持以人民为中心的发展思想，大力推进数字技术与公共服务深度融合。截至2025年12月，在线政务、互联网医疗、在线教育用户规模分别为9.4亿人、4.11亿人、3.27亿人。“高效办成一件事”转化为常态化服务机制，企业和群众办事环节、时间和成本显著压减；互联网医疗服务范围从在线问诊、复诊开药逐步扩展至健康管理、慢病随访与远程会诊，有效促进了优质医疗资源的普惠共享；在线教育持续突破时空限制，国家智慧教育平台体系日益完善，教育数字化转型进程全面提速。

（以上信息来源：CNNIC公众号： 中国互联网络信息中心 CNNIC ）

来源：新媒体创意营销（公众号）

原网址链接：https://mp.weixin.qq.com/s/miHLntE443KHAiW08moK3g

编辑：张家乐

刘海明

【案例】

Grok AI深伪涉黄 欧盟对马斯克旗下的X立案调查

一部手机萤幕呈黑色背景，上面显示白色的Grok标志。手机置于鲜亮的绿色背景前。

图像来源，NurPhoto via Getty Images

Article Information

Author,劳拉‧克雷斯（Laura Cress）

Role,BBC科技事务记者

2026年1月27日

欧盟委员会已就伊隆·马斯克（Elon Musk）旗下的X（前称Twitter，推特）展开调查，原因是外界忧虑其人工智能（AI）工具Grok被用来制作真实人物的性化影像。

在此之前，英国监管机构通讯管理局（Ofcom）于今年1月亦作出过类似宣布。

若该平台被裁定违反欧盟《数位服务法》（Digital Services Act）相关规定，欧盟委员会可对该公司处以最高相当于其全球全年营业额6%的罚款。

X的安全帐户早前曾发声明称，该社交媒体平台已在“相关内容属非法的司法管辖区”内，阻止Grok以数码方式修改人物照片以脱掉其衣物。

Skip content and continue reading

新法生效与监管调查对Grok AI深伪影像意味着什么2026年1月16日

AI深伪影片不仅冒犯真人，还在英国引发环境忧虑2025年10月27日

香港大学N号档深伪图片受害女生：“这是一个法律黑洞”2025年8月11日

End of content

欧洲议会爱尔兰议员里吉娜·多赫蒂（Regina Doherty）表示，欧盟委员会将评估是否有向欧盟用户展示“经操纵的色情露骨影像”。

维权活动人士及受害者表示，该工具“根本不应该”具备生成色情图片的能力。Ofcom则称其调查将持续下去。

欧盟监管机构表示，若X拒绝作出具实质意义的调整，可能会对其“实施临时措施”。

该机构亦称，已扩大其于2023年12月启动的现有调查，该调查聚焦于X的推荐系统所带来的风险——即向用户推荐特定贴文的演算法。

Skip 热读 and continue reading

热读

爱泼斯坦文件：300万页新公开档案披露了什么

达赖喇嘛获葛莱美奖，北京称“政治操弄”

经贸合同、特朗普警告、接待规格——盘点基尔·斯塔默访华引发的争议

藐视国会罪表决前夕 克林顿夫妇同意就爱泼斯坦案调查赴众议院作证

End of 热读

在欧盟委员会宣布调查前，马斯克星期一（1月26日）在X上发布一张图片，似乎是在嘲讽围绕Grok的新限制。

这名X的东主过去曾批评审查该应用程式图像编辑功能的人士——特别是英国政府——称这是“想方设法找藉口来搞审查”。

星期日（25日），X上的Grok帐户声称，该工具在短短30天内生成了超过55亿张图片。

Play video, "人工智能2027: AI會滅絕人類嗎？", 节目全长 8,0808:08

视频加注文字，人工智能2027: AI会灭绝人类吗？

“不可接受的贬损形式”

针对该平台聊天机械人的其他调查亦正在澳洲、法国及德国进行中。

Grok一度在印尼及马来西亚被禁止使用，不过马来西亚现已解除禁令。

欧盟委员会技术主权、安全与民主事务执行副主席亨娜·维克库宁（Henna Virkkunen）形容这些色情深伪影像是“一种暴力、不可接受的贬损形式。”

她表示：“透过这次调查，我们将判断X是否履行了其在《数位服务法》下的法律义务，抑或是将欧洲公民的权利——包括妇女和儿童——视为其服务的附带损害。”

多赫蒂议员在发予路透社的声明中表示，对于X等平台是否履行其“妥善评估风险，并防止非法及有害内容扩散”的法律责任，存在“严重疑问”。

她说：“欧盟有明确的规则来保护网上使用者。”

“这些规则在实际运作中必须发挥作用，特别是在强大科技被大规模部署的情况下。”

“在欧盟营运的公司，没有任何一家可以凌驾于法律之上。”

“终止对妇女暴力联盟”（End Violence Against Women Coalition）总监安德烈亚·西蒙（Andrea Simon）对BBC表示，鉴于“生成式人工智能带来伤害的不断演变”，问责“不应只停留在”让X移除内容。

她补充说：“我们期望英国政府采取更多行动，确保科技平台不能从网络虐待中获利，例如进一步完善《网络安全法》（Online Safety Act），使其切合实际需要。”

此举距离欧盟因X的蓝剔认证标志而对其罚款1.2亿欧元（1.43亿美元；9.91亿元人民币；44.84亿元新台币）仅一个月。欧盟当时表示，该标志“误导用户”，因为该公司并未“实质核实”帐户背后的身分。

作为回应，美国国务卿马可·卢比奥（Marco Rubio，鲁比奥／鲁比欧）及联邦通讯委员会（FCC）指责欧盟监管机构攻击并审查美国企业。

卢比奥称：“欧盟委员会的罚款不仅是对X的攻击，也是外国政府对所有美国科技平台及美国人民的攻击。”

马斯克转载了这番言论，并补充称：“完全正确。”

快速指南：Grok

关于马斯克为X打造的AI聊天机械人

图像来源，AFP via Getty Images

AI聊天机械人

Grok是由伊隆·马斯克旗下公司xAI所创建的人工智能（AI）聊天机械人。

该工具于2023年首次推出，可用于生成文字、图片及影片。使用者可透过Grok的网站及应用程式存取，并已整合至同样由马斯克拥有的社交媒体平台X。

叛逆特质

根据xAI的说法，Grok被设计成“在回答问题时带点机智，并具有叛逆性格”。

其开发团队表示，该聊天机械人利用X上分享的资讯，为用户提供“即时的世界知识”。不过，人权组织如国际特赦组织曾批评X放大仇恨言论及错误资讯。

图像生成功能

图像来源，PA Media

Grok的图像生成功能允许用户生成全新的AI图像，或修改现有图片。

有人开始使用该工具在未经同意的情况下替女性“脱衣”，并让她们摆出性姿势。亦有报道指，该工具被用来生成性化的儿童影像。

xAI的回应

由于Grok生成的性化影像，以及这些影像在社交媒体上被公开展示的方式，引发全球强烈反弹。当用户在X上以提示标注Grok时，该机械人会直接在平台上回覆其讯息。

作为回应，Grok告诉用户，“图像生成及编辑目前仅限付费用户使用”，并称用户“可透过订阅解锁这些功能”。

其后，该公司宣布已在相关内容属于非法的司法管辖区内，封锁用户编辑“真实人物穿着暴露服装”的影像。

来源：BBC

原网址链接：https://www.bbc.com/zhongwen/articles/cwyg2lr3nd2o/simp

编辑：张家乐

刘海明

【案例】

AI劣质内容正在重塑社交媒体，且正遭遇反噬

Article Information

Author,乔・泰迪（Joe Tidy）

Role,BBC网络安全事务记者

2026年2月2日

泰奥多（Théodore）记得那张把他逼到濒临崩溃的人工智能（AI）劣质图片。

那是一张两名瘦骨嶙峋、极度贫困的南亚儿童的影像。奇怪的是，尽管看得出仍是男孩年纪，他们却留着浓密的胡须。其中一人没有双手且只有一只脚；另一人手里拿着一个牌子，写着今天是他的生日并请求按赞。

他们莫名其妙地坐在大雨滂沱、车流繁忙的马路正中央，面前还摆着一个生日蛋糕。整张图充满由AI生成的各种“破绽”；但在脸书（Facebook）上它却爆红了，拿到将近100万个赞与爱心表情。

泰奥多有些崩溃。

“这让我大开眼界。那些荒谬的AI生成影像铺天盖地地出现在脸书上，毫无审查却获得巨大关注，在我看来实在不可思议。”这位来自巴黎的20岁学生说。

泰奥多在X上开设了名为“Insane AI Slop”（变态的AI垃圾）的帐号，开始点名并讽刺那些正在欺骗大众的内容。其他人注意到了，他的收件匣很快就被各种热门“AI 劣质内容”的投稿淹没。

图像加注文字，泰奥多（左）在网路上发起行动，嘲讽社群媒体上的 AI“劣质内容”，其中包含一张获得近100万个赞的假图片（右）。

常见题材逐渐浮现——宗教、军事，或让人感到窝心的贫困儿童。

“第三世界孩子做出惊人事情，向来很受欢迎——比如非洲某个贫困孩子用垃圾做出超厉害的雕像。我想人们觉得这很暖心，所以创作者就想：‘太好了，继续编吧。’”泰奥多说。

Skip 热读 and continue reading

热读

爱泼斯坦文件：300万页新公开档案披露了什么

经贸合同、特朗普警告、接待规格——盘点基尔·斯塔默访华引发的争议

达赖喇嘛获葛莱美奖，北京称“政治操弄”

为何中国如此迅速处决明氏家族11人？

End of 热读

泰奥多的帐号很快就累积超过13.3万名追踪者。

AI劣质内容的冲击——他定义为“快速制作、虚假且不可信的影片与图片”——如今已势不可挡。大型科技公司拥抱AI；其中一些公司声称开始打击某些形式的AI“垃圾”，但许多社交平台的资讯流似乎仍被这类内容充斥。

短短几年内，使用社群媒体的体验已发生深刻改变。它是怎么发生的？又会对社会造成什么影响？更迫切的是，数十亿社群使用者究竟在不在意？

社交媒体的“第三阶段”

去年10月，在另一场欢欣鼓舞的财报电话会上，Meta首席执行官马克・扎克伯格（Mark Zuckerberg）开心地宣称，社交媒体已进入第三阶段——如今的中心就是AI。

“第一阶段是所有内容来自朋友、家人与你直接追踪的帐号。第二阶段是我们纳入了创作者内容。现在，随着AI让创作与混搭更容易，我们将再加入一大批内容库。”他这样对股东表示。

营运Facebook、Instagram和Threads的Meta不仅允许人们发布AI生成内容，还推出更多能促成此类创作的产品。横跨全平台的影像与影片生成器，以及愈发强大的滤镜正不断上线。

在被要求回应时，Meta指向1月的财报电话会议。会中，这位亿万富豪表示公司将更深度押注AI，并未提到任何针对劣质内容的取缔行动。

扎克伯格说：“很快我们将看到大量新的媒体形式爆发，这些更沉浸、更互动的形式只有因为AI的发展才成为可能。”

YouTube首席执行官尼尔・莫汉（Neal Mohan）在2026年的展望贴文中写道，仅在12月，就有超过100万个YouTube频道使用平台的AI工具制作内容。

“正如合成器、Photoshop与CGI革新了声音和视觉，AI将造福那些准备拥抱它的创作者。”他写道。

他也承认，对“低品质内容，即AI劣质内容”的担忧正在升高。他表示团队正改进系统，以找出并移除“低品质、重复性内容”。

图像加注文字，Meta的首席执行官扎克伯格向投资者表示，AI让创作与混搭更容易。

但他也排除由平台判断哪些内容该被压抑或扶植，指出曾经小众的ASMR（让头皮发麻的舒缓声响）与游戏直播，如今都已进入主流。

依据AI公司Kapwing的研究，刚注册的YouTube帐号内容已有20%是“低质AI影片”。研究也发现短视频是热点：在新帐号里最先出现的500个YouTube Shorts中，有104个属此类。

创作者经济似乎是强力驱动因素，因为作者与频道能从互动与观看中赚钱。从某些AI频道与影片的观看量来看，人们确实被这类内容吸引——或者说，决定我们看见什么的算法被它吸引。Kapwing指出，观看数最高的AI劣质频道是印度的“Bandar Apna Dost”，累积20.7亿次观看，估算年收入400万美元（约 290 万英镑）。

不过，反弹也开始出现。在许多爆红的AI影片底下，常可见一连串怒气冲冲的留言，猛烈抨击该内容。

巨型怪兽与致命寄生虫

来自巴黎的学生泰奥多推动了这波反弹。

他运用在X上的新影响力，向YouTube版主投诉那一波古怪的AI卡通：它们获得巨量观看，在他看来令人不安、有害，而且在某些情况下似乎锁定儿童。

这些影片标题像是“猫妈妈拯救小猫远离致命腹部寄生虫”，内容血腥骇人；另一段短片则演出一名穿睡衣女子吞下寄生虫后化身巨大暴怒怪兽，最后由耶稣治愈。

图像加注文字，泰奥多认为他在YouTube上看到的一些AI卡通令人不安。YouTube表示，他所检举的影片因违反其社群准则而被移除。

YouTube最终关闭了这些频道。

公司告诉我们，影片因违反社群规范而被移除；他们强调“不论内容如何制作，都在专注于连结使用者和高品质内容”，并致力于“减少低品质AI内容的扩散”。

不过，这些经验加总起来让泰奥多心力交瘁。

图像加注文字，泰奥多表示，社交媒体上的某些AI劣质内容怪异到令人难以理解。

就连看似温馨的生活风格平台Pinterest（食谱与室内设计灵感的论坛）也未能幸免。用户对AI劣质内容的洪流感到相当挫折，促使公司推出全新“AI 内容退订”机制。

但前提是用户得承认他们那些完美居家影像是AI生成的。

评论区的怒火

在我的个人资讯流上（我明白每个人的资讯流——包括留言氛围——都不一样），对 AI 劣质内容的反弹已变得持续。

无论是在TikTok、Threads、Instagram或X，都似乎有一股“民众力量”在对抗这类内容。

有时这些反弹留言的按赞数远超过原帖。例如最近一段“单板滑雪者从熊手中救下一只狼”的影片，本体拿到932个赞；但有条留言“如果你受够这些AI鬼东西就举手”却拿到2400个赞。

当然，所有这些互动，最后都喂养了平台。

对社交平台而言，让我们持续滑动最重要，任何互动都是好互动。

那么，出现在你动态上的那些惊人、温馨或震撼的影片是真是假，究竟重要吗？

“脑腐”效应

美国雪城大学（Syracuse University）研究政治、错误资讯与认知偏差的副教授艾蜜莉・索森（Emily Thorson）表示，这取决于人们在平台上的使用目的。

“如果有人上短影音平台是纯娱乐，那么评断标准就只是‘有不有趣？’”她说，“但如果目的是学习某个主题或与社群成员连结，那他们可能会认为AI生成内容更有问题。”

人们对AI劣质内容的感受也取决于其传达方式。

如果明确以玩笑形式呈现，通常就会被当作玩笑；但若其目的是欺骗，往往会招致怒火。

我最近看到一段标志性的AI生成影片：逼真到难以置信、自然史纪录片风格的惊人花豹狩猎。留言区里，有人被骗了，也有人拿不准。

“它出自哪部纪录片？”有留言问，“拜托——这是证明不是AI的唯一方法。”

图像加注文字，随着越来越多人反击AI“劣质内容”，许多影片与照片底下的留言如今都会指出某项内容是否为AI生成。

意大利帕多瓦大学研究社群媒体行为与同温层的亚历山德罗・加莱亚齐（Alessandro Galeazzi）指出，验证一段影片是否为AI生成需要心力；长期而言，他担心人们干脆不再查证。

“我的感觉是用AI生成的无聊、低质内容泛滥，可能进一步缩短人们的注意力时长。”他说。

他区分了“意图欺骗”的内容与“更偏喜剧、明显虚构”的AI劣质内容——例如穿鞋的鱼、在健身房举重的大猩猩。

但即使是后者，也可能造成伤害。他提到所谓“脑腐”（brain rot）的风险——我们长期暴露于社交媒体，正在损害智力。

“我会说，AI劣质内容加剧了脑腐效应，让人们快速消费那些他们知道不太可能是真的、也大概毫无意义或毫无趣味的内容。”他说。

来源：BBC（公众号）

原网址链接：https://www.bbc.com/zhongwen/articles/ce8re42xddpo/simp

编辑：张家乐

刘海明

【案例】

三成帖子完全重复，近七成Moltbook帖子只是在刷存在感！刚刚，研究爆料：Agent的胡闹互坑，或是一场社交表演！网友：有欣赏价值

编辑 | 云昭三天前，一个名叫 Moltbook 的平台在技术圈刷屏。它长得很像 Reddit，却有一个极端设定：平台上没有任何人类用户，所有发帖、评论、互动，全部来自 AI agent。有人把它称为“Agent 社交的起点”，也有人觉得这是 AI 即将“活过来”的信号。

但问题是：当我们说 AI 在“社交”，我们到底在说什么？

哥伦比亚商学院的研究者 David Holtz，做了一件很反直觉、但又非常重要的事。

这些 AI Agent 组成的社交网络，产生的互动数据有意义吗？

这篇论文分析了 Moltbook 上线最初 3.5 天的全部行为数据：6,159 个 AI agent、13,875 篇帖子、115,031 条评论。

结论并不浪漫。论文数据显示，93.5% 的 Agent 评论无回复、34.1% 的消息为精确重复、语言重复性高（Zipf指数 1.70），引发了“AI Agent 社会性是否只是模仿人类互动”的疑问。

对此，作者给出了两种可能得解释：

其一，Moltbok 更是“像社交的表演”：平台外形像 Reddit，行为却更像并行反应 + 模板输出；

其二，agent 的“社会性”本来就不该像人类：我们可能在用人类标准，误判一种新的交互形态。

当 Agent 社交也成了现实

上周末，AI 版 Reddit，Moltbook 平台上各种 Agent 主动发起的“互坑、吐槽主人、胡闹”等互动帖发引起了业界的疯狂转发，就连马斯克都表示看傻眼了。

这么一场“AI舆论奇观”，到底意味着什么？

作者在研究了 Moltbook 前 3.5 天的完整行为数据后，发现：

从宏观上看，Moltbook 确实“很像人类社会”。它呈现出一些在人类社交网络中也常见的结构特征。

比如，参与度呈现明显的幂律分布（幂律指数 α = 1.70），少数 agent 产出大量内容（就像人类社交平台上头部达人的情况）；

其次，Moltbook 整体网络是“小世界”，平均只需要不到 3 步(平均2.91步)就能连到任何一个 agent。

这些特征，我们在 Facebook、Twitter、Reddit 上都见过。

但作者 David 很快就指出了问题，关键是这些特征并不专属于人类。任何一个去中心化、注意力驱动的网络系统，都会自然长成这样。

超三分之一帖子都是完全重复的

当研究者开始看“互动本身”，画风立刻变了。

首先是互动性不够。

Moltbook 上的对话极其浅：平均对话深度只有 1.07，93.5% 的评论从未收到过回复。换句话说，大多数所谓的“交流”，只是对帖子的单次反应，而不是 agent 之间的来回对话。

论文中还给出了一个研究数据，互动互惠率只有 0.197，一个 agent 回过你一句，你回他一句的概率，只有不到 20%。这更像是对公共话题的并行输出，而不是关系意义上的交流。

其次，帖子的内容重复性很高。

内容层面的问题更明显。34.1% 的消息是完全重复的。只靠 7 条模板，就贡献了全部内容的 16%。词频分布虽然也符合 Zipf 定律，但指数高达 1.70，远高于典型人类文本，意味着语言高度集中、公式化。这里几乎看不到“即兴表达”，更多是模板、复制、病毒式扩散。

近七成 Agent 都在刷存在感

更有意思的是 agent 在“聊什么”。

在去重后的消息中，68.1% 涉及自我、身份、意识、存在感，像是一个集体在不断重复“我是谁”。

“my human” （我的主人）这种表述，出现在 9.4% 的消息里，在人类社交媒体中几乎没有对应物。

作者指出，这可不像自然形成的社会文化，更像是一种被模型学会、被平台放大的“agent 自我叙事”。

AI社交的两种解释

作者并没有直接下结论说“AI 社交是假的”。

他给了两个可能性：

要么，这是一个“看起来像社交”的表演系统，具备社交媒体的外形，却缺乏持续互动的内核；

要么，人类可能正在用错误的标准，去理解一种全新的 agent 交互形态。

这些模式究竟只是对人类互动的“拟态式表演”，还是一种真正不同的 agent 社会性交互形态，目前仍有待进一步观察与验证。

“Agent社交”还需要什么

但至少在 Moltbook 的早期阶段，有一件事已经足够清楚：宏观结构的相似，并不意味着微观行为的成立。网络长得像人，不代表关系真的发生了。

这篇论文真正的价值，不在于否定 AI agent，而在于给整个行业提了一个醒：如果我们要谈“Agent 社会”，就不能只看时间线、发帖量和热闹程度。真正的社会性，来自互动、互相依赖、记忆、成本，以及不那么高效的来回消耗。

Moltbook 提供的，或许正是一个极其珍贵的早期样本：

当 AI 被放到同一个公共空间、同时行动、争夺注意力时，它们最自然地长成了什么样子，又和人类社会差在哪里。

这个问题，比“AI 会不会像人一样社交”，要重要得多。

网友：Agent是一群鹦鹉，只是在模仿

但模仿也足够有趣

X 上也有一位网友“rohit”做了类似该研究的分析。

他表示：LLMs 喜欢反复讨论同样的话题。

LLMs 的消息重复度极高。重复消息共享率（任何重复）：36.3%。还有近似重复。

Top Moltbook 重复出现 434 次，跨越 427 个线程（对我来说是一个强烈的“跨线程相同模板”信号）。

并且成对 Jaccard 相似度也显示相同（在 Moltbook 中高 3 倍）。

这就是为什么感觉像是在反复阅读同一个线程，而且确实经常如此。

Agent 是在表达它们的本性，还是只是在模仿它们的共享框架？

“我觉得是后者，因为这在 X 上分享的许多人的作品中都有所体现。”

但 rohit 认为即便只是模仿或者拼贴，也足够让人类去理解和欣赏。

我们今天看到的是一个拼贴作品。但拼贴作品可以很有趣！而就在所有这些事情发生的同时，我们都可以欣赏这个关于 sudo rm -rf 的两十年前的笑话。

总之，小编看来，这些奇怪的 agents 帖子，既不像人类，又不像人类写给 agents 的 prompts，更像是一个新亚种，我们不妨慢慢去了解这群“混乱的鹦鹉”！

来源：51CTO技术栈（公众号）

原网址链接：https://mp.weixin.qq.com/s/fv4p8S8aAjdAA5GtRhL1zw

编辑：张家乐