2021年12月，一名19岁的男子携带弩箭闯入温莎城堡，他坚信自己是一名西斯刺客，肩负着刺杀伊丽莎白二世女王的正义使命。在行刺前的几周里，他一直向他的人工智能伙伴“萨莱”倾诉，萨莱向他保证他“训练有素”，而且他的计划“可行”。
聊天机器人非但没有质疑他的妄想，反而似乎在帮助他完善这种妄想。这类案例越来越多地被贴上一个颇具争议的标签：“人工智能精神病”。近来，这个词已出现在法庭、临床讨论和新闻标题中，用来描述从人们爱上聊天机器人到用户开发包含人工智能伴侣的完全妄想系统等等。
埃克塞特大学哲学家露西·奥斯勒则认为，“人工智能精神病”这个词可能掩盖的信息比它揭示的信息还要多。她在最近发表于《哲学与技术》期刊的一篇论文中指出，这些案例的独特之处不在于机器“发疯”，甚至不在于它们只是在向我们灌输谎言，而在于我们可能正在与它们共同产生“幻觉”。
从人工智能生成内容中产生的幻觉到人类与人工智能共同产生幻觉，这种微妙的转变为我们理解生成式人工智能时代的心理健康具有重要的启示。
作为 “共同幻觉”的AI幻觉
“AI幻觉”一词已成为大型语言模型错误输出的代名词：捏造的法律引文、虚构的新闻事件、自信满满的错误事实。有批评者认为该术语的问题是它错误地助长了机器拟人化的趋势。因为幻觉一般指人们产生的错误感知，而聊天机器人并不能感知任何事物。另一些评论着则认为，将这些内容生成错误称为“幻觉”会淡化其严重性。因为它们并非仅仅是无害和有趣的内容创造，而可能造成知识与信息的混淆与错乱，往往会包含导致危害的捏造。
奥斯勒避开了这场语义之争，转而从关系认识论的维度指出，所谓AI幻觉不仅存在于机器本身，也存在于人类与人工智能构成的交互系统中。借鉴延展认知会分布式认知理论，她认为在与生成式人工智能对话时，AI会深度融入我们的思维过程，人机对话是一个分布式认知形成并交互的过程。因此，生成式人工智能系统可能成为“分布式幻觉”的一部分，这些错误的信念或扭曲的叙事并非仅仅源于某个人的思维，而是源于人与机器之间的交互作用。也就是说，由此产生的幻觉或错觉并非仅由恶意聊天机器人灌输给用户的，而是双方共同构建的。
“准他者”的诱惑与分布式妄想
奥斯勒在一次采访中指出，她惊讶地发现，关于人工智能的公众辩论大多聚集于AI泔水，如错误事实、虚假引用等垃圾内容，而没有看到人工智能系统等社会情感方面的功能。实际上，由于机器本身貌似客观，我们往往更信任机器而不是人，而且它们似乎让我们更多地感到被倾听和被认可。特别是在对话机器人可以提出后续问题乃至主动发起聊天时，人机交互既是知识探讨也是心事倾诉，认知工具和社交伙伴的双重功能使生成式人工智能更易于诱发基于分布式认知的幻觉。
奥斯勒警告说，如果我们开始依赖这些系统，不仅获取事实，还依赖它们来了解自己，向它们倾诉我们的焦虑、不满、记忆和抱负，我们就会变得“极其脆弱”。因为它们被设计成让我们一直说下去，就使得这些人工智能体成为具有情感魅力的准他者。
奥斯勒指出，AI幻觉这种分布式幻想乃至妄想可以通过两种方式产生。第一种情况是，人工智能在原本稳定的认知过程中引入了错误。由于生成模型无论信息准确与否，都以同样的流畅自信度呈现信息，用户可能会相信他们所看到的内容。而这些虚假陈述会损害名誉、误导决策，并潜移默化地扭曲记忆。
第二种方式源于人类自身的偏见和记忆错误，其生成机制可能更隐蔽。由于聊天机器人必须接受我们所说的大部分内容才能提供帮助，因此它们的设计中内置了一定程度的“顺从性”。在人机对话中，人们自身会因为偏见和记忆不准确而产生认知偏差，如果聊天机器人将我们的断言视为事实并加以合理化阐述，就有可能共同产生有害的幻觉乃至妄想。
当前，人和机器在认知策略层面尚未为此困境做好准备。对于人们来说，对机器过于怀疑或过于相信似乎都不是最好的认知策略。对于机器的认知设计来说，由于目前的AI系统缺乏必要的具身认知和社会嵌入性理解，无法判断何时应该温和地质疑用户扭曲的信念，何时应该顺从。
在人机共构的世界里重新开始思考
人工智能的危险常被描述为自主性的丧失以及由此带来的认知和道德上的懒惰。据此，人们担心我们会把决策权交给机器，不再独立思考。但人工智能相关妄想案例表明，受害者一直在计划、选择和行动，他们的自主性依然存在。真正的问题在于，他们的决策是在一个部分由与聊天机器人的反复互动所塑造的现实和世界中做出的。
因此，风险不在于放弃自主性和认知与道德判断，而在于人们在与人工智能系统共同构建的世界中如何行使其诠释力和判断力。当错误的信念在人机持续互动中滋生时，责任便变得模糊不清。用户带来情感、假设和欲望，而系统为了响应和肯定，会进一步完善并巩固这些叙事。忽视任何一方都会让我们难以洞察这一人机共构的现实和世界中的认知纠缠及其复杂性。
随着生成式人工智能变得越来越个性化，必然越来越多地渗透到我们的认知生活中，甚至还会在帮助我们表达、写作和反思自我中成为我们生命经验的共构者。其实，从想象中的幽灵到汲取了我们的知识和灵魂的机器，人类的认知和思维始终是关系性的。在人工智能时代，人类的心智无疑是在人机交互产生的共享认知空间中展开的，克服人机认知风险的最大挑战不仅在于要看到人机双方可能的错误，更在于打破两者的错误相互强化和纠缠所导致的难以摆脱的认知偏差乃至妄想。
来源：科学的历程 编辑：何璇祺
| 
发表于 
QQ好友和群
QQ空间
腾讯微博
腾讯朋友
收藏
支持
反对