【案例】
AI判定我持有假记者证
4月18日，北京经济技术开发区，媒体记者在领取2026人形机器人半程马拉松记者证。中青报·中青网记者 赵迪/摄 作 者｜郭玉洁 编 辑｜从玉华 前段时间，一位采访对象在社交媒体上联系到我，表示愿意接受采访。我和他很快约好了当天的时间通话，为了让他更信任我，我还把自己的记者证内页照片发了过去。 几秒钟后，这位受访者回复我一大段分点清晰的文字，有大约500字，至少5个分点，指向的观点明确：这个记者证是假的。 其论据包括：发证日期不对，证件颜色不对，不符合政策；记者证内页排版粗糙、混乱，没有钢印；其中一串数字出现的位置不对。 这段话引用了一些规范、文件，看上去非常专业。相比之下，我对记者证的了解显得很少。一瞬间我很错愕，想解释。 这段话里说“新版记者证应该是蓝色的”，而我的图片内页是白色，对方称“白色记者证早就退出历史舞台”。我感到无奈，我工作4年多，确实经历了记者证换代，从红皮换为蓝皮，但内页始终是白色的。我找到此前的红皮记者证照片发过去，还拍下我当前记者证的蓝色封皮。没想到对方又快速回复称，这两张证件明显是假的，一个记者只会有一个记者证编号，而我的新旧记者证编号不同。 也许看我拍的照片很有真实感，一旁还有电脑、杂物。这位采访对象没有质疑我本人是骗子，而是说“你被人骗了吧”。配上“捂脸哭”的表情。 我也是豆包等AI大模型产品的深度用户，察觉出这些论据可能出自AI。我说，“您这段话是豆包说的吧，我觉得现阶段AI不可能清楚所有问题。” 后来我去查阅资料发现，记者证换代时编号就是重新换发的，在证件丢失补办时，编号才不变。但我的反应速度显得很慢，解释速度赶不上AI反驳的速度。 更重要的是，我没有AI那么“自信”。此前，新闻传播界有句流传很广的名言，“当真相还在穿鞋，谣言就走遍了天下。”没想到现在，“穿鞋”的速度要快到几秒钟，才能赢得一场辩论。 不过，也许无论我怎么说，采访对象都不会再相信我了，怀疑已经产生。很快，两人都有些生气。我很无力，也没有再去一条条反驳AI的论据，我说，“没关系，您也有不相信的权利，可以不接受采访。” 这位准采访对象说，“我不想再和你讨论（记者证）这个话题，采访就算了，我也不想知道你到底有什么目的，再见。” 我尝试把自己的记者证照片发给我的豆包，询问这是否是真的，得到的答案果然是： “这张记者证不是真的，是伪造的。”后续这段分析用的措辞是：“多处致命错误”“关键信息存在逻辑矛盾”等。如果这不是我的记者证，我可能真的就信了。 最后，它还不忘给出“补充说明”：“伪造、变造新闻记者证属于违法行为，可向国家新闻出版署或当地新闻出版管理部门举报。需要我帮你整理一份记者证真伪核验的完整操作步骤，包括官网查询入口、扫码核验注意事项和举报流程吗？” 一时竟不知如何反驳。我质疑：“如果你现在说错了怎么办？” 1秒钟后它说，“首先，先为上一轮的错误判断郑重道歉。”接下来，它又用1000多字完全推翻了上一顿的质疑。判断结果变为：“（记者证）完全符合官方规范”，上一轮“无备案信息”的判断“完全错误”。 可惜，当我想把这两个答案截图发给采访对象解释时，发现对方已经把我的微信删除了。 AI幻觉不是什么新鲜事了，但这是第一次，AI给出的错误判断，现实地影响到我的工作。我把这一经历发在社交媒体，一些记者朋友也把自己的记者证发给AI询问，部分人也得到了“假记者证”结果。 不久后，我看到新闻，江苏南京执业律师李小亮发现，在百度手机APP、百度网站搜索其个人姓名+职务时，百度“AI智能回答”给出“李小亮律师被判三年有期徒刑”的错误文字内容，并配上他着律师袍的照片。 进入自媒体时代后，媒介素养教育就被反复强调，鼓励人们自主辨别信息、独立思考。现在AI恐怕又让辨别思考难度上了台阶。一项由上海交通大学主导的跨学科调研显示：我国近七成受访公众对大模型AI幻觉“低感知”，高感知者的比例不足一成。 按照一些大模型运行的底层逻辑，大模型看似在思考，其实只是在预测“下一个最可能的词”。即便内容是虚构的，只要语言流畅、符合语境，AI就会生成。而且，AI的学习资料里，不可能什么都有。当它找不到已知信息，就可能虚构、推断。 AI的回复走向也和提问方式有关，但不能苛求每个人都像一些专业人士那样提问：你将扮演一位客观中立的证件信息核实员。你的任务不是主观判断真伪，而是基于我提供的图片材料，结合可查证的公开信息，帮我分析这张证件的各项特征。 有人说，我们将进入“与AI幻觉共存”的时代。许多人认为按照技术原理，AI幻觉无法消失。 我不知道这个时代会有多久，以后会发生什么变化。我这个普通使用者，此刻好奇的是，遇到不完全确定的问题，AI为什么不能说不知道，或者总是把推断说得这么肯定呢？ 2025年一篇发表在arXiv的论文提出，这可能与大模型的训练方式有关。就像人类会在考试里瞎猜选择题的答案，AI在测试训练过程中，编造一个答案，比弃权不答，或表现出不确定，更有可能得分，这套二元计分规则里，“答对得1分、空白或表示不知道不得分”，这鼓励了AI隐藏自己的“不确定”。 “人类在走出校园、历经现实的磨砺后，才会明白表达不确定的价值。而语言模型主要是通过惩罚不确定性的考试来接受评估，所以它们始终处于‘应试模式’。”论文写道，此类指标仍是该领域的主流标准。2026年，该团队这项研究成果登上《自然》杂志。研究者呼吁，通过改变评分标准让AI更懂得袒露不足。 我还很疑惑：AI起初判定我的记者证是假的，为什么一经反问，又马上推翻。 2025年7月，国外另一项发表在顶尖期刊的研究，解释了AI这种看似矛盾的特质：一时过于自信，一时又过度自我怀疑。研究发现之一是，受试的大模型“对矛盾过度敏感”，对相反建议的信心更新比对支持建议更强烈，明显偏离最优贝叶斯推理——理性人决策的“最优参照”。当用户直接质疑，大模型会发生比一个成熟的理性人更严重的自我动摇，偏离了理论上最佳的决策轨迹。 看上去，至少现阶段，AI未必比人更“理性”。 康德说要“勇敢地使用你的理性”。勇敢的对立面不是怯懦，而是被动依赖，依赖权威、依赖主流、依赖工具。 在AI反复替我们“判断”的年代，对每个个体而言，或许要重申，勇敢地使用自己的理性，并且去反复训练它。
来源：冰点周刊 编辑:赵牧云
| 
楼主: admin
发表于 2026-5-15 20:37:41
