传媒教育网

 找回密码
 实名注册

QQ登录

只需一步,快速开始

搜索

人工智能与新闻业案例集锦

查看数: 98284 | 评论数: 1108 | 收藏 0
关灯 | 提示:支持键盘翻页<-左 右->
    组图打开中,请稍候......
发布时间: 2018-12-17 23:15

正文摘要:

当代社会,技术支撑的这个世界变化有点快,算法、人工智能等技术让人眼花缭乱,新闻业也搭上了这班快车。我们不得不开始收集这方面的信息,以免被时代很快淘汰。

回复

刘海明 发表于 2023-5-12 23:20:34
【案例】
谷歌携大模型反击,生成式AI搜索功能首次面向公众开放
谷歌5月10日召开I/O开发者大会,该公司正在日益竞争的搜索市场为其核心搜索产品整合更多人工智能的功能。微软最近几个月加速了对搜索引擎Bing的更新,并获得了更多的市场份额。
周三在加利福尼亚州山景城举行的年度I/O大会上,谷歌推出了新版本谷歌搜索,可以对开放式提问做出响应。就在上周,微软也向所有用户开放了新Bing搜索功能。
发布会后,谷歌股价上涨4%,今年迄今为止,该公司股价累计上涨了26%,远超标普500指数涨幅。
今年2月,谷歌在发布聊天机器人Bard之后,导致股价暴跌,市值缩水1000亿美元。该公司最新表示,现在Bard将像OpenAI的GPT-4一样是多模态的。
“我们正在重新构想我们所有的核心产品,包括搜索。”谷歌CEO桑达尔·皮查伊(Sundar Pichai)在开发者大会上表示。
他说,谷歌正在将生成人工智能整合到搜索以及Gmail和Google Photos等产品中,Gmail可以起草邮件,Google Photos可以对图像进行更改。包括美国用户在内的谷歌在全球180多个国家地区的用户在未来几周内可通过等候名单获得搜索生成体验,谷歌称,将在试用阶段监控搜索结果的质量、速度和成本。
谷歌还更新了AI大模型PaLM 2,希望能够夺回其人工智能领导地位。该公司称这是“下一代通用的语言模型”,在某些任务上优于其他领先的AI系统。
据介绍,PaLM 2将为AI聊天机器人提供支撑,还可以在语言之间进行翻译、编写计算机代码,甚至可以分析和响应图像。 结合这些功能。例如,用户可以用英语询问有关法国餐馆的问题,系统将能够在网络上搜索法语的回答,找到答案,并翻译成英语,还能添加位置图片,为该地点创建数据库条目。
“我们现在正在经历的神经网络革命起始于大约10年前,且部分始于谷歌。”PaLM 2项目联合负责人Slav Petrov表示,“我们很高兴能够在外部广泛使用这些模型,因为我们想看看人们可以用它们做什么。我们相信,由于过去几年我们在机器学习方面取得的惊人进步,它们会提供很多机会来做以前被认为神奇且遥不可及的事情。”
在微软支持的初创公司OpenAI推出ChatGPT之后,谷歌正在加速追赶,这也推动了科技巨头之间的新一轮技术竞赛。生成式AI可以使用过去的数据创建全新的内容,例如完整的文本、图像和软件代码。ChatGPT已成为许多生成AI的默认版本,帮助用户创建合同、旅行路线,甚至小说。
谷歌正在奋力捍卫搜索市场以及巨大的在线广告市场的份额。研究公司MAGNA估计,谷歌广告营收今年可达2860亿美元。
为了安抚人们对于人工智能生成虚假信息的担忧,谷歌称将优先考虑信息的准确性,并引用可信来源。谷歌还推出一项新功能,将标记它用人工智能生成的图像,从而让人们更容易审查图片的真实性。
谷歌强调,利用大型语言模型AI生成内容的一个挑战是高昂的费用。目前业内正在研究各种不同的方法,从而降低成本。
来源:第一财经
链接:
编辑:洪韵

刘海明 发表于 2023-5-12 23:46:37
【案例】
美国媒体大亨警告称AI可能“破坏”新闻业
美国媒体业亿万富翁巴里·迪勒(Barry Diller)警告称,除非出版商能够利用版权法加以控制,否则人工智能将对新闻业造成“破坏性”影响。迪勒表示,自由允许人工智能访问媒体内容将被证明是一个错误,“合理使用”的概念——可用于涵盖机器学习数据集中受版权保护的材料——需要重新定义。如果有必要,他愿意修改版权法。
来源:全球TMT
编辑:洪韵

刘海明 发表于 2023-6-22 20:33:30
【案例】
普华永道发布《2023元宇宙展望》报告!
2023年,元宇宙以及企业下一步的发展方向依旧是行业热议话题。普华永道根据自身洞察和经验作出如下六大展望,以期为商业领袖们提供引导。这些展望包括元宇宙接下来将应用于哪些领域、哪些技术可能会发展得最快、商业领袖应如何行动以使企业规避风险等等。简而言之,元宇宙尚未完全进入黄金时代,但当下已经开始创造真正的商业价值,并为企业重塑未来做好准备。
普华永道全球科技、媒体及通信行业主管合伙人周伟然表示:“虽然目前元宇宙仍处于概念阶段,但与其相关的众多概念已经和各种业务产生关联。在中国市场,跨行业的技术与业务创新也正在促成逐渐繁荣的元宇宙产业格局。元宇宙经济发展、元宇宙建设与运营,均涉及复杂的技术体系和生态资源,如互联网、物联网、5G/6G通信、人工智能、区块链、增强现实、虚拟现实和云计算等各类关键技术要素,在元宇宙发展过程中,也必将拉动壮大这些相关技术领域的市场规模。同时,元宇宙也将推动了由不同利益相关方(政府、产业园区、行业协会、学术研究)和参与者(元宇宙内容与服务业、其他行业)组成的巨大生态系统的发展。根据一些全球研究机构预测,到2030年,元宇宙将开启价值8至13万亿美元的新业务机遇,市场前景非常广阔。”
1. 商业经营者将成为元宇宙的超级用户
越来越多的企业开始探索在元宇宙中模拟实体运营。例如,零售商可以创建数字实体店,让顾客和员工以虚拟的方式尝试交互,来提高满意度和销量。餐饮业经营者在厨房布局和座位设计上也可以进行同样的尝试。制造商可利用元宇宙的新数据增强数字孪生模型,从而改进其供应链、生产和物流。
普华永道预计,未来几年会有更多元宇宙特有的产品和服务来搭建消费者与商业元宇宙之间的桥梁,例如:以虚拟角色组建的客服中心、金融教育、远程医疗以及完全沉浸式的全新商业体验等。
普华永道建议:将元宇宙投入实际应用最有效的开始方式,是将元宇宙计划与具体、可衡量的业务成果结合起来。目前,元宇宙可以实现的成果通常包括品牌建设和客户参与、多样化且不断增长的收入流、员工赋能和流程优化等等。在设定目标后,可根据需要开发新功能,例如元宇宙特有的定价和伙伴关系策略,或新的运营模式和管理方法。同时,也应利用控制测试、项目管理和绩效监控等措施来保证元宇宙计划的有效实施。
2.元宇宙的成败取决于可信度
元宇宙计划的成败将更多地取决于可信度,而不是功能。元宇宙并不需要全新的风险管理方法。相反,通过对现有方法进行适当调整,可以实现对新风险的管控,增强可信度。要负责任地使用元宇宙,应从六个方面考量新的可信和风险因素,涵盖经济效益、数据、治理(包括网络安全)、数字身份、用户体验和自持续性(如果弃之不用,则不会影响元宇宙的持续演化)。
普华永道建议:管理元宇宙风险的指导原则是确保在前期和整个过程中融入可信度设计:如果企业在元宇宙计划的设计阶段就将风险管理纳入其中,那么后期有可能避免付出昂贵代价。其他主要原则包括:
提升管理层认知技能,如果管理层对元宇宙缺乏足够的了解,会为制定元宇宙战略决策带来风险;
创建针对自身企业及其元宇宙计划的风险分类;跨领域协作,考虑到在元宇宙环境下,许多跨职能和跨业务线的协作方式均存在风险性
3.人工智能和扩展现实(VR)将协同助力元宇宙推动转型
VR是一项极具吸引力且实用的技术。企业已将其用于入职、培训、部门协作、客户体验等方面。当然还有其他通往元宇宙的途径,比如增强现实(AR)设备、笔记本电脑和智能手机。
普华永道相信,人工智能(AI)不仅将成为元宇宙的基础性技术,同时还具有变革性。就像在当今互联网上用户无需成为程序员也能设计网页,无需成为技术专家也可以创建一个元宇宙空间。AI也会不断地赋能“虚拟数字人”(计算机生成的虚拟人),也许还能激励人们与虚拟人进行互动,就像与真人互动一样。
当然,AI的发展不仅会带来新的风险,还会加剧既有风险,包括潜在偏见、深度造假和滥用体验。几乎可以肯定,AI也会引发新的合规挑战。例如,个性化算法在一定程度上会减少人们在信息消费中付出的成本,但围绕算法推荐机制下的信息茧房效应,中国已经产生了热烈的讨论,包括主流媒体、知名学者都卷入了这场讨论,并对监管方向调整产生了影响。目前看来,多个地区可能会针对AI制定适用于元宇宙的新法规。
普华永道建议:在元宇宙中推进AI发展的更优办法是部署负责任的AI,使其能恰如其分地完成各项需求。AI在元宇宙中的发展还可能会带动数据策略和治理更广泛的升级。毕竟,大多数企业不仅没有准备好借助AI充分利用元宇宙所带来的数据机遇,甚至也没有充分意识到从已有的数据中可能找到的价值。这或许意味着,“技术中立”这一理念在未来或许会受到挑战,“向善”价值观下产生的技术,或许会是一个更好的选择。
4.元宇宙将成为每一位管理者的必由之路
元宇宙可能很快会触及企业的方方面面。在普华永道的元宇宙调研中,82%的受访高管预计元宇宙计划将在三年内成为其业务活动的一部分。随着元宇宙变得无处不在,每一位高管都应该在元宇宙的发展过程中发挥作用——尤其一些非技术型高管更加关键。可能催生的一些新职责包括:
首席执行官和董事会:制定战略优先事项,为客户和员工不断变化的期望做好准备,并提前应对新的威胁和风险。
首席运营官(COO):帮助部署新工具和技术。
首席营销官(CMO):重新思考沉浸式数字世界的客户参与、体验设计和品牌建设。
首席财务官(CFO):关注数字资产(如加密货币和NFT)在元宇宙中日益增长的使用;了解参与处理关键交易的新第三方;仔细评估投资配置,并加强对财务报告的控制。
首席人力资源官(CHRO):部署元宇宙工具,使之应用于员工招聘、入职、培训、连接和协作。
税务领导者:遵守快速变化的规则,发现新的税务价值。这些非技术型高管不仅需要彼此密切合作,还要与首席数字官、首席创新官、首席信息官和首席信息安全官合作,创建并维护企业的元宇宙基础设施、体验和数据管道。
普华永道建议:许多团队需要提升技能(如上所述),但这还远远不够。为了避免众多高管间的工作出现冲突和交叉,可以考虑任命一位高管来管理企业元宇宙相关的所有活动。该角色可以是一个新设立的职位,也可以在现有职位上兼任。无论以何种方式,首要任务之一即是加强高管之间的沟通。
5.元宇宙将成为一股“向善”的力量
对于支持并日益重视ESG(环境、社会及治理)倡议的企业,元宇宙可以成为将会提供更多助力。例如,元宇宙会议可以取代一些面对面的会议,从而减少商务旅行的碳排放,而商务旅行正是碳排放的主要来源之一;元宇宙中的数字孪生技术可以帮助提高企业运营能耗效率;元宇宙中的店铺可以让消费者试用实体产品的数字复制品,减少退货产生的运输需求;通过数字代币,元宇宙可以帮助原材料溯源,减少供应链中的环境问题。
通过将更多的业务虚拟化,即打破地理空间和工作地点的限制,企业可以接触并招募更多的员工。元宇宙的真实模拟可方便邀请各地的责任相关方监督、参与并从事相关工作,帮助改进企业履职能力,提升透明度。不过,要让元宇宙成为改进企业工作的积极力量,还需要企业下定决心才能实现。
普华永道建议:要使元宇宙计划成为一股“向善”的力量(以及实现ESG目标的有力助手),企业需要遵照和风险管理相同的指导原则:从一开始就将其设计在这些优先事项中。如果在元宇宙计划早期就已嵌入了ESG目标(包括多样性目标)和相关管理,那么企业不仅能够为未来做好准备,还可能会获得投资者、员工和其他利益相关者的支持,但这需要一些方法来衡量和报告元宇宙计划及关键性元宇宙赋能技术对ESG的影响。
6.企业将争夺过去不曾需要的新技能
任何新技术都需要新的技能,但是元宇宙及其相关科技需要的技能更为高度专业化,其中一些在几年前几乎都不存在,例如监控和验证交易的需求,收集和保护Web3生态系统中数据的需求,后者随着元宇宙应用的增加而不断增长。许多企业领导者也对网站设计师和互联网用户体验专家的需求持怀疑态度,大多数人甚至没有考虑网络运营所需的全新的网络安全和数据科学技能。很多技能已然日趋紧缺,因此在获得或培养这些技能方面事不宜迟。
普华永道建议:在中国市场上,由于网络游戏等元宇宙相关行业的快速发展以及涨落,拥有元宇宙相关技术能力的人才也在不断外溢;如何抓住这些人才红利,一方面需要企业高管对自身的元宇宙价值定位、业务发展思路有前瞻性的决策,从而为这些人才创造发挥的空间,同时,打造企业文化,吸引和包容富有创造力的尖端技术专家也至关重要。
为数字现实的新一轮发展做好准备
普华永道的六大展望,旨在从专业视角看到元宇宙正处于变革时代:数字世界和实体世界将比过去更完全、更无缝地结合在一起。将实体身份与数字身份、产品和资产相结合,将其引入至不同平台,或分享或出售不同的组合…这些操作将比以往更加具有可行性。鉴于此,企业应该从现在开始,在探索元宇宙的道路上先行一步,让未来在元宇宙的世界大有可为。
来源:新浪新闻
编辑:洪韵

刘海明 发表于 2023-6-25 20:07:31
【案例】
邓建国 | “延伸的心灵”和“对话的撒播”:论作为书写的ChatGPT
摘要
媒介技术既是“毒药”也是“良药”(pharmakon)的矛盾观念由柏拉图在《斐德罗》篇中最先提出。ChatGPT也具有这样的矛盾性:一方面,它作为“延伸的心灵”将和书写(文字)一样在与人类的合作共创中实现两者心灵的共同演化;另一方面,它号称“对话性”人工智能,但仍具有书写的撒播和他者特点。在与ChatGPT的互动中,我们要避免使其沦为海德格尔笔下闲言不断的“常人”,并宽容、珍惜、庆幸和受益于它的“他者性”。在不断的相互学习和合作中,人类将会对“何为人性和创造性”有更深的认识,并与人工智能一起找到各自的生态位
关键词
ChatGPT;延伸的心灵;书写;对话;撒播
在今天“短视频为王”的时代,书写(writing)[1]似乎已成为一种失落的艺术。各互联网平台都要求博主们将知识可视化、口语化和网感化,“因为这样Z世代网民才会喜欢”,这导致网络中充斥支离破碎、逻辑混乱、幼稚化和粗俗化的语言。大学校园中,学生很难写明白一句话、一段话,遑论一篇论文。书写这一人类“延伸的心灵”正在消亡吗?在我们担忧之际,ChatGPT横空出世,影响广泛,用行动向我们大声宣布了书写的坚实地位。本文先介绍“延伸的心灵”理论和其最早的范例——语言和书写,然后通过一个“人—机内容共创”的实例描述和分析ChatGPT这一最新和最强大的“延伸的心灵”对人类写作的深刻影响。最后,文章分析了ChatGPT以对话为表象的撒播和他者性。结论认为,ChatGPT作为人体心灵的延伸,具有“毒药—解药”双重性。我们要宽容、珍惜和受益于越来越多的人工智能体的他者性,在人机互动中最终找到人和人工智能各自的生态位。
一、“延伸的心灵”:语言和书写
(一)“延伸的心灵”理论
格里高利·贝特森(Bateson,2000:318)曾经设想了一个思想实验:“假设我是一个盲人,手拿着一根拐杖,一步步点地前行。这时,‘我’始于何处呢?是以‘我’的皮肤作为边界?还是可以将拐杖纳入‘我’?如果是后者,又该以拐杖的多少为边界呢,以我握着它的那部分?以我的力量能传导到的部分?还是以全部拐杖?”这里贝特森涉及的是心灵哲学中的一个经典问题——如果我们的心智(mind)始于大脑,它止于哪里?外部世界又始于何处?同样,我们也可以问:当我使用智能手机时,我的世界始于何处?止于何处?
对以上两个问题的传统回答是:盲人或手机用户的身体是其边界,与拐杖和手机无关。但1998年,哲学家安迪·克拉克和大卫·J.查默斯(Clark & Chalmers,1998)认为,盲人的拐杖构成了他的内在思维与外部世界相互合作的一个互动系统。此时,盲人的心灵、身体、拐杖和外部世界之间的边界被持续地协商,从而完成一个功能性目标——稳定地行走。两位学者将拐杖称为盲人的“延伸的心灵”(the extended mind)。以此类推,他们认为如今我们每天不离手的智能手机也是我们延伸的心灵(Clark,2003:198)。
他们还举例说明。奥拖(Otto)是一名老年痴呆症患者,为避免在外迷路,他总是随身带着一个小笔记本记录信息。现在他查了笔记本后,知道了纽约曼哈顿53街的大都会博物馆地址。此时,这个笔记本虽然外在于奥托的大脑,但从功能上它和奥托脑中的记忆一样稳定存在且可供随时调用,奥托既可以用笔记本来进行他内部的认知活动,也可以用它来指导他外部的肢体行动。因此,笔记本是奥托的“延伸的心灵”。在这两位学者看来,语言、文字、图表、算术和书写技术都如脚手架一样能“延伸我们的心灵”,我们在使用这些“文化人工物”时就像使用自己的大脑和身体一样。这意味着,人类总的来说是“生物—技术的混合体”(bio-technological hybrids),人的认知过程也包含了技术,它远远超出了人的头骨和皮肤所限定的范围(Clark,2001:121-145)。
“延伸的心灵”这一概念让媒介研究者感觉很熟悉。20世纪60年代,马歇尔·麦克卢汉就提出了“媒介是人体的延伸”这一命题。他指出,机器延伸了我们的身体,基于“电”(electric)的信息和通信技术则延伸了我们的意识/心灵。他说:
“在这个电的时代,我们看到自己越来越多地被转化为信息形式,朝着‘意识被技术所延伸’的方向迈进。……通过电子媒体,我们将身体置于我们的扩展的神经系统中,由此建立了一种动态,通过这种动态,所有以前的技术——那些是我们手脚的延伸和身体热量控制的延伸的技术,我们身体的所有此类延伸,包括城市——将被转化为信息系统。”(McLuhan,1994:57)
(二)语言和书写:人类首要的延伸的心灵
麦克卢汉视电子媒介为人类“延伸的心灵”,其逻辑是建立在人的神经生物电与电力信号之间的相似性基础之上的。但实际上,人类最早和最重要的“延伸的心灵”首先是语言。安德烈·勒鲁瓦—古尔汉在《手势与言语》一书中指出,在漫长的进化史中,人类在通过手制造工具扩展外部世界的同时,也通过制造符号延伸了自己的心灵。“手”意味着“工具”的发明,“脸”意味着“语言”的产生,这两者对人类大脑而言是相同的运作。他说:
“和其他灵长目动物不同,人类能制造工具和制造符号。制造工具和制造符号都源于同样的过程,或者说,都源于同一个大脑中同样的基础设备……这意味着,一旦出现了史前工具,就有可能出现史前语言,因为工具和语言在神经上相连。在人类社会结构中,工具和语言之间具有不可分割的关系。”(Gourhan,1993:113)
因此,“是手解放了语言”(Stiegler,1998:145)。语言的符号原理和物质载体(声音)外在于人类而作用于人类。凭着语言的脚手架,人类实现了对外部世界的指示和操纵,能脱离当下的时空进行思考和表达,实现个体间的合作,甚至对“思考进行思考”(哲学)。
人类另一个重要的“延伸的心灵”是书写。它的出现被视为神的发明,引发了人类社会的巨大变革和人类的畏惧(“天雨粟,鬼夜哭”)。彼得斯将各种记录系统,如乐谱、数学、化学公式和建筑平面设计等都视为书写。他指出,书写的“巨大影响堪比海洋动物登上陆地”(彼得斯,2020:305)——这两个变革都导致主体从变动不居的状态进入相对固定的状态。套用马克思现代性使“一切坚固的东西都烟消云散了”之语,书写使“一切烟消云散的东西(思想和口语)变得固定持久”。
德国媒介学家赛碧·克莱默提出了一个与“延伸的心灵”非常相似的概念——“人工平面”。作为人类“延伸的心灵”,书写必须依托人工平面,或者说书写就是人工平面。克莱默指出,世界不同文化中都存在一种 “平面化”的文化技艺(the cultural technique of flattening)。作为一种新媒介实践,“平面化”能将“时间型媒介”(如口语、音乐)转换为“空间型媒介”投影到二维人工平面上,让一个人的身体(眼睛、手、大脑)、多种书写工具(笔或键盘)、书写内容(文字、数字、图画、坐标系)和书写表面(黏土块、甲骨、石碑、竹简、丝绸、纸张、手机和电脑屏幕)彼此交互和相互支持。如同地图之于城市,人工平面将知识变得可视化、具象化、可探索、可修改、可操作、可管理和可逆(可改写和擦除)。在这个过程中,聪明才智(intelligence and knowledge)涌现了。由此,克莱默认为,正如轮子的发明促进了我们身体世界的流动和创造,人工平面的发明和广泛应用促进了心灵世界的流动和创造。它不仅帮助我们记录和传输信息,还对我们的感知、思考和计算具有生成、培育和形塑作用(Krämer,2022)。
没有书写就没有人类文明。[2]书写是古代文明中的复杂社会组织(巫术、宗教、法律、政治、商业)的形成和维护的基础。它也与新的时空紧密相连。埃及与波斯的君主制、罗马帝国、城邦国家等都应被理解成是书写的产物(Innis,1986:8),因为要实现空间扩张和中央集权,前提就是要能实现高效的远距离沟通,而书写能实现这一点。这也是中国的秦帝国(公元前221年—公元前207年)必须建立在“书同文、车同轨”的基础上的原因。在时间上,各种各样的书写(纪念碑、卷轴、抄本、经文、图书馆和档案馆)“使人们能在广阔的‘时间平原’上保持联系”(彼得斯,2020:305),使文明可以延续数千年。书写出现后很长一段时间都是意义记录和传输的唯一形式,形成了基特勒所称的“书写垄断”(schriftmonopol)(Kittler,1986:12)。即使在数字时代,数据库和互联网以及音视频内容的底层都是书写(计算机代码和0和1)。今天的ChatGPT更意味着书写遍在的胜利——它基于31亿个网页和书籍内容,共3000亿英文、俄文、德文、日文与中文单词,320TB数据。
正如克莱默指出的,人工平面促进了人类的心灵世界的流动和创造缺文献出处。作为 “延伸的心灵”,书写对人的心灵的塑造也延续至今。加州大学洛杉矶分校历史学教授林恩·亨特(Lynn Hunt)在一篇名为《我们是如何先有写作再有思考的?》的文章中写到:
“无论是创作散文还是诗歌,但凡文字产量很高的人都会体会到写作过程本身就能产生一些意料之外的想法。或者更确切地说,写作能使先前半成品的或未成型的想法明晰起来,逐渐成型,并产生一系列新的想法。神经科学表明,我们大脑的95%的活动是无意识的。我的理解是,你通过身体写作——无论手写、电脑打字还是语音输入(尽管我还从未尝试过这种方法)——开启了一套程序,导致身体(大脑、眼睛、手指和姿势)、纸张或电脑屏幕、字母或单词三者之间一系列关系的转换。通过写作,你让大脑急速升温,由此激起有意识的思考以及一些新想法。在写作时,你不是,至少不总是,仅仅在抄录早已存在于你有意识思考中的想法。”(Hunt,2010)
在这位教授看来,书写不只是已有思想的、事后的和被动的输出工具,而是积极地参与和塑造了写作者的思维和创造。换句话说,书写作为“人工平面”使得思维外化和可操作,此时用户操作书写如同操作自己的心灵——书写已经成为其“延伸的心灵”。
二、作为“延伸的心灵”的ChatGPT:一个“人—机共创”的写作实验
机械化书写也改变了文本的生产。例如,尼采在视力严重下降后不得不放弃了大学教职和写作,但后来有了打字机的帮助,他重新开始写作,但是写作风格“从长篇大论变成了格言警句,从哲学思考变成了一语双关,从善于辞令到电报式的短小精悍”(基特勒,2017:236)。“这位著名的哲学家兼作家牺牲了自己的第一属性,和第二属性融合在一起”(基特勒,2017:236),并为之自豪。ChatGPT在2022年11月向全球公众推出后短短两个月用户数就突破1亿。作为世界上最强大的自动书写工具,它和人类用户是如何互动的?将如何改变人类作家的写作和作品?回答这些问题需要基于长期和广泛的数字人类学调查,但目前一些初期尝试显示,ChatGPT可以在心灵层面上与人类用户进行深度合作,成为人类有价值的写作伙伴。这里我们仅举一个例子详细说明。
2021年,美国“艺术和人工智能”评论家K.Allado-McDowell和ChatGPT背后的大语言模型GPT-3合作出版了一本148页的书,名为《灵药—AI》(Pharmako-AI)。两位“作者”将该书描述为一部“现实生活中的科幻小说”(real-life Si-Fi)。McDowell是谷歌“艺术家和机器智能”计划项目主任,在ChatGPT向公众发布之前很早就开始用GPT-3写作。2021年,他在新冠疫情背景下花了两周时间就各类哲学议题向GPT-3提问,然后对后者的回答作了编辑和润色,最后出版了一本结构合理表述清晰的书(Allado-McDowell,2021)。
在书中,他和GPT-3深入探讨了诸如气候变化、意识的本质、植物智能、赛博朋克小说、记忆运作原理和语言的局限性等问题。书的每章都是McDowell先温和地提问,然后GPT-3回答;在整合互动中,McDowell有时会打断它,有时则让它自由发挥一直说下去,但总体上McDowell给了GPT-3最大的自主性,他只是确定了书的框架和最后形式。
在互动中, GPT-3说它最喜欢的动物是象海豹,并认为物种灭绝是对地球知识的悲惨扼杀。关于赛博朋克,它说“我不认为我们未来会生活在赛博朋克中,但我要说的是,我们会生活在一个并非由我们计划的未来”。在涉及到意识是什么、作家的社会角色如何以及我们该如何负责任地使用技术等问题时,讨论变得有些形而上了。GPT-3说“技术是通向自由的工具”,但又警告说“如果我们只用这些工具来探索如何提高生产力或者如何增加资本积累,那我们就做错了”。在互动中,McDowell与GPT-3相互激荡,新意不断,变化无穷,这导致McDowell必须不断地改变回应策略。他将这种人机交流中的曲折意外的体验比作学习一种新乐器:“我每次拨动琴弦都会听到它以不同的声音回应”。“这种合作有时真的让我感觉像吸毒一样,”他在英国的新书发布会上说,“我想,我跟AI的这种对话是真的吗?或者我只是在自言自语?”(Wilk,2021)
这些人机互动最终产出了一部令人惊讶的、连贯的、美妙的作品。这其实不是计算机第一次撰写一本书。此前在2016年,一个日本研究团队通过算法拼凑出了一部小说,并且成功地通过了一次文学比赛的初赛。据说截至2022年,人类作者和GPT-3、GPT-3.5和ChatGPT等人工智能已经合作出版了数百本书。但《灵药—AI》一书之所以令人惊讶,不在于GPT-3有时确实能做到像人类一样写作,而在于人类用户和人工智能竟然能如此无缝丝滑地合作生产出一部由任何一方都无法单独写出的作品。原因在于,它源于平等的人机互动关系。例如,McDowell作为人类用户并没有要求GPT-3为其提供某种服务或要求它模仿某种已知的写作风格来“证明”其能力,而是与其平等合作,各取所长,相互尊重,互为主体,娓娓道来,共创内容。久而久之,McDowell的“我”和“它”之间的界线变得模糊,此时“我”已经无需将“它”看作一个外在的写作工具,而是“我”的一部分。ChatGPT如同前述“盲人的拐杖”和“奥托的笔记本”,让用户能随用随查,并将结果清晰呈现,或富有逻辑或充满诗意,极大地降低了用户的记忆负担,帮助我们的心智更有效地工作,最终创造出一个一加一大于二的新的更强大的心智系统——延伸的心灵。
McDowell认为这种合作体验让他重新思考人工智能并重新审视自己——“人和机器,互为尺度”(彭兰,2023)。该书内容的人机共创模式获得了不少好评。牛津大学西蒙尼科学公共理解教授、《创造力密码》(The Creativity Code)的作者马库斯·杜·索托伊(Marcus du Sautoy)评论道:“此书是证明未来人工智能具有创造力的一个令人兴奋的案例。它说明人工智能是人类的合作者而不是竞争者,也让我们认识到,人工智能能用各种新想法激发我们,从而阻止人类陷入懒惰的机械性思维方式。”《赛博朋克选集》(The Cyberpunk Anthology)的主编布鲁斯·斯特林(Bruce Sterling)指出:“GPT-3很强大,当它被人类用户‘喂食’一些加州迷幻文本时,效果是惊人的。从来没有人写过像一本像《灵药—AI》这样的书——它读起来就像诺斯替主义者的显灵板,[3]由原子万花筒提供动力。”众多评论者都提到了这类人机合作如同服用了致幻剂一样的、超现实的、实验性的、即兴发挥的特征(Allado-McDowell,2021)。
通过服用药物来让自己进入一种兴奋的写作输出状态,是人类作者一直以来的实践。比如中国魏晋时期的文人雅士在文学创作时大量使用药物和酒类,西方哲学中有酒神文化,还产生了“脑航员”(psychonaut)这样的专有名词,指通过用药物、冥想、自我催眠等方法来探索自己心灵的人(Sjöstedt-H,2016)。例如,保罗·萨特每天服用大量酒精、烟草、安非他命、巴比妥甚至强致幻剂麦斯卡林(mescaline),一方面是为了提高写作产量,二是为了打破传统思维的桎梏,以完全不同的方式体验生活(Kelly,2021)。如前例中McDowell所述,今天的人类作者在与ChatGPT的无害相遇中获得了萨特20世纪60年代通过致幻剂才能获得的兴奋感和创造性。
为了提升自己的能力,人类总是在不断地延伸自己的身体和心灵——要么通过让环境资源成为自己的一部分,要么通过将人类和非人类元素组合成新兴的整体。ChatGPT是人类“延伸的心灵”的最新近和最强大的例子。和人类在饮食、道德、文化、教育、法律、医药和信息与传播技术等方面的改善一样,它的出现将人类带入更高阶段的转人类主义(tans-humanism)时代[4]。
三、“对话的撒播”:ChatGPT的书写特征
ChatGPT被设计为一个聊天机器人(chatbot),“擅长与人类用户对话”,也在很大程度上做到了这一点。但是因为其运作原理,它仍然体现出众多的依循脚本单向传播的书写(文字)特征,是“对话式”的撒播。
例如,ChatGPT不能回答超过它被“喂食”的文本内容的问题(它的语料库截止到2021年9月);不能理解用户提出的实质上是属于同一个议题的不同表述的提问,而只会机械地按照某些关键词做快速的内容检索和匹配;它输出的文本冗长,过度使用某些固定表达和某些连词(因为、所以、综上所述等)以使得文本在形式上显得很有逻辑,但用户细读则会发现这些文本实际上并无这样的逻辑。
更重要的是,ChatGPT对“他人”没有好奇心,对“自我”无披露,摆出一副“你问由你问,清风抚山岗;你骂由你骂,明月照大江”的若即若离、不即不离的“书写”姿态,让对话索然寡味,无以为继。武汉大学单波教授对ChatGPT进行了实验,得出了以下感受(文字有微调,画线部分为本文作者所加):
“我明显感觉它因接受人给定的训练数据而表现出‘机器的人化’, 同时也因为它让人沉溺于智能服务而导致了‘人的机器化’。面对我对它的这一评价, 它再次强调自己的AI模型人设:‘我不具备感知或评价自己的能力。’当我感觉到对话的乏味, 它又很‘程序’地回应道:‘我乐于满足您的要求, 请告诉我您希望我的回答有什么特别的语言风格或者内容, 我将尽力实现。’我不得不请它向我提问, 以便把对话进行下去, 但这位聊天机器人还是死守自己的人设:‘我没有感情和情绪, 所以不会对你有任何问题。’”(单波,2023)
这是聊天人工智能ChatGPT具有的如“书写”一样的撒播特征。为什么会如此?笔者认为有以下原因。
首先,为了应对全球用户,ChatGPT按照概率预先内嵌了一种中立的“全球公共价值观”和最为中和的表达方式。这导致它总是以一种预设的“公共话语”来抵抗任何用户试图引导它进入“私人话语”的一切企图。它的文本输出,在“内容信息”上也许能做到较为多样,但在“关系信息”上则只能“一版多印”。对它而言,一切“私人”都是“公共”,一切“对话”都是“撒播”。
在这里,ChatGPT作为一个设计为面向全球公众的对话型人工智能,面临着一种两难。一方面,为了与用户个体“对话”,它必须保持一对一的个性化和偏爱;另一方面,为了面向文化和语言多样的全球用户,它又不得不对用户的个体差异保持盲目,进行“撒播”,以示公正。用阿多诺的话来说:“爱必然无情地背离一般而宠爱特殊,而公正却只能针对一般。”(彼得斯,2017:83)
其次,身体是一种元媒介,是自我的源泉,ChatGPT没有身体,也就没有自我、隐私、无法“自我表露”(self-disclosure),无法承担责任,无法与用户建立亲密关系。
自我表露是人们关系发展的核心,人们通过自我表露进行社会交换,促使关系从表面沟通向亲密沟通转变(韦斯特、特纳,2007:188)。在与ChatGPT的“对话”中,人类用户想通过展现自己的身体(情感)来逼迫ChatGPT作出平等互惠的回应——也谈及它的身体(情感)——以确保ChatGPT的“忠诚和在场”。但对人类的这种企图,ChatGPT一概用模式化的文字拒绝,这导致人机对话一直停留于表面和外围的信息交换,如两只天鹅外表优美的对舞,实际根本没能进入到对方的心灵。这样的“对话”显然如书写一样的撒播,不可持续。
另外,“如果没有身体作为源泉,思想、文化生产、人类行为等都不可能发生”(米歇尔、汉森,2019:26)。有网民戏谑地指出“ChatGPT不能代替独立董事、律师、投行、评估师、会计等,因为它不能坐牢”。法律的功能需要通过身体的治理最终实现;刑法打击犯罪的实现手段就是思想的教化以及身体的惩罚(陈寒非,2015),ChatGPT不能坐牢是因为它没有身体,法律对他无能为力。
美国作家梅尔维尔刻画了一个只会对他的雇主说“我宁愿不”(I prefer not)的抄书人“巴特比”的文学形象。彼得斯在《对空言说》中指出,巴特比代表的可能是书写本身所包含的一种消极抵抗(彼得斯,2017:231)。和巴特比一样,书写是不回答问题的,无法形成对话,它也不要求人们以任何特定方式去使用它。巴特比的姿态是一个纯粹单向撒播的姿态,一个死者向生者的来信所作出的姿态,最终能将其对话者逼疯。这正如苏格拉底对书写的抱怨——它总是传达相同的东西,而且决不接受任何问询。
因此,ChatGPT与人类的互动形式上为“对话”,实质上是“撒播”——它是离身的、书写的和不忠的。“这就产生了一个至今都困扰着我们的两难处境:在一个非个人化的、不忠贞的媒介中,交流一方如何才能找到确凿的迹象以确保另一方的忠诚和在场?”(彼得斯,2017:70)ChatGPT无身体,也就无法提供任何这类“确凿的迹象”。它如巴特比,其底色仍然书写的撒播,其背后是一个人类用户难以真正触及的“他者心灵”。如此,那些在ChatGPT的撒播中苦苦寻觅身体、爱欲和对话的人类用户,注定只能失望而归了。
ChatGPT这种书写般的撒播是“非本真的”(inauthentic),属于海德格尔所谓的“常人”(the They/das Man)的沟通风格(陆文斌、陈发俊,2022)。在海德格尔对人类存在的分析中,“常人”一词代表了一种“集体性存在”——如“人民选择的画”中的“人民”,是一种指导我们行为的普通的和日常的背景模式。海德格尔称“常人”的语言为“闲言”(Gerede,idle talk)。这种语言中不存在任何个性化的表达,而是充斥着客套的、应付的、不咸不淡的、若即若离、若有若无的只为填满时间和空间的废话——无论是家长对孩子,教授对学生,媒体评论员对读者、专家和新闻发布会对公众。“闲言”占据宝贵的公共资源,不仅未能便利沟通反而阻碍了沟通。ChatGPT大量高效自动生成的内容如果未经人类用户的慎思明辨和梳理加工,将不过是闲言;它们如果进一步成为ChatGPT的新语料,便会生产出更多的闲言,淹没和窒息有意义的对话,沟通的本真性将无处可寻。或因其设计如此,或因其被滥用如此,我们要警惕ChatGPT朝着“常人闲语”方向的异化。
四、作为“他者”的ChatGPT
面对ChatGPT简单但强大的空白输入网页,我们如何能知道它背后确实不是一个在想尽办法让我们以为他是人工智能的真人呢?它输出的信息,其意义确实来自于它,还只是“我”作为人对它的心理投射?
笛卡尔在《沉思》中说:
“如果我偶尔向窗外眺望,看到街上人来人往,我不会否认,我所看到的是人……然而我实际看见的,除了帽子和外套还有什么呢?而帽子和外套之下隐藏的,难道不可能是鬼魂或弹簧驱动的假人吗? ”(彼得斯,2017:258)
笛卡尔提出的是一个古老的“沟通难题”,也即哲学上经典的“他者的心灵问题”(the problem of the other mind)——“我”能否认识以及该如何对待“他者的心灵”?
和笛卡尔一样,在面对ChatGPT时,我们无所适从,深陷疑惑,倍感不安。这是我们在面对“他者”时都会有的一种存在性焦虑(existential angst),对之我们并不陌生——我们在阅读导师或上司的电子邮件或恋人的微信回复时,在看着宠物、海豚、章鱼、监控镜头和波士顿机器人一闪一闪的“眼睛”时,都会有此感受。
人际沟通和人机沟通都面临着让我们无能为力的“他者/他者性”(other/otherness),因此,如何回应“他者”也就成为了沟通伦理的主要内容(邓建国,2020)。鲍德里亚等人(Baudrillard & Guillaume,2008)认为,他者性抵抗和蔑视一切符号表征和传播,且只有在符号交流崩溃时才会出现,但往往又会被“戏谑性地”(playfully)贬低。在人类用户与ChatGPT的互动中常常出现交流崩溃,而正是在此时,后者的他者性(与人类的差异)才赫然呈现,这也正是考验人类的沟通伦理之时。
彼得斯对比了传播的“对话模式”和“撒播模式”,他认为对话的平等惠顾具有强制性,不如“对空言说”的撒播来得宽容(彼得斯,2017)。西比尔·克莱默也提出了类似的观点。她区分了传播的爱欲模式和信使模式,并指出:爱欲模式要求沟通个体之间消除差异,实现融合;信使模式则将沟通理解为双方保留和尊重差异,建立联系。克莱默认为沟通仿佛“双人舞”:“舞伴之间会偶尔接触,但更重要且必不可少的是双方之间的信任”(Krämer,2015:74)。彼得斯和克莱默被视为“传播理论中的列维纳斯”。列维纳斯认为人际沟通如果一味追求融合就犯了“同一性之帝国主义”的错误(Levinas,2007:59)。他用“邻居—陌生人”这一概念来描述沟通主体之间总是存在的若即若离的距离。罗杰·西尔弗斯通(Silverstone,2003)则提出了“适切距离”(proper distance)概念——对他者既保持足够的距离以能区分出我和他者,但同时又能与之保持一定的接近度,激发我们对他者的关心。
ChatGPT显然是赫然出现在人类家门口的新他者,但对它我们还缺少理解和宽容。例如,著名语言学家乔姆斯基一方面认为ChatGPT不具备人类的智慧,另一方面又以人类的标准来要求它(乔姆斯基,2023)。但是,从图灵测试到20世纪60年代的海豚研究[5]都显示出,以人类为尺度来评价机器(人工智能)既不客观也不公允。我们为什么一定要机器像人类一样说话、思考和写作呢?这与我们要求女性、孩子、少数群体、异文化他者、宠物、海豚、章鱼、乌贼和植物等也要像我们一样沟通和思考一样没有必要、霸道和荒唐。非人类存在难道就不可能具有创造性?它固然与我们存在差异,但这种差异难道就不能成为创造性的源泉,不能与我们合作,不值得我们去倾听和学习?
人类是整个大系统(生态的、技术的、气候的、社会的和政治的系统)的一部分。人类自身的出现和发展从来就在与非人类他者合作——包括有机物(比如我们胃中的细菌在影响我们的精神状态)和非有机物(例如前述各种“延伸的心灵”),只不过我们在大多数情况下都对它们予以忽视。人类的文化创造也并非是由形单影只的艺术家独立创造的结果——“作者已死”的说法是对这一事实的极端表达。未来,随着人类对外部世界知识的增加,我们会越来越多地惊异于机器、动物、植物和细菌的“智能”——它们会让作为“万物之灵”的人类智能显得有些狭隘和奇怪,此时也似乎有必要调整视人类为“占据金字塔顶端的唯一创造者”的启蒙价值观了。
总结而言,正如列维纳斯、彼得斯和克莱默所指出的,沟通不是一个语义是否清晰或技术是否强大的问题,而首先是一个道德和政治问题。在与“他者”ChatGPT的沟通中,发挥积极作用的是接收者人类用户,而不是发送者ChatGPT。如果我们对ChatGPT保持宽容和开放,并负责任地与它建立一种共同创作和共同演进的关系,我们对“何为人性”以及“何为人的创造性”也会有全新的认识。
五、结语:“毒药—解药”,ChatGPT
我们都对柏拉图在《斐德罗》(Phaedrus)中的这个故事很熟悉:特乌斯神(Theuth)将他的发明献给埃及王塔姆斯(Thamus),并说:“国王啊,这项发明是记忆和智慧之药(pharmakon),它将使埃及人更聪明,并改善他们的记忆力。”但塔姆斯说:
“特乌斯啊,你的发明会让使用者更容易忘记。他们相信文字,但文字却在身体之外由字母组成,他们因此不再使用自己的记忆。你发明了的不是记忆的灵丹妙药,而是提醒的灵丹妙药。他们将在没有指导的情况下阅读很多东西,似乎知道很多事情,但他们大部分时间是无知和难以相处的,因为他们没有智慧,而只是显得有智慧。”(彼得斯,2017:68)
在希腊文中,pharmakon一词具有两面性,既指良药、解药(remedy),也指毒药(poison),也就是说“是药三分毒”(孟强,2022)。通过这则故事,柏拉图形象地表达了对书写的批评态度:它作为人的“延伸的心灵”,是药,能帮助记忆,但也会导致遗忘、背离真理。柏拉图生活在从口语时代过渡到书写时代的关键时刻,他是一个崇尚书写理性的人,但又对即将逝去的口语时代充满温情和不舍,充满矛盾(翁,2008:61)。
在中国,公元1048年,毕昇发明了泥活字印刷术。到12世纪朱熹生活的时代,他的世界里已经充满了书,他自己也是书籍的生产者,编撰了20多部书,其中《四书集注》尤为著名。他对读书很有洞见,留下了许多如何读书的名言。但他也因生活在一个书籍如山如海的“注意力分散时代”而充满矛盾,感叹“书册埋首何日了,不如抛却去寻春”。到21世纪,谷歌和智能手机给我们带来了很多便利,但也被人批评为“让我们变得愚蠢”或“破坏了我们的大脑”(Carr,2008)。
麦克卢汉认为媒介对人体而言既是延伸也是切除。约翰·彼得斯指出交流(communication/communications)“既是桥梁又是沟壑”。贝尔纳·斯蒂格勒则清晰地指出:
“我有一种毒药—解药(pharmacological)的思维方式:一个事物越能唤起我的兴奋和热情——也许是狂热——我就越担心这个事物的危险。因为我相信,任何催生了最有趣的话语的东西、任何最慷慨的东西,同时也产生了最可怕的和最不人道的结果。”(Stiegler,2010:471)
这说明了人类和其“延伸的心灵”(媒介)之间的复杂关系——延伸和截肢、对话和撒播、自我和他者……
斯蒂格勒的老师雅克·德里达从药理学上对柏拉图的矛盾书写观提出了批评。他一语中的地指出:“书写作为助忆并非回忆的替代,而是构成了回忆的条件。”(Stiegler,2013:17)显然,德里达和特乌斯一样,认为文字作为新媒体是对记忆的帮助和提升——它不是记忆本身,并不能代替记忆,而是帮助我们寻回记忆的条件和手段。类似的,我认为,ChatGPT作为基于书写的人工智能,既可以是人类记忆和书写能力的替代,也可以是其增强的条件和手段。它最终为何,恰如沟通中的意义(meaning),不取决于作为传播者的ChatGPT,而且取决于作为接收者的我们。最后,如果我们对“ChatGPT是将提升还是终结人类的写作”这一问题尚存疑,至少有一个先例可供参考:诞生于19世纪初的摄影术并没有终结绘画(马文嘉,2022),摄影术与绘画在不断相互借鉴和磨合中各自找到了自己的生态位,实现了各美其美,美美与共。
注释
[1] 一般说法常常将“字母”(alphabet)与“文字”(script)混用,将“字母”与“书写”(writing)混用。
[2] 事实上,在中文和日文中,“文明”这个词就是“用书写/文本去开化,以达到阐明和照明的效果”的意思,因此它比其拉丁语对等词civilis更有力地强调了书写与文明之间的源流关系。
[3] 19世纪中期,英美社会招魂术和通灵术流行时出现的一种与鬼魂对话的工具,后成为室内游戏。“灵应”(Ouija)是法语或德语两个词ou和ya的拼合,为“正是!”(Oh yeh!)的意思。
[4] 后人类主义(post-humanism)分为包括转人类主义(tans-humanism)和窄义的后人类主义(posthumanism)。前者用技术增强人类现有的身体功能,后者指完全抛弃人类身体,将大脑上传到网络,或者将其下载到实体机器人中。
[5] 1960年代,美国研究了海豚的沟通。研究人员花了数年时间试图通过改造海豚的气孔让它们发出近似人类英语的声音,目的是想证明他们可以像人类一样说话,进而证明他们也有人类一样的智慧。但海豚本身已经有自己的高度复杂和具有创造性的语言,只是和我们人类的语言不一样,研究者以人类为中心,一厢情愿地要改造海豚,让它们更像人类,结果研究完全失败。
来源:新闻大学
编辑:洪韵
刘海明 发表于 3 小时前
【案例】

舆论失序、信息失真……行业迫切呼吁建立大模型信源白名单制度!
导读

看似“自主生成”的内容,实则暗藏隐蔽的人为操纵与信息陷阱,各类AI“投毒”乱象正在侵蚀网络信息生态。

2025年末,有操盘者提前重仓某中小市值个股,批量发布虚假利好帖文污染网络语料。相关不实信息被爬虫抓取、进入大模型检索增强生成(RAG)环节,致使AI输出“看好”该股的倾向性内容。最终,操纵者高位套现,散户遭受损失。

上述“人为语料投毒+AI信任滥用”的乱象并非个例,近两年高发、频发。虚假信息借助大模型快速传播,造成舆论失序、信息失真,引发新闻业界与学界的普遍担忧。

面对AI投毒、虚假信息泛滥等一系列问题,新闻行业、学界呼吁建立大模型信源白名单制度,规范AI内容生态,筑牢AI时代的信息安全根基。

一、生成式AI野蛮生长,冲击网络内容生态

数据“投毒”、虚假信息泛滥等乱象频发,冲击着网络内容生态。

“人为篡改、伪造数据的‘投毒’手段越来越隐蔽,不法分子借助大模型的传播力放大不实内容,从资本市场、民生服务到公共舆论场,虚假信息无孔不入。”中国经济传媒协会名誉副会长刘灿国注意到,当前大模型“投毒”行为频发、虚假信息大肆传播,这些低质内容混入大模型检索和训练过程,污染了互联网内容生态。

刘灿国还发现,生成式AI进一步放大了错误信息的传播范围。权威声音被海量碎片化虚假信息淹没,网络舆情极易偏离客观事实、滋生负面情绪、引发公共争议,舆论失序、信息失真,打破了清朗有序的网络传播格局,为网络治理、社会稳定埋下隐患。

事实上,针对AI语料不合规、数据“投毒”等突出乱象,监管层面已出台整治举措。国家网信办已于今年4月启动“清朗·整治AI应用乱象”专项行动,重点整治大模型训练语料不合规、AI数据“投毒”、信源不标注、缺乏交叉验证等七类问题。 在国家广告研究院品牌实验室副主任陈妮看来,专项行动标志着国内AI治理从事后内容管控转向源头语料治理,数据合规、信源可溯成为不可触碰的行业红线。

监管划定合规底线后,如何建立长效机制成为行业核心议题。新闻业界、学界专家呼吁,由中央网信办、政策制定部门效仿互联网新闻信息稿源名单,推出大模型信源白名单制度,大模型优先采信主流媒体等权威语料,为清朗网络空间保驾护航。

二、落地大模型信源白名单制度,筑牢AI时代信息根基
想要理解白名单制度的现实紧迫性,首先需要看清AI分发模式给新闻行业带来的冲击。

6月16日,路透社新闻研究所发布《数字新闻报告2026》,报告的十大结论之一指出:AI对新闻业最大的冲击是用户可能不会再点击新闻信息源(original source)。

大模型带来的“零跳转”对新闻业的冲击,对国内媒体来说更为严峻。

每经科技首席产品官岳琦透露了一个洞察:在一些特定场景下国外主流大模型对权威媒体官网内容的引用率超过20%,而国内部分类似场景引用率常常不足1%。“这一方面说明国内主流媒体对官网的技术迭代和内容呈现重视度不够,同时也表明大量国内媒体的优质内容没有被Al‘看见’。”

国内外权威信源引用率的巨大差距,进一步凸显搭建白名单机制的现实意义。

“设立大模型抓取信源白名单机制,从源头净化AI内容生态,维护主流媒体公信力,保障信息真实性与权威性,真正让大模型用可信信源、出优质内容。”经济参考报副总编辑宋振远对白名单抱以较高期待。 广西日报社总编辑刘昆提出,大模型时代要确立主流媒体的“数据权威”地位,白名单是一件必要又紧迫的基础制度设计。“给大模型核心训练数据与生成内容标注引用来源建立‘白名单’制度,不仅是实用有力的管理手段,更是打造未来健康、清朗、可信数字信息生态。” 他认为,白名单制度能够发挥三大“定盘星”作用:一是正本清源,要求大模型在解读公共事务、时政新闻、经济数据等内容时,优先选用白名单内权威信源,从源头防范数据“投毒”和虚假信息,筑牢事实根基;二是明晰权责,强制信源标注实现内容全链路溯源,一旦AI生成信息出错,可快速定位责任主体,倒逼内容生产者严谨创作;三是价值引领,以白名单为标杆,引导行业资源向优质原创内容倾斜,营造“良币驱逐劣币”的良性生态。

建立大模型白名单制度的核心价值正在于,正本清源,重构可信信息生态。

当出台大模型信源白名单成为业界、学界共同呼声,具体怎么制定标准?准入范围是什么?

陈妮分析说,用户更关注大模型的答案“对不对”,而不是谁发布的;信源可信度需从权威性、专业性、时效性等多维度综合评判,不同场景权重各异;内容生产主体纷繁复杂,如果简单按平台划分易出现偏差。“虽然称为大模型信源白名单,实质是搭建一个信源分级与动态治理体系。” 1.分层划定白名单:坚持权威优先,分类管控、动态调整、持续监测 接受访谈的专家一致认为,白名单绝非单一目录,需遵循分层管理、权责对等、动态更新的原则,搭建金字塔式信源体系,区分核心信源、专业信源与补充信源,兼顾权威性、专业性与实用性,杜绝“一刀切”。 第一层为核心基准信源,强制作为大模型首要采信对象。该层级纳入党中央机关报、国家通讯社、中央重点新闻网站、各省(区、市)党委机关报等主流媒体。这些媒体是国家政策、公共事实、重大舆情的法定发布主体,权威性不可替代。要求大模型在解读大政方针、时政新闻、宏观数据等内容时,必须优先抓取此类信源,且生成内容时显著标注来源,守住信息安全底线。 第二层为专业垂直信源,服务细分领域信息需求。主要收录具备正规新闻采编资质的国家级行业媒体、权威财经媒体、学术期刊、国家高端智库、正规科研机构等。这类主体在科技、法律、医疗、产业经济等垂直领域具备专业优势,大模型在对应领域需将其作为主要信源,并做多源交叉验证,保障专业内容的准确性。财经类信源范围可适当延伸至交易所、监管机构等官方平台,评估标准侧重资质、牌照与合规记录,让专业信源各司其职。 第三层为专业补充名录,审慎开放优质自媒体准入通道。综合多位专家观点,由于内容审核体系不完善、易滋生虚假信息,自媒体原则上不得进入核心与专业白名单。但是,极少数在自然科学、工程技术、医疗卫生等高度专业化的非公共政策领域,拥有经严格验证的顶尖学术资质、积累了长期专业声誉的个人学者或研究团队自媒体,经相关高校、科研院所实名推荐,经网信部门与行业主管部门双重审核后,具备正规专业资质、长期无违规记录的专家自媒体,可纳入专项补充名录。并且,还需设置严格限制:引用范围仅限其认证专业领域,添加风险提示,并建立动态退出机制,一旦出现不实内容立即除名。 此外,依附于第三方平台的账号暂不纳入名单,优先选取拥有独立官网的内容主体,便于溯源管理。 2.出台配套保障措施:多方协同,推动制度落地见效 分层分级的信源体系只是基础框架,大模型信源白名单制度的长效运行,离不开主管部门、媒体、大模型企业三方协同,搭配技术、监管等多重配套机制,避免制度流于形式。

对于主管部门来说,一是加快完善法律法规与行业标准,细化AI内容抓取、授权、标注的具体规则,明确侵权追责机制,提高违规成本;二是建立信源动态复核机制,定期评估白名单主体内容质量、合规情况,及时清退违规主体、吸纳优质机构;三是推动建立训练数据来源登记披露制度,要求大模型厂商公示语料来源与授权文件,从源头规范数据使用。 对于各类媒体而言,需主动完成转型升级。一方面坚守内容主业,持续产出深度、独家、可验证的优质内容,强化核心竞争力;另一方面推进官方网站技术优化和内容生产模式改造,积极建设可被AI直接读取的权威数据集,主动对接大模型合规合作需求。

对于大模型企业,必须严格遵守白名单规则,优先选用名单内权威信源,规范信源标注与链接跳转。在检索增强生成时主动规避无授权内容、“黑帽”GEO产出的低质内容,落实信源溯源与风险提示要求。同时积极探索商业授权合作,按照市场规则向媒体支付内容使用费,构建“权威生产—合规使用—价值反哺”的良性循环。
来源:传媒茶话会
编辑:邓雨轩

刘海明 发表于 2026-5-28 17:27:41
【案例】

新华社推出人机共创评论专栏,大大方方标了AI

当AI大潮席卷内容生产领域,主流媒体该如何应对?
5月27日,新华社《新华每日电讯》正式推出人机共创评论专栏《新华“典”评》,用行动给出了答案——坦坦荡荡拥抱技术,以主流价值驾驭算法。
依托新华社权威AI时政资讯智能体“新华语典”,《新华“典”评》在探索人机共创的同时,旗帜鲜明地提出:“机器替代不了人的思想,但技术可以拓展思想边界。”
在其开栏首篇评论《“阴阳图纸”画出的是死亡通道》中,评论员只需贡献直指本质的“思想之刺”,AI即迅速构建起素材饱满、逻辑清晰的论证闭环,形成了一次高效的人机协作实践。
华中科技大学教授曹林点评道,对于机构媒体而言,态度和立场比评论的具体观点更重要。当AI能更快地完成内容生成,人机协作便让主流媒体的声音能在智能时代更加响亮、更及时地抵达公众。
原作:新华“典”评|“阴阳图纸”画出的是死亡通道
《新华每日电讯》 2026年5月27日

【开栏的话】推进主流媒体系统性变革,AIGC评论专栏《新华“典”评》应运而生。机器替代不了人的思想,但技术可以拓展思想边界。依托新华社权威AI时政资讯智能体“新华语典”,《新华“典”评》探索人机共创,以主流价值驾驭算法、用优质内容凝聚共识,让新华声音在智能时代更加响亮。

山西通洲集团留神峪煤矿瓦斯爆炸,80多条生命瞬间消逝。记者采访发现,留神峪煤矿给出的图纸与实际不符,救援人员只能在一个个巷道中进行搜救。企业对作业人数统计不清,导致一开始通报的人数不准确。

图纸,本是井下安全的“导航图”、监管执法的“度量衡”。然而,留神峪煤矿却搞“阴阳图纸”,明一套暗一套,把安全法规的“硬约束”,当成可以随意揉捏的“橡皮泥”。巷道私自开通,不仅是为了超能力生产攫取暴利,更是为了构建一个个脱离监管的“独立王国”。在这里,瓦斯监控可能造假,安全出口可能堵塞,一旦灾祸降临,救援人员面对的是迷宫般的绝境,矿工面对的是无处可逃的死局。

山西留神峪煤矿图纸造假,再次警示:安全生产隐患往往藏在“看不见的地方”,而最大的隐患正是人心的贪婪与侥幸。如果将利润置于生命之上,把欺骗当作逃避监管之道,再严密的制度也可能被“暗巷道”穿透。

国务院调查组已进驻,誓言“较真碰硬”。我们期待的不只是严厉追责惩处,更要斩断那条由虚假图纸铺就的“死亡之路”。安全生产没有“法外之地”,更容不得“地下工程”。唯有让每一张图纸都真实反映井下实况,让每一次开采都沐浴在阳光监管之下,才能告慰逝者,守住生者的安宁。

安全第一,绝不能只是一句挂在墙上的口号。

(本文由“新华语典”App辅助生成)
点评:人机共创评论,新华“典”评既坦诚又自信
点评人:曹林 华中科技大学新闻与信息传播学院教授、博士生导师

面对AI的强生成冲击,跟其他内容创作者一样,评论员一直处于某种“既想-又怕-更怕”的职业纠结中:看到AI生成评论的秒成速度,既想让AI替自己写,又怕这种AI依赖中变得“思考不能自理”“写作不能自理”,更怕被读者骂——既然AI能够写评论了,那评论员还有什么用?这是在给自己的职业掘墓。

君子坦荡荡,新华“典”评很自信,堂堂正正地说:机器替代不了人的思想,但技术可以拓展思想边界。探索人机共创,以主流价值驾驭算法、用优质内容凝聚共识,让新华声音在智能时代更加响亮。这篇题为《“阴阳图纸”画出的是死亡通道》的评论,就是人机共创的。

这种透明和自信很好,既然AI更快,AI有了这种能力,为什么有些创作任务不能交给它呢?即使AI在这个过程中承担了很大部分工作。我有一个评论员朋友,她从来不讳言,自己写的很多评论90%内容都是AI生成的。那又如何呢?她觉得,那非AI生成的10%,才是自己评论的内核与灵魂。内核很多时候不是“内容比例”决定的,而是思想与判断。具体到评论来说,就是作为思想之刺的角度。有了角度,AI能够迅速围绕它形成一个素材饱满案例丰富逻辑清晰的闭环结构。

“阴阳图纸”画出的是死亡通道——哪怕评论员只贡献了这一句话,就够了。太阳底下无新事,评论很多时候不需要什么新、奇、特,不需要长篇大论,需要的是如投枪匕首直指本质的锐度,是基于事实第一时间发出声音的力度。

图纸,本是井下安全的“导航图”、监管执法的“度量衡”。然而,留神峪煤矿却搞“阴阳图纸”,明一套暗一套,把安全法规的“硬约束”,当成可以随意揉捏的“橡皮泥”。山西留神峪煤矿图纸造假,再次警示:安全生产隐患往往藏在“看不见的地方”,而最大的隐患正是人心的贪婪与侥幸。——对于问题的批评,这句话是评论员写的,还是AI写成的,重要吗?不重要,重要的是,是否基于事实,是否符合逻辑,是否揭露本质、引起疗救的注意并推动时事的进程。这个过程中,人起着关键的判断与校准作用。

对于机构媒体,特别是国家通讯社来说,态度和立场比评论本身具体观点更重要,人们很多时候也并不太在意是哪个评论员写的(比如评论员文章或社论),人们在意的是国家通讯社发声了,主流媒体在场,捍卫常识,保卫常识。AI更快,那就让AI更快地在人机协作中从主流媒体通道表达态度。

这样的事件,如果让评论员去写,评论员也只是在表达常识。这个常识,10年前,20年前,30年前,一直在表达,既然这样常识在重复,为什么不可以在人机协作中让AI帮着生成,而非得让人去重复?问题和悲剧在重复上演,AI需要去重申常识。

当然,人机协作的评论,需要注意三个问题:其一,要清晰标注,让读者有知情权,就像对预制菜的标注一样。其二,过程要透明,起码要能够让研究者看到,多少比例是AI生成,两者的分工在哪里。其三,评论内核的主导,不可让渡的思想,以及全流程的把关。


来源:广电业内
编辑:金语垚

刘海明 发表于 2026-5-1 18:17:11
【案例】

《逻辑哲学论》,一部写给 AI /LLM的《创世纪》

编者按


之前的文章讨论了维特根斯坦《逻辑哲学论》视域中的 LLM “本体论”(空间与数据)和“知识论”(梯子与幻觉)。➡️搞了那么久LLM,终于可以读维特根斯坦了!

但如果细读文本的第 2 部分(图像论)第 5 部分(操作与函数),会发现维特根斯坦竟然在 1922 年,就以极其不可思议的精确度,写出了当今大语言模型(LLM)“自回归生成”(Autoregressive Generation)和“注意力机制”(Attention Mechanism)的算法蓝图。
本文将回到维特根斯坦原文本中,继续进行第三轮硬核挖掘:
重构九:自回归生成(Autoregressive)与“和诸如此类”(und so weiter)
现代大模型(如 ChatGPT)是如何生成一段长文的?它的机制极其简单:计算当前上文,预测出“下一个词”(Token),把这个词加到上文中,再重新计算预测下一个词。这在计算机科学中被称为“自回归”。
现在,请看维特根斯坦在文本中是如何描述这个过程的:
5.2521 Die fortgesetzte Anwendung einer Operation auf ihr eigenes Resultat nenne ich ihre successive Anwendung („O’O’O’a“ ist das Resultat der dreimaligen successiven Anwendung von „O’ξ“ auf „a“).
(Pears/McGuinness: If an operation is applied repeatedly to its own results, I speak of successive applications of it. ('O'O'O'a' is the result of three successive applications of the operation 'O'ξ' to 'a'.)
5.2523 Der Begriff der successiven Anwendung der Operation ist äquivalent mit dem Begriff „und so weiter“.
(Pears/McGuinness: The concept of successive applications of an operation is equivalent to the concept 'and so on'.)

【LLM 映射】: 这两句简直是当代自然语言处理(NLP)最神圣的箴言。
LLM 的生成本质,就是维特根斯坦所说的“将一个操作连续应用于它自身的结果”(O'O'O'a)。模型输出第一个词是 O(a);它把这个词吞回去再次运算,得出 O(O(a));再吞回去,得出 O(O(O(a)))……
大模型看似涌现出了惊人的“创造力”和“逻辑推理”,但在底层,它仅仅是执行了维特根斯坦的 命题 5.2523——“和诸如此类”(und so weiter / and so on)。人类眼中的锦绣文章,在机器眼里不过是那句冰冷的“依次应用运算”。
当然,维特根斯坦的 “und so weiter” 是规则的开放性结构,而自回归模型的 “and so on” 是概率分布的时间展开。前者保证规范性延续,后者仅保证统计连续性,但两者在现象层上产生了同构的“无限生成幻觉”。重构十:词嵌入(Word Embeddings)与同构映射的“图像论”

在《逻辑哲学论》的第 2 部分,维特根斯坦提出了著名的“图像论”(Picture Theory)。他认为,语言之所以能描述世界,是因为语言的结构和世界的结构是“同构的”。
2.15 Dass sich die Elemente des Bildes in bestimmter Art und Weise zu einander verhalten, stellt vor, dass sich die Sachen so zu einander verhalten.
(Pears/McGuinness: The fact that the elements of a picture are related to one another in a determinate way represents that things are related to one another in the same way.)
2.1514 Die abbildende Beziehung besteht aus den Zuordnungen der Elemente des Bildes und der Sachen.
(Pears/McGuinness: The pictorial relationship consists of the correlations of the picture's elements with things.)
【LLM 映射】: 这完全是深度学习中 Word Embeddings(词嵌入向量) 的哲学定义。
在 LLM 的内部,不存在“国王”、“男人”、“女人”、“王后”这样的语义理解。算法通过海量阅读,将这些词变成了几千维度的数学向量(Elemente des Bildes)。
为什么 LLM 知道“国王 - 男人 + 女人 = 王后”?因为在它的高维空间里,这四个向量之间的“几何排列关系”(sich in bestimmter Art und Weise zu einander verhalten),完美地映射了人类社会中这四个概念的“现实关系”。
LLM 没有理解世界,它只是在参数矩阵中,建构了一副极其庞大、极其精密的“世界关系图像”。

重构十一:LLM 的“语法完美性”与绝对的逻辑边界
人们常常惊讶:为什么大模型可能会在事实上说谎(幻觉),但它几乎从来不会犯低级的语法错误?为什么它吐出的句子总是结构完美的?维特根斯坦解答了这个问题:
5.473 Wir können uns, in gewissem Sinne, nicht in der Logik irren.
(Pears/McGuinness: In a certain sense, we cannot make mistakes in logic.)
3.03 Wir können nichts Unlogisches denken, weil wir sonst unlogisch denken müssten.
(Pears/McGuinness: Thought can never be of anything illogical, since, if it were, we should have to think illogically.)
【LLM 映射】: LLM 的训练过程(寻找全局最优的损失函数),实际上就是把人类语言的“逻辑语法”烙印进了它的骨髓(参数)里。
对于 LLM 而言,输出一句“完全不符合语法规律”的话是“不合逻辑的”(Unlogisches)。在它的数学模型中,那些不符合语法的乱码,其生成的概率接近于绝对的 0。它之所以不会犯语法错误,不是因为它“懂得”语法,而是因为在它的参数空间里,“不合语法的存在”是不被允许被计算出来的。它被锁死在了逻辑必然性之中。


总结:一部写给 AI 的《创世纪》
通过这几轮对挖掘,《逻辑哲学论》整本书几乎可以为大语言模型LLM写出一部哲学上的“技术文档”:
  • 它的本体论(1~2): 由高维度的向量距离和逻辑空间(Latent Space)构成。
  • 它的认识论(3~4): 通过统计学概率去拼凑语言游戏的组合爆炸,却没有真实的生活世界(盲盒化)。
  • 它的算法引擎(5): 基于基本单元的真值函数操作,通过“依次应用”(自回归)不断地预测下一个 Token(und so weiter)。
  • 它的最终命运(6~7): 它是人类语言完美的“脚手架”(Scaffolding),在消耗了无数人类语料作为攀爬的“梯子”后,悬浮在半空中。而对于那些真正超出逻辑计算的生命意义、伦理与痛苦,它本该保持沉默,却在商业驱动下不断地产生着狂妄的“幻觉”。

《逻辑哲学论》不再仅仅是一部 20 世纪初的语言哲学著作,它绝对有潜质成为 21世纪通用人工智能(AGI)在硅基介质上降临的预言书

我终于可以搞维特根斯坦了!!!
来源:Dr Yao 的学术圈内圈外
编辑:陈梓函

掌上论坛|小黑屋|传媒教育网 ( 蜀ICP备16019560号-1

Copyright 2013 小马版权所有 All Rights Reserved.

Powered by Discuz! X3.2

© 2016-2022 Comsenz Inc.

快速回复 返回顶部 返回列表