作 者
孙茂松：清华大学计算机科学与技术系教授
金兼斌：清华大学新闻与传播学院教授
摘
要
人工智能技术在快速向前推进的同时也给社会结构与日常生活带来巨大影响，激发起关乎人类生存、社会秩序、价值存续、科技伦理等议题的讨论。人工智能带来的深层次社会影响需要予以审慎思考。作为我国人工智能领域的专家，孙茂松教授如何看待跨学科领域合作对人工智能研究的价值?如何解读现阶段人工智能水准与适用边界条件?人工智能技术在内容生产、信息分配、系统建构等领域的应用是否会给社会结构形态、文化景观带来深层效应?兴趣驱动下的人工智能产品研发有何意义?本访谈通过与孙茂松教授的对话，对以上问题予以较为详细的阐释。
关键词
人工智能；中文自然语言处理；适用性质；内容产消；自动诗歌创作
近年来，随着智能算法推荐在购物、内容生产、消费、社交乃至自动驾驶、智能家居等领域应用的深入，人们已经切实感受到人工智能对我们日常生活所带来的巨大影响。现实生活已经高度数据化：一方面，日常生活本身日益依赖于信息传播系统作为中介来组织和展开；另一方面，我们的日常生活又在不知不觉中以数字印记的方式被社会的多层次立体化监测系统进行着准全息式的记录。近年来，大数据和计算能力成为人工智能快速发展的双重引擎，社会化智能信息服务水平的提升，正在给社会的整体形态、行业结构、组织管理方式、权力分配带来深远的影响。在某种意义上，人工智能正在深刻影响社会运作所依赖的基本要素之内涵及其相对重要性，行业、工种、职业以及包括工作和休闲之间的界限在内的各种边界，都面临重新划分或洗牌的可能。以信息内容生产和传播为安身立命之本的新闻传播业，从行业整体结构到依附于其中的个体的命运，近年来所经历的那种不以个人意志为转移的演变和变迁，充其量只是这波正在浩浩荡荡推进的技术与社会双向形塑过程中的一个折射而已。
果如是乎?
“不识庐山真面目，只缘身在此山中。”环顾现实，放眼未来，也许现在我们除了对“人工智终将给我们带来什么”进行展望外，也应该对我们当下所处的阶段有清醒的认知。
2018年最后一期《全球传媒学刊》正是在这样的背景下，选择“人工智能与社会”作为其专题。配合这期专题研究，《全球传媒学刊》执行主编金兼斌教授代表学刊，就社会化智能信息服务的现状和未来，书面访谈了我国人工智能领域的著名专家、清华大学计算机科学与技术系孙茂松教授。
孙茂松
清华大学计算机科学与技术系教授，清华大学人工智能研究院常务副院长，清华大学计算机科学与技术学位评定分委员会主席。2007—2018年任计算机科学与技术系系主任、党委书记。主要研究领域为自然语言处理、互联网智能、机器学习、社会计算和计算教育学。国家重点基础研究发展计划（973计划）项目首席科学家，国家社会科学基金重大项目首席专家。在国际刊物、国际会议、国内核心刊物上发表论文200余篇，Google Scholar论文引用数6800余次。
访谈嘉宾简介
问：金兼斌教授
答：孙茂松教授
问：您是计算机科学家、计算语言学博士，您所领导的实验室名为“自然语言处理与社会人文计算实验室”，您还成功申请到全国哲学社会科学基金重大项目“基于大规模社交媒体的汉语模因传播机理量化研究”。可以说，跨学科是您身上特别明显的气质和特色，您的学生、如今已然成长为国内自然语言处理领域引人注目的新秀的刘知远老师曾评价您是“计算机学者中少有的有着深厚文化底蕴的老师”。我在您的微信朋友圈中，也不时能看到您以古体诗的方式对学术人生进行抒怀和评论，文采斐然。您如何看待您作为计算机科学家身上的这种人文符号和气质?这种人文底蕴是如何影响您在专业领域的研究的?就人工智能研究下一阶段的突破而言，基于不同学科的科学家间的合作，以及兼具人文社科和信息科学乃至生命科学知识背景学者的跨界合作，是否注定将扮演越来越重要的角色?
答：对于“计算机学者中少有的有着深厚文化底蕴的老师”之类的说法，实不敢当。其实，我对文化或者人文的了解只是停留在感兴趣的阶段，远谈不上有什么深度。计算机科学的发展日新月异，新思想、新算法、新技术层出不穷，需要时刻通过学习来不断更新自己，同时研究任务也很繁重，每天应付这些，已然精疲力竭。最近若干年，我用于阅读人文图书的“常规时段”通常有两个：一是如厕时；二是上床睡觉前。还有一个就是坐飞机时坚持不看专业图书，而是浏览一些报纸杂志之类。我的主要精力都集中于计算机主业上，对人文知识的学习与跟进仅此而已。
从根本上说，计算机科学同数学之间的关系最为密切，计算机科学的大师级人物多是数学出身，数学造诣都很精深。计算机科学与人文科学在学理上并没有太直接的关系（当然也不能一概而论，如世界级语言学大师乔姆斯基提出“乔姆斯基形式文法体系”以及与上下文无关文法相关的“乔姆斯基范式”，就对计算机科学产生了深远影响）。从这个角度来看，“人文底蕴”对计算机科学整体上貌似帮助不大。
随着人工智能的蓬勃发展，上述情形正在发生一些变化。变化主要反映在两个层次上，一个是人工智能原创理论层次，需要具有顶级数学功底的计算机科学家同神经和认知顶级科学家通力合作，以期对计算机科学领域产生变革性的影响；另一个是人工智能应用层次，也就是所谓的“人工智能+X”，需要计算机领域的优秀学者同其他学科领域的优秀学者通力合作，以期对其他学科领域产生变革性的影响。这两种跨界合作将注定扮演越来越重要的角色。
我从小就对人文，尤其是中国古代文化和历史感兴趣。这一点对我在三十年前选择自然语言处理这个专业方向上确实发挥了至关重要的作用，也是我这些年来比较喜欢从事与人文乃至社会科学大跨度交叉研究的源泉所在。
问：您担任首席科学家的973项目“面向三元空间的互联网中文信息处理理论与方法”中，把人类认知空间、网络空间和现实世界空间一起统称为“三元空间”，这背后的逻辑是什么?这个雄心勃勃的973项目希望在融合“三元空间”的海量知识获取与组织、大规模中文深度分析与内容理解方面有所突破，目前取得了哪些重要进展?这些进展对于我国在中文信息处理领域的发展及社会化智能信息服务的提升方面有什么重要意义?
答：实际上，“三元空间”是973指南里的要求，对其内涵存在着若干种解读可能性。我在申请项目时，针对语言信息处理的特点，把“三元空间”定义为网络空间、现实世界和人类认知。以人类语言为纽带，把如上定义的“三元空间”联系到一起，其背后的逻辑是不言而喻的。
经过5年的不懈努力，这个项目取得了显著进展，完全实现了预期目标。简而言之，其标志性成果有三：一是提出了融合大规模知识的中文语义表示学习方法体系，努力将中文各个语言层次，即字、词、词义、语、句等形式化地表示在一个统一的计算框架中；二是提出了语义驱动的中文语义依存分析算法，将中文在这方面的自动分析能力提升到了与英文相当的水平；三是建立了世界上规模最大的中文语言知识资源和中文知识图谱。这些进展对于我国在中文信息处理研究领域的发展以及社会化智能信息服务的提升方面，起到了积极的推动作用。
（图片来自网络）
问：《未来简史》的作者尤瓦尔·赫拉利（Yuval Noah Harari）认为，工业时代普通民众因为担纲社会的主要劳动力和战时兵力，“无论哪种政体的国家，都极为重视国民的健康、教育和福利，因为它们需要几百万健康的劳动者在生产线工作，需要几百万忠诚的士兵在战壕里作战”，因此，20世纪有一大部分时间是在缩小阶级、种族和性别之间的不平等。但人工智能的兴起可能会让大多数人不再拥有经济价值和政治力量。同时，生物技术的进步则可能将经济上的不平等转化为生物体上的不平等，即富人和知识精英具有更多机会强化自己的生物机能乃至脑力和智慧，马太效应成为一种社会自然演变之后的主导机制。他由此预言，21世纪的人类社会可能会是人类历史上最不平等的社会，人类整体出现生物种姓并非不可能。您如何看待人工智能和生物技术发展对人类社会结构形态带来的长远影响?
答：对上述观点，如“人工智能的兴起可能会让大多数人不再拥有经济价值和政治力量”，“21世纪的人类社会可能会是人类历史上最不平等的社会”等，我完全没有研究，很难做出评论。我个人认为，互联网时代具有双重性，双面重要作用都不容小觑：一是使得世界日益成为平的；二是马太效应确实在不断增强，这又使得差异日益扩大。我们有必要对这一深刻的矛盾予以足够关切。
总体来看，人工智能技术还处于初级发展阶段。目前这一代人工智能技术是以借重于大数据的深度学习算法为核心的，在围棋、图像识别、语音识别、机器翻译等人工智能经典任务上确实表现出了异乎以往的能力，催生了如雨后春笋般勃兴的人工智能创新企业，但是，其适用范围实际上存在着严重局限。它的现有能力被大大高估了，领域内的专家反倒比较谨慎。那么，人工智能对人类社会结构形态会带来怎样的变化呢?由于目前这一代人工智能技术的“本事”还十分有限，所以其短期影响虽然十分明显，会给人以“横扫千军如卷席”之感，但总体上看其影响应该还是局部性的，而不是全局性的。至于其长远影响，现在还说不准，取决于人工智能理论和方法是否有新的实质性突破。这种突破的可能性，现在看来尚属可望而不可及。
问：自动驾驶一度成为近年来令人瞩目的热点，不少公众对之充满期待。鉴于驾驶任务本身对行动者和环境互动的极高要求，自动驾驶一直被看作是衡量人工智能发展水平的重要标尺之一。国内外尖端技术公司如百度和Google都在大力研发自动驾驶。不少公司甚至把2019年作为全自动驾驶汽车投入运营的关键年。但最近，自动驾驶领头羊Waymo掌门人John Krafcik承认，自动驾驶汽车在路上普及还要几十年；苹果联合创始人Steve Wozniak也认为，自动驾驶汽车不可能在不久的将来实现。这其中的一个原因是，自动驾驶的场景太多元太复杂，算法达不到要求，即自动驾驶技术还没有达到在任何天气和任何条件下都能驾驶的最高等级L5。您如何看待诸如自动驾驶这样将深刻影响人们生活方式的智能技术和产品的发展前景?在自动驾驶情景下，我们将根据什么原则来认定可能发生的交通事故的责任主体?
答：近年来，我在几个公开学术报告中都提及过，完全意义的自动驾驶无法在不远的将来实现。根本原因在于当前这一代人工智能技术的“本事”还十分有限。正如清华大学人工智能研究院院长张钹院士很早前敏锐指出的那样：它（人工智能）能做得比人好的任务场景，必须满足一些重要的性质（为了下文表述方便，不妨称之为“目前人工智能技术的若干适用性质”），如：任务的边界是确定的；任务的解空间是有限的、可预期的（即使空间无比巨大）；执行任务的规则是明确的；任务执行过程中的信息是完全的；对任务结果的最终得失评估也是可精确量化的。其中任意一条不满足，现有的人工智能技术就会遭遇很大的困扰。充足的大数据可以在相当程度上克服这些困扰，但其性能会大打折扣，通常不可能做得比人好（但在某些应用场景下，做得比人的平均水平好并不困难）。围棋满足上述所有性质，所以人工智能的性能超越了人类棋手。自动驾驶基本上都不满足上述性质，并且属于所谓的“生死攸关”任务，几乎不容许犯任何错误（人类对机器性能的可靠性要求往往比对人的要求更为严苛），这是当前人工智能技术的“阿喀琉斯之踵”，所以我才有如上判断。当然这并不否定自动驾驶在特定受限场景中仍然会有广泛应用的前景。
需要特别强调的一点是，作为人工智能的基本前沿课题之一，对自动驾驶的基础性研究需要进一步强化和深化。什么时候才可能有完全意义的自动驾驶?还是前面那句话，取决于人工智能理论和方法是否有新的实质性突破。对自动驾驶各种关键问题的深入探索将成为下一代人工智能理论和方法发展的一个重要推动力和试金石。
问：关于智能内容生产。在新闻传播领域，人工智能的发展正在深刻改变这个以生产新闻和各种内容为主的行业的生态。在诸如气象、环保、体育、财经等领域的报道中，机器新闻写作，至少是机器辅助写作（robot-aided writing），已然在世界各大通讯社的新闻生产和各种商业机构的公关写作中得以试水和推行。在刚刚结束的乌镇世界互联网大会上，毕业自贵系的搜狗公司CEO王小川与新华社副社长刘思扬联合携“一位”人工智能合成主播惊艳亮相，引发广泛关注。您如何看待人工智能对写作、创作、表演这些传统意义上人类所独有行为和能力所带来的影响?如何看待人工智能将对创意产业和内容生产行业可能带来的深远影响?一个国家的社会文化景观将因此发生怎样的变化?
答：受囿于我前面所说的当前人工智能技术的局限性（“目前人工智能技术的若干适用性质”），人工智能在新闻传播领域的应用范围和程度一定是局部的、有限的，不会导致全局性质变。机器自动新闻写作只是在由数据表格生成文本这个受限任务中取得了不错的效果。但要像高水平的记者一样写出有深度的新闻及评介，在可预见的将来，机器还做不到（借助机器辅助写作是另外一回事）。人工智能播音这一任务比自动写作简单得多，但要超越人类顶尖主播，也不太可能。
不过，人工智能辅助写作、创作、表演，辅助创意产业和内容生产，以一种人机协同的方式大幅提高工作效率和质量，是完全具备现实性的，会给相关行业（尤其是中低端行业）带来广泛影响。
问：关于算法与用户内容消费。近年来，借助于大数据和云计算的不断改进升级，各种内容算法推荐——主要是基于用户过往消费行为和基于用户社交关系网中其他人的消费偏好进行的内容和商品推荐——席卷各种内容、购物和社交平台。基于用户行为、场景特点、社交圈结构的算法推荐一方面因其精准传播（precision messaging），实现对用户需求和偏好的深刻洞察而备受平台、商家和用户青睐，但另一方面，算法推荐所导致的“茧房”（information cocoons）效应，又容易让人们耽于既有审美、关注点、品位乃至视野之囿而不自知，不仅心智成长和审美拓展会受到影响，更容易造成同辈抱团、对他群声音充耳不闻的“回音壁效应”（echo chamber effect），甚至会加剧社会民众的阶层分化并导致社会撕裂。作为一名人工智能领域前沿专家，您认为智能算法推荐是否会对普通民众信息、内容消费方式带来深层次、结构性影响?这种影响主要表现在哪些方面?
答：内容算法推荐并不完全满足“目前人工智能技术的若干适用性质”，但由于此类平台天然拥有大数据（特别是用户行为数据），也不属于“生死攸关”的任务，所以比较适合人工智能，能够实现用户还算满意的个性化推荐效果，这一点不足为奇（何况人去做这件事也不是很有理据的，带有很强的主观性）；通过进一步改进算法增加推荐的多样性，有效应对“茧房效应”和“回音壁效应”，也是可以预期的。
人们对智能算法推荐表现出足够关切是完全必要的，也是完全可以理解的。例如，平台出于自身利益的考量，算法推荐可能会出现广泛性偏误，或者过度推荐。所发生的这些现象，有些是目前智能推荐算法一时难以克服的深刻困难（涉及语义理解这一难点）所致，有些则是可能是有意为之。
马歇尔·麦克卢汉
（图片来自网络）
问：让我们来展望一下社会计算的极限问题。您是否同意这样的看法，即人工智能的上限本质上取决于社会计算的计算能力?无论是情感还是价值判断，无论是艺术创意还是审美趣味，无论是解释还是推理，一切人之为人的特质，是否最终都能够被“计算能力”一一解析并复盘?在前不久的一次采访中，您提到目前人工智能总体上依旧处于无理解的人工智能阶段，下一个挑战是有理解能力的人工智能，要想实现“有理解力”还很难。在无理解的人工智能和有理解的人工智能之间，在计算的此岸和生命的彼岸之间，注定是深不见底无可逾越的鸿沟——如0和1之间的差别——还是其实最终有什么桥梁可以跨越和架接，也即借助于不断累积的计算能力和模型改进，以及实时数据采集反馈系统的改进，在物质和意识之间终究可以曲径通幽，加以打通?
答：我第一次听到“人工智能的上限本质上取决于社会计算的计算能力”这个表述，不很清楚其含义，难以评论。是的，现在看到的人工智能所取得的成功，大都属于无理解的人工智能。此类算法本质上都是针对某一特定任务，从相关大数据中学习一个高度复杂的非线性函数，而这个函数可以看作是一个“黑箱”，缺乏可解释性。接下来的重大挑战是解决有理解的人工智能问题，让机器具有同人一样的感知和认知能力、推理能力、判断和决策能力。无理解的人工智能和有理解的人工智能两者之间存在本质上的深刻差异，因而跨越起来极其困难。再强大的计算能力也解决不了这个问题，反之，我们需要人工智能算法在思想和理论上的深刻创新，其中的关键桥梁之一就是人类语言理解。语言是人类区别于动物的唯一标志。机器对语言不能理解，很难说有比较高级的智能。而语言理解的边界是完全开放的，所以非常具有挑战性。机器要在物质和意识、思维之间自由地腾挪辗转，必须首先打通语言理解这一关，否则根本谈不上“曲径通幽”。
问：预言了地球村的媒介学者马歇尔·麦克卢汉（Marshall McLuhan）曾经形象地把媒介称为“人的延伸”。事实上，随着生物技术特别是脑科学领域的研究突破，从智能芯片的人体植入到未来人机不同比例的混搭，麦克卢汉所谓的“媒介是人的延伸”的论述将很有可能从比喻演变为现实。您如何看待人工智能技术对人体先赋能力的后天补强?这种嫁接了人工智能的“超自然”人类改良技术的出现和应用，会带来怎样的社会和伦理后果?就像爱因斯坦作为质能方程的提出者为原子核聚变反应奠定理论基础，却为核武器的出现而感到惴惴不安一样，您觉得如今人工智能领域的科学突破，是否也应该对技术的社会伦理后果有更多的自觉?
答：我基本赞成“媒介是人的延伸”这个说法。其实飞机、轮船等就是人的体力延伸，人工智能则是人的智力延伸，两者的目的都是为了帮助人，也就是你在提问中所说的对人体先赋能力不足的后天补强。单纯使用目前的人工智能技术应该还不致带来严重的社会和伦理后果，不必过于不安——那将是下一代人工智能必须关切的，且无法回避的问题。然而，人机混搭的智能正在日益朝现实迈进，在发展过程中无疑会产生以前没有遇到过的社会和伦理问题，必须加强相关研究，特别是对什么是禁区要做到心中有数，进而达到趋利避害。
问：基特勒（Fredirch Kittler）认为，数字媒介的硬件和软件都具有隐蔽性。在软件的遮蔽下，用户看不到自己受到了硬件的限制；而软件虽然使得用户可以与计算机进行互动交流，但用户却常常感觉不到其背后的结构和逻辑乃至所内嵌的价值观偏向对自己行为和世界观造成的潜移默化的规制、影响和形塑。这也正是劳伦斯·莱斯格（Lawrence Lessig）在其著名的《代码》（Code）一书中所表达的担忧。您如何看待代码所构建的“系统”——这双“看不见的手”对用户和民众的控制能力乃至权力主导?更有甚者，当基于代码的系统具备了深度学习的能力，结合海量的动态语料和分布式计算的迭代升级，我们现在衣食住行日益依赖的不少系统，是否最终会成为具有一定自在性和自主性的行为和责任主体，或至少是和平台拥有方、开发者并置的责任主体?
答：实际上，现代社会经济生活中存在着形形色色的“看不见的手”，我们或多或少地受到其操纵而不能自拔。代码所构建的“系统”借重于算法和大数据的强大力量也具有这一特点，这本身没有什么可奇怪的。需要关切的是，我们应对此类控制力乃至权力主导保持足够的警惕，不能在无意识中一味地被“系统”背后的小团体利益所裹挟。
问：最后还是回到您和您团队的研究，来聊聊“诗和远方”。您的实验室开发机器诗人“九歌”，与您平时爱吟诗作词不无关联吧?2017年，“九歌”亮相央视《机智过人》节目，按照比赛规则接受图灵测试，九歌以一首“机心造化本无私，智略工夫巧笑时。过客不须频眺处，人间天上有新诗”顺利通过图灵测试，展现了很高程度的“智能”水平?您怎么看待和评价九歌真实的智能水平?您曾经说过“计算机作诗在科学研究上很有意义”，为什么?
答：必须澄清一点：以一首诗的结果，绝对不能说“九歌”
（https：//jiuge.thunlp.cn）通过了图灵测试。必须通过大量的实际测试，才敢在古诗创作是否通过图灵测试这一点上给出结论，现在还远不敢说。我感觉，当下“九歌”的真实智能水平只能达到古诗爱好者人群（包括诗人）内的中上水平。自动作诗这个任务在好几项上都不满足“目前人工智能技术的若干适用性质”（例如，对自动作诗结果优劣的评价见仁见智，并不存在绝对标准），因此是非常困难的问题，其本质上不可能超越顶尖诗人。正因为其困难，所以与之相关的研究对探索下一代人工智能很有意义。
我领导的实验室研发机器诗人“九歌”，与我以及主创人员之一，也是我的学生矣晓沅喜欢古典诗词不无关联。我们的初心是探索人工智能在自由式文本生成这一类问题（而不是由数据表格生成新闻文本的那类问题）上的算法解决方案。同围棋类似，古典诗歌的开拓空间也是非常广袤的，古人只是创作出了其中微乎其微的一小部分，绝大部分空间还有待于我们去发现。怎样去发现呢?我们希望利用人工智能算法，基于已知的古人诗歌创作对浩瀚的未知空间进行合理的推衍，期待能达到的效果是利用机器把古人尚未来得及写出的诗“挖掘”出来，大底上就是陆游所说的“文章本天成，妙手偶得之”的意思。此外，古诗创作带有强烈的传统文化色彩，容易引起公众的关注，进而会给予我们的研究以某种无形压力，鞭策我们不断地改进算法、提升性能。这也是我们选择以这个问题作为算法攻关任务的原因之一。当然，自动作诗只是我领导的实验室中众多人工智能研究方向的一支。
“原文刊载于《全球传媒学刊》2018年第4期。
编辑：冉玲琳
发表于 2019-1-8 19:59:56
QQ好友和群
QQ空间
腾讯微博
腾讯朋友
收藏
支持
反对