人工智能与新闻业案例集锦

刘海明

【案例】

​加速融合发展，看看 “澎湃经验”

融合发展，澎湃新闻领风气之先整体转型。通过建立交流分享机制、引入年轻“海归”，帮助“老报人”摆脱“路径惯性”，拥抱新技术、新手段；通过技术应用化、操作集群化、形式互动化、内容产品化，生产出高质量的内容，并实现更快更广更好的传播。

加速融合发展，看看“澎湃经验”

李云芳  黄  杨

澎湃新闻诞生于媒体融合发展的风口，领风气之先，率先整体转型，并着眼技术、内容等进行探索、开拓和创新，不断将融合发展推向纵深。

1

     

“互联网+资深报人”

澎湃新闻从传统纸媒转型而来，团队中有不少“资深报人”，且都是骨干力量，他们是内容生产方面的宝贵财富。但在融合发展之路上，他们需要在形式和手段方面进行思维转型，努力掌握“新”本领。

澎湃新闻双管齐下。一方面，引入许多有海外留学经历的人才，以此将新视野、新想法、新技术、新手段直接带入澎湃新闻。近年来招聘的人员中，有一半拥有境外或海外留学经历；另一方面，建立了一套交流机制，不定期邀请经常接触国际媒体和国内技术派资讯平台的人员来分析行业动态和分享最新经验，邀请视觉、设计、产品、数据等人员，推进学习交流、经验分享机制化。  

此外，在操作一些重大项目前，项目组的第一项工作就是搜集和研究国内外媒体在同类题材上有哪些先进做法可以借鉴、有怎样的教训需要吸取。

为鼓励员工探索尝试融合创新，澎湃新闻在年度新闻奖项中，专门设立了“年度产品”“年度交互&数据”等具有鲜明融合特色的奖项。

为便于不同类型部门的人员交流，在办公条件比较紧张的情况下，特别辟出12层一整层楼，打造“澎友圈”空间，鼓励员工跨越楼层和部门的壁垒，在自由而轻松的氛围里碰撞出融合创新的火花。

秉承“四化”方针

新闻实务方面，澎湃新闻一直秉承“四化”方针——技术应用化、操作集群化、内容产品化、形式互动化，以保证生产出既有高品质又有传播力的好内容、好产品，不断开拓融合发展的创新之路。

技术应用化

澎湃新闻视觉中心储备了一批具有较强制作能力的专业人员，包括前端工程师、UI设计师、动画设计师、漫画师、平画设计师、3D设计师等，这些人既能及时掌握先进的技术手段，还能将之尽快应用到实际工作中。

VR新闻代表了一种先进技术的潮流趋势，澎湃新闻一直在努力将这项技术应用到具体新闻报道中。澎湃新闻设有专发VR产品的《全景现场》栏目，专题报道时拍摄VR全景视频已成标配。产品《海拔四千米之上》，70%都是VR视频，包括定点VR和漫游VR，这些场景均拍摄自三江源国家公园的核心地点，每个场景之间逻辑上互相关联。

卫星图的运用已不是一件新鲜事。今年4月的凉山木里森林大火中，由于火灾现场地处深山密林，且余火未灭或存在复燃可能，现场被封锁。编辑通过卫星地图找到准确的起火点和邻近村落，借助卫星地图本身的3D功能，还原出了现场立体模型。

插画、连环画这门传统手艺，也在融合创新的新媒体产品中焕发了青春。获得第28届中国新闻奖融媒界面项目一等奖的H5产品《长幅互动连环画｜天渠：遵义老村支书黄大发36年引水修渠记》，采用下拉式长幅连环画、渐进式动画、360度全景照片、图集、音频、视频、交互式体验等表现形式，让这个已经被多次报道的人物和故事，被生动地还原进而获得了更为广泛的传播。

目前，澎湃新闻正与相关运营商沟通对接，希望打造一个5G智能媒体应用实验室，并尝试VR直播。

操作集群化

机构媒体的一大优势就是“可以集中力量办大事”，碰到重大议题时，能够在人员组织、设备保障和时间周期方面给予足够保障。

如三江源国家公园报道项目，澎湃新闻从2018年2月就开始筹划方案，累计约40人参与该项目，到一线参加采拍的就有25人，之后又花了一个月时间进行后期制作，最终呈现在读者面前的，包括3篇深度文字报道、4部微纪录片和4场大型直播。

2019年春节，澎湃新闻策划了多个产品。最有创意、最有分量的当属“Z112列车上的中国”。列车由海南海口发往黑龙江哈尔滨，是春运里程最长的列车之一。澎湃新闻派出12人全程跟踪，记录和拍摄了06车厢内97位乘客的心声和故事。该策划前后方超40人参与，累计发布大小作品100余个，包括文字报道、视频、直播、H5产品、数据报道等，同时还辅之以“问吧”等形式进行了互动。

形式互动化

澎湃新闻在设计融合项目时力求互动，既能让用户感兴趣并参与其中，还可以借助用户提供的内容再生产作品，形成互动共生。

2018年汶川大地震十周年之际，推出产品《互动H5｜征集“我的汶川记忆”：十年前地震时你在哪里？》，征集读者与那场大地震的故事，借此构建汶川地震的集体记忆；《大江奔流·征集︱我的长江故事》，征集读者与长江的故事，充满趣味性和人情味儿，读者踊跃参与。

有的互动作品是征集影像。“家国协奏曲”通过设计开放的平台，吸引用户上传照片，平台自动生成专属的微纪录片，并在澎湃新闻的瀑布信息流中予以展示，通过个体变化来折射家国变迁，既强化了与用户的沟通，也让澎湃新闻生产出更多接地气、应时令的内容。

澎湃新闻也经常借助游戏这种最具参与性的形式，来配合并突出报道主题。在2019年春运报道中，配合“摩托车千里返乡大军”直播，设计制作小游戏《摩托大军千里返乡，澎湃互动体验式H5“暖途”为骑行者助力》，参与者可体会和共情骑摩托返乡者遭遇的一系列困难和归家的急切心情。

澎湃新闻还推出了一系列偏重社交属性的互动产品。今年4月23日“世界读书日”当天，推出《灵魂书签》互动产品，通过让用户勾连经典美术作品、音乐片段与经典文学作品中的语句，给用户生成一个性格画像，供朋友圈转发的同时，还会推荐一本相关联的书籍供阅读。

改革开放40周年之际，澎湃新闻推出产品《你说起话来，有多穿越》，从1978年第一版以来数个版本的《现代汉语词典》中，摘选出过去40年里的一些特殊词语，让用户选择正确解释，通过回答情况来描摹出用户的“能力画像”。这些互动产品，既展现了澎湃新闻的深厚文化底蕴，也起到了让用户在互动娱乐中关注特定时令、增长知识的作用。

内容产品化

日常新闻报道中，澎湃新闻一般在前期滚动生产各种满足读者信息需求的“短平快”文字报道、视频短讯，到后期则制作推出主题明确的系统性产品，便于读者了解事件全貌。  

比如，就导致逾250人死亡的斯里兰卡“4·21”连环爆炸，澎湃新闻制作了《亲历者的生死瞬间——斯里兰卡爆炸地图》。该产品通过收集整理多名亲历者及遇难者家属的故事，还原斯里兰卡爆炸的惊心一刻；在埃航空难报道中，澎湃新闻记者通过公开渠道或相关报道，尽可能收集遇难者基本信息，包括照片、身份、姓名、年龄、家庭以及乘机事由等，在“头七”那天，制作发布了一份全面的遇难者名单，因为信息全面，传播甚广，许多读者评价该作品是对那些曾经鲜活的生命的致敬。

凉山木里森林大火报道中，澎湃新闻做了两个产品：《凉山蹈火英雄生前事｜30个生命定格了，30段记忆将长存》是一个长图，30名遇难者每人摘选一位家属、战友等的介绍，记录他们的“生前事”；《H5丨他们平均年龄25.5岁》，集成澎湃新闻前期对30位遇难者的视频报道，悼念逝去的年轻生命，引人泪目。

除紧跟重大新闻设计制作产品外，澎湃新闻平时也会设计不少有深度、有格调的产品。

如去年7月份发布的《H5｜69年风雨录：台风来去之间，哪些地方最受伤？》，设计人员通过动画、柱状图、分类表等方式，可视化地展现了台风对我国侵袭破坏之多之大的情况，还根据“受伤”程度对台风影响省份进行了排名。

由于技术的多样性和储备的性价比问题，澎湃也会引入外部力量参与，如《我们的街道和街道上的我们》，就是由澎湃新闻的开发人员和外部力量合作完成。

在融合发展、创新生产之路上，无论是整合内部资源还是借助外部力量，只要有利于生产出高品质的内容、有利于让信息更快更广更好地传播，澎湃新闻就会积极尝试，并一以贯之地将创新进行到底。

原文链接：https://mp.weixin.qq.com/s/1CdKVfKctGx0u7V02QruwQ

编辑：陈茗

刘海明

【案例】

《美国人工智能未来20年研究路线图》

2019年5月14日，美国计算联盟和人工智能促进协会发布《美国人工智能未来20年研究路线图》（草案），共117页，预计7月份发布正式版，通过本路线图，可以全面了解人工智能技术发展，掌握美国人工智能面临的挑战，把握美国人工智能重点研究方向，以及举措。

相关背景

几十年来，人工智能取得重大进展，在工业、政府和社会等各方面发挥重要作用。人工智能系统现在可以跨语言翻译，识别图像和视频中的对象，简化制造过程，实现汽车自动驾驶等。

人工智能创造出一个万亿美元产业，预计在三年内将翻两番，与此同时，人工智能系统的公平、可解释、可信和安全性的必要性变得越来越重要。

人工智能系统将推动社会和经济产生巨大变革。同时，人们对系统的安全性和脆弱性以及在这样世界中的工作前景产生诸多担忧。亚洲和欧洲众多国家意识到人工智能将是未来几十年的战略和经济驱动力，并开展数十亿美元投资。如若目标明确、举措得力，再加上投资，美国将可以继续成为人工智能领域的领导者，最大限度地发挥人工智能对美国经济和社会的积极影响。

研究主题

这些都给人工智能研究带来挑战，需要在大量持续投资下对人工智能研究进行彻底变革。

该路线图围绕三个研究主题:

• 集成智能，包括模块化技能和能力原则组合的基础，适合特定用途的通用能力，以及机器可理解的知识的开放共享存储库的创建和使用。
• 协同互动，包括支持生产性协作的技术和技巧、多样的沟通方式、负责任和值得信赖的行为，以及人类和人工智能系统之间富有成效的在线和现实世界互动。
• 自我意识学习，包括稳健可信的学习、从少量例子中学习并通过指导、从数据和观察中研发因果和可控模型，以及实时感知和行为。
  
  

主要挑战

路线图确定了新一代人工智能所面临的诸多挑战。首先，该领域已经超越了最初对算法和理论的学术关注，进入到一个持续数据收集、社交和互动实验以及不断变化世界的大量知识的环境。在这些基础上，信息技术产业汇集并利用大量专有资源（数据集、知识图表、专用计算机和大批人工智能工程师）来推动创新。

新一代人工智能需要整合资源、算法和理论。没有合适的资源，人工智能学术研究作用有限；没有对基本问题的回答，工业人工智能应用程序就没有任何基础。制约因素、激励措施和时间表也大不相同，各行业主要由实用的短期解决方案驱动，而学术界则关注长期问题。

此外，今天的人工智能不断跨学科发展，已覆盖到计算机科学和计算机工程，以及认知科学、心理学、生物学、数学、公共政策、伦理、教育和通信等领域。推动下一代人工智能发展需要高度跨学科团队之间的持续合作，将这些领域的重要思想、观点和技术引入人工智能研究范围。人才是当前人工智能中一个关键问题:对人工智能专业知识的需求远远超过供给，差距只会继续扩大。

更严峻的是，美国很多人工智能博士毕业生在国外找到了有吸引力的工作；此外，许多人工智能教师已经转向工业。虽然这为理论和实践的有效交叉提供了新的机会，但也影响了下一代人工智能实践者的培训。要克服这些挑战，需要对人工智能研究进行彻底改革，创建一个全面的国家人工智能基础设施，并大力开展人工智能人员培训。

措施建议

提出以下政策、组织和战略方面建议:

一、强化国家人工智能基础设施建设

——开放人工智能平台和资源:大量互联的分布式“人工智能”资源集合(高质量数据集、软件库、知识库、仪器、机器人环境、云计算服务等)。)由学术团体以及工业和政府提供。公司最近的重大创新表明，人工智能的突破需要大规模的硬件投资和开源软件基础设施，这两者都需要持续的大量投资。

——人工智能多方协作的挑战:建立在开放人工智能平台和设施中的共享资源之上的组织架构，来协调人工智能和领域专家提出的重大挑战问题，推动关键领域的研究。

——国家人工智能研究中心:物理和虚拟设施，将来自一系列学术机构的教职员工和来自行业和政府的员工聚集在一起，参与人工智能长期研究。

——任务驱动的人工智能实验室:提供持续基础设施、设施和人力资源以支持开放人工智能平台和人工智能实验室，并与国家人工智能研究中心密切合作，整合研究成果，以应对各部门(如卫生、教育、政策、道德和科学)关键人工智能挑战。

二、重构全方位人工智能人才培养体系

——制定各级别人工智能课程:为鼓励早期和持续对人工智能感兴趣和理解的课程制定指导方针，从中小学开始，延伸到研究生课程和专业课程。

——高级人工智能学位:包括授予有才能的学生获得高级研究生学位补助金、博士级研究人员保留计划以及支持和授予人工智能教师额外资源。

——让小众和弱势群体参与进来:将最佳人才纳入人工智能研究工作的方案。

——激励新兴跨学科人工智能领域:鼓励学生和研究团体从事跨学科人工智能研究，例如，人工智能相关政策法律、人工智能安全工程以及人工智能对社会影响分析等。

——培训高技能人工智能工程师和技术人员，支持和构建开放人工智能平台，通过学院、劳动力再培训计划、认证计划和在线学位来培养发展人工智能人才。

三、开展人工智能核心技术研究

这些新的资源和倡议不能以现有的理论和应用人工智能资助项目为代价。这些核心项目，为推动研究突破、培养年轻研究人员、整合人工智能研究和教育以及形成新的跨学科合作，提供了成熟、基础广泛支持，是对本路线图中描述更广泛倡议的重要补充，它们也将需要更多的支持。

所有这些都需要在本路线图涵盖的20年期间进行大量、持续的联邦投资，结果将是革命性的。共享基础设施、精心设计的交互和协作架构以及专业人才发展将使美国在人工智能领域继续领先世界。

上述建议不仅仅是跨学科、前瞻性研究路线图的框架，它将推动科学和经济进步，兼顾安全、脆弱性、政策和道德等问题。该路线图中的建议还将使我们能够吸引和留住顶尖人才，在这一关键技术领域培养更多人才，这是对社会和经济的另一个重大推动。

1引言 1.1参考文件 1.2什么是人工智能？ 1.3人工智能路线图流程 2未来人工智能研究主要意义 2.1提高医疗保健和生活质量 2.2终身教育和培训 2.3重塑业务创新和竞争力 2.4加快科学发现和技术创新 2.5社会正义和政策 2.6实现国防和安全转型 3人工智能研究路线图核心技术领域概述 3.1研讨会一:集成智能研究路线图 3.1.1简介和概述 3.1.2集成智能的社会驱动因素 3.1.3集成智能科学 3.1.4情境化人工智能 3.1.5开放知识库 3.1.6理解人类智能 3.2研讨会二:协同互动的研究路线图 3.2.1简介和概述 3.2.2与人工智能系统协同互动的社会驱动因素 3.2.3与人工智能系统协同互动的技术挑战 3.2.4结论 3.3研讨会三:自我意识学习的研究路线图 3.3.1简介和概述 3.3.2表达性、强健性和持久性学习的社会驱动因素 3.3.3自我意识学习的技术挑战 4主要发现 5建议 5.1强化国家人工智能基础设施建设 5.1.1开放人工智能平台和资源 5.1.2持续的人工智能挑战 5.1.3国家人工智能研究中心 5.1.4任务驱动的人工智能实验室 5.2重新构思和培训全方位的人才 5.2.1制定各级人工智能课程 5.2.2高级人工智能学位和保留计划 5.2.3让代表不足和弱势群体参与进来 5.2.4激励新兴跨学科人工智能领域 5.2.5培训高技能人工智能工程师和技术员 5.3人工智能研究的核心计划 6结论 7附录 7.1参与者 7.2其他贡献者

原文链接：https://mp.weixin.qq.com/s/fo7I1tf4DMP5XWwXHGS6kw

编辑：董莉

刘海明

【案例】

王健宗：数据隐私保护新曙光——联邦学习的机遇，挑战与未来

文章导读

此报告从数据隐私保护的变革出发，探讨人工智能时代数据使用面临的新规则和新挑战，分析数据隐私安全保护问题，提出数据安全多方机器学习的解决方案——联邦学习，聚焦其概念、分类、研究现状和可应用领域，总结了当前国内知名企业对于联邦学习的研究进展，分析联邦学习的未来发展趋势，为联邦学习在各行业研究发展提供参考。

一数据隐私保护的新规则

随着信息时代算力的不断增加，人工智能的广泛应用，人类进入了第四次工业革命——智能革命。随着信息技术的快速发展，硬件设备和数据的广泛利用为人工智能发展提供了广阔的应用空间和广泛的应用条件。在利用数据进行机器学习建模的环境中，企业和个人具备了过往无法比拟的计算能力和数据应用优势。每个企业都拥有敏感数据：商业秘密、知识产权、关键业务信息、业务合作伙伴信息和客户信息。企业根据公司政策、法规要求和行业标准保护所有此类数据，这些数据带来巨大价值的同时，也存在传输储存方面符合法律法规，进行安全和隐私保护方面的难题。从2014年以来，数据泄漏问题开始得到公众关注，每年都有大量数据隐私泄露事件发生，数据使用的合法性和使用界限开始成为各行业关心的问题。

2018年5月25日，欧盟正式生效《通用数据保护条例》（General Data Protection Regulation，GDPR）。作为欧盟最严格的数据保护条例，该法规要求处理个人数据的组织经营者用清晰明确的语言描述用户协议，允许用户执行数据被遗忘的权利，用户可以要求经营者删除其个人数据并停止利用其数据进行建模。该法规强调机器学习模型必须具有可解释性，随之一系列公司由于对数据的使用不符合法律规范成为法案下第一批被告者。2019年4月，《互联网个人信息安全保护指南》正式发布。对于个人信息的共享和转让行为进行了明确规定。进一步加强了个人信息安全保护措施。2019年5月，国家互联网信息办公室会同相关部门研究起草了《数据安全管理办法（征求意见稿）》，旨在加强对数据处理使用和数据安全监督管理的要求。包括“应明确数据安全要求和责任，督促监督第三方应用运营者加强数据安全管理。第三方应用发生数据安全事件对用户造成损失的，网络运营者应当承担部分或全部责任，除非网络运营者能够证明无过错。”等数据安全管理办法，对于数据的安全使用和隐私保护提出明确意见和要求。2017年起实施的《中华人民共和国网络安全法》和《中华人民共和国民法总则》也要求：“网络运营者不得泄露、篡改、毁坏其收集的个人信息，并且与第三方进行数据交易时需确保拟定的合同明确约定拟交易数据的范围和数据保护义务。” 明确指出对于用户数据的收集必须公开、透明。企业、机构在没有用户授权的情况下，不能私自交换数据。法律条例对于人工智能传统的数据处理建模模式形成了极大挑战。在一个需要互联共享的信息共享环境下，如何在符合法律法规的用户数据隐私安全条件下，进行多方数据资源的利用，成为了各企业利用数据时中面临的重要问题。

二人工智能时代面临的新挑战

人工智能领域，往往需要足量数据进行机器学习来产生良好的建模效果。《AI.未来》中的观点认为：“当电脑的运算能力和工程师的能力达到一定的门槛水准之后，数据量的多寡就成为决定算法整体效能与精准度的关键所在。”能否掌握足量优质的数据，决定了人工智能训练效果的优劣。在实际工业环境中，仅仅一家企业难以只利用自身数据推测用户多元化多平台的消费习惯。为了更精准的做出决策，需要充分利用信息资源。市场开始要求大规模数据平台使用多种情况下的最佳训练效果。然而许多企业训练方拥有的数据量不足，规模与质量不完备。数据来源不够，导致机器学习系统效果不理想。

不同的网站、研究者、广告商和商业机构想要将彼此的数据汇总或者统一整理进行训练，传统的处理模式之一是将不同源数据整合，形成聚合数据库，虽然聚合数据库能实现对多个独立的数据库进行相互操作，但过程中存在各单元数据库的交互过程，面临着交互过程中的安全风险，无法保证隐私安全的后果。另外，实际情况下，数据源往往分布在企业和个人，相互独立隔阂，形成了一个个阻碍技术发展的“数据孤岛”。多方数据间无法联通带来更多行业效益。当前避免集中式存储数据，并可以从多源不互通的数据中创造新的价值。在保护隐私安全条件下，利用多方数据资源来驱动机器学习优化，成为了当前亟待解决的新挑战。正是由于这些严格的法规以及行业本身发展面临的障碍，人工智能技术反而可以用新技术找到其升级发展的契机。在满足数据隐私、安全和监管要求的前提下，设计一个机器学习框架，让人工智能系统能够更加高效、准确地共同使用各自的数据，这将成为人工智能安全保护时代的新机遇。

三数据安全新曙光——联邦学习

1. 联邦学习的概念

解决上述挑战，满足隐私保护和信息安全的联邦学习技术可以成为解决方案。联邦学习是隐私保护下的算法优化可实现路径和保护数据安全的“数据孤岛问题”的解决方案。联邦学习允许从跨数据所有者分布的数据中构建集合模型，提供了跨企业的数据使用方式和模型构建蓝图，适用于B2B和B2C等业务，可被广泛应用于各种领域，实现各个企业的自有数据不出本地，只通过加密机制下的参数交换，不违反数据隐私法规地建立优化机器学习模型。在保护数据隐私安全，合法合规要求前提下，达成机器学习效果的强化，将人工智能重点从以AI基础算法为中心转移到以保障安全隐私的大数据架构为中心。

2016年，Google AI研究人员首次提出用于训练深度学习网络的联邦学习。谷歌尝试建立数百万安卓设备之间的联邦模型，用于移动设备分散数据训练，解决隐私保护问题。2019年2月，Google发布实现了全球首个产品级的超大规模移动端分布式机器学习系统，能够在数千万部手机的安卓键盘上运行联邦学习算法，谷歌的研究主要侧重于在移动终端上运行的联合平均算法。

多个数据拥有方想要共同训练模型，传统做法是将数据整合到一方进行训练，但是这样无法保证数据隐私和传输过程的安全性。相对于以往的分布式机器学习方式，联邦学习具有以下特征：数据不脱离本地；参与者利用自身拥有的数据训练全局模型；每个参与方都参与学习过程；模型损失可控；训练过程中考虑隐私和安全。参与各方能够在不披露底层数据和底层数据的加密形态的前提下共建模型，使联邦学习成为未来安全多方机器学习的新曙光。

2. 联邦学习的分类

2.1 从联合方式分类

联合方式上，可以将联邦学习分为单方和多方两种方式。单方联邦学习是指从一个实体进行分布式内容抓取和系统管理。模型以联合的方式训练在所有客户端设备中具有相同结构的数据上。大多数情况下每个数据点对于设备或用户唯一。例如，应用程序通过单方联邦学习为个人用户推荐音乐的推荐引擎。多方联邦学习则需要两个或多个组织或特许经营商组成联盟。在其各自的数据集上训练共享模型。例如，多家银行可以培训一种通用的强大欺诈检测模型，而无需相互分享敏感的客户数据。

2.2 从用户和用户特征结构分类

参与各方的数据结构和参数通常相似但不必相同，根据不同的数据的特征分布形式，如同数据库原理中的数据特征分布状态，联邦学习又分为三种不同处理方式：横向、纵向和迁移。参与方们的数据集具有高度重叠的特征维度，样本重叠较小时，称为横向联邦学习。参与方们的数据集具有高度重叠的样本纬度，特征维度重叠较小时，使用方法称为纵向联邦学习。如果参与方们数据集在样本和特征维度上都没有足够的重叠，则使用联邦迁移学习。

3. 隐私保护下的技术工具

参与方们在参与联邦学习的过程中需要使用工具来进行数据的隐私保护。联邦学习的主要的工具包括安全多方计算，同态加密，私密共享和差分隐私。参与方们可以利用安全多方计算保证信息层面的数据安全。安全多方计算成本较高，为降低数据传输成本，参与方们可能需要在降低对数据安全的要求来提高训练的效率。

同态加密能够对所有数据进行加密处理，参与方们接收到的是密文，使攻击者无法推理出原始数据信息，保障数据层面的安全。在实际应用中，为了提高计算效率，参与方们一般采用半同态加密，半同态加密可以使用加法和乘法进行同态加密。

差分隐私可以用于参与方本地数据信息安全的保护，通过在参与方各自的原始数据上不断加噪音来减弱任意一方数据对于整体数据的影响。其缺点在于牺牲训练效果，过多的噪音会降低模型训练的效果，参与方们在使用差分隐私时需要在数据安全和准确度上进行取舍。

四联邦学习的现状和发展

1.联邦学习的框架和标准化制定

联邦学习的技术框架建设方面。谷歌首先提出开源的离散数据联邦学习应用框架TensorFlow Federated (TFF)。TensorFlow Federated主要支持利用如今数量众多的移动智能终端设备和边缘端计算设备的计算能力，保证数据不离开本地的同时训练本地机器学习模型，通过Google开发的Federated Averaging 算法，即使在较差的通信环境下，也能实现保密、高效、高质量的模型汇总和迭代流程，且移动端和边缘端用户体验上不做任何牺牲和妥协。目前Google已经将联邦学习应用在移动设备键盘输入预测上。

在学术研究与行业应用上，腾讯发起的中国首家互联网银行——微众银行正在积极探索。在国际人工智能专家、微众银行首席人工智能官杨强教授带领下的AI 团队开源了首个联邦学习“FATE（FederatedAI Technology Enabler)” 工业框架，作为安全计算框架支持联合AI生态系统，该框架可以实现基于同态加密和多方计算的安全计算协议，在信贷风控、客户权益定价、监管科技等领域推出了相应的商用方案。微众银行与瑞士再保险公司达成合作，共同研究“联邦学习”在再保险领域的应用。在杨强教授担任标准制定工作组主席的带领下，微众银行发起“IEEE联邦学习标准项目”，成为国际上首个针对人工智能协同技术框架订立标准的项目，旨在共同制定联邦学习标准形式的具体形式和内容，达成行业合作，共同推动联邦学习在各行业领域的进一步发展。

目前，联邦学习的国际标准化工作正在进行，随着 6月15日IEEE联邦学习基础架构与应用标准工作组的第二次会议在美国洛杉矶的召开。海内外13家来自科技、金融、教育、医疗等不同行业的知名研究机构及企业从多角度探讨联邦学习技术的应用案例，对联邦学习标准草案的制定提出建设性意见，该标准草案预计在一年内出台，意味着将为立法和监管提供更多技术依据。

2.国内联邦学习平台产业化建设

联邦学习技术作为机器学习和数据结合的推动者，将推动各行业人工智能技术平台的应用发展，目前各企业已经开始在业务方面开展联邦学习在产业方面的技术平台建设工作。

百度基于数据本地和云端隔离技术，采用安全数据融合以及多方联邦学习技术，推出“点石”数据安全融合及应用服务平台。提供安全数据集合、灵活建模、快速服务部署等服务，基于硬件隔离域、多方安全计算的技术能力，支持多场景的数据安全计算。“点石”利用安全方案解决数据打通难与应用成本高等问题。提供减少企业损失的风险识别，帮助企业有效识别在信用卡、贷款、在线支付等场景中的违约、欺诈等潜在风险，帮助企业对销售线索进行甄别与拓展，优化企业营销策略。“点石”的联邦学习应用场景主要是风险识别和营销分析。该平台与清华大学达成合作，利用联邦学习对接政府客户，帮助智慧城市建设。在风控模型建立方面，与狮桥公司合作，协同客户本地训练，结合大数据联合建模平台进行数据融合与分析建模。

金融应用领域方面，平安集团的高科技内核——平安科技公司正在研发建立全球首个面向金融行业的联邦学习平台“蜂巢”。平安科技利用联邦学习技术，设计面向数据强监管的金融业多态多任务学习模型。“蜂巢”能够应用于多方信息的安全协作计算，满足银行和金融机构的风险评估、反洗钱、投顾、投研、信贷、保险和监管等多场景应用需求。减少人力成本和打通数据的成本，提高数据使用在机器学习过程中的转化率。平安科技将推动学界和工业界的积极探索，携手金融行业共同建立“联邦学习+互联网+监督”的联邦大数据平台，打破金融行业孤岛，联合各企业以及政府机构，进一步推动联邦学习在金融产业的快速发展。

3.联邦学习与物联网的融合

物联网（IoT）生态环境中，联邦学习可以用于人工智能模型的分散训练。目前国内多家企业正在致力于研发联邦学习在物联网领域的应用解决方案。

在通信分配应用方面，华为数字算法实验室利用联邦学习原理解决车联网中可靠低延迟通信的联合功率和资源分配问题，在概率排队延迟方面最小化车辆用户的网络功耗。利用联邦学习技术，华为数字算法实验室提出了一种分布式学习机制，车辆用户在道路单位的帮助下能够在本地学习网络范围队列，而不实时共享队列长度估计尾部分布。这种方法能高精度判断学习网络中的车联网队列分布，减少车载队列长度，优化资源配置。

车辆用户和道路单位间利用联邦学习进行模型交换

（图源：Distributed Federated Learningfor Ultra-Reliable Low-Latency Vehicular Communications）

联想在去中心化人工智能和联邦学习的实际应用场景上，专注与硬件技术的结合，从各种来源聚合生成本地模型并允许物联网相互学习。每个边缘设备的数据独立用于学习创建本地模型。本地模型聚合将中央服务器转换为全局模型，再分发返回边缘设备，令所有边缘设备都可以从收集和处理的信息中受益，在不同场景下，利用联邦学习使物联网设备或传感器能够相互学习。联想正在与波兰云数据解决方案公司ByteLAKE合作，开展联邦学习和边缘计算环境系统构建。

联邦学习允许物联网各设备间联合学习

（图源：Federated Learning: DecentralizedAI Whitepaper Lenovo,ByteLAKE）

4.对多方安全计算的积极探索

在数据隐私保护的研究应用方面，基于多方安全计算技术，腾讯开展AI创新实践，推出“腾讯云数盾”。数盾以数据安全治理为核心,构建了可用于外部攻击防护、数据交换保护、内部防泄露等全流程的数据安全保护方案,用于帮助企业数据安全建设。数盾通过使用匿名化、差分隐私、安全多方计算架构等方式,在数据使用安全的基础上,平衡隐私保护与数据挖掘价值，符合对于数据使用和共享环境中的合规需求。

阿里巴巴于四年前开始研究共享学习技术，研发蚂蚁金服共享学习平台，主要思想和联邦学习相同，基于数据安全和隐私保护，在多个参与方之间通过共享加密数据或加密机制下的参数交换与优化，进行机器学习，作为虚拟的共享模型的产品平台。蚂蚁金服共享学习平台本着数据共享建模方案不泄露用户隐私且符合数据安全保护的原则实现了数据的多方协同和授权共享，得到更准确高效的模型和决策，进一步释放数据价值。

五联邦学习的未来

对想要进行联合机器学习的各参与方，联邦学习具有保护隐私和多方本地数据安全的极大优势。避免集中式存储数据，安全合规地从多源不互通的数据中创造新的价值，充分利用各方数据资源，优化机器学习训练结果，学习参与方可以在联合形成协同合作的联邦大数据环境，形成联邦学习生态。联邦学习生态可以视为一个多种数据来源合作产生的，基于联邦学习原理协同规范的，用于联邦学习过程的无共享多方数据集群环境。用户、方案提供商、服务商、运营商以及生态链上游厂商融入到一个大环境，提供优化服务，真正达到联邦学习的资源融合作用。对金融、互联网、通信、零售、交通运输、工业生产等行业提供计算服务支持。我们可以从以下四方面窥探联邦学习的未来。

1.  丰富的数据资源是联邦学习最大的金矿。原本分散在各规模企业的数据，通过联邦学习生态达成，可以发挥其自身作用，有了更好的用武之地。例如在精准营销方面，通过机器学习建模，把顾客群体细分，对每个群体，量体裁衣地采取相应对策。利用整合各方有用资源，构造更好的机器学习效果，以此产生利益价值。利用“联邦学习+人工智能”真正的赋能大数据并反哺个人和企业业务，用数据和科学提升业务效益。

2.  打破传统企业机构的数据边界，利用联邦学习提升智能化效果。改变过去商务智能和政府仅仅依靠机构内部数据的局面。协同各企业机构，达成优化合作，降低各机构间的交易摩擦成本和数据风险，提升机器学习的准确性和更新的及时性。在智慧城市、智慧医疗、智慧金融、企业数据联盟等方面提出新的使用方向。

3.  更了解市场，发现用户需求并将联邦学习产业应用落地。从市场业务挖掘数据使用场景，找出联邦学习在市场环境中的使用场景及应用范围，结合目前个人和机构的使用需求，利用联邦学习环境，提供丰富的资源，强化机器学习效果，辅助加速各产业智能化。

4.  达成各行业联手，共建全行业的联邦学习生态。联邦学习的出现已经开始改变大数据在各行各业的应用方式，联邦大数据生态的构建也离不开学界和工业界的共同探索和推动，使用联邦学习技术的各方应当携手，联合制定数据联邦行业规范，促成多方联邦数据协议，达成标准化、协同化、规范化的联邦学习环境。

在信息流通日益渗透到企业和个人的今天，联邦学习将逐渐成为金融、保险、投资、医疗等众多行业领域实现商业价值和隐私安全保护的最佳途径，其应用将在各行业全面展开，联邦学习的新纪元已经到来。

参考文献

• 《数据安全管理办法（征求意见稿）》- 中华人民共和国司法部 - 中国政府法制信息网《中华人民共和国网络安全法-中国证监会
• 《大数据安全白皮书》-中国信息通信研究院安全研究所 2018
• TensorFlow Federated: Machine Learning onDecentralized Data. available on: https://www.tensorflow.org/federated
• Federated Learning. White Paper V1.0.WeBank, Shenzhen, China. WeBank AI Group
  
  

编者评点

本文作者王健宗博士是资深的人工智能专家，主持多项商业领域的人工智能和联邦学习项目开发，特别是在联邦学习领域，其有丰富的实践经验和独到的见解，是国内联邦学习领域的领军人物之一。在本文中，作者专注于人工智能领域遇到得数据隐私保护问题，介绍了联邦学习的发展现状、面临的挑战及未来发展趋势。首先，作者介绍了数据隐私保护所面临的严峻现实问题及各国的应对措施，分析了人工智能时代数据隐私保护所面临的挑战；其次，介绍了联邦学习的概念、分类及其所用到的技术工具；然后，阐述并分析了联邦学习的现状和发展，包括联邦学习的框架和标准化制定、国内联邦学习平台产业化建设、物联网与物联网的融合、对多方安全计算的积极探索；最后，总结了联邦学习的未来。

  

| 马学彬

《联数》责任编委

CCF大数据专家委员会通讯委员

内蒙古大学副教授

原文链接：https://mp.weixin.qq.com/s/3evNYivfg-_P4TRcim5cGQ

编辑：董莉

刘海明

【案例】

人工智能是不是“工作”杀手？

【导读】近年来，随着人工智能技术的快速发展和成熟，关于自动化技术取代人类工作导致失业的问题，日益受到社会的关注和讨论。本文作者指出，将人工智能技术发展视为我们社会未来的唯一决定性因素，而忽视整个进程中政府、非政府组织、劳动者、企业、宗教社团等各方面的作用，本质上还是一种技治主义立场。技术从内部来看无善恶之分，但技术的开发和应用却需要考虑各方的立场、态度和利益，技术在带来效率提高、减少岗位的同时，其所带来的边际收益应该是递增的，这种递增应以新的工作需求为基础，给劳动者带来更多的幸福。为达到这个目的，在人工智能产业的规划和立法中，通过技术民主化来扩大技术参与者的利益范围，给缺乏技术、金融、文化和政治资本的社会阶层赋予获得技术设计过程的权力，因此劳动者的命运还是要诉诸社会的广泛协商和共识。文章仅代表作者观点，特此编发，供诸君思考。

▍消失的工作和扩大的贫富差距

2017年6月下旬，谷歌原大中华区总裁、创新工场董事长李开复博士在纽约时报的“观点”栏目发表了一篇题为《人工智能对人类社会的真正威胁》的专栏文章，他在文中一方面认为从技术上来看，人工智能发展到人类水平智能（即通用人工智能或强人工智能）仍然存在巨大障碍，达成该目标的期限还很遥远，另一方面在实践中人工智能却可以迅速取代很多重复性、低技能的岗位，例如出纳、客服代表、股票交易员、律师助理和放射科医生等，后续还可以代替人类操作半自治或全自治的硬件设施，使得工人、司机、快递员等职业逐步消失，因此这些趋势将导致严重的失业问题和贫富差距问题。

李博士为此提出了一种有趣的“人工智能决定论”的解决方案：对于失业问题，人类可以从事所谓的“爱心服务工作”或充当志愿者，因为这些工作人工智能干不了，而且又能给人使命感，政府可以通过对企业征税来为这个新的工作计划提供资金，但不是所有国家都有财力承担人工智能发展问题所带来的公共开支，因为人工智能创造的财富将主要流向中美这两个人工智能技术强国，只有他们才能提供资金支持这种转变；对于贫富差距问题，人工智能发展落后的国家在经济上必须依赖中美两国，来换取资金来应对失业问题，这种经济依赖将重新塑造当前的地缘政治，因此人工智能提供了一个通过国际合作来使贫富差距最小化的机会。

▍好奇与创新比贫富差距更重要

也许是李开复博士在经济、政治方面的“人工智能决定论”主张过于强烈，来自科技界的另一位著名企业家、亚洲最大的OTA（Online Travel Agency）携程旅行网董事局主席梁建章博士在7月初即撰文反驳李开复的观点。他一方面同意人工智能在短期内难以达到人类水平的技术论断，另一方面则不认可李开复关于人工智能经济和政治影响的判断，他的论点主要从经济学角度展开：首先是人工智能导致的生产率提高将促使人类有更多的闲暇时间和购买力，从而导致服务业需求的增长，薪的就业机会将填补人工智能取代的工作；其次是产业史和微观经济学的研究表明：发明颠覆性技术的企业未必能获得超额利润和形成垄断，在3个或以上的寡头垄断市场，利润会达到一个均衡水平，消费者将获得技术进步的红利，因此中美两国可以成为人工智能技术大国，但其人工智能产业及其公司不足以影响国际地缘政治。

梁建章在反驳李开复文章的基础上，从新的角度提出了一个很有意思的问题：相对于贫富差距问题而已，人类文明发展的动力是好奇、探索和创新，哪天人类不再好奇和创新了，才是真正的大问题。AI将人类从重复性的低技能工作中解放出来，使得人类能从事更多的创新和创造活动，因此研发和创意人员不会失去工作，反而是研发工程师和重复性工作岗位（例如清洁工）的收入差距会扩大，这才是人工智能带来的贫富差距问题，但贫富差距从历史上来看是一个老问题，形成贫富差距的原因很多，从某些方面来看，人工智能发展带来的经济繁荣和教育进步反而有助于贫富差距问题的解决。

▍人工智能是不是“工作”杀手？

作为一名多年从事信息科学历史和社会影响的研究者，笔者在技术方面同样认可李开复的看法：人工智能短期内无法达到人类级别水平，但在很多具体的领域取代大量重复性、低技能工作岗位的技术条件已经逐步成熟，所缺的只是社会制度、文化观念、法律和资金的支持而已。

关于二战后以智能、信息为主题的自动化技术取代人类工作导致失业问题的担忧，并不是一个新的问题，早在上世纪50年代，控制论的主要奠基人诺伯特·维纳就在其名著《人有人的用处》中预测：“自动机的采用会带来失业现象，它同目前的工业萧条甚至三十年代的危机相比较，后者只不过是儿戏而已”，但是过去的这60年来，与维纳的预言相反，二战后大规模的失业危机并没有发生，世界经济总体蓬勃发展，新技术革命反而成为了主要的引擎。以名义价格计算的世界生产总值从1950年的4万多亿美元增长到2014年的77万亿美元，1950年到1973年的世界GDP的平均增长率为4.9%，远超过上次工业革命中1870年到1913年期间2.1%的平均增速。因此，从历史的角度来看，由于战后的和平环境导致了全球化和人口增长，各国通过全球化红利进入了相对稳定的国际分工体系，人口增长促进了对工业品、消费品乃至信息服务的需求，从而导致了传统和新兴的服务业吸纳了更多的就业人口，维纳的预言没有应验，

在维纳所预言的时代里，技术发展主要解放了人类的体力劳动，但李开复的观点是这一次的人工智能革命带来的是相当一部分脑力劳动的解放，因此某种程度上将摧毁二战以来形成的中低端服务业吸纳大量劳动力的就业市场，传统劳动力的需求将急剧减少，劳动力供给出现过剩。

对于李的观点，梁建章的反驳实际上隐含了两个劳动经济学的假设：一个是从生产要素的观点来看，技术要素和劳动力要素的互补性大于替代性，另一个是当由于技术带来的生产效率提高带来工资水平增长时，劳动供给的替代效应产生的个人收入增长足以产生新的消费需求，创造出新的工作岗位。

通俗地说，人工智能技术作为生产要素，其投入的增加将导致与之匹配的研发、技术、运维岗位的劳动力边际生产率提高，这个称之为技术要素与劳动力是互补性的，另外，人工智能也导致重复性、低技能的劳动力被取代，即技术要素对劳动力要素是替代性的。虽然在当前的场景下两者兼而有之，但显然梁认为通过新需求带来的新岗位，本质上使得技术要素和劳动力要素之间的互补性要大于替代性。

当工资水平由于效率提升而提高时，一方面劳动者可能减少劳动时间，减少供给，在获得原来同样报酬的同时增加闲暇时间，这个称之为收入效应，另一方面劳动者觉得休息时间比原来更加昂贵，因此愿意增加劳动时间获得更高收入，从而增加劳动供给，此即替代效应。梁文的假设是技术发展后，由于替代效应的存在，人们并不会减少工作时间，而是继续保持同样或类似的供给，获得更高的收入，从而增加了对闲暇时段各种服务的需求，创造了新的岗位。

笔者的观点是李、梁二位的主张对于人工智能发展是否会颠覆性地取代大量工作岗位的问题，都不具有足够的说服力，原因至少有二：

首先，两人的立场都站在各自的利益点，并未客观、全面地反映事实。由于李开复本人是人工智能产业的投资者和推动者，其在文中对人工智能的定义都别树一帜：“人工智能到底是什么？粗略来讲，人工智能技术指的是获取某一领域（比如贷款偿还记录）的海量信息，并利用这些信息对具体案例（是否应给某人贷款）做出判断，以达成某一特定目标（贷方利益最大化）的技术。这些技术在给定任务中所展现出的工作能力已经被证明可以完全超越人类的表现。”但是在学术界和产业界，虽然当前人工智能商业化应用的成功很多是大数据驱动的，但大数据是否为人工智能的核心必要条件并不是广泛的共识，按照国际人工智能促进会（AAAI：Association for the Advancement of Artificial Intelligence）的定义则更为中性：“对作为思维和智能行为基础的机制的科学理解及它们在机器中的具体实现。”

李开复的主张中还有一些比较强的观点，即将金融领域中人工智能应用带来的效率提高简单地推广到了更广泛的行业，他甚至举了一个创新工场投资的贷款公司作为例子。实际上，由于金融、医疗行业的数据质量和数量相对于其他行业处于一个较高的水平，人工智能商业化的进程往往以这两个行业为重点，但是即使从技术维度来看，在法律、会计、教育培训、制造、物流等领域是否能替代绝大数工作岗位，也绝非轻而易举。

对于梁文而言，在劳动者关于工作—闲暇时间分配的决策模型中，过于简单地假设劳动者愿意保持工作时间以获取足够的收入，并将收入用于购买闲暇时间的服务，这里有两个方面的问题：一方面人工智能的发展是否使劳动者的贫富差距达到一个合理的水平，使得富人的服务消费需求有足够的生产者来提供？而不至于因为剧烈的贫富差距导致社会失衡？另一方面在于服务业吸纳的就业人口总量是否能填补因为技术进步而失去的工作岗位，这个比维纳之后的几十年还是有所不同，历史经验是否能重现是一个疑问，梁一手创立的携程旅行网是中国服务业的代表性企业，其员工数量高达3万多人，是全球最大的OTA企业Priceline的两倍，站在这个立场上提倡服务业对就业人口的吸纳，难免会有失偏驳。

其次在于任何一种技术的开发、部署和推广都是受到外部社会环境干扰的，而不单纯是由技术本身的先进性来决定。英国工业革命时期有工人的“卢德运动”，爱迪生与西屋电气有直流电和交流电之争，中国高铁有磁悬浮和轮轨技术之争，类似的例子不胜枚举。社会对人工智能技术的选择涉及文化传统、法律、伦理等一系列考虑，人工智能技术涉及自然语言处理、图像识别、机器学习等诸多领域，在每一个行业的开发和应用都涉及诸多方面，例如铁路12306服务中心所导致的整个铁路售票系统变革，就带来了农民工与老年人的“信息鸿沟”问题，至于人工智能在医疗中的应用，以及无人驾驶技术的部署，都涉及到了观念转变和法律体系的修订，这些都不是一蹴而就的事情。同时技术开发和商业化所需的资金与人才资源，从经济学角度来看都具有稀缺性，人工智能中相关技术开发的优先级和先后秩序，也都存在着社会利益的争夺。

因此，从以上的分析来看，人工智能是不是“工作”杀手，远不是李、梁这两篇文章能够给出结论的。

▍劳动者的命运谁来掌握？

我们很难直接把维纳的预言或正或反地应用于这一轮人工智能发展带来的技术革命中，对于未来难以简单地基于经验外推，尤其是当前的技术、经济和社会条件与维纳时代已经大相径庭。但我们很难认同李开复博士为人工智能带来的社会就业问题开出的处方，对于梁博士的乐观预测也心存疑虑，无论如何，将人工智能技术发展视为我们社会未来的唯一决定性因素，而忽视整个进程中政府、非政府组织、劳动者、企业、宗教社团等各方面的作用，本质上还是一种技治主义立场。技术从内部来看无善恶之分，但技术的开发和应用却需要考虑各方的立场、态度和利益，技术在带来效率提高、减少岗位的同时，其所带来的边际收益应该是递增的，这种递增应以新的工作需求为基础，给劳动者带来更多的幸福。为达到这个目的，在人工智能产业的规划和立法中，通过技术民主化来扩大技术参与者的利益范围，给缺乏技术、金融、文化和政治资本的社会阶层赋予获得技术设计过程的权力，因此劳动者的命运还是要诉诸社会的广泛协商和共识。

原文链接：https://mp.weixin.qq.com/s/PPno8hTEIAx6e6ZZaYD5fg

编辑：董莉

刘海明

【案例】

智能时代的数据伦理与算法伦理──第五届全国赛博伦理学暨数据伦理学研讨会综述

摘 要：互联网、大数据、人工智能的发展得益于“数据+算法”，我们身处的世界也越来越多地被“数据+算法”来定义。然而，数据和算法也引发了诸多社会问题，数据伦理与算法伦理成为学界关注的热点。第五届全国赛博伦理学暨数据伦理学研讨会以“智能时代的数据伦理与算法伦理及其法律规制”为主题，从数据伦理、医疗大数据伦理、算法伦理、人工智能伦理和人工智能哲学等方面，梳理了互联网、大数据与人工智能迅速发展所带来的伦理问题，并综合国内外关于数据伦理与算法伦理等领域的最新研究成果，讨论了智能时代背景下我国健康、合理地发展互联网、大数据与人工智能的方法和路径，并呼吁人文社会科学学者积极拥抱智能时代，积极应对互联网、大数据与人工智能发展过程中的问题，对人工智能的发展做一个合理的思考。

关键词：数据伦理；算法伦理；赛博伦理学

第五届“全国赛博伦理学暨数据伦理学研讨会”于2018年12月14～16日在海南海口举行。本次会议由中国自然辩证法研究会科学技术与工程伦理专业委员会、国家社科基金重大项目“大数据环境下信息价值开发的伦理约束机制研究”课题组、国家社科基金重大项目“智能革命与人类深度科技化前景的哲学研究”课题组、国家社科基金重大项目“高科技伦理问题研究”课题组、中国法学会“人工智能科技的法律规制研究”课题组、《伦理学研究》杂志社、《湖南师范大学社会科学学报》杂志社、上海玛娜数据科技发展基金会、湖南师范大学人工智能道德决策研究所、大连理工大学大数据与人工智能伦理法律与社会研究中心联合主办。

来自中国社科院、北京大学、复旦大学、上海交通大学、国防科技大学、华东师范大学、华南理工大学、科学出版社等高校、媒体和企业的近200名代表参加了会议。上海大学孙伟平教授主持开幕式，海南政法职业学院院长吴杰教授致欢迎辞，中国自然辩证法研究会理事长何鸣鸿教授、中国自然辩证法研究会科学技术与工程伦理专业委员会理事长王前教授致辞。大会围绕“智能时代的数据伦理与算法伦理及其法律规制”这一主题，从数据伦理、医疗大数据伦理、算法伦理、人工智能伦理和人工智能哲学等方面展开了热烈而深入的探讨。

一、数据伦理

大数据、人工智能的发展得益于数据的有效开发，而由数据引发的哲学伦理学问题逐渐成为学术热点问题。段伟文、李伦、黄欣荣、闫宏秀和苏令银等学者就数据智能、数据主义、记忆与数据、数据分配、数据被遗忘权、小数据研究等问题进行了研究与探讨。

中国社会科学院段伟文认为，当前人工智能发展的主要应用是数据智能，这使得智能算法在社会生活中所扮演的角色日益重要，并正在导致一种新的“数据解析社会”的来临。首先，数据智能建立在世界的数据化之上，但具体的以数据呈现世界和人的行为方式的某些方面上，难免有其偏向性。其次，对数据智能背后的数据主义认识论及其以数据把握世界的关联性的数据观应该展开深入的技术和伦理反思。进而从能动性和拟主体性等角度，对数据解析社会及其算法权力进行政治与伦理层面的审视，使算法权力强化循环机制、以预测为导向的可能性以及数据画像对主体性和能动性的剥夺得以揭示与辨析。

数据主义能否成为信息时代的精神？大连理工大学李伦的回答是，数据主义是数据化的一种哲学表达，主张信息自由主义和“数本主义”，试图替代自由主义和人本主义，而人类的自由和繁衍是永恒的价值，数据主义亦产生了诸多不良后果，数据主义不足以成为信息时代的精神基础。基于数据权利与数据权力失衡的状态，我们应倡导基于权利的数据伦理，减少数据主义的不良影响。

江西财经大学黄欣荣认为，大数据将万物数据化并将世界透明化，由此引发了诸多伦理问题。传统的伦理学从消极伦理观出发，认为大数据给人类带来了隐私、公平与安全等问题，于是开出了阻止和治理的药方，试图用旧伦理规制大数据。从积极伦理观来看，大数据及其透明世界可能给我们带来真诚、平等、自由、安全和个性等人性的本真回归。我们应当坚持数据开放，缩小数据鸿沟，改变隐私观念，重建伦理体系，追求有限自由，以积极的伦理态度拥抱大数据时代。

针对记忆伦理与数据的关系问题，上海交通大学闫宏秀认为记忆伦理的探究在本源形式上与数据有必然的关联性，这种关联性不仅仅表现为数据作为一种技术对记忆伦理所产生的影响,也表现为数据的伦理属性与记忆伦理之间的羁绊及数据相关的伦理问题与记忆伦理之间的羁绊。这些影响与羁绊正是记忆伦理的新面相。从技术伦理学的视角看，当其介入到记忆时，会引发一些记忆伦理问题，同时也会解决一些记忆伦理问题；从记忆伦理学的视角来看，记忆与技术的深度关联使得对记忆伦理的考察必须将技术纳入其中。

伴随数据资源和数据财富的理念日益深入人心，大数据时代的数据资源分配领域矛盾问题突显，与传统的分配正义理念的冲突集中体现为分配机会正义、分配程序正义和分配责任正义3个方面。国防科技大学张煌认为在大数据时代要实现分配正义，应当遵循机会均等、分配标准与程序合理、利益与责任同等分配等原则。

国防科技大学黄嘉认为，空间数据对当代民众社会生活和国防建设都具有重要意义，实现空间数据的公正共享既是一个经济、政治和法律问题，同时也有着深刻的伦理意蕴。空间数据分享和知识产权保护的伦理困境实质上是由外空探索利用中的“人类共同利益”原则与空间利用商业化发展过程中的“经济理性”相冲突而引发的。化解伦理困境的基本思路是协调人类共同利益与国家、商业利益之间的关系。

复旦大学黄斌认为，传统的知情同意模式及其内在关系预设，都是建立在个人自主性价值之上。大数据技术将人置于不同的群组进行分析，使得“知情同意主体”和“行动主体”的界线变模糊，从而产生了新的伦理问题。大数据本身所预设的“未知目的”与传统知情同意模式的“确定目的”预设存在着深刻的内在矛盾，从而使数据主体的自主性很难得到尊重。

信息技术的发展改变了人类记忆与遗忘的状况。信息技术以物质手段克服了人类记忆能力的限制，使得记忆可以成为永恒，这就引发了对数字记忆的讨论。以欧陆为代表的保守主义积极推动被遗忘权的立法，GDPR明确赋予个人数据的被遗忘权；另一方以维纳和弗洛里迪为代表的数据伦理学家认为删除信息是一个熵增行为，是不道德的，数据主义则更为激进。湖南师范大学胡晓萌认为这两方的观点都过于极端，未来基于权利的数据伦理是将数据权利赋予个体，通过行为准则和技术标准，能够对数字记忆给人类生活带来的诸多问题进行有效消解，区块链技术为这种理论的现实可行性提供了技术前提。

在过去的几个世纪里，学术知识的构建普遍使用小数据研究，然而这种研究方法目前正受到大数据发展的挑战，但小数据研究在未来仍将是受欢迎和有价值的，因为它们在回答有针对性的问题时具有实用价值。上海师范大学苏令银阐述了大数据时代小数据研究的价值，以及它与大数据和数据科学的关系，并重点探讨了将小数据扩展到数据基础设施的意义。

二、医疗大数据伦理

医疗大数据是大数据发展的重要组成部分，但医疗不同于传统产业，它切实关系到个体生命、公共健康、医学科研与医疗诊断等诸多方面。张海洪、孙雯波、王晓敏、李晓洁等分别就数据伦理准则、医疗人工智能、大数据管理与受试者保护、健康医疗大数据法规与伦理体系等方面进行了探讨。

北京大学医学部张海洪认为，数据的使用对于促进公共健康、提升服务等有着重大意义，伴随着各种机遇的同时也面临着诸多伦理挑战。为了更好规范政府以及公共部门对于数据的使用，英国文化、媒体和体育部于2018年更新了《数据伦理框架》。该框架尝试界定数据伦理的七条原则，包括：①始于清楚的用户需求和公共利益；②了解相关的法律及实践准则；③基于用户需求的恰当使用；④理解数据可能的局限；⑤在力所能及的范围内追求高标准；⑥在工作中确保公开透明与负责任；⑦负责任地使用数据。这不仅为数据科学专家和政策专家提供具有可操作性的伦理指导，而且从最初的设计出发，对数据收集、存储、分析和共享等全过程可能涉及的伦理问题提出规范要求，对我们探索负责任的数据伦理最佳实践有着积极的启发意义。

当前以深度学习和数据挖掘两大核心技术为主的人工智能，向医疗产业赋能，其在政策、资本、社会、技术等优势上推动医疗人工智能领域的开发和进展，将引发医学领域颠覆性革命。目前医疗人工智能领域关于医学数据的诸多乱象和困局亟待破解。其主要表现在数据主权不明、数据共享受限、数据质量不高、数据成本昂贵、数据安全堪忧、数据不公平利用等方面。湖南师范大学孙雯波认为，以伦理视角关照和分析这些困局中的问题，在科学技术和社会发展的平衡中寻求法律法规和行业伦理约束至关重要。

中南大学王晓敏认为，随着国家食品药品监督管理总局加入人用药品注册技术要求国际协调会(International Council for Harmonization of Technical Requirement for Pharmaceuticals for Human Use, ICH)以及新药首次临床研究的默认许可制等系列国际化步骤的加速，中国正逐渐走向探索性强、风险性高、技术复杂的创新性临床试验时代，这对我国受试者风险评估和安全权益保护提出了新的挑战。受试者安全评估是伦理委员会审查的重要内容，但我国目前对于非预期事件的关注和审查经验相对不足。通过对临床研究大数据管理系统中的非预期严重不良事件报告进行伦理分析，可以全面了解、掌握非预期严重不良事件发生的情况，为非预期事件的全面而系统的评估审查，以及最大限度地保护受试者安全提供参考。

北京大学医学部李晓洁认为，健康医疗大数据对公民生命健康保障极其重要，然而我国相关法规和伦理体系尚不健全，在采集应用和管理中面临着一系列问题。因此需要在透明性、现实性、准确性、责任、特殊群体保护和公正性等六大原则和共识基础上，设立数据专员并加强监管，在保护患者利益的同时，更好推动健康医疗大数据对数据所有者的回馈。

三、算法伦理

随着算法辅助或人类决策的领域越来越成熟，算法的伦理问题日益成为人们关注的重要话题。算法的设计、价值负载、道德决策等问题成为学者们关注的热点。张本祥、张卫、管开明和孙保学等从复杂适应系统(CAS)、算法的道德物化、自动驾驶的算法伦理、算法与文化多样性、算法的道德合理性等问题和视角进行了探讨。

黑龙江大学张本祥认为，复杂适应系统(CAS)是对人类社会非常贴近的模拟，在其视角下考察智能社会的伦理原则能给出伦理学理性的洞见。CAS是一个并行性的寻优机制，对应的智能社会伦理原则是优化原则和效率原则；在将智能界定为“高效地处理确定性、不确定性及两者混合问题的能力”基础上，智能社会则要求契约原则、自由原则、平等原则；智能社会整体层面的智能性自然要求伦理关系的整体原则；最后，智能社会与动物种群的本质不同则在于个人及社会层面的超越理性计算的精神，这是智能社会中的博爱原则。

华中师范大学张卫认为，技术属于真实物理空间，而算法属于虚拟的赛博空间，二者在本质上都是一种转换和输出，因此技术伦理学的研究可以应用到算法伦理中去。算法中的道德物化主要关注积极主动地把道德规范嵌入其中，使算法在助推人们合理适当的决策和行为发挥更大作用，更好地实现其正面积极的伦理价值。在算法与伦理的关系问题上，有3种应对路径可供选择：一是对算法进行伦理的约束，使算法的设计与运行限制在伦理允许的范围之内，抑制其负面伦理价值的出现；二是积极主动地把道德规范嵌入其中，使算法在助推人们作出合理恰当的决策和行为时发挥更大的作用，更好地实现其积极的伦理价值；三是让算法成为完全的道德行动者，使它具有分辨善恶的伦理判断能力，并能自主地作出道德判断和道德决策。算法中的道德物化主要是指上述第二种路径。未来人类生化算法可能被外部算法全面超越，人类道德是否自主将是需要思考和面对的问题。

武汉科技大学管开明认为，自动驾驶汽车的算法伦理实质是人类伦理在自动驾驶领域的延伸，自动驾驶汽车的算法伦理处于人类的伦理道德范畴之中，对它的讨论不能超越人类的伦理范围。现实生活中驾驶环境错综复杂，人工驾驶所作出的道德决策亦难达成一致，更多的只能在事故后进行责任的厘清与追究。因此实现对自动驾驶汽车的算法进行伦理预设是不现实的。符合自动驾驶汽车的交通配套设施、交通体系的调整，完善相关法律法规与规范措施以利于情景归责，才是促进自动驾驶汽车发展的真正解决之道。

最新的道德机器实验研究证实不同的文化集群虽然有普遍的道德偏好，但也存在明显的价值观差异。这除了增加人们对人类价值观本身一致性的疑虑，也能够为道德相对主义提供辩护。湖南师范大学孙保学认为，承认和正视文化的多样性并不意味着对于人工智能伦理政策的制定必然走向相对主义。一方面，人工智能的伦理政策制定和评价要以人类共享的核心价值为标准，需要最大限度地求同存异以确立共同框架，填补政策真空，最佳的伦理政策模式要在理性探讨和对普遍道德偏好的经验研究的基础上达成共识，在协商中不断地修正政策的不恰当之处；另一方面，负责任的伦理行为要求尊重不同集群的合理价值诉求。尤其对于大数据算法层面的道德分歧的化解，既要剥离价值分歧中的事实分歧，更要充分地发挥伦理委员会在算法监管和实践裁决中的作用。

重庆邮电大学李杨认为，算法的核心要素是清晰性或准确性，准确而迅速地完成特定任务的算法往往被视为优秀的算法。这种以完成任务的效果作为评价标准的原则背后蕴含着工具理性的逻辑。然而效果上的最优并不一定具有道德合理性，算法运行结果受到了数据的采集和采用的巨大影响，而数据的采集与采用都不可避免地与算法使用者的利益相关。维护算法的道德合理性，或者可以通过嵌入道德规则设计道德算法来实现。然而，即便生成道德算法，但由于其依然以工具理性为逻辑基础，也不能避免道德困境的生成。仅依靠计算优势的算法并不能天然地具有道德合理性，或许具有感知能力的情感机器系统(某种意义上的通用人工智能)的实现能够提供解题思路。

西安交通大学白惠仁认为，在现有法律和事故归责体系中，自动驾驶系统引起交通事故，会牵涉更多责任主体并导致归责困难。相较于传统汽车的道德责任问题，自动驾驶技术改变了汽车与使用者的边界及二者的关系。汽车自身作为机器还无法跨越技术和概念框架的困难，不能作为道德责任的归责对象。基于道德运气，使用者决定使用一辆自动驾驶汽车，表明他知道用车要承担的风险，一旦发生事故，使用者至少应负有部分责任。

算法作为计算机科学的基础，其伦理问题直接关系到整个计算机科学领域的伦理问题，并由此辐射到现代社会的方方面面。复旦大学孟令宇分别从算法伦理的研究对象和研究内容两方面说明算法伦理究竟是何种伦理。从算法伦理的研究对象来看，算法伦理应当属于一种技术伦理而非职业伦理，这是因为算法本身是伦理负荷的。从算法伦理的研究内容来看，算法伦理应当是由一系列中层原则构成而非一套伦理理论。最后他将算法伦理定义为以算法的伦理负荷为研究对象的由一系列中层原则构成的伦理体系。

四、人工智能伦理

人工智能在社会发展中发挥着越来越重要的作用，但是人工智能作为新兴技术也存在着潜在的道德风险。就如何应对人工智能伦理问题，规范与约束人工智能发展，孙伟平、闫坤如、毛新志和陈万球等提出了自己的观点。

人工智能发展需要遵从伦理道德和价值规范。人工智能体道德原则比较著名的有“阿西莫夫机器人三原则”和“阿希洛马人工智能原则”等。上海大学孙伟平在此基础上提出人工智能发展的五大道德原则：人本原则，科技活动必须要造福人类，人工智能体必须尊重人类、保障人的安全；公正原则，保证落后国家和地区人们不受歧视；公开透明原则，智能机器人必须可理解可检视，保证不会产生危害人类的动机；知情同意原则，人工智能技术应用到人类本身必须遵循这一原则；责任原则，如何判定机器人和智能驾驶系统的责任。

华南理工大学闫坤如认为，在人工智能发挥越来越重要作用的同时需要高度重视其引发的潜在道德风险。智能机器的道德主体地位问题、人工智能引发新的社会安全和公平正义问题及其他新的伦理问题都需要详细考察和谨慎决断。规范与约束人工智能发展，应从伦理规约、制度建设、文化培育等多维度着手才能更好规避人工智能风险，促使人工智能向更好的方向发展。

上海大学杨庆峰和伍梦秋认为，记忆理论能够澄清“强弱”人工智能的实质，记忆的分类也为人工智能发展提供了必要的理论基础。人们常将遗忘看作是记忆的负面现象或失效，现代研究表明人类自然认知系统的遗忘并不需要完全抹去先前的信息，但对于机器而言遗忘却是彻底的、灾难性的，这也是通用人工智能发展的关键障碍。但记忆并非完全是信息的巩固，遗忘是记忆的互补面，不是完全负面的现象，需要我们重新看待人工智能决策过程中记忆与遗忘的辩证关系。

人工智能的飞速发展带来的伦理冲突、价值挑战和道德冲击是前所未有的。湖南师范大学毛新志认为人工智能价值嵌入是解决难题的一剂良方。它的设定既需要考虑全人类的共同价值追求，又需要结合各国文化传统、价值理念和伦理规范等方面的情况，有差别地进行具体价值规范的嵌入。通过多方的参与、讨论与协商，确立一些广泛认可的价值原则和具体的伦理规范并嵌入到人工智能系统中。同时需要思考通过何种途径将这些伦理价值嵌入到人工智能系统。最后需要通过人工智能机器人的行为、做法和道德决策方面进行具体伦理评估和价值判断。

长沙理工大学陈万球认为，人工智能伦理问题可以归结为技术功利主义、新旧技术规范脱节和技术行为失范3个方面。人与技术的关系实质上是人与人之间的关系，人工智能的伦理问题是技术的异化问题。人工智能体的背后是人，恶不在于技术，而在于人。算法歧视是AI背负了人类决策者的种种偏见产生的结果。人工智能的伦理问题治理应当从观念、规范和行为入手，嵌入正确的技术价值观，对人工智能开发与应用进行合理引导。

面对人工智能技术的快速发展和人工智能创造物的冲击，知识产权制度尤其是版权制度理应有所回应。大连理工大学谷丽、韩雪和丁堃认为将人工智能创造物纳入版权客体范围具有一定的必要性和正当性，讨论人工智能创造物在版权保护、侵权等方面的制度设计问题具有重要的理论价值和实践意义，并提出应对人工智能对版权带来的潜在影响和挑战进行制度上的设计和回应，以期为我国版权制度创新提供思考和建议。

随着人工智能的迅猛发展，一些学者开始担忧在不久的将来，人工智能可能会对人类生存构成重大威胁。南开大学李帅认为，一方面可以通过构造一个驳斥人工智能威胁论的溯因推理结构，证明人工智能威胁论信念基于不可靠的归纳论证，因而在逻辑上难以成立。另一方面以哲学的视角，可以将人工智能威胁论视为一种信念。鉴于该信念达成之后的灾难性后果，可以借鉴其他高风险技术领域的成功经验，采取适当的防范策略，在合作和规范中发展人工智能，共同应对可能的突发情况和重大威胁，是预防人工智能背叛转折的有效法宝。

湖南省委党校张旺认为人工智能的道德伦理规约是比技术本身更为复杂、更趋深层次、更需要深入探讨的问题，应立足责任伦理视角探讨人工智能风险的规避原则和路径。他从人工智能技术研发和应用两个环节剖析了责任原则的嵌入与规约，在中外比较的基础上阐释了政府、企业界、学界等主体在风险治理中的权责定位，为有效规避人工智能技术的风险，推进伦理层面的国际合作共识，提升我国人工智能伦理话语权和主导权，提供可供参考的建议。

大连理工大学张媛媛认为，人工智能作为人类社会发展的工具和手段，其发展不应无边际地泛滥，不应冲击“以人为本”的基本原则，而应设有合理的弹性伦理边界，促进其沿着正确轨道前行。合理的弹性伦理边界需要充分考虑到人的智能与人工智能的相互协调，保证人的智能得以存续和发展，在此前提下提高人类社会生活对人工智能发展的适应能力，弹性调整人工智能的发展规模和速度，使人工智能成为人的智能的合理补充和完善。

海南政法职业学院王强强认为，人工智能在行政法应用和行政治理中已经崭露头角，人工智能广泛参与社会管理同样面临一些风险，比如侵犯自然人的隐私权、导致政府治理能力弱化等，因此需要提出适应人工智能科研和应用的法案，在行政法领域中对人工智能应用提出了一些进行规制的具体措施。

五、人工智能哲学

人工智能近些年的迅猛发展，让人类感觉到了被取代的威胁，虽然人工智能还未发展成为强人工智能，但已引起人们的担忧。人工智能的本体论、认识论和科学哲学等问题常常是讨论人工智能伦理问题的必要前提，王前、颜青山、余乃忠对此提出了自己的看法。

大连理工大学王前认为，从中西思维方式比较研究的角度看，人工智能在本质上是“动脑”思考的人工化。但是当前人工智能引发了一系列前所未有的社会问题，需要及时解决，中国传统的“用心”思考模式呈现出新的重要价值。“用心”思考模式的整体性、有机性、直觉性特征，有助于弥补人工智能技术应用造成的思维碎片化、判断机械化、推理简单化的缺陷，发挥知情意相结合、真善美相结合、提高思维效率的优势，实现人工智能和人类智能的有机统一，使人工智能成为人类社会发展的有力工具，而不至于成为一种“异化”因素。

华东师范大学颜青山提出，通过更精确地重述“汉字屋”论证的条件，汉字屋中的塞尔将以不同于中国人的方式“学会”汉语语法，从而证明塞尔试图反驳强人工智能的论证是失败的，尽管其结论依然可以成立。心灵智能的奠基性特征恰好是基于语法或语形的实践理解，完全的实践理解将通过神经肌肉系统重塑大脑，并且具有部分可逆性。完全的实践理解需要周期性的训练维持，这一特征将导致通用人工智能的两难：如果通用人工智能是心灵智能，那么它不可能全面超越人类智能；如果通用人工智能全面超越人类智能，那么它不可能是心灵智能。既然超级智能不可能是人的智能，如果它出现了，我们可以将其仅仅看作手段。至于超级智能作为工具可能引起的其他伦理问题，可以参照其他工具的方式处理。

长沙理工大学余乃忠认为，人类自诞生以来，经历了人与自然对抗、人与人对抗和自我对抗的3类对抗。随着人工智能从弱人工智能逐步向强人工智能的迈进，自然人与人工智能的第4类对抗正全面展开。第4类对抗不同于前3类对抗，它预示文明的人类正处于危险之中，人类作为抽象整体的神圣性被玷污与摧毁。第4类对抗以人的对象世界与意义世界的对立与矛盾而显示其独特的个性。对抗构成了意义世界建构的主轴，第4类对抗预示意义世界的“天工开物”。与更高的自我交往、生从死中求、类存在的整体性和意义点的连续分布，开辟了智能时代人的意义世界的新形态。

六、结 语

随着科技的发展，对智能时代背景下的数据伦理、算法伦理等伦理问题的探讨是一个开放性的议题，任何一种观点、任何一种理论都可能参与这一议题的讨论。孙伟平认为大数据和人工智能无论在中国还是在世界，都是一个前所未有的发展阶段。作为人文社科学者，我们应热忱地欢迎大数据和人工智能的到来，拥抱整个社会的智能化。面对大数据和人工智能发展过程中的一些问题，我们更不应退缩，而是应积极地对人工智能的发展做一个合理的思考。

Data Ethics and Algorithm Ethics in the Age of Artificial Intelligence ——Review of the 5th National Conference on Cyberethics and Data Ethics

[size=1em]LI Lun1, LIU Mengdi2, HU Xiaomeng2, Wu Tianheng2

[size=1em]( 1.Faculty of Humanities and Social Sciences, Dalian University of Technology, Dalian 116023, China;2.Institute of Artificial Intelligence Moral Decision-Making, Hunan Normal University, Changsha 410081, China )

[size=1em]Abstract：The development of internet, big data and artificial intelligence draws from data and algorithm, and the world we live in is increasingly defined by data and algorithms. Data and algorithms cause many social problems, so data ethics and algorithm ethics have become the focus of academic attention. The theme of the 5th National Conference on Cyberethics and Data Ethics is data ethics， algorithm ethics and their legal regulations in the age of artificial intelligence. From the perspectives of data ethics, medical big data ethics, algorithm ethics, artificial intelligence ethics and artificial intelligence philosophy, scholars have sorted out the ethical issues brought about by the rapid development of internet, big data and artificial intelligence. Based on the latest research results in the fields of data ethics and algorithm ethics, scholars discuss the methods and paths for the healthy and reasonable development of internet, big data and artificial intelligence in China in the age of artificial intelligence. Finally, experts at the meeting hope that scholars of humanities and social sciences can actively embrace the age of artificial intelligence, actively deal with problems in the development of internet, big data and artificial intelligence, and think rationally about the development of artificial intelligence.

[size=1em]Key words：data ethics; algorithm ethics; cyberethics

[size=1em]DOI：10.19525/j.issn1008-407x.2019.03.015

[size=1em]中图分类号：B82

[size=1em]文献标识码：A

[size=1em]文章编号：1008-407X(2019)03-0104-06

[size=1em]收稿日期： 2018-12-20; 修回日期2019-01-04

[size=1em]基金项目： 国家社会科学基金重大项目：“大数据环境下信息价值开发的伦理约束机制研究”(17ZDA023)；国家社会科学基金一般项目：“开源运动的开放共享伦理研究”(17BZX022)

[size=1em]作者简介： 李伦(1965-)，男，湖南隆回人，教授，主要从事科技伦理与科技哲学研究，E-mail：[url=mailtounli@dlut.edu.cn]Lunli@dlut.edu.cn[/url]；刘梦迪(1995-)，女，河南登封人，湖南师范大学人工智能道德决策研究所硕士研究生，研究方向为科技伦理、人工智能伦理；胡晓萌(1989-)，男，河南信阳人，湖南师范大学人工智能道德决策研究所博士研究生，主要从事算法伦理、数据伦理与信息哲学研究；吴天恒(1994-)，男，河南武陟人，湖南师范大学人工智能道德决策研究所硕士研究生，研究方向为科技伦理学、数据伦理研究。

[size=1em]原文链接：http://m.chaoxing.com/mqk/read_3 ... =1000&from=timeline

[size=1em]编辑：董莉

刘海明

【案例】

还在玩AI换脸？你可能不知道这技术带来多大的危害

你可能并不知道什么是GAN（生成式对抗网络），但你可能在社交网络上转发过明星变老的图片，或者曾看到换脸技术在淘宝售卖的报道，只需几元钱，就能将别人变成色情片主角。实际上，一波人工智能换脸应用的热潮已经出现，我们稍不注意就可能掉入陷阱之中。

本期RUC新闻坊为你梳理这些以假乱真的换脸技术的产生和发展，并搜集国外媒体观点总结这些颠倒身份、穿越时间的图像和视频可能给我们的生活带来什么影响。

FaceApp

上周有一款名为FaceApp的 AI换脸APP火遍整个社交媒体，世界各地的明星等公众人物争相在社交平台分享自己的“老年”照片。这款APP由俄罗斯公司Wireless Lab开发，用户仅需要上传一张照片，即可实现一键变成老人，一键返老还童，一键由男变女，一键破涕为笑，一键失去头发。

(FaceApp官网的App功能介绍，包括改变表情、变年轻、变老等)

据福布斯报道，这款APP诞生于2017年，因最近算法大幅提高而爆火。目前在Google Play的下载量已经超过了1亿，近10天内下载安装次数达450万。此外，它在苹果App Store里的安装下载量也居高不下，App Annie数据显示，它目前在121个国家的iOS商店排名第一。

（Twitter网友用FaceApp为特朗普“换脸”）

这款APP的基本原理是生成式对抗网络（GAN），通过算法提取人物脸部的特征，并根据数据库中的其它图像对照片中非重要特征点进行调整。

FaceApp的火爆掀起了人们对于人工智能技术及隐私保护等问题的热议。由于该应用由俄罗斯人开发，美国政坛高度紧张，民主党的全国委员会发出预警，警告2020年民主党总统竞选团队不要使用该换脸应用，还有政客建议FBI介入调查。

Deepfake

Deepfake是一项人工智能换脸技术，适用于修改图片和影像，可以实现人脸的移花接木。今年年初在网络上广泛传播的朱茵变杨幂的换脸视频就是通过这种技术生成的。当中国网民还沉迷于利用Deepfake技术制作鬼畜视频的时候， Deepfake已经作为一种负面议题在国外掀起了滔天巨浪。

（杨幂的脸被嫁接在朱茵的视频中）

2017年，一名叫“Deepfake”的用户在美国Reddit论坛上传了多段“嫁接”好莱坞女明星脸的色情视频，引发网民热烈讨论。之后，开源的代码便如同火种一般，让曾经只有专业电影制作机构才能完成的视频换脸变得轻而易举。用户只需要收集目标对象的大量照片就可以使用这些开源的算法制作出假视频。

很快，Deepfake的波及范围就从影视娱乐圈蔓延到美国政坛。去年一段美国前总统奥巴马吐槽特朗普是笨蛋的假视频在Twitter走红。今年5月，美国众议院议长南希·佩洛西的假视频也在社交媒体上广泛流传。视频中，佩洛西如同喝醉了一般，神志不清，说话磕磕巴巴，举止奇怪。这段视频甚至引来了美国总统特朗普的嘲讽。

（特朗普转发了佩洛西的假视频）

因为Facebook拒绝删除佩洛西的假视频，马克•扎克伯格也被人恶搞，“他”在其中大谈如何“控制数十亿人泄漏的数据”，而原始素材来自扎克伯格两年前一则毫不相关的视频。

Deepfake的迅速发展严重影响了人们的信息环境，一场“猫和老鼠”的技术追击战就此展开，比如早期研究人员通过人物是否眨眼睛来判断视频是否由Deepfake生成，但现在的Deepfake中人物都能眨眼。

有意思的是，这个生成与识别的过程和Deepfake的原理——上文提到的生成式对抗网络（GAN）也很相似。GAN由一个生成网络与一个判别网络组成。生成网络则要尽可能地欺骗判别网络，判别网络的目的是将生成网络的输出从真实样本中尽可能分辨出来，两个网络相互对抗、不断调整参数，直到判别网络无法判断生成网络的输出结果是否真实。

外媒关注焦点

AI换脸应用在国内引起的讨论还较少，但技术的传播是没有国界的。为了更深入探讨换脸技术可能给生活带来的影响，我们参考了Deepfake出现更早、案例更多的国外，看看国外媒体是怎么看待换脸产生的问题的。

01

换脸技术威胁政治和商业

不少媒体关注换脸技术可能会损害美国政治环境，给民主造成威胁。据CBS报道，美国在1月发布的一份全球威胁评估报告中警告称，Deepfake可能会成为扰乱2020选举的策略之一。“山寨”奥巴马骂特朗普是“彻头彻尾的混蛋”足以影响本已混乱的政治讨论，更不用说一段“山寨”美国总统对某国宣战的视频会引起怎样的巨变。

（奥巴马的Deepfake视频截图）

美国众议院民主党成员Yvette Clarke认为，Deepfake的影响并不仅限于选举，它甚至可以改变经济和法律体系的结构：法院需要重新审视很多图像或视频证据的效力；而扎克伯格的Deepfake视频如果被恶意炒作，可能会给企业造成巨大经济损失。Fast Company网站也指出，“蒂姆•库克”与某人就iPhone销量下滑进行私人谈话的假视频，能在几秒钟内让股市蒸发数十亿美元。

《卫报》这样形容Deepfake造成的影响：在很多互联网视频中，人们正做着他们从未做过的事情，真实的人，真实的脸，接近真实的画面，但这是完全不真实的事件。

《卫报》还在报道中引用了AI伦理和法律方面的教授Sandra Wachter的观点，她认为很多对科技的恐惧都是夸大其词，但Deepfake不一样，“并不是说假视频或假信息从未有过，而是假信息的复杂程度、生产难度和速度、以及传播的范围都达到了新的水平。”

《麻省理工科技评论》也指出，早在AI出现之前，操纵媒体的现象就已经出现了，但算法让这些操纵更加普遍且更难被发现。

除了Deepfake换脸技术外，媒体也对FaceApp存在的隐私风险给予关注。据《纽约时报》报道，在7月17日的一封信中，纽约州民主党参议员Chuck Schumer要求联邦调查局和联邦贸易委员会对FaceApp进行调查，理由是安全、数据保存和透明度方面的“严重问题”。他在信中指出，“如果美国公民的敏感个人信息被提供给一个频频对美国发起网络攻击的敌对外国势力，那将是非常不安的。”

02

换脸技术对女性的伤害

《华盛顿邮报》注意到，涉及男性的Deepfake视频几乎都是搞笑风格，而涉及女性的主要是色情视频，这暴露出对女性的性物体化在人工智能技术下变得更加严重。

更关键的是，Deepfake刚出现时主要针对女明星，但随着技术的进步和普及，普通女性也成为了目标。只需收集一个人大量的面部信息和一段性爱视频，就能“移花接木”，达到满足自己或报复女性的目的。

（人脸被拼接在其他人的身体上，来源：华盛顿邮报）

去年4月，印度一名女性调查记者Rana Ayyub收到报道对象的威胁——一段用她的脸伪造的性爱视频。这段视频在社交网络上快速传播，这名记者看到后崩溃了。她表示，自己多年来一直遭受着各种骚扰，但Deepfake比身体威胁更可怕，对内心造成长期影响，“并且没有什么能阻止它再次发生”。

《赫芬顿邮报》采访了六名Deepfake的女性受害者，她们的照片未经同意就被置入色情视频，其中一位表示，“用Photoshop处理过照片是静态的，而且很容易被识别出是假的。但当视频中是你自己的脸做出反应并移动时，你会感到恐慌，因为你无法控制别人如何使用你的形象。”

VICE网站也发现，新推出的DeepNnude是专门针对女性研发的，即使是输入一个男人的照片，该软件也只生成女性裸体的图像，因为应用只对女性的裸照进行了算法训练。

03

如何减少技术的负面影响

The Verge网站在采访技术专家后指出，尽管部分识别Deepfake的研究通过追踪名人独特的面部动作，比如撅嘴唇、扬眉毛等，大幅提高了准确度，但人工智能的精进为两方都提供了便利。也就是说，每一项检测Deepfake的研究都为提高Deepfake模仿质量提供新的机会，生产和识别将成为一场无休止的对抗。另一方面，尽管最新的模型准确度高达97%，即使完美部署在各大平台上依然会存在3%的漏网假视频，考虑到互联网视频的庞大体量，这部分可能造成的危害仍然是个大问题。

（Deepfake检测算法跟踪目标面部的细微运动，来源：The Verge）

当技术靠不住时，如何减少假视频传播带来的负面影响成为重中之重。为此，《纽约时报》提出“我们不能再相信目之所见”的观点。评论认为，人们通常认为视频内容就等于能感知到的事实，但随着Deepfake技术的出现，制作假视频的能力将和说谎的能力一样普遍，我们应该将各种视频资料看作是“证词”而非“感知”，只有在信源可信时，才能相信这些音视频材料的真实性。因此记者要养成追查网络内容创作者身份的习惯，才能在各种Deepfakes全部到来之前确保我们已经完全准备好了。

人权组织Witness的项目经理Sam Gregory在《麻省理工科技评论》中建议，为Deepfake提供工具的公司和研究人员也必须投资到对策研究之中，同时社交媒体和搜索公司应该将这些对策整合到平台中。

Deepfake法案的顾问Mutale Nkonde还督促监管者出台相应措施，“除非政府找到方法保护消费者的权利，像Deepnude这样的的应用会越来越泛滥。”

随着大量类似应用的产生，政府出台了相关法律进行规制。据《纽约时报》报道，截止2019年初，美国41个州已经禁止了生产和传播报复性色情信息，限制应用程序的滥用。The Verge网站发现，美国维吉尼亚州已经正式扩大了对未经授权的色情作品的禁令，包括由Deepfake生成的假视频和假照片，最高可被判处12个月监禁和2500美元的罚款。得克萨斯州已经通过了相关法案禁止Deepfake在政治选举上的滥用。纽约州立法者禁止公众未经他人同意创建“数字复制品”。

原文链接：https://mp.weixin.qq.com/s/5ozMqfnMKR0qtO5_z5mEJw

编辑：董莉

刘海明

【案例】

过度采集信息、侵犯用户隐私、滥用数据牟利——三问网络信息安全

导读

打开新闻网站，广告区会出现自己关注过的产品；打开手机，会经常收到各类广告短信；接到一通电话，对方在推销或是诈骗中竟能直呼其名……大数据时代，互联网为人们带来便利的同时，也给网民隐私保护带来威胁。随着各类用户信息泄露事件的发生，社会越来越关注网络信息安全问题。

用户的信息该谁做主？谁在侵犯网民信息安全？有关部门如何打击相关行为？

用户信息该谁做主？

近日，北京市朝阳区人民法院审理了一起网络招聘平台“智联招聘”员工参与倒卖个人信息案。该案涉及公民个人信息达16万余份，一份简历标价5元左右。这一案件引发网民对个人信息安全保护的担忧。记者注意到，有网友在微博留言：“赔钱吗？找个工作一天接几百个贷款电话”“我都工作一年多了，还在被骚扰”。

冰冻三尺非一日之寒。网民集体愤慨的背后，是对长期以来网络信息安全问题频发的不满。记者在社交网络平台上检索分析网民因信息泄露受到的骚扰和危害，主要包括几个方面：经常收到垃圾短信和营销电话；被诈骗份子频繁骚扰；身份被冒用、个人名誉受损；账号密码被窃造成财产损失等。

这些乱象，除了因为不法分子买卖用户个人信息，也与网络平台过度收集用户信息有关。《中华人民共和国网络安全法》明确规定，网络运营者不得收集与其提供的服务无关的个人信息。未经被收集者同意，不得向他人提供个人信息。显然，从法律角度来说，收集哪些信息、信息怎么用，应该由网民自己做主。

然而，现实中实现“用户做主”却非常困难。一方面，用户在使用互联网软件时，通常需要阅读一份冗长的“隐私条款”，用户很难识别这些条款中的“坑”；另一方面，如果不同意这些“隐私条款”或是不开通相关权限，用户将无法使用这些应用。这就近乎在用一种霸王捆绑的方式强制用户同意对自己信息的使用。

谁在侵犯网民信息安全？

大数据时代，数据就意味着行业资源和商业财富。如今，中国正孕育着一个全球最大的用户数据市场。中国互联网络信息中心（CNNIC）发布的数据显示，截至2018年底，中国网民数达到8.29亿，手机网民8.17亿，互联网普及率为59.6%。

商业利益驱动着各类互联网平台收集海量用户数据，并进行商业开发。其中，移动手机应用对网民信息安全方面的危害日益凸显。

有媒体曾统计2015年至2018年工信部公布的检测发现问题的应用软件名单，有695款手机应用存在违规收集使用用户个人信息等行为。中国消费者协会的测评报告则显示，参与测评的10类手机应用普遍存在涉嫌过度收集个人信息的情况，比如，约六成涉嫌过度收集用户位置信息。这些软件存在对外提供个人信息时不单独告知并征得用户同意，未明确告知用户如何更正个人信息和撤回同意等情况。

比过度收集用户信息更难规避的是对用户信息使用边界的界定。记者下载百度搜索手机应用，并打开《百度隐私政策总则》。其中内容显示，百度收集的个人信息除了用于改善产品和服务、数据分析和研究之外，还会与“授权合作伙伴”共享用户的“某些信息”。这些合作伙伴包括“服务平台或服务提供商”“软硬件/系统服务提供商”和“广告、咨询类服务商/广告主”。

虽然百度宣称会对用户画像进行“匿名化处理”，并与这些公司“签署严格的保密规定”。但将这些信息提供给广告主等“合作伙伴”的行为是否有违《中华人民共和国网络安全法》，显然有待查证。

如何打击相关行为？

相对于网络信息安全的纷纷乱象，社会更关注的还是如何解决网上信息“裸奔”、切实保护网民信息安全的问题。

就目前来看，解决这些问题的途径主要包括技术和监管两个方面。在技术方面，加强应用审核已经成为各大应用分发平台的共识。各类网络运营商在不断加强人才和科技投入，持续升级网络安全系统，稳固网络后台，保护访客隐私。在监管方面，今年1月，中央网信办、工业和信息化部、公安部、市场监管总局四部门组织开展了APP（应用程序）违法违规收集使用个人信息专项治理。

工信部网络安全管理局相关负责人表示，目前专项治理工作取得了阶段性成效，通过对百余款用户投诉量大、社会关注度高的APP进行检查评估，发现存在强制授权、过度索权、未经同意收集个人信息和对外提供个人信息等典型问题，并督促企业及时整改。

日前，工信部印发了《电信和互联网行业提升网络数据安全保护能力专项行动方案》，明确提出“基本建立行业网络数据安全保障体系”的目标，要求今年10月底前完成全部基础电信企业（含专业公司）、50家重点互联网企业以及200款主流APP数据安全检查。同时，还明确了5个方面的重点任务，包括加快完善网络数据安全制度标准、开展合规性评估和专项治理、强化行业网络数据安全管理、创新推动网络数据安全技术防护能力建设、强化社会监督和宣传交流等。

专家表示，除了技术和监管手段之外，发挥行业协会和企业主体作用，提升开发者自律意识，提升网民信息保护意识，加强网络生活自我保护，也是重要一环。

原文链接：https://mp.weixin.qq.com/s/hLDppd7hoC8CdeyU9EUrFg

编辑：董莉

刘海明

【案例】

把命交给5G手术，你敢吗？

作者：张雪

来源：CV智识（ID:CVAI2019）

对于一个普通人来说，接受手术是一件多少需要信任和勇气的事情。毕竟这世上没有万无一失的手术，风险总是与手术并存。

古往今来，为求名医做手术的例子不胜枚举，可见，在手术这件事上，人与人之间的信任是靠技术与口碑建立的，那么人与冰冷的5G技术、与机器人之间的信任又该如何建立呢？

2019年初，今年1月，福建省一名外科医生利用5G网络，操控30英里外一个偏远地区的机械臂进行手术，成功切除了一只实验动物的肝脏。

由此，我国5G手术正式进入应用落地期，各种类型疾病的首例5G手术接连刷屏，各种新兴技术与5G结合的手术案例也不断涌现。

在医疗领域，5G网络的低延时、高速度以及大带宽的特点首次满足了远程呈现、甚至远程手术的要求，能保障手术即时画面直播的动态实时共享，为远程医疗带来了创新性的变化。

现在的5G手术究竟进展到了什么程度？人们究竟能不能放心地将自己的命交给5G技术呢？当下的种种疑问与5G手术的热闹现状，形成了强烈而刺眼的对比。

从国内首例5G远程手术说起

近日，CV智识记者就在现场目睹了一场远程5G手术的过程，观看期间，全场都一直在用手机录直播视频，同时还要边听现场讲解，边看直播画面，生怕错过什么关键环节。

令人印象最为深刻的是，即使CV智识记者离大屏幕的距离已有数十米，但是依然能够清晰地看到，主刀医生的步步操作，还包括血管脉络和手术刀的位置。

不过，提到5G手术还要从我国的首例开始讲起。

3月16日，我国首例5G远程手术在北京进行。这是我国首次通过5G网络，成功实现了一起帕金森病“脑起搏器”植入手术。

本次5G远程手术用时近三小时。

位于海南的神经外科专家凌至培主任，通过中国移动5G网络实时传送的高清视频画面，远程操控手术器械，成功为身处中国人民解放军总医院的一位患者完成了“脑起搏器”植入手术。

在手术过程中，两地专家通过4K高清视频会议系统部进行方案讨论，利用5G网络大带宽、低时延的特性，保障了患者即时数据和历史诊疗数据的动态实时共享，同时通过软件远程精准控制机械臂，成功为病人完成手术，有效提升远程会诊系统的诊断准确率和医疗指导效率。

凌至培表示：“我在北京和海南两地轮换工作，本次手术是在海南工作期间，有北京的帕金森患者需要进行手术，且患者不宜飞往海南。借助中国移动5G网络的保障，首次实现了海南、北京两地远程手术，解决了4G网络条件下手术视频卡顿、远程控制延迟明显的问题，手术近乎实时操作。”

凌至培回忆手术过程时说道，“几乎没有延迟卡顿的现象，我们可以与病人在手术室面对面的对话，声音交流就像我站在病人边上进行手术一样，甚至感觉不到病人远在3000公里之外”。

但是，从大众角度来看，这台首例的5G远程手术与大众想象中的5G远程手术还存在较大差距。

业内人士分析称，首先，主控方在中国人民解放军总医院三亚分院，患者在北京总院，远是远了，但明显是控制方与被控制方颠倒了。应该是患者在三亚，主控方在北京才合理。

另外，主控方采用的是视频会议的模式，而不是远程实时控制控制的模式来进行远程手术。换句话说，只是进行手术的远程指导，而不是手术的远程操作，这与真正意义上的远程手术还是有显著差别的。

不可否认的是，这场5G远程手术虽然不如预想之中的科幻，但确实是我国基于5G技术进行远程手术的首次尝试，而且结果较为成功，目前患者已经健康出院。

据不完全的统计，现在我国进行的5G手术已经多达几十起，只是在5G技术的应用程度上略有不同，综合来看，大多是基于5G网络现在比较成熟的低时延、高带宽、超高清的特点。

而这只是5G在医疗领域应用的开始，将来5G对远程手术机器人的操控，以及AR（增强现实）和VR（虚拟现实）在手术中的应用等都会起到很大的作用。

从VR手术教学到MR手术实施

随着5G技术的进一步发展，在医疗领域之中，5G与其他技术的融合也越发成熟，像5G+VR，5G+AR和5G+MR等字眼越来越频繁地出现在了人们的视野中。而这也反映出了5G手术的进展与转变。

此前，南昌大学二附院5G+VR医疗教学点进行了江西省首次通过5G+VR技术现场手术示范的转播。

现场通过会议系统和该院院长刘季春进行视频连线，由刘季春对观摩的医护学生讲解，而手术室则全程正常手术，改变了以往教学时需要在手术室的状况。

当天的手术示范教学是一台心脏手术，示教的主要目的是通过5G+VR技术，把手术室正在进行的手术进行实况转播，视觉清晰、画面逼真，使同学们如同现场观摩，身临其境。

“今天体验效果非常震撼、非常棒。”作为此次手术的主要参与者，南昌大学二附院心胸外科医师熊刚说。

“5G技术让手术台上的医生感受不到有任何的延迟，大家带上VR眼镜有种身临其境的感觉，完全颠覆了传统的医疗教学，手术操作的每一步，医护人员都看得非常的清楚和直观。”

在VR技术中，语音识别、视线跟踪、手势感应等都需要低延时处理，所以优质的VR体验对网络环境也有很高的要求。VR的情景体验是为了更接近真实，需要非常细致的纹理和质感，而在5G网络下这种目标很容易实现。

“5G+VR技术对推动医疗卫生事业发展，尤其是对医学教育、医疗技术的下沉，对基层的传帮带都起到很大的作用。”刘季春补充道。

当然，这些技术如果只停留在教学阶段是远远不够的，新兴技术带来改变的更多意义应该在实践上。

近日，一则“5G奶奶”接受乳腺手术的消息，就是“纸下用兵”的成功案例。

7月3日上午9时，江苏省浦口分院手术室已做好了一切准备。另一端，远在20公里之外的省人医本部会议室内，普外科江平主任医师团队正在向本部“指挥室”的省人医党委书记、乳腺外科专家唐金海教授汇报病情。

在手术前一天唐金海团队利用MR（混合现实）技术，在5G的辅助下，与手术团队进行了详细周密的术前方案讨论。

经过人工智能三维重建后，患者的CT图像被“翻译”成一幅乳腺3D图像呈现在显示屏上。

在省人医本部会议室里，唐金海头戴智能设备，通过手势旋转图像，并同步向团队解释手术相关要点。团队成员均表示，这项技术可以清晰直观地看到肿块大小，对接下来的手术操作会起到很好的帮助。

相比于VR来讲，MR最大的特点在于虚拟世界和现实世界可以互动。本部现场，在5G+ MR（混合现实）远程技术支持下，唐金海在虚拟现实投影板上的手术视野上进行切口设计，准确地画出手术切口部位的线段，“精准指导”浦口分院手术团队的手术路径。

确认无误后，唐金海随即宣布：手术开始！一场无声的战役随即在5G和MR的加持下悄然打响。

唐金海目不转睛盯着屏幕，画面中视野清晰无卡顿。画面另一头，浦口分院手术团队按照术前既定的手术方案开始手术。主刀医生不时通过平板设备与20公里以外的唐金海对话。

“对，就这样切除，非常好！”唐金海频频点头也不忘时刻提醒着：“注意这根血管，小心点……”“皮瓣厚度如何把握？”“肋间臂神经是否保留？”……手术过程中，浦口那端实时提问，本部这端唐金海及时解答。2小时后，肿瘤被成功切除。

“基于混合现实远程手术，很大程度上解决了因物理距离病人无法享受优质医疗资源的问题。随着医学混合现实和5G技术的成熟，远程手术操作的延迟显著降低，极大提升医生操作体验与手术质量，也将助力远程医疗技术的真正普及。”

唐金海表示，5G+MR将让大医院与基层医院之间的会诊更加普及，可广泛应用于各类疑难重症的诊治，推动更多优质医疗资源下沉。

而如今接受了国内首例5G+MR远程实时乳腺手术的“5G奶奶”已经恢复良好，即将康复出院。

从端到端的人对人指导到三地的机器人协作

在被媒体广泛报道的众多国内首例5G手术中，远程实现人对人的实时指导，已经不是什么稀奇事儿了，但是我国首例实时5G远程手术指导演示，却是在6月底才真正出现。

6月28日，CV智识在MWC19上海5G峰会上见证了这场正在进行的实时的5G远程手术指导。

通过5G超高清直播，一台由上海市东方医院肛肠外科主任主刀的直肠NOSES手术呈现在上海新国际博览中心医疗高峰论坛的高清电子屏上。

主持人介绍完毕后，全场数百人瞬间安静，屏息注视着大屏幕，仿佛自己是那个即将接受手术治疗的患者，既紧张又激动。

在手术直播云平台上实现4K 3D腹腔镜影像以及多路4K手术视频的多方实时共享及交互，远端专家可同步看到4K腔镜画面及超高清画质的手术直播场景。

“现在是在动脉上面进行操作，已找到了正确的平面，可以看到这里面有神经。现在需要去保护神经，这对于患者后续的生活品质，都是有非常重要的作用。”

在5G网络下，在患者完全同意的情况下，巴塞罗那临床医院胃肠手术服务负责人Antonio de Lacy博士在上海新国际博览中心的场馆里，为上海东方医院手术室提供了远程实时指导。

“5G最大优势在哪里？它没有卡顿，整个音频和视频的传输相当好，毫无卡顿和延迟，手术进展是非常好。”场馆里传来医院现场执刀医生的手术感受。

而这也是首次在中国进行的实时5G远程手术指导演示。在短暂的手术指导演示结束后，全场响起了热烈的掌声，大家在感叹技术的力量的同时，也感到自己荣幸地见证了历史。

现场讨论环节，上海东方医院副院长表示，“5G时代，患者只要上了救护车，就等于已经进了手术室。5G提供的超低时延和超快速度，可以使我们在医院的医生实时对救护车内的情况进行指导和监控，所有的患者监测数据也都会实时进行传输。”他认为，5G极有可能改变未来的医疗模式。

“以往用VR看手术直播总觉得有点头晕，现在5G技术下的VR几乎是身临其境，所有手术细节都一目了然。”进修医生张恒在观摩时感叹道。

然而，单单的远程对人指导，仿佛不能够满足人们对于5G远程手术的想象。那么5G技术、人工智能、医学装备三者集合出怎样的医学现象呢？

近日北京积水潭医院借用5G技术成功实施了“一对多实时手术”，北京积水潭医院院长田伟在医院的机器人远程手术中心，通过远程系统控制平台与嘉兴市第二医院以及烟台市烟台山医院同时连接，这是全球首次骨科手术机器人多中心5G远程手术。

北京距离嘉兴约1240公里，距离烟台约726公里，远距离实时遥控机器人手术网络传输技术至关重要，要知道，即使网络延时只有几秒，都有可能给患者带来致命的风险。

“多远的距离都归为零。”田伟说，“我感觉就像在自己的手术室里做手术。”此次手术也标志着我国5G远程医疗与人工智能应用达到了新高度。

两台手术同时开始，两个分中心的手术核心环节交替进行。

嘉兴市第二医院患者的病情，是传统的手术无法精确判断的骨折线，手术失败概率极大。但采用机器人手术引导，手术中就可以精确设计螺钉长度和置入位置，缩小手术失败概率。手术10分钟后，第一根椎弓根螺钉已经置入完毕。

烟台山医院患者是一名胸椎椎体爆裂骨折患者，这个手术对置入螺钉的要求非常高。此次利用机器人手术，不但可以置入，而且非常精确。

手术仅仅进行半个多小时后，两台手术的核心环节就已经全部顺利完成。这是传统的手术无法企及的。

“我在积水潭医院都不能做到一个人同时完成两台手术，但通过5G多中心可以同时控制两台手术。”田伟说，“过去机器人手术很难进行远程操作，主要就是因为时延。现在在5G网络下，真正实现了远程操控骨科手术机器人实时手术。”

我国的医疗均质化不够，各地的医生经验能力有差距。以往医生需要远程奔波到外地学习，回到本院后也不能保证医疗水平的均等。现在“5G+机器人”这种组合手术，让患者在家门口就可以享受到高质量的医疗服务，这对我国分级诊疗制度落地及智慧医疗建设具有标志性意义。

结语

5G网络除了众所周知的低时延，高带宽、超高清特点外，还有两大“独门秘籍”：边缘计算和切片技术，搭载专用网络管道。

据了解，进行5G手术的医院在单独平面能够享受端到端的专享带宽，不仅网络更稳定性，也为医疗数据的保密性增加砝码，有效保障了手术中高清音视频、患者影像数据、手术方案等数据的快速传输、同步调阅，为5G远程手术顺利开展提供支撑。

而这也进一步打消了患者和医生的顾虑。

5G手术应用步入了快车道，接二连三的落地案例让人目不暇接，各个地方各个病症都在强调首例。但是喧嚣背后，5G技术与其他新兴技术的融合，尚且不能满足人们对于5G手术的想象。同时，5G时代，整个医疗的商业模式还将成为新的思考命题。

原文链接：https://mp.weixin.qq.com/s/EXjQnIADbUUGx2xLWuxa_w

编辑：董莉

刘海明

【案例】

拥有人工智能的性爱机器人是魔鬼吗？

上周五，我们有幸邀请到中国人民大学法学院的郭锐老师主讲“人工智能的伦理与治理”，郭老师从“性爱机器人”和“自动驾驶汽车”两个例子入手，激发了听众许多深刻的思考和追问。此外，更有热情的小伙伴加入了我们的讨论，接下来的两期推送就让我们一起来聆听他们的声音吧。

讲座回顾

Content Review

▾

▨AI对于人的主体性的挑战：康德曾非常明确地提出：人任何时候都应该被当作目的，而不是手段。在人工智能语境下，越来越多的数据可以让我们去训练算法，越来越多的算法应用在我们的社会中，人越来越被嵌入到这样一个算法统治的社会环境中，在这样的社会，人的主体性越来越受到挑战，人被工具化这个特性越来越突出。很多工作都是通过人工智能完成的时候，我们就让机器去做很多决定。这些决定过去都是人来做的，然而现在由机器来决定会不会产生问题？人工智能技术对于人的主体性的挑战，很多时候展现在我们对于机器决策的一些反思。

▨性爱机器人产品背后的主奴辩证法：通过性爱机器人这个例子，我们来探讨一些比较深入的伦理与设计问题。主奴辩证法是黑格尔在精神现象学里面提出来的一个非常有趣的想法，有这么一个简单的模型：最早时候是主人让奴隶去工作，他要奴隶去做什么奴隶就去做什么。但是奴隶在他的生产实践的过程中间获得了主人没办法获得的实践知识。所以我们观察一下：最初是主人在控制奴隶，但当奴隶获得了足够的知识之后，他反过来控制了主人，这样主人的控制是不是变成了幻象？换言之，这样一种主奴关系就开始易位。我们用这个主奴辩证法的这个模式来看看性爱机器人。如果你是一个设计者，你要设计性爱机器人的时候，你的目的是什么？为了满足人的性需求，也许让使用者获得最佳的使用感受、最大的性满足。如果你真的实现了这一点，那这样的一个产品到底让人变成了主人，还是奴隶？如果这个产品如此之好，以至于人只有在这里才能够获得你想要获得的满足和享受，人究竟是主人还是奴隶？

▲性爱机器人背后的技术及控制系统

▨性爱机器人产品引发的深入思考：大家有没有发现一个特征，绝大部分的性爱机器人都是女性形象，这是为什么？你或许会说这是一个客观事实，但是这个产品被大家广泛使用的时候，你们觉得会对女性形象产生什么样的影响？当有一个人看着一个普通女性的时候，想到的是某一性爱机器人，这会对人际关系会产生什么样的影响？你本来应该像对待一个人一样来对待她，但是也许因为有这样产品的存在，你不会像对待一个值得尊重的人的方式一样来对待眼前这个人，这是不是一个问题？我们刚才提出来的关于对主体性的挑战，假如这个人已婚，这会对他的配偶有什么影响，会对他的孩子有什么影响？还有，使用的时候你把它藏起来，还是不加掩饰地放在家里？假如有一个人使用性爱机器人后，他发现他上瘾了，这个时候他认为他自己受到了伤害，于是在法院起诉生产和销售了性爱机器人的厂商，他认为这个是产品的质量安全问题，那么他在法院可不可以得到支持？

▲性爱机器人产品引发的深入思考

▨自动驾驶的电车难题：伦理学上有一个古老的电车难题，大部分同学可能都听过。现在我们要讨论的是在自动驾驶汽车上，一个现代版本的电车难题：假如有一种紧急情况，它必须要在车内的乘客和路上的行人的生命安全之间做一个选择。这个系统应该保护车内的乘客，还是保护路上的行人？在千钧一发之际我们做出的选择，不是真正深思熟虑，而是人在紧急情况之下做的决策。也许我们会想，计算机能不能产生一个随机选择呢，我们就让命运决定吧。但是你真的愿意把你的命运，把你的生命交给命运决定吗？当你有能力去做一个干预的时候，要不要放弃你做决策的权力？心理学家弗罗姆，曾提出著名的“逃避自由”的命题。现代人在名义上是自由的，你可以做任何决策。然而在当下，人们都不愿意去做决策，因为他们害怕承担责任。在这种场景下，我们要不要做一个被弗罗姆所批评的，放弃做决策的人？

▨管制语境中的各方平衡：我们看到在传统的管制语境中，最常见的现象是其中总有权利、金钱等其他因素混入，而我们并不希望金钱去扭曲伦理决策，我们如何防止这件事情发生？这是值得我们深思的问题。自动驾驶汽车安全性的问题，应如何解决？对车内的乘客，对路上的行人，怎样保护所有人的利益。在行人和车内乘客的冲突中，我们看到这里面有非常复杂的利益关系，再放到更具体的管制语境中看，通常一个政府机关可以作出这个决策。又或者说政府机关选择不做这个决策，选择不去管制，那意味着什么？他们让各个汽车公司自己去决定，这也是一种管制方式。这很复杂，通过这样的讨论，我们希望人们警醒，在管制语境中商业利益和社会利益的平衡关系。

▲人工智能的伦理与法制涉及的相关话题

听众声音

Voice Of The Audience

▾

❓机器学习需要大量的数据，这个数据必然是来自于其他人类的智慧的结晶，那么此时的机器是否能被视作一个社会公民，它是否具有一个社会公民的身份，从而享有能够去学习社会提供的这些资源的权益，它产生的一些产物是否是侵犯了他人的知识产权？

原文链接：https://mp.weixin.qq.com/s/P7I410jue7IHi1ujMWrZKQ

编辑：董莉

刘海明

【案例】

在德艺双馨的AI面前，老艺术家们会没饭吃吗？

人工智能在现阶段的大招似乎仍停留在“简单任务的极致自动化”。对于去完成那些所谓的具有高度抽象性和创造性的工作，人类达成的共识：AI，它就是一小弟。

但AI在发展“抽象”和“创造”这条路上似乎要走得比我们想象的快了不少……不信你看……

   

无脸肖像

人工智能AICAN和它的创造者艾哈迈德•艾尔戛玛  (Ahmed Elgammal ) 共同创作

这个能让人联想起地狱男爵和雷神里苏尔特尔的抽象造型就出自AI艺术家AICAN的手笔（由它和艾尔戛玛共同完成）。

AICAN的本质就是一个程序，一套代码，而搞出这套代码的艾尔戛玛，本质就是一程序员。

当然，这位大佬是个德艺双馨的顶配程序员，同时也是美国罗格斯大学艺术和人工智能实验室的创始人兼主任。

艾尔戛玛认为AICAN不仅是一个有自主创作能力的AI艺术家，也可以与人类艺术家合作创造艺术。

这幅无脸肖像所描绘出的这种不可描绘的抽象是不是已经证明了AI可以玩抽象呢？您要是觉得就这一幅画不够具有信服力，还有……

以上4幅画作均为AICAN所创作，出现在2018年12月由SCOPE国际艺术博览会和迈阿密巴塞尔艺术展举办的联合展出上

《圣乔治杀龙》（St. George Killing the Dragon）

由AICAN独立创作

你知道这幅《圣乔治杀龙》卖了多少吗？一万六美金！你看，AI不仅能搞抽象创作，它的作品还具有出众的艺术和商业价值。

那么AICAN凭什么能创作出这些惊人作品呢？

AICAN的设计者们给它的算法喂了海量的图像，这当然是一般机器学习的通用方法，但其与众不同之处在于：

他们并未选择特定的图像来“教会”AICAN某种特定的艺术风格或类型，而是把代表了西方艺术过去5个多世纪的10万多张经典作品全部打包丢给了AICAN。

经历了这种大洗礼的AICAN，就如同一个学完了整个西方艺术史的学霸，不拘泥于一种艺术风格或类型，而是汇通百家，变幻无穷。

只要轻点鼠标给它一个指令，机器就可以在无人类干预的情况下创造出一个图像。

AICAN的作品总能让我们惊讶于它们的类型之宽广，构思之深刻，风格之多变。

AI绘画的老祖宗我们一般认为是Ai-Da，它被认为是首个能够创作超现实绘画作品的机器人艺术家。

Ai-Da拥有多种艺术创作能力，不光会画画，还会雕刻艺术。它可以利用它的人工眼和一对巧手，用铅笔创作人物写生画，这种技能包确实是清新脱俗。

其首幅画作《不确定的未来》（Unsecured Futures）已于7月在牛津大学进行了展出。

Ai-Da作画现场

除了画画，AI艺术家们还会写诗，还会做音乐，再加上它们搞创作时不知疲倦，高产似母猪，我们忍不住要感慨：

这些为艺术而生的AI们，是实实在在的德艺双馨！

那接下来，我们就看看人工智能在其他艺术门类里是如何兴风作浪的。

来自谷歌的AI诗人

---

我们的超然存在

点缀着充满神秘的星空世界

---

上面两行诗来自谷歌最新推出的一个艺术项目——“诗歌肖像”（PoemPortraits）。

它由机器算法生成，该算法以2000万首19世纪诗歌作为训练材料进行了深度学习，从而获得了创作诗歌的能力。

“诗歌肖像”可以在用户的引导下创作独特诗歌（人与机器协同合作）。最终的作品是高度个性化与私人化的，你甚至可以在里面加自拍。

该项目的创作者、艺术家埃斯•德夫林（Es Devlin）告诉我们：

“诗歌肖像”不会复制或重写现有的语句，而是使用其深度学习时的训练材料来构建一种复杂的统计模型。因此，该算法会生成模仿训练对象风格的原始语句。

不过“诗歌肖像”的创作有点看天吃饭的意思，因为有时候它能写得意味深长，有时候不知道说的是什么。

它的另一个特点，也是其过人之处，就是它具有集合累加性：

它能将所有生成的诗行组合在一起，形成一个不断增长的诗歌集，这个诗歌集将会是一本世界人民与人工智能共同打造的鸿篇巨制。

音乐

已经发了专辑的AI作曲人

人工智能虚拟艺术家（Artificial Intelligence Virtual Artist，AIVA）是AIVA Technologies公司推出的AI作曲平台，已经为电影、广告、游戏和预告片配音音乐创作了歌曲，甚至推出了自己的专辑。

AIVA制作的音乐能够表达出人类所拥有的情感，从而打动听众，其水准之高，可以比肩人类最有才华的作曲家的音乐。

用户能够借助AIVA以多种方式合成原始乐谱：

一种方法是上传一个现有的人类乐谱，以此作为合成基础再行制作；另一种方法是使用预置算法（Pre-defined algorithms），预先设定好想要的音乐风格，再生成音乐。

目前来看，AIVA应该是可以在影视制作等产业大展拳脚，改变游戏规则的。

而长远来看，人人借助AIVA创作专属音乐的个性化定制时代似乎也并非海市蜃楼。

现在流媒体网站上已经有了能根据用户的个人爱好及以往音乐作品来推荐音乐的算法。在不久的未来，这类算法可能就会被用来为每一个用户量身打造他们的专属音乐。

未来：挑战 or 机遇

以上展示的AI艺术品只是机器和算法创造力的惊鸿一瞥，人工智能的极限究竟在哪儿？人工智能创造力的发展，对未来的工作、教育和人类社会将会产生怎样的深远影响？

许多人都在担心AI发展的潜在威胁，这并非无由。我们必须问自己，当一个机器能够完成我们认为复杂、抽象、创造性的任务，人类将扮演什么角色？

与此同时，这些作品也在一定程度上表明，AI艺术家的发展并不等同于人类艺术家掉饭碗。相反，它为扩展和超越人类创造性极限提供了一个良机，人类和机器合作迸发的火花给我们带来的是前所未有的新奇与震撼。

我们一直在用技术促使人类超越自身的生物限制：我们用望远镜来扩大视野，用飞机来克服地心引力上天，用智能手机来帮助我们超越时空与他人联系……同样，我们创造的机器人不是与我们对立的敌人，而是我们思维的延伸。

你瞧，现在我们已经可以利用机器来扩展我们的创造力，不断超越艺术创作的极限了！

原文链接：https://mp.weixin.qq.com/s/cHiD30kXbqp7yM5HRWe8HQ

编辑：董莉