人工智能与新闻业案例集锦

刘海明

【案例】谷歌“夜莺计划”曝光：秘密采集数百万医疗隐私数据，医生患者毫不知情

原文来源：新智元

原文链接：https://mp.weixin.qq.com/s/RkbGui2gknHjvVuHgY2rQA

【新智元导读】今天，外网的一则新闻炸了。据外媒报道，谷歌在21个州秘密收集了数百万份患者病历，这项工作被称为“夜莺计划”，而医生和患者对该计划毫不知情。来新智元 AI 朋友圈和AI大咖们一起讨论吧。

今天，外网的一则新闻炸了：谷歌在美国21个州秘密收集了数百万份患者病历，被称为“夜莺计划”(Project Nightingale)。而且，医生和患者对该计划都不知情。

《华尔街日报》报道说，该计划搜集的数据包括“实验室结果、医生诊断和住院记录等，并包括完整的健康历史，以及患者姓名和出生日期”，而且谷歌可能有多达150名员工可以访问这些数据。

《纽约时报》证实了这一报道的大部分内容，并写道“数十名谷歌员工”可能有权访问敏感的患者数据，并且担心某些谷歌员工已下载了其中一些数据。

报道中透露，谷歌正在利用所搜集的数据设计软件，利用“先进的人工智能和机器学习”来定制个人患者的医疗服务。

谷歌长期以来对进军医疗领域野心勃勃。去年，谷歌聘请了一位负责医疗部门的高管来监督其许多医疗计划。大约在同一时间，他们宣布合并DeepMind Health部门，目标是创建一个“护士和医生的人工智能助手”。

此前，谷歌还被指控通过芝加哥大学医学中心不当访问数十万份医疗记录。谷歌于2017年与芝加哥大学医学中心合作开发的机器学习工具能够“准确预测医疗事件——比如病人是否住院，住院多久，以及他们的健康是否恶化，例如感染、肺炎、或心脏衰竭”。

“夜莺计划”：就诊立即被搜集数据，医生病人毫不知情

这项代号为“夜莺计划”的项目似乎是迄今为止硅谷巨头们以处理患者的医疗数据的方式进军医疗行业的最大努力。亚马逊、苹果和微软也在积极推进医疗行业，尽管他们还没有达成类似谷歌这样的协议。

内部文件显示，谷歌去年与美国最大的天主教医疗系统Ascension——包括2600家医院、诊所和其他设施——秘密地启动了夜莺计划，并且，自今年夏季以来，数据共享正在加速。

该计划涉及的数据包括实验室结果、医生诊断和住院记录等，并涵盖完整的健康历史，包括患者姓名和出生日期。

“夜莺计划”是如何获取和处理数据的呢？

首先，病人到医院、诊所或老年人护理中心就诊。

然后，医生/护士对病人进行检查，将数据输入电脑。

被共享的数据包括：

姓名

出生日期

地址

家庭成员

过敏史

免疫接种

放射学检查

住院治疗记录

实验室测试

药物

医疗条件

最后，数据立即流入谷歌的“夜莺计划”系统。这个系统会产生以下结果：

治疗计划、检查建议、标记治疗中的异常偏差。

为患者更换或增加医生的建议。

开药建议。

针对不同的程序收取更多费用。

根据《华尔街日报》，谷歌被指责的重点是，病人和医生都对这些一无所知。据一位知情人士透露，至少有150名谷歌员工已经获得了数千万患者的大部分数据。

谷歌欲创建先进AI医疗系统，亦是云部门增收手段

被曝光后，两家公司在一份新闻稿中表示，该项目符合联邦医疗法规，对患者数据进行了有力保护。

知情人士说， Ascension 内部的一些员工对数据收集和共享的方式提出了质疑，无论是从技术角度还是从伦理角度。但隐私专家表示，根据联邦法律，这似乎是允许的。1996年通过的《健康保险隐私及责任法案》一般允许医院在不告知患者的情况下与业务合作伙伴共享数据，只要这些信息“仅用于帮助受保实体履行其医疗保健职能”。

谷歌使用这些数据的部分目的是设计新的软件，该软件基于先进的人工智能和机器学习为基础，为个体患者的治疗提出建议。内部文件显示，Alphabet公司的员工、以及谷歌大脑的一些员工都可以访问患者信息。

谷歌云总裁Tariq Shaukat表示，公司在医疗方面的目标集中在“最终改善结果，降低成本和挽救生命”。

Ascension的执行副总裁Eduardo Conrado说：“随着医疗保健环境的快速发展，我们必须进行变革，以更好地满足我们所服务的人以及我们自己的医生护士的需求和期望。”

谷歌和非营利组织Ascension有着相似的财务动机。到目前为止，谷歌已经向夜莺计划派出数十名工程师，但没有收取任何费用，因为它希望利用这个框架向其他卫生系统销售类似的产品。文件显示，谷歌的最终目标是创建一个综合搜索工具来聚合不同类型的患者数据，并将所有数据都放在一个地方。

这个项目由Google Cloud部门执行，其市场份额落后于亚马逊和微软等竞争对手。谷歌首席执行官Sundar Pichai今年曾多次表示，为云计算找到新的增长领域是当务之急。

文件还显示，谷歌还希望挖掘数据，以确定患者可能需要的额外检查，或通过其他方式，让该系统从患者身上获得更多收入。

与许多硅谷同行一样，谷歌有时也因为在保护用户隐私方面做得不够而受到批评。去年9月，该公司旗下的YouTube部门同意支付1.7亿美元罚款，并改变做法，以回应有关其非法收集儿童数据以出售广告的投诉。尽管YouTube既没有承认也没有否认存在不当行为。

此外，去年，谷歌被曝没有向用户通知其社交网站Google+存在的一个漏洞，导致暴露了上千万用户的出生日期、联系信息和其他个人资料，部分原因是出于担心该事件可能引发监管审查。谷歌当时表示，决定不通知用户的做法超出了法律要求。

拉里·佩奇：担心自己医疗记录隐私的患者过于谨慎

监管机构目前正从多个方面对该公司进行审查。今年夏天，联邦和州调查人员分别对谷歌进行了公开的反垄断调查。知情人士说，联邦调查正在调查谷歌现有来自其搜索引擎、家庭音箱、免费电子邮件服务和许多其他产品的大量数据是否给该公司提供了相对于竞争对手的不公平优势。

谷歌表示，其产品增加了消费者的选择，并致力于配合调查。今年， Pichai宣传了针对谷歌数十亿用户的新隐私保护措施。

此外，谷歌本月宣布以21亿美元收购可穿戴健身设备生产商Fitbit。Fitbit生产可以跟踪人体心率等健康信息的手表和手环。批评人士警告说，收购Fitbit将让谷歌“深入了解美国人最敏感的信息”。

两家公司表示，他们将对收集的任何Fitbit数据保持透明。

谷歌在“夜莺计划”中分享信息的范围似乎比在其他医疗数据领域更广。今年9月，谷歌宣布与梅奥诊所签署了一项为期10年的协议，存储该医院系统的基因、医疗和财务记录。梅奥的官员当时表示，用于开发新软件的任何数据在与这家科技巨头共享之前，都将删除任何可以识别患者个人的信息。

谷歌成立之初的目标是组织全世界的信息，从一开始，医疗就一直是该公司高管们的兴趣所在。Google Health是一项将现有医疗记录数字化的初步尝试，在经过三年的采用后，于2011年被关闭。自那以来，Alphabet已向旗下Calico和Verily部门投入了数百万美元，这两个部门分别致力于对抗衰老和控制疾病。

谷歌联合创始人拉里·佩奇在2014年的一次采访中表示，担心自己医疗记录隐私的患者过于谨慎。佩奇说：“人们没有真正去思考，以正确的方式和正确的人共享医疗信息可能带来的巨大好处。”

编辑：吴悠

刘海明

【案例】经济日报聚焦人脸识别：是否安全？边界何在?

原文作者：陈静

原文来源：经济日报

原文链接：https://m.thepaper.cn/newsDetail_forward_4931487?from=groupmessage&isappinstalled=0

在河北邯郸市滏东美食林超市，一名消费者正展示“刷脸支付”后打印出的购物小票。 （新华社发）

日前在上海举行的GeekPwn2019国际安全极客大赛上，两位选手在参加人脸识别攻击模拟赛。 新华社记者 陈建力摄

属于计算机视觉的人脸识别，几年来取得了突破性进展，成为人工智能最热门的风口之一——刷脸支付、刷脸取快递、刷脸安检、刷脸入住酒店……“靠脸走遍天下”正在成为新技术带给人们生活和工作的“新常态”，一个个新的应用场景被开发出来。

因为不满动物园强制入园“刷脸”，浙江理工大学特聘副教授郭兵将杭州野生动物世界告上了法庭，理由是“保护隐私”。围绕这起“人脸识别第一案”，人们展开了对人脸识别技术边界的大讨论。

如今，我们的脸成了钥匙、公交卡、身份证……来自国金证券行业研报显示：全球40%的人工智能企业都涉及计算机视觉。另有市场咨询公司预测，2019年全球人脸识别市场的规模预计为32亿美元，到2024年该市场规模将达到79亿美元，复合年增长率高达16.6%。

但是，花海之下亦有荆棘。今年8月，人工智能换脸应用“ZAO”因违规收集人脸信息引发风险争议；今年9月，旷视科技因为几张演示教学监控人脸识别应用的PPT被骂上了微博热搜。全球范围内，争议同样存在，亚马逊的人脸识别门铃专利因涉嫌侵犯隐私遭到强烈抗议，微软则索性删除了自己最大的人脸识别数据库。

在隐私、安全和便利三者的平衡上，人脸识别技术到底应当恪守怎样的“游戏规则”？

“不知不觉”的“识别”

杭州野生动物世界对郭兵的回复颇有意思，动物园称，之前郭兵办理年卡时已经登记了真实姓名、电话、住址和身份证信息，甚至采集了指纹，“为什么只有人脸识别算作侵犯隐私呢？”

这实际上说出了公众对人脸识别的担忧之一。尽管都是生物识别手段，但指纹识别必须当事人主动配合，而人脸识别却可以“悄无声息”完成。一旦人脸信息被泄露或者滥用，就意味着个人合法权益有可能不知不觉地遭受侵害。

一系列对人脸识别的争议正来自这个“不知不觉”。比如人脸识别在教育领域中的应用，此前，中国药科大学表示要试点在教室安装摄像头刷脸考勤，并对学生课堂听课情况全面监控。“这些应用的做法很类似，就是每隔一段时间用摄像头扫描一次学生的脸，采集和分析他们的姿势、表情，并以此作为判断的依据。”教育部科学技术司司长雷朝滋随后回应称，要对人脸识别或者肢体识别的教育应用加以限制和规范，并希望“学校慎重使用”。

那么，从法律上讲，人脸信息到底如何定义？中国政法大学传播法研究中心副主任朱巍对此解释说，根据《网络安全法》相关规定，人脸识别信息属于“直接可识别”到个人身份的信息。所以，“人脸识别信息的性质并非知识产权的大数据，而是被依法纳入到隐私法范畴的个人敏感信息”。

在保护个人隐私方面，使用人脸识别信息的大原则也正是与“不知不觉”相对应的“知情同意”。中国法学会消费者权益保护法研究会副秘书长陈音江表示：“经营者必须要在确保信息安全的前提下，事先经过消费者同意并告知其使用方式和使用范围后，才能采集人脸信息。”朱巍则补充说：“用户应充分知情，并保障自己的选择权和退出权。此外，用户应享有删除权、更正权、控制权和注销权，这些基本权利是个人信息合理使用的前提。”

“刷脸”是否安全

除了对隐私的担忧，公众对人脸识别技术另一方向的忧虑来自于技术本身的安全。此前，浙江小学生发现打印照片就能代替“刷脸”，骗过小区里的丰巢快递柜的新闻，似乎正是其“不靠谱”的写照。

但果真如此吗？与对隐私的担忧相比，对“刷脸”技术本身安全性的忧虑却有恐慌之嫌。有人脸识别专家告诉经济日报记者，实际上快递柜能被照片蒙骗，主要是因为其中并未加入活体检测技术，“如今连活体检测都不用就敢‘放出来’的人脸识别技术应用相当罕见”。

从技术本身来看，目前人脸识别分为2D和3D两种技术方案，以支付宝和微信的“刷脸支付”为例，两者使用的都是3D人脸识别技术，会通过软硬件结合的方法开展检测，来判断采集到的人脸是否为活体，可有效防范视频、纸片等冒充。

银行卡检测中心金融科技研究室主任李博文表示，拿支付场景来说，人脸识别必须包括活体检测、终端安全、辨识算法和信息保护几项技术，“按照《人脸识别线下支付安全应用技术规范（试行）》，在万分之一误识率下的识别通过率为98.3%，十万分之一误识率下的识别通过率为98%”。这就意味着，机器识别的准确性超过人工。

“人脸识别服务商还通过诸如绑定设备，有人值守应用场景和多维校验方式增强人脸识别安全性。”奇安信网络安全研究中心主任裴智勇表示。

然而，人脸识别技术本身的安全与数据安全又不是一回事。人脸识别技术供应商瑞为科技首席技术官何一凡表示，安全问题可能并不与人脸识别这样的生物识别技术直接相关，而是在线上服务和交易系统中对敏感数据采集、存储、使用以及共享等环节出现的问题，“这就和所有的信息泄露一样，属于系统安全问题”。

答案并非“三选一”

既然如此，为了保护隐私和安全，不“刷脸”不就行了吗？

然而，《关于防止未成年人沉迷网络游戏的通知》刚刚下发，其中规定“每日22时到次日8时不得为未成年人提供游戏服务”，如何真正令行禁止，依然要靠人脸识别。多家游戏厂商已表示，在原有身份证认证的基础上引入人脸识别技术，以加强关于网络游戏账号实名注册的监管。

在深圳，去年有超过一万名退休老人通过“刷脸”领取养老金。“百姓少跑腿，数据多跑路”，“刷脸”在多项“互联网+政务”服务中完成着其他技术难以取代的重要工作。在新技术快速推广和使用的过程中，隐私、安全和效率“三选一”，答案并非真能如此简单粗暴，真正有效的方式是找到三者之间平衡的那个点，画下一条“红线”。

这条线当然来自企业自律。腾讯方面曾表示，在支付场景的人脸特征采集，要坚持“用户授权、最小够用”原则，提前告知信息使用的目的和方式，明确获得用户授权同意，避免采集与需求无关的特征，同时坚持“表达意愿、严格确权”原则。

这条线更应该来自监管。目前，各国都在尝试用法律为人脸识别技术的应用指引方向。在我国，《个人信息保护法》也已被纳入十三届全国人大常委会立法规划。西南政法大学副教授蔡斐表示，在法律框架下，对人脸识别技术的大规模使用可以提出“必要性原则”“比例原则”“正当程序原则”，甚至在某些特殊场景下考虑设立禁用“黑名单”制度，用制度的刚性来确保“科技向善”。

中国警察法学研究会反恐与网络安全治理专委会常委副主任秦安则表示，在应用场景之外，对人脸识别服务商的技术安全，同样应该有硬性规定来确保相关安全制度的建立。

编辑：吴悠

刘海明

【谈天说地】【人工智能】剑桥未来智能研究员：人工智能伦理在东西方的 8 大差异

原文来源：智酷实验室

原文链接：

https://www.toutiao.com/i6754980501741666823/?wxshare_count=4&from=timeline×tamp=1573506408&app=news_article&isappinstalled=0&req_id=201911120506480100120651451898C257&group_id=6754980501741666823&pbid=6699053120973374989

10 月 31 日，由北京智源人工智能研究院主办的 2019 北京智源大会在国家会议中心开幕，会期两天。智源大会是北京创建全球人工智能学术和创新最优生态的标志性学术活动，定位于“内行的 AI 盛会”。在下午的《人工智能伦理、安全与治理专题论坛》分论坛上，剑桥大学未来智能研究中心研究员 Danit Gal 在演讲中表示，由于在管理方式、文化、社会等方面的一些根深蒂固的差异，东西方在人工智能伦理方面存在很多不同点，其主要体现在可及性、责任性、控制性、公平性等方面。人工智能伦理在全球范围内更好地分享和落地需要因地制宜，必须要考虑东西方、每个国家文化和社会的不同，不管你使用的是什么样的高端技术，我们需要在背后有一个标准，希望我们的技术在足够强大的同时，也能确保人们以一种正确的方式来使用这些技术，这是我们的终极目标。

Danit Gal 演讲主要围绕人工智能伦理在东西方的差异展开。

实际上在很多情况下，东方是从上到下的管理方式，而西方是从下到上的管理方式。这两个基本的差异会造成很多根深蒂固的文化及社会差异，体现在人工智能伦理方面，东西方亦有诸多不同。

第一点是可及性。我们要确保我们的技术是可及的、可用的，且为全世界的程序开发者所使用。理想的情况下，是全球的人都能使用这样的技术。举个例子，我们不同的数据库里有不同的解决方案。比如说，在中国有不同的数据库，不同的公司也有这样的数据库。如果这个公司想要获得额外的数据，它需要向政府申请，由政府来批准。在西方，我们有不同的公司，有不同的数据库，但谷歌的数据库不会跟苹果分享，虽然有些数据是可以分享的，但是他们的代码是不会分享的。我个人觉得中国的网络安全法更加重要，要优于西方的这些网络安全法。

第二个是责任性。我们要保证我们这些行动和行动所造成的后果是可追溯的。我们要知道这个中间的操作机构应该负起什么样的责任以及谁应该负这样的责任。一个好的例子就是我们现有的这些责任模型的不同。拿滴滴和优步举个例子，旗下司机都发生了谋杀事件，发生这样的事件后，滴滴关掉了它的平台，重新改善之后引入了一个新的管理机制。因为这个是政府强制他们这样做的。

优步也这样做，但它做的路线完全不同。他们只是确保相关的事件不会再次发生，优步并没有把它的平台彻底关掉，进行彻底的改善，他们只是进行了局部的“修饰”。比如说有些好的实践，有些不好的实践，他们避免了不好的实践，保留了好的实践。而中国政府会把一些 APP 列入“黑名单”，把它彻底删除。这些 APP 如果想重新进入市场，需要经过政府的批准。

第三个是可制性。我们这些使用技术的人要能够控制技术。举个好的例子，对于“人对于机器控制的层级架构”，这里的“人”是谁？ 可能是一个公司的技术开发负责人，他应该是最终做决策的。但是在韩国，它有一个决策的层级，在一个特殊的场景中这个人可以做决策，但这个人的上级还有上级，上级还有上级，比如说可能 CEO 是做最终决策的。

因此，我们要了解，不同的社会有不同的架构，不同的社会当中最终做决策的那个人是不同的。我们在这个方面要作充分的考虑。

第四个是可解释性。我们必须要知道我们这个技术是可以解释的、可以被审核的、可以找到因果关系的。比如说，AI 做了一个决定，那谁应该负责任？AI 应该负责任，还是开发者负责任？在一些国家，有观点认为，AI 做出的决策是自动的，应该修改 AI，应该让 AI 负责任。但是，实际上开发这个 AI 的人不需要负责任。

在其他的国家，AI 的开发者和 AI 的使用者都会负一定的责任。这些 AI 的使用者必须要确保他们对 AI 有充分的了解才能使用，所以，他们也需要承担一定的责任。AI 的开发者也需要承担一定的责任，比如当有些不符合伦理的事情发生时，这些开发者必须要负一定的责任。这样做的前提条件就是 AI 的开发者必须要有强大的理解力、强大的技术力、强大的控制力。所以这是一个闭环的追责制。有了可解释性，我们就可以界定谁来负责任，到底是 AI，还是人。但是要做到这一点非常不容易。

第五个是公平性。我们要确保我们的技术是公平的，不会造成一些偏见和不公平的情况。如果一个国家的总人口中有 95% 的人来自不同种族，而另外一个国家基本上人人都来自同一个种族，这两个国家的人口种族分布情况是不一样的。因此，在全世界范围内应用同样的 AI 系统时，我们必须要进行不同的讨论。对具有很大异致性的国家，在设计的时候，我们必须要有针对性的考虑。

第六个是以人为中心。我们要确保我们的设计是以人为中心的。在日本我们有一个例子，日本有一个“社会共同发展 6.0”，谈的是人的尊严以及技术发展具有同等的重要性。现在，我们必须要理解人的未知在哪里，技术的未知在哪里。

就像在南韩，他们有一个人机之间决策的架构和层级，而其他国家却没有这样的架构。所以，我们要明确的是，技术的发展要有人的参与，如果没有人的参与，这个技术就毫无意义。只有把人和技术放到一起的时候，才能为这个技术更好地赋能，更加有力。

第七个是技术或者个人信息的保护。比如我们有一些个人的数据可能在网上都被滥用了。在中国也有数据滥用的状况，为此，中国政府出台了很多的法律法规、很多的政策来保护人的信息安全。如果出现违法使用个人信息的情况，那这些信息一定要被删除。在西方国家不太一样。在西方，谁来保护人们以及“谁是人们”这样的定义是不一样的。这不意味着西方的人没有隐私，而是我们的隐私定义不同。

最后一个是透明性，我们要确保技术的使用是透明的、可追溯的。它对用户透明，还是对政府透明？还是对其他的公司透明？谁需要这么高水平的透明性？

在中国，透明的级别非常直截了当，那就是要对政府透明。亚马逊、谷歌和脸书之间的透明性如何？我们如何防止透明性不够的状况？假如在国会中，有人对扎克伯格说你们公司的透明性不够，在这种情况下，我们谁对此负责，谁应该确保这种透明性？在中国我们是对政府透明，而不是对用户透明。那我们如何确保不同的机构之间都是透明的？如果能做到足够的透明，各个机构就能够知道自己的数据被如何使用。

最后，我想跟大家分享三点：

首先全球通用的这些 AI 伦理原则，它的理论解释其实是一样的，但它们在各个国家落实的情况不一样，但这种落实是一件好事，因为我们有一个全球共享的 AI 伦理理念并不意味着每个国家都应该以同一种方法来行使这样的技术或者是确保这样的伦理，各个国家应该考虑自己的不同情况，需要因地制宜。

第二点是，连接东西方或者是弥合东西方的 AI 伦理鸿沟的下一步是应该基于我们各自国家的特殊的情况以及对于技术的不同的解释，且把我们自己国家的情况放到国际的层面上进行讨论。也就是说，我们要确保如何在全世界、在不同的国家以不同的方式来落实这样的决策。可能这个国家有 A 模型，这个国家有 B 模型，我们使用了同样的方法，使用了同样的模型，但是各个国家对于这个体系的解释是不一样的。

第三点，为了了解 AI 伦理的不同，我们必须要考虑文化和社会的不同。不管你使用的是什么样的高端的技术，我们需要在背后有一个标准，我们希望技术足够强大，同时也能确保人们以一种正确的方式来使用这些技术，这是我们的终极目标。

编辑：吴悠

刘海明

【谈天说地】【人工智能】Magi，百度的代替者？

原文作者：任梦岩  

原文来源：科技富能量  

原文链接：https://mp.weixin.qq.com/s/e2lbMAIAZUCNDbF_QCA-aw

最近各大媒体都在推荐一个全新的搜索引擎Magi（网址 https://magi.com）：

它和你印象中的所有搜索引擎都大不相同。

比如用它搜索词条「易烊千玺」时，会得到这样的结果。

首先，它会提供几个对易烊千玺的关键描述，如「TFBOYS 的成员」、「00 后国民偶像代表」等。紧接着，它列出了关于词条主人的几乎全部的重要属性，包括由他出生年月、参演的影视作品、发表的音乐专辑等。

更有趣的是，magi.com 还答出了易烊千玺的几个近义项，比如他的昵称、代称和他所养的宠物等等。

百度最大的弊端就是，虽然内容全，但会有很多广告和诈骗内容。著名的“魏则西案”不说，就连百度头条都能搜索到“假快递”让人匪夷所思。

为了确保搜索结果的准确性，在Magi搜索到的答案，每一条都会用以绿、黄、红三种颜色表示其可信度从高到低；在答案的右侧则会提供几条链接，用鼠标划过它们即可看到，答案是从哪个/哪几个具体的来源学习到的：

最主要的是，Magi的结果里，答案在正下方，链接跑到了右边，跟主流搜索引擎的用户界面完全是反的。

这就是 Magi 和百度最大的区别：链接对于它不是结果，答案才是。

其实 Magi 并不是传统意义上的搜索引擎，而是一个基于机器学习的知识引擎，它通过检索网络的自然语言文本，将其中的知识提炼出来，形成结构化数据。也就是说，Magi代替的，不是百度，而是百度百科（所有人都能编辑，不靠谱内容很多。）

比如：搜索自己的名字，都是一些有的没的，百科还没有，我自己能瞎编：

但是Magi，给出了现成的例子，来源更加广泛，至少确认，我是记者：

Magi 想要解决的问题是：从开放领域的纯文本当中提取知识，并让其可解析、检索和溯源。

Magi 来自中国团队 Peak Labs，创始人季逸超在开发者圈子内也小有名气。

Peak Labs 并没有计划将 Magi 和 Google、百度之类的主流搜索引擎相提并论。把 Magi 做成一个「搜索引擎」，主要是为了让公众有机会能够体验它背后的技术，感受它能够提供的价值。

即便如此，看起来很像搜索引擎的 magi.com，实力还是不容小觑。事实上，为了这个示范性质的产品，Peak Labs 并没有选择小聪明的方式，从其他搜索引擎抓取结果，而是从零开发了一套互联网搜索引擎。

根据用户输入问题、关键词和表达式的不同，Magi可以用不同的方式来呈现答案——具体的呈现方式也展现了 Magi 系统的能力。

比如，输入「打车软件公司」，Magi 系统可以把它知道的所有手机叫车公司，以「集合」的方式列在答案里。

而在百度上，得到的结果如下。可以看到百度的知识图谱也提供了类似的结果，只是看起来有四、五年没有更新过了（还有快车呢！）：

再比如，如果输入「八角 大料」，Magi 系统会发现这两个关键词其实是同一个东西，它就会以「断言」的形式给出答案。

八角和大料是「近义项」，是「又称」、「也称」的关系。

Magi系统可以 24 小时不间断地进行学习。它的时效性也还算不错，Peak Labs宣称实时新闻当中的知识，Magi只需要5分钟就可以掌握，而且还可以采纳新的信息源进行交叉验证，实现自动纠错。

如果你在 Magi的首页停留一会，就能看到它当前正在学习的链接：

除了自主开发的全网规模搜索引擎以外，Peak Labs 还开发了基于注意力机制的神经信息提取系统，不依赖无界面浏览器的分布式抓取系统（爬虫程序 MagiBot），以及支持混合处理 170 多种语言的自然语言管道。

这四者结合在一起，才是 Magi 系统的全貌。

说不定某一天，你打开浏览器的第一件事儿，就变成了上Magi？

编辑：吴悠

刘海明

【谈天说地】【人工智能】技术预见，遇见善的人工智能

原文作者：斯蒂芬·弗利  

原文来源：博古睿研究院

原文链接：https://mp.weixin.qq.com/s/W3MqHRWS1xOHeUyMLCLbhQ

富裕的慈善家们有一份“问题”清单，上面列满了那些关乎人类存亡的种种威胁，如灾难性的气候变化及流行疾病等。现在这份清单有了新的补充——与人类创造者或将背道而驰的人工智能机器。

人工智能可能会构成“比核弹头大得多的威胁”，电动汽车制造商特斯拉的创始人埃隆·马斯克（Elon Musk）如是说。作家詹姆斯·巴拉特（James Barrat）认为，拥有学习能力却无法对人类感同身受的超人般的人工智能，很可能成为人类最后的发明。

即使机器不会终结人类，我们也有足够的理由担心人工智能将被用以“作恶”。该领域的技术进步如此迅速，而且很明显，对其后果进行透彻预判早已超出了我们的能力范围。

诸如面部识别和能够自主工作的无人机等先进技术，已经将人工智能在战争领域的“潜力”展露无遗，这引发了谷歌等人工智能领域企业员工的担忧。由于内部反对的声音明确而且坚定，谷歌去年叫停了可能用于武器研发的人工智能技术。这也许会让谷歌总部的火药味变得不再那么浓，但人工智能领域的军备竞赛不可能就此止步。

由于目前从事这一领域科研工作的科学家缺乏足够的多样性，舆论还担忧人工智能是否会加剧种族偏见、性别歧视和其他偏见；以及当机器人可以从事人类的大部分工作时，社会将会何去何从？而这些似乎都意味着，慈善家们应该将资源用于推进有关人工智能道德伦理，和站在现在看未来——展开对先进技术发展后果的探讨；以及促进科学、商业和政府，引导人工智能朝着正确、积极的方向发展。此外，慈善家们纷纷将目光集中于人工智能领域的另一个重要原因，就是这个领域本身所具备的吸引力，而这一原因却往往为人们所忽视。

黑石集团（Blackstone）创始人史蒂夫·施瓦茨曼（Steve Schwarzman，又译：苏世民）向牛津大学捐赠1.5亿美元，其中一部分资金将用于“人工智能伦理研究所”的创建。今年6月，施瓦茨曼在接受《福布斯》专访时解释了原因。他表示，自己想成为这次对话的一部分，帮助人工智能系统有能力对自身进行规范与调节，让只想过平常生活的普通民众不至于处于弱势地位。进一步展开，如果（一个人或一些事情）扰乱了人们的日常生活，税收收入就会降低，社会成本从而增加，选举模式也可能会改变……而这些可能会危及国家的根基，并破坏西方民主思想和生活方式。去年，施瓦茨曼向麻省理工学院捐出了一笔更大的资金，支持在那里打造一个全新的人工智能研究中心。

这些出资或许让施瓦茨曼成为了目前世界上对人工智能领域投入最大的捐赠人。在这一领域投资巨大的慈善家还包括eBay创始人皮埃尔·奥米迪亚（Pierre Omidyar），在定居洛杉矶前被称为“无家可归的亿万富翁”的尼古拉斯·博古睿（Nicolas Berggruen），以及领英创始人雷德·霍夫曼（Reid Hoffman）等。然而，在人工智能领域，慈善的力量仍然是有限的。

霍夫曼是OpenAI项目的最大支持者。这个规模巨大的项目是马斯克在旧金山设立的，但他随后离开了这个项目，称该项目与特斯拉的自动驾驶汽车产业存在冲突。OpenAI在创始之初是一家非营利组织，致力于打造一个具有人脑规模的神经网络，即所谓的“通用人工智能”。公司希望通过对其研究成果进行开源处理，使其成为人工智能得以安全而符合道德规范发展的蓝图。

但这也使OpenAI与其他大型科技公司产生了直接竞争，而后者们拥有可以为科技人才和超强计算能力“买单”的资源与财富。去年该公司转向了营利性架构，称其需要数十亿美元的投资。今年夏天，微软向OpenAI注资10亿美元，以帮助后者使用微软的云计算服务Azure。

在人工智能领域，慈善资金的最佳用途似乎是道德伦理领域，而不是技术开发本身。博古睿先生每年出资100万美元作为“博古睿哲学与文化奖”奖金，他似乎成为最热衷于这项事业的人。博古睿研究院“人类变革”项目将哲学家与艺术家置于各种重要的研究场域，以促成他们与技术专家开展对话，旨在“促进人类与非人类的共同繁荣”。而谈到慈善事业，机器人领域可能也需要资金上的支持。

* 英文原文《Philanthropists should treat AI as an ethical not a technological challenge》发表在《金融时报》， 2019年9月5日。

编辑：吴悠

刘海明

【案例】（心理角度）人类对机器人存在合作偏见

编辑：吴悠

刘海明

【人工智能】

高鸿钧：《黑客帝国》的隐喻：秩序、法律与自由

本文由远见塔选编

作者：高鸿钧

在"社会理论之法"的论题中提及《黑客帝国》，犹如在麦当娜的话题中扯上麦当劳，似乎离题太远。然而，当我们注意到以下线索，就会觉得这种联想也许并非牵强附会。在那部影片中，一个黑客去同尼奥私下交易，尼奥从一本掏空的书中拿出一张非法软件，《拟像与仿真》的书名随之闪现。

这个特写镜头暗示影片与作品的潜在联系，也传达了导演对该书作者的敬意。该书作者是是当代社会理论大师鲍德里亚，导演卓斯基兄弟是他的书迷，影片立意、话语和意象无不闪烁着鲍式的思想、洞识与灵感。

另一个线索是，德国的托依布纳是卢曼社会系统论和法律系统论的得力传人，他在《匿名的魔阵：跨国活动中"私人"对人权的侵犯》一文中，所使用的"魔阵"一词是Matrix的中文译名，而Matrix恰是"黑客帝国"另一种中文译名，两者都是对现代社会的隐喻。

1

Matrix是什么？它是母体，是魔阵，是系统，是控制。它是我们最大的敌人，置身其中，四处一望，我们可以见到官员、商人、教师、律师、木匠以及其他芸芸众生。Matrix无处不在：当我们置身办公室、课堂、会场、股市、网络、厕所以及睡梦中，它都如影随形，跟踪着我们，控制着我们。正是这个Matrix蒙骗了我们的眼睛，使我们看不见真相，麻醉了我们的神经，使我们觉察不到虚假。

它禁锢了我们的大脑，使我们失去了反思意识；束缚了我们的手脚，使我们丧失了反抗能力。我们处在战时，却误以为和平；成为了奴隶，却误以为自由；拥抱愚昧，却误以为追求真理。于是，战争即和平，自由即奴役，无知即力量。

在这个系统里，我们是一段被编码的程序，代码决定了我们的功能，架构决定了我们的选择范围。在那里，我们选择程序和被程序所选择，我们甚至选择了超出自己理解能力的选择，而对于选择的真正考验就是再次做出同样的选择，因为人们或者不能预测自己的选择结果，或者对他人的选择结果不能预测。

我们有时知道应该怎样选择，却不能那样选择，有时虽然知道能够那样选择，但又不知道怎样选择。这是一个选择的世界，没有管辖、没有控制和没有界限的世界，一个什么都可能发生的世界，选择就是一切。关键不在于选择什么，而在于使人们感到是自己在选择；关键不在于事实是什么，而在于使人们相信事实是什么。

在这个系统中，没有价值而只有程序，正如景观社会没有本真而只有模拟。程序驱动程序，程序复制程序，程序打劫程序，程序删除程序，程序就是一切，正如模拟复制模拟，模拟盗取模拟，模拟覆盖模拟，模拟就是一切。程序与模拟产生诱惑，诱惑源于诱因，诱因产生意义。没有意义就没有我们的存在，意义创造我们，链接我们，操纵我们，指引我们，驱动我们；意义规定着约束我们的意义，决定着我们所追求的意义。意义即游戏，游戏而陶醉，陶醉而眩晕。

意义自有原因，于是我们去理解各种原因，是原因区别了我们和你们、你们和他们；区别了文明与野蛮、进步与落后；区别了过去与未来，现实与理想。原因是力量的源泉，没有它就没有力量。

然而，原因很快就不再重要，重要的只剩下感觉。感觉是对结果的品味，品味来自刺激，刺激源于诱因，于是我们都是刺激的俘虏和诱因的猎物。凡事都有定期，万物都有定时，生有时，死有时，播种有时，收获有时。有时天行有常，种瓜得瓜，种豆得豆；有时天秩失序，种下龙种，收获跳蚤，孵下凤蛋，跳出秃鹫。只要已经发生的事情就是应该发生的事情，而应该发生的事情未必将会发生。社会是另一种自然，人性是另一种动物性，法律是另一种政治，代码是另一种法律。

Matrix是一个主机控制下的系统网络，人们一旦与之链接，就不愿断开，许多人已然适应而且上瘾，离不开这个系统，转而会捍卫它。于是，我们宁愿选择红药丸，生活在虚假的感觉奇境中，而不愿选择蓝药丸，寻找荒漠的真实世界。在那个奇妙的世界，我们都可能既是受监视者又是特工，既是受虐者又是施虐者，既是人质又是恐怖分子，既是自己又是自己的敌人。

上述语言和情景不是《黑客帝国》写照吗？那是一个虚幻的世界，一个机器控制的系统。然而，这不禁使我们联想到边沁的"全景敞视监狱"，韦伯的"铁笼"，福柯的"规训社会"，卢曼和托依布纳的"自创生系统"。在边沁那里，"全景敞视监狱"是控制囚犯的完美设施；在韦伯那里，自由的生命个体在算计和博弈中，最终却落入了形式理性的牢笼；在福柯那里，宣称解放的人类，最终却把社会打造成规训无所不在的牢狱；在卢曼和托依布纳那里，现代社会和法律都分化成铁板一块的系统魔阵。

系统自我建构、自我描述、自我调节、自我维持、自我操作、自我创生；它是沟通的建造物，是代码区分的二元世界。于是就有了君子与小人、信徒与异端、人民与敌人、以及合法与非法之别，于是控制就变得简单，规制就来得方便。系统虽然无所不在，却又无影无形；虽然无所不知，却可以对外界充耳不闻；虽然无所不能，却可以有所为有所不为。系统是个匿名的魔阵，人们无从反抗；系统的"滤霸"不断升级，随时过滤杂音，删除乱码。

2

如果说Matrix就是社会的缩影，那么，它不是一个扭曲和虚假的社会吗？然而，正常和真实的社会又在哪里？柏拉图说，它在理想国里，现实是一个扭曲的洞穴。然而洞穴中的众生已经过惯洞穴中的生活，真实世界的阳光特别刺眼，于是人们宁愿生活在洞穴中，在黑暗中捕捉真实的虚影。

实际上，在哲学王领导的真实世界里，人类并没有真正的平等和真实的自由。在那个理想国里，国王还是国王，士兵还是士兵，奴隶还是奴隶，所不同者只是国王用哲学统治，士兵具有了"卫国者"的光荣称号，奴隶换成了另一批"会说话的工具"。由此看来，那个真实的理想国，不过是另一个虚拟的洞穴，变化在于精神控制代替了身体枷锁。假作真时真亦假，无为有处有还无。

如果说传统的宗教救赎带来的是精神奴役，那么现代的解放追求打造的则是规训铁笼。绝对精神只有在自我献祭中才灵光偶现，永久和平凭靠的是核威胁的恐怖平衡，无产者在世界边缘分化成碎片，资产阶级在全球中心结成了铁盟。坚船利炮换成了跨国公司，传教士换成了大律师，八国联军换成了G8峰会，《南京条约》换成了《华盛顿共识》，自然法变成了人类之法。

昔时丛林游击队长变成了今日铁政治腕，当年工会领袖变成了当下法团巨头，自由主义者把自由变成了意识形态教条，民主主义者却以专政方式推行民主。于是历史充满了变数和吊诡：政治是战争的继续，经济是军事的替代，法律是政治的变种，文化是时尚的别名，和谐是冲突的间歇，梦幻是现实的投影。从红场到黑海，到处都矗立着权力的凯旋门；从多瑙河到莫愁湖，处处都闪烁着货币的金字塔。等式似乎永远平衡，变化的只是因数，余数被省略了。

面对这个充满魔力的Matrix所施展的"吸星大法"，老左翼在历史发展的"否定的辨证法"中陷入悖论；新工党则改弦易辙，匆忙中把"人类动物园"改建成"丛林迪斯尼"；后现代主义在精神呜咽中叙说着对文明的不满，并在审美迷狂中实现着自我超越；新保守主义则根据旧版社会达尔文主义，热泪盈眶地宣布新自由主义是"历史的终结"；而原教旨主义则在极化地方性知识的精神亢奋中，从恐怖战略中发现了行动的力量。

于是，热血青年从街头广场退入购物中心，产业工人急于把蓝领换成白领，莘莘学子则迫不及待地加入房奴、车奴和卡奴的虚拟矩阵。政治领袖在继续忽悠民众的同时，想方设法完成知识符号的现实超度，因为他们深知，知识就是权力，技术官僚就是系统控制的工程师，没有知识的权力，技术官僚就缺乏控制的力量；没有权力的知识，系统工程师的控制就无从谈起。

幸运的是，信息技术为人们建构了一个虚拟世界。人们在那里享受空虚的充实，而不再忍受充实的空虚；可以把陌生人变成老熟人，把老熟人变成陌生生人；把妻子变成情人，把老板变成老公。真实世界是荒漠的废墟，单调而乏味，压抑而拘束，而虚幻世界则是奇妙的仙境，丰富而有趣，轻松而自由，因而《黑客帝国》中一些选择了蓝药丸的战士十分后悔，想要重返虚拟世界，想要品味鲜美的牛排，不愿再强咽无味的稀粥。为此，他们不惜背叛队友和进行疯狂报复。

科学探索实在，却筑造出虚拟世界；理性祛除巫魅，却使世界陷入疯狂。对于这种吊诡，我们觉得不可思议，想不清楚，说不明白。疑问萦绕着我们的头脑，困扰着我们的心灵。我们对于现世感到无奈，就寄望来世天堂；对现实不满，就逃向虚拟世界。天国之城虽然没有征服尘世之城，虚拟世界却覆盖了现实社会。

在网络编织的虚拟世界，世界数字化，生活虚拟化，生命游戏化，灾难戏剧化；在那里，红色歌曲，黑色幽默，绿色革命，白色恐怖，桃色事件，黄色笑话……应有尽有。

在那个"网络共和国"中，人们不再是"贾雨村"或"甄士隐"，而是"门修斯"或"常凯申"；在那个"信息乌托邦"中，人们不再"非礼勿视，非礼勿听，非礼勿言，非礼勿动"，而可以思想裸露，精神裸奔，身体裸聊，可以建社区、偷白菜，包二奶……一言以蔽之，那里可以言现实想言而不敢言，为现实想为而不敢为，而不再限于"庄生晓梦迷蝴蝶，望帝春心托杜鹃"。"工业世界的政府们，你们这些令人生厌的铁血巨人们，我来自网络世界——一个崭新的心灵家园。作为未来的代言人，我代表未来，要求过去的你们别管我们。在我们这里，你们不受欢迎，在我们聚集的地方，你们没有主权"。巴洛的《网络独立宣言》对于网络世界的自由似乎信心十足。

然而，这一理想不久就灰飞烟灭。虚拟社会天生也不自由，规制它的是架构和代码：架构就是约束，代码就是法律。代码是一种变相的规制，正如凝视是一种无声的语言。虚拟社会天生也不民主，统治它的是编程者、黑客和监控者，编程者设下程序"枷锁"，扣下代码"暗杠"，黑客的"特洛伊木马"游荡在我们信息隐私的王国中，随时可以攻陷我们的"城堡"，而无所不在的电子蠕虫就潜伏在我们的网络头脑中，随意透视我们的每根神经。

虚拟世界之于现实社会，颇似马克思针对路德教所言：他"破除了对权威的信仰，却恢复了信仰的权威。他把僧侣变成了俗人，但又把俗人变成了僧侣。他把人从外在宗教解放出来，但又把宗教变成了人的内在世界。他把肉体从锁链中解放出来，但又给人的心灵套上了枷锁"。

在虚拟世界，我们的"另一个自我"和"第二人生"再次不幸地陷入了规训之网，与真实世界不同的是，那里的立法者主要是隐形程序师而不是在场政府，执法者主要是技术诀窍而不是政治权力，法律规则主要是代码不是法典，司法者不再是法院法官而主要是……

虚拟世界造成了信息偏食和群体极化，带来了网络贩毒和在线卖淫，导致了违法与犯罪的隐蔽化、跨国化和全球化，而这一切都对现实社会构成了侵害。于是，现实的法律对网络的架构和代码进行规制。由此虚拟世界与现实社会相互联通。更准确说，虚拟世界是现实社会的翻版，现实社会是虚拟社会的投影，扭曲社会是正常社会的镜像，正常社会是扭曲社会的别称，正如数字不过是自我的心理投影，真实乃是大脑中的刺激信号。技术控制比权力统治更有效，代码规制比法律调控更直接，私人管制比政府治理更便捷。人生而自由，却无往不在枷锁中，虚拟世界中自以为自由的网民，也许比现实社会之人更是奴隶。

3

如果说"锡安"是人类的缩影，它被自己的制造物逼入绝境之后，生存迫令自然就是"拯救锡安"。"锡安"隐喻上帝子民之城，暗指基督教圣地，是西方世界的缩影。于是就有了自我与他者的区分。自我是西方，是正义的真实社会；他者是非西方，是邪恶的虚拟世界；正义与真实的化身是尼奥，邪恶与虚拟的符码是史密斯，于是一场进攻与防卫、恐怖与反恐怖以及生存与灭亡的大决战不可避免。

虚拟世界的机器人强大无比，不然，便不足以表达人类恐惧之深，不足以彰显人类危机之重，更不足以体现人类拯救之迫。尼奥隐喻耶稣，一位黑客出身的"克里斯玛"，他要破解母体自我繁殖的密码，改变等式平衡。

然而，尼奥毕竟是凡人，要对拯救使命有信心，还需要一点外力。这就是"先知"预言的力量。预言者是希腊oracle（神谕者）的现代版。女性身份增加了预言的神秘，据说女人比男人更易着魅和更能通灵。她的黑白混色皮肤或许暗喻种族平等，但与歌星杰克逊无关，因为他曾极力把身体漂白，且同具男女性征。当然这更不是兆示奥巴马当选，因为他即便皮肤黝黑，当选后是否会把观念漂白，尚不可知。

预言的奥妙在于模糊，就如生活的真谛在于糊涂，生命的真谛在于操心。与刘姥姥三进大观园不同，预言者多次出场，但她所透露的"天机"不过三条洞见：认识自己，改变的不是物象而是意念，预言具有自我实现的效应。这三条看似是平常道理，但内涵都是吊诡或悖论。

自己是自我观察的盲点，认识自己是个悖论；事物的本质是观念的产物，我们对自己的观念无法同时进行二阶观察，这也是悖论；乐观的预言未必兑现，悲观的预言却往往应验，这里充满着吊诡。先知的言谈举止和周围环境都暗示她来自生活世界。

这自然让我们联想到，哈贝马斯寄望生活世界，希望那里的日常语言所承载的交往理性能够生成合法之法，从而降服政治系统的权力之妖和经济系统的金钱之魔。就此而言，哈贝马斯是一位预言者。

昂格尔是另一位预言者，他宣称自由主义的形式法业已解体，取而代之的法范式或许是源自生活世界的习惯法。这种视角与埃利希的"活法"暗合。这两位预言者的预言并没有很快应验，欧陆的法典"死法"早已把埃利希的生活"活法"吞没，而美国的自由主义形式法并未解体，解体的却是预言者所创建的批判法学流派。

不过，在法律全球化过程，他们的预言有些歪打正着。新商人法以商人私约的形式成为了"活法"，逃避了主权的规制，托依布纳说这是埃利希"活法"预言的兑现。然而不幸的是，这种来自经济系统的"活法"却成为规避劳保和环保的"腐败之法"。

生活世界也许是个未经反思的习俗"荆丛"或巫魅之乡，那里流行过美国南部的《黑奴法典》，"焚寡殉葬"的印度乡之俗，或许会联想到犹太人的割肉还债之约。抛掉了锁链上的假花，并不是为了戴上没有任何花朵的锁链；否定了敷粉的发辫，并不是要同没有敷粉的发辫打交道，马克思的名言可以作为一种警示。真正自由的活法是公民自我立法，只有在交往理性滋润的生活世界才能够生成这种活法。这种活法也许存在自主公民的观念中和公民自主的行动中，存在于基本人权与人民主权的互动中。

尼奥不是史密斯的对手，因为史密斯是尼奥的负相，正如人类不是机器世界的对手，因为机器世界是人类社会的翻版。这就是道高一尺，魔高一丈。尼奥一定要牺牲，否则就缺乏悲壮；尼奥也一定要复活，不然就没有希望。于是，那个古老的神话——爱情，便成为了牺牲与复活的媒介，只是把传统的叙事顺序颠倒了一下：不再是英雄救美人，而是美人救英雄。性爱只能激活个体的灵魂，救世主的复活却能带动集体精神，只有"克里斯玛"与芸芸大众的相互诱惑和一道眩晕，才能成就拯救世界的伟业和壮举。这又落入了韦伯政治方案的窠臼。

事情并不如此简单。尼奥不过是一段超级程序，而"先知"也不过如此，他们的合谋与"锡安"大众的合力，也无法应对虚拟世界的进攻，因为系统的代码早已设定，程序按其功能迫令，是其所是，成其所成，毁其所毁，灭其所灭。

更何况机器人比人类更少怯懦和私心——设计时把这些基因缺陷剥除了。这就需要尼奥返回源代码，会见程序设计师，通过改变源代码改变等式平衡，改变系统的运行逻辑。马克思、尼采、福柯和哈贝马斯尽管路径不同，都认为现代性问题主要出在源代码上，都想设法改变现代社会的源代码。

4

系统一旦运行起来，就会形成自我复制和自我维持的逻辑习性，就会诱导人们适应和上瘾，改变源代码必然引起程序混乱和功能失调。程序设计师只有在感到"史密斯"会失控时，才会同意尼奥的建议。改变者与维护者一场生死搏斗在所难免，将欲取之必先与之，尼奥只有先染毒才能消毒，而成功意味着与"史密斯"同归于尽。

通过消灭自己来消灭敌人，一如系统通过改变自己而改变环境，这本就是一种悖论性博弈。至此，影片所演绎的古老故事，即正义与邪恶之战，似乎落下帷幕，关于耶稣牺牲自我拯救世人的新版隐喻，也已了然。剩下的一个问题则是，既然机器世界是人类社会的复制品，虚拟世界是真实社会的投影，源代码的彻底改变，是否要以"锡安"的毁灭为代价？

对于现实社会的Matrix，人们即便能够发现源代码，返回源代码并根本改变它也几无可能。权力和金钱两个代码，控制人类社会为时已久，权戒与钱戒之难，难于毒戒与赌戒，也难于网戒与色戒，因为它们已经成为我们基因的另一半，正如撒旦是天使的另一半，男人是女人的另一半，股市是赌场的另一半。这就不难理解，任何推翻过去压迫的尝试，都没有带来解放的现实，任何翻转现实统治的超越，都打造了另一种未来的统治现实。

如果说传统法律承载的是等级特权，身份奴役，压抑人格、机械团结和施舍正义，那么，现代法律所内含的则是自我分层的平等，自我放逐的自由，自我分裂的人格，自我分化的团体以及自我颠覆的正义。前者是弱肉强食的历史墓志铭，后者是自我解构的现代讽刺画。解决问题的方案有时会造成更多的问题，就如医治病人的疗方常常会带来更多的病症。完美世界如同完人，只存在于幻想之中，正确的答案所以一直在回避我们，也许是因为我们过于满足现实或追求完美，因而丧失了去弊和纠错的机缘。

诅咒过去与讥讽现实无助于问题的解决，正如期待来世与盼望天国无益于苦难的解脱。树上不言树下事，十分世界在眼前，禅宗的"当下即是"显得更为脚踏实地。无论是生命政治的倡导还是交往理性的吁求，无论是对"活法"的善意期待还是"宪法爱国主义"的良苦用心，虽然对于改进社会现实都不无启示，但似乎都无法改变现代社会的"源代码"及其运行逻辑。

我们以为，真正的契机和希望也许既不在于整体建构或彻底颠覆，也不在于置换源代码或理性重构，而在于社会危机的压力和对灾难的反思，因为正常时没有人会思考为什么会正常，更不要说改变了；在于有识之士的现实批判与公民大众的权利吁求，因为既得利益者大都满足并维护现状。当奴役成为一种常态，人们就把奴役当作自由，当羁縻成为一种秩序，人们就把羁縻称为解放。

对于社会的反思来说，一万句苦口婆心的劝谏，不如一个灾难的教训更有效；对于人类和平而言，一千个世界主义的口号不如一次残酷的战争更有效；对于系统的调整来说，一百种环境刺激不如一次重大危机压力更有效；对于民主和自由来说，数十部宪法不如一个个自主的公民更有效。故而，马克思从阶级压迫中预见了解放的动力，康德从战争的残酷中看到了永久和平的曙光，福柯从权力的规训中洞悉了个体伦理完善的重要性，哈贝马斯从生活世界自主公民的呐喊中察觉了现代性的希望。为此，我们需要的是愚公移山的行动，是普罗米修斯的勇气，弗弗西斯的耐力，夸父追日的悲壮，精卫填海的坚持。

有些事情永远不变，有些事情应该改变。必须坚守永远不变的事情，必须改变应该改变的事情。于社会是如此，政治是如此，法律是如此，于个人也是如此。

己丑年秋

高鸿钧于清华园

【注】

1.高鸿钧，清华大学法学院教授。

2.本文为《清华法治论衡》第12卷““社会理论之法前沿””卷首语。

作者简介

高鸿钧 ,清华大学法学院教授。吉林大学法律系77级本科，中国政法大学81级外国法制史硕士研究生，1984年毕业留校任教。1991—1998年，在中国社会科学院法学研究所工作，任副研究员、研究院；1998年至今，在清华大学法学院任教。

研究和教学领域主要为比较法学、法理学和外国法制史。现任中国法学会比较法学研究会会长、全国外国法制史研究会副会长。

主要著作包括《现代法治的出路》《伊斯兰法：传统与现代化》《全球视野的比较法与法律文化》《心寄治邦——法理学论集》；主编《英美法原论》《新编西方法律思想史》《新编外国法制史》等；翻译和参译《哈贝马斯、现代性与法》《法律与革命——西方法律传统的形成》《比较法总论》等；在《中国社会科学》《中国法学》《法学研究》《世界宗教研究》等重要期刊发表论文数十篇；主编“比较法学丛书”、“法律与社会丛书”和《清华法治论衡》。

来源：远见塔

链接： https://mp.weixin.qq.com/s/JcIrcKnC1-oqfaRHUelLTQ

刘海明

【案例】

人工智能分分钟写出万字形式主义大作

万字申请，废话报告，魔幻形式主义大作怎么写？

朋友，狗屁不通文章生成器了解一下。

GitHub上，这个富有灵魂的项目名吸引了众人的目光。项目诞生一周，便冲上了趋势榜榜首。

并且，不止名字被注入灵魂，生成的文字也有一股不可抗拒的力量。

只要输入一句话，系统就会给你一篇万字长文，这里只是个开头：

“我是要成为海贼王的男人。这种事实对本人来说意义重大，相信对这个世界也是有一定意义的。”

引经据典，头头是道，说好的狗屁不通呢？

别急，继续读 (下面是一张动图) ：

营养不够，废话来凑，像极了年少时憋不出作文的自己。

看到这里，我们不得不开始思考一个问题：

狗屁不通文章生成器，到底是为什么而诞生的？对世界的意义又是什么？(误)

本着不懂就问的原则，量子位戳了一下生成器的作者萌老师，他给了我们一个精彩的答案。

缘分，都是从偶遇一个知乎问题开始的：

退会申请六千字

退出学生会，果然不是一件容易的事，要交六千字的违约金。

这条求助帖，被热心市民萌老师看到了：

以前上大学的时候经常写一些很形式主义的文章。

说实话本来是想真的帮他写个文章的，因为我以前挺擅长写这类“狗屁不通”的文章。

结果写了几句，突然想到还是写个程序生成吧。

就这样，狗屁不通文章生成器横空出世，给广大人类带来了福音。

它的作品首先收到了知乎网友的爱戴，已经有3万人对这个退会申请书的写法表示赞同：

据说这篇申请书，划到底都需要半分钟之久。

有兴趣的小伙伴，可以挑战一下阅读全文，解锁新成就“醍醐灌顶”：

https://www.zhihu.com/question/349794499/answer/873505410

书归正传，知乎回答受到了排山倒海的欢迎，GitHub项目也随之声名鹊起，标星已有3600+。

还有小伙伴@suulnnka (苏兰卡) 帮忙做出了网页版，输入自己想写的主题，便可一键生成。

于是，量子位探索了一番，从“学生会退会”延伸开来，这生成器还有怎样美 (gui) 好 (chu) 的打开方式：

魔性试玩

有人说，我们的征途是星辰大海。

既然刚刚致敬《海贼王》，现在有必要致敬一下《快乐星球》了 (误) 。

那么，狗屁不通文章生成器，对这份远大的理想有怎样的看法呢？

伏尔泰说的没错，“坚持意志伟大的事业，需要矢志不渝的精神。“

林肯说的也没错，“我这个人走得很慢，但是我从不后退。”

这段文字大概是说，捉月亮是伟大的事业，经受巨大的困难也要坚持下去，才会有所成就。

做足心理准备，便可以唱着歌出发了：

再见了妈妈，今晚我就要远航。

别为我担心，我有快乐和智慧的桨……

如果大家看动图不过瘾，请点击播放键，体会其中深刻的意义：

另外，要想成就一番事业，除了死磕到底的决心，可能还需拥有看淡一切的勇气，不可患得患失。

我不由得想起了马云老师说过的话：

狗屁不通文章生成器，对这个话题有什么要说？

“我对钱没有兴趣，不仅仅是一个重大的事件，还可能会改变我的人生。”

这是不是在说，马老师真的因为对钱没兴趣，才有了阿里巴巴的今天？

成为国民爸爸，果然很不简单。

所以，接下来玩一个伦理哏：

看见这道作文题，生成器仿佛开起了车：

是什么决定了“我是你爸爸”？

歌德说，决定一个人的一生以及整个命运的，只是一瞬之间。

如此看来，这只生成器似乎比前几天发布的15亿参数GPT-2模型，更加懂得亲缘关系，老司机无疑 (误) 。

以下，就是GPT-2根据“I am your father”生成的狗血剧情，关系十分混乱：

I am your father," I say.

“我是你爸爸。”我说。

"You are the father of a very important son. Do not think that I have forgotten it," he says, and he kisses me.

“你是一个很重要的儿子的父亲，别觉得我忘了这件事。”他说完亲了我一下。

"A man of honour!" I cry, and we kiss again.

“一个荣耀的人！”我喊了出来，然后我们又亲在了一起。

"My dear daughter, do not lose your temper with your brother," says the father.

“我亲爱的女儿，不要朝你哥哥发脾气。”那位父亲说。

"Oh, yes, I am angry with him, for I see that the king does not approve of you and that I must leave him," she replies, "and that he will send me to my husband."

“哦，是的，我对他很生气，因为我看到国王不赞成你，也因为我就要离开他了。”她解释说，“还因为他要把我送到我丈夫那里去。”

"Do you know him?"

“你认识他么？”

"Yes, my father knows him well; but it will be difficult to marry him."

“是啊，我父亲和他很熟；不过要当他的妻子并不容易。”

"Oh, how dreadful that would be! But we must make haste, and we must leave Venice immediately. We are in the way of having a little pleasure."

“哦，那该是多么可怕啊！但我们必须要快，必须赶快离开威尼斯。我们挡住快乐的路了。”

So the mother and daughter, weeping, depart, and we enter our room, and, to begin with, I give my little daughter my hand.

于是，母女哭着离开了，我们进了房间。然后，我先拉起了小女儿的手。

至于，狗屁不通文章生成器究竟是一个怎样的算法，萌老师在项目里写道：

“鄙人才疏学浅并不会任何自然语言处理相关算法，而且目前比较偏爱简单有效的方式达到目的方式。除非撞到了天花板，否则暂时不会引入任何神经网络等算法。”

对，就是把许多废话拼到一起，没有任何上下文的识别和理解。反而这样，洗脑效果才更好。

不过萌老师还说了，为了防止文章过于重复，下一步是：

“加入更多啰嗦话。”

再下一步是：

“加入马三立<开会迷>里的内容。”

不止如此，为了满足手写文章的需求，还要加入：

“手写体直接渲染出图片的功能 (仅仅用于测试本人的打印机是否工作正常，请勿做它用) 。”

除此之外，萌老师也广邀天下贤士，为自己的项目添砖加瓦，迄今为止收效显著：

有趣的灵魂各有不同

据萌老师介绍，众多pull request一个比一个有才。

于是，量子位好奇地跑去围观了一下。

果然，当有趣的灵魂碰撞在一起，气氛就欢乐了起来。

比如这个已经被merge进去的分支，分支作者认为萌老师添加的废话太单薄，于是添加了更多废话。

并且，为了让扩充废话的事业进一步发展壮大，这位同学小改了一下程序，减少了后继废话添加者的工作量。

当然了，虽然萌老师在主页里写道，在这个项目里使用中文变量名只是因为懒得切英文输入法，但同学们似乎都觉得，中文变量名也是这个项目的灵魂之一。

“中文变量名能赋予生成器一种“粗制滥造”的意义，而“粗制滥造程序应对敷衍了事需求”更显其戏谑性。”

于是，分支作者帮忙把漏网的英文变量名，也给改成了中文。

除了量子位用来实测的网页版狗屁不通文章生成器，还有一位同学，把生成器移植到了telegram上，获得了一只充满哲思的机器人。

当被问及“今天中午吃什么”这样一个世纪难题时，机器人回复了整整两屏幕信息：

Emmm，虽然这位机器人朋友实在有点啰嗦，但我怎么觉得，它说出了我的心声……

有一些同学，则致力于把这个优（sha）秀（diao）的项目推向国际。于是，英文版和日本版诞生了。

虽然并看不懂，但据说有日本胖友看了之后，直接在办公室笑出了声。

还有的同学，选择了在艺术风格上精益求精。

比如用世界上最好的语言实现渲染图片功能。

感觉就算学生会退会申请需要手写六千字，也完全不用怕了呢。

够沙雕，我喜欢

狗屁不通文章生成器的灵魂画风，瞬间征服了一众网友，哈哈哈的声音响遍生成器所到之处。

有一位知乎网友说出了吃瓜群众的心声，评论揽获了5800+点赞：

“为什么读起来有一种别样的快感呢？”

甚至已经有人深陷在这别样的快乐中：这样的鸿篇巨制看得人上瘾。

还有网友认真地分享了读后感：

“虽然狗屁不通但是段段扣题，旁征博引，读完醍醐灌顶好像领悟到了什么。”

大概，上千条评论总结起来就是一句话：

“够沙雕，我喜欢。”

One More Thing

萌老师说，他的两大小梦想就是上github趋势榜和上热搜，没想到因为这一次“突发奇想”，全都实现了。

如果这个一枝独秀的项目俘获了你的心，不妨点击以下链接，pick一下萌老师：

https://github.com/menzi11

传送门

狗屁不通文章生成器：

https://github.com/menzi11/BullshitGenerator

网页版：

https://suulnnka.github.io/BullshitGenerator/index.html

来源：腾讯科技

链接：https://mp.weixin.qq.com/s/XatF-iKzvOoQPw-fHD-6Ew

编辑：晓晴

刘海明

【案例】

科技向善，挺“难”的

如题。这是我们听完12位专家对“科技向善”解读后的第一感受。

什么是善？为什么向善？什么样的行为可以被称为向善？短短四个字的背后，存在大量值得探讨的问题——道道都是“难题”。

在11月9日举办的第四届腾云峰会上，周国平、徐冰、费俊、郝景芳等不同行业的重磅嘉宾，以及来自腾云智库的众多专家齐聚。我们趁机将这些“难题”抛向了他们（点击此处回顾峰会）。

下面是他们的回答。

11月11日，腾讯董事会主席兼首席执行官马化腾、腾讯总裁刘炽平及全体总办成员向四万多员工发出全员邮件，正式公布腾讯全新的使命愿景为“用户为本，科技向善”，并将公司价值观更新为“正直、进取、协作、创造”。

01 从哲学的角度，如何理解“善”的含义？

❒ 周国平

学者、哲学家

我理解的“向善”应该有四个层面的含义：

第一个是功用层面，科技肯定会在功用的层面上给人类生活的各个领域带来进步、提高效率，带来方便甚至舒适，能够提高人的物质生活水平，这一点是毫无疑问的；

第二个是社会层面，在社会的层面，善的含义是什么？就是公平正义，怎么样让社会各个阶层比较平等的享受到科技发展的成果，这就是我们提出“科技普惠”概念的意义；

第三个是伦理层面，在科技发展的过程中，怎么样尊重人类最基本的伦理价值——如人的生命价值，又如家庭伦理——生命科学、基因工程的发展已经对此形成了巨大挑战；

第四个是精神层面，即人类不只物质生活要发展，精神生活的品质也需要提升。这个问题其实科技本身不能解决，一定需要科技和人文进行合作，来解决这个问题。

提出“科技向善”会削弱一家科技公司的商业竞争力吗？我觉得不会，只会加分，不会减分。一个科技公司表现出人文担当，这是特别可贵的。

哲学家对科技的副作用进行批判是容易的，但是面对一家科技公司，哲学家不能仅仅批判，必须持有一种建设性的态度，而且在建设性方面要有作为。

02 机器应该具备什么样的价值观？人类对此依然缺乏共识

❒ 徐冰

国际知名艺术家、中央美术学院教授

对于商业伦理等问题，其实对我这样的个体艺术家来说，没有特别宏观的考量。我们参与了很多的讨论，谈论的是人的隐私和权利的界限，事实上，面对今天这样一个科技环境，人的社会思考和道德思考其实是非常滞后的。

还有一个很有意思的问题，人类应该用什么样的价值观去教育“AI人”？我们应该用互相冲突的价值观来教育它们吗？很显然，机器人的价值观是由我们自然人输入的，而我们自然人的价值观和制度体系其实处于无休止的争论中，甚至是相互排斥和相互对立的。这件事很急迫，因为机器发展得很快。

另外，这些机器人是由什么人来控制的？是由某种制度的桎梏构成的整体智慧来控制，还是由某少部分人来控制？这是急需判断的问题，是对这个问题更深层的一种思考。

03 是否应该为科技的发展找到更明确的人文目标？

❒ 费俊

中央美术学院设计学院艺术+科技方向教授、某集体交互媒体创始人

对于“科技向善”，在敬佩之外，我认为这一理念的执行需要一些要素。

首先，所谓“向善”不可以仅由科技界本身独立完成，它需要更多领域——尤其是人文领域的学者参与，形成一个跨学科的、以人文为核心的讨论机制或研究体系，只有如此“科技向善”才真正能落到实处，才能真正体现到未来的创新场景上。

还有另外一点，就是我们从技术伦理的角度出发，它的意义不是为了捆绑科技的发展，而是为科技的发展找到一个更加明确的人文目标，这里就需要新的方法和新的模式去承载“科技向善”的内容。

科技和文化或艺术的交融，我觉得它不仅是一个企业的善意，也恰恰可能开启更多的文化消费场。

我们往往低估了用户的消费趣味，我们认为他们应该消费的是某种娱乐方式，却低估了我们用科技去启发用户的能力。我非常期待腾讯在这个领域能有更多跨领域、跨学科的交叉融合创新，为我们创造更多好的文化消费产品。

04 向善是一种必需

❒ 王飞跃

中国科学院自动化研究所研究员、复杂系统管理与控制国家重点实验室主任

光有技术不行，今天还要有新的哲学。从经典一直到现在的现象哲学，讨论的是Being，后来哲学讨论Becoming，但是现在人工世界一定要有Believing。

我觉得向善不是选择，向善是一种必需——人类能生存到今天，能处于万物之林之首，人类的生物构造、人类的认知就决定他的行为选择了向善，所以我们演化到了今天。如此而已。

05 面对人和机器的未来，我们需要一种Beliving

❒ 段伟文

中国社会科学院科学技术和社会研究中心主任

现在的基本说辞是，首先要鼓励创新，社会企业都应该对任何新技术有一种开放和包容的心态。同时我们也必须严肃探讨技术和应用场景需要的道德规范。鼓励创新，就是要想怎么去克服冲突，我们要做一些有针对性的工作，而不是笼统的批评。

再谈一谈所谓人工智能伦理与治理的实践智慧。首先我们面对的挑战是，最终怎么克服人类在伦理或者道德上对人工智能的恐慌。我们可以有一套策略，包括要预见，要设计与嵌入，要有开放性共识，要有适应性治理，以及怎么让人类的技能获得再生。同时最重要的是要有一个基于行动者网络的思考。

所谓的行动者网络思考，就是要分析智能机器掌握在谁的手里？总的来讲，我们跟技术的关系不是敌对关系而是竞争关系，在伦理和创新里面也有一种竞争关系，可以称之为争胜关系。创新有悖伦理时，重要的是有没有一些公众工程师，能够站在公众、站在社会的角度来进行反向的争胜性的设计——通过具体的技术设计实现对创新的伦理制约。

另外一点，我们需要一种Beliving，需要建立面向智能化时代的人机信任机制，如果没有人机信任关系，对于人类、社会、世界都是一种灾难。我们要从数据行为主义转到数据行动主义。这就需要我们每个人拿出我们的能动性，采取一种行动来改变这种情况，纠正那些被采集和被分析的数据中的错误和偏见。

一个企业如果要对这个社会负责，一方面它要对产品、员工、用户负责，另一方面还要考虑受产品或服务影响的人，特别是对那些比较脆弱的相关群体负责。

再就是企业社会责任。面对充满风险与不确定性的科技时代，向善是科技公司体现其社会责任的应有之意。腾讯作为一个标杆企业，讲“科技向善”是没问题的。“科技向善”本身不是一个多么大的善，这是作为企业应有的担当。

最后，我们现在讲人工智能伦理还不是机器要消灭人、威胁人类的生存，不是人机对立，而实际上是什么？是如何协调人和机器的关系。更重要的是，人机关系说到最后是人与人之间以机器为中介的关系。

我觉得人的智慧就是简单和勇敢，无论在任何时候，我给大家的一句话就是，不要害怕。

06 人类需要应对“无智状态下的囚徒困境”

❒ 刘永谋

中国人民大学哲学院教授、博士生导师

腾讯做了一个很好的选择。我并没有说它一定会向善或向恶，关键问题是我们要做一个选择，这个选择是有代价的。关于人性善恶的说法，关键问题不在于人的本质到底是善还是恶，关键问题是，怎么让我们变得更善。也许你现在是坏的，但是你可以变得更好，也许你现在是好的，你还可以变得更好。

我对人性是怎么看的？我有一个隐喻，我称之为Lucy隐喻，现在通行的人类学认为所有的人都起源于一个非洲母亲：Lucy。有一天Lucy从树上下来了，她站起来了，她在心里说了一句：（我）不想做猴子了，要做人了。但是作为第一个人，她知道什么是人吗？她不知道，她只知道我不做猴子了。这就是我讲的Lucy隐喻，这就是人。人不知道自己从何而来又向何而去。

Lucy当年是这个境况，今天人类仍然是这个境况，AI也是这个境况。我们不知道它从何而来，也不知道会往何而去。所以我讲的新无知之幕并不是反对科技创新，而是要审度，要两面考虑。因为我们面对这样一个情况：在无知的状况下如何处理囚徒困境。

07 现在是“防御型向善”，未来应该有“创造型向善”

❒ 郝景芳

科幻作家、芳景科幻工作室创始人

在我们当今的时代，“科技向善”是最有必要的，因为科技公司今天在很多领域已经是主导地位。

对于“科技向善”，我觉得未来更需要做的是主动创造，而我们现在很多时候其实还是在做“防御”，还是在想办法防止科技做坏事。未来，我们需要一种创造性的发展思路，即在科技研发阶段，就朝着人性之善、社会之善的方向寻找发展“需求”。

当我们观察到社会里有很多苦痛、很多贫穷，那么科技能否在研发之前，就将解决这些问题作为最终目标和方向，用创造性的思路去解决这些问题？

08 践行“科技向善”，腾讯有至少两件事要做

❒ 胡延平

DCCI互联网数据中心创始人

现在科技正站在一个历史的分水岭上，科技与人的关系开始发生根本性的改变。所有有责任感的人都需要去思考和作出决定，也需要很多这种跨界的思考。只有这样才能形成一个最大公约数，在此基础上，才能在不同的范围产生相对合理的、从善如流的、更多的选择。

在我看来，如果腾讯能把这两件事情做好，就是对“科技向善”的最好诠释和践行。

第一，更充分地连接到社会的每一个人，解决数字鸿沟问题，让因为连接所带来的机会不均等问题，让数字空间的资源不均等、不对称的问题，得到更好的解决。这意味着我们要去关注网络里面各种各样的弱势群体，不能让网络成为一个强者恒强、弱者恒弱的空间。

所以第一件事是连接机会的均等、连接的充分和连接背后的公平和效率问题，不能让丛林法则成为网络公共空间的一个规律。否则，我们对互联网平等开放的愿景最终可能化为泡影。

第二，腾讯已经拥有了一个很大的平台，在这样一个平台上面，我们除了为大家提供产品服务之外，能不能也去做一些影响人、引导人、鼓励人的事，让腾讯以外更多的善的力量能够发芽成长。

在这个平台上，腾讯是主体之一，还有十几亿其他的主体。每一个这样的一个主体貌似是一个小的个体，但如果大家都能够有“科技向善”的心态，毫无疑问将产生很强烈的影响力和社会改良效果。这其中当然有理想化的色彩，但很多事情不就是从有一个理想开始的吗？

09 为什么说“科技向善”的提出是必要的？

❒ 赵嘉敏

译言联合创始人、东西文库发起人、凯文·凯利在中国的出版人

“科技向善”至少包含了三个层面的意义。

第一个层面，它包含了 Google 提出的“不作恶”原则。在这个层面上，公司以及公司的每一个部门、每一个员工，作为行为主体，其选择至关重要。

Google 2018 年版行为准则的最后一句是这样写的："And remember… don't be evil, and if you see something that you think isn't right – speak up!" （“记住，不作恶。如果你看到你认为不对的事情，请直言！”）

第二个层面，它表达了腾讯致力于让技术更有“人情味儿”的责任感。当人类社会被技术变革拉动着进入一个追求效率和财富的加速器时，另一个方向的努力——即让我们慢下来、陪伴家人和孩子、扶助弱势群体、浪费时间在看似无用的事物上，以及追求平等、消除贫富差距的努力——是必要的。缺少了这个方向的努力，人类社会就有可能被撕裂成碎片。

蒂姆·奥莱利（Tim O’Reilly）在《未来地图》中转述了 Y Combinator 合伙人保罗·布切海特（Paul Buchheit）的一个想法：“未来我们可能需要采用两种货币：机器货币和人类货币。机器货币用于购买机器生产的东西，其价格总是越来越便宜。人类货币则用于购买只有人类才能生产的东西。”

第三个层面，它揭示了人性必须随技术演化而演化的内在规律。人性的演化，归根结底，是对技术演化的适应。开放，共享，利他，协作，集体所有…这些人性中的新的“善”之所以能够出现，不是因为我们主观上认为它们是好的，而是因为它们适应了当下技术演化的需求。而技术的演化，是朝向复杂性和多样性增加的方向。

10 从“合作”到“协作”的变化意味着什么？

❒ 张晓峰

“互联网+百人会”发起人，大协同平台创始人

腾讯将“用户为本，科技向善”作为愿景升级为腾讯文化3.0，值得称道。如果说腾讯“互联网＋”、“连接一切”开启了连接革命，希望基于“科技向善”的互联网＋、智能＋、消费与产业互联网、开放生态一道开启协同革命。

腾讯同时将“合作”升级为“协作”，即“开放协同，持续进化”。反映了腾讯构建科技向善、各得其所生态的新价值皈依。遗憾的是，腾讯从1.0的“合作”，升级到了2.0的“协作”，而没有直接升级到3.0的“协同”。因为，分工合作是工业经济时代的主流模式，协作是后工业时代与全球化、信息化时期的表现，而数字经济时代的主流模式将演化为基于泛在连接融合的大协同。

腾讯能进化到“协同”是不易的，以开放平台为载体，以多样化生态为基，以科技向善为旗帜，以社会责任、用户为本倒逼自己、引领商业新文明。

11 “用户为本”与“科技向善”其实是一件事情

❒ 马旗戟

国家广告研究院研究员

先说使命愿景。作为一间企业，以用户（其实是不特定公众）作为其一切运行逻辑和行为（产品与服务）的出发点和依托，是对的，它之于社会的社会责任与社会效益，也必须最大限度依托此来推动、完成和实现，而非将企业社会责任变成企业行为对社会负效应的一种补偿。事实上，不仅腾讯如此，一切好的本分的伟大的组织，均应如此。

用户为本，不是腾讯的独有，同时它作为一间具有全球影响力和价值引导的科技企业，必须面向着一个基本问题：即如何在自身实践中，回答与把握科技发展带来的对人类文明中文化、道德、伦理的挑战，并且确保这些挑战不会对文明本身的存在产生威胁或使得其走向邪恶 —— 这就是“科技向善“作为使命愿景一部分同时提出的原由。

“用户为本，科技向善”，不是一个愿景的前后、左右、上下或者内外的关系，而可以理解为一个事情，即用户（人）在科技发展进程中如何可以通过与人文的结合相融来完成自身成长、完善自身目标，换言之，腾讯必须帮助用户（人）不仅达到科技所赋予的能力，而且必须保证这种能力被用于创造和温暖。

以此而言，腾讯此次的使命愿景，成为一个“知行物”，也就是既提出了一个目标预期，又提出了一种方法路径，这对腾讯来讲是巨大考验。它超出了vision is vision, mission is mission，要求腾讯不但需要在内部与生态中践行这一使命，而且必须作为一种力量担负这个进程。

12 “科技”和“善”是并行关系吗？

❒ 孔华威

中科院计算所上海分所所长、起点资本合伙人

“科技向善”作为腾讯公司一次使命升级是非常成功的。我个人很喜欢，也很支持。

第一，简短，言简意赅；第二，有终极性，善总是未来世界美好的重要“指标”；第三、有开放性，“善”这个概念，可以从大小、深浅各个纬度探索，不是死概念；第四，科技“向”善的“向”，是指向性的，但是科技又有自己的发展轨迹，而善是社会和伦理概念，也有其独特的发展路径，这两条发展路径，不是并行世界，但互相影响。

来源：腾云

链接：https://mp.weixin.qq.com/s/tSdtisP0OhBI8kwNqa9nZw

编辑：晓晴

刘海明

【案例】

基辛格警告称，人工智能将从根本上改变人类的意识

据Gizmodo网站11月8日报道，现年96岁的基辛格在美国国家安全委员会举办的“通过创新获得力量”(Strength Through Innovation)大会上发表上述讲话时称，他相信人工智能有潜力从根本上改变人类的意识，包括改变我们的自我认知和战略决策。他还抨击了人工智能开发人员没有充分考虑到创作的含义。

主持人向基辛格询问了他对军事化人工智能的看法，以及它将如何影响全球安全和战略决策。

基辛格说：“我不认为它是一个‘技术人员’，我对它的历史，哲学，战略方面感到担忧，我确信，人工智能及其周边学科将带来人类意识的改变，就像启蒙运动一样。这就是我来这里的原因。”基辛格对18世纪欧洲启蒙运动的援引是指在这一重要时期所发生的思维范式转变，在这一时期，科学，理性主义和人本主义在很大程度上取代了基于宗教和信仰的思维。

尽管基辛格没有详细说明这一点,但他可能是指一旦人工智能达到足够先进的成熟水平，将转变我们的思维。而这一发展将不可逆转地改变我们与自己，以及与机器的交往方式。

基辛格表示，人工智能必将改变战略和战争的本质，但许多利益相关者和决策者仍将其视其为“新的技术起点”。他们还不明白，人工智能必定会改变人们对世界的哲学认知，而且还将从根本上影响人类的认知。

基辛格最担心的是，军事化的人工智能可能会导致外交破裂。基辛格说：“人工智能的秘密性和短暂性意味着，它与常规武器不同，国家不能简单地将其作为一种明显的威胁‘摆上桌面’。在战略领域，我们正在进入一个可以想象到的非凡领域，而敌人可能会不知道威胁的来源。”

这种情况可能会在战场上造成不必要的混乱，或者一个国家可能会弄错攻击来源。更可怕的是，兰德公司(RAND Corporation) 2018年的一份报告警告称，人工智能可能最终加剧核战争爆发的风险。这也意味着我们还必须重新考虑军备控制的因素与概念，如何适用于这个未来的世界。

基辛格称，他对Google的DeepMind所做的工作“特别着迷”，尤其是AlphaGo和AlphaZero开发出能够击败世界最厉害的国际象棋和围棋选手的人工智能系统。

基辛格相信人工智能最终将成为军事决策的一部分，但战略规划者将必须在模拟战中甚至在实际情况下进行自我测试，以确保人工智能的可靠性程度，同时也思考后果。

基辛格说：“这种情况最终可能类似于第一次世界大战的爆发，而在第一次世界大战中，一系列合乎逻辑的步骤导致了许多意料之外和取法避免的后果。”

基辛格补充说道：“如果你不理解这些技术的含义……包括处理不可预知后果的情感能力，那么你将在战略方面就会失败。人工智能将是“未来哲学的挑战”，因为我们从来没有想到过跟具有如此广阔智慧的物体合作。

摘自《南方日报》2019.11.08

（编辑：WSN）

来源：人机与认知实验室  

链接：https://mp.weixin.qq.com/s/D7amq1XwTGulYd9KDoaV6A

编辑：晓晴