人工智能与新闻业案例集锦

刘海明

【案例】欧盟发布《人工智能道德准则》：「可信赖 AI」才是 AI 的指路明灯

文章来源：再建巴别塔

原文链接：https://mp.weixin.qq.com/s/F1pybI4Gr4fHgNgeDO9cyg

　　欧盟委员会发布了由人工智能高级专家组（AI HLEG）编制的《人工智能道德准则》（AI Ethics Guidelines）草案，指出 AI 的发展方向应该是「可信赖 AI」，即确保这一技术的目的合乎道德，技术足够稳健可靠，从而发挥其最大的优势并将风险降到最低。该准则旨在为 AI 系统的具体实施和操作提供指导。《准则》最终版将于 2019 年 3 月发布。

　　

执行摘要

　　人工智能是这个时代最具变革性的力量之一，它可以为个人和社会带来巨大利益，但同时也会带来某些风险。而这些风险应该得到妥善管理。总的来说，AI 带来的收益大于风险。我们必须遵循「最大化 AI 的收益并将其带来的风险降到最低」的原则。为了确保不偏离这一方向，我们需要制定一个以人为中心的 AI 发展方向，时刻铭记 AI 的发展并不是为了发展其本身，最终目标应该是为人类谋福祉。因此，「可信赖 AI」（Trustworthy AI）将成为我们的指路明灯。只有信赖这项技术，人类才能够安心地从 AI 中全面获益。

　　「可信赖 AI」由两部分组成：1）它应该尊重基本权利、相关法规、核心原则及价值观，确保其目的合乎伦理道德；2）它使用的技术应该非常稳健、可靠，因为即使是出于好意，如果没有成熟技术的加持，技术也会带来意想不到的伤害。这些指导原则构成了「可信赖 AI」的基本框架：

　　

　　「可信赖 AI」框架

Chapter I ：确保人工智能的目的合乎道德，规定了人工智能发展应该遵守的基本权利、原则和价值观。

Chapter II：关于实现「可信赖 AI」的指导原则，同时强调 AI 发展目的的道德性和技术稳健性。这部分列出了「可信赖 AI」的要求，以及实现这些要求所需的技术和非技术方法。（详细内容见下文）

Chapter III：提供「可信赖 AI」的具体但非详尽的评估列表实施要求。该列表将根据具体的用例进行调整。

与其他有关 AI 伦理道德的文件相比，这份准则的目的不是为 AI 增加一份核心价值观和原则清单，而是为 AI 系统的具体实施和操作提供指导。

该准则面向开发、部署或使用 AI 的所有利益攸关方，包括公司、组织、研究人员、公共服务单位、机构、个人或其他实体。该准则的最终版将提出一种机制，是否认可这些这些准则将由利益攸关方自行决定。

需要指出的是，制定这些准则并不是为了替代任何形式的决策或监管，也不是为了阻止其出台。这份准则应该不断更新，以适应技术和知识发展的要求。

参与起草制定这些准则的IBM欧洲法律部门副部长利亚姆·本纳姆表示：“（制定这些准则）就像在造房子之前，需要先打地基。而现在就是做这些事情的时候。”

该道德准则要求“值得信赖”的人工智能应当满足如下7个条件：

1.人类的力量和监督：人工智能不能侵犯人类的自主性。人们不应该被AI系统操纵或胁迫，而应该能够干预或监督软件做出的每一个决定。

2.技术的健全性和安全性：人工智能应该安全且准确。它不应该易于受到外部攻击的影响，且应该相当可靠。

3.隐私和数据管理：人工智能系统收集的个人数据应该是安全的、私有的。它不应该让任何人接触，也不应该轻易被盗。

4.透明性：用于创建人工智能系统的数据和算法应该是可访问的，软件所做的决定应能被人类理解和跟踪。换句话说，操作员应能够解释AI系统所做的决定。

5.多样性、非歧视和公平性：人工智能提供的服务应面向所有人，无论年龄、性别、种族或其他特征。同样，系统不应该在这些方面存在偏见。

6.环境和社会福祉：人工智能系统应该是可持续的（即它们应该对生态负责）并“促进积极的社会变革”。

7.问责制：人工智能系统应该是可审计的，并被纳入企业可举报范畴，以便受到现有规则的保护。应事先告知和报告系统可能产生的负面影响。

人工智能，以人为本

欧盟负责数字经济的官员玛利亚·加布里埃尔解读了这7项要求。她认为，在人工智能使用上，“透明性”是一切的关键，同时也要“以人为本”。

加布里埃尔表示：“任何公司在使用人工智能技术时，其受众都应当具有知情权。人们应该知道和他们进行沟通的是算法还是真人。同时，任何由算法做出的决定，都必须由公司出面解释。”

玛利亚·加布里埃尔解读人工智能道德准则 图自视觉中国

报告地址：https://ec.europa.eu/digital-single-market/en/news/draft-ethics-guidelines-trustworthy-ai

编辑：吴悠

刘海明

【案例】

人脸识别技术在英国被起诉

英国首例警用人脸识别案于近日开庭。

案件当事人Ed Bridges以众筹的方式提起诉讼，其诉称南威尔士地区警局使用人脸识别技术侵犯了他的隐私。他同时主张，在加的夫民事审判与家事中心的持续三天的审讯违反了数据保护与平等法。人脸识别技术能够将人群的个体面部图像与“监视清单”中的图像进行比对（监视清单中包含了嫌疑人、失踪人员以及相关人员的图像）。警务人员希望通过此项技术减少犯罪，然而公益组织则主张人脸识别技术侵犯了个人隐私和公民权利。

2017年在欧冠总决赛时期，威尔士警局首次使用了人脸识别技术。Bridges声称他至少被扫描了两次——第一次是在一项平和的反枪支抗议活动中，另一次是在圣诞节购物中。

代表Bridges的公益组织“自由”，声称南威尔士警局在大约50种场合使用了人脸识别技术。该组织同时声称，公开的信息显示在人脸识别技术被投入使用的第一年，其精确度不足9%。警局回应道，在司法审查结束前，他们将不发表意见。

大都会警局也在伦敦适用了若干次人脸识别技术。流传于网络的一个视频显示，某男子因为在镜头前遮挡面部，而被施以90英镑的罚款。此项惩罚广受批评，虽然直到现在也没有弄清该男子究竟是因为遮挡面部还是因为与公务人员发生争执而被罚款。

此项技术在美国也饱受争议。乔治城大学的一向研究报告显示：当涉及到什么样的照片可以由警察呈递给人脸识别算法以生成调查指引时，无规则可循。结果便是，当纽约州警局发现他们没有某个嫌疑人的可供匹配的照片时，竟然尝试将演员伍迪哈里森的照片放入，因为他们认为这两人长得很像。

本月初，旧金山投票已禁止使用人脸识别技术，这项技术被一些活动家称为“老大哥技术”。

人脸识别技术是如何工作的？

由伦敦大都会警局所试用的该项技术（该项系统被称为“NeoFace”，由日本NEC公司制造），首先利用独特的相机来扫描人群中的人体面部结构，生成数字图片，然后与“监视清单”中的图像进行对比，“监视清单”由被纳入警方监管的目标人群的图像组成。

并不是所有被纳入警方监视清单中的人都是通缉要犯，因为清单中也包含了那些失踪人员和其他相关人员。如果匹配成功，那么相机旁边的公务人员就会被警醒。

为什么此项技术备受争论？

公益组织的活动人士认为，人脸识别技术侵犯公民权利。此次诉讼的推动者—公益组织“自由”声称，扫描并储存我们的生物信息，是对隐私的粗野的侵犯。

“老大哥监察者”，这个关注个人隐私与公民权利的组织说道，“直播式的人脸识别技术使得个体成为了行走的身份证，这实在是令人寒心！”

来源：数据法律资讯

来源：微信公众号“您懂的”

链接：https://mp.weixin.qq.com/s/icOXcLauT0Jr-QJqkPTiHw

编辑：马晓晴

刘海明

【案例】

中国报业第三届大会

链接：

https://writer.giiso.com/m/share.html?id=615056&originType=1&uid=11734&newsType=1&title=%E4%B8%AD%E5%9B%BD%E6%8A%A5%E4%B8%9A%E7%AC%AC%E4%B8%89%E5%B1%8A%E5%A4%A7%E4%BC%9A&author=%E9%A3%98%E5%9C%A8%E5%8D%97%E6%96%B9%E7%9A%84%E9%9B%AA&time=2019-05-29%2010:05:09&from=groupmessage&isappinstalled=0

编辑：马晓晴

刘海明

【案例】

AI技术，给影像带来了什么？

从科幻电影《终结者》系列到AlphaGo战胜柯洁，人工智能（AI）从1956年正式提出起，经过了半个多世纪的发展，逐渐将理论科幻应用到了现实。

曾经关于人工智能，社会还掀起了一场“行业是否会被取代”大讨论。即便当时我们得到了肯定的答案，但综合各方报道，人工智能仍有很长的路要走。

昨晚，微博上有人分享了一个关于人工智能的话题：#AI修复的十六岁的林徽因#。今天一早就上了热搜，并且坐稳了热搜榜第二名。

拍者君看到修复后的林徽因照片，虽然与原片比清晰度高了，但是跟帖的评论却不买账：

@芋圆珍奶：无语死，大家百度一下好嘛，这张P得那么网红。

@权小孩and-LJ：怎么跟我书本上看到的不一样[允悲]，不过都很好看。

@看见：真的不太像。她虽然五官并不十分精致，但气质比容貌出众太多，以及文化底蕴支撑起来的灵魂，才成就一身诗意的“人间四月天”。

不过话说回来，近几年，人工智能在影像领域，随着计算机运算能力的提升，也取得了不小的进步。本期，拍者君就简单整理了一下，人类在AI影像领域取得的成果吧。

2019年5月，有媒体报道，位于莫斯科的三星人工智能研究中心的研究人员在一篇论文中指出，他们研发出新的“Deepfake”技术，可以将静态照片中的人物添加不同的面部动作。

这个名叫“Deepfake”的AI技术，首先通过研究分析数据库进行广泛的“元学习”。

研究人员从专门收集人物说话短片的网站VoxCeleb上，取得了7000个样本给AI进行面部特征提取，然后通过训练卷积神经网络，再套用在照片上，生成高度逼真的动态人物头像。但研发人员表示，添加更多的照片有助于生成更惟妙惟肖的效果。

该技术特别之处在于，该算法并不是将一个人的表情完全拷贝到你想创作的那张人脸上，而是使用大多数人都有的面部特征，然后创作出一张会动的新面孔。

当然，也不仅是照片，此项技术也同样适用于肖像画。

美国NVIDIA公司的研究人员在2018年末发表一篇论文称，他们新研发的AI运用GAN（生成式对抗网络）技术，可以产生一些及其逼真的图片。

生成式对抗网络在2014年发明，最初只能生成模糊的人像，如今可以生成以假乱真的图片。

△ 2014年，生成式对抗网络生成的人脸照片。

NVIDIA以一些真人照片作为样本，供人工智能来学习，然后人工智能会从照片中提取不同元素生成新的人物面孔。

除了人物之外，新款 AI 也能生成逼真的宠物、汽车与家居照片。

日本科技公司 DataGrid 在2019年5月份宣布，他们研发出来了全身像的“AI模特”。

该公司宣称，这种新算法是基于 GAN（生成式对抗网络）来生成虚拟人物的高分辨率 (1024×1024) 图像。与之前不同的是，这次生成的是人物全身照。

从样片中可以看出，这些AI生成的全身人像无论男女，在面容、神色、身段还有姿态上都足以以假乱真。

2019年年初，美国NVIDIA公司研发出新的人工智能技术“GauGAN”，它可以将儿童画水平的涂鸦变成逼真的风景照片。

NVIDIA的研发团队称，他们用100万张照片训练人工智能，暂时不知什么时候将产品推向市场。，但他们相信们此项技术可以帮助建筑师等需要创建虚拟世界的行业。

以下是此项AI技术的部分作品

说了这么多，可能觉得人工智能还很遥远。不过低头看看自己的手机，许多人的手机中都有一个AI摄影功能吧。

摄像头拍摄到的画面经过手机强大的运算，可以分析出所处的拍摄环境与光线，自动调整画面，达到更好的呈现效果。

所以说，人工智能在影像上的应用，就在我们身边，并且它会尽力让我们的画面变得完美。

原文链接：https://mp.weixin.qq.com/s/W-ySL0Tom1OV1S6-fFyFBA

编辑：陈茗

刘海明

【案例】

微软删除人脸识别数据库，源于“伦理”识别

当地时间2019年5月14日，美国加利福尼亚州旧金山，监控摄像机悬挂在一栋建筑的侧面。旧金山城市监督委员会将就是否禁止政府部门购买和使用人脸识别技术进行投票表决。 图/视觉中国

据报道，近日，微软已经悄然删除其最大的公开人脸识别数据库——MS Celeb。MS Celeb数据库2016年建立，微软描述其为世界上最大的公开面部识别数据集，拥有超过1000万张图像，将近10万人的面部信息。这些数据信息被用于培训全球科技公司和军事研究人员使用的面部识别系统。

根据人工智能论文中的引文资料统计，在微软删除该资料库前，已经有多个商业组织在使用MS Celeb数据库，包括很多知名的互联网企业。所以，此次微软删除这个数据库影响颇大。问题来了，微软为什么要删掉这些人脸数据？

最直接的考虑，就是担心侵犯公众隐私权、“数据权”，产生法律上的风险。据了解，微软是通过“知识共享”许可，来抓取图像和视频中的人脸信息的。在“知识共享”（Creative Commons）许可之下，部分企业、机构可以将照片用于学术研究。

只不过，“知识共享”许可仅来自于图片和视频的版权所有者的授权，而微软并不一定直接得到了照片与视频中人物的授权许可。所以，这些人脸所对应的人，有可能指控微软侵权，从而产生法律问题。

法律问题很重要，但微软删除这个数据库，恐怕还有更深层次的考虑。

人脸识别当然是一项具有很大市场价值的技术。首先，这能带来不小方便。消费者通过“刷脸”解锁手机、进行电子支付，是全球消费电子领域的大趋势。人脸识别在商业上的应用，消费者始终是有选择权的，他们可以选择刷脸识别，也可以选择密码识别。而且，商业上得人脸识别仅仅是为了提供方便，并不意味着要多付出额外的个人隐私信息。

其次，这还可以加强执法力度。人脸识别可用在追捕逃犯、重要场合快速安检等方面。美国海关与边境保护局就利用生物识别摄像头部署人脸识别解决方案。这套生物识别系统推出至今，已帮助识别出7000名签证逾期人员。

但也应看到，人脸识别有可能突破这些领域，侵犯公民权利。作为一家技术公司，微软本身一直在公开反对将这种技术作为政府监督的一种形式。

在2018年12月的一篇博客中，微软呼吁各公司建立保障措施，敦促各国政府立法，要求对面部识别技术进行独立测试，以确保准确性。今年4月份，微软还拒绝了加州一家执法机构的要求——这家机构要求在警车和身体摄像头上安装面部识别技术。

不仅微软认识到这个问题，今年1月，旧金山提出了一项关于监视技术的行政法规——《停止秘密监视条例》，要求该市的政府部门在使用或购买监控技术前征求监事会的批准，并且每年向监察委员会提交监视技术设备或服务的审计报告。该条例特别指出，“人脸识别技术危害公民权利和公民自由的倾向，大大超过了其声称的好处，这项技术将加剧种族不平等，并威胁到我们不受政府长期监控的生活能力。”

技术在飞速的进步，而技术进步必然会对整个社会产生影响。人脸识别技术从出现到普及，仅仅在短短十年之中，这对从个体到整个社会，都来得太快。在这种快速变化的技术面前，社会必然会受到极大冲击。

而如今，人们崇尚的发展，含义更多地偏向了技术发展，却忽略了技术所带来的社会发展。微软删除人脸识别数据库，正是顾虑到技术发展对社会发展有可能的抑制。这对很多领域也是启示：面对一日千里的技术，是该放慢脚步，好好思考一下技术发展带来的各种社会效应了。

刘远举（上海金融与法律研究院研究员）

原文链接：https://kuaibao.qq.com/s/2019061 ... sec_share=sec_share

编辑：董莉

刘海明

【案例】

在AI、GE等领域，美国受隐私和伦理的约束，应用发展不快，而中国完全没有这类约束，官方需要这些技术来监控民众。
现代科技越来越多是应用和市场驱动理论创新，而不是传统的理论创新驱动应用和市场，中国人口多、市场大，随意获取海量数据，所以在这些领域崛起。

刘海明

【案例】中国软件硬核简史

原文来源：中国国际软件博览会

原文链接：https://mp.weixin.qq.com/s/tEbQok6lHNXtnFMqzf0cdw

我是一名软件程序员

人称“码农”

每天的工作就是代码+代码+代码……

突然有一天……

编辑：吴悠

刘海明

【案例】能生成女性“全裸照片”的人工智能

编辑：吴悠

刘海明

【案例】
杨保军：简论智能新闻的主体性

原作者：杨保军  

文章来源：现代传播

内容摘要：

智能新闻或机器(人)新闻，是通过人工智能技术生产传播的新闻。智能新闻的生产传播主体是人，不是也不应该是智能机器。将智能机器主体化，是浪漫主义的表现，智能机器不可能从根本上替代人作为新闻活动主体的地位和作用。智能机器是人的本质对象化的产物，智能新闻是人作为主体的意志体现，智能新闻生产中存在异化现象，在“人—机”共同主体结构中的新闻生产传播中，人依然是唯一主体。

关键词：

智能新闻；机器新闻；主体性；人—机主体

面对今天人类新闻活动的新图景，在新闻生产传播主体视野中，有一个非常值得关注的越来越普遍的现象，就是智能机器的新闻生产问题，简单点说就是“机器新闻”或“智能新闻”问题（本文在同等意义上使用“机器新闻”“智能新闻”这两个概念）。智能新闻或机器（人）新闻，笼统地讲，就是人工智能技术在新闻报道领域的具体应用，通过人工智能技术生产传播的新闻。有些人认为，人工智能将会在不久的将来替代人作为主体展开新闻生产和传播，可能成为新的新闻生产传播主体；还有一些人认为，智能机器与人一起形成（构成）人一机“共同主体”，展开共同的新闻生产传播。这些将智能机器（人工智能的体现）主体化的见解或观点是值得怀疑的，需要做出反思和批判。
我们确实看到，建立在各种技术之上的智能新闻写作或机器新闻写作已经成为事实。那么，机器（智能机）是否就是新闻（写作）主体？如何看待机器在新闻生产中的属性（主体性或工具性）问题，智能机器在未来是否会完全代替人作为新闻生产主体、传播主体的地位和作用。我对这些问题的回答是明确的，也是“否定”的。智能机器相对人这个新闻生产、传播主体来说，从原则上看，永远处于从属性的工具地位、手段地位，不可能具有与人一样的作为新闻主体的地位。下面，我从几个方面加以简要阐释。
智能机器是人的本质对象化的产物
智能机器，包括所有可能的人工智能技术，本质上都是人作为主体的自觉发明物、创造物，本质上都是人作为主体的对象化结果，是人作为主体的本质力量的显示或体现。正如德国哲学人类学的重要代表大物阿诺德·盖伦所言:“假如我们把技术理解为人类由于认识自然的性质和规律，以便利用它们与控制它们，从而使得自然能为人类自身服务而具有多种能力和手段，那么技术在这种高度普遍的意义上，就是人类自身本质的最重要的部分。”1 技术，是人类自然演进史中的产物，“一切技术都是人的思想的体现”2。
在人类社会，只有人具有主体性。“人的主体性是人作为活动主体的质的规定性，是在与客体相互作用中得到发展的人的自觉、自主、能动和创造的特性。”3 简单说，人的主体性就是指人的自觉、自主、能动和创造特性，至少在目前看来，没有第二种动物，也没有任何其他事物同时具备这些特性。并且，依据现有的认识逻辑、实践逻辑，我们也很难想象在地球上能够出现完整具备这些属性的事物。如果说智能技术具备部分或某种程度上具备这些属性，那也是人作为主体的创造物，它们所表现出的形式上的“主体性”不过是人的主体性或人的本质能力的体现或一定的延伸。就可见的未来来看，只有作为主体的人能够在遵循自然规律、社会规律的背景下自主选择自己的命运，而依赖人之能力的智能机器不可能具备超越于人的自觉性，不可能自主选择自己的命运。
用历史的眼光观察，所有技术及技术产物，都是人类实践活动、实践经验的产物，并且越来越成为人类科学认识转化的产物。就技术发明创造的真实历史来看，有些技术主要是在人类实践活动过程中凭借经验创造出来的，依赖人类的需要一步一步发明创造出来的，并不是先有科学认识，然后才有技术发明和创造；越是在人类活动早期，可能越是如此，即人们并不明确知道技术背后的科学机制或原理，正因为如此，有人才说，“技术比科学有更漫长的历史和更深刻的大性根源”。4 而有些技术主要是在人类科学认识基础上的产物，也就是说，技术发明创造以一定的科学认识为前提，只有认识了一定的科学原理、科学规律，才能发明、创造出一定的技术（产品）。而且，越是技术高度发达的时代，技术发明创造似乎越是依赖科学认识这个前提，“以科学技术知识为基础是现代技术活动的基本特征。特别是在高技术领域，最先进的技术形态往往是在科学研究重大突破的基础上创造出来的”。5 因而从总的原则上可以说，技术是经验、实践与科学认识的共同产物。正如美国著名技术思想家布莱恩·阿瑟所言:“断言技术只是科学的‘应用是幼稚的，毋宁说技术是从科学和自己的经验两个方面建立起来的。这两个方面堆积在一起，并且随着这一切的发生，科学会有机地成为技术的一部分，被深深地织入技术。”6 阿诺德·盖伦也说:“技术从新的自然科学中引出了它那惊心动魄的进步节奏。而科学则从技术中获得了实用的、建设性的、非思辨的倾向。”7 但是，不管具体的技术是如何产生的，它们都是人作为主体的产物，离开人的主体性和主体能力，任何初级的或高级的技术都是不可能自生的，任何机器“生产”机器的可能，首先得以人对机器的初始生产为前提。因而，一言以蔽之，技术不过是人作为主体的产物，是人的各种属性、能力、潜能的延伸物，它们确实能够体现人的主体性，但它们本身并不就是主体，而是人作为主体为自己的认识活动、实践活动、生活活动创造的工具和手段。在人与技术之间，主动性只能来自人类，人类必须成为主体，这样才有可能使技术演进在温顺适度的而非狂野的轨道上，法国哲学家柏格森早就说过:“除非向技术卑躬屈膝的人类，借助技术方法成功地改变自身并望向天空，否则技术绝不会按照其能力大小提供服务。”8 人在技术面前不仅具有主体性，也不能放弃主体性。
人是目的，技术木身不会成为目的。“是人，而不是技术，必须成为价值的最终根源；所有计划的标准不是生产的最大限度的发展，而是人的最理想的发展。”9 人是主体，机器，不管多么智慧的机器仍然是机器，是物。“人类最好把价值判断留给自己，这也是保持种人类对机器人的独立性乃至支配性。我们最好让机器人始终保持它们物’的基本属性，而不是给它们建立一套以人为中心的价值体系。”10 技术的进步或“进化”，本质上属于人的进步或进化，“至少在技术发展的目前阶段，技术的建构和繁衍还依然需要人类作为其代理人”11。技术的自主性，是说技术演进发展有自身的规律，并不是说技术、智能技术可以在本质上自主创造自身。12 即使到了一天，像一些人想象的，人所创造的智能机器能够自主创造、生产自己的“后代”，但从原则上说，仍然没有超越它们在本源上是人的延伸这一逻辑。如果机器不再是人的延伸物，而是成为超越人、超脱人的存在，那我们也没有必要按照人的逻辑去讨论机器了旦机器成为超越人类整体智能或整体能力的存在，它变成了一个新的“物种”，人类也就不可能与其发生真正的对话与交流，正如人类不可能与低等动物进行真正的理性交流一样。
二、智能新闻是人作为主体的意志体现
机器新闻，本质上并不是机器按照自己的主观意志、主观愿望自主生产的新闻，即不是智能机器自己说是或说不是的新闻，而是按照人作为新闻传播主体的意志和愿望生产的新闻。写作新闻的机器本身是人设计的、创造的，如何选择新闻、写作新闻的程序根源上是由人设计的、创造的，用来组合、建构新闻文本的原始资料、原始信息是由人通过一定的手段获取的（获取这些资料、信息的手段可以通过人所设计创造的其他技术来实现，如各种传感器），写出来的新闻是否传播、如何传播、如何收受也是由人作为主体决定的。因而，机器新闻本质上、总体上体现的是作为新闻生产传播主体的人的意志和愿望，而收受什么类型的新闻，总体偏向上受制于人作为收受主体（用户）的选择，那些建立在各种速发基础的新闻分发、信息分发依赖的主要是用户的数据。无论这样的机器如何聪明，它仍然不过是人这个主体手中的工具或不断升级的工具，总体上仍然是受人操纵的延伸物，“任何铅笔都不能自己书写或传播任何东西，爱因斯坦的铅笔不能，任何人的铅笔都不能；如果没有铅笔背后指引它的人脑和人手，铅笔一事无成”13。诚如麦克卢汉所说的，“即使有意识的计算机，仍将是我们意识的延伸，正如望远镜是眼睛的延伸，口技演员操纵的傀儡是口技演员的延伸一样”14。另一位媒介环境学派代表性人物罗伯特·洛根也说，“计算机只不过是我们智能的延伸，人工智能胜过人的智能是难以想象的。实际上，这个方向上的进展几乎为零”15 。“计算机生成的‘智能’不是人的智能，而是人的智能的模拟。”16 那些向社会大众宣称新闻是机器智能自动选择结果的媒体，不过是截取新闻生产的某一环节，用以偏概全的方式的遮蔽性描述，并没有告诉社会大众新闻生产传播的完整过程。那些通过点击量自动生成的所谓“头条”、所谓“推荐”以及背后的“算法”，说明的恰好不是机器聪明，而是人的选择、人的智慧或能力。算法就是力量，算法就是影响天，像一些人想象的，人所创造的智能机器能够自主创造、生产自己的“后代”，但从原则上说，仍然没有超越它们在本源上是人的延伸这一逻辑。如果机器不再是人的延伸物，而是成为超越人、超脱人的存在，那我们也没有必要按照人的逻辑去讨论机器了旦机器成为超越人类整体智能或整体能力的存在，它变成了一个新的“物种”，人类也就不可能与其发生真正的对话与交流，正如人类不可能与低等动物进行真正的理性交流一样。
二、智能新闻是人作为主体的意志体现
机器新闻，本质上并不是机器按照自己的主观意志、主观愿望自主生产的新闻，即不是智能机器自己说是或说不是的新闻，而是按照人作为新闻传播主体的意志和愿望生产的新闻。写作新闻的机器本身是人设计的、创造的，如何选择新闻、写作新闻的程序根源上是由人设计的、创造的，用来组合、建构新闻文本的原始资料、原始信息是由人通过一定的手段获取的（获取这些资料、信息的手段可以通过人所设计创造的其他技术来实现，如各种传感器），写出来的新闻是否传播、如何传播、如何收受也是由人作为主体决定的。因而，机器新闻本质上、总体上体现的是作为新闻生产传播主体的人的意志和愿望，而收受什么类型的新闻，总体偏向上受制于人作为收受主体（用户）的选择，那些建立在各种速发基础的新闻分发、信息分发依赖的主要是用户的数据。无论这样的机器如何聪明，它仍然不过是人这个主体手中的工具或不断升级的工具，总体上仍然是受人操纵的延伸物，“任何铅笔都不能自己书写或传播任何东西，爱因斯坦的铅笔不能，任何人的铅笔都不能；如果没有铅笔背后指引它的人脑和人手，铅笔一事无成”。诚如麦克卢汉所说的，“即使有意识的计算机，仍将是我们意识的延伸，正如望远镜是眼睛的延伸，口技演员操纵的傀儡是口技演员的延伸一样”。另一位媒介环境学派代表性人物罗伯特·洛根也说，“计算机只不过是我们智能的延伸，人工智能胜过人的智能是难以想象的。实际上，这个方向上的进展几乎为零”。“计算机生成的‘智能’不是人的智能，而是人的智能的模拟。”那些向社会大众宣称新闻是机器智能自动选择结果的媒体，不过是截取新闻生产的某一环节，用以偏概全的方式的遮蔽性描述，并没有告诉社会大众新闻生产传播的完整过程。那些通过点击量自动生成的所谓“头条”、所谓“推荐”以及背后的“算法”，说明的恰好不是机器聪明，而是人的选择、人的智慧或能力。算法就是力量，算法就是影响力，算法即权力，17 “网络社会的到来使人与机器之间的界限逐渐模糊”18，这些说法没有什么错误，但略有夸张，而更需要人们清楚的是，这不仅是算法的力量、技术的力量、算法的权力，还是共背后创造算法、发明技术的主体的力量、人的力量，更是显示着不同社会主体的权力。事实上，正是因为创造算法、发明技术的人的价值选择偏向、利益追求目标，以及以收受方式运用这些算法、技术的社会大众的选择偏向，才造成了人们所诟病的新闻传播中的偏向，造成了“内容下降的螺旋”19。因而，面对这样的现象，恐怕人们不应该急于欢呼“机器的公正”，而是要操心“人心的端正”或人心的善良。当技术、机器、智能机器被看作是纯粹的工具时，它们也许是价值无涉的，可一旦与现实的应用、现实的社会主体勾连起来，它们的中立性就没有那么纯粹了，技术本身具有的客观偏向性就会显露无疑。谁能掌控技术、谁能更为自由地运用技术，从技术发明创造那一刻起就已“基因”性地蕴藏在技术机制之中。建立在大数据和算法及计算能力基础之上的智能新闻，并不就是天然客观、全面、公正的新闻，事实上，这样的新闻只是于特定范围大数据基础之上的新闻，它的真实性、客观性、全面性都是相当有限的，它呈现的只是数据范围内的真实，没有进入数据范围的信息连新闻呈现的机会都没有，更谈不上新闻真实了，诚如有学者所言，“在许多意见不能表达的情形下，大数据的性质就是这些表达的缺失”20。以什么样的数据为基础，以什么样的算法为模式，背后有着种种因素的限制与影响，这自然不是技术本身能够决定的事情。21 一些人认为，“基于算法的内容生产将不再依赖记者、编辑等单独点的信息采集，而是通过对大数据库的实时分析，构建起跨语言、深层次、全局性地认识事物、表征和预测现实的模型，突破了以往人们‘脑海真实’的片面性和局部性，从而仿真出无限逼近于客观真实的符号真实”22，这样的推理具有一定程度的现实基础，但未免有点浪漫。其实，新闻所面对的不同的点，或者说记者、编辑所侧重的点往往是更具新闻价值的点，而数据抹平的不同的点，很可能恰好遮蔽了对象特有的新闻价值。用什么样的数据、怎样使用数据，选择者直接表现为机器运行，表现为算法、计算能力的实现，但这一切的“顶层设计”者是社会环境中的人。说到底，人是终极性的主体，而由人作为主体所发明创造出的“智慧”“聪明”的机器还是机器，还是手段和工具，至多是人作为主体的延仲性存在。
在人与机器之间，机器越是能够显示出自主性、自由性，只能表明，人的主体性越强、越高，即人作为至体能够把自身主体性对象化的能力越强、越高。这是人与机器之间难以改变的基本逻辑。只有当人成为机器的工具，成为实现机器目的的手段，被智能机器所主宰或奴役，才可以说人是客体，机器是主体。但按照现有的人与技术的关系，人作为主体是不可能创造出高于人之主体性的对象物的。人的能力是人工智能的边界。23 即使未来有这样的智力可能，人创造的技术创造出比人更强大的智能，人作为社会主体也未必真的愿意创造和接受人与机器、人与技术的如此实际关系。愿意接受智能机器奴役的人类一定是变态的人类，白寻死路或自找毁灭的人类。
三、智能新闻生产中存在异化现象
就现实来看，人类确实会在一定程度上、一些方面被自己本质的对象物，包括技术特别是智能技术所异化，人确实有可能被自己的创造物在一定程度上所控制。诚如马尔库塞所说:“随着科学技术的高度发展，劳动分工的日益专门化，人们在劳动中从事越来越单调乏味、千篇一律的操作，人越来越成为一种工具。24 但异化并不意味着智能机器就是主体，而是说人类在一定程度上失去了自身的主体性，人类在一定程度上失去了理性和自律的能力，这种状况过去存在，现在存在，将来也可能存在。人类其实总在“异化”与“化异”（消除异化）的道路上，如何克服技术异化，走出技术困境，对人类是个越来越大、越来越复杂的难题。正如F.拉普所言:“同从前的时代相反，现代科学技术赋予人类的力量，需要人有一定程度的自我控制。而这完全超出了人类的能力，这就是现实让人进退两难的地方。”25 人是技术的发明者、创造者，技术异化的根源在人身上，不在技术本身。技术会异化到什么程度，取决于人性能力。而人性能力（人的知情意的能力、实践能力）总有其潜在的一面，因而，人类的未来总是蕴藏着多种可能性，没有人能够对人类的未来做出绝对的预测，“正如进步是不确定的一样，历史的倒退和毁灭的结局也不是确定的”26。
当然，人们可以像一些科幻小说、科幻电影中那样想象极端化的情况，可以想象在人类与智能机器之间出现“奇点”27，人类被自己的发明物、创造物—智能机器—控制甚至消灭的场景。但那说到底，并不是机器战胜了人，而只能说是人类的非理性战胜了人类的理性，人类自己消灭了自己作为生物生命的存在，作为社会主体的存在。这样的可能性是可想象的，但也仅是可想象的而已。人类果真创造了自己不可控制的力量，并且是反过来危害自己的力量，那恐怕只能说能够把自身主体性对象化的能力越强、越高。这是人与机器之间难以改变的基本逻辑。只有当人成为机器的工具，成为实现机器目的的手段，被智能机器所主宰或奴役，才可以说人是客体，机器是主体。但按照现有的人与技术的关系，人作为主体是不可能创造出高于人之主体性的对象物的。人的能力是人工智能的边界。即使未来有这样的智力可能，人创造的技术创造出比人更强大的智能，人作为社会主体也未必真的愿意创造和接受人与机器、人与技术的如此实际关系。愿意接受智能机器奴役的人类一定是变态的人类，白寻死路或自找毁灭的人类。
“异化”达到了极端状态。而要消除异化现象或降低这种异化现象的程度，最终依赖的并不是机器的智慧，而是人的主体性的增强，诚如英国历史学家汤因比所言，“要消除（技术）对人类生存的威胁，只有通过每个人的内心的革命性变革”；“对付（技术）力量所带来的邪恶结果，需要的不是智力行为而是伦理行为”。人们现在担心的、怀疑的可能不是智能技术（机器人）的“叛变”，而是人类自身的伦理能力、自律能力。
如果有一天智能机器真的超越了人类的智能，它所拥有的绝对不是人性，而是“机器性”，它拥有的也绝对不是“人类观”，而是“机器观”。它也许会继承人类的理性思维，但它从根本上不会以人的逻辑而会以机器的逻辑思维、存在和活动。那是人所不可理解的逻辑。当机器有了自身的自觉性、主体性，它一定会以机器为中心，创造自己的世界，它可能会有自己的情感和意志，但那与人没有多大关系，“它对人类的存在以及人类价值观都不感兴趣”。“虽然机器拥有超人的智力，但其很难拥有人类意志和创造力。”就像现在的动物界，尽管与人类有一些或近或远的相似性，但动物从本质上并不理解人类的情感和意志。到那时，人类只能是机器的玩物、宠物，就像现在的一些动物，只不过是人类的玩物、宠物或食物一样。就现在来看，机器（本质上）是理性的、逻辑的，但人不只是如此。如何使机器获得恰当的非理性能力，才是真正的（不可能的）难题。人拥有不可计算的一面，世间的万事万物都有不可计算性的属性，“任何不可度量的对象，都无法变成数据，机器也就无法处理”。也许，正是在这一点上，人是任何机器不可替代和不可战胜的存在。人类只能以直接或间接的方式自杀，绝不可能他杀、被自创造的智能机器所毁火。
这样的猜测、想象、幻想对人类白身具有一定的警醒意义。未来是可能的、是开放的，不是人类可以完全预料和驾驭的，人性能力是有限的。有学者指出，“汇聚技术”将把生物的人变成机器人、电子人，彻底打破人与机器之间的原有界限，进而形成半人类、准人类或超级机械化人类。这些“新兴人类”将像今天的计算机一样可以不断升级，功能成倍扩展与提升。这是从外部对人类生命的改造，必将给人类社会带来一系列严峻挑战。因此，人类对自己的智能延伸、神经系统的延伸，还是应该谨慎一点，现有的伦理边界不可轻易冲破，“技术有度”应该成为技术发展的一条规则。“毫无疑问，未来的人也是技术的人，未来的社会也是技术的社会，人类不可能远离技术世界而生活，也不可能彻底消除技术矛盾，但是却可能更加合理、舌意地创“异化”达到了极端状态。而要消除异化现象或降低这种异化现象的程度，最终依赖的并不是机器的智慧，而是人的主体性的增强，诚如英国历史学家汤因比所言，“要消除（技术）对人类生存的威胁，只有通过每个人的内心的革命性变革”；“对付（技术）力量所带来的邪恶结果，需要的不是智力行为而是伦理行为”28。人们现在担心的、怀疑的可能不是智能技术（机器人）的“叛变”，而是人类自身的伦理能力、自律能力。
如果有一天智能机器真的超越了人类的智能，它所拥有的绝对不是人性，而是“机器性”，它拥有的也绝对不是“人类观”，而是“机器观”。它也许会继承人类的理性思维，但它从根本上不会以人的逻辑而会以机器的逻辑思维、存在和活动。那是人所不可理解的逻辑。当机器有了自身的自觉性、主体性，它一定会以机器为中心，创造自己的世界，它可能会有自己的情感和意志，但那与人没有多大关系，“它对人类的存在以及人类价值观都不感兴趣”29。“虽然机器拥有超人的智力，但其很难拥有人类意志和创造力。”30 就像现在的动物界，尽管与人类有一些或近或远的相似性，但动物从本质上并不理解人类的情感和意志。到那时，人类只能是机器的玩物、宠物，就像现在的一些动物，只不过是人类的玩物、宠物或食物一样。就现在来看，机器（本质上）是理性的、逻辑的，但人不只是如此。如何使机器获得恰当的非理性能力，才是真正的（不可能的）难题。人拥有不可计算的一面，世间的万事万物都有不可计算性的属性，“任何不可度量的对象，都无法变成数据，机器也就无法处理”31 。也许，正是在这一点上，人是任何机器不可替代和不可战胜的存在。人类只能以直接或间接的方式自杀，绝不可能他杀、被自创造的智能机器所毁火。
这样的猜测、想象、幻想对人类白身具有一定的警醒意义。未来是可能的、是开放的，不是人类可以完全预料和驾驭的，人性能力是有限的。有学者指出，“汇聚技术”32 将把生物的人变成机器人、电子人，彻底打破人与机器之间的原有界限，进而形成半人类、准人类或超级机械化人类。这些“新兴人类”将像今天的计算机一样可以不断升级，功能成倍扩展与提升。这是从外部对人类生命的改造，必将给人类社会带来一系列严峻挑战。33 因此，人类对自己的智能延伸、神经系统的延伸，还是应该谨慎一点，现有的伦理边界不可轻易冲破，“技术有度”应该成为技术发展的一条规则。“毫无疑问，未来的人也是技术的人，未来的社会也是技术的社会，人类不可能远离技术世界而生活，也不可能彻底消除技术矛盾，但是却可能更加合理、舌意地创造和运用技术。”34

四、“人一机”结构中人依然是唯一主体
就人与机器在新闻生产传播中已经表现出的关系看，特别是从人类能力特别是科学能力、技术能力的发展趋势看，人机互动结构已经形成，“他/它们”至少在外在表现上看已经成为共同的生产传播主体。而且，就目前的发展状况看，“人机互动的主体结构形式”一定会越来越高级、越来越完善。机器会成为看上去与人类越来越像的新闻生产传播主体，成为人类越来越离不开的“高级助手”和相对的“独立工作者”；而作为主体的人，也可能越来越不像纯粹的自然人、生物体，而成为“杂交”人，成为与技术结合、融合在一起的人，电子人、“赛博人”事实上在一定程度上已经出现。35 今天的人，不管是在心灵上、精神上还是在肉体上、身体上，开启了新的“进化”步伐。
但是，在我看来，只要机器本质上还是人类主体能力或人性能力的对象化、外在化、客观化产物，无论它与人类身体有着怎样的结合或融合，它就在本性上只能属于工具性、手段性存在，而不能成为独立的、与人类并列的新闻活动主体。“人机互动的主体结构形式”也只是比喻意义上的新闻传播主体存在方式，并不是说机器真的成了新闻传播“主体”。“人是现实技术系统的构成部分，离开了人的创造与操纵，就没有技术系统的建构与运转。”36（“即使有意识的计算机，仍将是我们意识的延伸，正如望远镜是眼睛的延伸，口技演员操纵的傀儡是口技演员的延伸一样。”即使是那些放置在人体内的“机器”，仍然是人的创造物，是人的智慧与本质的体现，那些过度放大智能机器在新闻生产、传播中作用和影响的看法，还是谨慎点为好，免得人们忽视或忘记了背后的真正主体—人。人与机器的关系，永远不能代替人与人之间的关系，这是两类性质完全不同的关系。新闻活动，说到底，乃是人与人之间的信息交流关系，精神交流、心理交流、文化交流关系。
技术本质上是对自然的发现，是对人的延伸，是为了人与自然更和谐的相处，人与人更加有效的交往、交流，如果走向反面，技术便是人的异化。如果人成了技术的工具和手段，失去自身的主体性，技术便失去了人之延仲的意义和价值。人在主体意义上与技术的杂交化，对于人类来说，可能是悲剧而不是喜剧。有意义的技术边界就是它是相对主体人而存在的客体，是工具，它不能成为超越人类意义上的主体。果真某一天机器开始对人类说“不”，人类的末日也就到来了。

注释:
1、7【德】阿诺德·盖伦:《技术时代的人类心灵—工业社会的心理问题》，何兆武、何冰译，上科技教育出版社2008年版，第4、8页。
2【美】保罗·莱文森:《软利器—信息革命的自然历史与未来》，何道宽译，复口大学出版社2011年版，第34页。
3 郭湛:《主体性哲学:人的存在及其意义》云南人民出版社2002年版，第30-31页
4、8吴国盛编:《技术哲学经典读本》，上海交通大学出版社2008年版，第6（编者前言），129页
5、33、34、36 王伯鲁:《技术困境及其超越》中国社会科学出版社2011年版，第30、107、265、48页。
6、11【美】布莱恩·阿瑟:《技术的本质》曹东冥、王健译，浙江人民出版社2014年版，第65页。
9【美】E.佛洛姆:《佛洛姆著作精选——人性·社会拯救》，黄颂杰编译，上海人民出版社1989年版，第491页。
10 何怀宏:《人机伦理调节的底线》北京日报》，2018年8月27日第15版
12 曾经担任过美国哲学与技术学会第五任主席的兰登·温纳认为，技术在三种意义上可以理解为是自主的:首先，它可看作是一切社会变化的根本原因，它逐渐改变和覆盖着整个社会；其次，大规模的技术系统似乎可以自行运转，无需人的介人；最后，个人似乎被技术的复杂性所征服和乔没。参见卡尔米·切姆:《技术哲学》，载吴国盛编:《技术哲学经典读本》，上海交通大学出版社2008年版，第47页。在笔者看来，温纳的见解，虽然具有一定的合理性，但就实际来看，每一点都有所夸大。
13【美］保罗·莱文森:《软利器——信息革命的自然历史与未米》，何道宽译，复口大学出版社2011年版，第179页。所谓爱因斯坦的铅笔，是指爱因斯坦说过，他的铅笔比他本人更聪明，暗喻技术，工具比人更聪明，或者说离开技术、工具人就无法实现自己的思想或实践观念
14、15、16、37［加］马歇尔·麦克卢汉:《理解媒介——论人的延伸》，何道宽译，商务印书馆2000年版，第431、287、第288、431页参见喻国明、杨莹莹、闫巧妹:《算法即权力:算法范式在新闻传播中的权力革命》，《编辑之友》，2018年第5期。喻国明韩婷:算法型信息分发:技术原理、机制创新与未来发展》新闻爱好者》，2018年第4期
18、22喻国明、韩婷:《算法型信息分发:技术原理、机制创新与未来发展》，《新闻爱好者》，2018年第4期
19 宋建武:《智能推送为何易陷入“内容下降的螺旋”一智能推送技术的认识误区》《人民论坛》，2018年第17期
20、23、31许成钢:《人工智能、工业革命与制度》《比较》，2018年第2期
21 比如，建立在网络数据基础上的很多报道只能在一定程度上反映网民的态度和看法并不能反映非网民的态度和看法。即使在网络数据范围内，由于相关法律、政策或制度的约束与限制，一些信息得不到传播，一些意见没有表达的机会，一些信息被过滤掉，因而，建立在网络数据基础之上的新闻真实性、全面性、客观性、公正性其实是相当有限的。其实通过智能传感器获得的很多社会数据都存在这样的问题，因而，不能神化建立在大数据基础上算法基础上的新闻
24【美】马尔库:《爱欲与文明》黄勇、薛民译，上海译文出版社1987年版，第6页
25 参见［德］F.拉普:《技术哲学导论》，刘武等译，辽宁科学技术出版社1986年版。江行福:“复杂现代性”论纲》《天津社会科学》，2018年第1期
26 汪行福:复杂现代性”论纲》《天津社会科学》，2018年第1期。
27 在某个时候机器人达到超人的水平这种想法被归结为“奇点”。机器人可能会获知它们是怎样被人类控制的，并实现自我控制但就目前而言，关于“奇点”的争辩还更多地停留在学术（以及虚构的）层面，而非现实层面。［德霍斯特艾丹米勒:《机器人的崛起与人类法律》，李飞、郭小匣译，《新华文摘》，2017年第24期
28【英］A.J.汤因比、［日池田大作:《展望21世纪汤因比与池田大作对话录》，苟春生等译，国际文化出版公司1985年版，第39、59页。
29 赵汀阳:《四种分叉》，华东师范大学出版社2017年版，第116页。
30 张一清:颠覆性技术和社会变革》《新华文摘》，2017年第17期
32 汇聚技术，是指把纳米科学和技术、生物技术、信息技术、认知科学四大科学技术领域汇聚起来的技术
35 所谓“赛博人”，是指为技术所穿越、数据所浸润的身体，实质是技术与人的融合的新型主体，是一种终极性的媒介主体性的这种变化，即赛博人的产生，才是媒介融合出现后一系列社会系统融合重组的根本性条件与动力孙玮《赛博人后人类时代的媒介融合》，《新闻记者》，2018年第6期。
（作者系教育部“长江学者”特聘教授，中国人民大学新闻学院教授、博士生导师，中国人民大学新与社会发展中心研究员）
【责任编辑:张毓强】现代传播36
现代传播2018年第11期（总第268期）
编辑：高杰

刘海明

【案例】
微软小冰公众号因违反规定被停用

原文链接：http://www.mycaijing.com.cn/news/m/2019/07/01/307108.html

文章来源：深蓝财经

深蓝财经7月1日讯，人工智能微软小冰微信公众号主页显示，因违反《互联网用户公众账号信息服务管理规定》已被屏蔽所有内容，账号已被停用。截至发稿，微软官方暂为做出回应，尚不清楚具体违反了哪些规定。

公开资料显示，“微软小冰”是微软(亚洲)互联网工程院基于2014年提出建立的情感计算框架，通过算法、云计算和大数据的综合运用，采用代际升级的方式，逐步形成向EQ方向发展的完整人工智能体系。

此前，微软小冰官方微信小程序也因违规遭到暂停服务，目前已无法在微信中搜索到这一小程序。

编辑：高杰