人工智能与新闻业案例集锦

刘海明

【案例】
投资人加速逃离人工智能

原文链接：https://mp.weixin.qq.com/s/V8FSk4xAPnrhns5Bba5u2A

文章来源：青年投资家俱乐部

谁在赚钱？谁在接盘？

作者：斐典
本文转载自融中财经（ID：thecapital）“世界经济史是一部基于假象和谎言的连续剧。要获得财富，做法就是认清其假象，投入其中，然后在假象被公众认识之前退出游戏”。

——@金融大鳄索罗斯

“这个月我已经见了30家投资机构，下个月至少还会再见30家”，2019年7月的一个下午，莫涛对融中财经表示。

莫涛是一家人工智能“千里马”企业的董秘，这个月前刚刚上任，老板招他来的目的也非常明确，那就是找融资。

“同一家投资机构，会有好几个FA同时给我对接，有的推过来的是VP，有的是合伙人”，由于需要对接的FA实在太多，莫涛甚至记不清这些人的名字。

“我的态度很简单，谁先领人过来，单子就是谁的，一切以最终见面为准。”

莫涛所供职的企业，以一家人脸识别技术的AI初创公司，创始团队由知名科学家组成，在2017和2018年连续获得A、B两轮亿元级别风险投资，还曾入选某三方服务机构评选出的《2018中国人工智能创新成长企业50强》榜单。

“他们的融资并不顺利”，一位曾帮助该企业找融资的投行人士刘维告诉融中财经。

“这家公司2018年实际营收是6000万，但实际到账只有2000多万，主营业务大部分都是政府项目，回款非常困难，但是估值却一点不便宜。”

“他们上一轮投前是估值21.5亿，这轮需要融3亿，投前26亿，投后29亿，这种价格今年没人会接”，刘维坦言。

“最近这种情况很普遍，前两年太多AI企业的估值虚高，泡沫快撑不住了。”

事实上，莫涛的表态也侧面印证了这种说法。

“现在我们的态度很开放，投资人觉得估值高不要紧，你可以先开价，具体怎么算都可以坐下来谈”，莫涛表示。

file:///C:/Users/le/AppData/Local/Temp/ksohtml7904/wps4.pngAI革命与“社会人”的逆袭

2016年曾被称为“人工智能元年”。

这一年的春天，一场AlphaGo与世界顶级围棋选手李世乭的世纪对战，让“人工智能”这一概念几乎一夜之间火遍全球。

像科幻小说或电影描述得那样，吃瓜群众们第一次意识到被“天网”支配的恐惧已经距离自己如此之近；各大科技论坛之上，人们谈论的话题也变成了是“奇点已来”和机器人三定律。

然而人工智能这个走入大众视野的所谓“新概念”，诞生至今却早已经超过了50年。

早在上世纪50年代，就已经有研究人员开始尝试通过模拟人脑的方式，赋予计算机“智能”。

在他们看来，人脑识别物体并不是基于明确的规则，而是凭直觉判断。比如我们看到一只狗，我们很明确的知道这是一只狗，但却无法说清楚为什么会知道；

事实上，相比于准确定义物体的特征，人脑识别更像是一种特征匹配，而这也是“神经网络学派”的最初思想。

到上世纪70年代，计算机科学家开始研究神经网络在推进人工智能上的可行性，但当时的主流学界普遍认为，神经网络在数学上有局限性，没有前途；因此神经网络学派一直到九十年代都视为边缘地带的“异类”，拿经费、发论文都很困难。

2010年，斯坦福大学一个叫李飞飞的华裔计算机科学家，组织了一个叫做ImageNet的机器学习图形识别比赛，从2010年开始每年举行一次。

这个比赛的有趣之处，在于它每年都为参赛者提供一百万张图片作为训练素材，其中每一张图都由人工标记了图中有什么物体。

比赛规则是选手用这一百万张训练图片练好自己的程序，然后让程序识别一些新的图片。

每张新图片有一个事先设定的标准答案，而参赛的程序可以猜五个答案，只要其中有一个判断跟标准答案相符合，就算正确。

file:///C:/Users/le/AppData/Local/Temp/ksohtml7904/wps5.png

从2010到2011年的两年里，ImageNet比赛中最好成绩的判断错误率都在26%以上，但是到了2012年，错误率一下子下降到了16%，从此之后就是直线下降。

到2017年，机器识别的错误率已经降到了2.3%——这个水平已经超过了人类。

那么2012年到底发生过什么，让人工智能技术突然出现了一次质的飞跃？

答案是“卷积网络”被发明出来了。

那一年ImageNet大赛的冠军，是一个来自多伦多大学的研究组，他们创造性的在传统的“输入层”和“输出层”之间加入了几个逻辑层 —— 也就是所谓的“卷积层”。

这个研究团队让每一个卷积层只识别一种特定规模的图形模式，然后后面一层只需要在前面一层的基础上进行识别；这样做的好处是每一个神经元只需要处理一个很小区域的数据，且参数可以重复使用，这就大大减少了运算量。

在这个新模型中，那些只有一层卷积的结构被称为简单神经网络（左图）；而那些有多层卷积的，就叫做“深度学习”神经网络（右图）。

file:///C:/Users/le/AppData/Local/Temp/ksohtml7904/wps7.png

这个新算法是如此成功，以至于几乎是一夜之间，以深度学习为代表的神经网络派“咸鱼翻身，当家做主”，从边缘“社会人”一下成为了正统主流派——今天几乎所有人工智能企业的底层技术构架，全部是继承于神经网络派的衣钵。

总的来说，这是一个来自社会边缘的“革命者”砸烂旧世界的励志故事。

而“卷积网络”和“深度学习”的横空出世，也让新技术的曙光照进现实，人类文明似乎踏上一条全新的进化之路。

file:///C:/Users/le/AppData/Local/Temp/ksohtml7904/wps9.png

红利透支：没有进展的2018

如此巨大的“风口”，资本当然不可错过——以2012年为起点，各路投资人开始蜂拥涌入AI赛道。

首先进场的是互联网巨头。

Google、Facebook等公司开始大举扫货，不惜重金购入深度学习领域的头部学者——比如那个来自多伦多大学的获奖团队很快注册了一家公司，2013年就被Google斥资5000万美金收购；

半年之后Google 相册就有了搜索能力，紧接着Google就可以从自家拍摄的街景图像中识别每家每户的门牌号码了。

另一方面，VCPE们也不甘示弱，热钱汹涌之下，大批深度学习领域中的专家开始在风险资本的支持下自主创业，而这其中也不乏一些卓越的华人科学家。

2012 年，正在 MIT 实验室担任博士后研究员的朱珑，在UCLA 视觉识别与机器学习中心主任、导师Alan Yuille教授的支持下回国，并拉上自己的好友、ACM全球大学生程序设计竞赛冠军林晨曦，共同创办了依图科技。

2年之后，在香港中文大学任教的汤晓鸥教授扔下教鞭，与自己的得意门生徐立一起成立了商汤科技。

同样是在那一年，自称“环顾四周，没看到一个对手”的格灵深瞳开始登上各大媒体的头版；

据说其投资人徐小平和沈南鹏曾就格灵深瞳未来的市值应该是“1000亿美元还是5000亿美元”展开过激烈争论——最后双方“妥协在3000亿美元这个中间数上。”

据乌镇智库发布的《全球人工智能发展报告》显示，仅2012年到2016年，全球人工智能企业就新增5154家，融资规模达224亿美元，占2000到2016年累积融资规模的77.8%；

其中，光2016一年的融资规模就达到了92.2亿美元，是2012年的近6倍，相当于2000年到2013年13年间总融资额之和。

在大批投资人看来，人工智能是继蒸汽机、内燃机和互联网之后的第四次生产力革命。

然而烈火烹油般的融资热潮，也让我们很容易忽略一个事实：

作为一项起初并不被广泛看好的技术，神经网络能够完美“逆袭”，其实非常偶然。

正如《浪潮之巅》作者、硅谷风险投资人吴军所言：“人工智能技术20年内恐怕很难再有重大突破，因为今天的人工智能已经用光了40年来所积累的技术红利。”

在吴军看来，通常20年后能产生巨大加速的事情，大都可以在当下的学术界预测出来——“但当下学术界所做的人工智能领域研究并没有太多新的课题”，“纵使科学家们比较努力，人数众多，大概也要20年才能积累出让人感觉非常兴奋、非常惊喜的理论基础。”

事实上，这个判断也绝非危言耸听。

以机器视觉为例，经过了5年发展，神经网络算法在这一领域的潜力基本已经被开发殆尽，而雷同的技术也让其渐成红海。

“现在每年这个领域的比赛很多很多，每家公司都是拿自己最好的一次成绩说事儿，但其实技术都是大同小异，很难形成差异化”，一位人工智能行业的从业者对融中财经表示。

“同样两家做机器视觉的企业，一家说自己的识别准确率是97%，另一家说自己是98%，你觉得在甲方眼里，他们的差距能有多少？”

上述人士表示，“最后还是要拼价格、看关系。”

“目前机器视觉最大的应用场景是安防，主要是政府采购，这里面最大的问题就是回款”，莫涛告诉融中财经，“公司96%的订单来自于政府项目，遇到关键人员离职，或者领导改选换届，项目很容易就会烂尾，抗风险能力很差。”

然而初代人工智能企业们的最大危机还不在于此。

相比于大家在机器视觉与语音识别领域杀得刺刀见红，深度学习模型在新领域突破的举步维艰似乎才是真正的麻烦。

事实上，过去一年业界对人工智能有一个共同的评价：2018年，人工智能的进展就是没有进展。

经过了数年的发展，目前深度神经网络算法仍处于“黑箱阶段”，轻微扰动导致的严重的对抗识别的范例尚无法得到有效解释和解决。

对此，图灵奖得主、清华大学姚期智院士曾公开表示称：深度神经网络能产生的“价值有限”，即使未来实现了算法的透明化，其结果也很可能“令人失望”；在他看来，与其对现有的神经网络模型小修小补，不如另起炉灶，“探索新路径，寻求突破。”

然而“探索新路径”这事儿过于看脸，毕竟砸下去的真金白银，并没有20年可以等。

一个残酷现实是，这其中大部分投资的前景并不乐观。

据IT桔子等数据源显示，2014年至2018年，中国人工智能领域共发生126起退出事件，数量仅为同时期的投资事件的1/20。

其中，IPO退出占四成，回报仅为1.83倍。

而另一个数据则显示，2018年全年有将近90%的人工智能公司处于亏损状态。

早在2017年9月，李开复就曾预言：“人工智能创业有泡沫，（融资热）是今年上半年开始的，融资差不多够18个月花，明年底估计有一批公司倒掉。”

阳光之下无新事，2010年前后，石墨烯的美好前景同样曾经迷住了大把投资人，至今七年过去了，全国能量产出三层以下高品质石墨烯的企业还几乎没有，无数热钱全部打了水漂。

前期用力过猛，后期落地太慢，一热一冷间，2019年的AI行业已如石墨烯一样，尽显疲态。

file:///C:/Users/le/AppData/Local/Temp/ksohtml7904/wps10.png谁在赚钱？谁在接盘？

“我们今年基本已经不看AI技术了，”沪上一位投资人对融中财经表示，“算法其实现在头部公司已经出来了，没什么投资机会了。”

数据显示，2019年第二季度以来，国内人工智能投融资数量和金额都呈现下降趋势，仅完成30起融资，同比下降45.5%，融资总额达50亿元，不足去年同期的40%。

然而与之对应的，是“CV四小龙”商汤、旷视、依图和云从合计拿到其中200多亿，占总额的五分之一。

资本寒冬之下，不仅投资机构二八分化严重，人工智能企业也无可避免的呈现出二八分化，甚至是一九分化的局面。

一边是大批第二、第三梯队的AI企业融资艰难，而另一边则是“不差钱”的AI巨头则频频出手，投资布局产业应用端。

“AI公司VC化”已经成为人工智能行业一道独特的风景。

这其中既有商汤、旷视成立的战投部门，直接进场投项目，也有思必驰、中科视拓等与传统VC、PE等机构联合成立的产业基金，通过募集外部资金补充自己的资金池。

一边烧别人的钱，一边拿这些钱给别人烧。

“AI独角兽对外投资或收购，本质上是消化过多融资，实际业务场景太小、太少，支撑不了估值”，对此有业内人士表示，“有的公司是主动选择，有的则是为了撑起高估值，不得已而为之。”

2019年9月，“人工智能第一股”虹软科技在科创板上市，这家已经在机器视觉人工智能领域拥有126项发明专利和73项软件著作权的低调企业，被认为是目前“市场化落地最为成功的AI公司”。

据招股书显示，虹软科技所服务的客户涵盖华为、三星、OPPO、VIVO、小米、索尼、LG、传音等知名手机厂商；

2016-2018年，其来自“智能手机视觉解决方案”的营收分别为1.7亿元、3.1亿元、4.3亿元，占总营收比重在2017年后逐年上升；

到2018年，其来自智能手机视觉解决方案的营收占比已经高达96.57%，对应毛利率为94.29%。

反观近期刚刚在港交所递交了IPO申请的旷视科技，其营收占比最大的部分则是“城市物联网解决方案”；

2017年、2018年以及2019年上半年，该项收入分别为1.68亿元、10.57亿元、6.95亿元，分别占同期总收入的53.6%、74.1%、73.2%，对应毛利率分别为31%、52.1%和65.2%。

而“为完善 AI+IoT战略布局”，巨资收购的物流机器人公司艾瑞思，在2018年与旷视并表后，其在招股书中的营收占比也只有约5%。

口号是响亮了的，但身体是诚实的。

种种迹象表明，政府订单仍是以旷视为代表的初代人工智能们的主要收入来源。

众所周知，科创板上市企业普遍存在较高的估值溢价，首批上市25家企业的平均市盈率约在53倍左右；

截止目前，虹软科技的市值为250亿人民币，折合约35亿美元左右；

而旷视在今年4月拿到了由中银集团、工商银行、科威特投资局、阿布扎卡投资局等巨头所投的5.9亿美金D轮融资之后，甚至还没走到Pro-IPO，估值就已经超过了40亿美元；

被称为“融资机器”的商汤科技，9月份刚刚披露的估值更是超过了70亿美元，继续领跑“全球估值最高的AI独角兽”。

里面有没有泡沫，大家可以自行判断。

值得注意的是，据旷视招股书显示，联想之星（天使轮）、创新工场（A系列及B系列）、启明创投（B1系列）这几家早期机构投资人的最终持股数量远低于当年的投资数量，这意味着其中大部分（约90%）的股份可能已经被旷视回购了。

图：旷视科技9轮融资情况

• 
  
  file:///C:/Users/le/AppData/Local/Temp/ksohtml7904/wps12.pngfile:///C:/Users/le/AppData/Local/Temp/ksohtml7904/wps13.png资料来源：旷视科技招股说明书
  
  

• 
  
  

图：截至2019年8月,旷视科技各股东持股情况

• 
  
  

file:///C:/Users/le/AppData/Local/Temp/ksohtml7904/wps15.png

资料来源：旷视科技招股说明书，融资中国整理

事实上，如果按照最后一轮28.48美元每股的价格推算，创新工场在6年前以0.24美元每股对旷视的A轮投资，大概收获了120倍的回报，年化收益率接近220%；

而B轮进入的启明创投也收获了16倍回报，年化约在180%左右；

总体来说，仅旷视一个项目，就让“初代AI投资人们”赚的盆满钵满——而不同于平常的纸面富贵，这笔投资中的大部分恐怕已经通过提前回购落袋为安，是实实在在的真金白银。

金融大鳄索罗斯曾经说过：世界经济史是一部基于假象和谎言的连续剧。要获得财富，做法就是认清其假象，投入其中，然后在假象被公众认识之前退出游戏。

索罗斯是哲学家，说得文邹邹的。

如果通俗的翻译一下，那就是所谓概念、预期都是扯淡，要想赚钱，先要假装信，然后建仓，等不得不信的人抬轿，让真的信的人接盘。

你看，赤裸裸的，就很没有美感。

编辑：高杰

刘海明

【案例】

“小智”从实验室孵化出来，来到了法庭工作

原文链接：https://mp.weixin.qq.com/s/d5LAfwFL7naCmt5qQd5Fig

文章来源：“浙江天平”微信公众号

今天，我们从一场AI赋能的庭审开始file:///C:/Users/le/AppData/Local/Temp/ksohtml10360/wps97.png

一起金融借款纠纷案件，法官袁翠玉“袖手旁观”，AI法官助理“小智”协助主持庭审，原被告远程有序发表诉辩意见。

屏幕上，庭审笔录同步跳动更新，双方口语化的表达都被转化为完整语句，还有贴心的重点内容突出显示。

随着庭审推进，屏幕上还同步出现了证据分析展示、庭审争议焦点归纳、案件风险点提示、涉案借款本息金额计算等；裁判文书一栏里的判决书稿也在自动生成，并逐步补全完善。    这都是“小智”干的。袁翠玉核查确认后当庭宣判，并当庭送达，案件随即进入归档程序。file:///C:/Users/le/AppData/Local/Temp/ksohtml10360/wps99.png

从开庭到结案归档，全程仅30分钟

这绝对不是杜撰！

file:///C:/Users/le/AppData/Local/Temp/ksohtml10360/wps100.png

9月23日上午，这样的场景已从浙江省高级人民法院智能审判实验室中孵化出来！一场由“小智”与法官共同参与的“凤凰金融智审”在杭州市上城区人民法院基金小镇人民法庭创造性地展开～

file:///C:/Users/le/AppData/Local/Temp/ksohtml10360/wps101.png

file:///C:/Users/le/AppData/Local/Temp/ksohtml10360/wps103.png

可是，“小智”到底是谁呢？

别着急

戳视频带你去了解“小智”的前世今生！

1

诞生：从实验室到法庭

近年来，浙江法院依托浙江互联网产业的先发优势，大力推进智能化建设，“智审、智执、智服、智管”全面发力。2018年初，浙江高院提出以“平台+智能”为智能化建设总体框架，推动全省法院迈入司法智能化建设的新阶段。目前，浙江法院智能化建设已被列为省数字转型重点项目，并纳入《浙江省新一代人工智能发展规划》。

2018年4月，浙江高院与知名高校、科技公司共同启动智能审判研发攻关，选择民间借贷、网络购物、公安交通行政处罚三类案件作为突破口，以构建知识图谱和模型算法为核心，采用开发模拟法律思维的专家系统和机器深度学习两条技术路线进行探索。经过共同努力，完成了上述三类案由的知识图谱构建，实现证据三性自动审查认定，并在实验室环境中实现了从立案到裁判文书生成的全流程智能审判，初步探索出了一条可行的智能审判途径。

2019年3月，浙江高院联合多家知名企业组建联合项目组，在去年实验室探索的基础上，加快人工智能技术在司法实践中的应用，推进智能审判的落地见效。

为充分激发中基层法院的创新活力，浙江高院在深入调研的基础上，确定了两批25个智能化试点项目，着力打造司法智能化先行示范区。上城法院的“凤凰金融智审”即为省高院确定的重点示范项目。

为此，2019年5月，浙江高院抽调杭州市上城区法院一线法官组建工作专班绘制知识图谱，在金融机构的支持下，以金融借款纠纷为主攻方向，探索人工智能技术在审判全流程的深度应用，首创以“人机共融、智审速判”为特征的凤凰金融智审模式。

据了解，因其率先在杭州市上城区法院落地试点，而上城法院坐落在凤凰山脚，故得名“凤凰金融智审”。

2

成长：“小智”能干什么？

“小智”一经亮相，给传统的金融案件审理工作带来革命性变化。

据了解，“小智”之所以叫“小智”，其名称有三重含义：一是智能的“智”，表明“小智”是人工智能技术研发和应用的成果；二是与中国古代神话传说中能辨曲直、断是非的神兽“獬豸”的“豸”谐音，表明“小智”的责任是帮助法官公正司法；三是与“之江”的“之”谐音，表明“小智”诞生在浙江法院，体现“干在实处、走在前列、勇立潮头”的浙江精神。

“小智”作为法官助理，已经具备以下能力：

01

会感知，能理解

能够“看懂”起诉状、证据材料等，抓取信息、分析案件、认定证据；能够“听懂”庭审中各方发言，智能顺滑庭审笔录，协助法官主持并自主推进庭审流程。

02

会思维，能推理

是否实现自动推理，是认定人工智能的关键。小智已经能够运用知识图谱，在庭审过程中自主分析、实时概括案件争议焦点，智能预测裁判结果、计算裁判数额等，主动向法官报告。在小智的辅助下，案件当庭宣判将成为常态。

03

会决策，能行动

按照案件所在节点，自动推进审查立案、分案排期、生成与送达文书、协助法官主持并记录庭审、电子归档等，无需人工操作。

04

会协作，能互动

小智会将思维推理的过程和结果全面展现给法官，法官发现某环节有误可直接修改，小智会据此实时改变后续推理和预判结果，并自我学习迭代。如法官的判断偏离类案裁判，小智会向法官提示风险。

“小智”做证据三性分析

在“小智”的支持下，凤凰金融智审填补了国内空白，推动全流程智能审判模式从实验阶段正式走向应用实践，实现了“三自动、五实时、三当庭”：

三自动

即庭前自动审查立案、自动分案排期、自动生成程序性文书并送达当事人，将原本立案庭法官、书记员人工操作的事务，全部交由机器完成。

五实时

庭前，根据当事人的提交材料的变化，实时向法官推送包含案件送达情况、争议焦点等内容的庭前报告，方便法官提前了解案情。庭审中，协助法官主持庭审，组织双方当事人举证、质证，对当事人上传的证据实时分类，经质证后，对证据三性进行判定；实时记录庭审内容并进行智能语义分析，动态生成争议焦点，整理推送可能遗漏的要点，让法官的审理更聚焦；根据庭审内容和法官认定的证据，实时完成金额计算和结果预判，并向法官提示风险点；实时生成裁判文书，并根据庭审情况进行动态优化。

三当庭

在法官对智能生成的裁判文书进行审核确认后，实现当庭宣判、当庭送达、当庭进入电子归档程序。

3

融合：“法官创造机器、机器帮助法官”

基于司法审判涉及的事实认定复杂性、法律推理严密性、与人民群众切身利益的密切相关性和目前人工智能的发展水平，浙江高院认为，人工智能应当、目前也只能在审判辅助的定位上，以“法官创造机器、机器帮助法官”的理念研发智能审判。

被誉为“中国第一基金小镇”的玉皇山南基金小镇，是浙江省首批特色小镇、全国首个“金融+旅游”的4A级风景区，目前已聚集2600余家金融机构，资产管理规模超1.12万亿元，是钱塘江金融港湾重要的金融产业集聚区之一。金融业高速发展的同时，法院审理的金融类案件数量也水涨船高。2017年6月基金小镇人民法庭设立运行以来，审结金融借款合同、信用卡、票据、追偿权、涉私募股权投资等纠纷3600余件，办案量年均增长约30%。

凤凰金融智审在“小智”的帮助下，实现了金融借款案件的“即诉即办、即审即判”，比普通的在线审理模式效率更高。这种效率的提升，不是靠人力的投入，而是靠AI的赋能，因此能够让当事人和法官有更多获得感。

一方面，“小智”使案件审理信息更直接、更快速地抵达当事人，可在第一时间对当事人的需求进行反馈，且算法是客观的，对待所有诉讼参与人均一视同仁，可最大限度地保证裁判公平。

另一方面，在“小智”的高智能化辅助下，法官工作量大大减少，进一步从机械的重复劳动、低智力劳动中解放出来，可集中精力解决难案、难题，有效提升办案质效。

袁法官说，像今天的金融借款纠纷案件，从立案，到排期开庭，再到庭审，再到撰写判决书、送达文书、整理卷宗归档，以前少说也要40天时间。不仅自己要投入大量精力，立案庭的法官、档案室的同事还有法庭的书记员，都要参与进来。但“小智”把立案、送达、归档这些工作一手操办，连裁判文书的起草也不用自己操心，一个案子从立案到归档，自己仅需要投入50分钟；立案庭、档案室的工作量甚至1分钟都不到。

下一步，浙江高院将把基金小镇人民法庭作为一块司法智能化建设的“试验田”，继续对凤凰金融智审“深耕细作”，早日形成可复制、可推广的全流程智能审判经验。

编辑：高杰

刘海明

【案例】
赛迪专家：AI不再野蛮发展，从5个角度做好AI全球治理！

赛迪智库政策法规研究所所长 栾群

（原文视频链接：https://mp.weixin.qq.com/s/toSJuTGbzxqnaCoJ6sZlmg）

近日，继旧金山市之后，美国的萨默维尔市也禁止在公共场所使用面部识别。

旧金山市和萨默维尔市的民众反应是，“我们不应该只是规范面部识别技术的使用，而应该彻底禁止这项技术”。

上述案例，既反映出人们对新技术应用的接受有一个缓慢且曲折的过程，又说明美国在法律上对隐私权利保护的深厚传统。

视觉识别是人工智能一个重要的场景应用，未来在自动驾驶、智能制造、医疗诊断、安保安防等各领域都有着广阔前景。

但是，由于存在巨大的侵害个人信息风险，在普及视觉识别等方面，人工智能在应用时也存在着伦理和法律的“障碍”。

旧金山和萨默维尔的规定具有显著的示范性，纽约、奥克兰等城市也在考虑出台类似的立法。

AI治理日益成为国际共识

人工智能技术不同于传统的工业化技术。

传统工业化技术限于制造、加工或工艺流程的优化提升，其指向性在于产品，而人工智能技术的指向性却在人本身。

人工智能视觉识别技术不同于传统的摄像技术，摄像机无论将像素提到多高也只是一个工业产品，但人工智能视觉识别却有着实时海量的搜索、对比和处理信息能力，甚至在自主系统下可以决策或做出“判决”。

被人工智能视觉识别的人像，包含着性别、年龄、种族等传统照片不明确的信息，获得者进而可以预测匹配“你的”需求或行为，这种明显“侵入性”的技术对于权利意识极强的美国人是难以接受的。

关于人工智能的治理日益成为国际共识。

美国人的权利和法律意识很强，但以伦理的眼光看待人工智能和提出治理规范，欧盟却走在了世界前列。

2019年4月，欧盟《可信人工智能伦理准则》提出7个关键条件——人的能动性与监督能力、安全性、隐私数据管理、透明度、包容性、社会福祉和问责机制，以确保人工智能足够安全可靠。

其他如IEEE发布了《合伦理设计的一般人工智能准则》并不断更新，确保人工智能为人类服务。

日本也提出过《以人类为中心的人工智能的社会原则》，以及生命未来研究所《阿西洛马人工智能23条原则》、蒙特利尔大学《人工智能负责任开发宣言》等。

不论是法律还是伦理，这些人工智能的治理文件，都表现出人类对人工智能技术发展的担忧——要利用人工智能技术实现我们生产效率的提高和社会的进步，这一切都要建立在对风险的了解和预防的基础上。

中国正在积极融入人工智能全球治理体系。

虽然有逆流和阻挠，但须知人工智能带来对人类的挑战是全球性的，任何一个致力于现代化的国家都应该负起自己的责任。

中国作为一个负责任的大国，在人工智能全球治理中积极贡献自己的实践经验。

2019年5月《人工智能北京共识》发布，提出了研发、使用、治理三方面的15条原则。

国际人工智能与教育大会还发布了专门的《北京共识——人工智能与教育》。

6月份，在日本筑波举行的G20数字经济部长会议以及G20贸易和数字经济部长联席会议通过了联合声明以及《G20人工智能原则》。

国家新一代人工智能治理专业委员会《新一代人工智能治理原则》提出，发展负责任的人工智能。

6月份，2019《亚太及日本企业人工智能伦理道德研究》报告显示，中国企业在运用人工智能指导方针及管理标准方面位居亚洲前列。

在符合伦理规范下做好AI全球化治理

01

实施国家规划

2017年，国家发布了《新一代人工智能发展规划》和《促进新一代人工智能产业发展三年行动计划(2018—2020年)》，其中对人工智能伦理道德、法律政策提出了明确要求。

要秉持“一张蓝图绘到底”的精神，根据规划要求实施人工智能法律政策三步走：

到2020年部分领域的人工智能伦理规范和政策法规初步建立;

到2025年初步建立人工智能法律法规、伦理规范和政策体系，形成人工智能安全评估和管控能力;

到2030年建成更加完善的人工智能法律法规体系。

02

凝聚伦理共识

在上述很多人工智能伦理和治理的文件中，已经研究了很多人类伦理要点，需要各个国家或经济体结合自身政治、经济、文化和民族特性，做好本土转化工作。

从早期的阿西莫夫机器人3原则，到近期的阿西洛马23原则，以及欧盟委员会、IEEE等不同机构提出的各成体系的伦理准则，透过不同的具体内容其实都是在表达发展与安全的核心价值。

应当说在工作层面，“鼓励创新(发展)、包容审慎(安全)”，就是现阶段人工智能发展最大的共识。

03

拟定评价规则

凝聚起伦理共识后，要做的工作就是制定规则。

围绕合法、安全、稳健、透明、可解释、负责任、科技向善等核心伦理价值，构建人工智能的评估评价体系，指引人工智能健康持续发展。

要积极参与人工智能相关的国际标准规范制定，鼓励国家、行业和团体标准的创新尝试。

要加强传统企业智能化改造评价和管理体系建设，加强互联网企业数据经营、算法审查等工作规范指引。

积极搭建与欧盟GDPR、人工智能伦理准则实施的沟通协调机制，学习借鉴其评价指标体系。

04

履行社会责任

发展人工智能归根到底要靠市场真正的主体——企业，人工智能相关企业能够履行好企业社会责任，才是真正达到了负责任的人工智能要求。

创新是民族的灵魂，也是企业的生命线，要在企业社会责任考核中更加突出技术创新度和安全平衡度指标。

要把企业社会责任作为企业发展战略的重要组成部分，探索企业和技术都可持续发展的路径，完善企业经营监督机制——保证企业在追求利润的同时不会越过伦理红线和法律底线，这对于拥有人工智能技术的企业来说尤为重要。

05

管好重点行业

每一种革命性的技术发展都会让一部分行业消亡，让一部分行业兴起，但是新兴行业兴起不是一蹴而就的，如果不能处理好发展与安全这对基本矛盾，就会导致新兴产业成长缓慢，甚至“夭折”。

历史给予一个国家的挑战和战略机遇期也是短暂和相对的，一旦错失就会陷入相当长期的被动甚至落后挨打的局面之中。

要在合法、合伦理的前提下，加强视觉识别、用户画像、精准推送、虚拟助理等人工智能技术应用的重点行业监管，加强商业APP规范管理，避免出现侵犯消费者权益的恶性事件。

同时，大力推进法治政府建设，营造优化经营环境，让所有主体的行为都在法治的轨道内运行。

作者丨栾群      编辑丨煜 佳

文章来源：中国电子信息产业发展研究院

原文链接：https://mp.weixin.qq.com/s/toSJuTGbzxqnaCoJ6sZlmg

编辑：高杰

刘海明

【案例】
为什么说这本书还不完备？

很久以前，正值计算机程序教学伊始，班上的一位同学用BASIC语言编出了“HELLO，WORLD！”，激动不已，然而，当时给笔者的感觉却非常的不适，原以为计算机程序可以像人聊天一样自由自在，结果只是按照规定的语法语句进行机械的代码输入，而且根本无法表现出人思维的自然……这也许就是对计算机软件、硬件的最原始感受吧！

       当前，尽管人工智能的发展如火如荼，但是人工智能的究竟是什么？从哪里来？又会到哪里去？这些问题依然没有得到满意的回答！通过作者本人在剑桥访学期间的所闻所思，本书尝试着去解开这些谜团；结束访学回到北京后，对智能领域未来的关键问题：人机融合智能和深度态势感知理论框架又进行了较深入的思考、探讨。追问人工智能——从剑桥到北京，实际上就是想用“剑”剖析人工智能领域依然存在的不足和缺陷，用“桥”连接起东西方文明的思想和智慧，取长补短，相得益彰，去迎接人类更加美好的明天。

file:///C:/Users/le/AppData/Local/Temp/ksohtml2384/wps14.png

     一本好书，需要清楚地告诉读者作者所知道的事情，这本书还远远没有做到。这不是谦虚，由于笔者的局限性，许多领域的精华还不能整建制地消化反哺，包括博大精深的数学工具及之外的自然语言体系及之外的思维认知规律……笔者尝试用有限的认知科学和哲学杠杆撬开人工智能AI的一角，结果是：刚有要动的感觉随即就有泰山压顶之知觉，盘根错节+纹丝不动+遥不可及+无能为力。当信息变得廉价时，注意力就变得昂贵了；当注意力变得廉价时，深度态势感知就变得昂贵了。本书主要内容就是尝试探索这一话题，但还远远没有达到这个目的。下一步争取接近这个目标。

file:///C:/Users/le/AppData/Local/Temp/ksohtml2384/wps16.png

       这本书一开始并不是这个书名，内容也不完全是这样子的。最初叫做《剑桥杂感》，内容侧重在剑桥访学时的一些感悟和思考。因为当时主要在心理测量中心，所以前半期主要侧重人的生理、心理和情境意识，后来又涉及到智能和哲学，尤其是对图灵和维特根斯坦的思想进行了学习、研究、分析，从当初打算的人机交互延伸到了人工智能领域，初步了解了休谟之问和回顾了一些东方传统思想，竟也偶然发现了一些有趣的关联，如非存在的有、是非之心、事实与价值、道名变化、人文艺术、义的内涵、表象与本质等等。

file:///C:/Users/le/AppData/Local/Temp/ksohtml2384/wps17.png

      后来，原稿经科学出版社侯俊琳老师和张莉老师的认真分析，提出了《追问人工智能：从剑桥到北京》和《人工智能与未来：从剑桥到北京》两个书名，几经讨论，最后选择了现在这个书名。名正后言才顺，感谢两位老师的辛苦和不吝！！

file:///C:/Users/le/AppData/Local/Temp/ksohtml2384/wps19.png

      回到北京以后，一直在研究和思考人机功能交互、分配、融合，尤其是阿尔法GO/ZERO出世后，一时令世人惊叹、难忘、争议，众说纷纭，莫衷一是，很是热闹了一番。正如许多发明创造刚出来一样，激情慢慢地变成了理智，再回首，人们更是多了些平静和从容。

      机器学习初步完成了它的历史使命，人的智能问题也渐渐回归到了学术前沿，什么是知识？什么是经验？什么是情感？再深一步的，提出了什么是存在？什么是意识？什么是事实？什么是价值？什么是类比的概念空间？……这些数千年的未解之谜！

      在本书中，虽然明确提出并初步论证了深度学习根本不是人的学习、增强学习的奖惩机制远比人的简单、浅显、迁移学习与人的类比机制相去甚远、机器相较人的理解更是十万八千等等，但是还需要进一步深入地诠释和论证，拨云见雾，画龙点睛，正如一位老朋友所言：“如何一本书都是不完备的”，此书也不例外！当然，若能在下一部书里初步建立起相应的框架和体系应会令人有更多的喜悦和兴奋。

file:///C:/Users/le/AppData/Local/Temp/ksohtml2384/wps21.png

     《追问人工智能：从剑桥到北京》就是追问自己的无知和不知、追问人工智能和人类智能的未来发展趋势、追问人们面对新的未知世界所应表现出的行为和思考：如何铸剑？如何建桥？

file:///C:/Users/le/AppData/Local/Temp/ksohtml2384/wps24.png

对人类而言，智能也许就是“我命由我不由天”

文章来源：微信公众号“人机与认知实验室”

作者： 刘伟

原文链接：https://mp.weixin.qq.com/s/iITjZZl8XrwVJaJ53vp28A

编辑：高杰

刘海明

【案例】
刘永谋：技术治理不等于“机器乌托邦”

中国人民大学教授博导刘永谋首发于微信公众号，保留一切知识产权，侵犯必究。本文节选自刘永谋：试析西方民众对技术治理的成见，中国人民大学学报，2019（5）：143-153，并删除了注释。

技治主义（technocratism）主张将现代科学技术运用到公共治理和政治事务当中，以提高社会运行的科学程度。在当代西方社会，对技治主义的负面看法在普通民众中非常流行，人们普遍把技术治理（technocracy）等同于所谓“机器乌托邦”（machine utopia）。为什么会如此呢？应该说，原因错综复杂，至少包括：第一，“科学敌托邦”（scientific dystopia）式的科幻文艺作品在当代西方的流行；第二，激进技治主义者给西方民众留下了极其深刻的坏印象；第三，反科学思潮在西方的兴起，最终引发科学大战（Science Wars）。实际上，某种程度的技术治理自20世纪70、80年代以来就日趋成为当代政治中最显著的全球性现象，在西方发达国家更是如此，西方民众把技术治理简单等同于“机器乌托邦”是错误的，妨碍了对技治主义的深入研究，使技治主义和技术治理问题在英语世界成为重大但缺乏足够建设性研究的“客厅中的大象”（elephant in the room）。

“机器乌托邦”

技治主义的想法一经提出，在西方学界就受到了各种各样的批评，包括西方马克思主义者、自由主义者、人文主义者、后现代主义者、历史主义者、相对主义者和卢德主义者等的批评。大致来说，对技术治理的批评在第二次世界大战之后愈演愈烈，尤其是在20世纪90年代和21世纪初达到了顶峰。倒是最近十年来，渐渐有了一些重新思考技术治理的呼声。但长期以来，西方主流舆论对技治主义和技术治理已经形成了某种负面成见——最著名、最流行的具体意象是电影《摩登时代》中流水线和小说《1984》中的电幕。当然，笼统地说“西方成见”是不严谨的，一是不同国家地区、不同时期的社会观念状况不一样，比如在法国，圣西门是技治主义的鼻祖，在19世纪乃至20世纪上半叶支持技术治理的理论家很多，如孔多塞、傅里叶、孔德等，围绕巴黎综合理工学院一直有一批活跃的技治主义者（technocrat），在20世纪曾形成了计划主义（planism）思潮，尽管20世纪70年以来，法国后现代主义者福柯、利奥塔和德里达等人猛烈批判了科学技术在法国的强势地位，直至今天工程师和专业人员在法国仍占有政治地位较为优越的精英位置；二是不同人群对技术治理的理解差异不小，比如在知识阶层中存在如斯诺所谓的“两种文化”对立，人文知识分子对技术治理持负面看法的占大多数，而可能对技治主义持好感的科学家、技术人员和工程师在公众舆论上往往属于“沉默的大多数”，又比如中国普通工人农民与大学文科教授相比可能更倾向于支持科学技术。无论如何，在北美和西欧，对技治主义反感、憎恶乃至极端敌视的人随处可见，尤其是当与西方之外的其他地方如中国、拉美、俄罗斯和非洲等相比较，西方对技术治理的成见就显得更加明显。

在西方成见之中，技术治理基本上等同于要走向某种“机器乌托邦”——整个技术治理社会目标就是成为一架完整、严密和强力的大机器，每个社会成员均沦为社会机器上的一个随时可以更换的小零件，和钢铁制造的零件没有实质的差别。概括起来说，“机器乌托邦”包括如下对技术治理的标志性理解：

第一，总体主义，即技治主义者坚信自己发现了类似自然规律的社会历史规律，进而按照规律设计某种总体化的终极理想社会的蓝图，并以此为根据彻底颠覆现实社会，运用科学技术对整个社会运行方式包括国家政党、社会制度、风俗习惯乃至个人生活等实施全面改造。在技治社会中，将无一人一物能逃脱总体化社会工程的控制，或者说，乌托邦忽略的地方在社会学意义上实际是不存在的。最近30年来，信息和通信技术（ICT）、物联网（IoT）和大数据技术急速推进，更是给社会公众无处藏身的感觉，《1984》的电幕在技术上完全成为可能。

第二，机械主义，即技治主义者不仅将自然界和动植物视为机器，也将社会和每个人视为机器，将人类自以为独特的情感、意志、心灵和信仰等还原为物理学、生物学和心理学等自然科学事实，而各个机器零件之间如钟表一般紧密啮合、精密运转，必须对整个社会进行事无巨细的精确物理学测量，进而以数据为基础、按照科学原理和技术方法进行机器操控式的社会运转，才能保证社会机器稳定运行而不步入歧途。卓别林主演的电影《摩登时代》中对人成为机器零件的影像呈现广为传播，机器在现实中异化的现象很普遍，而第二次世界大战之后，系统论、信息论、控制论和协同论等横断学科大规模的传播，越发加深了社会公众对社会控制的精密性和不可理解性的印象，社会理解中“专家阴谋论”越来越盛行。

第三，极权主义，即技治主义者反对民主和自由，主张国家至上，由专家掌握所有国家大权，实行公开的等级制，权力最终集中到少数寡头手中，掌权者以科学技术成果为工具、按照数字方式冷酷地统治整个社会，以知识和真理的名义剥夺普通民众的政治权利，对社会成员实施行为和思想两方面的监视和控制，以保证社会稳定运行。的确，当代科学技术的不断发展，在增加人类福祉的同时，也给专制者和独裁者提供了极权主义的利器。法国哲学家福柯对知识-权力改造个体行为的规训技术的抨击，极大地影响了当代通俗文化和艺术，比如获奥斯卡奖的电影《飞跃疯人院》就很好地诠释了福柯对精神病院和精神病学的批评。技术治理思想控制的恐怖，则在布莱伯利的“科学敌托邦”小说《华氏451》中得到具象呈现（“思想消防员”到处搜查并焚毁书籍），它被改编为电影、电视剧和舞台剧广泛传播。一些极端反对技术治理的普通公众甚至认为，先进的科学技术发明出来就是为国家和独裁者监控人们服务的。

第四，经济主义，即技治主义者均主张效率第一和唯一，科学技术是最为有效和有力的方法，专家们为了经济效率必须牺牲其他人类价值目标，否认文学、艺术、风俗和宗教等的价值，社会运行最高的目标应该是越来越发达的科学技术、越来越丰裕的物质财富和人类文明不断地扩展——越出地球，殖民月球、火星、太阳系……著名好莱坞科幻影视系列作品《星际迷航》就是这种不断星际殖民梦想的最著名的通俗表达之一。

敌托邦科幻文艺

当代西方通俗科幻文艺作品，流行对科学技术发展及其对自然界和社会的应用进行质疑和嘲讽，换言之，敌托邦态度在当代西方科幻文艺作品中占据了主流，这对西方民众技术治理的成见形成产生了最重要的影响。乌托邦写作在西方由来已久，可以追溯至柏拉图的《理想国》。在批判和否定社会现实的基础之上，乌托邦对完美社会进行理想规划和理性设计，属于一种社会思想实验。乌托邦可以粗略地分为人文乌托邦和科学乌托邦，前者比如莫尔的《乌托邦》，把通往完美社会的希望寄托于人性转变和道德提升；后者比如培根的《新大西岛》，主张以科学技术为基础建构理想社会。科学乌托邦作品大量出现和流行，成为现当代西方文学的特色之一。科学敌托邦是一种悲观主义的乌托邦写作，是科学乌托邦的对立面，构想的是科学技术发展导致未来社会落入全面异化、自由丧失、极权专制和冷酷无情的悲惨境遇。总的来说，科学乌托邦与敌托邦均相信科技决定论，即自主发展、人无法控制的科学技术决定人类社会的未来命运。

从历史维度上看，西方乌托邦写作在20世纪总体上经历了从乐观到悲观的转变。早期的科学乌托邦小说多数将科技进步等同于社会进步，将科技进步等同于乌托邦本身，将社会治理问题还原为科学技术问题，这种乐观精神在19世纪末20世纪初达到了顶峰。但是，两次世界大战爆发，极权主义国家的兴起，原子弹爆炸，之后环境、能源、人口和气候等全球性问题爆发，科学技术发展的负面效应日益彰显出来，西方公众对科学技术主导的未来之想象逐渐走向了悲观的另一极。可以说，“敌托邦叙事很大程度上是20世纪恐惧的产物”。

美国公众对技术治理的想象很明显就经历了如此转变。美国人一直相信人类社会进步依赖于民主与科学的组合，对将科学技术应用于社会治理和公共事务是持欢迎态度的，这正是技治主义在欧洲产生却大兴于美国、并在20世纪30、40年代率先掀起实践技治主义的北美技术治理运动（American Technocracy Movement）的重要原因。彼时美国人民对技术治理的支持态度，在亨利·乔治的《进步与贫困》（1879）和爱德华·贝拉米的《回顾：公元2000—1887年》（1888）的畅销中得到佐证。亨利·乔治指出，科技和工业的飞速发展在现实中没有缓解而是加剧了贫困，说明问题不在于生产而在于分配，应该在对分配规律实证研究的基础上设计科学分配，就能消除贫困。虽然他给出的土地公有并征收全部地租的方案明显有问题，但以科学原理和技术方法解决贫困问题的进路却是应者云集。《回顾》是美国最著名的技术治理小说之一，影响了美国技治主义理论集大成者凡勃伦。它想象了波士顿未来一百多年的发展，凭着直觉指出以彼时美国的科技生产力，如果更科学地设计社会制度，所有的社会个体就可以过上舒适的物质生活，而在经济安全基础上，人类可以创造完美而辉煌的新生活——“从那时开始，人类进入了精神发展的新阶段，一种更高的智能的进化过程。”然而，第二次世界大战之后，美国民众开始怀疑科学与民主是自然同盟的假设，要求认真思考科学和科学家在民主政治和宪法体制中的地位问题。以艾森豪威尔的告别演讲为标志，他提出要警惕科学与军工的共谋，人们开始怀疑科学发展能否与美式代议制政府兼容。这与当时更大的文化背景有关，即美欧学界对包括理性与自由政府结盟等各种启蒙信念产生了怀疑，美国科学家则对技术治理的兴趣不大。

与此形成鲜明对比的是，第二次世界大战之后苏联主流思想对于将科学用于政治领域非常乐观，认为共产主义体制是唯一能让政治建基于科学方法的路径。关于这一点，作为当代科学乌托邦写作的最典型代表、美苏科幻小说基本旨趣的差异可以作为佐证：苏联科幻多为进步幸福的乌托邦式的，尤其是以别利亚耶夫的《跃入苍穹》为代表的太空探索小说，而美欧科幻多为专制暴政的敌托邦式的。并且，苏联官方哲学坚持马克思主义和辩证法是科学，认为不仅政治而且自然科学如物理学均必须接受辩证法的指导。在此背景下，苏联很多科学家对于技术治理是支持的。“更近的是，苏联征服太空变成了把马克思主义哲学传播至太空的方法。”在A.托尔斯泰的科幻小说中，苏联红军甚至借助火箭登上火星，通过革命推翻了火星人的统治。而在当代中国，马克思主义也被赋予科学的称号，坚持马克思主义的思想指导中国特色社会主义建设，实际兼容着某种用科学技术治理社会的意味。

当代西方好莱坞式科幻影视极尽渲染“机器乌托邦”之能事。正如美国科幻大家阿西莫夫（IssacAsimov）指出的，当代美国科幻小说不是乌托邦的，而是反乌托邦的。电影的主人翁要不出生复杂，比如是不知道自己真实身份的克隆人（《冲出克隆岛》）或者克隆人与人繁殖的第一个人（《银翼杀手2049》），要不遇到罗曼蒂克的挫折，比如爱上机器人（《机械姬》）或人工智能（《她》），要不就是为所居住的社会制度感到深深的不安（如《华氏451》《高堡奇人》），要不干脆就是在一个即将毁灭或已经毁灭的世界中挣扎（如《我是传奇》《机器人瓦力》《9》），所有的痛苦都指向科学技术的发展以及控制科学技术的科学家、政客和狂人。在西方科幻敌托邦文艺作品中，目前最流行的有三种：赛博朋克与机器朋克文艺（机器、怪物和幻境横行的未来世界）、极权乌托邦文艺（以科学技术为手段的残酷等级制社会）、AI恐怖文艺（机器人对人类的冷血统治）。

与技术治理形象塑造最为相关的文艺作品，当属流传极广的“反乌托邦三部曲”：扎米亚京的《我们》（1921）、赫胥黎的《美丽新世界》和奥威尔的《1984》（1950）。“建基于技术而非迷信之上的社会，变成了最貌似有理的暴政体制。”举《美丽新世界》为例：新科技与专制在未来的“世界国”中紧密结合为极权主义技术治理体制，成为自由最凶恶的敌人。在其中，科学技术的极权应用包括：（1）用生物科技造成社会个体的先天生物性状差别，以此为基础形成后天的社会等级制度；（2）用反射、催眠等心理学方法在婴幼儿时期对社会个体进行意识形态“洗脑”；（3）用传媒技术对每个人进行监控，将艺术异化为控制个体情绪的工具，用色情艺术消解爱欲的反抗力量；（4）用精神病学、化学和药物学对所有社会成员进行精神控制，用药物缓解和抹除潜在的威胁性个体精神状态；（5）全面异化科学技术，将全面控制作为科学研究的唯一目标。而最新的著名科学乌托邦作品是美国心理学家斯金纳的小说《瓦尔登湖第二》，这部行为工程幻想小说虽然创作于1948年，但开始流行却是在20世纪60、70年代，在现实中甚至一度引发行为主义社区在美国各处的尝试性实验。《瓦尔登湖第二》初衷是描述以行为主义心理学为基础的理想社区运行蓝图，但它的核心主张即用行为工程对每个社员从一出生起就进行心理学改造、消除妒忌心、竞争心等斯金纳认为的非合作情绪、心理和个性，引起反对者对自由侵害和极权控制的极大忧虑，因而被很多人视为实质上的科学敌托邦作品。总之，科学敌托邦文艺作品盛行，对西方普通公众技术治理西方成见的形成影响最大。

激进技治主义者

  

“机器乌托邦”的形成与激进技治主义者的表现有直接的关系。技治主义者均主张两条基本原则即科学管理与专家政治，激进与否的关键在于是否彻底推翻既有社会制度、是否与既有政府合作而在一定程度上施行技术治理，激进派完全拒绝与现政府合作，拒绝任何改良主张。实际上，绝大多数的技治主义者属于温和派，如圣西门、贝拉米、加尔布雷思、纽拉特、丹尼尔·贝尔等，而类似凡勃伦的激进派是极少数。但是，极少数激进分子的观点和行动在西方社会具有非常高的显示度——这符合传播学中“激进获胜、另类传播”的规律，尤其相比理论家、思想家，激进的技术治理社会活动家的表现对于公众对技术治理的看法影响更是巨大。

比较北美技术治理运动中“双雄”激进派领袖斯科特（Howard Scott）和温和派领袖罗伯（Harold Leob），作为例子。罗伯出身豪门，却拒绝继承家族银行和投资业务，选择成为作家和艺术家，创办文艺杂志，与海明威等人并称美国文学史上“迷惘的一代”（TheLost Generation）。在旅欧期间，他接触并被技治主义所吸引，随即回国投身技术治理运动。而斯科特出身寒微，却极力想给人给人一种掌握高深技术的专业人员与先知的印象。实际上，他并没有接受过系统的高级工程教育，但有过丰富的工程经验，开办过工程公司。他具备卡里斯玛（charisma）人格，极富领袖才能，但性格过于严厉、极端和揽权，和媒体关系不好。后来，两人分道扬镳与斯科特过于独裁也有很大的关系。在运动中，斯科特领导的技术治理公司制订徽章，统一制服，严明纪律，甚至发动所谓的“总征兵”，组织技治主义者的“部队（army）”，给不了解具体情况的公众以冷酷、阴森和可怕的印象，甚至被一些人视为纳粹。斯科特死的时候，几乎没有什么重要媒体发讣告；而罗伯死的时候，美国诸多重要媒体都发布了讣告。

一开始，罗伯的技治主义思想就带有自由主义和审美主义的烙印，与斯科特思想鲜明的机械主义和物理主义特点颇为不同。两人对技术治理的基本理解是相同的，都是从北美技术治理运动的“导师”凡勃伦那里借鉴和发展出来的，主要包括如下方面：（1）丰裕（abundance）、工业系统与高能社会。人类社会可以从能量使用角度来理解，之前社会是主要使用人力、畜力、水力和风力的低能社会，工业革命之后进入主要依靠机器的高能社会。高能社会主干是工业系统，它是一台精密运行的大机器。自从社会生产力发展到丰裕阶段，以机器生产的能量完全可以满足所有人舒适生活所需，而现实并非如此是因为社会制度设计不科学。（2）能量券与社会测量。高能社会必须实行技术治理制度，核心是围绕能量券建立全新的分配制度。废除货币，代之以反映物质资料真实运动状况的能量券。以能量券为单位，对整个国家的物质生产和生活需求进行物理学的精确测量，在此基础上，通过国家统一计划来实现完全平等的按需生产和按需分配。（3）生产最大化与经济自由。工业生产系统由专家、技术人员和工程师掌握，企业目标不再是利润而是提供更多的社会必需品，因而将在既有科技水平上开足马力生产。社会产品极大丰富，人人都免于经济压迫，并得益于科学技术对生产率的大幅度提高而享有大量闲暇。（4）有限的技术治理政府。技治社会工业高度垄断，每种基本工业只有一家大企业，每家挑选最能干的人组成政府。也就是说，技治社会的政府是工业系统的延伸，实际是工业联合体。政府成员包括主席在内，都是从劳动者中逐级晋升和提拔上来的，都是科学技术和管理的专家。技治国家以科学原则行政，需要投票表决的事情很少，并且主要管理经济事务，以宽容和自由的态度对待社会成员的其他活动，因而政府职能极大地减少。

斯科特与罗伯对技术治理理解的差别主要在于：（1）技术治理实现的时机。斯科特认为，“大萧条”（Great Depression）就是资本主义灭亡而技治主义上台的征兆，因而拒绝与美国政府合作挽救危机，而是组建资本主义价格制度崩溃之后接管权力的“部队”，准备非布尔什维克的“工程师革命”。而罗伯认为，技治主义要实现首先要经过一个漫长的垄断过程，当垄断达到极大程度时技术治理自然就会实现，因此技治主义者应该与政府合作，运用专业知识帮助资本主义度过危机，并加速垄断向技术治理转变的过程。实际上，罗伯加入了罗斯福政府，被斯科特称为“叛徒”。（2）对文化和艺术的看法，或者说对人性提升的态度。斯科特只关心工业系统的改革，认为能量券制度解决了所有的问题，并声称所有的方案都是科学的、可计算的和可控制的，而不依靠人性、情感、意识形态文化等不可测的东西来决策。罗伯则认为，实现经济安全并非技术治理最大的价值，最重要的是经济自由之后人们可以从事更有价值的事业，即文化和艺术活动，而文化和艺术的繁荣将从根本上提升人性。

在北美技术治理运动中，给美国公众印象深刻的是斯科特而非罗伯，即使今天提起该运动的领袖，人们能想起的也是斯科特。当时斯科特的激进观点和形象一开始很快引起了美国和加拿大公众的很大兴趣，但很快就转变成极大反感，技术治理公司也曾被加拿大政府封禁。在北美技术治理运动从急速崛起到突然受挫的关键点上，斯科特所做的“皮埃尔旅馆演讲”（Pierre Hotel Address）甚至被很多人认为它应该为整个运动由盛转衰负责，因为当时收音机刚刚普及，通过电台面向全国广播第一次实现一个人同时向所有人说话。“皮埃尔旅馆演讲”是斯科特第一次全国电台广播，但激进的“首秀”造成了完全不可挽回的负面公众印象。在演讲中，斯科特夸张地宣布技术治理思想前无古人，颠覆了数千年人类社会思想史，这完全不符合思想史的事实。他还宣布资本主义很快就必然被技治主义全面代替，不管普通民众是否接受，这是物理学铁律；只有专家和智者才能理解技术治理，才能运行技术治理制度，现有的执政者智力和能力都不够；技治主义者放弃合法选举和民主参政，只需等18个月资本主义价格制度就会全面崩溃，美国人民届时将不得不求助于技治主义者来挽救美国；技术治理不是社会主义、共产主义和资本主义，也不是纳粹主义、凯恩斯主义和自由主义……不是之前的所有主义，技术治理不是愚蠢的民主制，而是真正的精英用科学方法运行社会。总之，他宣称其他人对“大萧条”危机根源理解都是错误的，提出的主张都是错误的，只有技治主义才是美国人唯一的出路。很难想象这种狂妄的救世主腔调不激起听众的极大反感，尤其是斯科特对资本主义18个月崩溃的危言耸听很快就被事实所否证。北美技术治理运动在当时对美国造成的实际影响有限，但它导致了技治主义思想向全世界的快速传播，斯科特等人的激进观点和形象也随之被西方社会公众所认识，促进了西方民众技术治理成见的形成。

文章来源：微信公众号“不好为师而人师者”

原文链接：https://mp.weixin.qq.com/s/Y3gsuWXTpZVju6rO3CXftA

作者：buhaoweirenshi

编辑：高杰

刘海明

【案例】
马斯克发推警告：“高级AI”将很快操纵社交媒体平台

据外媒报道，马斯克称，社交媒体将很快被“先进的人工智能”所操控。马斯克推文写道，匿名机器人群体应该得到更密切的关注。机器人是一种自主的程序，经常试图在社交媒体上玩游戏，要么转发一条特定的推文，在整个平台上推广它，要么在整个平台上散布虚假信息，让它看起来就像成千上万的人在推特上发布同样的（假）新闻一样。(腾讯科技)

编辑：高杰

刘海明

【案例】
国广东方王明轩：大数据、人工智能为传统媒体带来颠覆性改变

2019年9月24日，由众视AsiaOTT主办的“GFIC2019全球家庭互联网大会”在上海隆重开幕，GFIC是国内唯一覆盖“内容、平台、网络、终端、服务”专注于家庭场景的Top盛会，本次大会以【万象连接】为主题，围绕家庭场景为核心，以客厅经济为话题。大会邀请了广电总局、工信部、Verizon、Shemaroo、TATA电信、阿里云、京东云、百度云、芒果TV、国广东方、南方新媒体等200+垂直行业公司、2000+专业听众和50+合作伙伴共同深度参与。

5G商用的落地，势必将带来应用场景的质变式升级，对于家庭场景产业链而言，也将影响到方方面面，无论是终端的呈现形式，终端与终端之间的局域网连接，或者在视频内容分发的形式上，甚至是电视大屏广告与数据统计之间的结合，都会发生形式上的转变。这就意味着5G的出现不仅仅是物理“连接”形式的创新，而是对于整个行业的商业模式变革。

file:///C:/Users/le/AppData/Local/Temp/ksohtml2384/wps120.png

在9月25日上的大屏领袖峰会上，国广东方副总经理王明轩就《从视频发展趋势，看大屏未来》带来精彩的演讲。

1

传统媒体迎来颠覆性改变

自从视频制作技术门槛不断降低，包括手机都可以进行非常复杂的视频制作以来，很多人都认为传统的媒体人将会迎来更大的发展空间。事实上，这是错误的判断。

我们可以类比一下文字，早期的文字刻在甲骨、竹简上，后来随着纸张的普及，有了课本、书信、账本，于是职业的“刀笔匠”就失业了。视频也一样，它将不是产业，而是人人都可以使用的记录再现符号，是全社会的工具。这就导致整个视频将向三个方向发展：

1、天气、饮食信息、路况信息、时尚信息等等，这些需要双向互动、实时更新的内容全部变成互联网上的应用，王总认为这些内容大约占据现在媒体内容的40%左右，将都会从媒体中剥离出去，留下来的主要是新闻和影视剧。

2、就像造纸术等书写技术的进步导致了文字领域文化形态的不断演进，视频领域的技术进步和成本降低也将导致视频内容的形态发生翻天覆地的变化。不要以为现在视频内容太多了，那是传统视频节目形态的内容太多了，而充分发挥视觉优势的新形态的内容几乎是空白。这才是视频内容爆发性增长的所在。

3、前面说的40%去了哪里？都将进入垂直领域，所有的垂直领域几乎都可以用视频来表现，比如饿了么上的图片文字可以换成视频符号，还有教育、健康等等，视频可以表达文字无法表达的东西，其中的市场空间十分庞大，只是过去门槛太高。

2

一切都是建立在数据之上的人工智能

整个视频领域的变化趋势如此，互联网趋势又会怎么样？互联网趋势严格讲就是往人工智能上走，一切围绕着人工智能展开。比如今日头条、一点资讯等应用所采用的智能推荐就具备了这样的人工智能的雏形。当他们成熟后，将为每个人提供一个机器人，其实就是他们的账号。这些人工智能将促使人类在的社会管理、文化、道德、组织结构等方面发生我们所意想不到的深刻变化，鉴于时间原因，王总重点介绍了它目前就已经体现出来的经济价值。

比如央视某频道一天有两亿人收看，一条广告售卖150万。如果换作今日头条会怎么操作呢？由于采用了智能推荐系统，它可以把这两亿人分成一两千组，每组售价仅仅一万元，就可以获得一两千万的收入。而且，还具有售价低、精准度极高、每个受众看到的都是“首页”等特点。

这就是为什么传统电视的代表央视用了三四十年才超过二百亿收入，而今日头条仅用四、五年，收入就超过了五六百亿。机器以超越人脑千万倍的运算能力提供了巨大生产力。

王总认为，未来电视人做的传统节目一定会萎缩，大屏将成为信息枢纽、操控中心。最后结果是在人工智能的引领下，形成“一大一小，一静一动”的格局，一大就是大屏，一小就是移动终端；一静就是大屏，一动就是移动终端。在这样的格局里，现在的影视节目内容只占了一部分，甚至是较小的那部分，大部分是各种垂直领域双向互动的应用。

3

国广东方将打造新型媒体集团

目前，国广东方就是基于对媒体和视频大趋势的认识来打造新型媒体集团的，时间所限，王总重点介绍几个项目。

县级融媒体中心是党和政府治国理政的抓手，建设县级融媒体是总局和国网责无旁贷的责任和使命，也是未来广电5G的信息高速公路上优质的“车队”。国广东方作为国网控股的企业理应承担起这方面的责任。国广东方的融媒体中心将具备以下特点：

1、它是一个能够同时方便自如地对文字、图片、语音和视频四种记录（再现）符号，甚至包括H5进行编辑制作，灵活运用的体系。

2、对于生成的内容，它能够便捷地 “一键式”将这些内容分发到自有平台和微信、微博、头条等公众平台。

3、它拥有一套复杂的，采集颗粒细致的数据系统，能够胜任日常运营和舆情监控。同时，它将拥有完备的数据管理和使用机制，以及可控的数据发布、呈现规则，大数据是“讲政治”的。

4、在大数据的基础上，它拥有内容分类和用户画像相结合的精准的智能化推荐系统。由此，将使客户端推送的内容不是泛滥的堆砌，而是用户喜欢的内容，大大提高用户粘性。

5、专门开辟中央党校和求是杂志的党建专区，为基层党建服务。

关于国广东方的教育项目，王总认为，人类的现代教育是工业文明的产物，工业文明的科技进步才有了今天数理化、文史哲，以及在此基础上衍生出来的各学科细分。

于是，为了实现庞大知识体系的传授，人们便把工业化大生产的方式引进到教育中，建立了现代学校。其实，一座学校就是一座“工厂”，一个年级就是一个“车间”，一个班级就是一个大 “模具”，构成了人类劳动力的社会化大生产流水线。这种教育的最大特点是效率高，但每个班都是一个模子“扣”出来的，其致命弱点是无法实现教育资源的地域公平和阶层公平，也无法实现个性化的因材施教。

国广东方的教育项目就是要通过远程的双向互动、人工智能教育体系，构筑出新的公平的教育形态。更重要的是它将结合每个人的性格特点、思维特性、身体特质真正实现因材施教、按需学习，让受教育者成为他自己想要成为的人。

文章来源： 众视AsiaOTT  

原文链接：https://mp.weixin.qq.com/s/nkg4xypSrB2Rr47yXdL1eg

编辑：高杰

刘海明

【案例】
人工智能与“西式民主的未来”

01

《FLAUNT》

您能否在创新选民信任的机制方面举一些例子呢？

中川黎明

其中很多因素都与我们自身的期望及其变化有关。现在许多人并不确定在今天最信任什么，比如当你在互联网查阅一家新的餐馆时，也许最重要的信息来自社交媒体的评论。虽然大多数人并不知道社交媒体对西方民主的全部评论，但我们要做的就是研究整个社会的变化趋势、创新方向，以及思维改变的过程。

以美国陪审团制度立法为例，如果公民有机会深入了解一项立法工作并有权发声，既然他们有担任陪审员的义务（编者注：美国法律规定，每个成年美国公民都有担任陪审员的义务），那么就应当对相应的立法责任做出体现。

少部分精英坐拥权力的状况应当得到改变。当前，我们的确实需要一些能够解释权力合法性原则和动态的机构，以及能够围绕这些主题做出改变的组织。

02

《FLAUNT》

您是如何理解权力分散和效率的关系呢？

中川黎明

西方社会的政治发展目前仍处于早期阶段。随着权力结构不断演变，地方政府权力日趋增加，这将导致产生一个多样化、更加分散化的新型西方民主制度，也将产生不同种类与程度的民主形式。在这个过程中，必将伴随国家权力的减弱。

03

《FLAUNT》

当选民无法获得有效的信息，或者没有时间或兴趣获取全面的信息，再者受到民粹主义、娱乐化风气的影响，那么怎么能确保西方民主发展得到一个良好的结果呢？

中川黎明

这是一个关键的问题。如果你读过尼尔·波斯特曼（Neil Postman）的书，就会发现他强调了美国早期移民搭乘“五月花”号来到这里，带来的书籍比其他任何东西都要多。他探讨了文本作为媒介及其促使人类思考的强制性功能、神经的发育过程及其构成要素。时至今日，我们已经拥有了电视、社交媒体、博客等众多媒介形式，那么应当思考这些不同的媒介与环境怎样塑造和改变了大家的认知？

从这一方向开始入手，我们会看到如果越来越多的人从社交媒体获取信息，而社交媒体也按照这些规则运作将会产生巨大的影响，因此我们需要严肃探讨这些问题。随着社会的进一步发展，我们的问题变成了——我们能否在多样态的媒介形式中，发现“西式民主的未来”呢？目前，人们不能确定他们所接收到的内容是真实可信的，也对大部分信息保持怀疑态度，那么现行体制又怎么让民众从海量信息中所获取呢？

这仍然是一个关键问题。在我看来，只要人们依然信任这个系统，就一定能发现与之相应的价值理念。一些创新观念、机制，可以促进公平，弥补当前西方民主制度的缺陷，并维持政府的良好运作。

04

《FLAUNT》

人工智能是否会在未来的治理中发挥重要作用？

中川黎明

在人工智能技术广泛应用的情况下，越来越多的人对人为错误的容忍度将会越来越低。纵观历史，每当社会有变革需求与技术条件时，技术通常会替代人类的一部分工作。因为我们认为，新技术的运用会带来更好的结果，并减少更多的错误。当我们进入一个以这样的趋势为主导的社会以后，政府部门的治理水平将大幅提高，并且大部分工作都将由人工智能系统管理和落实。

file:///C:/Users/le/AppData/Local/Temp/ksohtml7744/wps8.png

目前，在司法和经济系统中已经有所体现，这使得我们距离更大范围的人工智能应用并不遥远了。一旦人工智能系统变得非常出色，那么，人们就不会放弃对它的选择。这就是研究院“西式民主的未来”项目所亟需面对的问题，同样这也是与“人类变革”项目相关联的地方。

（杨嘉琪/编辑）

*  中川黎明（Nakagawa），现任博古睿研究院执行副院长，系2010年研究院成立时的第一位雇员。任职期间，她负责制定战略、开发项目、监督财务和运营管理，以及组建工作团队。

* 英文原文《THE PAST IS ALWAYS TENSE, THE FUTURE PERFECT》发表在美国时尚文化杂志Flaunt， 2018年8月8日。Flaunt杂志获得过许多奖项，拥有大量数字资源，在世界各地的重要节日、时装周和艺术聚会、私人活动中具有广泛影响的媒体平台。

文章来源：博古睿研究院

原文链接：https://mp.weixin.qq.com/s/prmsgWHX19Fq_8b8fezO5A

作者：西德·费德玛

编辑：高杰

刘海明

【案例】
听声辨人，找宠物……生物识别站上风口，却引发隐私之忧

早晨起床第一件事就是拿起手机，3D人脸解锁的同时也完成了当天的第一次身份识别；购买早餐、购买车票，习惯性地掏出手机指纹支付……每一天，不同的解锁方式贯穿着生活的方方面面。

除了人们熟知的人脸识别、指纹识别，还有如声纹、虹膜、静脉识别，甚至还有远距离心跳识别等，它们都有一个共同的名字，即生物识别技术，它们正成为普遍的认证方式。近日，由芯智讯主办的“融合·创新——2019生物识别技术与应用高峰论坛”在深圳举行，多位业内人士共同探讨生物识别的前沿技术，助力行业的创新与变革。

然而，个人的生物特征具有唯一性，而且终身不能更改，一旦某个特征被滥用，也可能存在隐私泄露的后果。对此，会上多位业内人士呼吁，加强生物识别技术的监管，强化技术应用的边界。

凭声音辨人、微整形美容，生物识别朝向细分应用

对很多人来说，生物识别技术并不陌生，最常见的是人脸识别，但其应用远不止于此。

“家用机器人在与主人交互时，如果它能知道是哪位主人发出的号令，那么它就可以有针对性地提供个性化服务，而凭借声音，可以很好地分辨不同的主人。”声扬科技首席科学家张伟彬介绍说，把这项技术拓展开来，智能语音会议系统可以解决日常开会中“谁说了什么”，形成自动化会议纪要并节省人力。

声纹技术还可以面向金融、IoT、政企等不同企业和行业提供相应解决方案。在印尼，岛屿众多交通不便，以前数以百万的退休人员在领取养老金时，经常要去当地银行窗口现场认证，而声扬科技提供的远程身份认证解决方案，让退休人员在家就可通过声纹技术进行身份认证。“语音包含了很多个人信息，除了内容，还包括情感，我们希望通过挖掘更多语音价值。”

小优科技则将人脸识别技术应用于美容微整形术前行业，副总经理代启强介绍，一张人脸数据在50万-100万点之间，通过提取额部、两眼之间、鼻额交界、鼻尖、人中沟等方面的数据，可以对人的颜值进行评分，扫描出来的真实三维数据还可以方便地对鼻尖、唇部等部位微调，顾客可看到自己想要的结果。

通过指纹或面部识别来解锁手机已经是再平常不过的事，而现在，汽车领域也在引入更多的生物识别技术，例如，指纹或人脸解锁开门，免去了遗失钥匙的苦恼；进入汽车内，汽车会验证你是谁，并根据你的喜好进行个性化设置温度、音乐等；在行驶途中，3D传感器检测疲劳驾驶程度，以提高驾驶安全；在通过高速公路收费站时，还可以无感支付。

用于城市管理，辨别动物特征找回丢失宠物

当你养的宠物狗走失了，你该如何找到它？是满大街贴宠物狗的照片，并悬赏高额奖金？

其中的难题在于宠物无法拥有自己的专属身份，旷视科技选择鼻纹作为识别的关键特征。旷视科技副总裁谢亿楠告诉南方日报记者，与人类指纹类似，犬类鼻纹具有唯一性与稳定不变性，即不存在鼻纹完全相同的两只犬，而且不容易被毛发遮挡，因此鼻纹成为了犬只身份认证的“密钥”。

中科院深圳先进技术研究院集成所研究员陈巍也谈到，包括深圳市城管局也希望在犬只管理上作相应识别，目前研究的方向是采用虹膜识别的方式。眼睛结构由巩膜、虹膜、瞳孔晶状体、视网膜等部分组成，而虹膜识别技术则基于眼睛中的虹膜进行身份识别。

“同样，这个技术还可以用于在牛、马、猪等动物的生长溯源，在深山老林设置监测点用声纹技术了解真相物种数量，等等。”陈巍说，不过面临的难题是要先建库，搜集相关动物的“身份”以便后期进行匹配。

安全和便捷兼具，多种技术融合成趋势

目前，基于人体的指纹、声纹、掌形、人脸、虹膜、静脉（指静脉及掌静脉）等特征，开发出了相关的生物识别技术，每一种技术的精度、稳定性、安全性、便利性和成本都有较大差异，在此次高峰论坛上，多位业内人士认为，将多种生物识别技术融合成为新的发展趋势。

例如，在手机、智能门锁等智能硬件上，已经搭载了诸如3D人脸解锁、指纹解锁、声纹解锁等方式。“晚上买菜回家时，我们可能不太方便用指纹解锁，这时只需刷脸或喊一句‘我回来了’。”芯智讯创始人杨健表示，单一生物识别技术可能还不够安全，但几种方式组合下也可能达到近乎虹膜识别的安全等级。

陈巍介绍，虹膜识别技术的特征点比人脸多得多，例如，地球上有10的72次方的人才有两个相似的虹膜，而一年掉落地球雪片总数是10的23次方。从这个角度来说，虹膜作为稳定的生物识别特征相比人脸更灵敏，相比指纹识别在日常中有更大的优势。

例如，在矿井中，一些工人只剩下眼睛和牙齿是白的，人脸识别很难分辨，而且长年累月劳作中甚至把指纹磨掉了，这时虹膜技术的优势凸显，但虹膜成像距离非常近，近一点或远一点都可能难以识别，此外，如果背景光太强、过曝也难以拍清楚，总之，多种技术的结合可让识别更精准。

■纵深

生物特征具有唯一性

业内呼吁立法保护隐私

越来越普及的生物识别技术，对用户来说，隐私问题也成为关注焦点。杨健举例说，一些商业组织、连锁商店通过人脸识别追踪客户，以便了解用户购物习惯、消费能力，只要顾客在其中一家店购买，下一次走进连锁品牌其他商店，导购员马上就能知道，消费者买过什么、购物偏好是什么，等等。

他说，从商家的角度，生物识别技术为他们创造了很多价值，但与此同时，消费者的个人信息也在很大程度上被滥用，商家由此更加了解消费者的行为习惯，让消费者掏更多的钱。

生物识别技术还存在被“攻破”的风险。前不久，一位男子使用了手机购买火车票，在填写车票信息后，手机跳转到支付宝的付款界面，并出现人脸识别窗口。他使用了一个以自己为原型的3D打印人头，顺利支付。

“我们任何人的生物特征只有一个，而且终身不能更改，一旦这个特征被滥用后，会造成连锁反应，甚至涉及社会问题、人身安全和金融安全。”掌静脉识别技术研发者于巧红说，技术也一把双刃剑，哪些地方能用，哪些地方不能用，都需要规范和明确使用环境。

优点科技总经理孟勤海则关注到信息的存储安全。他说，与隐私相关的信息应该用最安全的方式存储起来，比如大数据存储在服务器上，其所在的机房是不是被严格管控，机房的出入是否有严格登记，等等。

“指纹等信息存储的区域，应该是外界获取不到的。”思立微高级产品经理孙云刚也认为，什么样的企业可以获得核心数据，应该有相应的资质。代启强建议，可效仿电影分级制度，生物识别领域针对公众安全和商业应用划分不同等级。

信息安全也引发了监管部门的关注。就在近日，央行科技司负责人在金融网络安全论坛上表示，包括生物特征等看似与金融无关的信息现在已变得与金融安全密切相关，隐患持续增多，个人金融信息保护面临严峻挑战。他强调，加强个人信息保护刻不容缓。

【记者】郜小平

原文链接：https://static.nfapp.southcn.com/content/201909/27/c2662742.html?colID=2147483647&code=200&msg=%E7%99%BB%E5%BD%95%E6%88%90%E5%8A%9F&evidence=f776fb7a-9e59-4291-990f-e9865feb6cdc&appversion=5250&firstColID=653&layer=3&share_token=ODA2OWNmODQtMTY4NC00YjdkLTllZjQtODNjY2JiYTkxMjFj&from=singlemessage&isappinstalled=0&date=bnVsbA%3D%3D

文章来源：南方周末

编辑：高杰

刘海明

【案例】
马斯克警告：聊天机器人正在进化 或操控社交网络

9月27日消息，据外媒报道，美国当地时间周四，电动汽车制造商特斯拉与太空公司SpaceX的首席执行官埃隆·马斯克（Elon Musk）在两条推文中发布警告称，社交媒体平台很快就会被“先进的人工智能（AI）”所操纵。

file:///C:/Users/le/AppData/Local/Temp/ksohtml7744/wps103.png

在第一条推文中，马斯克警告说，匿名聊天机器人应该得到更密切的关注。聊天机器人是一种自主程序，经常试图欺骗社交媒体。它们要么通过转发特定的推文来在整个平台上推广它，要么通过让它看起来像成千上万的人在推特上发布同样的(假)新闻，从而在整个平台上散布虚假信息。
马斯克说，如果发现聊天机器人正在迅速进化，这是个很明显的信号，意味着有些事情正在发生。目前还不清楚马斯克是否能够获得相关研究或信息，表明聊天机器人确实在“快速进化”。
在随后的第二条推文中，马斯克详细阐述了他的第一个警告，称虽然“先进的AI”（即超越常规机器人能力的AI）还没有被应用于操纵社交媒体，但这种情况不久后就会成为现实，尽管他没有给出确切时间表。
当谈到AI话题时，马斯克经常被认为是个末日预言者，但他今天的主张并未超出可能发生的事情范围。
当马斯克提到操纵社交媒体的“先进AI”时，这并不意味着AI需要有知觉，而且需要自己主动这么做。不那么先进的AI可以由拥有足够资源的支持者在社交媒体上释放出来，它们会欺骗这些平台，以借机传播它们想要的信息，或者说是虚假信息。

文章来源：Science科学

原文链接：https://mp.weixin.qq.com/s/mHPkJ__afCjAV9_b_Dpi7w

编辑：高杰