玛娜数据伦理评论(No.5)：人脸识别技术且行且珍惜

刘海明

4月16日，旧金山通过了对《停止秘密监视条例》所作的一些修订，距离成为美国第一个禁止使用人脸识别软件的城市更近了一步。《条例》写道：“人脸识别技术侵害公民权利和公民自由的可能性大大超过了其声称的好处；这项技术将加剧种族不公正，并且威胁到我们的生活不受政府持续监视的能力。”按照旧金山市的定义，监视技术包括车牌阅读装置、监视摄像头、用于预测犯罪活动的软件，以及虹膜扫描装置和人脸或步态识别软件等生物特征识别技术。旧金山市监事会正在考虑的立法还要求城市部门制定监管监视技术使用的政策，解释购置新监视工具的合理性，并提交详细说明监视和数据采集方法的年度报告。

无独有偶，The Verge报道称，微软总裁布拉德史密斯也在4月16日表示，因人权问题，微软拒绝了加州执法机构要求在人员车辆和车身摄像头中安装面部识别技术的请求。由于微软的人脸识别技术主要是通过白人男性进行训练的，一旦这家执法机构采用这一人脸识别技术，将导致无辜的妇女和少数族裔群体被拘留并接受询问。

同时，人脸识别技术也一直在蓬勃发展并被广泛应用，比如美国国土安全部表示，预计在未来四年内，97％的离境乘客将被使用面部识别技术。在我国，北京海淀公园智能步道，公众完成注册后，无需佩戴硬件设备，在步道内进行运动即可通过百度人脸识别技术自动记录运动数据。采用3D人脸识别闸机的地铁线路济南地铁1号线正式开启商业运营，乘客可以在2秒内通过闸机，1分钟内可通过30到40名乘客。在北京、重庆等地，公租房使用了人脸识别的门禁系统，一旦发现多次出现的、未录入租户系统的人员，就将提醒物业人员现场跟进。而在腾讯，人脸识别被用来为未成年人适度游戏“保驾护航”。对实名信息为成人，但在游戏中行为疑似未成年人的用户，腾讯会要求用户进行刷脸验证，如果用户拒绝验证，或验证后发现与姓名信息不符，将被视为13岁以下的未成年人。可以说“刷脸”已经逐步在金融、公安、边防、航天、教育、医疗等多个领域“落地开花”。

无疑，人脸识别技术，作为通过分析比较人脸视觉特征信息进行身份鉴别的计算机技术，相较于其他方式具有更加便捷的优势，其精确度也在不断提高，最新数据显示，全球人脸识别算法的最高水平可以做到千万分之一误报率，相比于去年同期，全球人脸识别性能提升了80%。但是，旧金山市和微软在人脸识别技术如此繁荣的情况下，采取了这样一种谨慎的做法，有利于我们冷静下来，反思人脸识别技术可能带来的伦理问题。

识别错误的风险。人脸识别的过程是较复杂的过程，难免或多或少的在人脸抓取、分析、识别的过程中存在一些其局限性。比如面部遮挡及装饰，又或者两张人脸的相似程度较高的情况（双胞胎），而且随着光线、角度等不同也容易对人脸识别造成影响。在这样的情况下，就容易导致身份的错误识别，特别是在“刷脸支付”“刷脸取款”过程中，将会直接对当事人造成经济损失。另外，据悉，一微博博主称儿子用该博主的照片成功解锁了某智能音箱的刷脸解锁功能。这虽然是个例，孩子的愿望也是天真的，但是不能否认，有心之人可能利用这个方式来非法获取他人财物。

个人隐私问题。随着互联网与各种智能设备的普及，人脸识别充斥在我们生活的方方面面，我们的面部数据有可能在不知不觉间被采集到。通过技术手段，很容易将人脸信息与身份信息关联起来，随之而来的人们生活轨迹、日常爱好、个人隐私就都会被挖掘出来。同时，我们的信息存储在服务器上，即使企业能够保证不滥用，但也不能说绝对能够防住网络攻击。因此，“人脸”数据来了个人隐私保护的隐忧，也带来了个别组织对数据的滥用或垄断的担心，特别是人类自由可能被侵犯，由此产生了“刷脸”时代人类的自由与责任问题并对传统伦理观带来了新挑战。在随处可见的人脸抓拍设备,我们的一切活动都被智能设备时时刻刻盯梢着，跟踪着，让人真正感受到被天罗地网所包围，就像不穿衣服行走在大街上。

安全问题。人脸技术应用广泛，作为身份验证实现支付、入户等，这样容易被挟持刷脸实现支付和入户，在这个意义上，作为身份验证的人脸识别技术比从前的密码输入方式风险更大。

歧视问题。从微软拒绝加州执法部门的请求，让我们看到人脸识别并不是独立的技术，是受多方面影响的，也必然要与其他的数据、算法相关联，不可避免带有歧视性因素。第一，就像是微软提到的那样，在训练人脸识别算法时采用了某个特殊群体，虽然这一选择不一定是主观决定的，比如说，在我国训练人脸识别算法必然以黄种人为主；第二，就是与人脸识别技术相关联的其他算法中存在偏见。第三个就是在具体应用中存在偏见。这一问题相对于前边两类问题更隐蔽、更难识别，但其造成的危害一样是难以估量的。

任何技术都是风险和机遇的双刃剑，人脸识别技术也是一样。我们既要对其充满信心，用开放包容的态度看待其中不尽完善的地方，也要保持理性审慎的姿态，加快建立健全人脸识别技术使用统一标准，对人脸识别技术应用的场景和范围做出合理规定，制定和遵循伦理法律规范，使人脸识别技术更好地为人们生活服务。

原创： 赛博风

来源：人工智能伦理

原文链接：https://mp.weixin.qq.com/s/K6WgsMQpvg1QCXfIVQoR5A

编辑：宋婷