【案例】
张卫：数据的赋权与祛权:基于微观权力的数据伦理分析
一、引言
数据的伦理价值分析是当前诸多人文社会学科共同关注的热点话题, 由于不同的学科 (如政治学、经济学、管理学、法学、伦理学等) 所关心的方面不同, 所采取的分析视角和方法也不尽相同, 这些分析视角相互补充、相互启发, 有助于我们全面深入地理解数据所引发的社会伦理效应。本文尝试从“微观权力”的视角对数据的社会伦理后果进行分析与阐释。
“微观权力”概念来自法国思想家福柯, 它与宏观的“王权”和“法权”相对。“王权”和“法权”以“剥夺和死亡为中心”, 具有生杀予夺的强制力与震慑力。“微观权力”则“以一种十分隐蔽的方式悄无声息地进行着, 它没有法律的威严神态, 也没有革命的激昂热情, 但它却以一种润物无声的高超技巧塑造着每一个现代人的主体意识, 从而将整个社会纳入它的监视、控制之下。”[1]它表现在各种有形和无形的建制之中, 既存在于人与人之间, 也存在于人与物之间。工厂、学校、监狱、军营、家庭等场域都可以见到“微观权力”的身影。福柯更是一针见血地指出, “微观权力”的作用机制本质上是以“技术”的方式体现的, 技术以一种意志性力量规范和影响着人们对世界的感知和行为, 塑造着整个社会与世界。
很显然, 数据技术就是这样一种“微观权力”。它像一道“普照光”, 照亮了世界的每个角落, 让我们看到以前不曾看到的景象;另一方面, 它也让世界的每个角落都曝光在“全景式监狱”的监视之下。换言之, 数据一方面赋予人类以新的权力, 同时又剥夺了人类原有的某些权利, 本文把前者称之为数据的“赋权”, 后者称之为数据的“祛权”。赋权和祛权是相伴而生的, 它既体现在“同一主体”身上, 也体现在“不同主体”之间。每个主体都会被赋权和祛权, 但不同的主体被赋权和祛权的程度又是不同的, 下面我们将从“同一主体”和“不同主体”两个维度分别予以分析。
二、数据对“同一主体”的赋权与祛权
数据对“同一主体”的赋权和祛权探讨的是人与数据之间的矛盾关系。和其他技术一样, 大数据技术赋予人类许多以往不曾拥有的“权力”, 提高了人类的自由度, 使许多以往不可能的事情变成了现实。仅就思维方面而言, 大数据技术促成一种新的思维方式, 让人类拥有更强的洞察力与决策力, 让我们看到世界潜在的隐秘关系。同样, 大数据也削弱了人的某些权利, 人在大数据面前越来越失去自主性, 大数据已异化为统治人的“巨机器”“利维坦”。概言之, 对于“同一主体”而言, 数据的赋权主要表现在:更便利地获取信息、更长久地保存信息、更快捷地传播信息等, 与之相对应, 数据的祛权主要表现在:个人隐私更容易被泄露、记忆不容易删除、垃圾信息泛滥等。
不论是认识世界还是改造世界, 获取必要的“信息”都是其前提条件。在信息时代之前, 如何更有效地获取信息、更长久地保存记忆、更快捷地传播信息是比较困难的, 这些方面是需要人们努力克服的。而在信息时代, 上述问题已基本得到解决, 相反, 如何预防信息不被窃取、删除记忆和拒绝垃圾信息反而成了时代关注的焦点。如果说信息的采集与反采集, 保存与遗忘、传播与反传播是一对矛盾的话, 那么, 在前信息时代和信息时代, 主要矛盾和矛盾的主要方面已悄然发生了转移, 人们关注的重点已经从一端滑向了另一端。换言之, 随着信息化水平的不断提高, 那些被大数据所“遮蔽”的东西显得越来越弥足珍贵。所谓“知白而守黑”, 如何在信息时代守住这些正在消失的东西是当前人们面临的重要挑战。由于数据所带来的好的方面 (即数据的赋权) 比较容易为人们所关注, 而数据的祛权则不太容易察觉, 因此我们重点分析数据的“祛权”, 即大数据对“隐私权”“删除权”和“拒知权”等权利的挑战。
1. 隐私权
隐私保护不是大数据时代才出现的新问题, 而是在大数据时代变得更为严峻和棘手而已。在前信息社会, 虽然也存在着对个人隐私的侵犯, 但受到技术落后的限制, 个人隐私被侵犯的程度相对较低。而随着数据采集与挖掘技术的进步, 形式多样的数据技术, 如网络浏览与交易记录、电子邮件、社交网站、移动设备、定位跟踪与导航系统、搜索引擎、图象与视频共享App、物联网传感器、监控摄像头等时刻都在收集和储存我们的数据, 我们的一举一动都被“记录”, 个人无时无刻不被包围在数据的监控和窥探之中。“在大数据面前, 以往的隐私保护制度 (“以个人为中心”“以告知与许可为基本原则”“以匿名化为基本方式”) , 已经不堪一击”[2]。在某种意义上, 大数据时代的个人实际上是生活在由数据构成的“全景式监狱”中的楚门。“斯诺登事件”和“剑桥分析事件”所暴露的情形正是此种境况的现实反映。“斯诺登事件”反映的是政府机构对个人隐私的窥探, “剑桥分析事件”反映的是商业机构对个人隐私的窥探。政府机构和商业机构是大数据技术的主要推动者和拥有者, 也是大数据技术的主要获益者。政府机构出于国家安全的理由对个人信息进行采集, 商业机构出于对商业利益的追求对个人信息进行采集, 这本无可厚非, 但信息的采集需要一个边界, 超出了边界就构成了对个人隐私的侵犯。
隐私保护已成为数据领域的焦点问题, 所涉及的方面极为复杂, 人们已就此讨论很多, 这里不准备展开, 仅就隐私保护中应注意的原则问题谈几点认识:第一, 隐私保护应遵循数据采集的“最少原则”[3], 即在数据采集中, 与目标无关的、不必要的信息不应包含在采集的范围之内。以美国的人口普查为例, 在美国的政治制度中, 人口数量是确定各州在众议院的议员席位、税收多少的依据。在美国第一次人口普查中, 当时的领导者麦迪逊提出, 除了人口数量之外, 人口普查还应包括个人的性别、种族、年龄和职业等, 但是民众认为这种要求已经超出了人口普查的范围, 最终遭到抵制[4] (P13) 。第二, 隐私保护应遵循“动态调整原则”。隐私的范围和边界不是一成不变的, 在不同的时代、不同的地区会有不同的标准, 仍以美国人口普查为例, 早期的人口普查信息会张贴在公共场合供人们核对, 但到了19世纪末, 人口普查信息的保护意识则大大提高, 总统塔夫脱还为此发表了专门的声明:“普查的唯一目标是获得我们国家人口和资源的总体信息……我们会对信息提供人的权益进行合理保护, 每个普查工作人员都禁止泄漏任何信息, 违反规定必遭重罚。”[4] (P120) 而在“911”事件之后, 美国政府出于公共安全的需要, 对个人信息采集的广度和强度相比之前又有所提高。因此, 隐私保护范围和程度应根据不同的时代和地区的具体语境进行动态的调整。第三, 隐私保护应遵循“适度原则”。隐私与安全、隐私与便利之间是一对矛盾关系, 如果绝对保护隐私, 公共安全和生活便利程度则会相应地打折扣, 出于对公共安全和生活便利的需要, 个人有时候不得不让渡部分个人信息。保护隐私不是目的, 生活才是目的。如果过度地保护个人信息, 则得不偿失。此外, 还应注意技术手段在隐私保护中的积极作用, 比如“人工合成数据” (Synthetic Data) 技术通过对原始数据的模拟与替代, 可以很好地保护个体样本的隐私。
2. 删除权
“删除权” (Right to Delete) 又叫“被遗忘权” (Right to Be Forgotten) 。严格来讲, 删除权应属于隐私权的一部分,但又具有一定的相对独立性, 已被认定为人类的一项基本权利。“删除权”的提出与大数据技术的出现密切相关。在大数据技术出现之前, “记忆”是一件困难的事情, 人类一直为记忆做着各种各样的努力。在文字发明之前, 记忆主要通过口耳相传的方式进行, 但这种方式存在着极大的风险, 当传承记忆的个人或群体突然逝去, 记忆就会中断。文字的发明使记忆的稳定性和连续性得到了极大的提高。随着留声机、照相机、摄像机的出现, 声音、图形、视频等信息形式也得到了保存。目前, 大数据技术使得记忆变得更加容易, 甚至变成永久性的。当记忆变成永久性的, “遗忘”就变成一件难事, 反而成了困扰, “‘被遗忘’甚至成为了数据时代人们的心愿”[5]。因此, “遗忘”的价值在大数据时代需要被重估。
“遗忘”之所以有价值, 其原因有三:第一, 过去发生的事情会有失效期。欧盟第一例关于“遗忘权”的司法审判就涉及该方面。西班牙先锋报在1998年的报纸中发布了原告冈萨雷斯财产被强制拍卖的公告, 冈萨雷斯2009年向该报纸提出删除上述公告, 原因是这些数据信息已经失效, 若任由这些信息继续存在, 将对其声誉造成不良影响。但这些失效信息却仍能在谷歌中查到, 冈萨雷斯即把谷歌公司告上法庭, 欧盟法院于2014年5月13日做出最终裁决, 认为谷歌作为搜索引擎服务商应被视为数据控制者, 对其处理的第三方发布的有关数据主体的非法的、错误的和非必要的信息应当从搜索结果中删除[6]。2016年4月14日, 欧洲议会投票通过讨论了四年多的《一般数据保护条例》, 成为欧盟在大数据时代有关个人数据保护的新宪章, 该条例正式写入了“被遗忘权”[7]。
第二, 人非圣贤, 孰能无过, 过而改之, 善莫大焉。在对待错误的态度上, 应该给予适度的宽容。所谓“士别三日, 当刮目相待”, 我们应该以一种发展的眼光来看待自己和他人。这就需要我们必要的时候忘记过去的错误, 以更加乐观积极的态度面向未来, 给予自己或他人改过自新的机会。如果没有遗忘, 就意味着没有原谅, 没有原谅, 就意味没有改正的机会, 一个人就永远被定在过去错误的耻辱柱上, 这对于个人发展和社会稳定都是不利的。所以, 在某种意义上, 遗忘即意味着原谅, 原谅即意味着希望。第三, 长久记忆存在隐私泄漏的风险。在大数据时代, 由于数据可以被二次或多次利用, 即便在数据采集之时符合“知情同意”的原则, 这也并不能保证数据在二次或多次利用中泄漏个人隐私的可能。比如, 数据采集即便是匿名的, 但是经过数据的交叉分析, 仍然可以识别出数据的主人。因此, 为了保护个人隐私不被泄漏, 在必要的时候, 数据主体有权利要求删除数据, 避免再次利用中隐私泄漏的可能。
3. 拒知权
“拒知权” (Right to Ignore) 又可称为“免打扰权”。简单讲就是指拒绝知道、免于打扰的权利。信息对于人们认知世界和行为决策具有重要的作用, 在信息不发达的时代, 人类尽力通过各种方法和途径去获得尽可能多的信息。并且, 按照苏格拉底的“美德即知识”的理路, 信息掌握得越全面、越丰富, 越能做出符合伦理的决策和行为, 因此, 获取尽可能多的信息被认为是具有正面的道德意义。但事情还有另外一面, 有时候信息掌握得不全面, 反而有利于做出符合伦理的决策和行为, 如“匿名”更有利于保护举报者, 更有利于公平地对待某些特殊群体, “无知之幕”更是一种有助于实现公正决策的途径。正如弗洛里迪所说, “掌握全面的信息不一定是件值得期待的事, 甚至有可能在道德上是危险和错误的, 使人分散注意力或导致严重的后果”[8] (P22) 。
下面这样一个传说故事或许能一窥上述观点。从前有个僧人路过一间茅屋, 看到茅屋上方放出庄严的光芒, 走近一打听, 原来里面住着一位老妇, 她一生持诵“六字大明咒”, 虔诚无比。但因为不识字, 她把最后一个字“吽”念成了“niu”, 僧人告诉她这字念hong。老妇顿时懊悔万分,觉得自己亵渎了神灵, 于是改为僧人教她的正确读音。僧人离开后, 回头发现茅屋上的光不见了, 他猛然醒觉, 立即返回告诉老妇说:那个字确实念niu, 刚才是为了测验你的诚心。老妇欣喜万分, 屋顶的光芒又出现了。尽管这个故事是虚构的, 但其所反映的道理却具有一定的启发性:在特定的情景中, 保护个人的“无知”也具有正面的伦理价值。
同“隐私”和“遗忘”的情形一样, 在信息无孔不入的时代, “拒知”在很多时候几乎是不可能的。更为严重的是, 当错误信息、垃圾信息、广告信息、诈骗信息与有价值的信息混杂在一起, 个人很难分辨也难以阻挡他们的侵入, 以至于我们经常被垃圾邮件、垃圾短信、诈骗信息所困扰。所以, 在大数据时代, 我们关注“知”的同时还需要重视其反面———“拒知”———的价值。从某种意义上说, 保护“拒知权”就意味着保护我们生活的宁静, 不受多余信息、垃圾信息、错误信息的影响、打扰和误导, 这无疑也应成为大数据时代一项重要的个人权利。目前, 人们已经发现和认识到“拒知权”的价值, 并采取了一些行之有效的的措施, 比如微信的“消息免打扰”功能、QQ的“屏蔽群消息”功能、邮箱的“垃圾邮件过滤”功能以及手机的“自动识别骚扰电话”功能等, 这些都是保护个人“拒知权”的具体体现。
三、数据对“不同主体”的赋权与祛权
数据对“不同主体”的赋权和祛权讨论的是人与人之间的矛盾关系。在大数据面前, 人人都被数据赋权和祛权, 但不同的人被祛权和祛权的程度是不一样的。面对同一数据, 有些群体被赋权, 而有些群体则被祛权;有些群体被赋权的多, 有些群体则被祛权的多。如果某两个群体恰好构成矛盾关系, 那么数据对矛盾一方赋权的同时则是对矛盾另一方的祛权, 反之亦然, 二者是此消彼长的关系。存在矛盾关系的群体类型是多种多样的, 本文仅选取三对矛盾关系类型来进行分析, 一是国家与社会, 二是商业机构与消费者, 三是新兴职业和传统职业。
1. 国家与社会
大数据为国家和社会开辟了一个新的权力博弈空间, “国家和社会在这个领域内互动和竞逐权力。国家试图在这个新领域实施自己的意愿, 而社会力量则不仅试图抗拒国家的控制, 而且还试图利用这个新的政治域场来挑战国家”[9] (P49) 。大数据对国家的赋权意味着政府控制社会的能力增强, 权力集中的程度增加, 同时意味着对社会的祛权;大数据对社会的赋权意味着社会监督政府的能力增强, 权力分散的程度增加, 同时意味着对国家的祛权。在某些领域、某些时段、某些地区, 大数据对国家赋权的程度高于对社会赋权的程度, 而在另一些领域、另一些时段、另一些地区, 大数据对社会赋权的程度则高于对国家赋权的程度。
具体而言, 大数据对国家的赋权主要表现在: (1) 大数据为国家掌控社会舆情提供了一种新的手段, 借助这一高效的手段, 国家能够更加及时全面地了解社会舆论动向、社会热点话题、民众心理变化等, 为科学有效的决策提供更坚实的事实基础。 (2) 大数据为国家治理社会问题提供了新的途径。比如在腐败问题、网络安全、社会诚信问题等问题上, 大数据能够起到比传统治理手段更好的治理效果。 (3) 从间接的角度来看, 大数据技术的发展, 引起经济的转型升级, 带动经济的快速增长, 而经济的增长是现代政治合法性的重要基础, 这在某种意义上也是对国家的赋权。
大数据对社会的赋权主要表现在: (1) 大数据提高了社会的知情权。大数据为社会提供了较为畅通的信息渠道, 公众可以及时地了解相关方面的信息, 公众的知情权较之以前有所提高。 (2) 大数据提高了社会的监督权。大数据为社会提供了一个全新的舆论监督平台, 自下而上对国家形成某种舆论压力, 促使国家的变革向着有利于民众的方向进行。 (3) 大数据提高了社会的参与权。由于发表言论渠道的多样化, 原来受地域、经济、时间等限制而无法参与的公众可以随时随地地参与公共社会问题讨论, 从而提高了全社会的政治参与度。当然, 知情权、监督权、参与权是互为一体、相互配合、互动发展的。随着世界“数据开放”运动的发展, 社会的知情权、监督权和参与权会进一步增长, 社会被数据赋权的程度将会进一步得到增强。
2. 商业机构与消费者
大数据对商业机构和消费者的赋权与祛权也存在此消彼长的关系。总体而言, 尽管大数据对消费者也有一定的赋权, 但其程度远不如对商业机构的赋权。在大数据面前, 权力的天平更加向商业机构一端倾斜, 商业机构掌握着越来越多的主动权, 消费者越来越处于不利的地位。如果商业机构不当利用大数据所赋予他们的新权力, 就会对消费者的合法权益构成严重的威胁, 如商家对老客户采取的“杀熟”策略、在不同类型手机用户之间采取价格差异策略, 就是利用大数据侵犯消费者权益的表现。
具体而言, 大数据对商业机构的赋权表现在:第一, 改变传统的商业模式, 开拓新的市场空间。利用大数据, 商业机构可以对整个业务流程进行再造, 寻找新的价值创造路径, 提高某一业务流程的效率;还可以实现从“一次性支付”的出售模式到“微支付”的出租模式的受益模式转变;还可以使获取和利用外部资源的成本和风险大大降低[10]。第二, 更精准地了解消费者的需求。利用大数据, 商业机构可以洞悉消费者的真实需求, 对消费者进行精确细分, 实现产品的及时、精准、动态定位, 在与消费者的博弈中形成新的竞争优势。通过对消费者以往消费记录的掌握, 商业机构可以掌握消费者的消费习惯, 预测消费者的消费倾向, 提高营销的针对性和精准度。第三, 发现市场中不曾发现的相关关系, 获取更多的收益。沃尔玛超市的“啤酒与尿布”销量的正相关性、谷歌公司的广告优化配置等都是通过大数据才得以发现和实现的。通过对新发现的相关关系的应用, 商业机构可以从中获得更多的收益。
尽管大数据对消费者主要是祛权, 但是在某些方面, 大数据对消费者也给予了一定程度的赋权:首先, 大数据提高了消费者决策的主动权。不论是去餐馆就餐、景点旅游, 还是去上网购物, 在决策之前, 消费者都可以事先浏览“用户评价”一栏, 通过浏览相关消费评价, 就可以事先判断商家的商品质量、服务水平和商家信誉, 从而做出更优的消费决策。其次, 基于大数据的各类应用软件提高了消费者的便利性。以地图导航为例, 以前的导航软件是事先规划好行程路线, 它考虑的唯一因素是空间距离, 然而由于道路交通状况是实时变化的, 即便是空间距离最短, 但如果出现交通堵塞的话, 仍然耗时很多。现在, 导航软件可以基于实时更新的交通数据, 可以智能化地时时规划和调整行车路线, 从而节省行车时间。但总得来说, 数据对消费者的赋权呈现出一定的表面性和虚假性, 最终仍避免不了被商业机构所操控。
3. 新兴职业与传统职业
大数据还引起传统职业与新兴职业之间权力关系的调整。在大数据时代, 许多传统职业都可能被淘汰, 从事这些职业的人员则相应地被“祛权”, 而与大数据相关的新兴职业将获得广阔的生存空间, 从事这些职业的人员将被“赋权”。按照大数据技术的发展趋势, 目前绝大多数传统职业都将会被大数据所挤占, 甚至消失。医疗行业、教育行业、交通行业、金融行业、服务行业等传统行业中的从业人员目前已感受到这种危机, 甚至需要较高创造力的行业, 如音乐创作、诗歌写作、新闻报道等行业, 大数据技术也开始对之发起冲击。而与大数据相关的新兴职业, 如数据科学家、数据分析师、数据工程师、数据架构师、数据维运师、数据产品经理等将会在未来拥有更大的就业空间。简而言之, 大数据行业将以一己之力对抗社会整个传统行业。
在传统职业和新兴职业这对矛盾关系中, 传统职业主要是被祛权, 而与数据相关的新兴职业则主要是被赋权。那么, 在传统职业被整体祛权的时代背景下, 就业问题成了大数据时代一个重要的社会问题。解决此问题, 需要在国家、学校和个人层面同时发力。在国家层面, 国家应尽量创造更多新的就业机会, 解决传统行业人员的再就业;在学校层面, 教育应该更加重视未来的需求, 根据未来的前景合理调整教育理念、内容和方法, 培养适合未来社会的人才;在个人层面, 个人需要加强自我学习、终身学习的能力, 培养数据思维、数据意识, 提高自身在大数据时代的生存能力,适应大数据时代的新要求。据统计, 当前美国“学士学位的失业率为5.8%, 仅仅相当于副学士学位失业率的一半 (其失业率为10.6%) , 而这一比例是仅仅接受高中教育的劳动者的1/3 (其失业率为16.2%) ”[11] (P228) 。可见, 提高个人素养, 对于增强社会适应力是至关重要的。
从乐观的视角来看, 不论大数据技术如何对传统行业进行祛权, 但总是有部分传统职业有存在的价值。毕竟大数据也有其盲点, 大数据也并非万能的, 传统技能和大数据分析需要相互配合, 相互补充。然而, 从悲观视角视之, 也许不论人类多么努力, 所有传统职业最终都将面临被彻底祛权的命运。甚至说, 当以大数据为基础的智能技术发展出自主性之后, 不但传统行业会被祛权, 包括数据行业的从业人员在内的整个人类都将会被祛权, 整个人类在失去工作权利的同时也失去生存的权利, 人类成了新的宇宙进化阶段不再被需要的存在形式, 人类被彻底地淘汰。在被高度赋权的智能技术面前, 人类亲手创造的技术也许会成为埋葬自己的掘墓人。在大数据技术面前, 人类的命运将何去何从, 是值得我们严肃思考的事情!
四、结语
通过对数据赋权与祛权的上述分析, 可以得出如下几点启示:第一, 数据的赋权和祛权最终导致社会权力结构的改变。数据对“同一主体”的赋权和祛权引起人与数据之间权力关系的变化, 数据对“不同主体”的赋权和祛权引起人与人之间权力关系的变化。由于权力的此消彼长, 原有的社会关系被打破, 新的社会关系被建立, 整个社会的关系结构也因之而改变, 这正是“生产力决定生产关系”内在逻辑的具体体现。第二, 数据引起的权力结构改变既可能导致权力的分散 (分权) , 也可能导致权力的集中 (集权) , 这取决于矛盾双方的博弈结果。如果国家、商业机构被赋予更多的权力, 则会导致权力的集中, 相反, 如果社会、消费者被赋予更多的权力, 则会导致权力的分散。但总体来看, 国家和商业机构作为大数据技术的主要推动者和拥有者, 其被赋权的程度要高于社会和消费者的程度。第三, 在大数据对权力结构调整的时代大潮中, 不论是国家、商业机构还是个人, 要想适应新的生存环境, 站在时代的制高点, 都需要对大数据有充分的理解, 提高数据意识, 培养数据文化, 利用大数据来为自己“赋权”, 在未来的新趋势面前做到未雨绸缪, 方能适应大数据时代的新环境。
【参考文献】
[1]赵晓锋.福柯的‘权力理论’分析[J].理论学习, 2003(10) .
[2]唐皇凤.数字利维坦的内在风险与数据治理[J].探索与争鸣, 2018 (5) .
[3]李伦.“楚门效应”:数据巨机器的“意识形态”[J].探索与争鸣, 2018(5) .
[4]涂子沛.数据之巅:大数据革命、历史、现实与未来[M].北京:中信出版社.2014.
[5]杨庆峰.记忆以数据的方式存在[N].中国社会科学报.2015-06-15.
[6]余煜刚.司法视域下“被遗忘权”的逻辑推演与论证建构[J].北方法学.2018 (2).
[7]刘文杰.被遗忘权:传统元素、新语境与利益衡量[J].法学研究, 2018(2) .
[8] Luciano Floridi. The Ethics ofInformation[M].Oxford:Oxford University Press. 2013.
[9]郑永年.技术赋权:中国的互联网、国家和社会[M].北京:东方出版社, 2014.
[10]李文莲, 夏健明.基于“大数据”的商业模式创新[J].中国工业经济, 2013(5) .
[11] 埃里克·布莱恩约弗森, 安德鲁·麦卡菲.第二次机器革命:数字化技术将如何改变我们的经济与社会[M].北京:中信出版社, 2014.
(原载《伦理学研究》 2019年02期)
来源：再建巴别塔 作者：张卫
编辑：王雅欣
|
楼主: admin
发表于 2020-10-28 19:06:10
