对欧盟《人工智能责任指令》的析与思

刘海明

9月28日，欧盟委员会通过了《人工智能责任指令》提案，拟就人工智能引发的损害设定责任规则，以便相关受害者能够依法获得赔偿。同日通过的《产品责任指令》修订版提案，则将配有人工智能的产品明确纳入其适用范围，以期完善数字时代和循环经济背景下的产品究责机制，故与《人工智能责任指令》互有呼应。

《人工智能责任指令》提案并非是横空出世。2020年2月出台的欧盟《人工智能白皮书》设立了诸条政策选项，以促进人工智能在欧盟的运用，应对与该技术的某些用途相连之风险，使之在全面尊重欧盟公民的价值和权利之情形下，能在欧盟得到可靠的、可信赖的发展。

2021年4月通过的欧盟《人工智能法》草案，建立了针对高风险人工智能系统(以下简称“AI系统”)所致损害的风险预防机制，以保护自然人的安全、健康及其享有的欧盟宪章治下的基本权利。该指令与前述白皮书和法律草案的目标一脉相承，旨在从欧盟层面协调各国不同的人工智能监管机制，减少AI系统开发者和使用者所面临的法律不确定性，确保消费者对人工智能技术的信心。

如果说欧盟人工智能监管框架将创立一个独一无二的“信心的生态系统”，那么这些立法和政策文件堪称建构信心之基石。

《人工智能责任指令》引入了两项要素，以简化相关法律流程，帮助AI系统的受害者证明他们的责任主张。其一为“因果关联之推定”：如果一个相关过错被明确证明，并且该过错和人工智能效能之间产生因果关联有着合理的可能，那么受害者就无需详释损害是如何由过错引起。鉴于人工智能惯有的黑箱效应(复杂性、不透明性、不可预见性和部分自主性行为)，这一原则减轻了受害者在面对复杂人工智能产品时的举证责任。

其二为“获取证据之权利”：当特殊的高风险AI系统疑似引起了损害，法院可应原告之请求，下令相关系统供应者、《人工智能法》草案规定的系统使用者披露相关证据；受御于前述草案中系统供应者义务的任何制造者、经销者、使用者、进口者等，也可被要求披露证据。另外，当向被告收集证据的适当尝试均告不果，原告亦可要求非被告的系统供应者或使用者提供证据。据此相关受害者得以获取相关高风险AI系统的信息，以辨识谁是可能的担责者，发现何为问题的缘由。

可资阐明的是，AI系统的定义由《人工智能法》草案所规定，并为《人工智能责任指令》提案所采用。它是指藉由诸如机器学习、专家系统、递归贝耶斯估算、统计等技术和方法发展的软件。为了实现一整套由人确定的既定目标，该类软件可以生成一些形式为内容、预测、推荐或决定的结果/产出；它们影响与该软件互动的环境。该宽泛定义是否能如欧盟立法者所愿可经未来考验，尚需后续的实践检验。

同样，“高风险AI系统”的定义也被前述提案和草案统一使用。若一个AI系统被认为具有此种属性，则说明它满足了两个累加的条件：其一，它被意图用作一件产品的安全组件，而该产品被欧盟19项协调性立法所规制，或是它本身即构成了这样一件产品；其二，将它纳为安全组件的该件产品、或是本身作为产品的它，在产品被首次投放市场或投入服务前，经过了第三方依照欧盟19项协调性立法的合规评估。

此外，被用于8项特定领域的AI系统也被视为具备高风险，比如，生物识别、关键基建设施的管理和运作、教育和职业教育、就业和劳工管理、执法等领域。简言之，高风险AI系统代表的风险既非不能接受，也非有限或忽略不计，而是相关系统必须受到数项合规义务的规限；相关义务包括风险管理计划、合规认证和人类监督等。

由此可见，《人工智能法》草案和《人工智能责任指令》提案联系紧密，相辅相成又互有侧重。前者为AI系统在欧盟的发展、行销与使用设定了统一的法律框架，后者就非合约性的民事责任适用于AI系统引发的损害规定了统一的法律要求。前者采用的是基于风险的办法，针对的是高风险AI系统，力求对相关系统或可引发的风险予以事先防范，后者采用的是基于过错的方法，针对的是所有的AI系统，力求对相关系统对受害人实际造成的损害予以事后补偿。二者均适用于物质性和非物质性损害。

因为《人工智能责任指令》提案和《人工智能法》草案均是全球相关领域的首次立法尝试，所以相关法律的域外效力值得简析。实际上，前述草案第2条明确规定，其适用于将AI系统在欧盟境内首次投放或投入服务、但于第三国设立的供应者。当该境外供应者所供AI系统生成的结果/产出在欧盟境内被使用，该法案同样对其适用。

相较而言，前述提案对域外管辖并无明文规定。不过，基于法官有权命令特殊高风险AI系统的供应者提供相关证据，而此指令又采用了彼法案所规定的“供应者”的定义，即涵括了设立于欧盟境外的AI系统供应者，因此笔者认为，该指令的域外效力依然存在，只是以间接的方式适用而已。而这种欧盟藉由立法向全球输出其单边规管权力的所谓“布鲁塞尔效应”，无疑需要已向或拟向欧盟提供AI系统的我国出海企业未雨绸缪，以积极应对未来的各项合规挑战。

随着欧盟《人工智能责任指令》的出炉，可以合理推断的是，全球其他国家或地区的相关立法也会陆续跟进、甚至应接不暇。笔者注意到，作为我国首部人工智能产业专项立法，9月5日公布的《深圳经济特区人工智能产业促进条例》将于今年11月1日施行。这一条例的诞生，是否也会引发其他省市在相关领域的地方性立法热潮，目前不得而知。而对于未来我国全国性人工智能立法而言，如何既能妥善协调届时各地既有的不同条例规定，又能无缝接轨其时国际既存的不同法律规范，做到立法上的先进性、运用上的有效性，均值得深度的前瞻性思考。

（作者系法学博士）

来源：法制周末报
链接：https://mp.weixin.qq.com/s/Is2xDn-NHlfSArPbQfcikg

编辑：张铭麟