欧盟人工智能法案如何监管ChatGPT?

刘海明

欧盟人工智能法案如何监管ChatGPT?

申 军

作者介绍：法国执业律师、瀚申律师事务所创办人，里昂第三大学法学博士

注: 转载本文须经作者本人同意。本文不构成法律意见。

2022年4月22日，针对欧盟委员会于2021年4月21日提出的《人工智能法》提案，欧盟议会内部市场和消费者保护委员会以及民事自由、司法和内部事务委员会共同发布了一份报告草案。2023年5月11日，前述两个委员会公布了相关报告草案的折衷修改稿(以下简称“修改稿”); 其英文版共计144页。修改稿对人工智能系统(以下简称“AI”)的定义做了较大修改，新增了通用性人工智能系统(以下简称为“通用性AI”)和基础模型(foundation models)的定义。以下笔者结合修改稿的规定，试着探析欧盟议会视角下的ChatGPT监管。

首先，众所周知，欧盟委员会倡议的AI法案的特殊目的之一，即是确保被投放在欧盟市场和被使用的AI是安全的，是遵守诸多基本权利和欧盟价值的。因此，一个清晰、明确的AI定义对实现相关目标至关重要。笔者注意到，依据上述两个委员会在2022年6月发布的针对相关法案的修改报告(超过1600页)，欧盟议会成员们对AI定义的修改意见多达19种。AI最终被定义为一种基于机器的系统，其旨在以不同水准的自主性运作，并能为了明示或暗示之目标，生成影响物理或虚拟环境之结果，诸如预测、建议或决定(修改稿第3条第(1)项)。据此，欧盟议会版与欧盟委员会提案中的AI定义差别甚大。实际上，修改稿中的AI定义非常接近于经济合作与发展组织(OECD)赋予的AI定义。这样显然可以减少有关AI的法律不确定性，或会便利欧盟相关业者与全球其他地区同侪间的竞争，促进AI领域的投资与创新。此外，鉴于欧盟致力于推出全球首部AI立法，一个广受认可的AI定义对相关立法的全球性输出自然颇多裨益。

相比而言，欧盟理事会在2022年12月6日发布的关于修改《人工智能法》提案之总体性定向(orientation générale)中，仅对欧盟委员会提案中的AI定义加以微调，强调AI是基于人类及/或机器生成的数据和输出，通过诉诸自动学习、及/或与逻辑和认知有关的方法，推定出实现一些特定目标的方式，并产生由系统生成的结果，表现形式除了预测、建议或决定之外，还有内容(总体性定向第3条第1项)。不难发现, 该定义中无缝引入了生成式AI(generative AI systems)的概念。

不过，欧盟议会和欧盟理事会各自赋予的AI定义，均强调其运作的自主性因素、拟由其实现目标的既定性、对与其互动的环境(物理及/或虚拟)之影响，故而有别于传统的软件系统之定义。而前述两个机构在未来的谈判中将会最终确定何种AI定义，非常值得关注。

其次，显而易见，通用性AI(general purpose AI system)是AI的一种。修改稿第3条第(1d)项将之定义为: 一种可被用于和可适应于广泛应用的、但未因此被有意和专门设计的AI。而作为通用性AI的一种，生成式AI是指被特别设定的、以不同水准的自主性进行内容生成的AI，譬如复杂文本、图像、音频或视频等内容(修改稿第28b条第(4)项)。值得指出的是，欧盟理事会与欧盟议会的相关法案版本均未在释义部分直接定义生成式AI，而是分别在AI定义(如上所述)和基础模型提供者义务的规定中将之引入，对其具体内涵的提及则是大同小异。

毋庸置疑，上述的通用性AI和生成式AI均与修改稿中首度定义的基础模型关联密切。正如修改稿所言(动机阐述第(60e)点)，诸多通用性AI可以是一种基础模型的实施情况，这意味着每个基础模型能在不计其数的通用性AI中被重复使用。生成式AI则可将基础模型纳入其中(动机阐述第60(h)点)。

结合ChatGPT的情况来看，作为可预测生成式文本、其转换器被用于大型语言模型的对话机器人，其于2022年11月底方才面世。故而基础模型的概念在欧盟理事会的总体性定向中未被阐明。欧盟议会版的AI法案能够因应AI技术的演进，及时补漏相关概念，并尝试框设迅速发展的ChatGPT之监管，堪称与时俱进。

根据修改稿第3条第(1c)项的说法，作为一种依托大量数据被予规模化训练的AI模型，基础模型乃为确保生成结果之通用性而设计，并能适应广泛的特定任务。鉴于修改稿提及此类系统可以是单模态和多模态的(动机阐述第60(e)点)，因此欧盟立法者不仅意图规制诸如早期的GPT-3这样的大型语言模型，而且亦欲规范诸如DALL-E这样的多模态模型。从修改稿的内容来看，虽然ChatGPT的说法并未出现，但是与之最为贴近的说法大抵是生成式基础模型(generative foundation models)(动机阐述第60(g)点)。那么欧盟议会对于基础模型的监管构想是什么呢? 以下笔者试做解读。

首先，欧盟立法者认为，该人工智能规章(regulation)治下的基础模型不应涵括简单的多用途AI，或是从广义地讲，不应涵括那些为了较不通用、更为有限、不能适应广泛任务之应用而开发的预受训模型，理由是它们具备更大的可解释性，而这会使它们的行为具备较小的不可预测性(动机阐述第60(g)点)。在此值得补充的是，基于欧盟是一个由欧洲多个主权国家组成的政治与经济联盟，笔者惯于将欧盟AI法所属的欧盟“regulation”   译为欧盟“规章”，而将单个主权国家颁布的regulation译为“条例”，以示区别。

其次，欧盟立法者认为，鉴于基础模型是AI领域新的和快速演进的应用，它们的立法和治理框架应受欧盟委员会和欧盟AI办公室的监督和定期评估(动机阐述第60(h)点)。这意味着，欧盟议会的议员们拟对基础模型和基于它们的生成式AI予以持续性监管，而非抱持一蹴而就的心态。

再次，欧盟立法者认为，基础模型虽然需要受御于合乎比例的、更为特殊的要求和义务，但并不据此就被视为高风险AI(动机阐述第60(g)点)。依照基于风险的AI监管原则，高风险AI的提供者需要符合相关的法定义务。因此，基础模型的提供者原则上无需承担相应的义务。不过一种例外情况是，当基础模型被直接并入高风险AI时，前者的提供者也应履行后者的提供者之义务，包括但不限于提供技术文件以及相关AI的资讯能力(第28条第2项)。

此外，正如上述内容所提及的，欧盟立法者对基础模型的监管，不是意图监管模型本身，而是藉由监管基础模型的提供者予以实现。这显然是对性质中立的技术不予规制的常规做法。依据修改稿的说法，基础模型在模型类别和自我治理方面的演变方式具有显著不确定性，因此有必要阐明相关提供者的法律地位(动机阐述第60(g)点)。

基础模型提供者应尽的义务主要见诸修改稿第28b条的规定。根据笔者的归纳，相关义务可被分为: 基础模型被投放市场或投入服务之前的一般义务(第28b条第1项和第2项)、投放市场或投入服务后一定期限内的后续义务(第28b条第3项)、用于生成式AI的基础模型提供者的额外义务(第28b条第4项)。鉴于该AI规章是为了确保对于基本权利、健康、安全、环境等方面的高水准保护可被实现，这些义务应对此予以保证。

就先市场或先服务阶段的一般义务而言，提供者应符合相关条款的法定要求，无论基础模型是被作为模型、产品或服务提供。在具体的此类义务清单中, 提供者需要展示有效识别、降低和纾减了AI可能导致的可被合理预见之风险，仅能处理和并入受到适当数据治理措施约束之数据集，按照相关透明性的要求将基础模型登记在欧盟专设的数据库，等等。就后市场或后服务阶段的后续义务而言，提供者应将相关技术文件保留10年，以备成员国主管当局支配。

值得展开说明的是提供者需要履行的额外义务。显然，这对应了欧盟立法者在修改稿动机阐述第60(h)点中表达的顾虑: 基于基础模型的生成式AI，会引起与违反欧盟法、著作权规则的内容生成以及潜在滥用有关的显著问题。为此，两类提供者(一为提供被用于生成式AI的基础模型，二为专门提供被嵌入生成式AI的基础模型)需要另外承担义务。比如，其必须满足AI法案第52条第(1)项所规定的透明性义务，也须训练、设计和开发(若适用)相应的基础模型，以此充分防止违反欧盟法的内容生成。尤值一提的是，提供者须在不损害各成员国或欧盟版权立法的情况下，记录和公开提供受版权法保护的训练数据之详细使用概要。在笔者看来，此项规定凸显出数字环境中版权/著作者权合规的重要性。这对位于欧盟境外、向欧盟境内投放AI产品或服务(包括基础模型)的提供者来说，未来的相关合规无疑非常重要。

欧盟议会将在6月12日至15日的会议中对上述两个委员会的修改稿进行全体表决。如果它获准投票通过，所谓的三方谈判(即欧盟委员会、理事会和议会之间的谈判)将会开启，以最终确定欧盟人工智能法的正式版本，也因此界定对ChatGPT这样生成式AI的监管。这值得我们的持续关注。

主要参考资料:

·DRAFT Compromise Amendments on the Draft: Report Proposal for a regulation of the European Parliament and of the Council on harmonised rules on Artificial Intelligence (Artificial Intelligence Act) and amending certain Union Legislative Acts (COM(2021)0206 – C9 0146/2021 – 2021/0106(COD)), Committee on the Internal Market and Consumer Protection, Committee on Civil Liberties, Justice and Home Affairs, Europeen Parliment, 9/5/2023

·Proposition de règlement du Parlement européen et du Conseil établissant des règles harmonisées concernant l'intelligence artificielle (législation sur l'intelligence artificielle) et modifiant certains actes législatifs de l'Union - Orientation générale, Dossier interinstitutionnel: 2021/0106(COD) , Conseil de l'Union européenne, Bruxelles, le 25 novembre 2022

·AMENDMENTS 310 - 538 Draft report, Harmonised rules on Artificial Intelligence (Artificial Intelligence Act) and amending certain Union Legislative Acts, Proposal for a regulation (COM(2021)0206 – C9-0146/2021 – 2021/0106(COD), Committee on the Internal Market and Consumer Protection Committee on Civil Liberties, Justice and Home Affairs, European Parliament, 2021/0106(COD), 13.6.2022

·Proposal for a REGULATION OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL LAYING DOWN HARMONISED RULES ON ARTIFICIAL INTELLIGENCE (ARTIFICIAL INTELLIGENCE ACT) AND AMENDING CERTAIN UNION LEGISLATIVE ACTS {SEC(2021) 167 final} - {SWD(2021) 84 final} - {SWD(2021) 85 final, EUROPEAN COMMISSION, Brussels, 21.4.2021 COM(2021) 206 final 2021/0106 (COD)

来源：实验主义治理（公众号）

链接：https://mp.weixin.qq.com/s/ynRUqaZT_Y9Wb6rrQEusCQ

编辑：程博