如何规范人工智能使用？来看全球首部监管AI的法案｜科技观察

封面新闻记者 边雪 马晓玉

在AI成为全球竞相追逐的头部赛道时，首个监管法案也来了。当地时间3月13日，在法国斯特拉斯堡举行的欧洲议会全会上，欧盟《人工智能法案》正式投票通过并批准。该法案获得523张赞成票，46张反对票。

《人工智能法案》旨在保护基本权利、民主、法治和环境可持续性不受高风险人工智能的影响，同时促进创新，使欧洲成为该领域的领导者。该法规根据人工智能的潜在风险和影响程度为人工智能规定了义务。

据悉，该法案将在走完所有审批程序后在欧盟公报上予以公布并于20天后生效。法案中的相关条款将分阶段实施。欧盟内部市场专员蒂埃里·布雷顿（Thierry Breton）在社交媒体X平台上表示，《人工智能法》获得了压倒性支持，这是世界上第一个全面、有约束力的可信赖AI框架，欧洲现在是值得信赖的AI标准制定者。

图据央视新闻

欧盟《人工智能法案》以欧洲固有历史价值观为基础，依据人工智能的潜在风险与影响程度，法规明确了各类人工智能应用的责任与义务。

一是明确禁止了人工智能的一些应用情形。新法规明确禁止一系列威胁公民权利的人工智能应用，包括：基于敏感特征的生物识别分类系统，以及无针对性地从互联网或闭路电视录像中抓取面部图像以构建面部识别数据库的行为。同时，禁止在工作场所和学校使用情绪识别、社会评分、仅基于个人特征分析的预测性警务系统，以及旨在操纵人类行为或利用人类弱点的人工智能。

二是执法部门的豁免情形。原则上，执法部门被禁止使用生物识别系统，但在特定且严格限定的条件下可获得豁免。例如，在寻找失踪人员或预防恐怖袭击等紧急情况下，经过特定司法或行政授权的“实时”生物识别系统方可部署，且其使用必须在时间和地理范围上受到严格限制。对于事后使用此类系统的情况，因其涉及较高风险，需获得与刑事犯罪相关的司法授权。

三是高风险系统的责任与义务。对于其他具有高风险的人工智能系统，因其可能对健康、安全、基本权利、环境、民主及法治造成重大潜在危害，需承担明确的责任与义务。高风险应用的实例包括关键基础设施、教育、就业、基本公共服务（如医疗、银行）、执法、移民管理、司法及民主程序等领域。这些系统需进行风险评估与降低，维护使用日志，确保透明度和准确性，并接受人工监督。公民有权就人工智能系统提出投诉，并获取基于高风险人工智能系统所作决策的解释。

四是透明度要求。通用人工智能系统 (GPAI) 及其所依赖的模型需满足一系列透明度要求，包括遵守欧盟版权法，发布用于训练的内容摘要等。对于可能造成系统性风险更强的大模型，还需额外执行模型评估、系统性风险评估与减轻措施，以及事件报告等要求。此外，所有通过人工智能或技术手段生成的图像、音频或视频内容（“深度合成”）必须明确标注，以保障信息的真实性与公众的知情权。

当前，人工智能发展的速度远远超过技术监管、法律伦理、政策评估的脚步，需要一些更有远见的框架来应对未知挑战。在此背景下，欧盟一直在加快立法总体进程。

2021年4月21日，欧盟委员会首次提出《人工智能法案》提案的谈判授权草案，将严格禁止“对人类安全造成不可接受风险的人工智能系统”，包括有目的地操纵技术、利用人性弱点或根据行为、社会地位和个人特征等进行评价的系统等。草案还要求人工智能公司对其算法保持人为控制，提供技术文件，并为“高风险”应用建立风险管理系统。每个欧盟成员国都将设立一个监督机构，确保这些规则得到遵守。

2022年12月6日，欧洲理事会一致通过《人工智能法案》草案，允许与欧洲议会进行谈判。此后，欧洲议会和欧盟理事会就草案进行了多轮修订和讨论。欧洲议会议员们争议的核心是监管是否会阻碍创新，即如何平衡数据隐私与避免扼杀人工智能的创新和投资。其中最具争议的领域是决定哪些人工智能系统将被归为“高风险”。

2023年2月24日，欧洲议会议员布兰多·伯尼菲和德拉戈·图多拉奇提出了一份妥协修正案，包含了欧洲议会议员经过马拉松式谈判后提出的反馈意见。例如，针对监管沙盒（经济术语，指一个受监督的安全测试区）机制，反馈中要求建立沙盒机制的监管机构，指导和监督高风险人工智能系统的开发人员。3月14日，布兰多·伯尼菲和德拉戈·图多拉奇提出了一份关于通用目的人工智能草案，提议为这类人工智能系统的提供商设定相应义务，并为相关参与主体设定责任。此外，他们提议，ChatGPT等通用目的人工智能系统的整个生命周期都必须接受外部审计。

2023年6月14日，欧洲议会全体会议表决确认其认同立场。欧洲议会投票结束后，欧洲议会、欧洲理事会和欧盟委员会立即就法案举行了第一次“三方会谈”。随后的7月18日、10月2日和24日，分别举行了第二、三、四次“三方会谈”。

而本次通过的《人工智能法案》，进一步巩固了欧盟在科技监管方面的地位。据外媒报道，该法案主要发起者之一、欧洲议会议员图多拉奇(Dragos Tudorache）表示，自起草立法的早期阶段以来，《人工智能法案》的制定者就“仔细考虑”了对世界各国政府的影响。图多拉奇直言经常听到其他立法者在开始起草自己的人工智能法案时正在研究欧盟的做法。“这项立法将代表许多其他司法管辖区的标准、模式。”他说，“这意味着我们在起草它时必须承担额外的谨慎义务，因为它将对许多其他司法管辖区产生影响。”

相关数据显示，中国人工智能核心产业规模达到5000亿元，企业数量超过4300家，创新成果不断涌现。世界知识产权组织的数据显示，2022年中国企业和机构申请了近3万项人工智能相关专利，占全球人工智能专利申请的40%以上。

作为人工智能大国，中国也在加速推进人工智能技术的安全性、可靠性、可控性。2023年7月，中国国家网信办等七部门联合发布《生成式人工智能服务管理暂行办法》（下称“管理办法”），自8月15日起施行。

“人工智能作为社会发展的‘赋能性’技术，首要服务于提升人类福祉，因此要确保人工智能技术的稳健与安全。”中国科学院自动化研究所人工智能伦理与治理中心主任曾毅认为，中国在倡议中明确提出“以人为本”，体现出这是一个面向全球和全人类的治理方案。

西南科技大学计算机科学与技术学院院长张晖告诉封面新闻记者，管理办法将促进国内某些研究方向的发展，如办法中明确规定：采取措施防止出现种族、民族、信仰、国别、地域、性别、年龄、职业等歧视，要保证数据的真实性、准确性、客观性、多样性，尊重知识产权、商业道德，不得利用算法、数据、平台等优势实施不公平竞争，利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。“都会对AI算法公平性研究起到促进作用。”