科技观察｜七部门联合印发，我国AI产业首个监管文件释放了何种信号？

继今年4月网信办《生成式人工智能服务管理办法》公开征求意见后，7月13日，网信办等七部门正式发布了《生成式人工智能服务管理暂行办法》。该办法将在今年8月15日起正式施行，这也是我国人工智能产业迎来的首个监管文件。

《生成式人工智能服务管理暂行办法》

近年来，人工智能正迅速广泛普及，这得益于更快的专用处理器、更好的软件以及更大的数据集，人工智能具备更强大的效能，也更具经济效益。但其在为经济社会发展带来新机遇的同时，也产生了传播虚假信息、侵害个人信息权益、数据安全和偏见歧视等问题，如何统筹生成式人工智能发展和安全引起各方关注。

OpenAI正接受美国联邦贸易委员会调查

全球人工智能的审查日趋严格

《办法》规定，提供者应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识。提供者发现违法内容的，应当及时采取停止生成、停止传输、消除等处置措施并采取模型优化训练等措施进行整改。

与此同时，联合国秘书长古特雷斯在7月初“人工智能造福人类”全球峰会发表的致辞中强调，要让人人都能受益于人工智能的发展，就必须为其设置“护栏”。

在瑞士日内瓦“人工智能造福人类全球峰会”上，仿真机器人在演讲。图源新华社

多项调查显示，人工智能编码形式存在性别、种族、性向、财富或收入等多方面歧视。这种偏见常会进一步使弱势群体处于更加不利的地位。除此之外，个人隐私泄露、数据滥用（即大数据“杀熟”）可能影响准确性、透明性、公平性或合规性的问题都成为监管者关注的重点。

也正是这些风险，进一步促使全球对人工智能审查日趋严格。2021年4月21日，欧盟委员会发布了《人工智能法案》的提案。目前该法案已经进入最终谈判阶段，德国《商报》称，《人工智能法案》预计将在今年年底获得最终批准，不过距离完全生效可能还需数年时间。

此前，美国联邦贸易委员会（FTC）委员丽贝卡·斯洛特在一则白皮书中表示，虽然联邦贸易委员会拥有一些现成的工具可用于更好地监管人工智能，“推出新的法规可有助于更有效地解决人工智能和算法决策造成的危害。”

去年10 月，美国白宫发布了《人工智能权利法案蓝图》，旨在指导自动化系统的设计、使用和部署，保护美国公众个人数据不被人工智能算法滥用。

而目前，OpenAI也正在接受FTC的调查。重点包括OpenAI旗下聊天机器人ChatGPT是否因发布虚假信息而伤害到相关个人，以及如何处理相关风险。FTC的这份调查，意味着美国监管机构首次正式发起对人工智能聊天机器人带来的风险的审查。

人工智能需要监管

但也要平衡创新与约束

科技的创新必然会带来制度的升级，而制定常态化的法规才能防止生成式人工智能的滥用。但另一方面，如何平衡创新和约束也是各国面临的一个重要挑战。OpenAI 公司首席执行官萨姆·阿尔特曼表示，如果《人工智能法案》对 AI 进行过度监管，他将带领团队撤出欧洲市场。

欧盟的《人工智能法案》正是在AI应用可能给经济和社会带来的风险和利益中寻求平衡的探索。草案一个突出特点是注重基于风险来制定监管制度，将人工智能风险分为不可接受的风险、高风险、有限的风险和极小的风险四级，对应不同的监管要求。

此次七部门联合印发的《生成式人工智能服务管理暂行办法》也不只是明确了对人工智能的监管举措。《办法》还指出，要坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管。对图片、视频等生成内容进行标识，发现违法内容应当及时采取处置措施等。

鼓励生成式人工智能技术在各行业、各领域的创新应用，生成积极健康、向上向善的优质内容，探索优化应用场景，构建应用生态体系；支持行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等在生成式人工智能技术创新、数据资源建设、转化应用、风险防范等方面开展协作。

此外，《办法》还鼓励生成式人工智能算法、框架、芯片及配套软件平台等基础技术的自主创新，平等互利开展国际交流与合作，参与生成式人工智能相关国际规则制定；推动生成式人工智能基础设施和公共训练数据资源平台建设。

由此可见AI监管的最终目的并不是打击科技企业的发展，而是让人工智能在监管中不断完善，并最终让公众信服。如何更好地平衡创新与约束，还需在实践中不断完善。

人工智能监管并非一国之责

今年5月，英国首相苏纳克会见了 OpenAI、谷歌 Deepmind 和 Anthropic 的首席执行官，讨论人工智能监管的必要性。会议后发表的一份联合声明表示，AI 技术的成功取决于是否有“正确的护栏”，以确保公众相信它是安全的。苏纳克表示，对 AI 的监管必须要灵活，并且需要各国的共同合作。

与此同时，联合国秘书长古特雷斯强调，现在必须尽快就如何监管人工智能的开发与部署达成共识。国际电联秘书长多琳·伯格丹·马丁也呼吁通过全球合作来“确保人工智能充分发挥潜力，同时防止并减轻危害”。