封面新闻记者 杨峰
AI辅助诊断出了错，患者该找医院、找软件公司，还是找模型研发方？自动驾驶车辆发生事故，责任算车企的还是算系统提供者的？被算法辞退、被AI拒贷，损失由谁来赔？如果责任方赔不起，或者根本查不清是谁的责任，受害者还能从哪里拿到补偿？
9月24日，浙江大学发布了《人工智能法专家建议稿》（浙大1.0版，后文简称“建议稿”），对这些问题给出了一套制度安排：高影响人工智能系统的提供者和部署者应当投保人工智能损害责任险，国家同时设立人工智能损害救济基金，在责任主体不明、无力赔偿或者赔偿不足时对被侵权人兜底补偿。
建议稿共九十九条，采用对人工智能的任务影响进行分级分类治理的立法思路，对临床诊疗、关键信息基础设施、自动驾驶、脑机接口、司法执法、教育就业、金融信贷、人脸识别等人工智能典型应用场景均作出了具体规定。建议稿要求，在高影响场景中，最终判断权要留给人。
截至目前，人工智能综合性立法仍属全国人大常委会预备审议项目。
高影响系统强制投保，国家设基金兜底
浙江大学数字法治研究院院长孙笑侠在发布会上表示，人工智能的风险来源于执行能力、认知成熟度与任务性质三者的错配，情形至少有三种：能力强但认知不成熟，认知成熟但能力不够，以及让系统承担其无法胜任的任务。
建议稿把人工智能的任务影响分为三级，涉及生命健康、人身自由、教育就业、社会保障、司法和行政执法等任务推定为高影响，并明确不得仅以模型规模、算力或者单一综合得分，决定高影响认定、市场准入或者法律责任。
建议稿提出，提供或者部署高影响人工智能系统的，应当投保人工智能损害责任险。所谓高影响系统，指用于医疗、司法、金融信贷等场景并实质影响实体性决定的系统，以及能直接改变物理环境、面向脆弱群体大规模部署的系统。投保的场景范围和最低保额由国务院有关部门确定，未依法投保的可被责令暂停运营。
建议稿还提出，在责任险之外设立人工智能损害救济基金，在责任主体不明、无力赔偿或者赔偿不足时对被侵权人提供兜底补偿。
这一思路在道路交通安全领域已有先例：道路交通安全法规定实行机动车第三者责任强制保险制度，设立道路交通事故社会救助基金，抢救费用超过责任限额、车辆未投保或者肇事逃逸的由基金先行垫付，管理机构有权向责任人追偿。
浙江大学光华法学院院长、数字法治研究院执行院长胡铭在会上介绍，建议稿从主体界定、权责划分、伦理规范、安全监管、救济机制等方面构建了完整制度框架。
孙笑侠谈到人工智能的成长性时说：“我们不能因为在第一阶段发现其表现不佳，就将其‘扼杀在摇篮之中’。”他提到，境外曾有医疗人工智能系统获准应用后在实际场景中表现不佳，处置方式是降低使用档次，把它用于复杂程度较低的任务。
四类主体按实际控制能力划分责任
建议稿把人工智能全生命周期中的相关主体分为研发者、提供者、部署者、使用者四类，各自的法定义务根据其对系统的实际控制能力确定，不得以不具有其他身份为由免除。
民事赔偿对接现行法律：主体违反义务造成损害的，依照民法典承担侵权责任，系统存在缺陷的承担产品责任。使用者因未尽与其专业知识相适应的注意义务造成损害的自行担责，但系统本身存在缺陷的除外。建议稿要求，评估结论不得单独作为认定过错、因果关系或者赔偿责任的依据。
对基础模型，建议稿设定了连带责任，同时为开源留出空间：已履行文档说明、风险提示义务的开源模型提供者原则上不担连带责任，故意隐瞒重大缺陷或者实质参与违法应用的除外。
中伦律师事务所权益合伙人王红燕在会上表示，传统开源许可协议无法覆盖模型权重、训练数据与分布式传播特征，“模型开源不等于训练数据合规”，建议明确开源模型定义、分层适用义务。
能自主规划、调用工具、连续执行任务的智能体，是这套主体框架下最新的问题。阿里巴巴集团法务部合规总监顾伟在会上表示，智能体正从工具演变为具有自主决策能力的行为体，其行为“不得径行拟制为用户的真实意思表示，其法律效果亦不能当然且完整地归责于用户”。
美团法务高级专家范雯丽介绍，智能客服、数字员工等应用日趋普及，存在授权传递机制模糊、权责划分不清等合规问题。建议稿要求把智能体调用的模型、工具、执行权限、任务流程和运行环境作为整体评估。
建议稿提出，普通人主张自己被AI歧视并提供证据后，举证责任转到掌握系统资料的企业一方，由它证明差别待遇的正当理由和防歧视措施。受自动决策重大影响的人有权请求说明决策依据，企业无正当理由拒绝的，法院可推定该决策存在过错。
高敏感场景将最终判断权留给人
建议稿提出，凡实质影响生命健康、人身自由、财产或者教育就业机会的高敏感环节，人工智能只能辅助，最终判断权留给人。
AI辅助生成的诊断结论和用药建议，须经执业医师复核签字才能进入病历或者用于临床决策。司法办案中，AI输出仅可作为辅助参考，办案人员应当实质性审查并依法独立作出决定、承担法律责任，法律文书要写明AI的参与程度；行政执法决定书同样要载明所用系统及其影响，当事人申请复核期间决定暂缓执行。
金融机构以AI作出拒贷、拒保或者涨费等不利决定的，应当说明原因，不得以“系统综合评估”搪塞，当事人可申请人工复核。升学、录用、解雇等重大决定不得仅以AI输出为唯一依据，考试监控数据只能用于考试管理。公共场所远程实时人脸识别须有法律法规依据，商家不得把刷脸作为进门或者获得基本商品服务的强制条件。
对作用于物理世界的系统，建议稿要求留出人工退路。关键信息基础设施须保留人工接管能力，切换动作不依赖AI自身完成，关键功能要有非人工智能备份路径；人形机器人、自动驾驶须测试碰撞、坠落、失控移动等风险并设置紧急停止机制。
在脑机接口方面，建议稿要求不得超出必要范围推断一个人的思想倾向、情绪状态，不得在缺乏法律依据或者本人充分同意下操控、压制或者实质性改变其意识、情绪、记忆和行为。
四类应用被建议稿划为红线，不受影响等级限制、一律禁止：对未成年人、老年人、认知障碍群体的操控与剥削；以情感操控、认知操纵为主要功能的系统；未经授权形成综合社会评分并据此限制就业、出行、教育等权利；军事领域以外能自主识别攻击目标并实施物理攻击的系统。
公众关注的AI换脸、AI造谣，建议稿没有专门条文，但两项禁令可以覆盖部分情形：禁止利用AI模拟亲属、权威人士或者信任关系，对未成年人、老年人、认知障碍群体实施欺骗性诱导；禁止以虚假身份、合成人物对大规模用户实施协调一致的信念干预或者情绪操纵。AI生成合成内容的标识，依照有关法律、行政法规和国家标准执行。
建议稿对训练数据著作权、生成物权属、法律人格作了留白，只要求利用受著作权保护的作品训练“依法取得使用依据”，未创设人工智能训练专属的合理使用例外。
建议稿执笔人、浙江大学光华法学院百人计划研究员李汶龙表示，起草团队认为“将合法使用依据留给既有法律及后续制度判断更为妥帖”；生成物的著作权归属同样未作规定，理由是相关问题“通过司法实践迭代演进更为妥帖”。
学者建议稿已有多版，立法进程正在加快
浙大版并非唯一一份学者建议稿。据公开信息，2024年3月，中国政法大学张凌寒牵头七家单位发布《人工智能法（学者建议稿）》；中国社会科学院等机构的《人工智能示范法》已迭代至4.0版。
上海交通大学法学院教授李学尧提出，人工智能综合性立法应当是一部监管法而非实体法典，应保持谦抑立场，警惕“分类分级迷信”和“硬法崇拜”。
浙江大学人工智能学院人工智能系系主任、副教授况琨表示，当前人工智能技术仍存在可评测性不足、模型可解释性欠缺、算法偏见、智能幻觉等短板，他认同分级分类、敏捷治理的立法思路。
李汶龙介绍，建议稿工作组于2026年4月8日成立，此后近半年间条文从174条删减修订至99条；其间集中调研20余家杭州人工智能企业及互联网头部企业，主题是产业发展和出海的主要堵点；7月10日，起草团队与国家发展改革委专班会晤，交流立法思路。
国家发展改革委政策研究室主任、委新闻发言人蒋毅在7月31日发布会上表示，要“加快人工智能法立法进程”，“力争提供一份体现中国特色、具有中国智慧的人工智能治理方案”。
截至9月30日，人工智能法草案尚未提请全国人大常委会审议，官方层面未公布草案文本及审议时间表。
评论 0
还没有添加任何评论，快去APP中抢沙发吧!