经过三年多谈判,欧盟AI法案正式在欧洲议会投票通过并生效,成为全球首部综合性人工智能监管法律,将对全球人工智能产业发展产生深远影响。该法案根据风险等级对AI应用进行分类监管,禁止社会评分等不可接受风险的AI应用,为全球AI监管树立了标杆。
法案将AI应用分为四个风险等级:不可接受风险、高风险、中风险、低风险。不可接受风险的AI应用将被全面禁止,包括公共场所实时远程生物识别和预测性执法等。高风险AI应用需要经过严格合规评估才能投放市场,低风险AI应用则不受限制。法案还对AI辅助招聘、信贷审批等高风险应用场景制定了专门的合规要求,要求企业提供算法透明度报告。
通用生成式AI模型需要满足透明度要求,大型基础模型必须经过严格安全测试,发生严重安全事故需要及时向监管机构报告。对于性能最强大的前沿AI模型,还需要进行专门的合规审计,满足更严格要求,不符合要求的模型将被禁止在欧盟市场推广。欧盟委员会将设立专门的AI办公室负责监管工作,配备专业团队进行技术评估。
法案生效后,所有在欧盟市场提供AI服务的企业都需要在四年内完成合规整改,不符合要求的产品将被禁止进入欧盟市场。不少科技巨头已经开始调整AI产品路线,以满足法案要求,全球AI产业发展正式进入监管驱动时代。微软、谷歌等公司已经表示将积极配合监管要求,调整在欧洲市场的AI产品策略。
中国AI企业表示,欧盟AI法案虽然增加了出海合规成本,但也为AI产业发展建立了明确规则,有助于行业健康发展。头部出海企业已经成立专门合规团队,正在对现有产品进行整改,预计能够在截止日期前完成合规工作。有企业负责人表示,合规虽然增加了成本,但也提升了产品安全和质量,长期来看对企业有利。
全球多个国家和地区正在参考欧盟AI法案制定本国AI监管规则,中国也在积极推进人工智能立法工作,预计明年正式出台相关法律。专家认为,全球AI监管框架正在逐步形成,未来AI产业发展将在规范框架下更加健康有序发展,监管与技术创新将形成良性互动,推动AI产业可持续发展。
值得关注的是,AI监管与创新的平衡一直是业界争论的焦点,过于严格的监管可能抑制创新,但缺乏监管又可能带来安全风险。欧盟AI法案在平衡两者关系上做出了有益尝试,为全球AI治理提供了可参考的范本。