中国首份生成式人工智能监管规定

新闻 / 2023-08-16 12:00:00


一、简介

2023年7月13日，国家互联网信息办公室会等七部门联合发布了《生成式人工智能服务管理暂行办法》（以下简称“《办法》”），该《办法》将于2023年8月15日正式生效实施，在内容合规、数据合规、算法合规等方面提出了详细要求，是中国首份关于生成式人工智能（Artificial Intelligence Generated Content，“AIGC”）的监管文件。


二、适用范围


根据《办法》第二条规定，适用于利用生成式人工智能技术向中国境内公众提供生成文本、图片、音频、视频等内容的服务(以下称“生成式人工智能服务”)，相关机构研发、应用生成式人工智能技术，未向境内公众提供生成式人工智能服务的，不适用本办法的规定。因此，有以下两点需要注意：

  1. 《办法》适用于向中国境内公众提供服务的提供者。无论是境内还是境外的提供者，只要向中国境内公众提供服务，均属于监管范围。
  2. 《办法》明确行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等主体，研发、应用生成式人工智能技术,未向境内公众提供生成式人工智能服务的,不在适用范围内。该等例外反映了中国对新技术的包容、鼓励的监管态度。


三、监管合规要点

《办法》第三条规定，国家对生成式人工智能服务实行包容审慎和分类分级监管的原则，即要鼓励创新，又要合理监管。《办法》为生成人工智能的不同阶段规定了不同的监管要求：

  1. 研发阶段

针对预训练、优化训练等训练数据处理活动，《办法》第七条提出了以下五项合规要点：（1）数据和基础模型具有合法来源; （2）不得侵害他人依法享有的知识产权; （3）涉及个人信息的,应当符合法律规定; （4）确保训练数据的真实性、准确性、客观性、多样性; （5）符合法律法规和有关主管部门的相关监管要求。

2.准备阶段

在正式面向公众提供生成式人工智能服务之前，根据《办法》的规定，提供者还需要注意履行以下合规义务：

（1）服务协议：《办法》第九条第二款规定，提供者应当与生成式人工智能服务使用者签订服务协议，明确双方权利义务。

（2）安全评估：《办法》第十七条明确指出提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估，履行算法备案和变更、注销备案手续。

3. 应用阶段

《办法》中规定了许多提供者的义务，例如：个人信息保护义务；明确并公开其服务的适用群体，指导及防沉迷义务；标示生成内容的义务、保障用户正常使用义务；违法内容处理和整改义务等。


四、结语

现阶段在全球范围内，各国对于人工智能的监管也处于积极探索和实践中。中国新出台的《办法》确立了包容审慎和分类分级的监管原则，力求在关于人工智能服务的创新发展与防控风险之间寻求平衡。


如需了解更多，请联系我们：info@dandparnters.com.



最新动态

点击阅读更多内容
本站使用百度智能门户搭建 管理登录
沪ICP备2021027594号-1