国家互联网信息办公室关于《生成人工智能服务管理办法（草案）》公开征求意见的通知

为促进生成人工智能技术的健康发展和标准化应用，国家互联网信息办公室根据《中华人民共和国网络安全法》等法律法规起草了《生成人工智能服务管理办法（草案）》，现征求公众意见。公众可以通过以下方式提出反馈：

1.登录中华人民共和国司法部 中国政府法律信息网(www.moj.gov.cn、www.chinalaw.gov.cn)，进入主页主菜单“征集立法意见”专栏提出意见。

2.通过电子邮件发送至：wajscy@cac.gov.cn。

3.通过信件发送意见:北京市海淀区阜成路15号国家互联网信息办网络安全协调局，邮编100048，并在信封上注明“生成式人工智能服务管理方法征求意见”。

反馈截止日期为2023年5月10日。

国家互联网信息办公室

2023年4月11日

生成人工智能服务管理方法

(征求意见稿)

第一条 为促进生成人工智能的健康发展和标准化应用，根据《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》等法律、行政法规制定本办法。

第二条 本办法适用于为中华人民共和国境内公众提供服务的生成人工智能产品的研发和使用。

本办法所称生成人工智能，是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。

第三条 国家支持人工智能算法、框架等基础技术的自主创新、推广应用和国际合作，鼓励优先考虑安全可靠的软件、工具、计算和数据资源。

第四条 提供生成式人工智能产品或服务应遵守法律法规的要求，尊重社会道德、公共秩序和良好习俗，符合以下要求：

（1）生成人工智能生成的内容应反映社会主义核心价值观，不包括颠覆国家政权、推翻社会主义制度、煽动国家分裂、破坏国家统一、宣传恐怖主义、极端主义、民族仇恨、民族歧视、暴力、淫秽色情信息、虚假信息，可能扰乱经济社会秩序。

（2）在算法设计、培训数据选择、模型生成和优化、提供服务等过程中，采取措施防止种族、民族、信仰、国家、地区、性别、年龄、职业等歧视。

(三)尊重知识产权和商业道德，不得利用算法、数据、平台等优势进行不公平竞争。

(4)使用生成式人工智能生成的内容应真实、准确，并采取措施防止虚假信息的生成。

（5）尊重他人的合法利益，防止损害他人的身心健康，损害肖像权、声誉权和个人隐私，侵犯知识产权。禁止非法获取、披露、使用个人信息、隐私和商业秘密。

第五条 组织和个人(以下简称生成人工智能产品)提供聊天和文本、图像、声音生成等服务“提供者”)，包括支持他人通过提供可编程接口生成文本、图像、声音等，并承担产品生成内容制作人的责任；涉及个人信息的，承担个人信息处理人的法律责任，履行个人信息保护义务。

第六条 在使用生成人工智能产品为公众提供服务之前，应按照《舆论属性或社会动员互联网信息服务安全评价条例》向国家网络信息部门申报安全评价，并按照《互联网信息服务算法推荐管理条例》办理算法备案、变更、注销备案手续。

第七条 提供商应对生成人工智能产品的预训练数据和优化训练数据来源的合法性负责。

生成人工智能产品的预培训和优化培训数据应满足以下要求：

(一)符合《中华人民共和国网络安全法》等法律法规的要求；

(二)不含侵犯知识产权的内容；

(三)数据包含个人信息的，应当征得个人信息主体的同意或者其他符合法律、行政法规规定的情形；

(四)能保证数据的真实性、准确性、客观性和多样性；

（5）国家网络和信息化部门对生成人工智能服务的其他监管要求。

第八条 在生成人工智能产品的开发中使用人工标记时，供应商应制定符合本办法要求、明确、具体、可操作的标记规则，对标记人员进行必要的培训，并抽样检查标记内容的正确性。

第九条 按照《中华人民共和国网络安全法》的规定，提供生成式人工智能服务，要求用户提供真实身份信息。

第十条 提供商应明确并披露适用人群、场合和服务的用途，并采取适当措施防止用户过度依赖或沉迷于内容的生成。

第十一条 在提供服务的过程中，供应商应保护用户的输入信息和使用记录。不得非法保留能够推断用户身份的输入信息，不得根据用户的输入信息和使用情况进行肖像，不得向他人提供用户输入信息。法律、法规另有规定的，从其规定出发。

第十二条 提供商不得根据用户的种族、国家、性别等进行歧视性内容生成。

第十三条 提供商应建立用户投诉接收处理机制，及时处理纠正、删除、屏蔽个人信息的请求；发现、知道文本、图片、声音、视频侵犯他人肖像权、声誉权、个人隐私、商业秘密，或不符合本办法的要求，采取措施停止生成，防止持续危害。

第十四条 提供者应在生命周期内提供安全、稳定、持续的服务，以确保用户的正常使用。

第十五条 除采取内容过滤等措施外，还应在3个月内通过模型优化培训等方式防止运行中发现和用户报告不符合本办法要求的生成内容再生成。

第十六条 提供商应当按照《互联网信息服务深度合成管理条例》对生成的图片、视频等内容进行标识。

第十七条 根据国家网络信息部门和相关主管部门的要求，提供可能影响用户信任和选择的必要信息，包括来源、规模、类型、质量描述、人工标记规则、人工标记数据规模和类型、基本算法和技术系统等。

第十八条 提供商应指导用户科学理解和合理使用生成人工智能生成的内容，不损害他人形象、声誉等合法权益，不进行商业炒作或不正当营销。

当用户发现生成的内容不符合本办法的要求时，有权向网络信息部门或相关主管部门报告。

第十九条 提供商发现，用户在使用生成人工智能产品的过程中违反法律法规、商业道德和社会道德，包括网络炒作、恶意帖子和评论、制作垃圾邮件、编写恶意软件、实施不当商业营销等，应暂停或终止服务。

第二十条 提供者违反本办法规定的，由网络信息部门和有关主管部门依照《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》等法律、行政法规的规定予以处罚。

法律、行政法规不规定的，网络信息部门和有关主管部门应当按照职责给予警告、批评，责令限期改正；拒不改正或者情节严重的，责令暂停或者终止使用生成人工智能提供的服务，并处一万元以上十万元以下的罚款。构成违反治安管理的，依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。

第二十一条 本办法自2023年 月 日起实施。

(中国网信网)