为推动生成式人工智能技术健康发展和规范应用，依照《中华人民共和国网路安全法》等法律法规，国家互联网信息办公室起草了《生成式人工智能服务管理办法（征询意见稿）》，现向社会公开征询意见。公众可通过以下途径和方法提出反馈意见：
1.登陆中华人民共和国司法部中国政府法治信息网（、），步入首页主菜单的“立法意见征集”栏目提出意见。
2.通过电子电邮形式发送至：。
3.通过信件形式将意见寄至：上海市西城区阜成路15号国家互联网信息办公室网路安全协调局，邮编，并在信封上标明“生成式人工智能服务管理办法征询意见”。
意见反馈截至时间为2023年5月10日。
附件：生成式人工智能服务管理办法（征询意见稿）
国家互联网信息办公室
2023年4月11日
生成式人工智能服务管理办法
（征询意见稿）
第一条为推动生成式人工智能健康发展和规范应用，依照《中华人民共和国网路安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》等法律、行政法规，制订本办法。
第二条研制、利用生成式人工智能产品，面向中华人民共和国境内公众提供服务的，适用本办法。
本办法所称生成式人工智能人工智能，是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。
第三条国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作，鼓励优先采用安全可信的软件、工具、计算和数据资源。
第四条提供生成式人工智能产品或服务应该遵循法律法规的要求，尊重社会公德、公序良俗，符合以下要求：
（一）借助生成式人工智能生成的内容应该彰显社会主义核心价值观，不得富含颠覆国家政权、推翻社会主义制度，煽动分裂国家、破坏国家统一，鼓吹惊悚主义、极端主义，鼓吹民族仇恨、民族歧视，暴力、淫秽淫秽信息，虚假信息，以及可能搅乱经济秩序和社会秩序的内容。
（二）在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取举措避免出现种族、民族、信仰、国别、地域、性别、年龄、职业等歧视。
（三）尊重知识产权、商业道德，不得借助算法、数据、平台等优势施行不公正竞争。
（四）借助生成式人工智能生成的内容应该真实确切，采取举措避免生成虚假信息。
（五）尊重别人合法利益，避免伤害他人身心健康，损害肖像权、名誉权和个人隐私，侵害知识产权。严禁非法获取、披露、利用个人信息和隐私、商业秘密。
第五条借助生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人（以下称“提供者”），包括通过提供可编程插口等形式支持别人自行生成文本、图像、声音等，承当该产品生成内容生产者的责任；涉及个人信息的，承当个人信息处理者的法定责任，履行个人信息保护义务。
第六条借助生成式人工智能产品向公众提供服务前，应该根据《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估，并根据《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。
第七条提供者应该对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责。
用于生成式人工智能产品的预训练、优化训练数据，应满足以下要求：
（一）符合《中华人民共和国网路安全法》等法律法规的要求；
（二）不富含侵害知识产权的内容；
（三）数据包含个人信息的，应该征得个人信息主体同意或则符合法律、行政法规规定的其他情形；
（四）才能保证数据的真实性、准确性、客观性、多样性；
（五）国家网信部门关于生成式人工智能服务的其他监管要求。
第八条生成式人工智能产品研发中采用人工标明时，提供者应该制订符合本办法要求，清晰、具体、可操作的标明规则，对标明人员进行必要培训，抽样核验标明内容的正确性。
第九条提供生成式人工智能服务应该依照《中华人民共和国网路安全法》规定，要求用户提供真实身分信息。
第十条提供者应该明晰并公开其服务的适用人群、场合、用途，采取适当举措防范用户过于依赖或沉溺生成内容。
第十一条提供者在提供服务过程中，对用户的输入信息和使用记录承当保护义务。不得非法存留就能推测出用户身分的输入信息，不得依据用户输入信息和使用情况进行画像，不得向别人提供用户输入信息。法律法规另有规定的，从其规定。
第十二条提供者不得按照用户的种族、国别、性别等进行带有歧视性的内容生成。
第十三条提供者应该构建用户投诉接收处理机制，及时处置个人关于更正、删除、屏蔽其个人信息的恳求；发觉、知悉生成的文本、图片、声音、视频等侵犯别人肖像权、名誉权、个人隐私、商业秘密，或则不符合本办法要求时，应该采取举措，停止生成，避免害处持续。
第十四条提供者应该在生命周期内，提供安全、稳健、持续的服务，保障用户正常使用。
第十五条对于运行中发觉、用户举报的不符合本办法要求的生成内容，除采取内容过滤等举措外，应在3个月内通过模型优化训练等方法避免再度生成。
第十六条提供者应该根据《互联网信息服务深度合成管理规定》对生成的图片、视频等内容进行标示。
第十七条提供者应该按照国家网信部门和有关主管部门的要求，提供可以影响用户信任、选择的必要信息人工智能，包括预训练和优化训练数据的来源、规模、类型、质量等描述，人工标明规则，人工标明数据的规模和类型，基础算法和技术体系等。
第十八条提供者应该指导用户科学认识和理智使用生成式人工智能生成的内容，不借助生成内容损害他人形象、名誉以及其他合法权益，不进行商业炒作、不正当营销。
用户发觉生成内容不符合本办法要求时，有权向网信部门或则有关主管部门举报。
第十九条提供者发觉用户借助生成式人工智能产品过程中违背法律法规，违反商业道德、社会公德行为时，包括从事网路炒作、恶意发贴跟评、制造垃圾电邮、编写恶意软件，施行不正当的商业营销等，应该暂停或则中止服务。
第二十条提供者违背本办法规定的，由网信部门和有关主管部门根据《中华人民共和国网路安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》等法律、行政法规的规定给以处罚。
法律、行政法规没有规定的，由网信部门和有关主管部门根据职责给与警告、通报批评，勒令责令改正；拒不改正或则情节严重的，勒令暂停或则中止其借助生成式人工智能提供服务，并处一亿元以上十亿元以下罚金。构成违背治安管理行为的，依法给与治安管理处罚；构成犯罪的，依法追究民事责任。
第二十一条本办法自2023年月日起施行。
免责声明：部分文章信息来源于网络以及网友投稿，本站只负责对文章进行整理、排版、编辑，出于传递更多信息之目的，并不意味着赞同其观点或证实其内容的真实性，如本站文章和转稿涉及版权等问题，请作者在及时联系本站，我们会尽快为您处理。
