适用场景
面向所有利用或提供生成式人工智能(AIGC)服务的中国出海企业,特别是在产品研发、内容生成、用户交互等环节应用AI技术的公司,无论处于初创还是成熟阶段。
核心要点
1. 监管框架与原则:包容鼓励与审慎监管并行
中国对AIGC采取“包容与审慎”并重的监管原则,鼓励技术创新与国际合作,同时要求建立分类分级监管体系。企业需根据自身产品风险等级构建内部合规制度,并关注未来《人工智能法》的立法动态。
2. 适用范围:明确境内公众服务边界
新规主要适用于在中国境内向公众提供的、能生成文本、图像、音频、视频等内容的AIGC服务。仅为内部研发、不向境内公众提供服务的活动通常不适用。境外主体向境内提供服务也需遵守相关规定,网信部门有权采取必要处置措施。
3. 核心义务:服务提供者的七大合规责任
AIGC服务提供者需履行算法安全评估与备案(具舆论属性或社会动员能力者)、训练数据质量管理、生成内容标识与审核、用户个人信息保护、防止算法歧视、保障服务稳定、建立投诉举报机制等一系列法定义务。
4. 内容与数据管理:真实性、合法性与用户权利保护
企业必须采取措施确保生成内容的真实准确,不产生违法有害信息,并对图片、视频等内容进行显著标识。同时,需依法保护用户的输入信息和使用记录,保障用户的知情、访问、复制、更正、删除等个人信息权利。
5. 法律责任:多重角色与复合义务
AIGC服务提供者同时承担“网络信息内容生产者”和“个人信息处理者”的责任,需履行网络信息安全和个人信息保护双重义务。违规将依据《网络安全法》、《数据安全法》、《个人信息保护法》等多部法律进行处罚。
实务建议
- 立即开展合规差距分析:对照新规,评估自身AIGC服务在数据、算法、内容、标识等方面的合规现状。
- 建立分类分级内控体系:根据服务属性、用户群体和风险等级,制定差异化的数据管理、内容审核和算法优化流程。
- 强化训练数据全流程管理:制定清晰的标注规则,对标注人员进行培训,并通过抽样验证标注准确性,提升数据质量。
- 完善内容标识与审核机制:对AI生成的图片、视频等内容进行显著、清晰的标识,并建立高效的违法内容发现、处置与报告流程。
- 升级用户权利保障措施:建立便捷的投诉举报渠道,优化用户个人信息查询、复制、更正、删除等功能的操作流程。
- 关注多部门协同监管:业务可能涉及网信、工信、公安、广电等多个部门监管,需保持沟通,理解各自领域要求。
风险提示
- 误区:认为仅内部研发不对外服务就无需合规。注意:若研发活动涉及处理重要数据或个人敏感信息,仍可能触发其他法规义务。
- 误区:忽视“使用者”义务。注意:企业使用第三方AIGC服务时,也负有不得生成传播违法信息、尊重知识产权等义务。
- 注意事项:算法备案非全员要求,但具有“舆论属性或社会动员能力”的服务必须履行,需准确判断自身业务属性。
- 注意事项:用户实名制要求未在新规中明确列举,但需结合《网络安全法》的一般性规定审慎评估,在特定场景下可能仍需落实。
- 注意事项:境外向境内提供AIGC服务虽无直接条款,但网信部门有权采取技术措施处置违规行为,出海企业不可存有监管侥幸心理。