适用场景
面向中国境内公众提供生成式人工智能(AIGC)服务的出海企业,包括通过API接口等方式提供服务的境内及境外主体,在服务研发、上线及运营阶段均需关注。
核心要点
1. 适用范围与域外效力
无论服务提供者在境内还是境外,只要其生成式人工智能服务面向中国境内公众,即受《办法》管辖。通过API接口与境内企业合作提供服务的境外主体同样适用。企业内部自研自用、不向公众开放的服务暂不在此监管范围内。
2. 核心监管原则:发展与安全并重
监管采取“包容审慎”和“分类分级”的总体思路。一方面鼓励自主创新与安全可信技术应用,另一方面将根据技术特点及行业应用风险,制定差异化的分级监管规则,未来可能出台更细化的指引。
3. 训练数据与标注的合规要求
训练数据需来源合法,尊重知识产权与个人信息权益(需取得同意或符合法定情形)。需采取措施提升数据质量(真实性、准确性等)。数据标注需制定明确规则,进行质量评估与人员培训,外包时服务提供者仍负主体责任。
4. 安全评估与算法备案的触发条件
并非所有AIGC服务都需进行安全评估和算法备案。只有当服务被认定为“具有舆论属性或社会动员能力”(如提供公众舆论表达渠道或具有发动社会活动能力)时,才需按规定进行安全评估并履行算法备案手续。
5. 内容管理及违法处置义务
服务提供者必须防止生成法律禁止的虚假有害信息及各类歧视内容。对生成的图片、视频等内容需依法进行标识。发现违法内容或用户从事违法活动时,需及时采取停止生成、传输、消除等处置措施,优化模型并报告主管部门。
实务建议
- 明确服务定位:评估自身AIGC服务是否属于“具有舆论属性或社会动员能力”,以判断是否需要提前进行安全评估和算法备案。
- 构建数据合规体系:建立从数据来源审核、知识产权清理、个人信息授权到数据标注质量控制的完整流程,并保留相关记录。
- 设计内容过滤与处置机制:部署技术措施识别违规内容,并制定清晰的内部流程,确保能快速采取停止生成、模型优化等处置动作并上报。
- 关注关联业务许可:若AIGC服务涉及增值电信、网络出版、视听节目等特定领域,需另行申请相关行政许可,并注意外资准入限制。
- 规范国际合作模式:境外技术方若想服务中国境内用户,通常需与境内实体合作,由境内实体作为服务提供者承担合规责任,双方需通过协议明确权责。
风险提示
- 误区:认为服务器在境外或公司注册在境外即可规避监管。正解:只要最终用户在中国境内,即受《办法》管辖。
- 误区:将所有AIGC服务一概而论,忽视分类分级监管趋势。正解:应密切关注后续细则,根据自身服务属性和风险等级调整合规策略。
- 注意事项:数据标注外包不转移主体责任,需对标注服务商进行有效监督并约定合规支持义务。
- 注意事项:“具有舆论属性或社会动员能力”的认定可能较宽泛,若业务涉及公众内容生成与交互,应提前咨询专业意见,避免未履行评估备案义务的风险。