截至 2025 年 11月 ,国家互联网信息办公室已发布 114 批深度合成算法备案清单,累计通过备案 5100 款。其中服务提供者角色备案 3931 款(占比 77.08%),服务技术支持者角色备案 1169 款(占比 22.92%)。这一数据清晰呈现了当前深度合成技术的两大应用模式,也凸显了备案过程中角色界定的核心地位。

一、核心前提:角色界定的底层逻辑与区分标准

深度合成算法备案的核心前提是明确主体角色,两类角色的本质区别在于服务对象、交付形式及合规责任边界,具体定义如下:

1. 服务提供者

直接面向终端用户(C 端)提供深度合成服务,通过 APP、小程序、网站、公众号等公开渠道,向公众提供 AI 生成文本、图像、语音、视频等具象化功能。典型场景包括:对话机器人、AI写作、AI画图、AI视频等。

2. 服务技术支持者

不直接对接公众用户,通过 API 接口、SDK 工具或私有化部署等方式,为其他企业(B 端)提供深度合成技术支持。典型场景包括:为电商平台提供智能客服对话生成接口的技术公司、向媒体机构输出视频合成 SDK 的服务商、为政务系统提供私有化部署的语音转文字技术供应商等。

关键提醒

若产品同时开展 C 端服务与 B 端技术输出业务,需分别以两个角色独立提交备案申请,不可合并填报或相互替代,否则将影响备案审核进度。

二、备案审核机制:一审与二审的核心分工

所有深度合成算法备案均需经过 "一审 + 二审" 双阶段审核,两阶段审核重点各有侧重,形成全流程合规校验:

1. 一审:形式合规与逻辑一致性审查

核心核查填报信息、自评估报告、拟公示内容三者的一致性;重点检查算法名称、输入 / 输出模态、应用场景描述是否存在逻辑矛盾;初步评估风险研判的合理性及防控措施的可操作性,确保备案材料形式完整、内容自洽。

2. 二审:模型安全与技术合规深度核查

聚焦模型架构设计、风险干预策略、用户权益保障机制;严格审查是否符合数据收集最小必要原则、数据安全管理要求;验证结果标识、内容审核、日志留存等法定义务的落实情况,确保技术层面具备合规落地条件。

三、两类角色的审核侧重点与材料准备要点

1. 服务提供者:聚焦用户侧合规落地

(1)算法流程与数据说明

需清晰拆解算法各环节的输入输出逻辑(如文本→图像、语音→文字、多模态融合等),确保描述与实际产品功能完全一致,避免出现功能描述与实际服务不匹配的情况。

(2)结果标识合规(核心审核项)

必须严格落实《人工智能生成合成内容标识办法》要求,双标识缺一不可:

  • 显性标识:在 AI 生成内容的显著位置标注 "AI 生成" 字样,确保终端用户直观可见;
  • 隐性 / 溯源标识:通过元数据记录生成时间、服务提供者名称、内容唯一编号等关键信息,支持事后追溯核验。注:对于已上线的产品,网信部门将通过实际登录体验、功能测试等方式进行实地核验。
(3)内容风险治理

需建立 "机器过滤 + 人工复核" 的双重内容审核机制,并提供关键词库样本、审核后台操作截图、审核流程说明等佐证材料,证明风险防控措施的落地可行性。

(4)用户权益保护

严格遵循个人信息保护相关法规,不得超范围收集用户个人信息,产品功能设计需与隐私政策明确约定的内容保持一致(近期网信办已有因超范围收集信息被通报,需重点规避)。

2. 服务技术支持者:聚焦技术交付合规

(1)算法流程描述

应侧重技术实现逻辑的阐述,避免出现具体产品界面截图、品牌名称、用户操作指引等 "产品化" 表述,聚焦算法本身的技术架构与运行机制。

(2)服务模式说明

需明确技术交付方式(API 调用、私有化部署或混合模式),详细列明服务频次限制、访问控制机制、服务对象清单(可匿名化处理,但需明确行业分布)等关键信息,确保服务边界清晰可查。

(3)风险防控机制

从技术层面详细说明风险防控措施,包括但不限于:

  • 调用鉴权与限流机制:如何防范非法调用、超额调用等问题;
  • 异常行为监测与熔断策略:针对恶意调用、违规使用等场景的处置流程;
  • 数据隔离与加密传输措施:如何保障服务过程中的数据安全,防止泄露。
(4)模型安全保障

需说明模型训练数据的来源合法性(如自有数据、授权数据等)、输出结果稳定性的测试报告、模型后处理干预策略(如防止生成违规内容的技术手段)等。

四、常见误区澄清(避坑指南)

误区 1:两类角色可共用一套备案材料

纠正:不可共用。因两类角色的服务对象、风险场景、合规义务存在本质差异,备案材料的结构框架与内容重点完全不同,需根据角色属性分别撰写,避免材料混淆导致审核驳回。

误区 2:只备案一个角色即可覆盖全部业务

纠正:不可替代。若企业同时涉及 C 端服务与 B 端技术输出,必须分别完成两个角色的备案申请。监管部门可通过产品上线状态查询、API 调用日志核验、合作方佐证等多维度验证业务真实性,未备案即开展相关业务将面临产品下架、行政处罚等风险。

五、审核状态说明(实操参考)

根据公开备案流程,提交材料后若系统显示 "审核中" 状态超过 10 个工作日且未收到驳回通知,通常意味着材料已通过初审,进入排队公示阶段。一般将在下一批次备案清单发布时同步更新审核状态,并自动生成备案编号,企业可关注国家网信办官方公告查询进展。

Logo

网易易盾是国内领先的数字内容风控服务商,依托网易二十余年的先进技术和一线实践经验沉淀,为客户提供专业可靠的安全服务,涵盖内容安全、业务安全、应用安全、安全专家服务四大领域,全方位保障客户业务合规、稳健和安全运营。

更多推荐