5月19日,中央网信办公布第11批深度合成算法备案通过211款深度合算法备案,从名单中的相关信息分析可以得多以下结论:

一、属地分布特征​
  1. 北京(58个,27.49%)​​:核心行业为​​教育科技​​(如猿编程、中国知网)、​​企业服务​​(如白话劳动法、神州医疗),反映政策支持与产业集群效应。
  2. ​上海(30个,14.22%)​​:集中在​​金融科技​​(好买基金、东证期货)、​​文化创意​​(PICPIK、魂伴科技),依托国际金融中心地位。
  3. ​广东(55个,26.07%)​​:以​​工具软件​​(迅雷、金蝶)和​​电商营销​​(图大侠、金宸广告)为主,受益于制造业数字化需求。
  4. ​浙江(19个,9%)​​:​​医疗健康​​(安诊儿、乐税)与​​内容生产​​(同瓴信息、星社文化)并重,符合数字经济示范区定位。

二、角色分析​

  • 服务提供者主导(169个,占比80.1%)​​:企业更倾向于直接面向用户提供AI服务;
  • 服务支持者(42个,占比19.9%)则聚焦技术底层支持。

 三、 应用产品类型统计

应用产品类型 数量
网站 106
APP 95
小程序 44
其他 17

APP与网站为主力(合计76.72%)​​:移动端与Web端是主要入口,符合C端市场推广需求;“其他”类(如智能硬件)占比较低,提示垂直领域潜力待挖掘。

四、主要用途场景分布

主要场景 数量
文本生成 69
对话生成 63
图像生成 23
数字人 13
多模态生成 16
视频生成 9
其他 18

(1)文本生成(32.7%)​​:覆盖教育(解题辅导)、法律(合同生成)、医疗等领域。

          ​政策风险​​:需符合《网络音视频信息服务管理规定》,禁止生成虚假新闻;教育类算法需通过教育部内容审核。

(2)对话生成(29.86%):覆盖医疗、法律、教育、企业服务、金融、电商等领域的对话机器人、之后能客服等;

(3)​​多模态与虚拟数字人(合计13.74%)​​:应用场景:电视营销、媒体创作。从备案数量来看,数字人呈现递增的态势。可见虚拟数字人的落地场景比较垂直。

​        合规要点​​:遵守《深度合成管理规定》,显著标识AI生成内容;虚拟人需获得用户肖像权授权。

(4)​​视频与图像生成(23.7%)​​:涉及UGC内容合成,主要应用于设计、传媒、游戏、娱乐社交等领域,需注意应强化平台责任,防范虚假信息传播。

  1. ​监管重点​​:平台需建立内容溯源机制,防范伪造名人演讲等违法行为。

五、从之前批次备案通过数量及算法角色分析来看:

 

从11批次通过数量来看,从2023年6月第一批开始逐步递增,到2024年8月的第八批到达封顶备案数量509个,然后开始逐渐递减。之前平均备案数量约400个,到现在递减到211个,随着相关AI法律法规逐渐完善及监管越来越严格,审核细节越来越细,备案难度逐渐提升,备案通过数量呈递减趋势。

六、近期政策影响​

  • 备案强制化​​:2023年8月15日生效的《生成式AI服务管理暂行办法》要求所有面向公众的服务完成备案,未合规企业可能面临下架。
  • ​结果标识标注:随着3月份4部门联合发布结果标识办法,算法备案已经开始按照新的结果标识办法执行,未合规企业会面试整改下架风险。
  • ​数据安全​​:多模态算法涉及用户生物信息(如人脸、声纹),需符合《个人信息保护法》的“最小必要”原则。
  • AI滥用治理:为期3个月的AI滥用治理工作已经开始,未备案企业需积极备案以避免不合规带来的影响;已备案企业不合规地方需要及时进行整改,以免被下架风险。

注:分析数据未人工统计,可能有些许误差。分析报告为一家之言,仅供参考。

 

Logo

网易易盾是国内领先的数字内容风控服务商,依托网易二十余年的先进技术和一线实践经验沉淀,为客户提供专业可靠的安全服务,涵盖内容安全、业务安全、应用安全、安全专家服务四大领域,全方位保障客户业务合规、稳健和安全运营。

更多推荐