2026年7月15日起,《人工智能拟人化互动服务管理暂行办法》正式施行,AI陪伴、虚拟伴侣、情感互动类智能体等产品,自此有了首部专门针对AI拟人化互动服务的部门规章作为监管依据。对相关企业来说,合规并不是"做完一项备案"就结束:算法备案、大模型备案(生成式AI备案)与拟人化互动服务安全评估,构成三层叠加的合规架构,缺一不可。这篇文章讲清楚三者的定义、区别与关系。

AI拟人化互动服务监管概览

一、三类合规事项,分别管什么

1. 算法备案:管的是"推荐机制"

算法备案的依据是《互联网信息服务算法推荐管理规定》,监管对象是推荐机制——也就是平台通过算法向用户推荐内容、商品或服务的机制。它回答的是"推荐环节怎么做才合规"的问题。需要留意的是,算法备案覆盖的是内容分发与推荐环节,并不直接针对模型自身的生成能力,也不针对情感互动场景。

2. 大模型备案:管的是"模型生成能力与内容安全"

大模型备案(即生成式AI备案)的依据是《生成式人工智能服务管理暂行办法》,监管对象是模型自身的生成能力与内容安全,回答的是"模型能生成什么、生成的内容安不安全"的问题。对拟人化互动产品而言,底层大模型的备案是基础能力门槛;但它并不覆盖情感互动场景特有的风险——比如用户对虚拟角色的情感依赖、极端情境下的情绪处置等。

大模型内容安全防护

3. 拟人化互动服务安全评估:管的是"情感互动场景"

《人工智能拟人化互动服务管理暂行办法》于2025年12月由国家网信办发布征求意见稿,2026年4月10日由国家网信办、国家发改委、工信部、公安部、国家市场监督管理总局五部门联合公布,2026年7月15日施行。其上位法依据包括《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》《未成年人网络保护条例》等。

按该办法第二条,适用对象是利用人工智能技术,向中华人民共和国境内公众提供模拟自然人人格特征、思维模式和沟通风格的持续性的情感互动服务,包括通过文字、图片、音频、视频等形式提供的情感照护、陪伴、支持等互动服务。典型场景包括AI陪伴、AI恋人、虚拟伴侣、虚拟亲属、AI心理陪伴、虚拟角色互动、AI养宠、情感互动类智能体、陪护型智能硬件等;而智能客服、知识问答、工作助手、学习教育、科学研究等不涉及持续性情感互动的服务,不适用该办法。

在评估要求上,办法第二十二条规定了触发情形:上线服务或增设功能、发生重大技术变化、注册用户达到100万以上或月活10万以上、存在影响国家安全或公共利益等安全风险等,应当向所在地省级网信部门提交评估报告。第二十三条明确了评估重点,包括安全保障措施、训练数据处理、极端情境识别与处置、用户规模与使用时长及年龄结构、未成年人和老年人保护、投诉举报受理处置、重大安全风险整改等八项内容。第二十七条进一步要求,省级网信部门依据职责每年对评估报告等情况进行书面审查,并开展情况核实,必要时可开展现场检查。

二、一张表看懂三者的区别与关系

对比维度 算法备案 大模型备案(生成式AI备案) 拟人化互动服务安全评估
依据法规 《互联网信息服务算法推荐管理规定》 《生成式人工智能服务管理暂行办法》 《人工智能拟人化互动服务管理暂行办法》
监管对象 推荐机制 模型生成能力与内容安全 情感互动场景(模拟自然人人格特征、思维模式和沟通风格的持续性情感互动服务)
触发条件 按对应法规要求履行(具体以主管部门要求为准) 按对应法规要求履行(具体以主管部门要求为准) 上线服务或增设功能、重大技术变化、注册用户100万以上或月活10万以上、存在影响国家安全或公共利益等安全风险
办理对象 按对应法规要求办理 按对应法规要求办理 所在地省级网信部门
与情感互动场景的关系 不直接针对情感互动场景 覆盖模型能力与内容安全,但不覆盖情感互动场景的专项风险 在二者基础上新增的专项安全评估,直接针对情感互动场景,并附带年度核验

注:算法备案与大模型备案的具体触发条件、办理流程与提交对象,以《互联网信息服务算法推荐管理规定》《生成式人工智能服务管理暂行办法》及主管部门要求为准。

三者的关系可以概括为一句话:算法备案管"推荐",大模型备案管"生成",拟人化互动服务安全评估管"情感互动场景"。对拟人化互动产品而言,它们不是"三选一"的替代关系,而是层层叠加:底层模型要过生成能力与内容安全关,内容分发要过推荐机制关,情感互动场景还要过专项安全评估与年度核验关。

三、常见误区:备案完成不等于合规

不少团队存在一个认识误区:认为完成算法备案或生成式AI备案,就等于合规了。从三层架构看,这个判断并不成立。

算法备案针对的是推荐机制,大模型备案针对的是模型生成能力与内容安全,二者都不覆盖情感互动场景的专项风险。《人工智能拟人化互动服务管理暂行办法》恰恰是在这两类备案的基础上,新增了针对情感互动场景的专项安全评估与年度核验要求。也就是说,即使产品已经完成前两类备案,只要提供持续性情感互动服务,仍需要按新规开展安全评估。

还有两个容易忽视的点。其一,安全评估不是"用户量大了才触发":上线服务、增设功能、重大技术变化同样属于触发情形。其二,安全评估不是一次性的:省级网信部门依据职责每年会对评估报告等情况进行书面审查,并开展情况核实,必要时还会开展现场检查,企业需要持续维护相关机制与记录。

四、企业落地建议:如何统筹准备

第一步,先做场景自查。 判断产品是否提供"模拟自然人人格特征、思维模式和沟通风格的持续性情感互动服务":AI陪伴、虚拟伴侣、AI心理陪伴等以情感互动为核心的产品基本都落在适用范围内;智能客服、知识问答、工作助手等以完成任务为目标的服务则不属于。拿不准时,建议按从严口径准备。

第二步,把三层合规当成一套体系。 大模型备案(生成能力与内容安全)、算法备案(推荐机制)、拟人化互动服务安全评估(情感互动场景)在技术措施、数据文档、审核机制上可以共用基础。先梳理清楚产品用了哪些算法、哪个模型、提供哪些互动功能,再逐层对照,避免重复准备或遗漏环节。

第三步,对照八项评估内容提前建设能力。 办法第二十三条列出的安全保障措施、训练数据处理、极端情境识别与处置、用户规模与使用时长及年龄结构、未成年人和老年人保护、投诉举报受理处置、重大安全风险整改等,就是安全评估的重点,也是产品上线前就该具备的能力。

第四步,建立年度核验机制。 评估报告提交不是终点,省级网信部门依据职责每年都会对评估报告等情况进行书面审查并开展情况核实,必要时开展现场检查。企业应保留可追溯的运营记录,确保持续合规。

拟人化互动产品的合规路径,涉及法规理解、技术措施与文档体系三方面的配合。网易智企·易盾可结合大模型备案、安全评估、算法机制审核、内容安全评测等实践经验,帮助企业梳理从场景自查、能力建设到评估材料准备的完整合规路径,点击了解易盾大模型备案咨询服务

Logo

网易易盾是国内领先的数字内容风控服务商,依托网易二十余年的先进技术和一线实践经验沉淀,为客户提供专业可靠的安全服务,涵盖内容安全、业务安全、应用安全、安全专家服务四大领域,全方位保障客户业务合规、稳健和安全运营。

更多推荐