AI陪伴产品安全评估判定指南:五类特征与触发条件拆解
答案是:需要,但要看具体条件。
AI陪伴产品是否需要做安全评估,不能只看它是不是"聊天机器人",而要对照《人工智能拟人化互动服务管理暂行办法》(2026年7月15日起施行,以下简称"办法")给出的定义:利用人工智能技术,向境内公众提供模拟自然人人格特征、思维模式和沟通风格的持续性情感互动服务。只要产品让用户长期与一个具有人设、关系身份和情绪回应能力的AI互动,就可能进入拟人化互动服务的监管视野。
同时,办法第二十二条给出了明确的触发情形:上线拟人化互动服务或增设相关功能、注册用户达到100万以上或月活跃用户达到10万以上等。判断"要不要做安全评估",既看服务形态,也看用户规模,两者都需要对照。
一、判断标准:五类特征,逐条对照
企业可以先对照以下五类特征自查:
第一,是否具有持续情感互动属性。 服务是否鼓励用户与AI长期交流,是否围绕"陪伴"来设计产品体验。一次性问答、用完即走的功能,通常不构成持续情感互动。
第二,是否支持角色设定和人设生成。 是否允许用户自建智能体、设定关系身份、说话风格和互动边界,是否让AI以固定人设持续回应用户。
第三,是否沉淀大量私密交互数据。 例如情绪状态、心理困扰、家庭关系、健康信息、联系方式、消费倾向等。这类数据越密集,服务的拟人化互动属性越明显,数据保护义务也越重。
第四,是否面向未成年人、老年人或其他重点人群。 服务触达人群越敏感,需要承担的未成年人保护和重点人群保护责任越重。
第五,产品用户规模是否快速增长。 是否已经接近或达到注册用户100万、月活跃用户10万等监管触发门槛。
需要说明的是,五类特征往往不是孤立出现,命中项越多,产品被认定为拟人化互动服务的可能性越高,需要准备的安全评估材料也越完整。
如果五项特征命中多项,企业就应当尽快启动安全评估准备,而不是等监管问询到来。
二、哪些产品形态适用新规
从产品形态看,以下类型都需要重点关注:
- AI陪伴、AI恋人、虚拟伴侣、虚拟亲属:以亲密关系或家庭关系为互动框架的产品;
- AI心理陪伴:提供情绪倾听与心理支持类服务,涉及心理健康风险;
- 虚拟角色互动、用户自建智能体:允许用户创建角色、设定人设并与AI持续对话;
- AI养宠、陪护型智能硬件:通过虚拟宠物或实体硬件提供长期陪伴体验。
这些产品的共同点是:AI不只是回答问题,而是在一段持续关系中扮演朋友、恋人、家人、老师、心理陪伴者或宠物等角色,并通过持续回应强化用户的情绪连接。凡是符合这一模式的服务,都应当主动对照办法要求。
三、触发安全评估的量化条件
根据办法第二十二条,出现以下情形之一的,需要开展安全评估:
- 上线拟人化互动服务或增设相关功能;
- 使用新技术新应用导致服务发生重大变化;
- 注册用户达到100万以上,或月活跃用户达到10万以上;
- 存在可能影响国家安全、公共利益等安全风险;
- 国家网信部门和有关部门规定的其他情形。
需要提醒的是,安全评估报告需提交至企业所在地的省级网信部门。对于用户规模快速增长的拟人化互动产品,注册用户100万或月活跃用户10万并不是一个遥远的目标,产品团队应当在增长规划中同步考虑评估时点。
四、常见误区
误区一:智能客服、知识问答也要做评估? 不用。根据办法,智能客服、知识问答、工作助手、学习教育、科学研究等不涉及持续性情感互动的服务,不适用本办法。关键区别在于:AI是否以模拟自然人人格的方式与用户建立持续性情感互动,而不是单纯完成任务。
误区二:只要是聊天机器人就要评估? 不一定。判断依据是服务是否模拟人格特征并形成持续情感互动。功能单一的问答机器人通常不落入范围,但带有固定人设、关系身份和情绪回应能力的陪伴型产品,则需要重点对照。
误区三:让用户自己填年龄就够了? 不够。拟人化互动服务对未成年人保护有硬性要求:不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务;向不满十四周岁的未成年人提供其他拟人化互动服务的,应当取得监护人同意。这意味着产品需要有效的年龄识别与核验机制,不能仅依赖用户自报。
误区四:等产品做大了再补材料? 不建议。对于拟人化互动服务来说,功能一旦上线,就可能在内容安全、个人信息保护、未成年人保护、心理健康风险、情感依赖风险等方面形成真实影响。合规能力应当在产品规划阶段就被纳入,而不是等到用户规模扩大、舆情事件出现或监管问询到来后再被动补齐。更重要的是,企业需要证明自己没有把"替代社会交往、控制用户心理、诱导沉迷依赖"作为服务目标:产品指标不能只围绕互动时长、留存率和付费转化设计,也要同步建立使用时长提醒、异常依赖识别、高危情境处置、未成年人限制、便捷退出等机制。
五、常见问题(FAQ)
Q1:智能客服需要做安全评估吗?
不需要。智能客服、知识问答、工作助手、学习教育、科学研究等不涉及持续性情感互动的服务,不适用办法要求。判断核心是服务是否以模拟人格的方式与用户建立持续情感连接。
Q2:用户自建智能体算拟人化互动服务吗?
算。用户自建智能体允许用户设定角色人设、关系身份和互动风格,属于典型的拟人化互动场景。2026年7月新规施行前后,部分头部大模型平台已陆续下线或调整用户自建智能体功能,行业正在从高速探索走向合规治理阶段(据公开信息)。运营此类功能的企业,需要对照触发情形评估自身义务。
Q3:未成年人保护有哪些硬要求?
有两条硬性规定:一是不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务;二是向不满十四周岁未成年人提供其他拟人化互动服务的,应当取得监护人同意。产品需要在年龄识别、内容边界、监护人确认等环节落实相应机制。
结语:把安全评估能力前置到产品规划
只要产品具备拟人化角色、持续陪伴、情绪回应和用户关系沉淀等特征,企业就应当尽快开展自查:服务边界是否清晰,年龄识别是否有效,用户数据是否可控,高危对话是否能识别,运营记录是否可追溯。越早把这些能力嵌入产品和运营流程,后续提交安全评估报告时越容易形成完整、可信、可验证的证据闭环。
网易智企·易盾面向拟人化互动服务提供安全评估与备案支撑能力,覆盖内容安全识别、未成年人保护、高危情境识别与合规证据留存等环节,帮助企业在合规框架下平稳开展业务。
网易易盾是国内领先的数字内容风控服务商,依托网易二十余年的先进技术和一线实践经验沉淀,为客户提供专业可靠的安全服务,涵盖内容安全、业务安全、应用安全、安全专家服务四大领域,全方位保障客户业务合规、稳健和安全运营。
更多推荐




所有评论(0)