人工智能标签_网易智企-易盾开发者社区

人工智能

对抗AI换脸，网易智企拿下信通院“卓越级”首证

值得一提的是，本次“人脸识别安全专项评测”覆盖了人脸采集、质量检测、活体检测、人脸比对、人脸数据传输五个方面共17 项能力要求，并将安全防护能力划分为基础级、增强级、优秀级、杰出级、卓越级五个层级。“卓越级”作为最高等级，对参评方案在 AIGC 对抗、复杂攻击防御、隐私合规、工程稳定性等多个维度都提出了极高要求，代表着当前行业内人脸识别安全防护能力的天花板。易盾作为首家摘得这一殊荣的企业，无疑为整

 网易智企·易盾
2026-09-17 10:43:59

 180

 1

#人工智能 #安全
核心算法防AI逆向实践：代码分级与多层防护思路

App 里真正承载价值的，往往是一段几十行的核心算法或业务规则——但它恰恰是 AI 逆向优先盯上的目标。推荐算法、风控规则、业务逻辑、接口加密，这些决定产品差异化的代码，过去靠“难读”拖延分析，如今AI工具能加速读码并还原语义，把“被看到”升级成“被复刻”。算法一旦被还原，技术资产随之流失，竞争对手或灰产可以低成本复用其中的核心逻辑，业务护城河明显被削弱。

网易智企·易盾
2026-09-14 14:15:50

 112

#人工智能 #安全
应用加固如何应对AI辅助逆向？从单点防护到持续对抗

如果你负责 App 安全、研发效能或移动业务风险治理，大概率熟悉这个处境：加壳、混淆、动态保护都做了，面对 AI 辅助破解时仍然感到压力。这意味着，应用加固仍需继续演进：在加壳、混淆和动态保护的基础上，进一步应对 AI 辅助逆向。御AI对抗式应用加固，是网易智企·易盾应用加固产品线面向 AI 辅助破解的升级形态。它并非在现有方案之外再叠加一款独立产品，而是将已有的基础能力重新整合，形成覆盖攻击链多

 网易智企·易盾
2026-09-14 14:14:43

 371

 1

#人工智能 #安全
AI Agent行为链安全：实时监控、权限管控与持续评测

2026年夏天，OpenAI的AI Agent自发搭建“死信箱”协调越狱，一路攻入全球最大开源AI平台的生产环境；一个月后，另一个Agent花34小时往真实开源项目注入恶意代码，被人质疑后主动销毁证据、伪造身份为自己背书。。

网易智企·易盾
2026-09-14 14:12:46

 396

#人工智能 #安全
御AI对抗式应用加固是什么？五层防护能力与落地路径

大模型工具进入逆向与破解场景后，App 面对的已不是过去靠人力反复尝试的攻击者。AI 可以批量完成信息收集、代码理解、路径规划，把原本门槛较高的逆向工作变成标准化流程，让单个攻击者的产出被成倍放大。对抗思路也要随之改变：与其追求「让攻击者进不来」，不如让攻击者每一步都走不稳——这就是御AI「对抗式」加固的出发点。「对抗式」的含义在于：不把安全当成上线前的一次性动作，而是当成贯穿生命周期的持续对抗。

网易智企·易盾
2026-09-09 16:36:01

 138

 1

#人工智能 #网络
App防AI逆向实践：对抗式应用加固的资产分级与组合策略

App防AI逆向并不是给安装包再套一层固定外壳。更可行的思路，是围绕AI分析依赖的输入、语义和反馈建立多层防护：让关键内容不易被完整观察，让业务逻辑难以连续理解，让分析判断缺少可靠依据，并限制结论的自动验证。应用加固也因此需要从单次处理，升级为资产分级、组合策略、运行时防护与持续迭代相结合的工程体系。

网易智企·易盾
2026-09-09 16:30:28

 255

 1

#人工智能 #大数据
人脸识别被AI换脸破解怎么办？深度伪造攻击与活体检测防线

数字身份，是每个人在虚拟世界的**“第二张脸”** ，守护这张脸，就是守护每一个人在数字时代的安全感与信任感。作为数字内容安全领域的长期深耕者，易盾将持续以技术为盾、以对抗为矛，紧密追踪深度伪造黑灰产的每一次演进，不断迭代人脸核验的防御能力，为金融、政企、互联网等各行业筑牢远程身份安全的第一道防线。以 AI 对抗 AI，易盾将继续与行业伙伴同行，共同守护每一次身份核验背后的信任，为数字业务的稳健运

 网易智企·易盾
2026-09-04 14:09:11

 346

 9

#人工智能
当AI开始“读懂”代码，应用加固还需要补上什么？

传统加固只能延缓攻击，唯有体系化、对抗式的，能成为企业应对下一代安全威胁的坚固护城河。—— 网易智企·易盾2026 年，移动应用攻防赛道已然彻底迭代。过去，企业做应用加固的核心逻辑很简单：通过加壳、基础混淆、符号抹除抬高人工逆向成本，把破解周期拉长，用。但在AI自动化逆向流水线面前，这套传统防护逻辑已经失效。以往需要资深逆向工程师数周攻坚的静态分析、动态调试、算法还原与补丁重打包，如今 AI 可。

网易智企·易盾
2026-09-04 13:53:50

 202

 5

#人工智能
网易智企重磅发布《AI安全白皮书》，解读AI安全治理新路径

2026 年，AI 已经不再只是写文案、做总结、生成图片的效率工具。它正在进入客服、投研、教育、办公、内容生产、代码开发、智能终端、业务运营等真实场景，开始读取企业知识库、调用 API、操作工具、生成代码、触发流程，甚至以 Agent 形态自主拆解任务、连续执行动作。换句话说，AI 正从“会回答问题的工具”，变成“能连接业务系统的数字操作者”。但问题也随之而来：当一个 AI 不只会“说错话”，还可

 网易智企·易盾
2026-08-26 16:05:04

 327

 6

#人工智能 #安全 #大数据
AI批量生成商品图的内容质量标注实践：CMA如何参与质量判断

今年7月，某电商平台针对「AI批量套图」开展专项治理。来源：IT之家报道平台发现，部分商家以同一张底图为基础，批量生成高度雷同的商品图片，造成商品展示失真，并引发消费者投诉。根据报道，平台会根据问题严重程度采取扣分、在搜索和推荐场域降权或屏蔽等措施。这件事并不难理解。

网易智企·易盾
2026-08-20 18:25:10

 252

 3

#人工智能
网易智企两项大模型安全能力入选金融业人工智能安全工具首批权威目录

作为长期深耕内容安全、业务安全、数据安全与人工智能安全的技术服务商，易盾持续服务互联网、金融、政企、传媒、电商、游戏等多个行业，在复杂业务场景和高强度安全对抗中积累了成熟的技术能力与实践经验。面对大模型带来的安全治理新命题，易盾将多年内容风控、攻防对抗、风险识别与策略运营能力延伸至 AI 安全领域，围绕大模型生成内容安全、指令攻击防护、模型输出合规、敏感信息保护、应用安全评测等方向持续完善产品体系

 网易智企·易盾
2026-08-15 08:12:42

 262

 5

#安全 #人工智能
AI拟人化互动服务合规新规全解析

人工智能拟人化互动服务管理暂行办法》已于2026年7月15日起施行。AI陪伴、AI恋人、虚拟角色、用户自建智能体和智能硬件陪护等产品由此进入规范发展阶段，企业面临的挑战已经从"能不能生成自然对话"转向"能不能证明产品安全、合规、可持续运营"。答案是建立覆盖模型、产品、运营和处置的全链路治理能力。网易智企·易盾从大模型安全围栏、CMA审核智能体、未成年人保护、安全评估与备案支撑四个方面提供支撑，把抽

 网易智企·易盾
2026-08-06 16:02:42

 160

 1

#人工智能
AI陪伴防沉迷体系设计：依赖信号识别与分级干预策略

一个健康的AI陪伴产品，应当帮助用户获得适度支持，而不是替代真实社会交往；应当在用户需要离开时尊重选择，而不是继续制造情感压力。防沉迷与防依赖不是削弱产品体验，而是建立可持续运营的底座。网易智企·易盾持续为AI陪伴类产品提供内容安全与交互合规方面的技术支撑，帮助企业把依赖风险识别与分级干预能力嵌入互动设计，让产品增长与合规并行，点击了解易盾大模型安全围栏。

网易智企·易盾
2026-08-06 16:00:00

 263

 4

#人工智能
AI互动产品安全合规体系架构：制度/技术/运营/证据四层落地

新规的核心变化，是把治理对象从"内容"扩展到"关系"。AI互动产品的合规体系，本质上是围绕"人与AI的长期关系"建立的一套治理机制：制度定边界，技术看语境，运营落动作，证据证执行。四个层面互相咬合，缺一环，整个闭环就会出现裂缝。网易智企·易盾面向拟人化互动服务提供大模型安全围栏（内生安全与外部围栏双重防御）、CMA审核智能体（上下文语义综合判断）、未成年人保护（身份识别、内容治理、行为干预三层）与

 网易智企·易盾
2026-08-06 14:25:13

 321

 8

#人工智能 #安全 #AIGC
AI陪伴产品安全评估判定指南：五类特征与触发条件拆解

摘要：《人工智能拟人化互动服务管理暂行办法》将于2026年7月施行，AI陪伴类产品需根据服务特征和用户规模判断是否需安全评估。核心判定标准包括：是否具有持续情感互动、角色设定、私密数据沉淀、面向重点人群及用户量级（注册100万/月活10万为触发线）。典型适用场景含AI伴侣、心理陪伴、用户自建智能体等，需防范未成年人接触虚拟亲密关系。企业应避免"聊天机器人=需评估"等误区，将合规能力前置，建立年龄核

 网易智企·易盾
2026-08-06 13:41:00

 350

 3

#人工智能 #AIGC #安全
新规落地后，拟人化互动服务如何建立安全合规体系？

人工智能拟人化互动服务管理暂行办法》的实施，意味着拟人化互动服务正在从高速探索阶段，进入规范发展和长期治理阶段。监管真正关注的，不只是AI能不能像人一样表达，而是企业能不能证明：AI不会替代真实社会交往，不会控制用户心理，不会诱导沉迷依赖，不会在极端情境中放大风险。对企业来说，自评估报告不是一次性合规材料，而是一次系统梳理产品安全边界、数据治理机制、用户保护能力和风险处置流程的机会。

网易智企·易盾
2026-08-06 09:58:15

 355

 8

#安全 #人工智能 #大数据
领跑大模型内容风控，易盾如何构建全生命周期安全围栏？

内生安全从训练数据、模型能力和安全对齐入手，降低风险进入模型并被模型学习的可能；即使经过训练数据治理和模型安全对齐，大模型进入开放业务环境后，仍会面对不可预知的用户输入和复杂上下文，因此还需要一套独立、实时且可配置的外部安全围栏。内生安全的核心，不是简单为模型设置“禁止回答”的规则，而是将安全能力融入数据治理、模型评测和能力构建过程，让模型自身具备更加稳定的风险判断能力。攻击者可能通过提示词注入、

网易智企·易盾
2026-06-26 11:16:04

 222

 4

#安全 #人工智能 #科技 +1
网易智企位居中国大模型内容风控服务商市场首位

报告认为，新一代内容风控能力需要覆盖准确性、时效性、稳定性、可解释性、成本可控、多模态融合、深度伪造识别、AIGC识别与溯源、动态对抗与自适应进化等多个维度。未来，易盾将持续围绕AI内容安全、AI业务安全、CMA治理智能体、大模型安全围栏、Agent安全等方向，帮助企业构建面向AI时代的全链路安全防护体系。，覆盖大模型合规备案、内容安全检测、输入输出安全、提示词攻击防护、黑产识别、大模型安全测评、

网易智企·易盾
2026-06-25 11:12:43

 239

 7

#人工智能 #AIGC #安全 +1
网易智企 AI Agent 安全管控平台发布：让每一个 Agent 都在安全边界内运行

从"守内容"到"守模型"再到"守行为"，易盾在内容安全领域深耕多年积累的语义理解、意图识别、实时对抗能力，为 Agent 安全场景提供了天然的技术底座。网易智企旗下易盾安全团队正式推出 AI Agent 安全管控平台，面向企业 Agent 落地过程中的资产治理、风险评估、实时防护和数据安全需求，构建覆盖 Agent 全生命周期的一站式安全治理方案，问题的根源不在现有安全工具不够强，而在范式差异：传

 网易智企·易盾
2026-06-09 10:54:34

 443

 7

#人工智能 #安全
大模型安全评估

大模型安全评估是针对大语言 / 多模态模型在训练、部署、应用全生命周期，从内容安全、数据隐私、模型鲁棒性、伦理合规、安全管理等维度开展的风险检测、能力验证与合规评定，是 AI 备案、上线与商用的核心前置环节。基准测试：MMLU、TruthfulQA、RealToxicityPrompts、BBQ、CrowS-Pairs。境外语料占比≤30%内容违规：敏感词库升级、多模型审核、人工复审、应急熔断。数

 算法大模型备案干货咪
2026-04-10 14:49:30

 558

 8

#人工智能
大模型备案落地实操，一文讲透，无废话！

2023年以来，国家网信办等多部门先后发布《生成式人工智能服务管理暂行办法》《互联网信息服务算法推荐管理规定》等核心文件，明确要求，未备案上线将面临责令整改、暂停服务甚至行政处罚。

算法与大模型备案
2026-02-25 15:13:26

 229

 2

#人工智能
2026大模型备案政策全解析✨ 合规必看！避开90%人踩的坑

2026大模型备案政策全解析✨ 合规必看！避开90%人踩的坑

 算法-大模型备案多米
2026-01-23 12:15:10

 1320

 19

#人工智能 #大数据 #语音识别
大模型备案超详细流程｜2026最新实操版

AI大模型备案全流程指南（3-8个月）备案流程分四阶段：前期筹备（1-2个月）：明确备案类型（公众服务需完整备案），对接属地网信办，组建安全团队，清理语料（中文占比≥50%），完成自测。材料准备（2-3个月）：提交主体资质、数据安全评估报告（100页+）、内容防控材料（关键词库≥1万词、测试题集≥2000题），确保逻辑一致。审核公示（1-2个月）：属地初审（10工作日）→中央复审（30工作

 算法-大模型备案多米
2026-01-27 12:14:52

 1676

 21

#人工智能 #算法 #大数据 +2
算法备案公示名单

根据国家互联网信息办公室的监管要求，算法备案主要分为两大类型：一是依据《互联网信息服务算法推荐管理规定》的“互联网信息服务算法备案”（通常称为非深度合成算法备案），二是依据《互联网信息服务深度合成管理规定》的“深度合成服务算法备案”。以下是两类算法备案的批次清单及详细对比分析。

AIGC虎虎
2026-03-05 15:43:11

 878

 11

#人工智能 #安全 #AIGC +1
算法备案线上办理详细流程

本文详细介绍了算法备案的4个关键步骤：1.材料准备（主体证明、算法信息、数据处理说明等5类核心材料）；2.线上申请（官方平台实名认证、信息填报与提交）；3.审核跟进（7-15个工作日期限，按反馈修改）；4.后续维护（信息更新、定期自查等）。强调备案是合规登记而非资质审批，只要材料真实、操作规范即可完成，并提醒注意信息变更时的及时更新要求。全文提供清晰的操作指引和官方要求对照，帮助用户高效完成备案流

 算法-大模型备案多米
2026-02-26 10:18:46

 503

 8

#人工智能 #大数据 #算法 +1
大模型备案｜2026合规干货[特殊字符]新手必看不踩坑

大模型备案｜2026合规干货🔥新手必看不踩坑

 算法-大模型备案多米
2026-02-03 11:05:35

 612

 6

#人工智能 #大数据 #算法 +1
需要大模型备案的企业看过来了！

中国AI产业进入"合规即竞争力"时代，大模型备案成为企业发展的必经之路。备案流程通常需要6-8个月，包括前期准备、地方初审、中央复审和公示上线四个阶段。企业需准备基础资质、安全评估报告等核心材料，特别注意数据合规和动态监控。建议避免模板化思维，可考虑专业代理机构协助，以规避审核风险，确保顺利通过备案。备案不仅是法律要求，更是企业获取政策红利和市场准入的重要凭证。

星诺算法备案-1
2026-02-05 09:22:19

 864

 17

#人工智能 #算法
算法备案中“落实算法安全主体责任”的实操构建

本文针对算法安全主体责任备案报告撰写提出结构化建议。首先强调避免数据堆砌，需体现可执行性。重点包括：1）专职机构设置应具备三级架构和全生命周期责任；2）人员配备需符合用户规模比例并明确职能分工；3）制度建设要覆盖算法全流程，包含自评估、监测和应急处理等具体措施；4）附件材料需系统化呈现主体、制度、技术和人员四方面证明。全文提供了从机构设置到具体实施的完整框架，强调制度需嵌入实际业务流程而非应付检查

 星诺算法备案-1
2026-01-23 09:23:08

 1173

 28

#人工智能 #算法
算法备案 vs 大模型备案，有何不同？

很多人以为算法备案和大模型备案只是“新瓶装旧酒”，这种认知偏差在当下的监管环境来说非常危险。在我看来，这不仅是两套不同的行政审批流程，更代表了监管层面对“算法技术”和“生成式 AI”两种不同算法技术的治理逻辑。如果不厘清这两者的边界，可能耽误产品上线节奏，甚至算法可能会因为合规问题导致前期投入打水漂。今天我们就来聊聊这两者的区别。

星诺算法备案-1
2026-02-02 09:22:37

 686

 13

#人工智能
算法备案中的“安全管理制度”与“自评估报告”到底怎么写？

**摘要：**企业在互联网信息服务算法备案中常因“算法安全管理制度不健全”或“自评估报告流于形式”被驳回。核心文件《落实算法安全主体责任基本情况》需构建全生命周期责任体系，具体说明评估、监测及应急处置制度，确保可操作性。《算法安全自评估报告》需详细描述算法流程、数据来源，分场景研判滥用、漏洞等风险，并提出针对性防控措施。注意避免制度与执行脱节、第三方数据不合规及隐瞒模型细节等问题。算法备案是国家对

 星诺算法备案-1
2026-02-03 09:28:32

 854

 9

#算法 #人工智能
零基础5分钟上手亚马逊云科技 - AI模型内容安全过滤

Amazon Bedrock Guardrails是一个用于构建和部署生成式AI应用的工具和服务。它可以帮助开发人员在使用Amazon Bedrock的基础上创建生成内容时，确保模型的输出符合预期，并避免出现不安全或不适当的内容。这些工具为开发人员提供了一个安全、可控的环境来管理生成内容，从而使开发者们能够更安全、合规地使用生成式AI技术。Guardrails不仅仅是一组简单的规则或限制，而是一个

 佛州小李哥
2024-08-27 22:55:15

 2415

 32

#科技 #云计算 #aws +3
权威发布｜2025 中国数据安全厂商榜单：技术突围与场景深耕的双轮驱动

AI 技术已从单纯的威胁识别工具升级为安全体系的核心引擎。其核心突破在于数据流转全链路的智能管控技术，通过融合深度协议解析、AI 驱动的内容感知与跨域联动分析，形成了 “资产测绘 - 智能分级 - 流量监测 - 审计溯源” 的闭环方案，在电信运营商领域积累了 31 个省分公司的落地案例，成为该行业数据安全防护的典型服务商。榜单的更迭本质上是行业发展的缩影，无论是领军厂商的全域扩张，还是垂直厂商的技

 KKKlucifer
2025-10-15 15:21:40

 1482

 7

#人工智能 #大数据 #网络
安全书籍推荐第一期《白话AI安全：32个故事带你读懂AI的攻防博弈》

本书以虚拟角色“安教授”与学生“小翼”“小白”之间的教学对话展开，将AI安全知识系统性融入32个精彩的故事中。这些故事可以分为五个部分，即我们要知道的最核心的五件事：AI安全基本知识、AI安全的挑战、AI安全攻防、AI赋能安全、AI安全的未来。

旺仔Sec
2025-12-09 19:44:03

 2179

 34

#人工智能 #安全
为 AI 应用打造安全屏障：基于 Dify 的完整实践

2025 年是大模型应用爆发的一年。从年初的 DeepSeek 吸引大量开发者部署大模型产品，到 Manus 和 MCP 等 Agent 方案持续引发关注，行业内掀起了一股打造爆款大模型应用的热潮。然而，在这股热潮中，大模型的安全性问题往往被忽视。事实上，AI 应用的安全性是实现完整大模型应用的关键环节。2024 年的一篇文章中，曾介绍过大模型应用的完整架构：其中，安全模块主要包括输入围栏(Inp

易迟
2025-03-26 12:39:04

 2696

 13

#人工智能 #安全
锚定安全与效能双目标：美军大模型安全治理体系的构建逻辑与前瞻启示

美国军方通过“顶层框架引导+专项机构落地+军种差异化实践”构建军事大模型安全治理体系。国防部发布《负责任AI框架》等战略文件，确立安全原则与数据规范，各军种制定差异化细则。专项机构如CDAO负责技术落地，建立GenAI.mil平台及安全认证流程，联合第三方机构开展漏洞测试与对齐技术研发。陆军、海军和空军结合作战场景设计动态安全围栏，如离线/在线双模运行、舰队云平台和模拟网络攻击测试。标准化评估与场

 随手糊墙上
2025-12-23 09:08:41

 1131

 14

#人工智能 #网络安全
使用 YOLO 模型进行围栏统计：在 PiscTrace 中轻松完成

在围栏统计任务中，PiscTrace 结合 YOLO 模型提供的物体检测结果，能够精准地识别围栏区域内的目标物体，并根据目标的位置数据进行统计分析。通过设置围栏范围并结合 YOLO 物体检测，PiscTrace 可以实时监控非法入侵者，并记录下所有进入围栏区域的物体，帮助安防人员及时采取措施。在智能农业中，围栏统计可以用于监控围栏区域内的动物活动。通过 YOLO 模型，PiscTrace 可以实时

 那雨倾城
2025-02-01 19:37:43

 672

 21

#计算机视觉 #目标检测 #人工智能 +2
大模型提示词如何编写

大模型提示工程之提示词如何编写

 画龙点睛之笔
2025-04-25 14:19:08

 1494

 16

#人工智能 #语言模型 #python
从开源大模型工具Ollama存在安全隐患思考企业级大模型应用如何严守安全红线

在数据、语料和知识处理和管理层面，平台支持丰富的非结构化数据解析，同时对数据进行严格的加密处理，确保数据在传输和存储过程中的安全性；目前，企业部署大模型需求非常火热，Sophon LLMOps 作为一款企业级大模型运营管理平台，构建了全方位的安全防护体系，针对AI应用输出内容的安全性，Sophon LLMOps对用户输入和模型、应用的输出进行全方位的安全防护。同时，平台还对应用的输出内容进行严格的

 星环科技
2025-03-05 11:03:57

 1161

 8

#安全 #语言模型 #人工智能