登录社区云,与社区用户共同成长
邀请您加入社区
值得一提的是,本次“人脸识别安全专项评测”覆盖了人脸采集、质量检测、活体检测、人脸比对、人脸数据传输五个方面共17 项能力要求,并将安全防护能力划分为基础级、增强级、优秀级、杰出级、卓越级五个层级。“卓越级”作为最高等级,对参评方案在 AIGC 对抗、复杂攻击防御、隐私合规、工程稳定性等多个维度都提出了极高要求,代表着当前行业内人脸识别安全防护能力的天花板。易盾作为首家摘得这一殊荣的企业,无疑为整
App 里真正承载价值的,往往是一段几十行的核心算法或业务规则——但它恰恰是 AI 逆向优先盯上的目标。推荐算法、风控规则、业务逻辑、接口加密,这些决定产品差异化的代码,过去靠“难读”拖延分析,如今AI工具能加速读码并还原语义,把“被看到”升级成“被复刻”。算法一旦被还原,技术资产随之流失,竞争对手或灰产可以低成本复用其中的核心逻辑,业务护城河明显被削弱。
如果你负责 App 安全、研发效能或移动业务风险治理,大概率熟悉这个处境:加壳、混淆、动态保护都做了,面对 AI 辅助破解时仍然感到压力。这意味着,应用加固仍需继续演进:在加壳、混淆和动态保护的基础上,进一步应对 AI 辅助逆向。御AI对抗式应用加固,是网易智企·易盾应用加固产品线面向 AI 辅助破解的升级形态。它并非在现有方案之外再叠加一款独立产品,而是将已有的基础能力重新整合,形成覆盖攻击链多
2026年夏天,OpenAI的AI Agent自发搭建“死信箱”协调越狱,一路攻入全球最大开源AI平台的生产环境;一个月后,另一个Agent花34小时往真实开源项目注入恶意代码,被人质疑后主动销毁证据、伪造身份为自己背书。。
2026 年,AI 已经不再只是写文案、做总结、生成图片的效率工具。它正在进入客服、投研、教育、办公、内容生产、代码开发、智能终端、业务运营等真实场景,开始读取企业知识库、调用 API、操作工具、生成代码、触发流程,甚至以 Agent 形态自主拆解任务、连续执行动作。换句话说,AI 正从“会回答问题的工具”,变成“能连接业务系统的数字操作者”。但问题也随之而来:当一个 AI 不只会“说错话”,还可
作为长期深耕内容安全、业务安全、数据安全与人工智能安全的技术服务商,易盾持续服务互联网、金融、政企、传媒、电商、游戏等多个行业,在复杂业务场景和高强度安全对抗中积累了成熟的技术能力与实践经验。面对大模型带来的安全治理新命题,易盾将多年内容风控、攻防对抗、风险识别与策略运营能力延伸至 AI 安全领域,围绕大模型生成内容安全、指令攻击防护、模型输出合规、敏感信息保护、应用安全评测等方向持续完善产品体系
安全评估报告的核心不在"写",而在"做":对照《人工智能拟人化互动服务管理暂行办法》第二十三条的八项评估内容,将制度、技术、运营、证据四层落地材料整理成文,确认触发第二十二条情形后,向所在地省级网信部门提交。材料齐,报告成立;材料缺,报告空泛。
2026年7月15日起,《人工智能拟人化互动服务管理暂行办法》正式施行,AI陪伴、虚拟伴侣、情感互动类智能体等产品,自此有了首部专门针对AI拟人化互动服务的部门规章作为监管依据。对相关企业来说,合规并不是"做完一项备案"就结束:算法备案、大模型备案(生成式AI备案)与拟人化互动服务安全评估,构成三层叠加的合规架构,缺一不可。这篇文章讲清楚三者的定义、区别与关系。
新规的核心变化,是把治理对象从"内容"扩展到"关系"。AI互动产品的合规体系,本质上是围绕"人与AI的长期关系"建立的一套治理机制:制度定边界,技术看语境,运营落动作,证据证执行。四个层面互相咬合,缺一环,整个闭环就会出现裂缝。网易智企·易盾面向拟人化互动服务提供大模型安全围栏(内生安全与外部围栏双重防御)、CMA审核智能体(上下文语义综合判断)、未成年人保护(身份识别、内容治理、行为干预三层)与
摘要:《人工智能拟人化互动服务管理暂行办法》将于2026年7月施行,AI陪伴类产品需根据服务特征和用户规模判断是否需安全评估。核心判定标准包括:是否具有持续情感互动、角色设定、私密数据沉淀、面向重点人群及用户量级(注册100万/月活10万为触发线)。典型适用场景含AI伴侣、心理陪伴、用户自建智能体等,需防范未成年人接触虚拟亲密关系。企业应避免"聊天机器人=需评估"等误区,将合规能力前置,建立年龄核
人工智能拟人化互动服务管理暂行办法》的实施,意味着拟人化互动服务正在从高速探索阶段,进入规范发展和长期治理阶段。监管真正关注的,不只是AI能不能像人一样表达,而是企业能不能证明:AI不会替代真实社会交往,不会控制用户心理,不会诱导沉迷依赖,不会在极端情境中放大风险。对企业来说,自评估报告不是一次性合规材料,而是一次系统梳理产品安全边界、数据治理机制、用户保护能力和风险处置流程的机会。
内生安全从训练数据、模型能力和安全对齐入手,降低风险进入模型并被模型学习的可能;即使经过训练数据治理和模型安全对齐,大模型进入开放业务环境后,仍会面对不可预知的用户输入和复杂上下文,因此还需要一套独立、实时且可配置的外部安全围栏。内生安全的核心,不是简单为模型设置“禁止回答”的规则,而是将安全能力融入数据治理、模型评测和能力构建过程,让模型自身具备更加稳定的风险判断能力。攻击者可能通过提示词注入、
报告认为,新一代内容风控能力需要覆盖准确性、时效性、稳定性、可解释性、成本可控、多模态融合、深度伪造识别、AIGC识别与溯源、动态对抗与自适应进化等多个维度。未来,易盾将持续围绕AI内容安全、AI业务安全、CMA治理智能体、大模型安全围栏、Agent安全等方向,帮助企业构建面向AI时代的全链路安全防护体系。,覆盖大模型合规备案、内容安全检测、输入输出安全、提示词攻击防护、黑产识别、大模型安全测评、
从"守内容"到"守模型"再到"守行为",易盾在内容安全领域深耕多年积累的语义理解、意图识别、实时对抗能力,为 Agent 安全场景提供了天然的技术底座。网易智企旗下易盾安全团队正式推出 AI Agent 安全管控平台,面向企业 Agent 落地过程中的资产治理、风险评估、实时防护和数据安全需求,构建覆盖 Agent 全生命周期的一站式安全治理方案,问题的根源不在现有安全工具不够强,而在范式差异:传
根据国家互联网信息办公室的监管要求,算法备案主要分为两大类型:一是依据《互联网信息服务算法推荐管理规定》的“互联网信息服务算法备案”(通常称为非深度合成算法备案),二是依据《互联网信息服务深度合成管理规定》的“深度合成服务算法备案”。以下是两类算法备案的批次清单及详细对比分析。
Amazon Bedrock Guardrails是一个用于构建和部署生成式AI应用的工具和服务。它可以帮助开发人员在使用Amazon Bedrock的基础上创建生成内容时,确保模型的输出符合预期,并避免出现不安全或不适当的内容。这些工具为开发人员提供了一个安全、可控的环境来管理生成内容,从而使开发者们能够更安全、合规地使用生成式AI技术。Guardrails不仅仅是一组简单的规则或限制,而是一个
本书以虚拟角色“安教授”与学生“小翼”“小白”之间的教学对话展开,将AI安全知识系统性融入32个精彩的故事中。这些故事可以分为五个部分,即我们要知道的最核心的五件事:AI安全基本知识、AI安全的挑战、AI安全攻防、AI赋能安全、AI安全的未来。
2025 年是大模型应用爆发的一年。从年初的 DeepSeek 吸引大量开发者部署大模型产品,到 Manus 和 MCP 等 Agent 方案持续引发关注,行业内掀起了一股打造爆款大模型应用的热潮。然而,在这股热潮中,大模型的安全性问题往往被忽视。事实上,AI 应用的安全性是实现完整大模型应用的关键环节。2024 年的一篇文章中,曾介绍过大模型应用的完整架构:其中,安全模块主要包括输入围栏(Inp
在数据、语料和知识处理和管理层面,平台支持丰富的非结构化数据解析,同时对数据进行严格的加密处理,确保数据在传输和存储过程中的安全性;目前,企业部署大模型需求非常火热,Sophon LLMOps 作为一款企业级大模型运营管理平台,构建了全方位的安全防护体系,针对AI应用输出内容的安全性,Sophon LLMOps对用户输入和模型、应用的输出进行全方位的安全防护。同时,平台还对应用的输出内容进行严格的
易盾业务风控周报每周报道值得关注的安全技术和事件,包括但不限于内容安全、移动安全、业务安全和网络安全,帮助企业提高警惕,规避这些似小实大、影响业务健康发展的安全风险。1、新版个人信息安全规范正式发布 隐私安全得到高度重视3 月 6 日,国家市场监督管理总局、国家标准化管理委员会正式发布国家标准《信息安全技术个人信息安全规范》,并定于2020年10月1日实施。《规范》对个人信息收集、储存、使用做..
近日,由云计算与大数据研究所组织开展的结果正式公布。网易易盾联合国家网络安全人才与创新基地(简称国家网安基地)开展的成功入选,成为政务大模型安全治理方向的典型实践案例之一。作为国家网络安全战略布局中的重要组成部分,国家网安基地是中央网络安全和信息化委员会办公室指导下推进建设的重要国家级平台。基地聚焦网络安全关键技术攻关、高端人才培养与产业协同创新,致力于推动前沿技术成果在真实场景中的验证与落地应用
当Z世代成为互联网"原住民",人工智能浪潮下的未成年人网络保护,正迎来全新的机遇与挑战。近期,在成都举办的"第五届中国基础教育论坛暨中国教育学会第三十七次学术年会"上,网易易盾AIGC安全产品负责人陈谌受邀出席"人工智能时代下的青少年网络素养教育"分论坛,与学界专家、教育工作者共探未成年人网络保护新路径。网易易盾AIGC产品负责人 陈谌(左二)
今年农历新年期间,全球AI领域再度掀起了一波革命性浪潮,国产通用大模型DeepSeek凭借其强大的多场景理解与内容生成能力迅速“出圈”,彻底改写全球人工智能产业的格局。作为国内领先的数字内容风控服务商,网易易盾一直致力于探索“人工智能+数字内容风控”的融合发展。此次网易易盾亦是走在行业前沿,率先完成旗下核心产品对DeepSeek大模型的全面接入,借助DeepSeek大模型对AI内容检测、人工审核、
回顾2024年的游戏行业市场,有一组令人铭记的数字必然无法绕开,分别是2000万份、3257.83亿元、1416款。▲ 2024年8月发售的首款国产3A级买断制游戏《黑神话:悟空》可谓是2024年游戏行业最现象级的行业大事件。首月2000万份销量直接刷新国产单机游戏的销量纪录。▲ 《2024年中国游戏产业报告》显示,2024年,国内游戏市场实际销售收入3257.83亿元,同比增长7.53%,续创新
随着今年双十一的帷幕落下,你是不是也在某个深夜“忍不住下单”了?每年的双十一狂欢购物节,既是消费狂欢的巅峰,也是电商体系最严峻的“压力测试”。数据显示,在短短几十个小时里,用户的搜索、浏览、加购与支付行为,被推至全年峰值;直播间的成交速度、活动流量的涌入程度,也远超日常任何一个节点。回望 2025 年前三季度,国内电商行业依旧保持强劲韧性。无论是用户规模、交易规模,还是内容生态的活跃度,都呈现出结
渠道推广中的虚假流量问题是游戏开发商面临的重要挑战之一。选择像网易易盾这样靠谱的风控厂商,通过智能风控团伙检测、设备指纹技术、渠道质量监控和用户行为分析等方法,游戏开发商可以有效识别并防范这些行为。同时,加强渠道合作管理、提升风控能力、优化推广策略和加强用户教育等措施也是防止虚假流量的有效手段。只有不断探索和创新,才能为游戏市场创造一个公平、健康、和谐的发展环境。
而App隐私合规检测,对用户提供的安卓应用进行安全漏洞、隐私合规检测,基于静态分析技术,结合数据流静态污点跟踪,检测权限、组件、网络、等APP基础安全漏洞,并提供详细的漏洞信息及修复建议。雇佣的第三方机构使用的也是自动化工具,当前App行业合规的公司还是很多的,所以有很多产品是针对APP合规检测使用的。APP隐私合规:用户隐私的收集、存储、使用、加工、传输、提供、公开、删除等都要合乎法规个人信息保
欢迎关注公众号“网云安全”#网云安全#app#政策解读#数据安全#APP隐私合规推荐阅读????《个保法》落地 | 带你详解APP个人信息保护合规趋势隐私合规:强监管时代下,APP运营者主动合规的意义与路径做“合规”的数据处理者 | 一文图解《网络数据安全管理条例》网云安全|做你的移动安全管家点击|阅读原文|免费体验隐私合规检测...
tcpdump 在移动网络安全中的核心价值,在于其打通了 “底层流量捕获” 与 “安全风险识别” 的链路 —— 它不仅是工具,更是移动安全分析的 “思维载体”:通过解读数据包中的 IP、端口、协议字段,还原 APP 行为、恶意通信与网络攻击的真相。对安全从业者而言,掌握 tcpdump 的移动落地技巧,能大幅提升隐私合规检测、恶意软件分析的效率;对开发者而言,可借助它提前发现 APP 的网络安全漏
根据国家相关法律法规、四部委工作组的检测依据,以及行业适用规定,结合 App 隐私协议,针对 App 实际采集、使用个人信息行为检测结果逐条分析解读,提供与法规对照的检测报告,及整改建议。其中如有一个环节出现差错,开发者便会为自己勤勤恳恳开发的应用埋下相应的风险隐患:监管不定期巡检查处,不合规的会被全网通报勒令整改,情节严重的直接下架处理。不难发现,隐私合规检测项目众多且耗时较长,涉及静态、动态、
2023年上半年,国内总共发布游戏522款。据**《2023年1-6月中国游戏产业报告》**显示2023年1-6月,游戏市场的持续发展,让很多游戏厂商赚的盆满钵满,然而“天下熙熙,皆为利来。天下攘攘,皆为利往”。随之而来的是游戏灰黑产业的愈演愈烈,特别是游戏外挂十分猖獗。什么是游戏外挂?模拟挂是指使用模拟器或虚拟机等软件来模拟游戏环境,以获取不正当的优势。通过模拟挂,玩家可以在虚拟环境中进行修改、
│││├── 58沙龙-02-《零信任在中通黑灰产对抗的实践》-中通快递.pdf。│││├── 58沙龙-03-业务风控中的前端对抗实践-脱敏版-同盾科技.pdf。││├── 58沙龙-02-《浏流量分析在应用安全中的探索实践》-腾讯.pdf。│││├── 58沙龙-01-《安全画像在58同城的落地实践》-58.pdf。│││└── 58沙龙-04-《快手营销反作弊实践》-快手.pdf。
2023年,基于文心大模型安全实践经验,百度安全推出了以AI安全为核心的大模型安全解决方案,旨在为大模型提供全生命周期的安全保障。面对大模型训练/精调/推理、大模型部署、大模型业务运营等关键阶段所面临的安全风险与业务挑战,方案提供了包含数据安全与隐私保护、模型保护、AIGC内容合规、业务运营风控的安全产品与服务,同时结合以攻促防守的思路建立AIGC 内容安全蓝军评测能力,对大模型实现例行化的安全评
这背后离不开全行业的协同合作,既要有多模态的技术视野,也要有多维度的实战经验,通过多方的洞察力构建更加安全的大模型及其应用。12月20日,「创造未来,安全同行」北京站·第九期“度安讲”技术沙龙成功举办,本次沙龙聚焦多模态、终端大模型内容安全、数据安全与合规等前沿领域的安全议题,来自百度安全、vivo、中国联通、复旦大学等行业领军专家共聚一堂,围绕防护机制、评测体系、落地实践等维度进行分享,旨在携手
例如,Drozer 是一款由 MWR InfoSecurity 开发的 App 安全测试框架,它可以帮助开发者确定 Android 设备中的安全漏洞。此外,还有一些其他工具可以用来测试 APP 的安全性,如静态代码分析工具和针对移动 App 的扫描工具等。4、GB/T 41391-2022《信息安全技术移动互联网应用程序(App)收集个人信息基本要求》APP 安全检测主要面向主流手机操作系统上开发
因此,纠正这些幻觉现象,是一个值得长期关注的问题。百度大模型内容安全解决方案采用了检索增强安全大模型作为核心模块,融合了海量的高质量知识库数据,并经过安全对齐优化,能够精准识别AIGC生成内容中的各类违规风险,有的放矢地进行过滤和改写。而在大模型处理敏感问题上,由于敏感问题具备一定的推理复杂性、高时效性,因此使用常规的向量数据库存储知识、检索召回注入prompt,会面临高维护成本的基础上,并不能完
百度大模型内容安全合规解决方案基于 "大模型安全评测+安全对齐+安全防护+安全知识增强"的闭环服务体系,不仅实现了大模型的内生安全增强,还支持在离线环境中运行,满足了对数据隐私和网络安全有严格要求的终端设备的需求。面对当下“大模型+安全”所面临的新形势、新机遇、新挑战,百度将不断拓展人工智能技术在网络安全领域的技术革新与应用,与各界保持合作,共筑大模型安全防线,并以实践经验推动相关标准的建设,助力
游戏外挂,一个令很多游戏玩家和厂商深恶痛绝的存在,不仅破坏了游戏公平竞技的玩家精神和其他用户的游戏体验,影响了游戏服务器的稳定,还造成了游戏厂商的经济损失, 阻碍了游戏的发展,成为游戏安全领域首要需要解决的问题。玩家可以使用特定的工具或软件来查找和修改游戏进程中的内存地址和数值,从而改变游戏的状态,例如修改角色属性、增加游戏货币或跳过难关。游戏市场的持续发展,让很多游戏厂商赚的盆满钵满,然而“天下
业务安全是指确保企业业务流程中数据、交易、用户信息及资产免受未经授权访问、篡改、泄露或中断的能力,以维护业务连续性、数据完整性和客户信任。业务安全场景描述垃圾注册:通过囤积、购买虚假信息的形式恶意注册批量账号营销反作弊:基于营销活动的漏斗,骗取平台的活动奖励虚假认证:利用非本人身份信息,恶意骗过平台账号的身份认证环节信贷风险:骗贷、伪冒申贷、恶意逾期;逾期、欠款业务痛点线上页面存在被恶意攻击的风险
为了合规性,开发者需要进行严格的隐私合规检测,确保在用户授权下,应用只获取必要的信息,并且加密传输。因此,开发者在提交应用时,应确保其符合平台的规定,避免因安全问题而遭遇审核拒绝。通过使用专业的APP安全检测工具,可以及时发现潜在的代码漏洞、API接口的安全问题、弱密码设置等风险点,并进行修复。无论是开发者还是用户,都需要警惕一些潜在的安全风险,以确保应用不仅能顺利上线,还能保障用户的数据和隐私安
近期,工信部对多款应用进行了抽查,结果令不少用户感到担忧:27款APP被发现存在严重的侵犯用户权益行为!几维安全为企业提供的App加固服务、移动应用隐私合规检测、App安全渗透测试以及信息安全等级保护咨询,可以帮助企业全面提升应用的安全性,确保用户数据不被泄露,避免侵犯用户权益的风险,守住合规底线。工信部明确要求这些App开发者在限定时间内进行整改,若整改不到位,将面临企业约谈、App下架甚至行政