网易智企亮相世界互联网大会：AI安全的下半场，是对“行为”的治理

当AI还停留在对话框里，企业关心的是它能不能给出正确的答案。当AI开始接入知识库、调用业务工具、操作企业系统，问题就变了：它是否访问了不该访问的数据？是否执行了不该执行的指令？出了问题，能否及时发现、拦截和追溯？

  AI能力的边界在扩大，安全治理的边界也必须跟上。

  11月3日，2026 年世界互联网大会“互联网之光”博览会在浙江乌镇举行。网易智企亮相并首发基于易盾双向架构的AI原生安全产品体系，提出安全必须从“管住AI说的话”，走向“管住AI做的事”。

  该AI原生安全产品体系，获得了2026年世界互联网大会“互联网之光”博览会互联网之光发布厅颁发的“首发成果证书”。

  AI开始“动手”，安全不能只守住模型出口

  网易智企副总经理、易盾业务负责人朱浩齐以《基于双向AI安全架构的AI原生安全产品体系》为题发表主题分享，他认为，AI已深入营销、客服、办公、研发等核心业务链路。过去，安全治理主要围绕内容、账号、设备展开；如今，AIGC内容风险、深度伪造、自动化黑产、模型越狱、敏感数据泄露、Agent越权执行正成为新的挑战。传统安全思路是防外部入侵，而AI进入业务之后，AI自身也可能成为风险源。

  这对企业安全能力提出了新要求：不能只发现问题，还要能理解风险、判断意图、实时处置、审计追踪、持续运营。

  针对这一趋势，易盾提出“AI for 安全，安全 for AI”的双向AI安全架构。

  AI for 安全：用AI重新提升安全能力。借助垂类模型、多Agent协同与多模态理解，AI可以自动分析内容与威胁数据、生成并验证安全策略，安全人员从依赖人工写规则，转为对运行结果做验收确认。“靠人去对抗AI，是根本对抗不过来的，要用AI来对抗，要用魔法打败魔法。”朱浩齐在现场表示。

  安全 for AI：用安全能力保障AI可控运行。围绕大模型输入输出、身份交互、数据访问、智能体的工具调用与行为执行，建立内容检测、意图识别、权限控制、风险拦截与审计追踪能力，让AI在明确的边界内运行。

  两个方向共享同一个底座，在此基础上，易盾构建了覆盖了AI内容与数据安全、AI交互与身份安全、AI模型与智能体安全三层的AI原生安全产品体系，从AI生成的内容、AI接触的数据，到AI执行的行为，安全能力被延伸到AI应用的多个关键环节。

  三项首发，每一项都对着一个真问题

  CMA 审核智能体：让海量审核从“人海战术”走向人机协同

  面对持续增长的内容审核需求，单靠人工，效率与稳定性很难兼顾。CMA（Content Moderation Agent）以自研内容安全大模型结合多类专项小模型，构建“研判—分流—处置—反馈—优化”的审核闭环，支持7×24小时运行与快速横向扩容。

  在某客户的投诉工单审核场景中，面对月均250万+的工单量，采用“CMA 智能体初审+人工复核”后，平均初审时长由纯人工审核的35.7分钟缩短至12.3分钟，且审核准确率提升。在短剧审核场景中，审核时效和准确率也有良好表现。

  DeepGuard人脸鉴伪：伪造越来越真，安全需要更强的“理解力”

  AI换脸、屏幕翻拍、打印照片、3D面具、摄像头劫持、视频注入，身份伪造手段不断翻新。传统鉴伪依赖预设特征寻找痕迹，面对没见过的生成方式，泛化能力有限。

  DeepGuard基于视觉理解，从“寻找已知伪造痕迹”走向“理解内容、发现不合理之处”，并融合Deepfake检测、AI水印识别、静默活体与注入攻击环境检测，做多模态联合决策。评测覆盖生成式攻击、呈现攻击与注入攻击。

  AI应用与智能体安全：从管住输入输出，到管住工具调用与行为执行

  如果说传统大模型内容安全解决的是AI“说什么”，Agent安全要解决的则是AI“做什么”。

  易盾通过大模型安全围栏守住输入输出；通过Agent Guard覆盖意图一致性校验、权限控制、工具调用风险检测与行为拦截；通过智能体安全平台实现资产发现、Skill/MCP供应链安全检测与敏感数据防泄露。针对企业普遍存在的“影子AI”与资产不可见问题，平台从AI资产安全和AI运行安全两个维度统一纳管，并提供拦截、复核、告警、脱敏等处置能力，让AI资产可见、可管、可追溯。

  网易智企·易盾内容安全负责人饶晓艳以《大模型规模化应用中的安全治理实践》为分享主题，从真实业务出发，拆解大模型从试点走向规模化的三个关键问题。AI从“说”走向“做”，风险也从“说错话”走向“做错事”。恶意指令可能伪装成普通问答、角色设定，安全系统需要同时识别关键词、指令结构与语义意图，分清什么是“任务数据”，什么是“行为指令”。

  饶晓艳分享了四项实践：Prompt 注入防护，分别在模型调用前和上下文组装前设防；输入输出分类分级管控，不是一拦了之，而是分级处置，输出则边生成边检测，通过的先上屏，存疑的复审，高风险的撤回并拒答；语料清洗，训练数据进入模型前经过敏感隐私识别、字段级脱敏与语料AI机审三道防线；多模态身份鉴伪，应对复杂的身份伪造场景。饶晓艳分享道：“整个AI的风险是越来越高的：AI进入业务越来越深，攻击门槛越来越低，攻击速度越来越快。”

  让AI安全成为智能化升级的基础能力

  朱浩齐表示，易盾的发展伴随着国内AI产业从单点问答走向规模化应用的全过程。未来，易盾将继续推动安全能力从单点检测走向体系化治理，助力降低AI应用风险，支撑AI产业高质量发展，创造更大的经济效益与社会效益。