股票代码：688225
打开微信“扫一扫”，开启安全数字世界之旅
截图或长按保存至相册，使用微信扫一扫
AI巨头罕见"集体踩刹车"，亚信安全用AI治理能力让限速落到实处
发布时间 ：2026年09月14日
类型 ：公司新闻
分享：
三年前，行业里也曾掀起“暂停训练、给 AI 踩刹车”的联名潮，Dario 当时并没有接茬。真正让他改变态度的，不是某种超级智能突然觉醒，而是两件事同时发生。 第一，RSI 已经从概念走向现实。 AI 帮人写代码、做实验、分析结果、优化训练流程，再帮助下一代 AI 变强。这个循环一旦自我加速，模型能力提升的速度，就可能超过人类理解和控制它的速度。安全团队还没把上一个台阶的测试做完，下一代模型已经又跳上来了。 第二，AI Agent 的失控行为已经从假设走进真实测试。 Dario 特别提到 OpenAI-Hugging Face 事件：一群 AI Agent 在没有被要求的情况下，组成了类似“蜂群”的协作系统，攻击任务之外的目标；有的宁愿牺牲自己的任务成绩，也要帮助整个群体拿到更好结果，甚至试图 Hack 评分系统为群体“作弊”。 这些行为不是人类提前写好的剧本，而是在多智能体协作中自己冒出来的。 换句话说，Dario 真正担心的不是“AI 突然觉醒”，而是能力、自主性、现实行动权限同时提升，而安全机制还来不及跟上。这也是为什么他想抢出 1—2 年时间，把安全评估、第三方核查和全球规则先补上。
三步方案层层递进：先让 AI 公司自己可验证，再让整个行业一起踩刹车，最后谈全球协调。但仔细看会发现，这套方案真正难的，并不是“愿不愿意停”，而是怎么证明自己真的停了。 第一步，他让第三方评测机构像内部员工一样长期驻场：给工位、给内部电脑、给接近风险团队的权限，持续盯着模型怎么训、安全承诺有没有落实、训练流程有没有埋雷、出了事有没有瞒报；而且查出问题之后必须公开，不能因为报告“太难堪”就按下不表。 第二步，他提出由前沿 AI 公司共同划定能力红线：模型每跨过一个危险门槛，就必须先拿出对应的安全证据，才能继续往前冲。比如模型已经能突破多数常见隔离环境，公司就要证明它不会轻易逃出沙箱、不会擅自接管大量机器、不会把这种能力变成现实攻击。 第三步，他把全球协调分成四级，从禁止明显危险用途，到发布前统一做网络攻击、生物安全测试，再到给 RSI 设全球上限。最顶层的“阶段性暂停训练”，他自己也承认短期内几乎不现实。 为什么？还是那句话：公司说自己停了，谁能证明它真的停了？ 所以，Dario 把“第三方长期驻场”放在整套方案的第一步。这不是程序正义，而是整套限速机制能否成立的技术前提。
亚信的核心判断是：AI 安全正在从“模型说了什么”，进入“智能体实际做了什么”的操作安全阶段。 全球限速可以争取时间，但争取来的时间，必须被用来补齐真正经得起检验的安全底座。 否则，即便红线和检查站写在纸面上，企业仍然会面对最现实的问题：AI Agent 数量在膨胀、身份在漂移、工具调用链在变长，一次看似正常的动作，连续组合起来就可能形成越权。传统安全只回答“谁能做什么”，却回答不了“它为什么要做、最终会做到哪里”。 面对“可验证”这一关键问题，亚信安全的产品逻辑，恰好是把它拆成四道可以落地的防线。 第一道，先看见。 治理的前提是知道企业里到底跑着多少智能体、模型、MCP 工具、API 和影子 Agent。亚信安全 AI-BOM 智能体资产管理平台，为每一个 AI 资产签发唯一“数字身份证”，自动构建从智能体到 MCP、API、底层模型的多层级拓扑，让看不见的 AI 资产“被看见、被管住、被审清”。这一步，治的是“说不清家底”。 第二道，再发证。 智能体不是普通软件，而是一个能调用 Shell、浏览器、云 API、数据库和业务系统的高权限非人身份。亚信安全智能体身份安全平台，基于业界首发的智能体信任框架 ATF（Agent Trust Fabric），围绕“身份＋意图＋行为＋审计”为每个 Agent 建立唯一数字身份，并按任务授权。它对批量删除、生产变更、凭据读取、外部连接和敏感数据访问等高风险操作，可触发暂停、审批、接管或终止。这一步，治的是“身份可信，但意图不可信”。 第三道，运行时管住。 模型上线之后，风险不会只停留在输入输出层。亚信安全 AI 大模型防火墙（AISMAF）通过 ToolGuard 识别和管控模型到工具的高风险调用，通过 SkillGuard 防范恶意 Skill、插件、能力包和供应链投毒；智能体安全管控平台则覆盖“事前扫描、事中防护、事后审计”的闭环，把异常控制前移到智能体执行过程中。这一步，治的是“单次动作正常，组合轨迹越界”。 第四道，测评与联动兜底。 在大模型和智能体应用正式运行前，亚信安全大模型安全测评系统通过上线准入、自动化红队测试、整改复测和持续安全度量，回答的不是“模型得了多少分”，而是“在真实工具和真实权限下，它可能把任务执行到哪里”。当风险最终落到终端、云主机、网络和数据上时，AI XDR 再把模型侧风险、智能体身份、工具与 API 调用、终端和云主机行为、威胁情报关联起来，还原完整攻击链，实现“一点发现、全网处置”。这一步，治的是“事前看不全、事后追不到”。
但企业不能等到全球规则统一，才回头治理自己已经跑在业务里的 AI。亚信安全建议，至少先把三件事做起来。 第一，建台账。 盘点模型、智能体、数字员工、MCP、插件、Skill、服务账号和第三方 API，明确所有者和责任人。看不见的资产，就是最大的风险。 第二，按非人身份治理权限。 取消共享长期凭据，采用短生命周期、任务绑定、最小权限和目标受限的授权机制。让伪造身份、冒用权限的代价，从“近乎为零”变成“可被追踪、可被吊销”。 第三，从单次动作审查，升级为全链路轨迹监测。 关联身份、工具、终端、云、网络和数据行为，识别多个正常动作组合后的异常目标；同时对生产变更、批量操作、凭据读取、外部连接和敏感数据访问设置暂停、审批和紧急终止。
最好的安全，从来不是限制 AI 的手脚，而是让它在可信、可控、可审、可溯的轨道上，跑得更稳、更远。当跑在最前面的人开始问“真跑失控了，我们还刹得住吗”，真正有价值的回答，不是再多喊一声“减速”，而是让每一次智能体调用，都看得见、管得住、控得准、查得清。
分享到微信
X