股票代码：688225
打开微信“扫一扫”，开启安全数字世界之旅
截图或长按保存至相册，使用微信扫一扫
谷歌Gemini漏洞敲响警钟！AI提示词攻击或成企业致命隐患
发布时间 ：2026年01月23日
类型 ：公司新闻
分享：
近日，谷歌 Gemini 被曝存在严重安全漏洞 —— 攻击者可通过日常日历邀请植入恶意指令，借助 AI 对可信数据的自动解析机制实现提示词注入，进而操控模型行为、窃取敏感信息，这一事件再次凸显了企业 AI 应用安全防护的紧迫性。
谷歌Gemini漏洞暴露AI原生安全风险
据相关披露，谷歌Gemini因会全面解析用户日历事件的标题、参会人、描述等完整信息，以提供日程查询等便捷服务，却被攻击者抓住可乘之机。攻击者只需构造包含恶意自然语言指令的日历邀请，一旦用户接受该 “可信” 邀请，Gemini 便会将其视为合法指令执行，导致模型被操控。 该漏洞的核心危害在于，它将普通的业务对象（如日历邀请）转化为攻击载荷，打破了 “数据仅为信息载体” 的传统认知，凸显了 LLM（大语言模型）安全在间接提示词注入、跨应用数据处理等场景的防护短板。更值得警惕的是，这类 AI 原生威胁并非依赖恶意代码，而是通过操纵语言语境实现攻击，传统网络安全防护体系难以识别。
企业AI大模型面临的多重安全挑战
谷歌 Gemini 的漏洞并非个例，随着 AI 大模型在企业场景的规模化应用，各类针对性攻击持续涌现，安全风险全面升级： 提示词注入攻击：除了谷歌案例中的间接注入，攻击者还通过指令劫持、角色扮演、反向诱导等多种方式，诱导 AI 突破规则限制，输出违规内容或敏感信息； 数据安全泄露：在 RAG 场景下，攻击者可通过提示词注入、上下文诱导等方式，绕过访问边界，窃取企业知识库中的敏感数据、业务决策逻辑，甚至关联到个人隐私数据； 业务与模型破坏：植入 SQL 注入命令篡改业务数据，或通过模型投毒触发反弹 shell，入侵企业内网； 合规风险加剧：若 AI 输出违规内容、泄露敏感数据，企业将面临《生成式人工智能服务管理暂行办法》《个人信息保护法》等法规的处罚。 这些风险的核心症结在于：AI 大模型对输入内容的高度信任、跨应用数据访问的权限开放，以及传统安全防护无法适配 AI 语言理解式的攻击逻辑。在此背景下，专门针对 AI 大模型的安全防护方案成为企业刚需。 亚信安全AI大模型防火墙破解AI安全难题 面对 AI 原生威胁的严峻挑战，亚信安全AI 大模型防火墙系统专为大模型应用提供输入、输出全流程安全防护，该方案已获数说安全《2025 网络安全十大创新方向》和 IDC《中国大模型安全保护市场概览，2025》双权威推荐，亚信安全也被列为 AI 大模型防火墙的典型代表厂商。 亚信安全AI大模型防火墙（AISMAF） 是一款针对于AI大模型应用设计的一站式防护产品，用“以模制模”的技术理念，通过预训练安全模型实现输入、输出双向过滤，覆盖内容风控、数据安全、黑灰产对抗、算力消耗保护等核心场景，保护大语言模型避免遭受OWASP LLM Top10攻击，以极轻量、高检测、低延时、多模态保障企业大模型应用的合规性与安全性。 核心防护能力 内容安全防护：识别用户输入提示词及模型输出内容中是否存在涉黄、涉恐、涉毒、涉暴等违法违规信息及图像，及时进行拦截；并可根据不同场景要求，设置不同强度的策略管控模式； 敏感信息防护：对输入和输出内容中的各类数据进行精准检测与外泄拦截，并对各类数据窃取行为如成员推断攻击、违法数据收集等进行检测与阻断，从源头降低数据泄露风险； 提示词注入攻击防护：针对性抵御指令劫持、角色诱导、编码混淆、对抗前后缀、随机噪声等多种提示词攻击类型，全面封堵攻击路径； 安全代答机制：当识别到风险内容时，自动将回答任务交由安全大模型执行，安全大模型具备严格的生成内容合规限制，生成内容可作为原有大模型输出的替代方案，保障使用体验的同时坚守安全底线。 核心产品优势 轻量化：消费级显卡即可部署，同等硬件资源下性能表现高于行业平均水平10倍。 高检测：依托专业化、持续迭代的安全模型识别文本、图片类有害攻击，内容审查涵盖国标5大类31子类 + 扩展7大类21子类自研安全体系，可检测主流攻击手段20种，检出率达到95%以上。 低延时：文本语义理解≤150ms，图片视觉识别与内容审查≤500ms。 标杆案例见证防护实力 某企业同时部署了对外智能客服（日均处理超 10 万条用户请求，承载费用查询、故障保修、业务咨询等业务）与对内办公助手（支持 OA 流程审批、工单管理、内部知识库查询等功能），曾面临三大核心痛点：敏感信息泄露风险高、易遭提示词注入攻击、合规压力大。 通过部署亚信安全 AI 大模型防火墙，该企业实现了显著防护成效： 安全防护升级：AI 应用 “越狱” 成功率从 26% 降至 0%，有效阻断提示词注入攻击与敏感信息泄露； 业务体验无损：平均实时检测延迟＜200ms，不影响智能体响应速度，高并发架构支持日均 10 万 + 条交互，核心业务零中断； 全面合规达标：完全覆盖《生成式人工智能服务管理暂行办法》《个人信息保护法》《网络安全法》及行业监管要求，通过敏感信息脱敏、违规内容拦截，彻底消除合规处罚风险。 随着《生成式人工智能服务管理暂行办法》等法规的落地实施，AI 安全已成为企业数字化转型的必答题。AI 原生威胁正在颠覆传统安全防护逻辑，企业需建立适配 AI 场景的专项防护体系。AI 向善，安全护航。亚信安全将持续深耕 AI 安全领域，以技术创新应对 AI 原生威胁，助力企业在享受 AI 效率的同时，实现安全与发展的良性循环。
分享到微信
X