开箱吧！腾讯云
大模型安全发布会材料
LLM-WAF：大模型安全防护
云安全中心-大模型安全态势管理
LLM-WAF：
大模型安全防护
分享人：王军
终结AI业务四大致命伤
——算力滥用｜数据泄露｜API失控｜合规暴雷
基于大模型的生成式人工智能迎来大爆发
LLM已经融入企业核心应用，是业务创新发展的新动力。
成为企业内新的IT基础设施。
大模型面临的安全风险
OWASP LLM
Top10
风险层 攻击类型
输入层
提示注入攻击（例如诱导模型越狱、以及 ChatGPT 不久前发生的“间接提示注入”攻击等）、
API 密钥劫持（Deepseek 被广泛通过Ollama部署在本地导致 API 被暴露利用）、多模态内
容 攻击、上下文语义攻击、过度代理风险等
数据层
训练数据投毒、虚假信息传播等
输出层
系统提示泄露、不当输出内容（恶意代码、色情反动等）、敏感信息泄露（例如 OminGPT
平台泄露 3 万个用户电子邮件、3400 万用户对话记录等敏感信息）
LLM治理
模型盗窃与滥用（例如黑客 GPT 可以批量生成钓鱼工具）、 DDos 攻击、供应链漏洞风险、
无边界的消费导致资源滥用等
全球各国针对大模型加速出台安全管理政策
⚫ 欧盟：颁布全球首部全面监管人工智能的法规《人
工智能法案》，把 AI 应用的风险分为 4 类：不可
接受风险、高风险、透明风险和最低风险，其中高
风险部分，要求 LLM 服务商提供安全审计并承担
相 应法律责任。
⚫ 新加坡：颁布相应的安全法规草案，对 AI 系统的
安全提出监管和要求，例如《AI 系统安全指南》。
⚫ 美国：美国联邦、美国各州及城市均出台了包含
《AI权利法案蓝图》《AI风险管理框架》等一系列
AI 监管法律或法案
⚫ 日本：AI 治理框架，注重人机协作场景，推动 AI
伦理发展。
⚫ 12 国：《安全、创新和包容的 AI 首尔宣言》。
我国针对大模型安全管理政策
科学务实、划定底线、明确责任
“提供深度合成服务，应当遵守法律法规，
尊重社会公德和伦理道德，坚持正确政治
方向、舆论导向、价值取向，促进深度合
成服务向上向善。具有舆论属性或者社会
动员能力的深度合成服务提供者，应当按
照《互联网信息服务算法推荐管理规定》
履行备案和变更、注销备案手续。深度合
成服务技术支持者应当参照前款规定履行
备案和变更、注销备案手续。”
“坚持社会主义核心价值观，不得生成煽动
颠覆国家政权、推翻社会主义制度，危害
国家安全和利益、损害国家形象，煽动分
裂国家、破坏国家统一和社会稳定，宣扬
恐怖主义、极端主义，宣扬民族仇恨、民
族歧视，暴力、淫秽色情，以及虚假有害
信息等法律、行政法规禁止的内容。”
“国内首个生成式AI安全指导性文件，《要
求》给出了生成式人工智能服务在安全方
面的基本要求，包括语料安全、模型安全、
安全措施、安全评估等，并明确了违反社
会主义核心价值观的内容、歧视性内容、
商业违法违规、侵犯他人合法权益等在内
的5大类31种风险；每一个大模型企业的
生成式AI产品若想要“持证上岗”，需逐条
核对是否符合这份文件中的要求。”
《互联网信息服务深度合成管理规定》 《生成式人工智能服务管理暂行办法》 《生成式人工智能服务安全基本要求》
LLM-WAF 大模型安全防
护
• LLM-WAF 为专为大语言模型设计的智能安全防护网关，提供多模型、多场景、高并发环境下的全链路防护能力
• 支持实时检测并拦截针对大模型的算力滥用、提示词攻击及数据泄露风险，助力企业构建可信、稳定、可持续的大模型服务生态。
企业
用户
平台
用户
提问
内容
模型
返回
内容
APP
Web
小程序
请求
风险
消耗拦截
不当内容
提示词攻击
正常返回
LLM-WAF 大模型安全防护平
台
请求
风险
不当内容
数据泄露
提示词泄
露
正常返回
大模型服务源站
Deepseek
混元大模型
阶跃星辰
大模型业务安全防护 大模型生成内容安全过滤
注入
攻击
BO
T
攻击
API
越权
算力
消耗
内容
安全
提示词
攻击
数据
泄露
WAF + 大模型安全引
擎
多模型接入 安全策略 内容策略 自定义敏感库
数据分级分类引擎：身份证、手机号、社保卡、护照号、银行卡等
混元内容安全大模型：社会、政治、色情、违法、其他不当内容
算力消耗防护
恶意用户
动态验证
人机挑战
请求超限
思维链攻击
恶意Token消
耗
自动化WebDriver
1、基于请求频次和 Token 消耗量，检测算力消耗行为
2、检测真人真机，拒绝伪装设备访问，拒绝自动化访问
脚本爬虫
大模型算力服务
大模型服务
CVM GPU
提示词注入&内容安全防护
用户
不当信息检测（腾讯自研内容安全大模型）提示词注入（意图识别引擎）
大模型
提示词、企业关键词泄露 敏感信息检测（数据安全分类分级引擎）
• 提示词注入：针对中英文预料增强训练，识别角色扮演等越狱指令和常见提示注入攻击行为
• 不当信息：政治、色情内容识别
• 敏感信息：身份证号、手机号、家庭住址等 33 类《个保法》明确的敏感信息内容
• 自定义敏感信息：支持配置自定义关键词，可配置提示词或者企业关键信息
• 支持自定义拦截提示：针对不同策略、风险等级配置不同提示内容
业务防护-BOT 管
理
全流量分类标签，数据
的逐级下钻，最终实现
整个 Bot 管理闭环：
分析 --- >
分类 --->
管理
全流量
下钻分
析
BOT
智能
得分
模块
能力
配置
依据得分的标签
分类
记录
流量
日志
支持场景化处置方案，
解决90%以上BOT配置问题
重保护航
恶意爬虫
大模型滥用
恶意注册
水军引流
恶意评论
.....
.
识
管防
基础信誉数据
腾讯威胁情报（置信度，威胁等级，活跃时间 ,人机概率等）
已知恶意爬虫特征 合法爬虫识别 页面防调试技术执行环境监测
动态验证技术动态令牌技术
会话特征分析 行为特征分析
异常特征检测 AI异常检测模型
账号维度下的连续会话特征分析
AI评估
通过大数据及BOT攻防实验
室的安全技术运营，形成针
对当前域名的AI检出模型，
并根据网站流量，自动进化
升级BOT检出能力，自动析
出AI评估中出现异常指标的
访问请求。
天御业务安全情报
威胁情报
6亿IP画像 , 99%国内覆盖，每
日更新情报库；8亿/天查询能
力 3亿/天调用能力；50+多维
度分类标签
精准判别 IP 是否恶意、风险严
重级别、可信度级别。
动态令牌
一次性的页面动态令牌，确保执行正确的业务逻辑；Cookie令
牌 抵御一般自动化工具，URL令牌进行URL完整性检测。抵
御网页 后门、重放攻击、应用层DDoS等自动化恶意攻击行为等。
业务安全
集成天御业务安全能力，对请
求进行风险值评估，通过对账
号信息提取、风险评估、对注
册保护、登录保护及活动防刷
等特征进行精准发现。分析威
胁等级和风险类型标签帮助您
对账号、用户行为及环境存在
的风险进行辅助分析
智能异常分析
流量动态评估：
体系化输出当前网站的流量
恶意分布情况，快速研判处
置恶意流量
异常流量访问路径：
快速定位查看恶意流量的目
标路径以及异常技术特征点
动态验证
运行环境验证；验证设备指纹和工具特征；验证用户操作行为；验证交
互特征；验证是否“自动化”攻击；验证浏览器的真实性；检查浏览器的
属性和环境；随机选取检测项目与数量；增加不可预测性和攻击难度。
全链
路检
测体
系
Source
reputation
Client
Validation
Client
Activity
Analysis
前端动态对抗
Bysiness
Logic
Analysis
后端智能分析
Request
reputation
Statistica
l
Analysis
高级
分析 滥用现象 随机程度 时序行为异常 分布倾斜
行为
分析 刷敏感接口 爆破行为 撞库行为 分布式爬虫
场景
识别
接口防刷 活动秒杀 恶意扫描 群控 登录爆破
智能
评分
体系
智能统计
智能实时和离线分析，对当前流量进行分析，得出当前访问流量的相关会话、统计、行为特征数据；
通过对流量的分析透视后，对流量进行标注区分不同类型的Bot；
具备多种场景化配置，区分不同类型的Bot；
将复杂的告
警抽象 为0
- 100的
得分体系
请求恶意度量化
访问请求流量通过威胁情报、智能统计、AI评估等开启的BOT
行为管理模块进行评估打分（0-100，分数越高BOT恶意程度
越 大），通过分数智能评估恶意威胁程度，快速自动识别响
恶意 流量及其变体，实现分级分段分动作进行处置
业务防护-API 安
全
⚫ API名称、类型
⚫ API风险等级
⚫ API调用趋势
⚫ API功能场景
⚫ API数据标签
⚫ API资产状态
⚫ API变更追踪
⚫ API活跃程度及趋势
⚫ API涉敏类型及趋势
⚫ API事件类型及风险
⚫ API事件处置趋势
⚫ 攻击日志
⚫访问日志
API流量分
析
API资产梳
理
API事件管
理
⚫ 异常权限调度
⚫ 机械化调度行为
⚫ 越权访问行为
⚫ 涉敏风险事件
⚫基础安全事件
⚫事件影响及处置建议
⚫一键处置及状态追踪
API安全防护
⚫ API合法性检验
⚫ 内置涉敏检测
⚫ 自定义敏感检测规则
⚫ API限流
以大模型业务API生命周期为线索，整合WAF安全能力，实现大模型API安全防
护
金融行业
泛互行业
零售行业
典型场景 在智能投顾、对话银行及开放银行 API 等核心业务链路中，大模型既驱动精准服务，也暴露出
提示词投毒篡改指令、API 套利刷单及 KYC/授信数据外泄等高风险场景。LLM-WAF 通过对指
令 语义白名单、敏感数据 DLP 策略、双重身份校验与速率-指纹联合限流等多维防护，实现对
交易 完整性、数据合规性与系统可用性的全链路保障，助力金融机构符合监管对生成式 AI 安
全与可 追溯的要求。
内容平台、社交网络与游戏公司在开放 LLM 生成文字、图像或 NPC 对话时，常遭遇大
规 模爬虫套壳、越狱 Prompt 生成涉政／色情／仇恨内容，以及深伪脚本注入等问题，
对品 牌声誉与社区健康构成直接威胁。LLM-WAF 以行为指纹识别、动态验证码挑战、
多语种 敏感意图检测与上下文连续审计为核心能力，结合实时封禁和可解释化策略回溯，
帮助 平台在高速内容生产与合规治理之间取得平衡。
在智能客服、动态优惠券抢购及个性化推荐模型驱动的“全链路运营”中，黑灰产利用提 示
词诱导客服输出不当信息或敏感信息，影响品牌声誉，或者通过自动化脚本批量刷券、
爬取价格与库存策略，直接侵蚀利润率并危及用户体验。
LLM-WAF 通过内容安全校验、并发熔断、敏感字段拦截及日志留存，为零售平台构筑
从 交互入口到后台逻辑的闭环安全防线，确保促销玩法不被薅羊毛、经营数据不被泄
露， 实现营销创新与营收安全的双赢。
试用申请提醒
为帮助企业全面了解并体验 LLMWAF 的安全防护能力，腾讯云现已正式开启 LLMWAF 公测。在公测期
间， 符合条件的企业用户可免费体验产品的核心功能，包括模型输入输出保护、敏感数据防泄漏、恶意
行为防 护等。
通过此次公测，腾讯云希望 帮助企业客户深入了解 LLMWAF 在实际应用中的优势，并通过持续优化和
反 馈，进一步提升产品的安全性能和易用性。
您可以扫描以下二维码进行试用申请：
谢谢大家
云安全中心
-大模型安全态势管理
01 大模型蓬勃发展带来新的 安全风险
大模型安全管理痛点
国家网络安全通报中心多次通报大模型组件安全漏洞
大模型安全管理痛点
大模型使用泛滥
大模型热度持续上升
大模型能力在不断提升
大模型应用场景愈加广泛
大模型部署使用门槛不断降低
云厂商帮助降低部署门槛
大模型API服务发展迅速
开源体系蓬勃发展
安全团队可能未及时针对大模型应用体系制
定管理方案
引入新的风险
大模型组件存在各式漏洞
组件配置不当触发未授权访问等风险
风险被利用，可能导致主机失陷、模型被投
毒、模型丢失、数据泄露
训练与推理使用敏感数据，可能引发数据泄
露，面临法律风险。
安全管理痛点
如何持续发现大模型相关资产？
如何快速了解大模型资产的网络开放状态？
如何及时检测大模型资产的安全风险？
如何实时监控大模型资产面临的攻击态势？
腾讯云云安全中心解决方
02 案
大模型安全态势管理
大模型安全态势管理——围绕“大模型”提供资产识别、风险检测、攻击监控等能力
组件资产识别
通过网络探测&主机安全对大模型组件进行识别。
页面展示组件及关联资产，展示风险和网络攻击数量。
提供资产对公网暴露的路径及原生风险。
大模型组件风险检测
通过网络扫描&主机安全识别组件风险。
展示组件漏洞与配置不当风险。
大模型网络攻击示警
大模型组件漏洞的攻击利用行为示警。
公网扫描器
大模型组件
安全Agent
CV
M
资产识别
风险检测
攻击监控
资产识别
风险检测
大模型组件识别——解决“看见”的问题
大模型组件及资产
(80+)
⚫ 网络扫描器从公网探测组件指纹。
⚫ 主机安全agent从内部检查组件特征。
⚫ 关联资产信息、网络攻击数量、风险数量进行展示。
资产暴露路径
⚫ 资产详情可查看大模型资产面向公网暴露的路径。
⚫ 网络产品关联
⚫ 资产列表、主机进程通晒
⚫ 资产原生风险展示：主机漏洞、高危基线风险
⚫ 可关联查看资产遭受的网络攻击、大模型相关风险。
大模型组件风险检测——依托网络扫描及主机安全风险检测能力，提取大模型风险
风险检测
主机端检测
漏洞检测
（200+
）
基线检查
（6）
网络扫描
漏洞检测
（200+
）
大模型组件漏洞攻击利用示警
支持识别的组件与漏洞清单
支持识别组件清单
Ollama ComfyUI 毕昇大模型 DocsGPT H2O HelpLook JupyterLab AItianhu
ChatWiki 混元 Flowise AgentGPT Ray LLM Chain gradio TensorBoard
ChatGPT pinecone quivr Botkit BentoML SillyTavern feast Jan-AI
deepseek Qdrant FastGPT agenta LM Studio Stable-Diffusion fastchat-webui gpt4free
Qwen Milvus MaxKB PandoraNext Xinference Hugging Face Dify FlowiseAI
LobeChat 星环科技 ragflow MindsDB vLLM AutoGPT Chuanhugpt Gemini
Llama-Factory VectorDB qanything Kotaemon TensorRT-LLM chainlit Chat LangChain Sun-Panel
LanceDB chatbox llmstudio 商汤-
SenseNebula
LightLLM LangFlow AnythingLLM 商汤-SenseNebula
Streamlit nextchat LLaMA Board SuperAGI OpenLLM SpeechGPT MLflow 轻舟平台大模型
百度AI训练平台 Perplexity
Kubeflow Central
Dashboard AWS QuickSight DB-GPT InvokeAI OpenWebUI ……
组件 支持漏洞数
mlflow 46
gradio 39
langchain 32
clickhouse 21
Chuanhugpt 20
pyload-ng 17
Dify 11
Ollama 9
open-webui 8
anythingLLM 8
triton 8
jupyter-server 7
jupyterlab 5
kubepi 5
vllm 5
ray 5
kubeflow 4
h2o 3
jupyter-server-proxy 2
jupyter-notebook 2
JupyterLab 2
ComfyUI 2
ragflow 2
qanything 2
BentoML 2
llamafactory 1
…. …
感谢聆听
