请务必阅读正文之后的免责条款部分
股股
票
研
究
行
业
事
件
快
评
证
券
研
究
报
告
股票研究 /
[Table_Date]
Deepseek 本地部署加速端侧 AI 推广落地
[Table_Industry] 电子元器件
[Table_Invest]
评级： 增持
上次评级: 增持
[Table_Report]
相关报告
电子元器件《Deepseek，开源低成本模型引发行
业巨震》
电子元器件《Stargate 项目成立，算力规模进一步
提升》
电子元器件《AI 服务器需求高企，重构冷却、电
源、互联》
电子元器件《存储行业沧海遗珠，磁带重新焕发
生机》
电子元器件《BIS 密集出台管制措施，国产先进
制程亟待突破》
——系列四 加速端侧 AI 推广落地
[table_Authors]
舒迪(分析师) 王美懿(研究助理)
021-38676666 021-38031385
shudi@ wangmeiyi029955@
登记编号 S0880521070002 S0880124070042
本报告导读：
Deepseek 等开源模型的兴起正在加速人工智能生态的构建；在端侧产品设计中，算
力和传输为关键因素
投资要点：
[Table_Summary] Deepseek 的本地部署为用户提供了更高的灵活性和隐私保护，尤其
适合对数据安全有较高要求的场景。其模型规模从 到 671B 不
等，其中 Deepseek-V3 作为最新版本，拥有 6710 亿参数，每次推理
仅激活 370 亿参数。这种设计不仅遵循了 Scaling Law，即参数量越
大模型性能越强，还通过混合专家架构等技术优化了计算效率。本
地部署对 PC 硬件提出了较高要求，尤其是对于大模型版本，需要
强大的 GPU 支持和足够的内存与存储空间。随着用户对更大模型的
需求增加，PC 硬件的升级将成为必然趋势，以确保模型能够高效运
行并发挥其最佳性能。
开源模型兴起加速人工智能生态的构建，Deepseek 本地部署可构建
个人知识库。许多企业已经意识到，与自研基座大模型相比，开源
且具有广泛共识的模型更容易构建生态系统。Meta 开源的 Llama 2
模型在 GitHub 社区吸引了超过 万名贡献者，修复漏洞的速度比
闭源模型快 3 倍。此外，开源模型的硬件适配成本更低，例如阿里
云的通义千问开源版本支持多种国产芯片，开发者贡献的优化使得
推理速度提升了 40%。Deepseek 蒸馏后表现出色的小模型使本地部
署知识库从企业端扩展到个人用户，通过 AnythingLLM 和 Ollama
高效且灵活的构建私有化的 AI 知识管理系统，不仅保护数据隐私
而且可以根据特定需求进行定制优化。构建个人本地知识库的意义
主要体现在数据隐私保护、资源优化、成本控制和个性化需求满足
等方面，使端侧 AI 真正成为用户的人工智能助手。
在端侧产品设计中，算力和传输为关键因素。端侧产品的侧重点决
定了其发展方向和市场竞争力。如果产品侧重于本地计算，SOC 的
算力将成为主要的增量需求，以满足复杂的计算任务；如果侧重于
传输，则 SOC 功耗和连接能力的升级将更为关键。随着蒸馏模型能
力的提升，未来端侧 SoC 将更加注重模型的本地部署和推理能力。
Scaling Law 的存在表明，无论是端侧还是云端，都需要不断提升性
能以适应模型规模的扩大和应用需求的增加。端云协同升级将成为
未来技术发展的必然趋势。端侧产品需要在有限的硬件资源下实现
高效的计算和传输，云端则需要提供更强大的计算能力和存储支持，
以满足大规模模型的训练和推理需求。推荐标的：（1）端侧 SOC：
瑞芯微、恒玄科技、晶晨股份、中科蓝讯。（2）存储：兆易创新。
相关受益：乐鑫科技、全志科技、炬芯科技、中兴通讯。
催化剂。AI 模型成本持续下降；AI 端侧落地加速。
风险提示。端侧模型落地进展不及预期；AI 技术迭代不及预期。
行业事件快评
请务必阅读正文之后的免责条款部分 2 of 11
目录
1. Deepseek 蒸馏后的小模型能力强，支持本地部署 ...................................... 3
2. Deepseek 可高效构建私有化 AI 知识管理系统 ............................................ 5
3. 端侧芯片部署模型能力将进一步加强 .......................................................... 7
4. 风险提示 ........................................................................................................ 10
行业事件快评
请务必阅读正文之后的免责条款部分 3 of 11
1. Deepseek 蒸馏后的小模型能力强，支持本地部署
Deepseek 本地部署的硬件要求，根据模型大小有所不同。、7B、8B、
14B、32B、70B 是蒸馏后的小模型，671B 是基础大模型，它们的区别主要
体现在参数规模、模型容量、性能表现、准确性、训练成本、推理成本和不
同使用场景：
（1）671B：适用于对准确性和性能要求极高、对成本不敏感的场景，
如大型科研机构进行前沿科学研究、大型企业进行复杂的商业决策分析等。
（2）-7B：适合对响应速度要求高、硬件资源有限的场景，如移动
端的简单智能助手、轻量级的文本生成工具等，可快速加载和运行。
（3）8B-14B：可用于一些对模型性能有一定要求，但又没有超高性能
硬件支持的场景，如小型企业的日常文本处理、普通的智能客服等。
（4）32B-70B：能满足一些对准确性有较高要求，同时硬件条件相对
较好的场景，如专业领域的知识问答系统、中等规模的内容创作平台等。
表1：Deepseek 本地部署的硬件要求，根据模型大小有所不同
模型
参数
(B)
VRAM 需求
(GB)
推荐 GPU
DeepSeek-R1-
Zero
671B ~1,342 GB
多 GPU 设置（例如，NVIDIA A100 80GB
x16）
DeepSeek-R1 671B ~1,342 GB
多 GPU 设置（例如，NVIDIA A100 80GB
x16）
DeepSeek-R1-
Distill-Qwen-
~ GB NVIDIA RTX 3060 12GB 或更高
DeepSeek-R1-
Distill-Qwen-7B
7B ~ GB NVIDIA RTX 3060 12GB 或更高
DeepSeek-R1-
Distill-Llama-
8B
8B ~4 GB NVIDIA RTX 3060 12GB 或更高
DeepSeek-R1-
Distill-Qwen-
14B
14B ~7 GB NVIDIA RTX 3060 12GB 或更高
DeepSeek-R1-
Distill-Qwen-
32B
32B ~16 GB NVIDIA RTX 4090 24GB
DeepSeek-R1-
Distill-Llama-
70B
70B ~35 GB
多 GPU 设置（例如，NVIDIA RTX 4090
x2）
数据来源：国泰君安证券研究
DeepSeek 的本地部署需要借助 Ollama 工具来完成。Ollama 是一个开源工
具，支持在本地运行和部署大型语言模型。根据硬件配置选择合适的
DeepSeek 模型版本。例如，对于入门级部署，可以使用 版本；对于中
端配置，可以选择 7B 或 8B 版本。
行业事件快评
请务必阅读正文之后的免责条款部分 4 of 11
图1：DeepSeek 的本地部署需要借助 Ollama 工具来完成
数据来源：ollama
DeepSeek 系列的模型在多个基准测试中展现出了较强的性能。DeepSeek 团
队证明，大型的推理模式可以被提炼到小模型中，与通过强化学习在小型模
型上发现的推理模式相比，这种方法能够带来更好的性能。以下为通过使用
DeepSeek-R1 生成的推理数据对研究社区中广泛使用的几种密集型模型进
行微调而创建的模型。评估结果显示，经过提炼的小型密集模型在基准测试
中表现极为出色。
行业事件快评
请务必阅读正文之后的免责条款部分 5 of 11
图2：不同模型在多个基准测试上的性能表现
数据来源：ollama
2. Deepseek 可高效构建私有化 AI 知识管理系统
AnythingLLM 和 Ollama 可搭建 DeepSeek 本地知识库，高效且灵活的构
建私有化的 AI 知识管理系统，不仅保护数据隐私而且可以根据特定需求进
行定制优化。
行业事件快评
请务必阅读正文之后的免责条款部分 6 of 11
图3：AnythingLLM 和 Ollama 可搭建 DeepSeek 本地知识库
数据来源：AnythingLLM，国泰君安证券研究
AnythingLLM 是一个功能强大的 AI 应用程序，支持将本地文档或数据源
整合进一个可检索、可对话的知识库。访问 AnythingLLM 官网 下载并安
装。安装完成后，创建工作区，并将 LLM 提供者更改为 DeepSeek 模型。
在 AnythingLLM 中，可以上传 PDF、TXT、DOCX 等格式的文档，这些文
档将被提取、分割、向量化，并存储在向量数据库中。通过这种方式，用户
可以构建自己的私有知识库，并在问答时自动引用相关文档。
行业事件快评
请务必阅读正文之后的免责条款部分 7 of 11
图4：用户可以构建自己的私有知识库，并在问答时自动引用相关文档
数据来源：Anythingllm
构建个人本地知识库的意义主要体现在数据隐私保护、资源优化、成本控
制和个性化需求满足等方面。本地知识库将数据存储和处理过程完全保留
在本地设备上，有效避免了数据上传到云端可能带来的隐私泄露风险，对于
保护个人敏感信息（如财务记录、健康数据等）至关重要。同时，个人可以
根据自身需求和偏好对知识库进行定制化，整合多种格式的文档，使其更贴
合实际应用场景，从而提高工作效率。
图5：使用 DeepSeek+Anythingllm 创建个人生活助手
数据来源：Anythingllm
3. 端侧芯片部署模型能力将进一步加强
随着蒸馏模型能力的提升，未来端侧 SoC 将更加注重模型的本地部署和推
理能力。蒸馏模型通过将大型模型的知识迁移到小型模型中，显著降低了对
硬件资源的需求，使得在端侧设备上运行复杂的AI模型成为可能。DeepSeek
行业事件快评
请务必阅读正文之后的免责条款部分 8 of 11
R1 等模型通过强化学习和模型蒸馏技术，能够在本地设备上实现高效推理，
且仅需极少量标注数据即可完成训练。这不仅提高了模型的适应性和灵活
性，还降低了部署成本。未来，随着 NPU 等专用硬件加速器的进一步发展，
端侧设备将能够更高效地处理复杂的 AI 任务。上述趋势将推动 AI 从云端
向本地设备转移，使设备能够在离线状态下独立完成复杂的 AI 任务，从而
提高数据隐私保护和处理效率。
图6：终端侧 AI 的演进与生成式 AI 的需求密切相关
数据来源：高通
众多 SoC 芯片厂商提供了丰富的 AI 模型部署解决方案，以满足不同场景
下的应用需求。高通的 Qualcomm AI Engine 结合 SNPE 工具链，支持多种
AI 框架的模型转换与优化，广泛应用于其系列 SoC 中，为移动设备等提供
强大的 AI 推理能力。联发科的 NeuroPilot 平台则针对其 SoC 优化，支持
TensorFlow、Caffe 等框架，助力设备实现高效 AI 处理。英伟达的 TensorRT
作为高效的推理优化器，显著降低模型推理延迟，适用于对计算性能要求较
高的端侧设备。华为的麒麟系列 SoC 内置 NPU，搭配 HiAI 平台，为开发
者提供了便捷的 AI 模型部署工具，广泛应用于华为设备。瑞芯微的 RKNN-
LLM 提供了一套完整的工具链，包括模型转换、量化、推理等功能，大大
简化了在瑞芯微 AI 芯片上部署和运行大语言模型的过程。
行业事件快评
请务必阅读正文之后的免责条款部分 9 of 11
图7：RKLLM 软件栈可帮助用户快速将 AI 模型部署到瑞芯微芯片上
数据来源：瑞芯微
4. 投资建议：Deepseek 蒸馏小模型能力强，端侧芯片受
益
随着蒸馏模型能力的提升，未来端侧 SoC 将更加注重模型的本地部署和推
理能力。Scaling Law 的存在表明，无论是端侧还是云端，都需要不断提升
性能以适应模型规模的扩大和应用需求的增加。端云协同升级将成为未来
技术发展的必然趋势。端侧产品需要在有限的硬件资源下实现高效的计算
和传输，云端则需要提供更强大的计算能力和存储支持，以满足大规模模型
的训练和推理需求。推荐标的：（1）端侧 SOC：瑞芯微、恒玄科技、晶晨股
份、中科蓝讯。（2）存储：兆易创新。相关受益：乐鑫科技、全志科技、炬
芯科技、中兴通讯。
表 2：推荐公司估值表（截至 2025 年 1 月 27 日）
公司名称 代码
收盘价
（元）
盈利预测（EPS 元） PE
评级
2024E 2025E 2026E 2024E 2025E 2026E
中科蓝讯 增持
晶晨股份 增持
瑞芯微 增持
恒玄科技 增持
兆易创新 增持
均值
数据来源：Wind，国泰君安证券研究
行业事件快评
请务必阅读正文之后的免责条款部分 10 of 11
5. 风险提示
端侧模型落地进展不及预期。端侧模型是手机、PC 等端侧硬件智能核心，
若其落地进展不及预期将影响端侧AI硬件使用体验并对其出货量造成不利
影响。
AI 技术迭代不及预期。目前 AI 大模型技术竞争激烈，若 DeepSeek 技术
进展不及预期，将影响其用户使用量，并对服务器算力需求造成一定不利影
响
行业事件快评
请务必阅读正文之后的免责条款部分 11 of 11
本公司具有中国证监会核准的证券投资咨询业务资格
分析师声明
作者具有中国证券业协会授予的证券投资咨询执业资格或相当的专业胜任能力，保证报告所采用的数据均来自合规渠道，分析逻
辑基于作者的职业理解，本报告清晰准确地反映了作者的研究观点，力求独立、客观和公正，结论不受任何第三方的授意或影
响，特此声明。
免责声明
本报告仅供国泰君安证券股份有限公司（以下简称“本公司”）的客户使用。本公司不会因接收人收到本报告而视其为本公司的当
然客户。本报告仅在相关法律许可的情况下发放，并仅为提供信息而发放，概不构成任何广告。
本报告的信息来源于已公开的资料，本公司对该等信息的准确性、完整性或可靠性不作任何保证。本报告所载的资料、意见及推
测仅反映本公司于发布本报告当日的判断，本报告所指的证券或投资标的的价格、价值及投资收入可升可跌。过往表现不应作为
日后的表现依据。在不同时期，本公司可发出与本报告所载资料、意见及推测不一致的报告。本公司不保证本报告所含信息保持
在最新状态。同时，本公司对本报告所含信息可在不发出通知的情形下做出修改，投资者应当自行关注相应的更新或修改。
本报告中所指的投资及服务可能不适合个别客户，不构成客户私人咨询建议。在任何情况下，本报告中的信息或所表述的意见均
不构成对任何人的投资建议。在任何情况下，本公司、本公司员工或者关联机构不承诺投资者一定获利，不与投资者分享投资收
益，也不对任何人因使用本报告中的任何内容所引致的任何损失负任何责任。投资者务必注意，其据此做出的任何投资决策与本
公司、本公司员工或者关联机构无关。
本公司利用信息隔离墙控制内部一个或多个领域、部门或关联机构之间的信息流动。因此，投资者应注意，在法律许可的情况
下，本公司及其所属关联机构可能会持有报告中提到的公司所发行的证券或期权并进行证券或期权交易，也可能为这些公司提供
或者争取提供投资银行、财务顾问或者金融产品等相关服务。在法律许可的情况下，本公司的员工可能担任本报告所提到的公司
的董事。
市场有风险，投资需谨慎。投资者不应将本报告作为作出投资决策的唯一参考因素，亦不应认为本报告可以取代自己的判断。在
决定投资前，如有需要，投资者务必向专业人士咨询并谨慎决策。
本报告版权仅为本公司所有，未经书面许可，任何机构和个人不得以任何形式翻版、复制、发表或引用。如征得本公司同意进行
引用、刊发的，需在允许的范围内使用，并注明出处为“国泰君安证券研究”，且不得对本报告进行任何有悖原意的引用、删节和
修改。
若本公司以外的其他机构（以下简称“该机构”）发送本报告，则由该机构独自为此发送行为负责。通过此途径获得本报告的投资
者应自行联系该机构以要求获悉更详细信息或进而交易本报告中提及的证券。本报告不构成本公司向该机构之客户提供的投资建
议，本公司、本公司员工或者关联机构亦不为该机构之客户因使用本报告或报告所载内容引起的任何损失承担任何责任。
评级说明
评级 说明
投资建议的比较标准
投资评级分为股票评级和行业评级。
以报告发布后的 12 个月内的市场表现为比
较标准，报告发布日后的 12 个月内的公司
股价（或行业指数）的涨跌幅相对同期的
沪深 300 指数涨跌幅为基准。
股票投资评级
增持 相对沪深 300 指数涨幅 15%以上
谨慎增持 相对沪深 300 指数涨幅介于 5%～15%之间
中性 相对沪深 300 指数涨幅介于-5%～5%
减持 相对沪深 300 指数下跌 5%以上
行业投资评级
增持 明显强于沪深 300 指数
中性 基本与沪深 300 指数持平
减持 明显弱于沪深 300 指数
国泰君安证券研究所
上海 深圳 北京
地址 上海市静安区新闸路 669 号博华广场
20 层
深圳市福田区益田路 6003 号荣超商
务中心 B 栋 27 层
北京市西城区金融大街甲 9 号 金融
街中心南楼 18 层
邮编 200041 518026 100032
电话 （021）38676666 （0755）23976888 （010）83939888
E-mail：gtjaresearch@
