902 字
5 分钟
NAS 部署 DeepSeek 靠谱的方案
  1. 使用 deepseek API + ChatNio
  2. 使用开源项目deepseek-free-api + ChatNio
  3. 腾讯 Cloud Studio 部署 DeepSeek-R1:14B
  4. 解决卡顿问题,其它渠道使用DeepSeek

在NAS 上部署的方式#

方案一:API + ChatNio#

❌ 缺点:API现阶段无法充值,返回的数据较大会出现无相应情况。

需要准备:

  • ChatNio。(也可以选择其它LLM平台:ChatGPT Next Web、BotGem、OpenCat或者LobeChat等)
  • 注册deepseek开放平台,并创建 API key

ChatNio 配置#

  1. 渠道设置 : 在渠道设置中,配置一下 密匙、接口地址、映射关系;

iShot 2025 02 10 14.01.27 2. 模型市场 : 在模型市场中,对刚才渠道中的创建的模型进行上架操作;

iShot 2025 02 10 14.02.57 1

deepseek-api 映射模型

  • deepseek-chat 模型已全面升级为 DeepSeek-V3,接口不变。 通过指定 model='deepseek-chat' 即可调用 DeepSeek-V3。

  • deepseek-reasoner 是 DeepSeek 最新推出的推理模型 DeepSeek-R1。通过指定 model='deepseek-reasoner',即可调用 DeepSeek-R1。

方案二:网页封装 + ChatNio#

❌ 缺点: 网页中有的问题他都有。就比如:服务器繁忙,请稍后再试。

需要准备:

deepseek-free-api 安装和配置#

  1. 在NAS中下载并启动deepseek-free-api容器,在配置容器时,环境这里加一条deepseek的token信息(📢 注意:token可加可不加,加上后,提问和回答可以同步到网页版) PixPin 2025 02 09 13 00 55

  2. token获取方式:打开浏览器 -> 登录 deepseek -> ctrl+F12 打开开发者模式 -> 在 application 模块中找到 userToken -> 复制其中的 value 下的内容

nas deepseek free api example 0

ChatNio 配置#

基本和 deepseek-api 的配置相同,修改一下 秘钥、接入点、模型映射 即可

ChatNio deepseek free api config

deepseek-free-api 映射模型

  • 默认deepseek-V3:deepseek
  • 深度思考:deepseek-thinkdeepseek-r1
  • 联网搜索:deepseek-search
  • 深度思考 + 联网搜索:deepseek-r1-searchdeepseek-think-search
  • 静默模式(不输出思考过程或联网搜索结果):deepseek-think-silentdeepseek-r1-silentdeepseek-search-silent

方案三:使用云端部署#

腾讯 Cloud Studio 部署 DeepSeek-R1:14B 模型,参考文章

部署完成后,还需要进行内网穿透,比如:frp

📢 需要注意:做端口映射的时候,端口号可能并不是常见的 11434,需要使用如下命令查看一下 Pasted image 20250210160157

ChatNio渠道配置的时候

附录:deepseek 的一些知识#

deepseek模型名称擅长版本
DeepSeek-V3自然语言处理、知识问答、内容创作DeepSeek-V3-671b(满血版)
DeepSeek-V3-基础版-671b
DeepSeek-R1复杂逻辑推理任务设计DeepSeek-R1-671B(满血版)
DeepSeek-R1-Zero-671B(原始版)
蒸馏版(1.5B/7B/8B/14B/32B/70B)
模型参数规模CPU 建议GPU 建议内存建议磁盘空间建议适用场景
1.5b
(15亿)
4核+核显独显均可8GB10GB 以上 SSD小型 NLP 任务、文本生成、简单分类
7b
(70亿)
6核+显存8GB+16GB20GB 以上 SSD中等规模 NLP、对话系统、文本分析
14b
(140亿)
8核+显存12GB+32GB50GB 以上 SSD复杂 NLP、多轮对话、知识问答
32b
(320亿)
12核+显存16GB64GB100GB 以上 SSD大规模 NLP、多模态任务、研究用途
70b
(700亿)
16核+需多GPU并行 显存40GB+128GB200GB 以上 SSD超大规模模型、研究、企业级应用
671b
(6710亿)
服务器级 CPU需多GPU并行 显存320GB+256GB1TB 以上 NVMe SSD超大规模训练、企业级 AI 平台

671b - 又被成为满血版,其他版本均为 蒸馏版 DeepSeek-R1-671B : 满血版。 DeepSeek-R1-Zero-671B : R1的原始版本,会犯错,但更有创意。 基于千问再训练模型:DeepSeek-R1-Distill-Qwen-1.5B、DeepSeek-R1-Distill-Qwen-7B、DeepSeek-R1-Distill-Qwen-14B、DeepSeek-R1-Distill-Qwen-32B。 基于Lama再训练模型:DeepSeek-R1-Distill-Llama-8B、DeepSeek-R1-Distill-Llama-70B

PixPin 2025 02 09 16 16 31

PixPin 2025 02 09 16 24 33

NAS 部署 DeepSeek 靠谱的方案
https://blog.qnloft.com/archives/nas-bu-shu-deepseek-kao-pu-de-fang-an
作者
青柠炸机店
发布于
2025-02-10
许可协议
CC BY-NC-SA 4.0