在NAS 上部署的方式

方案一:API + ChatNio

❌ 缺点:API现阶段无法充值,返回的数据较大会出现无相应情况。

需要准备:

  • ChatNio。(也可以选择其它LLM平台:ChatGPT Next Web、BotGem、OpenCat或者LobeChat等)
  • 注册deepseek开放平台,并创建 API key

ChatNio 配置

  1. 渠道设置 : 在渠道设置中,配置一下 密匙、接口地址、映射关系;

iShot 2025 02 10 14.01.27
2. 模型市场 : 在模型市场中,对刚才渠道中的创建的模型进行上架操作;

iShot 2025 02 10 14.02.57 1

deepseek-api 映射模型

  • deepseek-chat 模型已全面升级为 DeepSeek-V3,接口不变。 通过指定 model='deepseek-chat' 即可调用 DeepSeek-V3。

  • deepseek-reasoner 是 DeepSeek 最新推出的推理模型 DeepSeek-R1。通过指定 model='deepseek-reasoner',即可调用 DeepSeek-R1。

方案二:网页封装 + ChatNio

❌ 缺点: 网页中有的问题他都有。就比如:服务器繁忙,请稍后再试。

需要准备:

deepseek-free-api 安装和配置

  1. 在NAS中下载并启动deepseek-free-api容器,在配置容器时,环境这里加一条deepseek的token信息(📢 注意:token可加可不加,加上后,提问和回答可以同步到网页版)
    PixPin 2025 02 09 13 00 55

  2. token获取方式:打开浏览器 -> 登录 deepseek -> ctrl+F12 打开开发者模式 -> 在 application 模块中找到 userToken -> 复制其中的 value 下的内容

nas deepseek free api example 0

ChatNio 配置

基本和 deepseek-api 的配置相同,修改一下 秘钥、接入点、模型映射 即可

ChatNio deepseek free api config

deepseek-free-api 映射模型

  • 默认deepseek-V3:deepseek
  • 深度思考:deepseek-thinkdeepseek-r1
  • 联网搜索:deepseek-search
  • 深度思考 + 联网搜索:deepseek-r1-searchdeepseek-think-search
  • 静默模式(不输出思考过程或联网搜索结果):deepseek-think-silentdeepseek-r1-silentdeepseek-search-silent

方案三:使用云端部署

腾讯 Cloud Studio 部署 DeepSeek-R1:14B 模型,参考文章

部署完成后,还需要进行内网穿透,比如:frp

📢 需要注意:做端口映射的时候,端口号可能并不是常见的 11434,需要使用如下命令查看一下
Pasted image 20250210160157

ChatNio渠道配置的时候

附录:deepseek 的一些知识

deepseek模型名称 擅长 版本
DeepSeek-V3 自然语言处理、知识问答、内容创作 DeepSeek-V3-671b(满血版)DeepSeek-V3-基础版-671b
DeepSeek-R1 复杂逻辑推理任务设计 DeepSeek-R1-671B(满血版)DeepSeek-R1-Zero-671B(原始版)蒸馏版(1.5B/7B/8B/14B/32B/70B)
模型参数规模 CPU 建议 GPU 建议 内存建议 磁盘空间建议 适用场景
1.5b(15亿) 4核+ 核显独显均可 8GB 10GB 以上 SSD 小型 NLP 任务、文本生成、简单分类
7b(70亿) 6核+ 显存8GB+ 16GB 20GB 以上 SSD 中等规模 NLP、对话系统、文本分析
14b(140亿) 8核+ 显存12GB+ 32GB 50GB 以上 SSD 复杂 NLP、多轮对话、知识问答
32b(320亿) 12核+ 显存16GB 64GB 100GB 以上 SSD 大规模 NLP、多模态任务、研究用途
70b(700亿) 16核+ 需多GPU并行 显存40GB+ 128GB 200GB 以上 SSD 超大规模模型、研究、企业级应用
671b(6710亿) 服务器级 CPU 需多GPU并行 显存320GB+ 256GB 1TB 以上 NVMe SSD 超大规模训练、企业级 AI 平台

671b - 又被成为满血版,其他版本均为 蒸馏版
DeepSeek-R1-671B : 满血版。
DeepSeek-R1-Zero-671B : R1的原始版本,会犯错,但更有创意。
基于千问再训练模型:DeepSeek-R1-Distill-Qwen-1.5B、DeepSeek-R1-Distill-Qwen-7B、DeepSeek-R1-Distill-Qwen-14B、DeepSeek-R1-Distill-Qwen-32B
基于Lama再训练模型:DeepSeek-R1-Distill-Llama-8B、DeepSeek-R1-Distill-Llama-70B

PixPin 2025 02 09 16 16 31

PixPin 2025 02 09 16 24 33