ChatNio - 介绍

Chat Nio 是一款 AI 一站式服务管理平台,提供面向个人用户 (ToC)、开发者 (ToD) 和企业 (ToB) 的全面解决方案。我们致力于为用户提供高效、灵活和强大的 AI 服务。

Chat Nio 提供了开源版本(opens in a new tab) (以 Apache License 2.0 许可证发布),为个人站长、开发者和小型团队提供基础高可扩展的 AI 服务管理功能。开源版包含以下核心特性:

  • 基础模型支持:支持主流的 AI 模型,如 OpenAI、Anthropic、Gemini 等。
  • 简化渠道管理:支持基本的 AI 服务渠道配置和管理。
  • 简单计费管理:支持简单的计费设置和管理。
  • 基本令牌分发:支持基本的一用户一令牌分发和管理。

开源版本适合那些希望快速部署自己的 AI 服务平台,或者想要深入了解 AI 服务管理系统工作原理的开发者。它提供了一个生产就绪 (Production Ready) 的基础,让用户可以根据自己的需求进行定制和扩展。同时可以向小部分用户 出售券码等方式实现变现

🔨 支持模型

  • OpenAI & Azure OpenAI (✅ Vision ✅ Function Calling)
  • Anthropic Claude (✅ Vision ✅ Function Calling)
  • Google Gemini & PaLM2 (✅ Vision)
  • Midjourney (✅ Mode Toggling ✅ U/V/R Actions)
  • 讯飞星火 SparkDesk (✅ Vision ✅ Function Calling)
  • 智谱清言 ChatGLM (✅ Vision)
  • 通义千问 Tongyi Qwen
  • 腾讯混元 Tencent Hunyuan
  • 百川大模型 Baichuan AI
  • 月之暗面 Moonshot AI (👉 OpenAI)
  • 深度求索 DeepSeek AI (👉 OpenAI)
  • 字节云雀 ByteDance Skylark (✅ Function Calling)
  • Groq Cloud AI
  • OpenRouter (👉 OpenAI)
  • 360 GPT
  • LocalAI / Ollama (👉 OpenAI)

ChatNio - 安装

Docker Compose 安装

  • 下载 Docker Compose 文件;
  • 使用SSH进入到文件存放目录,执行命令:docker-compose up -d

Docker 安装

轻量运行时, 常用于外置 MYSQL/RDS 服务

  • 在仓库中下载 chatnio 镜像;
  • 创建一下三个文件夹:configlogsstorage
  • config文件夹下新建 config.yaml 配置文件,写入一下内容(根据自己实际配置进行修改)
mysql:
  db: MYSQL数据库名称(建议chatnio)
  host: MYSQL数据库地址
  password: MYSQL数据库密码
  port: MYSQL数据库端口
  user: MYSQL数据库用户名
  tls: false

redis:
  host: Redis 地址
  port: Redis 端口
  db: 0
  password: Redis 密码(如果没有密码,则删除这行)


secret: 建议随机一个16位以上的字符串
serve_static: true

server:
  port: 8094
system:
  general:
    backend: ""
  mail:
    host: ""
    port: 465
    username: ""
    password: ""
    from: ""
  search:
    endpoint: https://duckduckgo-api.vercel.app
    query: 5

ChatNio - 使用

部署成功后, 管理员账号为 root, 密码默认为 chatnio123456

第一步:渠道设置

Pasted image 20241117181313

注意几点:

  1. 添加模型:选择最新的,表现优良的模型即可;
  2. 用户分组:选择该模型需要哪些用户群体使用?(匿名、普通、订阅用户)
  3. 代理设置:国内无法访问的AI,需要进行带来的设置。

第二步:模型市场

Pasted image 20241117181607

在模型市场中,将上一步创建的模型导入,这样用户端才可以使用。

第三步:价格设定

Pasted image 20241117181734

对模型分别进行定价,只有定价的模型,用户端才需要付费使用。

第四步:用户管理

Pasted image 20241117181906

Pasted image 20241117181833

用户管理模块,可以手动增加和修改用户点数,同时还可以发放礼品码和点券码。

支付系统

社区版是无法集成支付宝、微信等三方支付的。只能使用平台+券码的形式,比如:

Pasted image 20241115180846

  • 发放福利:您可以通过礼品系统发放礼品码给用户,用户可以在我的钱包中进行兑换。
  • 第三方支付:您可以集成类似于爱发电的订阅系统,用户通过订阅系统订阅您的产品,通过 Webhook 接收支付信息返回相应点数兑换码。
  • 发卡站点:您可以集成发卡站点,通过批量生成来实现支付。
  • 手动输入:对于用户单独支付,您可以手动生成点数兑换码并发送给用户。

其他服务