MaxKB 的一些❓

MaxKB是什么?

  • 答:是基于 LLM 大语言模型的开源知识库问答系统,旨在成为企业的最强大脑。

为什么要搭建MaxKB,而不是用现成的LLM

  • 答:
    1. 针对现有大模型进行聚合,一个平台即可使用多个大模型 🌐✨;
    2. 可以将企业或者个人私密文件进行上传,亦可用作售前售后客服等场景 💼🤝;
    3. 内置工作流引擎,支持编排 AI 工作流程,满足复杂业务场景下的需求 🌟📈。

MaxKB包含哪些大模型?

  • 答:
    • 本地私有大模型[Llama 3 / Qwen 2]
    • 国内公共大模型[通义千问 / 智谱 AI / 百度千帆 / Kimi / DeepSeek]
    • 国外公共大模型[OpenAI / Azure OpenAI / Gemini ]

知识扫盲

在开始正式使用MaxKB前,我们需要先补充一些小知识,如果你已经了解,请绕过!

LLM

  “大规模语言模型”(Large Language Model),是指使用海量文本数据进行训练的人工智能模型。这些模型可以理解和生成自然语言,应用于翻译、对话、文本生成等多个领域。✨✨

tokens

  是大语言模型处理文本时的基本单位,可以是单词、标点符号或字符。计算 tokens 时,将文本拆分成这些单位。例如,“Hello, world!” 包含三个 tokens:“Hello”, “,” 和 “world!”。✨📚

Prompt

  是给大语言模型输入的指令或问题,用来引导模型生成相应的回应。例如,在ChatGPT中,Prompt 就是用户输入的文本内容,它告诉模型需要回答什么或进行什么操作。随着LLM智能化的提高,Prompt也将会变的越来越简单! ✨📝

用好LLM ⁉️

  其实大部分人都是跟着舆论导向走的,今天听说某某大模型如何如何NB,赶紧注册一个账号体验一下,发现一般,就束之高阁了!明天又听说那个生成图片多么好看,又去体验一下,发现也就那样!这正是现在真正的LLM现状,除了在企业和少数行业(自媒体行业,软件开发相关行业等)中可以被利用起来,对于大部分人来说,还真不如百度 🤣

那么普通人如何使用好LLM呢:✨🧠📚

  1. 放低预期:要承认AI生成的东西也可能是驴唇不对马嘴的,内容越长,错误越多;
  2. 了解LLM擅长的事情:文案写作灵感、文档的总结、翻译、代码生成等;
  3. 清晰明确的Prompt:输入的指令要具体,避免模糊不清。
  4. 分步引导:复杂问题可以拆解成多个简单问题逐步引导。
  5. 反馈和调整:根据模型的回答不断调整和优化你的Prompt
  6. 利用上下文:提供足够的背景信息让模型理解你的需求。

这样可以最大程度地发挥LLM的优势。💡📝

极空间安装 MaxKB

Pasted image 20240720125214

Pasted image 20240720125254
注意: 2核2G,是官方推荐的最低配置哈。

Pasted image 20240720125333

配置完成后启动!看一眼日志,没问题就打开浏览器进行访问!

初始默认的用户名和密码

  • 用户名: admin
  • 密码: MaxKB@123…

模型的配置

🆓 免费方案:私有大模型 + MaxKB,例如:Llama 3 + MaxKB
💼 付费方案:通用大模型 + MaxKB,例如:百度千帆 + MaxKB
或者使用 DeepSeek/智普AI/Kimi,新用户赠送会赠送一些tokens

Pasted image 20240719112944

百度千帆为例,需要以下几步

Pasted image 20240719131859

Pasted image 20240719132018

Pasted image 20240719132826

使用说明

知识库的使用

Pasted image 20240719132940

Pasted image 20240719133002

应用的创建

Pasted image 20240719133029

Pasted image 20240719133050

费用价格一览

百度千帆

Pasted image 20240719132647

通义千问

Pasted image 20240719152800

智普AI

Pasted image 20240719153541

DeepSeek

Pasted image 20240719154941

传送门