用langchain的思想，构建SpringBoot AI应用。
🚩 本项目未涉及AI模型的微调、训练过程，仅使用相关大语言模型作为技术底座实现相关功能，模型的使用请参看相关官方文档。
| 组件 | 版本 |
|---|---|
| java | 17+ |
| SpringBoot | 3.1.0 |
| swagger-ui | knife4j-openapi3-jakarta-spring-boot-starter |
| 工具包 | hutool-all |
| 缓存 | redis |
| json | fastjson2 |
| mysql | mysql-connector-j |
| orm框架 | mybatis-plus |
| openai库 | openai-java |
| 前端 | freemarker、bootstrap、jquery、recorder.js |
| stream-chat | SSE |
| LLMs | openai、chatglm2、文心一言 、智普AI |
| embeddings | openai、text2vec-transformers、文心一言 |
| vector store | weaviate、milvus |
| 模型/能力 | 文本生成 | 流式输出 | 语音 | 函数调用 | 图片生成 | 多模态(VISION) | 嵌入EMBEDDING |
|---|---|---|---|---|---|---|---|
| openai | 支持 | 支持 | 支持 | 支持 | - | 支持 | 支持 |
| 百度(文心) | 支持 | 支持 | - | 支持 | - | - | 支持 |
| 智普(GLM-4) | 支持 | 支持 | - | 支持 | - | 支持 | 支持 |
| chatglm2 | 支持 | 支持 | - | - | - | - | - |
| ... ... | - | - | - | - | - | - | - |
已完成本地知识库上传、及完成openai、chatglm2、百度、智普GLM-4四个LLMs模型流式聊天功能。未来计划会接入更多大语言模型，以满足更多需求场景。
- Langchain 知识库
- 接入非结构化文档（已支持 md、pdf、docx、txt、csv 等文件格式）
- 搜索引擎接入
- 结构化数据接入（如Excel、SQL 等）
- 知识图谱/图数据库接入
- 系统功能
- 用户
- 用户登录
- 用户注册
- 第三方登录
- 基于 SSE 实现 Stream Chat
- 语音输入输出
- 会话管理
- 知识库管理
- 支持搜索引擎问答
- 用户
- prompts相关功能
- 摘要
- 翻译
- 关键词
- 文本分类
- 内容安全
- 偏好分析
- 查重
- 文生图
- 前端
- 移动端适配
- 代码等内容流式输出优化
init-script/db.sql-- 安装启动本地向量数据库
docker-compose up -d // 配置openai api token
openai.token=sk-xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx# 或者启动本地chatglm2-6B模型
python .\openai_api.py |
 |
 |
 |
|---|---|---|---|
 |
 |
 |
 |
 |
 |
