gpt_server v0.6.2
gpt_server v0.6.2
What's Changed
- 升级SGLang、vLLM、LMDepoy 到最新版本
- 支持图片编辑模型、兼容open AI 图片编辑接口
- 修复 vllm guided decoding
- 修复 lmdeploy backend 模板bug
- 优化项目架构,使用pydantic BaseSettings统一模型配置获取
- 移除 muti fuction call,保证 function calling 的稳定性
- 添加 enable_thinking 参数