是否支持本地模型

[GeoffJ4Real]

你好，目前后端模型接入 DashScope 平台，请问是否支持集成本地模型（如通过 Xinference 部署的模型）？
如果支持，能否提供配置指南？
非常感谢！

[GTyingzi]

从功能角度来看，这些底层的模型配置是支持无缝衔接的。可以考虑加下readme.md里的研究小组，待后续有人力了推进

[dearMOMO]

你好，目前后端模型接入 DashScope 平台，请问是否支持集成本地模型（如通过 Xinference 部署的模型）？ 如果支持，能否提供配置指南？ 非常感谢！

我自己改造了一下，底层模型的代码，可以支持集成本地模型

[dearMOMO]

你好，目前后端模型接入 DashScope 平台，请问是否支持集成本地模型（如通过 Xinference 部署的模型）？ 如果支持，能否提供配置指南？ 非常感谢！

我自己改造了一下，底层模型的代码，可以支持集成本地模型

支持配置项的功能，目前还不太完善。本地模型配置保存到数据库里，进行动态化配置。每一个智能体，都可以独立配置

`package com.momo.ai.deepresearch.config.model;

import com.google.common.collect.Maps;
import com.momo.ai.deepresearch.model.dto.ModelCustomConfigDO;
import jakarta.annotation.PostConstruct;
import lombok.extern.slf4j.Slf4j;
import org.apache.commons.lang3.StringUtils;
import org.springframework.ai.chat.client.ChatClient;
import org.springframework.ai.chat.model.ChatModel;
import org.springframework.ai.deepseek.DeepSeekChatModel;
import org.springframework.ai.deepseek.DeepSeekChatOptions;
import org.springframework.ai.deepseek.api.DeepSeekApi;
import org.springframework.stereotype.Component;

import java.util.Map;

/**

• @author Jie Li
• @Version V1.0
• @description: msg
• @Date 2025-09-27 15:38:42

• Copyright: Copyright (c) 2025

*/
@slf4j
@component
public class MomoChatModelConfiguration {

//厂家--》模型
private static final Map<String, Map<String, ChatModel>> CHAT_MODEL_MAP = Maps.newConcurrentMap();


@PostConstruct
public void init() {

    //todo 从数据库读取出配置文件
    ModelCustomConfigDO customConfig = new ModelCustomConfigDO();

    var deepSeekApi = DeepSeekApi.builder().apiKey("sk-9e33")
            .baseUrl(customConfig.getApiUrl())
            .build();

    Map<String, ChatModel> modelMap = Maps.newHashMap();

    DeepSeekChatOptions deepSeekChatOptions = DeepSeekChatOptions.builder().model(customConfig.getModelName())
            .temperature(customConfig.getTemperature()).build();

    DeepSeekChatModel chatModel = DeepSeekChatModel.builder()
            .deepSeekApi(deepSeekApi)
            .defaultOptions(deepSeekChatOptions)
            .build();
    modelMap.put(customConfig.getModelName(), chatModel);

    CHAT_MODEL_MAP.put(customConfig.getProducer(), modelMap);
}

public static ChatModel getChatModel(String producer, String modelName) {
    if (StringUtils.isBlank(producer)) {
        producer = "deepseek";
    }
    if (StringUtils.isBlank(modelName)) {
        modelName = "deepseek-chat";
    }

    return CHAT_MODEL_MAP.get(producer).get(modelName);
}

public static ChatClient getChatClient(String producer, String modelName) {
    if (StringUtils.isBlank(producer)) {
        producer = "deepseek";
    }
    if (StringUtils.isBlank(modelName)) {
        modelName = "deepseek-chat";
    }

    return ChatClient.builder(CHAT_MODEL_MAP.get(producer).get(modelName)).build().mutate().build();
}

public static ChatClient.Builder getChatClientBuilder(String producer, String modelName) {
    if (StringUtils.isBlank(producer)) {
        producer = "deepseek";
    }
    if (StringUtils.isBlank(modelName)) {
        modelName = "deepseek-chat";
    }


    return ChatClient.builder(CHAT_MODEL_MAP.get(producer).get(modelName)).build().mutate();
}

}
`