大模型服务

乐创者AI应用开发平台支持的大语言模型平台包括阿里百炼、ollama、xinference、硅基流动、deepseek、openai等，既可以本地部署，也可以支持使用云算力。

1. 大语言模型平台配置

大语言模型服务配置在乐创者系统管理员第三方平台中进行，如下图所示：

大语言模型支持模型模型服务平台和语言模型的配置。在左侧的列表上点击可以进行模型平台的添加，如下图所示：

名称可以根据业务定义，根据需要增加的类型选择平台。如果有API_KEY需要填写API_KEY的值。自定义部署服务需要配置BASE_URL，BASE_URL为服务访问地址，如：http://144.20.80.250:9997 。API_KEY和自定义Header可以根据需要进行配置，非必填。

2. 大语言模型配置

在模型平台上可以添加模型，乐创者AI应用开发平台支持shsanlei三类模型：语言模型、嵌入模型和重排模型。如下图所示：

名称可以根据业务定义，模型名称为平台提供商定义的模型名称，模型类型根据新增模型的特性进行选择。选项中配置可以配置模型调优的参数，格式如下：

{
    "temperature": 0.8,
    "topK": 10,
    "topP": 0.9,
    "repeatPenalty": 1.1,
    "seed": 0,
    "numCtx": 2048
}

各个模型参数有所不同，可以根据平台提供的信息进行配置。