Mixtral
可用模型清单:https://docs.mistral.ai/platform/endpoints/
因为Mixtral API适配了OpenAI的接口格式规范,我们将使用OAIClient进行请求。
import Agently
agent = (
Agently.create_agent()
.set_settings("current_model", "OAIClient")
.set_settings("model.OAIClient.auth", { "api_key": "<Your-API-Key>" })
# 使用Mixtral的API Base URL
.set_settings("model.OAIClient.url", "https://api.mistral.ai/v1")
# 如果需要切换模型,可参考模型清单: https://docs.mistral.ai/platform/endpoints/
.set_settings("model.OAIClient.options", { "model": "open-mistral-7b" })
)