Agently AnyModel介绍
随着对于AI应用认知的加深,我们越来越发现在AI应用开发的真实落地过程中,尤其是规划处理复杂任务时,可以不修改业务逻辑代码极低成本地任意切换模型或是多模型混用协同处理复杂任务是AI应用开发绕不开的最基础问题之一。
因此,我们通过Agently AnyModel 为开发者提供以下能力的支持:
- 无需调整应用代码表达即可任意切换驱动模型
- 支持丰富大量的主流商用模型API、本地私有化部署模型
- 支持多模型混用,在业务逻辑中协同处理复杂问题
我们期望通过这样的能力帮助开发者在应用效果和模型推理开销之间找到平衡点,高效地获得更低成本更高质量的应用解决方案
模型支持情况
模型类型 | 支持情况 | Agently AnyModel配置方法 |
---|---|---|
全球商用模型API | OpenAI系列模型 AzureOpenAI系列模型 Claude3及以上系列模型 Google Gemini 1.0 Pro Mixtral系列模型 |
|
中国商用模型API | 适配OpenAI格式的各类模型 百度文心大模型系列(ERNIEBOT调用) 百度文心大模型系列(Qianfan调用) 阿里通义千问系列模型 深度求索DeepSeek2系列模型 零一万物Yi系列模型 月之暗面Kimi模型 抖音豆包(Doubao)模型 智谱GLM系列模型 MiniMax系列模型 腾讯混元系列模型 |
|
算力平台+开源模型API | 澎峰科技PerfXCloud [查看支持模型列表] 硅基流动SiliconCloud [查看支持模型列表] GroqCloud [查看支持模型列表] |
|
本地推理框架+开源模型 | ollama [查看支持模型列表] Xinference[查看支持模型列表] |
图例说明: 专项适配 通过OpenAI格式兼容适配