AI模型管理
可以添加AI厂家模型,添加后,在流程中可以通过AI模型节点调用该厂家模型,实现AI推理和生成结果。
支持的厂商模型
目前平台可接入的厂商有火山引擎和deepseek,可接入的模型列表如下:
厂商 | 模型(model) | 上下文长度 | 最大输出token |
---|---|---|---|
火山引擎 | Doubao-pro-4k | 4k | 4096 |
火山引擎 | Doubao-lite-4k | 4k | 4096 |
火山引擎 | Doubao-pro-32k | 32k | 4096 |
火山引擎 | Doubao-lite-32 | 32k | 4096 |
火山引擎 | Doubao-pro-128k | 128k | 4096 |
火山引擎 | Doubao-lite-128k | 128k | 4096 |
火山引擎 | Llama3-8B | 8k | 8192 |
火山引擎 | Llama3-70B | 8k | 8192 |
火山引擎 | Moonshot-v1-8k | 8k | 4096 |
火山引擎 | Moonshot-v1-32k | 32k | 16384 |
火山引擎 | Moonshot-v1-128k | 128k | 65536 |
火山引擎 | GLM3-130B | 8192 | 4096 |
火山引擎 | GLM3-130B-Fin | 8192 | 4096 |
火山引擎 | Mistral-7B | 8192 | 2048 |
deepseek | deepseek-chat | 64k | 4k |
- 添加火山引擎厂商模型
- 模型名称:填写唯一的模型名称,用于在流程的AI节点中选择和识别模型。。
- API Key:需通过火山引擎控制台获取 API Key。获取链接
- API endpoint 地址:填写https://ark.cn-beijing.volces.com/api/v3。
- Endpoint ID:需通过火山引擎控制台获取Endpoint ID。获取链接
- 基础模型:选择添加的模型。
tip
注:火山引擎中的每个模型需单独添加。
- 添加deepseek厂商模型
- API Key:需通过 DeepSeek 开发平台获取 API Key。获取链接
- API endpoint 地址:填写 https://api.deepseek.com 。
模型列表
展示已添加的厂商模型,用户可以对模型进行编辑、启用或禁用配置。只有启用的模型才能在流程中的 AI 模型节点中调用。
- 火山引擎
- 添加厂商模型:添加火山引擎模型,已添加的模型可展开和折叠查看。
- 编辑模型:编辑已添加的模型配置。
- 启用/禁用:默认启用,禁用后该模型将无法在流程中的 AI 模型节点中调用。
- deepseek
- 编辑厂商模型:编辑已添加的 DeepSeek 模型配置。
- 启用/禁用:默认启用,禁用后该模型将无法在流程中的 AI 模型节点中调用。