治理模型平台
模型定义
注册供应商与模型实例 · 6 种能力类型 · 采样参数
模型平台的第一步:注册供应商和模型实例。
两层结构
每个供应商下挂多个模型实例。
6 种能力类型
| 类型 | 用途 |
|---|---|
| LLM | 对话 · 推理 · function call |
| Embedding | 文本/图像向量化(知识库用) |
| Reranking | 重排检索结果 |
| Image | 图像生成 |
| Audio | 语音合成 / 识别 |
| Video | 视频生成 |
不同类型在 默认模型配置 分别可设默认。
模型核心字段
| 字段 | 例子 |
|---|---|
| 名称 | gpt-4-turbo |
| 类型 / 能力 | LLM / Embedding / ... |
| 采样参数 | 温度 / TopP / 最大长度 |
| 上下文长度 | 128K |
| 元信息 | 描述 / 图标 / 默认提示词 |
详情页
进入模型详情可:
- 查看 / 编辑名称、描述、图标
- LLM 调采样参数(温度 0-2 / TopP 0-1 / 最大输出长度)
- Embedding 配维度、归一化
- Reranking 配 TopN