在API Key创建及调用之前,需要先配置好套餐管理模块内容,以便在API Key创建时选择调用已配置好的套餐。
套餐管理配置
1. 功能概述
套餐管理是大模型服务平台的流量管控与权限配置模块,用于定义 API 调用的限流规则(单位时间请求数与 Token 处理量)与可访问路由范围。套餐通过与 API Key 绑定,实现对接口调用的流量控制、访问权限管控与配额管理,保障平台服务稳定运行,同时实现资源的精细化分配与用量管控。
2. 操作入口与列表说明
- 登录大模型服务平台,在左侧主导航栏点击 套餐管理,进入套餐管理列表页。
- 页面右上角点击 创建套餐,即可打开套餐配置弹窗。
- 列表字段说明:
- 套餐名称:套餐的标识名称。
- 请求限速:单位时间内的请求次数上限。
- Token 限速:单位时间内的 Token 处理总量上限。
- 授权路由:该套餐允许访问的模型服务路由范围。
- 已加入 API Key:当前绑定该套餐的 API Key 数量。
- 共享项目:套餐共享的项目范围。
- 状态:展示套餐当前启用 / 禁用状态。
- 部门 / 项目、更新时间:展示归属信息与最近更新时间。
- 操作列:支持对单个套餐进行编辑、删除等管理操作。
- 列表顶部功能:
- 刷新按钮:同步最新的套餐配置与状态数据。
- 删除套餐:勾选多个套餐后,可执行批量删除操作。
- 筛选与搜索:通过右上角筛选条件与搜索框,快速定位目标套餐。
3. 创建套餐
点击「创建套餐」后,按以下说明完成配置,带 * 标识为必填项。
3.1 基础信息
表格
| 配置项 | 必填性 | 说明 |
|---|---|---|
| 套餐名称 | 必填 | 输入套餐的名称,建议按限流规格、业务场景命名,便于区分与管理。 |
| 状态 | 必填 | 下拉选择套餐状态:- 启用:套餐规则生效,绑定的 API Key 可按规则调用服务- 禁用:套餐规则失效,所有绑定该套餐的 API Key 均无法正常调用服务 |
3.2 请求限速
用于控制单位时间内的接口请求次数,超出限制后调用请求将被拦截。
- 预设档位:提供「10 次 / 1 分钟」「20 次 / 1 分钟」「100 次 / 1 分钟」「不限」四个快捷选项,点击即可自动填充数值。
- 自定义配置:
- 左侧输入框:填写请求数量数值。
- 右侧下拉框:选择时间单位(如分钟)。
- 填写
0代表该维度不限流。
3.3 Token 限速
用于控制单位时间内的 Token 处理总量(包含输入 Token 与输出 Token),超出限制后调用将被限流。
- 预设档位:提供「40k/1 分钟」「100k/1 分钟」「1M/1 分钟」「不限」四个快捷选项,点击即可自动填充数值。
- 自定义配置:
- 左侧输入框:填写 Token 数量数值。
- 右侧下拉框:选择时间单位(如分钟)。
- 填写
0代表该维度不限流。
3.4 可访问路由
用于配置该套餐允许访问的模型服务路由范围:
- 在搜索框输入路由名称,可快速筛选目标路由。
- 勾选对应路由,即可为该套餐授权访问权限;未勾选的路由,绑定该套餐的 API Key 无法调用。
- 支持批量选择多条路由,实现精细化的权限管控。
3.5 提交创建
所有配置确认无误后,点击弹窗右下角 创建套餐,完成套餐创建;点击 取消 放弃创建并关闭弹窗。
4. 套餐管理
4.1 编辑套餐
在操作列点击「编辑」,可修改套餐的限流规则、授权路由与状态;修改完成后保存,配置将实时对所有绑定该套餐的 API Key 生效。
4.2 启用 / 禁用
- 启用套餐:套餐规则正常生效,绑定的 API Key 可按规则调用服务。
- 禁用套餐:立即终止该套餐的所有限流与授权规则,绑定的 API Key 将无法调用服务,适用于紧急管控场景。
4.3 删除套餐
- 单个删除:在操作列执行删除操作。
- 批量删除:勾选多个套餐后,点击顶部「删除套餐」批量删除。
- 注意:删除前请确认无 API Key 绑定该套餐,删除后规则永久失效且无法恢复。
4.4 绑定 API Key
套餐创建完成后,可在「API Key」管理页面,为指定 API Key 绑定对应套餐,绑定后限流与路由规则立即生效。
5. 注意事项
- 限流规则:请求限速与 Token 限速为并行限制,任意一项达到阈值,调用都会被限流拦截。
- 路由授权:仅授权范围内的路由可被调用,新增模型服务路由后需手动添加至对应套餐,否则无法通过该套餐访问。
- 生效范围:套餐配置修改后实时生效,建议在业务低峰期调整配置,避免影响在线业务。
- 禁用影响:禁用套餐会导致所有绑定的 API Key 失去调用权限,请确认业务影响后再操作。
- 配额独立:同一套餐绑定多个 API Key 时,各 API Key 的限流配额独立计算,互不占用。
- 数值规范:限流数值填写
0代表对应维度不限流;请勿填写负数,避免配置失效。
API Key 配置
1. 功能概述
API Key 是大模型服务平台的接口调用鉴权主体,承担身份认证、服务调用权限控制与调用配额计量的作用。每个 API Key 可绑定对应配额套餐,并支持多把密钥无缝轮换,在保障调用安全的同时实现业务无感知的密钥更新,是对外调用模型推理服务的必备凭证。
2. 操作入口与列表说明
- 登录大模型服务平台,在左侧主导航栏点击 API Key,进入 API Key 管理列表页。
- 页面右上角点击 创建 API Key,即可打开创建配置弹窗。
- 列表字段说明:
- 名称:API Key 的标识名称。
- 套餐:当前绑定的配额套餐。
- 密钥数:该 API Key 下生效的密钥数量。
- 负责人:API Key 的所属负责人。
- 状态:显示当前运行状态(启用 / 禁用)。
- 部门 / 项目、创建时间:展示归属信息与创建时间。
- 操作列:支持对单个 API Key 进行密钥管理、套餐绑定、删除等操作。
- 列表顶部功能:
- 刷新按钮:同步最新的密钥与状态数据。
- 批量操作:勾选多个 API Key 后,可批量执行启用、禁用、删除 API Key操作。
- 筛选与搜索:通过右上角筛选条件与搜索框,快速定位目标 API Key。
3. 创建 API Key
点击「创建 API Key」后,按以下说明完成配置与创建。
3.1 前置提示
创建时系统将自动签发第一把密钥,密钥明文仅显示一次;同一 API Key 可持有多把密钥,用于业务无缝轮换。
3.2 配置项说明
带 * 标识为必填项。
表格
| 配置项 | 必填性 | 说明 |
|---|---|---|
| 名称 | 必填 | 输入 API Key 的名称,建议按业务场景、使用方命名,便于区分管理。 |
| 套餐 | 选填 | 下拉选择绑定的配额套餐;也可创建完成后,在列表中随时绑定或更换套餐。 |
3.3 提交与密钥保存
配置完成后,点击 创建并签发密钥,系统自动生成密钥并弹出展示。
重要提醒:密钥明文仅在创建时展示一次,平台不留存明文,请立即复制并妥善保存。若密钥丢失,无法找回,需重新签发新密钥。
4. API Key 与密钥管理
4.1 状态管理
- 启用:激活 API Key,其下所有密钥可正常调用服务。
- 禁用:停用 API Key,其下所有密钥立即失效,无法调用服务;适用于异常场景快速止损。
- 删除:删除后 API Key 及所有密钥永久失效,已绑定的配额将释放,请谨慎操作。
4.2 密钥轮换管理
每个 API Key 支持多密钥并存,可实现无缝轮换,保障业务连续性:
- 在操作列进入密钥管理页面,可新增密钥、删除旧密钥。
- 标准轮换流程:新增一把新密钥 → 业务端逐步替换为新密钥 → 确认旧密钥无流量后,删除旧密钥。
- 适用场景:密钥泄露、定期安全更换、密钥过期等场景,替换过程中业务不中断。
4.3 套餐绑定
- 每个 API Key 需绑定对应套餐后,才可正常调用服务并计量 Token 消耗。
- 支持在列表操作中随时绑定、更换套餐,灵活调整配额规格。
5. 注意事项
- 密钥安全:密钥明文仅创建时可见,请妥善保管,避免泄露;密钥泄露可能导致配额被盗用、服务被非法调用。
- 丢失处理:若密钥丢失或确认泄露,请立即新增密钥替换业务调用,再删除泄露的旧密钥;紧急情况可直接禁用对应 API Key。
- 配额要求:未绑定套餐的 API Key 无法正常调用服务,请确保绑定有效套餐且配额充足。
- 批量操作风险:批量禁用 / 删除会影响所有关联业务调用,请确认范围后再操作。
- 安全建议:建议定期轮换密钥,降低安全风险;轮换时采用双密钥过渡方案,避免业务中断。