平台指南
限流
请求维度的三项限制、计数方式与 429 处理建议。
三项限制
平台在请求入口执行用户维度的三项限制:
| 限制 | 说明 |
|---|---|
| RPM | 每分钟请求数 |
| RPD | 每日请求数 |
| 并发 | 同时在途的请求数 |
具体额度以工作台展示为准。
计数方式
- 按用户账户计数,不按 API Key:同一账户下的多把 Key 共享同一份 RPM、RPD 与并发额度, 多建 Key 不能放大配额。
- 平台不限制 token 吞吐(无 TPM 门槛):上游容量不足时由平台内部的线路调度与失败切换 处理,不作为你的配额扣减。
- 平台内部的失败切换重试不重复占用你的入口配额。
收到 429 怎么办
429 有两种来源,处理方式不同:
| 来源 | 特征 | 处理 |
|---|---|---|
| 触发 RPM / RPD / 并发限制 | 常规限流 | 按指数退避重试;持续触发说明并发或频率超出额度 |
| 余额被在途请求临时冻结 | 带 Retry-After: 1 | 账面余额为正,稍后重试即可;详见计费与用量 |
重试建议:遵循 Retry-After 头;没有该头时从 1 秒起指数退避,并为批量任务设置并发上限。
GET /v1/models 等辅助接口不产生调用计费,但与其他 /v1 接口共享请求准入,
高频轮询同样可能收到 429。