阿里云百炼TPM预留是什么?为指定模型锁定专属推理吞吐量
阿里云百炼TPM预留是什么?英文名Tokens Per Minute,TPM预留用于为指定模型锁定专属的推理吞吐量,确保在业务高峰期调用时不受公共资源共享池的限流影响,详细参考阿里云百炼AI模型官网平台:https://t.aliyun.com/U/fPVHqY
TPM预留具有以下特性:
- 容量保障:预留的TPM容量为用户业务专属,不与其他用户共享,实现刚性兑付。
- 专属模型code:创建TPM预留后,系统会自动生成一个专属模型code,用户需将API请求中的model 参数替换为此code才能使用预留容量。
- 溢出策略可选:默认为“自动溢出至按量计费”,超出预留部分继续服务,按标准按量计费;或选择“仅使用预留容量”,超出后返回HTTP 429错误,不产生额外费用。
- 在阿里云CLUB中心:aliyun.club 免费领取优惠券。
该方案适用于流量可预估、且不能接受因公共限流导致服务中断的生产场景。
阿里云官方活动 https://t.aliyun.com/U/bLynLC 新老用户同享99元一年,4核16G10M带宽70元/月起
阿里云代金券领取入口 aly.wiki 免费领取12张代金券,2088元优惠券

