RunPod混合计费怎么选:常驻模型与突发推理任务
按常驻与突发请求拆分 RunPod Serverless:Active 持续计费,Flex 可缩到零;再评估 Pods 长期成本,并给出公式、验证方法和停机清单。
GPU服务器租用的混合选择可以按“是否必须常驻”拆开:必须持续待命的模型服务用 Serverless Active workers,间歇或峰值请求用 Flex workers;需要自行管理常驻机器环境时,再评估 Pods。RunPod 的 Endpoint 设置说明 说明 Active workers 会保持热机,但空闲时也持续计费;Serverless worker 概览 说明 Flex workers 按需求扩缩、闲置时降到零,扩容时则会产生 cold starts。这里的“混合”是自行组合运行方式,不是固定套餐;核算时应把 worker 启停秒数、Active 连续保温时间和 Pods 计算与存储时长分开。
GPU服务器租用:先把负载分成三类
先回答三个问题:服务是否必须随时响应?请求量是否足以证明长期保温合理?是否需要一个持续可控、可自行操作的机器环境?前两项决定 Active 与 Flex 的比例,后一项再决定是否加入 Pods。不要按峰值并发直接推算常驻数量,应先记录典型请求数、执行时长、并发区间和可接受等待时间,再填写后面的公式。
常驻模型:把 Active workers 写成保温成本
RunPod 的 Endpoint 设置说明 把 Max workers 定义为最大并发 worker,把 Active workers 定义为持续保持 warm 的最低数量。当前默认 Active 为 0;设为 1 或以上可消除 cold starts,但包含 idle 时间在内都会持续收费。
先计算保温基线:
YOUR_ACTIVE_ESTIMATE =
YOUR_ACTIVE_WORKER_COUNT
× YOUR_WARM_SECONDS
× YOUR_ACTIVE_SECOND_RATE
YOUR_ACTIVE_SECOND_RATE 应从所选配置的当前官方价格或报价填写。YOUR_ACTIVE_WORKER_COUNT 填实际保温的 Active 数量,不要直接用 Max workers 代替。
突发推理:按 Flex worker 的实际运行秒数计算
RunPod 的 Serverless 计费说明 将可计费 worker 时间分为启动、执行和 idle-timeout 三个阶段:worker 从启动到完全停止都计费,并向上取整到下一秒;start time 包含容器初始化和模型加载,请求结束后的 idle-timeout 也计费,默认值为 5 秒。
YOUR_FLEX_ESTIMATE = Σ[
ROUND_UP_TO_NEXT_SECOND(YOUR_WORKER_SECONDS)
× YOUR_SECOND_RATE
]
每一项对应一个实际启动的 worker。如果扩缩没有达到预期,先检查账户级上限;Serverless worker 概览 说明该上限取决于账户余额,计算时包含 Flex 与 Active,当前文档列出的默认上限为 5。
怎样验证混合方案确实可用
RunPod 的请求说明 指出,/runsync 会等待任务完成,结果可获取 1 分钟,最长为 5 分钟;/run 异步处理任务,需要通过 /status 取回结果,完成后可获取 30 分钟。因此可以先用同步请求验证模型响应,再接入异步调用链。
同一请求说明 给出的地址和鉴权格式如下:
https://api.runpod.ai/v2/ENDPOINT_ID/runsync
Authorization: Bearer RUNPOD_API_KEY
请求成功只能证明功能可用,不能证明费用符合预期。还要分别核对 Active 保温时间,以及 Flex worker 的启动、执行和等待时间。
Pods:把长期环境单列计算
RunPod 的 Pods 计费说明 将 On-demand Pod 定义为按需付费,资源专用于该 Pod,不会被其他用户抢占;计算和存储按秒计费,数据流入与流出不收费。部署 On-demand Pod 前,账户余额还必须至少覆盖所选配置一小时的费用。
同一计费说明 将 container disk 和 volume disk 定为按秒计费,将 network volume 定为按小时计费;Pod 停止后存储仍可能产生费用。savings plan 需要预付 3 个月或 6 个月,停止 Pod 后会用于下一次同 GPU 类型的部署,并注明不可退款且具有固定到期日。
YOUR_POD_ESTIMATE =
YOUR_COMPUTE_SECONDS × YOUR_COMPUTE_RATE
+ YOUR_DISK_SECONDS × YOUR_DISK_RATE
+ YOUR_NETWORK_VOLUME_HOURS × YOUR_NETWORK_VOLUME_RATE
按 RunPod 的 Pod 管理说明,控制台部署顺序是选择 GPU 类型、填写 Pod 名称、可选模板、设置 GPU 数量,最后点击 Deploy On-Demand。CLI 创建结构如下:
runpodctl pod create --name YOUR_VALUE --gpu-id "YOUR_VALUE" --image "YOUR_VALUE"
同一管理说明 还明确:停止 Pod 会释放 GPU,保留 /workspace,但清除 container disk;终止 Pod 会永久删除未存放在 network volume 上的数据。停机前必须先确定重要数据保存在哪里。
上线前用同一张表复核
逐项回填以下内容:
- Serverless:Active 保温秒数、各 Flex worker 的计费秒数及对应单价。
- Pods:计算、container disk、volume disk、network volume 和未结束的 savings plan。
- 数据生命周期:区分停止与终止,确认需要保留的数据是否位于
/workspace或 network volume。
官方页面没有给出你的实际配置报价时,不要套用他人的数字,应从当前报价或自己的账单逐项核对。savings plan 的选择与不可退款条款属于一般信息,不构成法律意见。
本文步骤仅依据正文所链接的 RunPod 官方文档整理,未进行运行或性能测量;相关默认值和期限按 2026-10-01 核对,使用前应按当前版本复核。