AI Deploy大模型本地部署帮你部署

RunPod按量计费怎么选：GPU实例配置与停机策略

说明RunPod按量计费的核对方法、GPU与存储配置顺序，以及停机后仍可能产生存储费用和数据保留风险，帮助读者控制闲置开销并避免误删数据。

做GPU服务器租用时，RunPod按量方案应先按模型规模估算显存，再核对GPU、磁盘和运行秒数，不能只看实例标价。任务结束后，Stop会释放GPU、保留/workspace并清空容器盘，但存储仍计费；Terminate会删除未放在network volume上的数据。Pricing (Pods) Manage Pods 按截至2026-10-01核对的RunPod官方文档，余额到$0时会自动停止运行中的Pod，该规则可能变化；若要按空闲时长自动停机，应先查当前控制台和文档，不能把未写明的功能当成可用设置。Billing overview

GPU服务器租用前要准备什么

  • 确认余额门槛。 部署新Pod前，账户至少要有能够覆盖所选配置一小时费用的credits。计算余额时，应使用自己的GPU数量和存储配置，而不是套用他人的估价。Billing overview
  • 先做显存估算。 RunPod给出的LLM经验值是每十亿参数约需2 GB显存，可先计算：
VRAM_GB ≈ PARAMETERS_BILLIONS × 2

这只是初筛值，不是可用性保证；最终仍要核对模型和推理框架当前要求。Choose a Pod

  • 区分云环境。 RunPod将Secure Cloud描述为运行在T3/T4、面向企业及生产工作负载的环境；Community Cloud连接个人算力提供方，目前不再接受新host，但现有资源仍可用。Pod使用network volume时仅支持Secure Cloud，应据此核对存储需求。Overview (Pods) Choose a Pod Network volumes
  • 检查部署方式。 Template会组合容器镜像、磁盘规格、挂载路径、环境变量、暴露端口和启动命令。若方案依赖Docker Compose或自行运行Docker daemon，应先调整，因为Pod不支持这两类用法。Overview (Pod templates) Overview (Pods)

RunPod按量费用怎么估算

On-demand Pod按量付费，资源专属于当前Pod，不会被其他用户挤占。RunPod采用预付credits：先向账户充值，再从余额中扣除使用费用。Pricing (Pods) Billing overview

部署前，应在官方页面和自己的报价或账单中逐项核对：

  • 所选GPU类型、GPU数量及运行时长；
  • container disk、运行或停止状态下的volume disk；
  • network volume及其持续存储时间；
  • 收据或Billing页面中的独立税费行。

计算资源和普通volume disk按秒计费，network volume按小时计费，数据传入和传出没有费用。税费取决于billing address和payment method；适用时会在充值费用之外另计，不会减少获得的credits。Pricing (Pods) Sales tax on Runpod purchases

用报价页提供的单位填写以下占位符，不要自行套用他人的价格：

GPU_COST = GPU_RATE × GPU_COUNT × RUN_SECONDS
LOCAL_STORAGE_COST = LOCAL_STORAGE_RATE × LOCAL_STORAGE_GB × BILLING_SECONDS
NETWORK_VOLUME_COST = NETWORK_VOLUME_RATE × NETWORK_VOLUME_GB × BILLING_HOURS
ESTIMATED_PAYMENT = GPU_COST + LOCAL_STORAGE_COST + NETWORK_VOLUME_COST + TAX_LINE

税费不适用时，不要添加TAX_LINE。部署后可在Billing页面的Billing Explorer查看近期支出。Billing overview

如果实际使用周期较长，还应单独核对savings plan：它需要预付三个月或六个月，Pod停止后自动用于同一GPU类型的下一次部署；计划不可退款并有固定到期日，不应把它当作可随时取消的按量方案。Pricing (Pods)

REST API另有interruptible布尔字段，默认值为false。设为true会创建价格较低、但可能随时被停止的interruptible Pod；设为false则使用成本较高、可运行至自行退出或手动停止的reserved Pod。能否接受中断，应先于单纯比较价格。Create a Pod (REST API reference)

GPU实例配置与创建

控制台创建顺序是选择GPU、填写Pod名称、按需选择template、设置GPU数量，然后点击Deploy On-Demand。Manage Pods

GPU → Name your Pod → (Optional) Choose a template → Set GPU count → Deploy On-Demand

也可以通过CLI创建：

runpodctl pod create --name YOUR_NAME --gpu-id "YOUR_GPU_ID" --image "YOUR_IMAGE"

REST API使用POST创建Pod，入口和鉴权头如下；完整请求体应按当前API文档填写。Manage Pods

curl --request POST \
  --url https://rest.runpod.io/v1/pods \
  --header 'Authorization: Bearer YOUR_VALUE'

启动后怎么确认配置生效

Template启动命令执行后，在Expose HTTP Ports (Max 10)中填写需要公开的HTTP端口。代理地址格式为：

https://YOUR_POD_ID-YOUR_INTERNAL_PORT.proxy.runpod.net

该服务是公开可访问的，应用必须自行实现认证。HTTP代理经过Cloudflare；连接未在100秒内响应时会被关闭，并返回524错误。Expose ports

随后分别检查：

  • 服务层： 打开代理地址，确认自己的模型接口返回预期页面或响应；
  • 费用层： 在Billing Explorer核对新Pod是否产生支出；
  • 数据层： 确认重要文件位于/workspace或network volume，而不是会被清空的container disk。Billing overview Storage options

停机策略：Stop、Terminate与余额归零

操作 资源与数据 后续费用
Stop 释放GPU，保留/workspace，清空container disk 停止后的volume disk仍产生存储费用
Terminate 永久删除未放在network volume上的数据；独立network volume中的数据保留 默认volume disk费用停止，network volume仍计费

这些差异来自Pod的存储生命周期；如果不再需要保留运行环境，应先导出重要数据再执行Terminate。Manage Pods Storage options Network volumes

停止后的Pod仍与原物理机关联，volume storage留在该机器上，但GPU可以租给其他用户，因此再次启动时可能找不到GPU。Zero GPU Pods on restart

余额达到$0时，所有运行中的Pod会停止。没有network volume的Pod会被终止且数据无法恢复；使用network volume的数据暂时保留，但如果存储费用持续无法支付，该volume最终也可能被终止。Billing overview Network volumes

常见出错点

  • 出现OCI runtime create failed时，在部署界面的Additional filters → CUDA Versions中选择兼容的CUDA版本。Manage Pods
  • 编辑运行中的Pod会重置它，并删除/workspace或network volume之外的数据；修改环境变量也会重启Pod，并清除volume mount path之外的数据，默认路径为/workspace。Manage Pods Environment variables (Pods)
  • network volume必须在创建Pod时挂载，之后不能分离；挂载后会替代/workspace处的默认volume disk。多个worker同时写入同一network volume可能造成数据损坏，需要由应用处理并发写入。Network volumes

上线前把余额与释放流程定下来

先设置低余额提醒，并核对Auto-pay行为：余额接近阈值时，它会使用默认保存的card扣款，尝试频率最多为每小时一次。这是充值保护机制，不是空闲自动停机；仍需自行决定何时Stop或Terminate。Billing overview

RunPod说明其存储并非为长期云存储设计，关键数据应另行备份到本地机器或专用云存储。充值前还要阅读退款说明：credits存入后不可退款、不可提现；服务条款也写明，除条款另有规定外，服务费用不可退款。Storage options Billing overview Terms of Service 以上属于一般信息，不构成法律意见。

本文仅按正文所链接的官方文档整理，没有运行这些步骤或测量性能；使用前请按当前版本复核。

资料来源