AI 部署服务支持能力核验清单
提供云资源服务等级协议、RunPod 余额与计费、vLLM 部署及 Ollama 日志的逐项核验方法,说明 AWS 服务抵扣须在 Support Center 提交申请且并非退款,帮助你在签约与故障处理前留存可复核证据。
AI部署服务是否有支持能力,先看承诺能否落到书面、可计算、可复核:SLA 的适用范围与索赔规则、费用与余额变化、安装与启动文档、故障日志路径。核验时不要把口头答复当成合同或服务保证;应把官方页面、适用资源、排除项、申请期限和所需证据逐项绑定到你的实例、账单与工单。
AI部署支持能力逐项核验表
建立下面的核验表。对方无法提供文件或明确回答的项目,标记为“待确认”,不要默认视为支持:
- 服务范围:写明供应商、服务名称、区域、实例类型,以及使用标准实例、Spot 实例还是预览能力。
- SLA 与救济:记录不可用定义、可用性承诺、排除项、索赔入口、申请期限、证明材料,以及服务抵扣是否属于退款。
- 费用与余额:分开记录计算、运行状态存储、停止状态存储、网络卷存储及其他账单项目。
- 部署交付:确认支持的操作系统、GPU、CUDA、Python 版本,以及安装、启动和验证命令。
- 排障取证:确认日志路径、收集命令和支持人员需要查看的证据。
- 工单流程:提交一条不含敏感信息的普通测试工单,记录渠道、工单编号、时间戳、实际处理过程、升级路径和关闭条件。
把宣传口径落到适用 SLA
按 2026-10-01 核对的 Amazon Compute Service Level Agreement,EC2 的 Region-Level SLA 与 Instance-Level SLA 必须分开核验。前者要求运行实例跨同一 Region 的至少两个 AZ;如果该 Region 只有一个 AZ,则需跨至少两个 Region,月度可用性承诺为 99.99%。后者适用于单个 EC2 实例,承诺为 99.5%,不能直接套用区域级数字。
同一页面把单实例“不可用”定义为没有外部连接。申请服务抵扣需要在 AWS Support Center 创建 case,并在事件后的第二个账单周期结束前提交;抵扣用于冲抵未来的 EC2 付款,不是退款,同一实例的 Region-Level 与 Instance-Level 索赔也不能叠加。核验表还应保存客户自身操作、设备或软件、AWS 控制范围外原因及协议暂停等排除项,并确认该 SLA 将服务抵扣列为唯一救济。
资源类型也要单独确认。Google Cloud 的 Spot VMs 说明明确写明 Spot VMs 不受任何 SLA 覆盖。如果部署报价使用 Spot,就应单列其保障状态,不能沿用普通实例的承诺。
用账单公式核验费用与停机风险
以下项目均应按 2026-10-01 核对的 RunPod Billing overview复查,发布方页面可能更新。RunPod 使用预付 credits,使用资源时从余额扣除;计算和存储按秒计费,数据传输不收费,计费任务每 5 分钟运行一次。
不要只问“每小时多少钱”,而应把计算、运行 Pod 的 volume disk、停止 Pod 的 volume disk、network volume storage 和其他费用分别抄入自己的报价表,再使用:
BALANCE_END = YOUR_OPENING_CREDIT + YOUR_TOPUP - Σ(YOUR_COMPUTE_RATE × YOUR_COMPUTE_SECONDS) - Σ(YOUR_STORAGE_RATE × YOUR_STORAGE_SECONDS) - YOUR_OTHER_CHARGES
所有 YOUR_ 项目都从当前报价、账单和用量记录填写,不自行换算或补齐。余额达到 $0 时,RunPod 会停止所有运行中的 Pod;没有 network volume 的 Pod 会被终止且数据无法恢复,network volume 在 Pod 停止后仍继续产生存储费用,宿主机不可用期间则不收取存储费。credits 存入后不可退款或提现,因此应启用低余额邮件,并核对自动支付使用的默认卡;自动支付尝试最多每小时一次。
用固定命令核验 vLLM 交付
按 vLLM Quickstart,前置环境是 Linux 和 Python 3.10 至 3.13。文档给出的安装方式会创建 Python 3.12 虚拟环境,--torch-backend=auto 会根据已安装的 CUDA driver version 选择 PyTorch index:
uv venv --python 3.12 --seed
source .venv/bin/activate
uv pip install vllm --torch-backend=auto
启动命令和默认地址如下;默认监听 http://localhost:8000,地址由 --host 与 --port 指定,一个 server process 当前承载一个模型:
vllm serve Qwen/Qwen2.5-1.5B-Instruct
用文档列出的 endpoint 检查模型列表:
curl http://localhost:8000/v1/models
安装前还要对照 vLLM GPU 安装指南:NVIDIA GPU 需要 CUDA compute capability 7.5 或更高;预编译包包含 C++ 和 CUDA 12.9 binaries;B200、GB200 至少需要 CUDA 12.8;需要从源代码构建时,GCC/G++ 应为 11.3 或更高。把实际 GPU、driver、CUDA 和 Python 环境写入工单,避免只保存一条无法复用的“已支持”结论。
故障工单必须对应日志
支持人员还应指出当前机器适用的日志路径。Ollama 故障排查文档给出的 macOS 查看方式是:
cat ~/.ollama/logs/server.log
Linux systemd 服务可使用:
journalctl -u ollama --no-pager --follow --pager-end
如果对方不能说明适用命令、预期日志位置和需要保留的证据,就应把该项记为未解决,而不是以“重启后再看”代替支持说明。
把核验结果变成验收记录
每次核验至少保存供应商与 SLA 名称、资源与区域、页面核验日期、安装环境、实际命令与输出、费用公式各项、工单编号与时间戳,以及尚未解决的责任项。只有条款能够引用、费用能够计算、命令能够定位、日志能够收集、工单过程能够追踪时,才适合把对应支持能力标记为“已确认”。
以上 SLA 内容仅为一般信息,不构成法律意见。本文步骤依据正文链接的官方文档整理,没有执行这些步骤或生成性能数据,使用前应对照当前版本复核。