Video-LLaMA 视频理解部署与费用核算

说明 Video-LLaMA 按官方 README 搭建 Conda 环境、启动音视频演示并保留运行记录，同时依据资源状态、附加费用和占位公式核对租用成本。

部署 Video-LLaMA，先按 Video-LLaMA README 安装 ffmpeg、用 environment.yml 建立 Conda 环境、下载完整权重，再把推理硬件起点记为 1xA100 (40G/80G) or 1xA6000；核算 GPU服务器租用时，要将实例、存储、公网地址和平台附加项拆开复算。该 README 将项目限定为仅供非商业用途的研究预览，并说明在线 demo 主要面向英文、并非中文提问的良好选择；商业上线应先确认授权，本文不构成法律意见。文档没有给出固定健康检查端点或成功字符串，因此是否跑通要保存实际输出和退出状态，费用只采用供应商当前账单或报价。

GPU服务器租用前要准备什么

不要只让报价写“GPU”。在供应商自有页面或报价中先确认以下信息：

GPU 型号、显存和数量，以及实例镜像中的驱动与 CUDA 环境。
系统盘、数据盘可用容量，以及项目、权重、缓存和结果目录的写入权限。
输入视频的读取位置、输出记录的保留位置，以及远程管理方式。
计费单位、启动与停止规则、释放后的资源状态，以及最短计费条件。

README 中的硬件配置是推理建议，不是性能或容量承诺。峰值显存、并发量和处理时间没有在当前材料中确定，不能据此承诺生产性能。

按官方步骤启动本地演示

先安装 ffmpeg，再创建并进入环境：

conda env create -f environment.yml
conda activate videollama

README 没有给出跨操作系统通用的 ffmpeg 安装命令，应按实际机器的系统文档处理，不要照抄来源不明的安装脚本。

取得 README 列出的完整权重后，在能够找到演示脚本和配置文件的目录中执行：

python demo_audiovideo.py \
  --cfg-path eval_configs/video_llama_eval_withaudio.yaml \
  --model_type llama_v2 \
  --gpu-id 0

命令也列出 --model_type vicuna。选择它时，应同时确认权重和评估配置相匹配，不能只替换参数名称。

这是一条本地 demo 启动路径，没有给出监听地址或固定端口。如果需要远程 HTTP 接口，应重新核对当前项目文档和供应商网络说明，不要自行编造 endpoint。

怎样记录一次完整运行

建议自建以下台账；这些字段是运营记录，不是 Video-LLaMA 的配置键：

PROJECT_REVISION = YOUR_VALUE
CHECKPOINT_ID = YOUR_VALUE
MODEL_TYPE = YOUR_VALUE
GPU_TYPE = YOUR_VALUE
START_TIME = YOUR_VALUE
STOP_TIME = YOUR_VALUE
INPUT_ID = YOUR_VALUE
OUTPUT_LOCATION = YOUR_VALUE
EXIT_STATUS = YOUR_VALUE

验收时同时保存命令、完整输出和退出状态。实例控制台显示 GPU 正在运行，只能说明资源被使用，不能证明视频已经得到正确处理；反之，进程没有异常退出也不能替代对实际输出的检查。

费用核算要逐项复算

先从供应商自己的价格页、报价单和账单中确认以下行项目：

计算资源：GPU 或实例单价、计费单位、最短计费时间。
持续资源：系统盘、数据盘、快照和公网地址。
使用类费用：数据传输、日志、监控、负载均衡或其他托管服务；只加入供应商明确列出的收费项。
生命周期：启动、停止、释放、闲置和自动伸缩分别如何触发计费。

统一换算成账单使用的货币和计费单位，再填写：

COMPUTE_COST = GPU_UNIT_RATE × BILLABLE_HOURS
STORAGE_COST = STORAGE_RATE × BILLABLE_STORAGE_UNITS
TOTAL_ESTIMATE = COMPUTE_COST + STORAGE_COST + PUBLIC_IP_COST + DATA_TRANSFER_COST + OTHER_DOCUMENTED_COSTS - APPLICABLE_CREDITS
VARIANCE = ACTUAL_BILL_TOTAL - TOTAL_ESTIMATE

BILLABLE_HOURS 应来自供应商记录的有效计费时段，而不是简单使用挂钟时间。抵扣项只有在账单明确列出时才填入。

以 AWS EC2 为例，实例状态说明指出，停止状态不收取实例使用费，但 EBS 卷和 Elastic IP 地址无论实例状态如何都可能收费；每次从停止转为运行都会开启新的实例计费周期，并至少按 1 分钟计算。因此必须同时核对实例、EBS 和 Elastic IP，不能只抄 GPU 主机单价。

Serverless 方案先确认 GPU 与空闲计费

普通 Lambda 配额不能直接证明 Serverless 方案能够运行 Video-LLaMA。AWS Lambda 配额记录的单次调用最长为 15 分钟、函数内存上限为 10,240 MB，但没有给出本项目所需的 GPU 型号和显存。选型时仍须从供应商当前文档确认 GPU、驱动、权重、视频输入、网络和超时限制。

如果方案使用 AWS Lambda provisioned concurrency，相关说明明确指出它会产生额外费用、持续运行，并与初始化及调用分开计费；即使环境没有处理请求，初始化仍会收费。这类固定成本应单独加入 OTHER_DOCUMENTED_COSTS，不能并入单次推理费用后忽略。

常见出错点

把本地 demo 当成已经公开的 API，尝试猜测端口或健康检查地址。
混用不同权重、评估配置和 --model_type，导致启动后才排查兼容问题。
只记录 GPU 使用时间，漏掉仍在计费的存储、公网地址或预置资源。
用墙上时钟减去停止时段，直接当作账单计费时长。
未核对非商业许可就把研究预览用于商业服务。

本文步骤依据正文所链接的官方文档整理，未运行或测量相关流程，使用前请按当前版本复核。