GPU 资源紧张时的模型部署调整方案
从云端容量与配额入手，先区分错误类型，再调整重试、批量、可用区和地域；模型侧另行核对量化、并发、批处理与设备兼容性，并用健康检查验收。
GPU 资源紧张时，先区分“当前无容量”与“达到配额上限”，再按等待重试、缩小批量、取消可用区限制、改选候选地域、核对预留的顺序处理。GPU服务器租用的完成标准不是看到实例记录，而是资源请求成功、实例进入预期状态、原有健康检查通过，并且实际地域与可用区符合你的延迟与合规要求。
GPU服务器租用：先分清容量与配额
重提请求前，先固定模型版本和请求上下文，避免调整资源时同时改动模型参数。下面字段只是排障记录，不是厂商配置键：
目标地域：YOUR_VALUE
目标可用区：YOUR_VALUE
GPU 型号：YOUR_VALUE
请求数量：YOUR_VALUE
模型或服务版本：YOUR_VALUE
错误码：YOUR_VALUE
健康检查入口：YOUR_VALUE
在 AWS，InsufficientInstanceCapacity 表示当前没有足够的 On-Demand 容量，新建实例或重启已停止实例时都可能出现；InstanceLimitExceeded 表示达到某个 Region 的实例启动限额，应转入配额排查，参见 AWS 的 EC2 启动故障排查说明。
同类信号中，ZONE_RESOURCE_POOL_EXHAUSTED 表示目标可用区没有足够资源满足请求；可在 Google Cloud 的资源可用性排查文档 中核对该错误的含义。
优先执行低扰动调整
先处理不改变部署拓扑的动作：
- 对容量不足，按 AWS 的排障顺序等待几分钟并重新提交；仍未成功时，不指定可用区再次提交，再减少实例数量。
- 对于资源可用性错误，可以稍后重试或改用其他可用区；Google Cloud 的排查建议还建议提前预留资源。
- 每次尝试都保留错误码、地域、可用区、请求数量和提交时间。若相同错误持续出现，就进入下一项决策，不要只增加重试次数。
改地域或可用区前先核对边界
在 AWS，Region 彼此隔离，资源不会自动跨 Region 复制；官方建议选择靠近客户或满足法律及其他要求的 Region，见 AWS 的 Region 与可用区说明。因此，换 Region 是重新选择部署位置，不是复制现有资源；切换前应重新核对模型文件、镜像来源、依赖和目标地域的配额。
阿里云说明，资源创建或购买成功后不能直接更换可用区；其文档也给出了查询地域可用区和可售资源的 CLI，见 阿里云的地域和可用区文档。按该命令结构填入目标地域：
aliyun ecs DescribeZones --region YOUR_VALUE
把输出保存为候选清单，再发起资源请求；查询到可用资源不等于模型服务已经启动。
配额与容量预留要分开核对
AWS 的 On-Demand 配额按运行中实例使用的 vCPU 计算，与实例类型无关；pending、stopping、stopped 和 hibernated 状态不计入该配额，见 AWS On-Demand Instances 说明。因此，不要按实例个数直接推算配额，应在目标 Region 的账户配额页核对实际计量单位和当前用量。
对于固定容量保障，Capacity Reservations 即使未使用，也会计入 On-Demand 配额；如果必须在指定可用区获得容量保障，AWS 建议创建 Capacity Reservation，见 AWS Capacity Reservations 文档。排障表应分别记录“配额是否允许启动”和“容量是否有保障”，不要把两者合并为一个状态。
模型侧调整单独做一轮
云端请求成功后，如果服务仍出现显存、量化格式、并发、批处理或设备组合问题，包括异构设备兼容问题，不要继续反复换地域。根据模型项目当前文档逐项核对支持的配置，每次只改一项，并保留模型版本、启动参数和健康检查结果；没有项目文档依据的 flag 不写入启动命令。
验收调整结果并设置停止条件
按层检查，不要只看一个状态：
- 资源层：原请求不再返回容量或配额错误，实际实例数量与本次请求一致。
- 拓扑层：记录实际落地的地域和可用区，不把控制台中的目标值当成实际值。
- 服务层：调用已有的健康检查入口，再发送一条已知请求，并检查服务日志。
- 恢复层：写下下一次重试时间、备用地域的启用条件和停止继续重试的界限。
可以把整套处置压缩为：
记录上下文 → 分类错误 → 等待重试 → 缩小批量 → 调整可用区或地域 → 核对配额与预留 → 验证服务
最常见的误区是把所有错误都当成瞬时容量不足、缩小批量却保留同一可用区约束、换地域后沿用旧依赖假设，或在同一次变更里同时修改模型和资源。任何一步都应能说明排除了哪类问题，否则就回到记录和分类。
这些步骤按正文所链接的官方文档整理，未做运行或测量；使用前应按当前版本复核。