本地大模型平台迁移与回退实操

说明模型、数据与依赖如何迁移；restic 的 snapshot 是目录在特定时点的内容，可据此验证 Ollama 配置、切换目标并保留回退路径。

本地大模型平台迁移应按“旧平台保持可用—新平台重建—同条件验证—切换入口—可逆回退”推进，卸载旧版本不等于迁移完成。私有化部署的回退基线至少包括模型文件、运行配置、数据备份、依赖版本和原入口；下面用 Ollama、vLLM 与 restic 的官方操作把这些检查落到可执行步骤。

迁移前：私有化部署要冻结哪些对象

先建立迁移清单，为每项记录当前值、目标值、验证方法和回退位置：

模型：基础模型名称、权重文件或 GGUF 分片。
配置：系统消息、运行参数、服务启动方式和客户端入口。
数据：需要迁移的目录、对应备份及恢复位置。
依赖与入口：操作系统、Python、GPU、驱动、运行库，以及域名、反向代理或客户端路由。

原环境在验收前应保持可启动。迁移期间不要同时修改模型、参数、身份认证和网络路径，否则失败时难以确定故障发生在哪一层。

先做可恢复备份

restic 将目录在特定时点的内容称为 snapshot。按照 restic 的备份说明，可以执行：

restic -r /srv/restic-repo --verbose backup ~/work

仓库路径和数据路径应按你的实际环境替换。备份完成后，记录对应的 snapshot，并确认命令正常结束。模型文件应单独纳入备份范围；只有配置而没有数据备份，不足以支持迁移后的恢复。

在目标环境重建 Ollama

按 Ollama 的 Linux 文档，先执行一键安装：

curl -fsSL https://ollama.com/install.sh | sh

需要以前台进程检查时，先确认没有其他 Ollama 服务占用，再在一个终端运行：

ollama serve

随后在另一终端检查版本和 NVIDIA 驱动：

ollama -v
nvidia-smi

这些步骤分别确认安装、启动和驱动层状态，不能替代模型请求验证。旧环境暂时不要卸载，更新后的新环境也不要立即覆盖原配置。

用 Modelfile 固定模型与参数

Ollama 的 Modelfile 参考说明：FROM 是唯一必需指令并定义基础模型，PARAMETER、TEMPLATE 和 SYSTEM 分别用于运行参数、完整提示模板和系统消息；FROM 也可指向 GGUF 文件，分片模型需要保留原始文件名并用通配符匹配全部分片，或分别写 FROM 指令。

可按下面的结构整理迁移配置：

FROM llama3.2
PARAMETER temperature 1
PARAMETER num_ctx 4096
SYSTEM YOUR_SYSTEM_MESSAGE

示例参数不能直接代替旧平台的配置基线。应把原有参数、系统消息和模型文件对应起来；如果使用 GGUF 分片，不要只复制其中一个文件。

vLLM 目标环境要单独核对

vLLM 官方快速开始文档列出的基础环境是 Linux 和 Python 3.10 到 3.13。其 GPU 安装文档要求 NVIDIA GPU 的 compute capability 为 7.5 或更高，预编译包包含 C++ 和 CUDA 12.9 二进制文件；Windows 不受原生支持，文档给出的运行路径是 WSL 配合兼容的 Linux 发行版。

这些只是前置条件，不代表服务已经可用。具体安装命令、服务启动参数和 API 请求格式必须从当前官方页面复制到迁移 runbook；如果页面没有给出与你环境匹配的说明，应先补齐，不要从旧文档拼接命令或 endpoint。

验证通过后再切目标

验证应覆盖三个层面：

启动层：记录服务状态、启动日志和 GPU 驱动信息。
请求层：使用同一授权客户端、同一提示和已确认的参数发起请求，记录 HTTP 状态、响应内容及错误信息。
数据层：核对输入、输出和需要保留的业务数据是否完整。

不要默认 Ollama 与 vLLM 的文本输出必须逐字相同，应按业务关键字段定义验收条件。目标和旧平台都通过后，再保存一次数据备份、冻结配置，并只切换一个路由入口；任何一层未通过，都应保留旧入口。

回退先恢复入口，再处理数据

触发回退后，先把客户端或上游路由切回旧平台，并停止向异常的新平台继续写入。如果数据也需要恢复，按照 restic 的恢复说明先还原到隔离目录：

restic -r /srv/restic-repo restore latest --target /tmp/restore

核对恢复后的文件内容、目录结构和权限，再决定是否替换正式数据；不要直接覆盖当前目录。数据未损坏时，只恢复入口即可。旧模型、配置、服务账号和依赖应继续保留，直到旧入口重新验证成功，再分析新平台日志并决定是否重新迁移。

本文步骤依据正文所链接的官方文档整理，使用前应按当前版本复核。