DeepSeek模型用Ollama本地部署
本文回答 deepseek本地部署怎么做,以 deepseek-r1:8b 为例说明 Ollama 安装、服务启动和本地对话验证,并标出模型拉取命令需要按当前官方文档另行核对的资料边界;Ollama 模型页列出的文件大小为 5.2GB,上下文窗口为 128K。
完成本文的 deepseek本地部署后,你会在 Linux 上启动 Ollama 服务,并通过一次本地生成请求确认 deepseek-r1:8b 能返回回复。开始前需要一台 Linux 机器、可用的终端,以及访问官方安装脚本和模型库的网络,并应先从当前官方文档确认模型拉取命令。
准备条件:deepseek本地部署前先选模型
先把模型标识固定下来。Ollama 的 deepseek-r1 模型页显示,deepseek-r1 的默认 latest 对应 8b tag,文件大小为 5.2GB,上下文窗口为 128K。本文始终使用完整标识 deepseek-r1:8b,避免把其他 tag 的配置套到本次操作上。
同一页面列出的模型文件如下:
| 模型标签 | 文件大小 | 上下文窗口 |
|---|---|---|
1.5b |
1.1GB |
128K |
7b |
4.7GB |
128K |
8b |
5.2GB |
128K |
14b |
9.0GB |
128K |
32b |
20GB |
128K |
70b |
43GB |
128K |
671b |
404GB |
160K |
这些数字用于区分 Ollama 模型库中的文件,不能直接当作整机内存或显存要求。本文引用的说明没有给出适用于所有 tag 的统一硬件门槛,开始前仍要核对当前模型页和机器实际资源。
操作步骤
以下安装、服务启动和版本检查命令来自 Ollama 的 Linux 文档。本文引用的内容确认了安装脚本和服务管理方式,但没有提供当前模型拉取命令的完整语法,因此获取模型时必须回到最新官方文档核对。
1. 安装 Ollama
curl -fsSL https://ollama.com/install.sh | sh
该命令将官方 Linux 安装脚本交给 sh 执行。
2. 启动并检查服务
在采用 systemd 服务的 Linux 环境中,使用以下命令启动并查看状态:
sudo systemctl start ollama
sudo systemctl status ollama
第一条命令启动 Ollama 服务,第二条命令查看服务状态。
如果采用手动安装和前台运行方式,则使用:
ollama serve
保持该进程运行,再从另一个终端检查版本:
ollama -v
Linux 文档将 ollama -v 作为确认 Ollama 正在运行的检查方式。两种服务管理方式按当前安装环境选择,不要重复启动。
3. 核对并获取模型
将目标模型固定为 deepseek-r1:8b,不要用其他 tag 的名称替代。到当前 Linux 文档的模型管理或模型拉取部分确认命令语法,再按该命令取得目标模型。由于现有引用内容没有给出可核实的拉取命令,本文不补写未经确认的参数;完成获取后再进入对话验证。
怎么确认成功
模型已经取得且服务正在运行后,可以调用本地生成端点。Ollama 的 API 文档说明,模型名称使用 model:tag 格式,省略 tag 时默认使用 latest;POST /api/generate 默认返回流,设置 stream 为 false 后会返回单个 JSON 对象,模型参数则放在 options 中。
curl http://localhost:11434/api/generate \
-d '{
"model": "deepseek-r1:8b",
"prompt": "请用一句话解释什么是向量数据库。",
"stream": false,
"options": {
"temperature": 0.6
}
}'
该请求明确指定模型、提示词、temperature 和非流式返回方式。
正确结果是终端收到一个包含模型回复的 JSON 对象,而不是连续返回的一组对象;最终对象还会包含统计信息及请求的附加数据。如果仍然收到多个对象,应检查端点是否为 /api/generate,并确认请求体中的 stream 为 false。
常见出错点
模型拉取命令与当前版本不一致
如果旧笔记中的命令无法执行,不要继续套用其中的参数或改用未指定 tag 的模型名称。返回当前 Linux 文档的模型管理部分确认拉取语法,再到模型页确认目标 tag;完成模型获取前,不应把 API 错误直接判断为服务故障。
把 8b 当成完整 R1,或输出重复、不连贯
DeepSeek-R1 官方 README显示,完整 DeepSeek-R1 具有 671B 总参数、每个 token 激活 37B 参数,上下文长度为 128K,不能与本文的 8b 文件混为一谈。同一说明建议将 temperature 设在 0.5-0.7,其中推荐 0.6,以减少无休止重复或不连贯输出;同时应避免添加 system prompt,把指令放在 user prompt 中。若需要模型分步处理数学题,可按官方建议在提示词中加入 Please reason step by step, and put your final answer within \boxed{}.。
本文步骤依据正文所链接的官方文档整理,未在本站自有机器上运行;请按当前版本核对后再执行。