DeepSeek模型用Ollama本地部署

本文回答 deepseek本地部署怎么做,以 deepseek-r1:8b 为例说明 Ollama 安装、服务启动和本地对话验证,并标出模型拉取命令需要按当前官方文档另行核对的资料边界;Ollama 模型页列出的文件大小为 5.2GB,上下文窗口为 128K。

完成本文的 deepseek本地部署后,你会在 Linux 上启动 Ollama 服务,并通过一次本地生成请求确认 deepseek-r1:8b 能返回回复。开始前需要一台 Linux 机器、可用的终端,以及访问官方安装脚本和模型库的网络,并应先从当前官方文档确认模型拉取命令。

准备条件:deepseek本地部署前先选模型

先把模型标识固定下来。Ollama 的 deepseek-r1 模型页显示,deepseek-r1 的默认 latest 对应 8b tag,文件大小为 5.2GB,上下文窗口为 128K。本文始终使用完整标识 deepseek-r1:8b,避免把其他 tag 的配置套到本次操作上。

同一页面列出的模型文件如下:

模型标签 文件大小 上下文窗口
1.5b 1.1GB 128K
7b 4.7GB 128K
8b 5.2GB 128K
14b 9.0GB 128K
32b 20GB 128K
70b 43GB 128K
671b 404GB 160K

这些数字用于区分 Ollama 模型库中的文件,不能直接当作整机内存或显存要求。本文引用的说明没有给出适用于所有 tag 的统一硬件门槛,开始前仍要核对当前模型页和机器实际资源。

操作步骤

以下安装、服务启动和版本检查命令来自 Ollama 的 Linux 文档。本文引用的内容确认了安装脚本和服务管理方式,但没有提供当前模型拉取命令的完整语法,因此获取模型时必须回到最新官方文档核对。

1. 安装 Ollama

curl -fsSL https://ollama.com/install.sh | sh

该命令将官方 Linux 安装脚本交给 sh 执行。

2. 启动并检查服务

在采用 systemd 服务的 Linux 环境中,使用以下命令启动并查看状态:

sudo systemctl start ollama
sudo systemctl status ollama

第一条命令启动 Ollama 服务,第二条命令查看服务状态。

如果采用手动安装和前台运行方式,则使用:

ollama serve

保持该进程运行,再从另一个终端检查版本:

ollama -v

Linux 文档将 ollama -v 作为确认 Ollama 正在运行的检查方式。两种服务管理方式按当前安装环境选择,不要重复启动。

3. 核对并获取模型

将目标模型固定为 deepseek-r1:8b,不要用其他 tag 的名称替代。到当前 Linux 文档的模型管理或模型拉取部分确认命令语法,再按该命令取得目标模型。由于现有引用内容没有给出可核实的拉取命令,本文不补写未经确认的参数;完成获取后再进入对话验证。

怎么确认成功

模型已经取得且服务正在运行后,可以调用本地生成端点。Ollama 的 API 文档说明,模型名称使用 model:tag 格式,省略 tag 时默认使用 latest;POST /api/generate 默认返回流,设置 stream 为 false 后会返回单个 JSON 对象,模型参数则放在 options 中。

curl http://localhost:11434/api/generate \
  -d '{
    "model": "deepseek-r1:8b",
    "prompt": "请用一句话解释什么是向量数据库。",
    "stream": false,
    "options": {
      "temperature": 0.6
    }
  }'

该请求明确指定模型、提示词、temperature 和非流式返回方式。

正确结果是终端收到一个包含模型回复的 JSON 对象,而不是连续返回的一组对象;最终对象还会包含统计信息及请求的附加数据。如果仍然收到多个对象,应检查端点是否为 /api/generate,并确认请求体中的 stream 为 false。

常见出错点

模型拉取命令与当前版本不一致

如果旧笔记中的命令无法执行,不要继续套用其中的参数或改用未指定 tag 的模型名称。返回当前 Linux 文档的模型管理部分确认拉取语法,再到模型页确认目标 tag;完成模型获取前,不应把 API 错误直接判断为服务故障。

把 8b 当成完整 R1,或输出重复、不连贯

DeepSeek-R1 官方 README显示,完整 DeepSeek-R1 具有 671B 总参数、每个 token 激活 37B 参数,上下文长度为 128K,不能与本文的 8b 文件混为一谈。同一说明建议将 temperature 设在 0.5-0.7,其中推荐 0.6,以减少无休止重复或不连贯输出;同时应避免添加 system prompt,把指令放在 user prompt 中。若需要模型分步处理数学题,可按官方建议在提示词中加入 Please reason step by step, and put your final answer within \boxed{}.。

本文步骤依据正文所链接的官方文档整理,未在本站自有机器上运行;请按当前版本核对后再执行。

资料来源