把 DeepSeek 装进自己的电脑
公司的报销制度、合同、内部文档,你想让 AI 帮你查,又不太放心把它们贴到网页上。
办法是让模型跑在你自己的电脑上。Ollama 的官方说明写得很直接:在本地运行时,他们看不到你的提示词和数据。
先看看你的电脑能跑多大的:
显存
模型
显存 8 GB最大能整个放下:8b
$ ollama psNAME SIZE PROCESSORdeepseek-r1:8b 5.7 GB 100% GPUdeepseek-r1:8b 能整个放进 8 GB 显存,跑起来最快。
学完你手里有什么
一个跑在你电脑上的 DeepSeek,加一个用你自己的文件搭起来的知识库:问它“出差打车能报销吗”,它会从你的制度文件里找到那一句,再回答你;文件里没写的,它会说没写。
这门课每一条命令、每一个输出都在一台真机上跑过:Ubuntu,RTX 4080 SUPER 16 GB,Ollama 0.40.16。
这门课的路线
| 阶段 | 课 | 你会做到 |
|---|---|---|
| 起步 | 本地部署是什么 | 知道要什么配置、和网页版差在哪 |
| 安装 Ollama | 终端里 ollama -v 打出版本号 | |
| 跑起 DeepSeek-R1 | 和本地的 DeepSeek 对话 | |
| 用好它 | 选多大的模型 | 按显存挑尺寸 |
| 用接口调用 | 用 curl 和 OpenAI 兼容接口调用本地模型 | |
| 常见问题 | 模型存在哪、换位置、局域网访问 | |
| DeepSeek V4 能本地跑吗 | V4 / V4.1 要多少内存,Ollama 上为什么只有云端版 | |
| 知识库 | 搭一个自己的知识库 | 用自己的文件问答 |
开始之前
- 一台电脑:Windows 10 22H2 及以上,或 macOS Sonoma(14)及以上,或 Linux
- 有独立显卡最好;没有也能跑小模型,只是慢
- 硬盘留出至少十几 GB:Ollama 本身加上一个 8b 模型(5.2 GB)
下一步
从本地部署是什么开始。