Skip to content
起步第 1 / 4 节

把 DeepSeek 装进自己的电脑 ​

公司的报销制度、合同、内部文档,你想让 AI 帮你查,又不太放心把它们贴到网页上。

办法是让模型跑在你自己的电脑上。Ollama 的官方说明写得很直接:在本地运行时,他们看不到你的提示词和数据。

先看看你的电脑能跑多大的:

选一选你的显卡,能跑多大的 DeepSeek?粗略判断,以 ollama ps 为准
显存
模型
显存 8 GB最大能整个放下:8b
deepseek-r1:8b ≈ 5.7 GB
$ ollama psNAME SIZE PROCESSORdeepseek-r1:8b 5.7 GB 100% GPU

deepseek-r1:8b 能整个放进 8 GB 显存,跑起来最快。

学完你手里有什么 ​

一个跑在你电脑上的 DeepSeek,加一个用你自己的文件搭起来的知识库:问它“出差打车能报销吗”,它会从你的制度文件里找到那一句,再回答你;文件里没写的,它会说没写。

这门课每一条命令、每一个输出都在一台真机上跑过:Ubuntu,RTX 4080 SUPER 16 GB,Ollama 0.40.16。

这门课的路线 ​

阶段课你会做到
起步本地部署是什么知道要什么配置、和网页版差在哪
安装 Ollama终端里 ollama -v 打出版本号
跑起 DeepSeek-R1和本地的 DeepSeek 对话
用好它选多大的模型按显存挑尺寸
用接口调用用 curl 和 OpenAI 兼容接口调用本地模型
常见问题模型存在哪、换位置、局域网访问
DeepSeek V4 能本地跑吗V4 / V4.1 要多少内存,Ollama 上为什么只有云端版
知识库搭一个自己的知识库用自己的文件问答

开始之前 ​

  • 一台电脑:Windows 10 22H2 及以上,或 macOS Sonoma(14)及以上,或 Linux
  • 有独立显卡最好;没有也能跑小模型,只是慢
  • 硬盘留出至少十几 GB:Ollama 本身加上一个 8b 模型(5.2 GB)

下一步 ​

从本地部署是什么开始。

搞懂AI关于我们怎么写隐私说明联系我们

独立的第三方教程,与文中提到的任何产品及其公司没有隶属或合作关系;产品名称和商标归各自所有者。价格和政策以官方页面为准。