DeepSeek-R1私有化大模型本地部署教程

大家好,我是@深圳的阳

今天为大家分享的是本地部署DeepSeek-R1私有化大模型方法。

DeepSeek-R1私有化大模型本地部署教程

本地部署可以有效保护我们的隐私数据不被泄露,而且使用更加稳定,尤其是最近DeepSeek经常被恶意攻击,

导致服务无法使用,本地部署就可以很好的避免这个问题,而且不依赖网络,更加灵活自由。

DeepSeek-R1私有化大模型本地部署教程

推荐使用Ollama框架,打开Ollama官网:https://ollama.com

DeepSeek-R1私有化大模型本地部署教程

首先下载客户端,直接从官网下载速度非常慢,很难下载成功,

分享一个方法可以轻松下载下来,先复制你需要下载的客户端文件地址。

DeepSeek-R1私有化大模型本地部署教程

然后访问这个Github文件加速中转站点 https://github.moeyy.xyz

DeepSeek-R1私有化大模型本地部署教程

可以看到下载速度快了很多。

DeepSeek-R1私有化大模型本地部署教程

然后运行安装程序,点击Install。

DeepSeek-R1私有化大模型本地部署教程

等待软件自动安装,文件会自动安装到C盘。

DeepSeek-R1私有化大模型本地部署教程

安装好后,按Windows+R键,输出CMD命令并回车。

DeepSeek-R1私有化大模型本地部署教程

在命令行窗口输入Ollama回车,如果显示以下信息,则说明安装成功了。

DeepSeek-R1私有化大模型本地部署教程

接下来返回Ollama官网,输入deepseek-r1,此时可以看到R1模型了。

DeepSeek-R1私有化大模型本地部署教程

671b这个模型文件非常大,有404GB,不仅下载需要很久,而且对显存要求非常高,推荐大家选择32b的和70b的,这两个日常需求足够了。

DeepSeek-R1私有化大模型本地部署教程

这里拿32b的模型做演示,复制ollma官网上这行命令。

DeepSeek-R1私有化大模型本地部署教程

返回刚才打开的CMD命令行,粘贴并回车,开始下载所需模型文件。

如果卡住不动可以试试开启魔法网络模式,你懂的。

DeepSeek-R1私有化大模型本地部署教程

下载完成后界面如下图所示:

DeepSeek-R1私有化大模型本地部署教程

执行ollma list命令查看下载好的模型文件列表。

DeepSeek-R1私有化大模型本地部署教程

下次如果想重新启动DeepSeek,再次执行CMD命令打开命令行窗口,使用ollama run + 模型名字。

比如:ollama run deepseek-r1:32b

我们测试一下,提个问题看看本地部署的DeepSeek回答效果。可以看到本地部署的DeepSeek成功的响应了我们的问题。

DeepSeek-R1私有化大模型本地部署教程

如果你觉得这样使用体验不够好,还可以安装一个Web版的插件来接入这个本地模型,Chrome插件商店里搜Page Assist并安装。

DeepSeek-R1私有化大模型本地部署教程

启动大模型后,在Chrome浏览器中启用刚才安装好的Page Assist插件。首次使用需要进行一些基本的配置,打开右上角的设置,修改语言为中文并保存。

DeepSeek-R1私有化大模型本地部署教程

RAG里的文本嵌入模型选择DeepSeek-R1:32b。

DeepSeek-R1私有化大模型本地部署教程

最后返回聊天窗口,此时就可以在Web界面用我们本地搭建的DeepSeek大模型了,对于有本地部署需求的朋友快去试试吧。

DeepSeek-R1私有化大模型本地部署教程

Ollama安装程序已经放在网盘了,扫码关注公众号后台回复DeepSeek即可获取。

DeepSeek-R1私有化大模型本地部署教程