本地部署DeepSeek R1

1、本地部署,****我们可以通过Ollama来进行安装

Ollama 官方版:点击前往

安装命令

1.5B Qwen DeepSeek R1

1
ollama run deepseek-r1:1.5b

7B Qwen DeepSeek R1

1
ollama run deepseek-r1:7b

8B Llama DeepSeek R1

1
ollama run deepseek-r1:8b

14B Qwen DeepSeek R1

1
ollama run deepseek-r1:14b

32B Qwen DeepSeek R1

1
ollama run deepseek-r1:32b

70B Llama DeepSeek R1

1
ollama run deepseek-r1:70b

图片[3]-使用 DeepSeek-R1 本地部署知识库,完全免费开源、离线使用!-零度博客

2. AnythingLLM 下载

1、Github 开源版 【点击下载

2、官方版:【点击下载

注意:本地部署也是支持开启联网搜索模式的

只需在AnythingLLM的设置界面中,找到“代理技能”选项。 启用Web Search:在代理技能列表中找到 Web Search ,点击开启。 选择搜索引擎即可!

如下图所示:

13bd20032620250204235316

图片[5]-使用 DeepSeek-R1 本地部署知识库,完全免费开源、离线使用!-零度博客

本地部署越狱版步骤

1、下载并安装Ollama 【**点击下载**】

2、在CMD终端下通过命令下载DeepSeek R1越狱版

7b

1
ollama run huihui_ai/deepseek-r1-abliterated:7b

8b

1
ollama run huihui_ai/deepseek-r1-abliterated:8b

14b

1
ollama run huihui_ai/deepseek-r1-abliterated:14b

32b

1
ollama run huihui_ai/deepseek-r1-abliterated:32b

70b

1
ollama run huihui_ai/deepseek-r1-abliterated:70b

3、安装 Web UI

就可以本地调用 deepseek r1 越狱版 AI 大模型 【点击下载

2892cc47e220250206141037

如需卸载删除已安装的模型,可以通过下面命令执行:

1
ollama rm <模型名称>