DeepSeek R1本地化部署——企业数据零泄露+Web访问+AnythingLLM 个人知识库搭建

摘要

/ www.yxclass.net

01

/ www.yxclass.net

Ollama 是开源大模型应用，能本地快速运行各类模型，支持多模型切换，操作简便，为用户提供高效本地化 AI 体验。

网址：https://ollama.com/download

Linux系统需要执行下面命令：

curl -fsSL https://ollama.com/install.sh | sh

Githup有时需要魔法才能访问，而且国外网速超级慢，因此我为大家提供了便捷的下载方式。关注我公众号后，发送“ollama”就可以获取下载链接。

双击下载好的安装文件，点击「Install」开始安装。目前的Ollama会默认安装到C盘，路径如下：

C:Users%username%AppDataLocalProgramsOllama

Ollama 服务器默认只允许来自127.0.0.1的跨域请求，如果你计划在其它前端面板中调用 Ollama API，比如Chatbox和AnythingLLM，需要放开跨域限制。

放开跨域限制要配置下面两个环境变量：

OLLAMA_HOST：0.0.0.0

OLLAMA_ORIGINS：*

配置Ollama的环境变量前一定要退出Ollama，否则下边的环境配置无法生效！

右键图标，会出现退出的按钮「Quit Ollama」。

1、在电脑的搜索框输入“编辑系统环境变量”，然后点击搜索出的链接。

2、新建用户环境变量。

环境变量新建保存成功后，再次进入看到下面两个变量就是环境配置好了。

Ollama 默认会随 Windows 自动启动，可以在「文件资源管理器」的地址栏中访问以下路径，删除其中的Ollama.lnk快捷方式文件，阻止它自动启动。

复制下面的路径粘贴到文件搜索栏：

%APPDATA%MicrosoftWindowsStart MenuProgramsStartup

将上述更改的环境变量保存后，在「开始」菜单中找到 Ollama，点击图标就可以重新启动，在cmd窗口执行ollama命令。

Ollama安装好后就可以去选择deepseek-r1模型了。

查找网址：

https://ollama.com/search

deepseek-r1各规模模型对本机PC的硬件要求：

普通个人电脑选择1.5b的模型就可以了，我16核24G的笔记本一开始选择8b的模型回答很慢，后来改为1.5b的模型问答就快很多了。

在Ollama上选择对应的模型参数，然后复制安装命令到cmd窗口中。

ollama run deepseek-r1:1.5b

取消开机自启，电脑开机后需要进入到安装的ollama.exe目录，然后执行指令ollama run 。

例如：

ollama run deepseek-r1:8b

本地cmd窗口命令行使用不太直观，可以安装Chatbox，通过UI页面与模型进行提问，提高可交互性。

Chatbox AI 是一款 AI 客户端应用和智能助手，支持众多先进的 AI 模型和 API，可在 Windows、MacOS、Android、iOS、Linux 和网页版上使用。

下载网址

https://chatboxai.app/zh/install?download

本地使用Ollama部署完成后，就可以使用Chatbox进行调用。

根据官方文档给出的步骤进行配置

https://chatboxai.app/zh/help-center/connect-chatbox-remote-ollama-service-guide

安装成功后，打开APP，选择Use My Own API Key / Local Model。

然后打开的对话框根据提示选择对应的模型。

模型提供方选择【Ollama API】。

模型选择自己的安装的模型。

在日常的学习与工作中，你或许常常深陷这样的困境：手头堆积着如山的 PDF 文件，急需从中找出特定信息，于是习惯性地依赖 Ctrl+F 快捷键，在繁杂的文档海洋里反复摸索，花费大量时间，却依旧一无所获，挫败感扑面而来。

尤其是遇到那些格式怪异的文档时，常规的搜索功能完全失效，简直让人无从下手。其实，我们都渴望着一种更便捷、高效的解决方案。设想一下，倘若存在一款工具，只需将文档轻松 “投喂” 给 AI，随后便能如同与老友交谈一般，通过智能对话精准、迅速地获取关键内容，彻底告别繁琐的手动搜索，这该多美妙。而 AnythingLLM 正是这样一款契合需求的得力工具，有它助力，信息检索之路将畅行无阻。

AnythingLLM 由 mintplexlabs 推出，是一款开源全栈应用。它能将多种格式的文档转化为大语言模型的聊天背景知识，支持多用户管理，可自选模型与向量数据库，上手简单。其具备自定义 AI 代理、多模态等特性，创建工作区可有序管理文档，适用于学术、办公、客服等场景，有效助力信息获取，提升效率。

下载网址：

https://anythingllm.com/desktop

点击.exe文件即可安装，如果发现以管理员身份安装没有反应，就选中安装包，右键选择“属性”查看安装文件是否已经被锁定。

安装成功后，打开APP就根据提示一直下一步就行了，安装好开始配置 这里选Ollama 地址按它默认的填就行。

打开后可以点击【open setting】查看配置内容，自己的AI模型是使用Ollama安装的，那么LLM的首选项就是Ollama。

页面打开后点击新建工作区，聊天设置的工作区LLM提供者选择Ollama。

当未向 DeepSeek 上传个人文档以丰富其知识储备时，向它提出一些基于特定个人资料、小众领域专业文档或私有项目细节等方面的问题，你会明显察觉到它无法给出精准且针对性的回答，因为它缺乏相应的专属信息输入。