统计
  • 建站日期:2022-01-17
  • 文章总数:6415 篇
  • 分类总数:44 个
  • 最后更新:1天前

[教程福利] 【多图】基于Docker+DeepSeek+Dify :搭建企业级本地私有化知识库超详细教程

作者头像
首页 建站技术 正文
广告

8d57016a5a2e7da78c81cc32bf8f83e2_0ab4c17a8ee00.png

下载安装Docker
  Docker官网:https://www.docker.com/
自定义Docker安装路径
  Docker默认安装在C盘,大小大概2.9G,做这行最忌讳的就是安装软件全装C盘,所以我调整了下安装路径。新建安装目录:E:\MySoftware\Docker并将Docker安装包放在目录内,这里有个小细节,安装包名称一定要改下(或者把安装程序放在别的目录也可以),官网下载下来的名称叫:Docker Desktop Installer.exe,一定要修改一下,不能用这个名字,否则等下在CMD命令安装的时候就会报错说被资源占用,因为Docker在安装时会解压一个一模一样名称的exe程序,重名就会导致安装失败,所以一定要改下名字。

d7fa45ad6231ab8f26803024b2c6f553_5614572058aaa.png
在文件路径输入cmd回车

2528b9c3e9d6bf30ce65f80e5112e0c0_424cae0a2a9b8.png
输入:.\"Docker.exe" install --installation-dir=E:\MySoftware\Docker
语法:.\”安装程序名称” install --installation-dir=指定Docker安装的路径

c4fbf3dbdde1218099a13e3818366688_deaa4bd0974a7.png
安装完成后会提示Installation sueceeded

de25393f6cea9c2afd50a17619a65cd6_b3e9de6773558.png
桌面会出现Docker图标

db167929484ab3727f1186604799844a_6b0f2a8004a36.png
启动Docker这里很多人会报这个错,这个是因为电脑没有WSL导致无法启动Docker容器。

818645850e6da5d6eb8179341a25e4ee_dd05efbb42c45.png

下载WSL
  进入微软官网按步骤执行即解决,几分钟完成。https://learn.microsoft.com/zh-cn/windows/wsl/install-manual#step-4---download-the-linux-kernel-update-package
  用管理员身份打开Powershell窗口,粘贴微软官网的命令执行下载即可
粘贴执行:
dism.exe /online /enable-feature /featurename:Microsoft-Windows-Subsystem-Linux /all /norestart
dism.exe /online /enable-feature /featurename:VirtualMachinePlatform /all /norestart
wsl --set-default-version 2

a84a4bdd3fcb254c4099618232f3e864_ae05858e39c27.png

下载完后会启动一个这个页面,可以关闭。

f999bd7554c21e848372f88e7678ef52_29caa0e9d0ea2.png

注:完成内核更新包安装后需重启系统,再启动下Docker,出现这个界面就代表WSL和Docker都启动成功了。

02b716b18b5fdd38b512700ede92c608_2d7d951cc6d22.png

Docker镜像存储迁移
  这时进入Docker设置中,将Docker的镜像资源存放路径改一下,不然都会下载都C盘。

66d887c07ec1c98a1876a471436d6733_8362d1e0f22dd.png

Docker镜像源加速配置
  至关重要的地方来了,打开Docker的设置中的-->Docker Engine,然后把国内的镜像源复制进去保存,我这里提供一些,如果失效了就百度找新的。
{    "registry-mirrors": [        "https://docker.m.daocloud.io",         "https://noohub.ru",         "https://huecker.io",         "https://dockerhub.timeweb.cloud",         "https://0c105db5188026850f80c001def654a0.mirror.swr.myhuaweicloud.com",         "https://5tqw56kt.mirror.aliyuncs.com",         "https://docker.1panel.live",         "http://mirrors.ustc.edu.cn/",         "http://mirror.azure.cn/",         "https://hub.rat.dev/",         "https://docker.ckyl.me/",         "https://docker.chenby.cn",         "https://docker.hpcloud.cloud",         "https://docker.m.daocloud.io"    ]}

875238ee9d3957e984dfeccb8471732d_640be087c0a87.png

保存镜像源后就可以试一下拉取镜像,如果拉取不成功也可以重启下Docker,还是不行提示超时就说明镜像源失效了,就在网上搜索下新的镜像源。
测试拉取镜像
  在cmd命令窗口输入:docker pull hello-world
  出现这个Status: Dowloaded newer image for hello-world:latest就代表镜像源没有问题。

fa4fddb99533c043e6affbe9b2d3ca72_7cccb4ca29b51.png

安装Dify下载Dify代码包
  进入github下载Dify代码包:https://github.com/langgenius/dify

604819ee2281dd2db34ed22ede0434f0_84f28513f6db8.png

解压代码包后,把压缩后的文件夹复制到自己想要安装的目录下,这里复制一下.env.example文件,然后重命名一下改成.env

f5e41a1c73f4916fc67ec612ff4972bd_32b5182f7dd7d.png

在当前文件路径下输入CMD回车

e6551fe85bbbf7817902efffd40781b0_61c5338594c4e.png

拉取Dify依赖镜像资源
  粘贴以下命令回车,会自动下载一些依赖资源。如果你的下载失败就是镜像源失效了,换一个镜像源,重新拉取镜像。
docker-compose up -d

7ef9149af9c1a6b95072e6102bdd9582_99f107f6119b0.png

下载完成

830e9588e8366775461f1d4efbd4d8ab_efd22c5d0de83.png

回到Docker可以都看到已经下载好的镜像全部都显示了,并且都在运行。

ed57a2f52674f137fc9a8acff852273c_1bcce617c9474.png

进入Dify后台
  输入http://127.0.0.1/会自动打开Dify的页面,有人会遇到这个Internal Server Error报错,这是因为镜像下载来后,有部分镜像还在启动中或未启动,这时候将所有镜像重启一次才可以。

2c6afee2c62418329489d9bb5efdee2c_37cfdf01eb07c.png

重启所有镜像

6dc98094adda5437dbbf9cda37259d01_3af348faf1cb7.png

创建管理员用户
  重新进入Dify管理后台,首次进入需创建管理员用户。

fec0a69afd38f3b6ee1e389103a4e06f_2f2f07f36c5e3.png

 创建管理员用户后,将进入登录界面。

bb405dea4d896b44cd99a0a1e07e52b9_5440e98f21d46.png

登录成功

ef8e2ede7c7cfbc2e6fa150fc2301979_c85190c58ff84.png

添加AI模型
  点击右上角头像-设置成员这里可以创建企业内成员进行登录使用。

24c9e1b02e6affed69741da5f0ebd935_466944f76c61f.png

选择模型供应商
  这里我本地已经安装部署好了Ollama和Deepseek R1和BGE-M3模型

e69d82a47ef8338d951febd67ddaf375_7fa19290ab73a.png

由于我本地已经安装好了Ollama,所以就找到Ollama,点击安装插件,其他供应商选择对应安装。下载可能稍慢,请耐心等待。

2674e50fb3f624a5fe205b8b17a436d7_c726e5696f013.png

添加模型时,若不知模型名称,可在CMD中输入Ollama list查看本地模型名称并复制。

dc5a592bdcf4b24301963ecbf3822277_e935d0f73f382.png

模型类型:推理模型 → LLM
嵌入模型 → Text Embedding
模型名称就把刚刚复制下来的粘贴上去就可以了。这里IP地址要注意了,由于我没有用Docker容器里部署Ollama,而是在本地电脑安装的Ollama,这里对IP就要进行特殊处理下了,需要改为:http://host.docker.internal:11434
网络通信原理:
host.docker.internal为Docker内置域名解析,实现容器与宿主机服务的桥接。简单说就是Docker自己和我们电脑主机网络做了一个映射关系

b9ed87fc7abe088c8291af6d4b88055e_9e4ec761727bc.png

 模型添加完成

8d2b0d4cf1b8388f48ee19b07fd33474_98e24400f1fe4.png

创建应用
  其实我也不太会使用,就简单粗糙的做个示范吧,要深入研究需要找下资料学习下。这里我选择创建聊天助手(每个不同应用的作用不一样,选择与自己相符的就行)

38d58c8dbc1d27e7afa38fa320d18d23_580f6828723dc.png

38d58c8dbc1d27e7afa38fa320d18d23_580f6828723dc.png

 添加一些提示词、变量、知识库、模型,设置好后在右边可以调试预览效果,调试完成后就可以发布应用了。

24c639b82cd538da0554e830ee3608a7_52bc47210bd4d.png

f0351bb46c0fd82ba9124b4779099122_133e0806e3444.png

 这里提一句,由于我自己的电脑资源很一般,所以每次一提问的时候资源就占比很高,不过等AI思考完毕后资源占用会下降。

9dfa7ba8642c6313f859982b6b56f4e5_8176d9daca75d.png

测试结果,虽然回答是错误的。

07b6d9885d94394bf572e9a462211975_cbfd993dfa7fe.png

知识库测试
  我这里测试了下知识库检索,上传了6个本地文档。

4b3d2fc53cc13c0071f543333842fc87_21d758ae26d86.png

然后我简单的定义了提示词后,对模型提出问题:结合知识库帮我找出住在向阳里桃源弄的人员的电话和姓名。

3d90b1924ecc0277b9a39baf88c43529_a2551618b87b5.png
然后真的回答对了,全体起立!
                                  
  这是源文件里的内容。

76448bd69d69ea010c35805747805084_caedebaadca8c.png

WSL资源控制
  由于我是针对个人学习,在学习完后我发现我的电脑内存占比一直居高不下,在任务管理器查到了是一个Vmmem的进程占用,大概也知道应该是虚拟机类的占用。  搜索了下网上资源了解到vmmem是一个由WSL(Windows Subsystem for Linux)创建的虚拟进程,主要用于管理WSL2的内存和CPU资源。当WSL2运行时,Vmmem进程会占用大量的内存和CPU资源,以确保虚拟机的最佳性能。然而,这可能会导致主机系统的其他应用程序运行缓慢或无法正常运行‌。

3b31b41c82e6334deaf9e538b953f1ce_519dfb1056e68.png

关闭WSL服务
  所以如果不用的时候可以关闭掉WSL服务。在cmd里输入:
wsl --shutdown

dc4766729e8a7300fd6900f24a9a0d49_9b74252042344.png

最后的最后
  关于Dify的作用文中提到的只是冰山一角,它真正的厉害之处是它的工作流,由于博主知识有限,只能教大家部署应用,具体的功能开发使用还要大家自行学习,后续博主也会去学习Dify的相关知识,有机会的话就再开一贴。如有讲的不对的地方,敬请指正。附上Dify的官方操作手册地址:https://docs.dify.ai/zh-hans
  这是我整个学习过程中遇到的问题,最后结合百度和AI最后都完成解决了。总结几个小坑:
1、WSL2的安装。
2、Docker容器镜像源的设置。
3、Dify依赖镜像的拉取。
4、Dify添加模型时IP映射设置。

版权说明
文章采用: 《署名-非商业性使用-相同方式共享 4.0 国际 (CC BY-NC-SA 4.0)》许可协议授权。
版权声明:本站资源来自互联网收集,仅供用于学习和交流,请勿用于商业用途。如有侵权、不妥之处,请联系客服并出示版权证明以便删除!
备胎书屋关站后全站小说合集 共60G
« 上一篇 04-26
【外贸福利】「外贸课程大合集—新手到外贸精英全流程」
下一篇 » 04-26