本地部署deepseek,并投喂数据

话说回来了,为啥要本地部署呢?
① 在使用DeepSeek中,经常会出现服务器繁忙,请稍后再试。
② 不想让个人隐私数据暴露出去
③ 可将各种格式的文件,如pdf、csv、txt、md 格式的数据投喂给它。比如你想让 DeepSeek 了解你的公司业务,就把相关的文档上传给它。

DeepSeek 就能吃下你给它的各种“知识大餐”,然后变得更聪明,更懂你。

1.RAG是什么?

为了投喂数据,我们要用到RAG。首先,我们先来了解下什么是RAG?

首先我们在命令行输入:ollama run deepseek-r1:7b 命令,启动DeepSeek

然后打开浏览器并输入快捷键:ctrl+shift+l 调出WebUI可视化AI界面
输入:RAG是什么?

翻译成大白话就是:我们把知识放到知识库里,然后把它投喂给人工智能。我们需要用一个量化的工具,把各种格式的数据量化给人工智能,让它能看得懂。

人工智能通过对这些知识的学习后,以后你再问它的时候,他就能将知识提取出来,加工处理后回答你的问题。

RAG 就是让 DeepSeek 不仅能靠自己的知识库回答问题,还能通过检索外部数据来增强回答的准确性和丰富性。就好比你考试时偷偷带了小抄,但 DeepSeek 是光明正大地“作弊”,还能把答案说得头头是道。

2.拉取nomic-embed-text

刚说了RAG是啥?我们需要一个RAG工具来完成量化工作。

各种开源免费的RAG工具挺多,我们这里选择最近比较获得ollama 提供的nomic-embed-text。

https://ollama.com/library/nomic-embed-text

我们使用上面圈出来的命令拉取即可,274M,大约1min左右就可以下完,出现【success】字样表示下载成功。

3.RAG设置

打开WebUI界面,我们会看到一个RAG设置文本嵌入模型。

文本嵌入模型就是把我们投喂的各种文档数据量化成DeepSeek认识的数据。

4.添加新知识

工具都准备好后,我们开始准备给DeepSeek投喂数据……

4.1 投喂前不认识陈仕宝

4.2 准备投喂的数据

接下来,将陈仕宝事先准备好的关于陈仕宝的简介【程序员陈仕宝.md】文档投喂给它,文档内容如下。

4.3 投喂数据

投喂数据

上传数据成功

投喂完成后,已经认识陈仕宝了,重新验证数据

以上就是投喂数据的过程。

参考文档:https://www.cnblogs.com/xiezhr/p/18714692

来源链接:https://www.cnblogs.com/chenshibao/p/18822610

© 版权声明
THE END
支持一下吧
点赞6 分享
评论 抢沙发
头像
请文明发言!
提交
头像

昵称

取消
昵称表情代码快捷回复

    暂无评论内容