<h1 id="cl-1"><a class="markdownIt-Anchor" href="#cl-1"></a><strong>前言：</strong></h1> <strong>随着大模型的不断发展，人们对其要求也在不断提高，过往的通用大模型已经不能满足需求，更需要的是针对某个领域特定的大模型。但是从头开始训练一个模型又会很麻烦，不过，微软给了我们一个思路，那就是graphrag。本篇文件将利用graphrag和ollama搭建一个本地的大模型数据库</strong> <h1 id="cl-2"><a class="markdownIt-Anchor" href="#cl-2"></a>服务器的选择 HAI：</h1> 因为我们是要在本地运行大模型，首先要选一个带有gpu的服务器（如果选用纯cpu的服务器，速度会很慢）。 这里推荐的是购买腾讯云双十一的gpu服务器现金券，用它来开gpu服务器，效果很好 <img src="https://blog.img.07120831.xyz/2026/02/1770487692327-25.png" alt="请在此添加图片描述" /> 购买完成后，我们进入HAI的控制台 进入后点击新建 <img src="https://blog.img.07120831.xyz/2026/02/1770487692737-40.png" alt="请在此添加图片描述" /> 我们这里预设模板选择ollama，地区根据你自己的喜好购买（腾讯云这里提供了免费的学术加速，无需担心网络） <img src="https://blog.img.07120831.xyz/2026/02/1770487706292-357.png" alt="请在此添加图片描述" /> 选好后我们点击立即购买即可 配置环境 购买完成后，我们点击算力链接，我们这里用的是cloud studio <img src="https://blog.img.07120831.xyz/2026/02/1770487725886-193.png" alt="请在此添加图片描述" /> <h1 id="cl-3"><a class="markdownIt-Anchor" href="#cl-3"></a>服务器的选择 CVM：</h1> 想必hai服务器，更推荐cvm服务器，因为cvm在其他方面更灵活，有更多的配置进行选择，而且可以随时创建镜像，方便数据保存 <img src="https://blog.img.07120831.xyz/2026/02/1770487699260-309.png" alt="请在此添加图片描述" /> 这里，我们可以选择不同的服务器，同时最近腾讯云双十一也在举行拼团活动，可以活动更多的优惠时长，欢迎大家来看看 <a class="wp-editor-md-post-content-link" href="https://cloud.tencent.com/act/pro/double11-2024?fromSource=gwzcw.8891731.8891731.8891731">https://cloud.tencent.com/act/pro/double11-2024</a> 以下操作和cvm服务器的Linux操作系统下操作一样 <h1 id="cl-4"><a class="markdownIt-Anchor" href="#cl-4"></a>检查ollama</h1> 因为是预装了ollama。我们只需要检查一下ollama是否正常就行了 <img src="https://blog.img.07120831.xyz/2026/02/1770487693235-999.png" alt="文本描述已自动生成" /> 我们点击新建终端，开启一个新终端 我们输入ollama，看看是否能够正常输出内容 <img src="https://blog.img.07120831.xyz/2026/02/1770487698692-568.png" alt="文本描述已自动生成" /> 如果可以正常输出，就证明ollama配置没有问题 我们继续下载个新模型，直接输入 <pre><code class="language-txt line-numbers">ollama run llama2-chinese </code></pre> <img src="https://blog.img.07120831.xyz/2026/02/1770487701215-529.png" alt="请在此添加图片描述" /> <img src="https://blog.img.07120831.xyz/2026/02/1770487700486-374.png" alt="请在此添加图片描述" /> 因为自带学术加速，速度还是不错的 这样 ollama本地大模型我们就不用管了，接下来安装配置graphrag <h1 id="cl-5"><a class="markdownIt-Anchor" href="#cl-5"></a>安装graphrag</h1> <ol> <li>因为自带conda，我们使用虚拟环境就方便很多</li> </ol> <pre><code class="language-txt line-numbers">conda create -n rag python=3.12 </code></pre> <img src="https://blog.img.07120831.xyz/2026/02/1770487700064-402.png" alt="请在此添加图片描述" /> 直接输入这条指令，我们就可以创建一个python3.12的环境，会方便很多 完成后，我们输入conda activate rag即可进入虚拟环境 随后我们输入 <pre><code class="language-txt line-numbers">pip install graphrag </code></pre> 他会自动安装原版的graphrag <img src="https://blog.img.07120831.xyz/2026/02/1770487699676-299.png" alt="请在此添加图片描述" /> 完成后，我们在目前的文件夹创建一个ragtest文件夹 或者使用指令 <pre><code class="language-txt line-numbers">mkdir -p ./ragtest/input </code></pre> <img src="https://blog.img.07120831.xyz/2026/02/1770487703338-378.png" alt="请在此添加图片描述" /> 创建后，我们初始化这个索引文件 <pre><code class="language-txt line-numbers">graphrag init --root ./ragtest </code></pre> 完成后 将创建两个文件：.env和settings.yaml，其中，settings是设置文件，因为我们是本地对接ollama，所以要做一些修改 我们把替换文件替换过去（感谢哔哩哔哩up主@<a class="wp-editor-md-post-content-link" href="https://space.bilibili.com/566070009">深圳大学城市空间信息</a>提供的替换文件 网盘链接： <a class="wp-editor-md-post-content-link" href="https://pan.baidu.com/s/1li35HD80IulxJntWcI9DFw?pwd=s53j">https://pan.baidu.com/s/1li35HD80IulxJntWcI9DFw?pwd=s53j</a> 提取码: s53j ） <img src="https://blog.img.07120831.xyz/2026/02/1770487702906-713.png" alt="文本描述已自动生成" /> 我们打开graphrag的安装目录（部分可能有所差异） <img src="https://blog.img.07120831.xyz/2026/02/1770487702394-218.png" alt="文本描述已自动生成" /> 我们依次按照目录替换文件 /root/miniforge3/envs/rag/lib/python3.12/site-packages/graphrag/query/llm/oai <img src="https://blog.img.07120831.xyz/2026/02/1770487701810-270.png" alt="请在此添加图片描述" /> . /root/miniforge3/envs/rag/lib/python3.12/site-packages/graphrag/llm/openai <img src="https://blog.img.07120831.xyz/2026/02/1770487705555-704.png" alt="图形用户界描述已自动生成" /> 替换完成后，我们返回到原先的文件夹就可以了 我们往input文件夹放一个TXT文档，这个txt文档就是我们要构建数据库的文档 <img src="https://blog.img.07120831.xyz/2026/02/1770487704996-285.png" alt="手机屏幕的截描述已自动生成" /> 然后我们执行 <pre><code class="language-txt line-numbers">graphrag index --root ./ragtest </code></pre> 然后我们稍等即可 <img src="https://blog.img.07120831.xyz/2026/02/1770487704585-355.png" alt="文本描述已自动生成" /> 具体的速度快慢和最后成功好坏，取决于你本地的算力多少 这里也可以使用在线的大模型，不过需要是openai的格式，并且执行一次索引耗费的token较多，需要谨慎考虑 当最后提示🚀 All workflows completed successfully.，就表示我们建立成功了 <img src="https://blog.img.07120831.xyz/2026/02/1770487703917-962.png" alt="文本描述已自动生成" /> 此时我们就可以进行检索了 输入 <pre><code class="language-txt line-numbers">python -m graphrag.query --root ./ragtest --method global --query "你的问题" </code></pre> 即可进行查询 <img src="https://blog.img.07120831.xyz/2026/02/1770487707387-610.png" alt="文本描述已自动生成" /> 因为不同安装方式有部分差异，请根据自己的安装方式进行调整 <h1 id="cl-6"><a class="markdownIt-Anchor" href="#cl-6"></a>常见问题</h1> 1.为什么我最后出来的结果是英文？ 答：可能是因为你使用的提示词模板是英文提示词，本地llm模型在其影响下输出了英文数据 解决方法：更换中文提示词 <blockquote> <a class="wp-editor-md-post-content-link" href="https://i0.wp.com/developer.qcloudimg.com/user/attachment/2518317/20241109-090f0e2a.zip">#提示词.zip#</a> </blockquote> 下载后替换到prompts文件夹接口 2.为什么无法正常索引 答：这个问题涉及到比较多，可能是配置文件部分地方修改问题，最容易出现问题的是api接口这里，我们要根据实际情况修改api接口，我们可以查看本机上ollama的服务器端口，来进行修改 <img src="https://blog.img.07120831.xyz/2026/02/1770487706799-319.png" alt="请在此添加图片描述" /> 另一方面，可能是llm模型的问题，我们可以通过修改model修改，我们可以通过输入ollama list指令来看本机上有哪些大模型 3.输出的缺少文件 答：这个大概率是api接口超时了，或者是达到阈值了，这个多出现在使用在线模型的时候，本地大模型很少出现，可以尝试更换模型重新跑的方式来解决
![2核2G服务器跑270M LLM模型[测试]](https://blog.img.07120831.xyz/2026/02/1770487383979-464.png )
