从零到一：基于Ollama与国产模型构建轻量级知识图谱RAG系统
1. 环境准备与工具选型
第一次接触知识图谱RAG系统时，我和很多初学者一样被各种术语绕晕了。直到发现Ollama这个神器，才真正体会到本地部署大模型的乐趣。这次我们选择的组合是Qwen2.5语言模型+bge-large-zh-v1.5嵌入模型，这对国产CP在中文场景下的表现让我惊喜。
先说说硬件门槛：我的测试机是台5年前的游戏本，GTX1660显卡+16G内存就能流畅运行。如果你用MacBook，M1芯片以上机型表现会更佳。软件环境建议直接用conda管理：
conda create -n LightRAG python=3.10 conda activate LightRAG这里有个坑要注意：python版本必须用3.9或3.10，3.11以上版本会遇到依赖冲突。安装LightRAG时推荐源码安装，能随时查看最新修复：
git clone https://github.com/HKUDS/LightRAG cd LightRAG pip install -e .模型部署方面，Ollama的安装比想象中简单。下载官方安装包后，终端输入ollama pull qwen2.5就能自动下载模型。我实测在100M宽带下，7B参数的Qwen2.5模型20分钟就能下载完成。
2. 数据准备与模型适配
官方示例用的英文数据对中文场景参考有限，我改用《射雕英雄传》txt文本做测试。建议文本编码保存为UTF-8格式，否则读取时会出现乱码。文本预处理时发现个细节：段落之间最好用两个换行符分隔，这样chunk分割更准确。
关键步骤是模型参数适配，这里栽过跟头。bge-large-zh-v1.5的max_token_size是512，而源码默认4000会导致运行时崩溃。需要修改两处关键配置：
# lightrag_ollama_demo.py中embedding_func参数 embedding_func=EmbeddingFunc( embedding_dim=1024, # bge专用维度 max_token_size=512, # 必须与模型匹配 func=lambda texts: ollama_embedding( texts, embed_model="quentinz/bge-large-zh-v1.5", host="http://localhost:11434" ) ) # base.py中的QueryParam类 max_token_for_text_unit: int = 512 max_token_for_global_context: int = 512 max_token_for_local_context: int = 512实测发现chunk_token_size设为300效果最佳，既能保证上下文连贯性，又不会超出模型限制。如果处理专业文献，建议调整到200-250区间。
3. 中文场景实战调优
直接跑英文示例时一切正常，换成中文数据却提取不出实体。排查发现是prompt模板没本地化，在lightrag/core.py中找到原始prompt，我将其改造成中文版本：
ENTITY_EXTRACTION_TEMPLATE = """请从以下文本中提取实体及其关系： {text} 输出要求： 1. 识别所有重要实体 2. 用中文描述实体间关系 3. 格式：[实体1][关系][实体2]"""另一个性能优化点是调整ollama的num_ctx参数。Qwen2.5支持8k上下文，但实际使用时设为4096更稳定：
llm_model_kwargs={ "host": "http://localhost:11434", "options": {"num_ctx": 4096} # 平衡性能与内存消耗 }对于长文本处理，建议启用流式输出。在query方法中添加stream=True参数，能实时看到生成过程，避免长时间等待的焦虑。
4. 可视化与问题排查
Neo4j桌面版是可视化神器，社区版完全够用。配置时注意修改bolt连接地址为localhost:7687，账号密码默认为neo4j/neo4j。首次登录会要求修改密码，记得在代码中同步更新：
# 在LightRAG初始化时添加 graph_db_config={ "uri": "bolt://localhost:7687", "auth": ("neo4j", "your_new_password") }遇到实体识别不准时，可以尝试以下方案：
- 在insert前对文本进行分句处理
- 调整chunk_overlap_token_size到50-100区间
- 为LLM添加示例few-shot prompt
内存不足的问题很常见，我的解决方法是：
- 在ollama启动时添加
OLLAMA_MAX_LOADED_MODELS=2环境变量 - 修改config.json中的"num_thread"为物理核心数减一
- 启用量化版本的qwen2.5模型
5. 性能优化技巧
经过两周的调优测试，总结出几个提升效率的实战技巧：
- 批量插入优化：处理超过1MB的大文件时，改用批处理模式
with open("novel.txt") as f: for paragraph in f.read().split("\n\n"): # 按空行分段落 rag.insert(paragraph, batch_size=10)- 缓存机制：LightRAG默认会缓存中间结果，但有时需要手动清理
rm -rf ./dickens/.cache # 删除缓存目录- 混合搜索策略：不同查询模式适合不同场景
- 人物关系查询用global模式
- 具体事件检索用local模式
- 综合性问题用hybrid模式
- 监控资源占用：开个终端窗口运行
ollama serve > ollama.log 2>&1，输出日志能直观看到内存波动。
这套系统现在已经成为我的个人知识管理利器，从技术文档到小说分析都能胜任。最近正在尝试接入PDF解析模块，下一步计划实现自动摘要生成功能。