AI大模型之Agent,RAG,LangChain(三)

前面分享了项目的大致流程,这篇主要分享一下LangChain这个框架的个人简单理解.

看懂这篇必须要看我之前发的二,这样便于更好的理解这个框架.

一.简述

1.什么是LangChain

简单来说,LangChain是LLMs的开发框架,他为不同的LLMs提供统一的接口,并且把和LLMs相关的内部组件连接在一起.

2.为什么要学习LangChain

现在大模型金盆始发站,每家大模型的种类繁多,很难说去使用一家产品就去重头开始学习这个模型的API.LangChain提供了一个不用模型的通用的接口.

二.LangChain详解

1.LangChain组成

LangChain实际上就是RAG思想的实现.LangChain作为一个框架,由众多包组成,其中最重要的包有三个.

• LangChain-core

这个包的主要作用是提供底层图纸和通用接口

• LangChain

这个包主要是链接各个模块

• LangChain-community

这个包主要是负责对接第三方的资源

个人建议可以把LangChain这个框架理解为由这三个盒子堆起来的,每个盒子各司其职.

2.LangChain模块

首先是一张LangChain的总体思想图,这张图很好的体现了LangChain这个框架就是RAG思想的实现

下面这张则是LangChain内部的各个模块

总的来看,LangChain由六个模块组成,分别是models,prompt,index,memory,chains,agent.

下面我来详细分析一下各个模块的作用.

1.models模块

models模块主要是存放不同的LLMs,然后提供对外的统一接口.作用相当于是LangChain的大脑,主要负责的是对输入的prompt进行处理输出结果

2.prompt模块

prompt模块主要是对models提供指引信息,引导models输出正确的答案

3.index模块

index模块是把外部知识库转换为模型熟悉的格式,模型是向量,所以index也是向量

4.memory模块

memory模块是保存之前信息的模块.

提起这个模块,我记得这里还有一道面试题.项目经理问:我的儿子喜欢和豆包玩,为什么一个月以后豆包还记得我的儿子之前说过的话?答案就是Models的Memory模块.大模型会自动总结长文本,为之后生成信息提供参考.

5.chains模块

chains模块的理解还是比较简单的,主要负责把各个模块链接起来.但是实现起来是比较麻烦的.

这里我提供一个简单的理解方法:

比如说(让模型在<三国演义>里面找出借东风的情节(index),结果之前聊的三国人物(memory)最后生成一段故事讲解(model)),chains会自动把这些模块连起来做.

6.Agent模块

Agent模块的作用比较抽象,他是让model自己决定先做哪一个模块,后做哪一个模块,相当于告诉大模型你的执行顺序.