大模型总“犯错”？别怕，LangChain来拯救你的AI智商！

发布日期：2024-04-06 08:04:32 浏览次数： 3664

作者：李孟聊AI

微信搜一搜，关注“李孟聊AI”

大模型，它们能通过一系列的推理步骤来完成相当复杂的任务，真的很厉害。

但是，你有没有发现，它们有时候也会“犯错”呢？

这其实是因为大模型有一个固有的问题：它们无法主动更新自己的知识。

换句话说，它们只能依靠训练时学到的那些东西，以及我们给它们的提示信息来做出回答。

如果超出了这个范围，它们要么坦诚地告诉你“我不知道”，要么就开始瞎猜了。

那么，面对这一问题，我们该如何是好呢？

这时，LangChain走进了我们的视野。

LangChain是一个强大的应用开发工具，它基于大语言模型的预测能力，以灵活和模块化的方式简化语言模型的处理。

它是否就是我们解决大模型知识更新难题的钥匙呢？

LangChain开源框架又是如何帮助大模型实现知识库的实时更新的呢？

LangChain的运作原理又是什么呢？

我们一起探究下。

大模型的问题与解决思路

当我们给大模型一个提示时，它会先在自己的本地知识库里找找看，有没有相关的信息。

如果找到了，它就会仔细地比对一下，看看我们给的信息和它的知识库里的是不是一样。

如果一样，那就说明我们的信息是靠得住的，大模型就会放心大胆地输出答案。

但是，如果大模型在自己的知识库里没找到相关的信息怎么办呢？

我需要借助“外部工具”。

ReAct框架与代理的作用

当我们需要模型自主行动时，背后其实有个默默工作的“代理”。

在LangChain里，它就像个多功能的接口，连接大模型和外部工具。但要让这个代理真正发挥作用，还需要三个关键元素：大模型、外部工具和控制它们的代理。

大模型负责思考和预测，外部工具提供数据和信息，而代理则是这一切的协调者。

不过，这里有个问题：大模型怎么知道自己下一步要做什么呢？

这就需要代理出场了。

代理会引导大模型进行观察、思考和行动，就像人一样。

这背后的秘密武器就是ReAct框架，它让大模型能像人一样学习新任务、做决策。

但仅仅这样还不够，因为大模型有时会“幻觉”，给出不真实的信息。

这时，ReAct框架和思维链的结合就派上用场了。

它们让大模型能同时使用内部和外部的知识，给出更真实、可靠的答案。

现在，你是不是对LangChain和ReAct框架更感兴趣了？

我们一起看下代码实现。

在开始之前，有一个准备工作，就是你需要在 serpapi.com 注册一个账号，并且拿到你的 SERPAPI_API_KEY，这个就是我们要为大模型提供的 Google 搜索工具。

import os
os.environ["OPENAI_API_KEY"] = 'Your OpenAI API Key'
os.environ["SERPAPI_API_KEY"] = 'Your SerpAPI API Key'

# 导入新的包和类
from langchain_openai import OpenAI
from langchain.agents import load_tools, AgentExecutor
# 使用新的代理构造方法（这里只是一个示例，根据你的需要选择正确的方法）
from langchain.agents import create_react_agent
from langchain import hub

prompt = hub.pull("hwchase17/react")

# 初始化LLM
llm = OpenAI(temperature=0)

# 加载工具
tools = load_tools(["serpapi", "llm-math"], llm=llm)

# 使用新的方法创建代理
agent = create_react_agent(tools=tools, llm=llm, prompt=prompt)

agent_executor = AgentExecutor(agent=agent, tools=tools, verbose=True)

# 使用invoke代替run（根据你选择的代理类型，这里的方法可能需要相应更改）
response = agent_executor.invoke({"input": "目前市场上python技术书的平均价格是多少？如果我在此基础上加价15%卖出，应该如何定价？"})

# 输出结果
print(response)