大模型的“手和脚”——连接外部应用的通道函数调用(function calling)，AI Agent的实现方式之一

发布日期：2024-07-18 21:06:46 浏览次数： 3836

“ AI Agent就是大模型通过外部接口构建的手脚健全的智能体”

怎么让大模型像真正的人类一样能够独立思考，使用外部工具；这是很多人都在考虑的问题，而这就是AI Agent(AI 代理)，一个类人的智能体。

但怎么实现AI Agent又是一个值得思考的问题，而今天就讲解一下通过调用外部工具实现AI Agent的方式——函数调用(function calling)。

—

什么是函数调用，为什么选择函数调用？

大模型作为人工智能最火的技术，从功能上来讲它更像一个“大脑”，它没有“手和脚”，因此它的能力范围很有限。

而且因为大模型无法获取实时信息，所以从这一点来说它和人的差距有点大。

但能不能让它具备人的能力呢？也就是通过外部工具获取实时信息，或者是它能力圈之外的事情。

举个例子，你问大模型今天的天气怎么样，温湿度是多少？这样的问题，即使是人也无法给出准确的回答，但可以通过天气APP获取到这些信息。

因此，只需要让大模型具有访问查询天气情况接口的能力，那么这个问题就可以被解决了，而类似于查询天气的这种接口，统一称为工具(tool)。

但大模型本身又不具备调用网络的能力，那么怎么才能实现这个功能呢？

这时函数调用的作用就体现出来了，所谓的函数就是一个能实现特定功能的代码段，它们有设定的输入参数和返回值，这样就可以使用函数调用各种工具实现大模型无法实现的功能。

之所以选择函数调用，原因就是因为函数调用比较简单，大模型只需要返回几个参数即可实现函数调用。

—

function call的实现过程

在正常的开发流程中，不论是函数调用还是API调用，都是开发者进行传参，然后获得返回值。

没了解过function call的人可能会认为，函数调用就是大模型调用python等语言的解释器，执行目标代码并获得结果。

事实上，在function call中，大模型并不负责函数的执行，大模型的作用是根据用户的问题，理解用户的需求，然后根据用户需求确定具体的回调函数以及函数所需要的参数。

openAI官方文档明确指出，大模型不会真正执行函数调用，而是由应用开发者根据大模型的返回进行具体的函数调用。

因此，在实现function call的过程中，应用开发者需要预先设定一个工具集，并负责工具集的实现。

# 定义工具集tools = [{"type": "function","function": {"name": "get_current_weather","description": "Get the current weather in a given location","parameters": {"type": "object","properties": {"location": {"type": "string","description": "The city and state, e.g. San Francisco, CA",},"unit": {"type": "string", "enum": ["celsius", "fahrenheit"]},},"required": ["location"],},},}]    # 工具集函数d 实现def get_current_weather(location, unit="fahrenheit"):"""Get the current weather in a given location"""if "tokyo" in location.lower():return json.dumps({"location": "Tokyo", "temperature": "10", "unit": unit})elif "san francisco" in location.lower():return json.dumps({"location": "San Francisco", "temperature": "72", "unit": unit})elif "paris" in location.lower():return json.dumps({"location": "Paris", "temperature": "22", "unit": unit})else:return json.dumps({"location": location, "temperature": "unknown"})

用户在调用大模型时，需要把当前工具集传给大模型。

# 在参数tools中传入工具集client = openAI(api_key="你的openai密钥")response = client.chat.completions.create(model='gpt-4o', messages=messages, tools= tools, tool_choice="auto")

这时，大模型就可以通过理解用户的输入，然后返回所需工具的名称和参数，然后就可以根据名称和参数调用具体的工具，如天气查询接口。

大模型函数调用的流程如下图所示，从下图可以看出，大模型使用工具需要两次输入。

# 大模型返回的需要调用的函数名称和参数{"role": "assistant", "content": "", "tool_calls": [{"function": {"name": "get_current_weather", "arguments": "{\"properties\": {\"location\": {\"description\": \"北京市\", \"type\": \"string\"}}}"}, "id": "", "type": "function"}]}

第一次输入是用户提问，大模型根据提问内容解析出需要调用的函数；第二次是把函数的执行结果传入到模型中；最后，模型根据函数的执行结果返回给用户。