宁波四方网络网站建设,杭州余杭区抖音seo质量高,杭州马家厨房食品有限公司成立,沃家组网网络服务费欢迎阅读本系列文章#xff01;我将带你一起探索如何利用OpenAI API开发GPT应用。无论你是编程新手还是资深开发者#xff0c;都能在这里获得灵感和收获。
本文#xff0c;我们将继续展示聊天API中插件的使用方法#xff0c;让你能够轻松驾驭这个强大的工具。
插件运行效…欢迎阅读本系列文章我将带你一起探索如何利用OpenAI API开发GPT应用。无论你是编程新手还是资深开发者都能在这里获得灵感和收获。
本文我们将继续展示聊天API中插件的使用方法让你能够轻松驾驭这个强大的工具。
插件运行效果
首先给大家展示下插件的运行效果如下图所示 可以看到每次询问GPT它都会返回指定城市的实时天气信息这个天气是真实的不是GPT瞎编的是GPT通过一个实时天气插件查询到的。
插件运行原理
知己知彼百战不殆首先让我们来了解下插件的运行原理。如下图所示 首先我们在客户端发起一个聊天会话比如询问GPT“今天天气怎么样”
为了使用我们自己的插件我们还需要告诉GPT有哪些插件可用目前这需要我们在发起聊天时传递一个支持的插件列表给GPT。
然后GPT收到我们的聊天后它会根据用户的聊天内容去匹配插件并在返回的消息中指示命中了哪些插件这个匹配是根据GPT的语言理解能力做出的。
然后客户端就可以检查命中了哪些插件并调用执行本地相应的插件方法。插件方法是在本地执行的这也比较合理如果放到GPT服务端GPT不仅要适配各种计算能力还可能面临巨大的安全风险。
然后客户端将插件的执行结果附加到本次聊天会话中再次发起聊天请求GPT收到后会根据首次聊天请求和插件生成的内容组织本次聊天响应结果再返回给用户。
这样就完成了一次基于插件的GPT会话。
插件使用示例
基于上面的运行原理我们来编写一个GPT插件的示例程序。
在这个示例程序中我将提供一个天气查询的插件当用户询问GPT今天的天气时GPT就会命中这个插件然后插件会调用外部API获取实时的天气情况最后GPT会使用插件生成的结果组织一段文字回复返回给用户。
编写天气插件
这里我们将使用“心知天气”提供的免费天气查询服务大家感兴趣的可以去这里注册个账号心知天气 - 高精度气象数据 - 天气数据API接口 - 行业气象解决方案注册成功后需要复制账号的私钥调用天气接口时会用到。 然后我们就可以编写天气查询插件了这里直接给出我的代码
def get_city_weather(param):city json.loads(param)[city]params {key: 这里换成你的天气产品私钥,location: city,language: zh-Hans,unit: c,}url https://api.seniverse.com/v3/weather/now.jsonr requests.get(url, paramsparams)data r.json()[results]address data[0][location][path]temperature data[0][now][temperature]text data[0][now][text]return address当前天气text温度temperature ℃
可以看到就是一个Python函数接收json格式的参数返回天气描述信息。
注意这里的参数格式包括有哪些参数是和GPT大模型匹配过的下文会讲到怎么定义参数。
接口的主要逻辑就是使用城市名称调用实时天气接口获取天气信息然后再拼接成一段话并返回。
我这里只使用了天气的部分指标详细指标大家可以看接口文档
此处为语雀内容卡片点击链接查看天气实况 · 心知科技
发起带插件的聊天
话不多说看代码
client OpenAI(api_keysk-xxx)# 聊天消息上下文
messages[{role: user,content: 请问现在天气怎么样,
}]# 天气插件
weather_tool {type: function,function: {name: get_city_weather,description: 获取某个城市的天气,parameters: {type: object,properties: {city: {type: string,description: 城市名称,},},required: [city],},}}# 发起聊天请求
response client.chat.completions.create(messagesmessages,modelgpt-3.5-turbo-1106,streamFalse,# 插件相关tool_choiceauto,tools[weather_tool]
)
在上面这段代码中我们首先声明了一个OpenAI客户端没有API Key的同学可以看文章最后。
然后我们创建了一个很普通的聊天会话就是以普通用户的身份询问GPT今天的天气情况。
然后我们定义了一个天气插件其实就是一个Json对象。
type目前只能传 fucntion也就是说目前插件就是外置函数。function函数的定义。 name函数的名称这里就是我们上边定义的 get_city_weather。description函数的描述GPT将使用这个描述来决定什么时候以及如何调用函数。parameters函数的参数。 type固定objectproperties定义函数的各个参数每个参数包含两个属性type和descriptiondescription也很重要让GPT模型知道怎么来提供这个参数。required数组定义必填的参数。
最后我们向GPT发起本次聊天请求其中增加了关于插件的两个参数
tool_choice开启插件固定值 auto设置为none则不使用插件。tools插件列表包含我们上边定义的 weather_tool 插件。
处理插件命中
如果GPT大模型命中了插件它会在返回值中携带一些信息。根据这些信息我们可以知道要调用哪个插件的函数然后再把函数的执行结果附加到消息上下文中再请求GPT大模型GPT大模型会使用函数返回值组织文本内容最终返回给用户。
相关代码如下
response_message response.choices[0].message
if response_message.tool_calls is not None:tool_call response_message.tool_calls[0]messages.append(response_message)messages.append({role: tool,content: get_city_weather(tool_call.function.arguments),tool_call_id: tool_call.id})response client.chat.completions.create(messagesmessages,modelgpt-3.5-turbo-1106,streamFalse,tool_choiceauto,tools[weather_tool])print(response_message.choices[0].message.content)
判断是否命中插件使用的是 response_message.tool_calls is not None也就是返回值中的 tool_calls 不为空因为这里只有一个插件所以我们没有做进一步的判断如果有多个插件可以遍历tool_calls根据插件关联函数的 name选择执行不同的方法。
注意这里我们把本次响应的消息又追加到了上下文中messages.append(response_message)。
然后我们又追加了插件生成的消息就是下面这段
messages.append({role: tool,content: get_city_weather(tool_call.function.arguments),tool_call_id: tool_call.id})
介绍下这几个字段
role指定这个消息来自插件。content指定消息的内容。get_city_weather 就是我们上边定义的插件方法而它的参数 tool_call.function.arguments 则是大模型生成的 这个方法会在在本地执行并生成一段天气信息描述。tool_call_id这段消息关联的插件id需要让大模型了解这个数据关系。
然后我们又通过 client.chat.completions.create 向GPT大模型发起请求 并拿到最终的返回结果。
完整的代码示例
因为上文中两次请求GPT大模型的方法都是一样的所以我们这里把它抽象为一个方法。
另外为了充分展现插件的使用方法这里会向GPT询问三个城市的天气信息通过循环发起。
from openai import OpenAI
import json
import requests
import time# 获取天气的方法
def get_city_weather(param):city json.loads(param)[city]params {key: 这里换成你的天气产品私钥,location: city,language: zh-Hans,unit: c,}url https://api.seniverse.com/v3/weather/now.jsonr requests.get(url, paramsparams)data r.json()[results]#print(json.dumps(data))address data[0][location][path]temperature data[0][now][temperature]text data[0][now][text]return address当前天气text温度temperature ℃# 天气插件的定义
weather_tool {type: function,function: {name: get_city_weather,description: 获取某个城市的天气,parameters: {type: object,properties: {city: {type: string,description: 城市名称,},},required: [city],},}}# 创建OpenAI客户端获取API Key请看文章最后
client OpenAI(api_keysk-xxx)# 定义请求GPT的通用方法
def create_completion():return client.chat.completions.create(messagesmessages,modelgpt-3.5-turbo-1106,streamFalse,tool_choiceauto,tools[weather_tool])# 我的三个问题
questions [请问现在天气怎么样,请问上海天气怎么样,请问广州天气怎么样]# 聊天上下文初始为空
messages[]print(---GPT天气插件演示--- )# 遍历询问我的问题
for question in questions: # 将问题添加到上下文中messages.append({role: user,content: question,})print(路人甲: ,question)# 请求GPT并拿到响应response_message create_completion().choices[0].message# 把响应添加到聊天上下文中messages.append(response_message)#print(response_message)# 根据插件命中情况执行插件逻辑if response_message.tool_calls is not None:tool_call response_message.tool_calls[0]#print(tool_call: ,tool_call.id)# 追加插件生成的天气内容到聊天上下文weather_info get_city_weather(tool_call.function.arguments)#print(weather_info)messages.append({role: tool,content: weather_info,tool_call_id: tool_call.id})# 再次发起聊天second_chat_completion create_completion()gpt_output second_chat_completion.choices[0].message.content# 打印GPT合成的天气内容print(GPT: ,gpt_output)time.sleep(0.2)# 将GPT的回答也追加到上下文中messages.append({role: assistant,content: gpt_output,}) 以上就是本文的主要内容有没有感受到插件的强大能力
后续我还会继续分享图片、语音、文档助手等API的使用方法。 如需GPT账号、学习陪伴群、AI编程训练营推荐关注小册大模型应用开发 | API 实操 关注萤火架构加速技术提升
