在网上做兼职美工有哪些网站,网站UI怎么做,渭南市工程项目网上审批大厅,品牌网查询1 anget介绍和openai标准接口
agent的核心是其代理协同工作的能力。每个代理都有其特定的能力和角色#xff0c;你需要定义代理之间的互动行为#xff0c;即当一个代理从另一个代理收到消息时该如何回复。 agent目前大多使用openai标准接口调用LLM服务#xff0c;说明如下。…1 anget介绍和openai标准接口
agent的核心是其代理协同工作的能力。每个代理都有其特定的能力和角色你需要定义代理之间的互动行为即当一个代理从另一个代理收到消息时该如何回复。 agent目前大多使用openai标准接口调用LLM服务说明如下。
标准接口示例如下其中role包括system设定了 AI 的行为和角色和背景user我们输入的问题或请求assistant自动生成
import openai
response openai.ChatCompletion.create(modelgpt-3.5-turbo,messages[{role: system, content: 你正在与一位科幻小说的专家交谈。},{role: user, content: 我正在写一部科幻小说故事发生在一个遥远的星球上主人公是一个探险家。你有什么建议可以让我的故事更引人入胜吗},]
)
print(response[choices][0][message][content])2 autogen
微软家的autogen默认撰写python代码来求解问题。
2.1 直接调用接口
autogen中可以参考下面的代码OpenAIWrapper封装openai标准接口服务后可以直接使用create方法调用本地LLM服务
from autogen import OpenAIWrapper
client OpenAIWrapper(api_keyNULL, base_urlhttp://localhost:2600/v1, api_typeopen_ai)
question 世界上最高峰是什么
response client.create(messages[{role: user, content: 用户%sAI%question}], modelguff)
print(client.extract_text_or_completion_object(response))2.2 UserProxyAgent和AssistantAgent
autogen的AssistantAgent 设计为充当 AI 助手默认使用 LLM。它可以编写 Python 代码在 Python 编码块中供用户在收到消息通常是需要解决的任务的描述时执行。它还可以接收执行结果并建议更正或错误修复。 而UserProxyAgent 是人类的代理代理默认情况下在每个交互回合中将人工输入作为代理的回复并且还具有执行代码和调用函数的能力。当它在收到的消息中检测到可执行代码块且未提供人类用户输入时会自动 UserProxyAgent 触发代码执行。可以通过将 code_execution_config 参数设置为 False 来禁用代码执行。 下面是个简单的调用例子
from autogen import AssistantAgent, UserProxyAgent
config_list [{model: minicpm,base_url: http://127.0.0.1:2600/v1,api_type: open_ai,api_key: NULL}]
assistant AssistantAgent(assistant, llm_config{config_list: config_list})
user_proxy UserProxyAgent(user_proxy, code_execution_config{work_dir: coding,use_docker:False})
# 构造参与代理后可以通过初始化步骤启动多代理对话会话用户代理发起聊天
user_proxy.initiate_chat(assistant, message给我讲个笑话。)输出如下
下面的例子展示了如何使用这两个agent一步步完成任务
from autogen import AssistantAgent, UserProxyAgent
config_list [{model: minicpm,base_url: http://127.0.0.1:2600/v1,api_type: open_ai,api_key: NULL}]
assistant AssistantAgent(assistant, llm_config {config_list: config_list,temperature: 0.1,max_tokens:16000,})
user_proxy UserProxyAgent(user_proxy, code_execution_config{work_dir: coding, use_docker: False})
user_proxy.initiate_chat(assistant, messagePlot a chart of NVDA and TESLA stock price change YTD.)3. Qwen-gen
3.1 使用方法
和autogen不一样Qwen-gen的角色名字需要写在函数的json中下面是一个chatbot的示例 其他的功能貌似不太好用可能是因为用的不是Qwen的LLM功能
