网站服务器安装教程视频,百度推广让我先做虚拟网站后,网站建设匠人匠心科技,深圳龙华区是富人区吗文章目录 Agent是什么#xff1f;最直观的公式Agent决策流程 Agent 大爆发人是如何做事的#xff1f;如何让LLM替代人去做事?来自斯坦福的虚拟小镇架构记忆#xff08;Memory#xff09;反思#xff08;Reflection#xff09;计划#xff08;Plan#xff09; 类 LangC… 文章目录 Agent是什么最直观的公式Agent决策流程 Agent 大爆发人是如何做事的如何让LLM替代人去做事?来自斯坦福的虚拟小镇架构记忆Memory反思Reflection计划Plan 类 LangChain 中的各种概念Agent落地的瓶颈Agent从专用到通用的实现路径多模态在Agent的发展Agent新的共识正在逐渐形成出门问问希望做通用的AgentHFTransformers Agents 发布参考引用 Agent是什么
Agent一词起源于拉丁语中的Agere意思是“to do”。在LLM语境下Agent可以理解为在某种能自主理解、规划决策、执行复杂任务的智能体。
Agent并非ChatGPT升级版它不仅告诉你“如何做”更会帮你去做。如果Copilot是副驾驶那么Agent就是主驾驶。
自主Agent是由人工智能驱动的程序当给定目标时它们能够自己创建任务、完成任务、创建新任务、重新确定任务列表的优先级、完成新的顶级任务并循环直到达到目标。
最直观的公式 Agent LLMPlanningFeedbackTool use Agent决策流程 感知Perception→ 规划Planning→ 行动Action 感知Perception是指Agent从环境中收集信息并从中提取相关知识的能力。规划Planning是指Agent为了某一目标而作出的决策过程。行动Action是指基于环境和规划做出的动作。 Agent通过感知从环境中收集信息并提取相关知识。然后通过规划为了达到某个目标做出决策。最后通过行动基于环境和规划做出具体的动作。Policy是Agent做出行动的核心决策而行动又为进一步感知提供了观察的前提和基础形成了一个自主的闭环学习过程。
Agent 大爆发
3月21日Camel发布。3月30日AutoGPT发布。4月3日BabyAGI发布。4月7日西部世界小镇发布。5月27日英伟达AI智能体Voyager接入GPT-4后直接完胜了AutoGPT。通过自主写代码它完全独霸了《我的世界》可以在游戏中进行全场景的终身学习根本无需人类插手。就在同一时间商汤、清华等共同提出了通才AI智能体 Ghost in the Minecraft (GITM)它同样能够通过自主学习解决任务表现优异。这些表现优异的AI智能体简直让人看到了AGI智能体的雏形。
Agent 是让 LLM 具备目标实现的能力并通过自我激励循环来实现这个目标。 它可以是并行的同时使用多个提示试图解决同一个目标和单向的无需人类参与对话。
为Agent创建一个目标或主任务后主要分为以下三个步骤
获取第一个未完成的任务收集中间结果并储存到向量数据库中创建新的任务并重新设置任务列表的优先级
让我们一起来看一个具体的例子。我们可以从一个任务开始例如编写一篇关于ChatGPT以及它能做什么的1500字博客。 模型接收这个要求并按照以下步骤执行操作
sub_tasks openai.ChatCompletion.create(modelgpt-4,messages[{role: system, content: You are an world class assistant designed to help people accomplish tasks},{role: user, content: Create a 1500 word blog post on ChatGPT and what it can do},{role: user, content: Take the users request above and break it down into simple sub-tasks which can be easily done.}]
)在这个例子中我们使用OpenAI API来驱动 Agent。通过 system 字段你可以在一定程度上定义你的Agent。然后我们添加 user content Create a 1500 word blog post on ChatGPT and what it can do以及下一步骤 Take the users request above and break it down into simple sub-tasks which can be easily done.也就是在此基础上添加任务将查询分解成子任务。 然后你可以获取子任务并在循环中向模型发送更多的调用执行所有这些子任务每个子任务都有不同的系统消息想象成不同的Agent可能是一个擅长写作的Agent一个擅长学术研究的Agent等。 接下来你可以向模型循环发送更多的调用执行每个子任务。每个子任务都可以有不同的系统消息你可以想象这些系统消息代表了不同领域的专家例如一个擅长写作的专家、一个擅长学术研究的专家等等。这样你可以让模型在不同的角色下进行思考和响应从而更好地满足用户的需求。
人是如何做事的
在工作中我们通常会用到PDCA思维模型。基于PDCA模型我们可以将完成一项任务进行拆解按照作出计划、计划实施、检查实施效果然后将成功的纳入标准不成功的留待下一循环去解决。目前这是人们高效完成一项任务非常成功的经验总结。
如何让LLM替代人去做事? 要让LLM替代人去做事我们可以基于PDCA模型进行 规划、执行、评估和反思。 规划能力Plan- 分解任务Agent大脑把大的任务拆解为更小的可管理的子任务这对有效的、可控的处理好大的复杂的任务效果很好。执行能力Done- 使用工具Agent能学习到在模型内部知识不够时比如在pre-train时不存在且之后没法改变的模型weights去调用外部API比如获取实时的信息、执行代码的能力、访问专有的信息知识库等等。这是一个典型的平台工具的场景我们要有生态意识即我们构建平台以及一些必要的工具然后大力吸引其他厂商提供更多的组件工具形成生态。评估能力Check- 确认执行结果Agent要能在任务正常执行后判断产出物是否符合目标在发生异常时要能对异常进行分类危害等级对异常进行定位哪个子任务产生的错误对异常进行原因分析什么导致的异常。这个能力是通用大模型不具备的需要针对不同场景训练独有的小模型。反思能力Action- 基于评估结果重新规划Agent要能在产出物符合目标时及时结束任务是整个流程最核心的部分同时进行归因分析总结导致成果的主要因素另外Agent要能在发生异常或产出物不符合目标时给出应对措施并重新进行规划开启再循环过程。
LLM作为一种智能代理引发了人们对人工智能与人类工作的关系和未来发展的思考。它让我们思考人类如何与智能代理合作从而实现更高效的工作方式。而这种合作方式也让我们反思人类自身的价值和特长所在。 来自斯坦福的虚拟小镇
Generative Agents: Interactive Simulacra of Human Behavior, 2023.04, Stanford代码已开源https://github.com/joonspk-research/generative_agents 虚拟小镇一个agent就是一个虚拟人物25个agents之间的故事。
架构 记忆Memory
短期记忆在上下文中prompt学习。它是短暂且有限的因为它受到Transformer的上下文窗口长度的限制。长期记忆代理在查询时可以注意到的外部向量存储可以通过快速检索访问。
反思Reflection
反思是由代理生成的更高级别、更抽象的思考。因为反思也是一种记忆所以在检索时它们会与其他观察结果一起被包含在内。反思是周期性生成的当代理感知到的最新事件的重要性评分之和超过一定阈值时就会生成反思。
让代理确定要反思什么生成的问题作为检索的查询
计划Plan
计划是为了做更长时间的规划。像反思一样计划也被储存在记忆流中第三种记忆并被包含在检索过程中。这使得代理能够在决定如何行动时同时考虑观察、反思和计划。如果需要代理可能在中途改变他们的计划即响应reacting。
类 LangChain 中的各种概念
Models也就是我们熟悉的调用大模型API。Prompt Templates在提示词中引入变量以适应用户输入的提示模版。Chains对模型的链式调用以上一个输出为下一个输入的一部分。Agent能自主执行链式调用以及访问外部工具。Multi-Agent多个Agent共享一部分记忆自主分工相互协作。
Agent落地的瓶颈
Agent本身用到两部分能力一部分是由LLM作为其“智商”或“大脑”的部分另一部分是基于LLM其外部需要有一个控制器由它去完成各种Prompt如通过检索增强Memory从环境获得Feedback怎样做Reflection等。 Agent既需要大脑也要外部支撑。 LLM本身的问题自身的“智商”不够可进行LLM升级为GPT-5Prompt的方式不对问题要无歧义。外部工具系统化程度不够需要调用外部的工具系统这是一个长期待解决的问题。
现阶段Agent的落地除了LLM本身足够通用之外也需要实现一个通用的外部逻辑框架。不只是“智商”问题还需要如何借助外部工具从专用抵达通用——而这是更重要的问题。
解决特定场景的特定问题——将LLM作为一个通用大脑通过Prompt设计为不同的角色以完成专用的任务而非普适性的应用。关键问题即Feedback将成为Agent落地实现的一大制约因素对于复杂的Tools应用成功概率会很低。
Agent从专用到通用的实现路径
假设Agent最终将落地于100种不同的环境在目前连最简单的外部应用都难以实现的前提下最终能否抽象出一个框架模型来解决所有外部通用性问题 先将某一场景下的Agent做到极致——足够稳定且鲁棒再逐步将它变成通用框架也许这是实现通用Agent的路径之一。 多模态在Agent的发展
多模态只能解决Agent感知上的问题而无法解决认知的问题。多模态是必然趋势未来的大模型必然是多模态的大模型未来的Agent也一定是多模态世界中的Agent。
Agent新的共识正在逐渐形成
Agent需要调用外部工具调用工具的方式就是输出代码
由LLM大脑输出一种可执行的代码像是一个语义分析器由它理解每句话的含义然后将其转换成一种机器指令再去调用外部的工具来执行或生成答案。尽管现在的 Function Call 形式还有待改进但是这种调用工具的方式是非常必要的是解决幻觉问题的最彻底的手段。
出门问问希望做通用的Agent
在中国的市场环境下如果做一个与企业深度结合的Agent最终将成为“外包”因为它需要私有化部署集成到企业工作流里。很多公司都会去争抢保险公司、银行、汽车领域的大客户。这将与上一代AI公司的结局非常相似边际成本很难降低且没有通用性。出门问问目前的魔音工坊、奇妙文等AIGC产品都属于面向内容创作者的、介于深度和浅度之间的应用既不完全属于consumer也不完全属于enterprise同时还有面向企业用户的CoPilot其定位也是在企业里找到具体的「场景」做相对通用的场景应用。
HFTransformers Agents 发布
通过自然语言控制超过十多万个 HF 模型
Transformers Agents并加入到了 Transformers 4.29 之后的版本中。它在 Transformers 的基础上提供了一个自然语言 API来 “让 Transformers 可以做任何事情”。
这其中有两个概念一个是 Agent (代理)另一个是 Tools (工具)我们定义了一系列默认的工具让代理去理解自然语言并使用这些工具。
代理这里指的是大语言模型 (LLM)你可以选择使用 OpenAI 的模型 (需要提供密钥)或者开源的 StarCoder 和 OpenAssistant 的模型我们会提示让代理去访问一组特定的工具。工具指的是一个个单一的功能我们定义了一系列工具然后使用这些工具的描述来提示代理并展示它将如何利用工具来执行查询中请求的内容。
我们在 transformers 中集成的工具 包括文档问答、文本问答、图片配文、图片问答、图像分割、语音转文本、文本转语音、零样本文本分类、文本摘要、翻译等。不过你也可以扩展这些一些与 transformers 无关的工具比如从网络读取文本等查看如何开发自定义工具 未来是Agent的世界在今天的Agent进程下依然重复昨天AI的故事私有化部署将面临挑战。 参考引用
大模型下半场关于Agent的几个疑问babyagiAgentOpenAI的下一步亚马逊云科技站在第5层
