wordpress网站设置关键词设置,网站制作公司 郑州,霍山网站建设,打开百度网页版一.Agent发展将会是LLM的下半场
目前大家都在讨论LLM#xff0c;LLM解决的问题是帮助机器像人类一样理解彼此的意图#xff0c;本质上来讲#xff0c;LLM更像是一个技术或者工具。但是人类社会发生变革的引线#xff0c;往往是一个产品或者解决方案#xff0c;比如电池技… 一.Agent发展将会是LLM的下半场
目前大家都在讨论LLMLLM解决的问题是帮助机器像人类一样理解彼此的意图本质上来讲LLM更像是一个技术或者工具。但是人类社会发生变革的引线往往是一个产品或者解决方案比如电池技术的发展带来了长续航但是真正改变大家生活的是电动车这样一个产品。Agent的概念是创造一个个场景的智能体可以在某些领域比如在社会分析、电商导购、工业制造方面提供解决方案。LLM的发展将会让Agent的诞生成为可能也会推动各个领域的Agent发展所以我说Agent将会是LLM的下半场。 最近也是学习了一篇高瓴机构发布的论文《A Survvey on Large Language Model based Autonomous Agents》将里面的内容和最近的思考做个整理。 二.Agent的整体结构 如果要实现以LLM为Base的Agent主要需要从两个角度思考问题1如何设计一种架构可以更高效的应用LLM2如何让Agent具备解决不同任务的范化能力当然这个也依赖于LLM。目前行业里通常通用的一种架构是由Profile、Memory、Planning、Action所构建的四级架构。 1.Profile模块
Profile模块解决的问题是告诉Agent他的角色或者换一种说法是告诉Agent需要解决的问题的背景信息。Profile有三种实现模式。第一种是人工设定模式比如告诉Agent你是个外向的厨师你需要解决点餐环节客人的问题。第二种是LLM延申模式先把一些背景告诉LLM让LLM给出一些候选集比方说告诉LLM生成几种人物解决点餐的问题然后基于LLM的输出选择合适的Profile方向。第三种是基于database比方说已经在数据库中存储了某些厨师的数据包含他的各种身体特征然后完成设定。
2.Memory模块
Memory模块是Agent解决方案中的重要一环。Memory主要解决的是行业知识的传递问题可以让Agent拥有长期和短期记忆让他表现得更智能。
Shot-Memory一般用来传递上下文的的对话信息常常通过Prompt作为传递介质。而Long-Memory更多的是领域知识需要有独立的存储模块。Long-Memory的存储结构可能是自然语言、Embedding、结构化的表等。比如做一个餐厅服务点餐Agent那么完全可以把菜单内容以自然语言的形式存储为Long-Memory每次点餐要求Agent从约定内容里面选择。随着LLM的发展目前向量数据库也成为了投资的重点领域因为以Embedding存储可以更有利于在大规模数据的前提下压缩信息和高效检索。
3.Planning模块
这一模块是最体现智能能力的模块这个模块需要根据任务设定具体的执行方案。 Planning模块可以是两种结构一种是Single-Path这里引入CoT的概念Chain of thought可以要求LLM基于任务一步步推理形成一个解决方案。每一步推理后产出的内容可以再次输入给LLM去判断下一步如何走。
另一种是Muti-Path这个方案更符合人类的思维方式因为要解决问题很难完全设定好端到端的流程需要给出几种候选的模式另外需要考虑环境反馈可以每走一步再次推理和选择最优模式这里可以参考最近非常火的ReAct的模式另外LLM也可以代替人类去做多种方案的选择我们可以把需要考虑的边界给到LLM由LLM去思考每一步如何选择。
4.Action模块
这一步是执行模块需要按照Planning的设计完成目标。在这一步需要建设的能力是与外部的服务关联比如我们的Agent是解决帮用户买飞机票的问题那么在执行阶段就需要与飞机票务系统的订票接口关联也需要与用户的信用卡付款接口关联。
三、Agent的评估模式
相比于LLMAgent是一种更广泛的解决方案于是如何评估Agent的能力是一个很有挑战性的问题。 通常评估有两种一种是主观评估需要将Agent的执行结果给到人类去打分所以最近许多类似于标注的众包平台也吸引到了资本的关注但是这种评估模式的成本较高很难规模化复制这也是为什么Agent的迭代优化目前都只能在特定领域展开。 客观评估工作看上去更可能以程序化的模式低成本实现但这也严重依赖与评价的Metrics设定和Benchmark集合目前在社会学、自然科学、工程科学范畴已经沉淀了一些相关工作这也使得相关领域的Agent看上去更有可能率先实现。 四、总结
目前行业中还没有特别出色或者优秀的Agent范本的出现但是我个人对这个方向是深信不疑的因为已经有许多工具可以应用除了上面提到的评估相关的工作如何串联四个流程Langchain给了很好的参考。另外在Prompt设计方面CoT、ReACT都提供了不错的思路接下来行业内的各个玩家一定会在各个领域去探索Agent的落地可能相信会在近期有一些成功案例诞生。 参考材料
https://arxiv.org/pdf/2308.11432.pdf
