装修公司网站怎么建设,免费聊天软件,wordpress的函数大全,随意设计一个网站一、链式提示 Prompt Chaining架构
Prompt Chaining 是一种在生成式人工智能#xff08;如大型语言模型#xff09;中广泛使用的技术#xff0c;它允许用户通过一系列精心设计的提示#xff08;Prompts#xff09;来引导模型生成更加精确、丰富且符合特定需求的内容。
P…一、链式提示 Prompt Chaining架构
Prompt Chaining 是一种在生成式人工智能如大型语言模型中广泛使用的技术它允许用户通过一系列精心设计的提示Prompts来引导模型生成更加精确、丰富且符合特定需求的内容。
Prompt Chaining 的核心思想在于不是一次性给出一个复杂的指令或问题给模型而是将大问题分解成一系列更小、更具体的子问题每个子问题通过生成的文本作为下一个提示的基础逐步引导模型向目标输出逼近。这种链式提示的方式能够有效提高模型的响应质量减少错误并使得生成的内容更加符合用户的预期。
Prompt Chaining的工作原理基于两个关键要素任务分解和对话连续性。
任务分解首先用户需要将复杂的任务或问题分解成一系列可管理的子任务或子问题。这些子任务应该按照逻辑顺序排列以便逐步引导模型向最终目标靠近。对话连续性在分解任务后用户会向模型发送第一个提示并接收其生成的响应。然后用户会根据这个响应设计下一个提示这个提示可能会引用或反馈前一个响应的内容以保持对话的连续性和一致性。这个过程会重复进行直到达到满意的结果。 以上是一个示例的链式提示架构首先其设计了一系列通过Amazon Step Functions定义的状态机。每个状态机代表了一个示例或任务的执行流程它能够引导程序完成特定的任务或操作。这些状态机会调用Amazon Bedrock中的基础模型来生成对应内容最后Streamlit应用程序将展示这些状态机执行的结果并展示给用户。
二、实践Amazon Bedrock Amazon Step Functions实现链式提示
2.1、依赖安装与代码准备
首先进入亚马逊云科技海外区官网点击亚马逊控制台搜索Cloud 9打开Cloud9 控制台界面 进入控制台后点击打开Cloud9 IDE 进入Cloud9 IDE之后首先在终端中输入sudo npm install -g npm更新NPM然后使用npm安装cdk 然后使用git克隆下载本次实践的代码
git clone https://github.com/aws-samples/build-genai-agent-workflows-with-step-functions出现build-genai开头的文件夹时表明代码拉取成功 最后cd进入build-genai-agent-workflows-with-step-functions文件夹并安装对应依赖
cd build-genai-agent-workflows-with-step-functions/
pip install -r requirements.txt2.2、通过 CDK 部署项目
CDKAMazon Cloud Development Kit是一个开源的软件开发框架其提供了一种声明式的方法来构建、编写和部署基础设施使得基础设施的创建和管理更加可靠、可重复和易于维护。 准备好代码和依赖后下面在终端输入cdk deploy --all开始部署部署大致需要 5 分钟 部署成功后会给出预览的网址单击链接打开项目地址 项目的效果如下其将故事撰写任务分为多个子任务首先为故事生成角色列表然后为故事生成每个角色的情节之后使用角色描述和情节生成短篇故事。
2.3、打开 Step Functions监控工作流运行细节
以上项目已经为我们成功创建了 Step Functions工作流我们可以打开控制台搜索并点击进入Step Functions 在Step Functions控制台中找到PromptChainDemo-StoryWriter状态机 打开任务并查看streamlit开头的任务 在图表视图里就可以看到工作流的具体流程以及正在发生的事件
故事撰写的完整工作流图示如下 整个工作流设计了一个使用人工智能辅助创作故事的过程其中包括角色和故事情节的生成、迭代、错误处理、故事合并和最终选择其中它从“Start”开始然后进入一系列步骤每个步骤都以“Generate Characters”或“Generate Character Story Arc”开始表明这些步骤是关于角色生成或故事情节构建的。整个工作流的连贯分析如下
角色生成首先工作流涉及角色的创建包括准备消息、格式化提示、调用模型、提取模型响应和准备输出。创作者需要准备输入给模型的信息然后使用模型生成角色最后提取并准备这些角色的输出。角色故事映射在角色生成后有一个“Character Story Map”步骤这意味着将角色与他们的故事线进行关联或映射。故事情节生成与角色生成类似故事情节的生成也包括准备消息、格式化提示、调用模型、提取模型响应和准备输出。合并角色故事在角色和故事情节生成之后有一个“Merge Character Stories”步骤将不同角色的故事线合并成一个连贯的故事。故事完整性接下来是“Generate the Full Story”这包括准备消息、包括之前的消息、格式化提示、调用模型、提取模型响应和准备输出主要用于整合之前生成的所有元素以形成一个完整的故事。选择故事最后有一个“Select Story”步骤这可能意味着从生成的多个故事中选择一个最终版本。
至此我们就成功部署了一个基于 Amazon BedrockAmazon Cloud9Amazon Step FunctionsAmazon Lambda 和 Amazon Fargate 等 Serverless服务搭建的工作流。这个工作流使用Prompt Chaining将一个宏大的创作任务——Story Writer——分解成一系列角色创建、情节设计等步骤。每个步骤都通过调用LLM并传递特定的Prompt来执行。把一个复杂的任务分解成多个步骤多次调用大语言模型稳定可靠的完成任务。
现在进入亚马逊云科技海外区官网除了免费的Amazon Step Functions、Amazon Lambda还有丰富的亚马逊云服务器Amazon EC2、亚马逊云科技云存储Amazon S3负载均衡Elastic Load Balancing虚拟服务器VPSAmazon Lightsail、视频会议Amazon Chime 等等100 余种云产品或服务免费试用。
