网站开发费用怎么做账,上线了做的网站可以登陆,做婚纱网站的目的,如何给公司取一个好名字文章目录 大语言模型LLM《提示词工程指南》学习笔记01以下是使用不同LLM提供程序时会遇到的常见设置#xff1a;标准提示词应该遵循以下格式#xff1a;提示词要素 大语言模型LLM《提示词工程指南》学习笔记01
提示工程#xff08;Prompt Engineering#xff09;是一门较新… 文章目录 大语言模型LLM《提示词工程指南》学习笔记01以下是使用不同LLM提供程序时会遇到的常见设置标准提示词应该遵循以下格式提示词要素 大语言模型LLM《提示词工程指南》学习笔记01
提示工程Prompt Engineering是一门较新的学科关注提示词开发和优化帮助用户将大语言模型Large Language Model, LLM用于各场景和研究领域。
掌握了提示工程相关技能将有助于用户更好地了解大型语言模型的能力和局限性。研究人员可利用提示工程来提升大语言模型处理复杂任务场景的能力如问答和算术推理能力。开发人员可通过提示工程设计、研发强大的工程技术实现和大语言模型或其他生态工具的高效接轨。 提示工程不仅仅是关于设计和研发提示词。它包含了与大语言模型交互和研发的各种技能和技术。 提示工程在实现和大语言模型交互、对接以及理解大语言模型能力方面都起着重要作用。 用户可以通过提示工程来提高大语言模型的安全性也可以赋能大语言模型比如借助专业领域知识和外部工具来增强大语言模型能力。 基于对大语言模型的浓厚兴趣我们编写了这份全新的提示工程指南介绍了大语言模型相关的论文研究、学习指南、模型、讲座、参考资料、大语言模型能力以及与其他与提示工程相关的工具。
以下是使用不同LLM提供程序时会遇到的常见设置
Temperature简单来说temperature 的参数值越小模型就会返回越确定的一个结果。如果调高该参数值大语言模型可能会返回更随机的结果也就是说这可能会带来更多样化或更具创造性的产出。我们目前也在增加其他可能 token 的权重。在实际应用方面对于质量保障QA等任务我们可以设置更低的 temperature 值以促使模型基于事实返回更真实和简洁的结果。 对于诗歌生成或其他创造性任务你可以适当调高 temperature 参数值。
Top_p同样使用 top_p与 temperature 一起称为核采样的技术可以用来控制模型返回结果的真实性。如果你需要准确和事实的答案就把参数值调低。如果你想要更多样化的答案就把参数值调高一些。 ** 一般建议是改变 Temperature 和 Top P 其中一个参数就行不用两个都调整。**
Max Length您可以通过调整 max length 来控制大模型生成的 token 数。指定 Max Length 有助于防止大模型生成冗长或不相关的响应并控制成本。
Stop Sequencesstop sequence 是一个字符串可以阻止模型生成 token指定 stop sequences 是控制大模型响应长度和结构的另一种方法。例如您可以通过添加 “11” 作为 stop sequence 来告诉模型生成不超过 10 个项的列表。
Frequency Penaltyfrequency penalty 是对下一个生成的 token 进行惩罚这个惩罚和 token 在响应和提示中出现的次数成比例 frequency penalty 越高某个词再次出现的可能性就越小这个设置通过给 重复数量多的 Token 设置更高的惩罚来减少响应中单词的重复。
Presence Penaltypresence penalty 也是对重复的 token 施加惩罚但与 frequency penalty 不同的是惩罚对于所有重复 token 都是相同的。出现两次的 token 和出现 10 次的 token 会受到相同的惩罚。 此设置可防止模型在响应中过于频繁地生成重复的词。 如果您希望模型生成多样化或创造性的文本您可以设置更高的 presence penalty如果您希望模型生成更专注的内容您可以设置更低的 presence penalty。
与 temperature 和 top_p 一样一般建议是改变 frequency penalty 和 presence penalty 其中一个参数就行不要同时调整两个。
在我们开始一些基础示例之前请记住最终生成的结果可能会和使用的大语言模型的版本而异。
标准提示词应该遵循以下格式
问题?或
指令这种可以被格式化为标准的问答格式如
Q: 问题?
A: 以上的提示方式也被称为 零样本提示zero-shot prompting即用户不提供任务结果相关的示范直接提示语言模型给出任务相关的回答。某些大型语言模式有能力实现零样本提示但这也取决于任务的复杂度和已有的知识范围。具体的零样本提示示例如下
Q: What is prompt engineering?对于一些较新的模型你可以跳过 Q: 部分直接输入问题。因为模型在训练过程中被暗示并理解问答任务换言之提示词可以简化为下面的形式提示词What is prompt engineering?
基于以上标准范式目前业界普遍使用的还是更高效的 _小样本提示Few-shot Prompting_范式即用户提供少量的提示范例如任务说明等。小样本提示一般遵循以下格式
问题?
答案
问题?
答案
问题?
答案
问题?而问答模式即如下
Q: 问题?
A: 答案
Q: 问题?
A: 答案
Q: 问题?
A: 答案
Q: 问题?
A:注意使用问答模式并不是必须的。你可以根据任务需求调整提示范式。比如您可以按以下示例执行一个简单的分类任务并对任务做简单说明提示词
This is awesome! // Positive
This is bad! // Negative
Wow that movie was rad! // Positive
What a horrible show! //输出结果
Negative语言模型可以基于一些说明了解和学习某些任务而小样本提示正好可以赋能上下文学习能力。我们将在接下来的章节中更广泛的讨论如何使用零样本提示和小样本提示。
提示词要素
如果您接触过大量提示工程相关的示例和应用您会注意到提示词是由一些要素组成的。
提示词可以包含以下任意要素 指令想要模型执行的特定任务或指令。 上下文包含外部信息或额外的上下文信息引导语言模型更好地响应。 输入数据用户输入的内容或问题。 输出指示指定输出的类型或格式。
为了更好地演示提示词要素下面是一个简单的提示旨在完成文本分类任务
提示词
请将文本分为中性、否定或肯定
文本我觉得食物还可以。
情绪在上面的提示示例中指令是“将文本分类为中性、否定或肯定”。输入数据是“我认为食物还可以”部分使用的输出指示是“情绪”。请注意此基本示例不使用上下文但也可以作为提示的一部分提供。例如此文本分类提示的上下文可以是作为提示的一部分提供的其他示例以帮助模型更好地理解任务并引导预期的输出类型。
注意提示词所需的格式取决于您想要语言模型完成的任务类型并非所有以上要素都是必须的。我们会在后续的指南中提供更多更具体的示例。
