做网站用win2008系统,百度指数查询入口,wordpress调用列表页,代备案域名30元OpenAI的GPT-3、GPT-3.5和GPT-4模型基于用户输入的文本提示工作。有效的提示构造是使用这些模型的关键技能#xff0c;涉及到配置模型权重以执行特定任务。这不仅是技术操作#xff0c;更像是一种艺术#xff0c;需要经验和直觉。本文旨在介绍适用于所有GPT模型的提示概念和… OpenAI的GPT-3、GPT-3.5和GPT-4模型基于用户输入的文本提示工作。有效的提示构造是使用这些模型的关键技能涉及到配置模型权重以执行特定任务。这不仅是技术操作更像是一种艺术需要经验和直觉。本文旨在介绍适用于所有GPT模型的提示概念和技巧。 关注TechLead分享AI全维度知识。作者拥有10年互联网服务架构、AI产品研发经验、团队管理经验同济本复旦硕复旦机器人智能实验室成员阿里云认证的资深架构师项目管理专业人士上亿营收AI产品研发负责人 提示工程基本概念
本部分介绍 GPT 提示的基本概念和元素。
文本提示是用户与 GPT 模型交互的方式。 与所有生成语言模型一样GPT 模型会尝试生成最有可能紧跟上一个文本的下一系列字词。 就好像我们在说“当我说 prompt 时你想到的第一件事是什么”。 以下示例演示了此行为。 给定著名内容的开头模型能够准确地延续文本。
PromptCompletion87 年前我们的先辈们在这个大陆上创立了一个新国家它孕育于自由之中并致力于所有人生而平等的信条。 […]“叫我 Ishmael。”“几年前–不要在意确切的时间–我钱包里几乎没有什么钱岸上也没有什么特别吸引我的事情所以我想航行一下看看这个世界中被水覆盖的部分。”[…]
在开发更复杂的提示时记住这一基本行为会很有帮助。 无论提供的提示是什么模型都只是使用它确定的最有可能的情况基于训练数据和训练目标做出响应。 如果在提示中提出问题则模型不会遵循单独的“QA”代码路径而是看起来在回答问题因为回答即是输入的给定问题最有可能的响应。
提示组件
当使用补全 API 而提示的不同部分之间没有区别时它对于学习和讨论以识别基础提示组件仍然很有用。 使用[聊天补全 API]时提示的不同部分以具有关联角色系统、用户和助手的字典数组的形式发送到 API。 本指南更笼统地侧重于如何考虑提示构造而不是提供特定于某个 API 的规范性指导。
同样重要的是要了解虽然可能存在其他有效的方法来剖析提示但这种分解的目标是提供一种相对简单的方法来理解提示构造。 使用补全 API 时所有组件都是可选的但必须至少有一个组件存在而大多数提示包含多个组件。 组件之间也可能存在一些灰色区域。 下面显示的顺序大致对应于每个组件的使用方式从最多到最少。
Instructions
指令可能是最常用的提示组件。 指令很简单向模型说明要执行的操作。 虽然概念简单但它在实践中可能比较复杂。 下表以两种不同形式显示简单和复杂的指令借此来说明这一点。
指令类型PromptCompletion简单指令为每周新闻稿撰写简介。欢迎阅读我们的每周新闻稿。 本周我们特别关注工作效率。 我们将分享有关如何在生活的各个方面提高工作效率的提示和技巧。 我们希望你喜欢并请与你的朋友分享复杂指令为名为 Contoso 的公司撰写每周新闻稿简介。 它应该要提及我们上周举行的精彩的全体会议并感谢团队在过去几个月的辛勤工作。欢迎阅读 Contoso 的每周新闻稿 我们上周举行了一次精彩的全体会议我要感谢团队在过去几个月的辛勤工作。 我们期待着一个光明的未来我相信在我们团队的奉献和投入下我们将取得伟大的成就。 感谢你成为我们团队的一员我期待着在未来几周和几个月内与你们一起工作。 此致[你的名字]。复杂指令为每周新闻稿编写简介包括以下内容 我的公司名为 contoso 兴高采烈的问候 感谢团队在艰难的几个月里辛勤工作 下一季度的积极前景 由 SLT 签名你好Contoso 团队 我想花点时间感谢你们过去几个月的辛勤工作。 这是艰难的几个月但你们都团结在一起完成了非常棒的工作。 我真的很为你们感到骄傲。 展望下个季度我感到非常向上。 我觉得我们会取得一些伟大的成就。 再次感谢高级领导团队。
主要内容
主要内容是指模型正在处理或转换的某种文本。 主要内容通常与指令一起使用。 一个简单的示例是语言翻译。 在下面的示例中英语文本被视为主要内容而“翻译为法语”是指令。
PromptCompletionCan you please tell me how to get to the museum? 翻译为法语Pouvez-vous sil vous plaît me dire comment aller au musée?
主要内容也可以更长。 在以下示例中主要内容是维基百科时间复杂度条目的简介部分长度近 300 字。 为了便于显示此内容已在表中缩写。
PromptCompletion在计算机科学中时间复杂度是指计算复杂度用于描述运行算法所需的计算机时间量。 时间复杂度通常通过 […] 估计 将前面的文本汇总为几个句子时间复杂度是度量算法运行所需时间的方法。 它通常表示为输入大小的函数。 最常见的度量值是最差情况的时间复杂度即给定大小的输入所需的最大时间量。在计算机科学中时间复杂度是指计算复杂度用于描述运行算法所需的计算机时间量。 时间复杂度通常通过 […] 估计 TL;DR太长没看算法的时间复杂度是运行算法所需的时间量。 通常通过计算算法执行的基本操作数来估计时间复杂度假定每个基本操作的执行时间都是固定的。 时间复杂度通常表示为输入大小的函数。
GPT 模型还可以处理结构化的主要内容。 在下面的示例中有关比利时啤酒的 TSV本文中为显示为缩写作为提示的一部分传递给模型。 它能够正确解释内容并回答有关数据的问题。
PromptCompletionBelgian Beer Brands Beer name Beer style color ABV Brewery Chimay Gold: Doree trappist pale ale gold 4.80% Chimay Brewery (official trappist) Chimay Blue: Grande Reserve trappist dark ale dark 9.00% […] 参考上表有多少啤酒小于 6% ABV表中有 10 种啤酒的 ABV 小于 6%。
示例
成功的提示通常依赖于“单样本”或“少样本”学习。 这是指加入模型所需行为的一个或多个示例通常做法是加入输入和输出对。 这不是从模型进行永久更改这一意义上学习而是通过示例更好地使模型能够仅根据当前推理的需求做出响应。 使用没有示例的提示有时称为“零样本”学习。 请注意使用聊天补全 API 时在初始系统消息后少样本学习示例通常以示例用户/助手交互的形式添加到消息数组中。
学习类型PromptCompletion零样本头条教练相信伤病不会破坏勇士队 主题教练相信伤病不会破坏勇士队的赛季。 球队仍然专注于他们的目标他们将继续努力实现他们的目标。少样本头条双城队的科雷亚将选择跳出合同试水自由市场 主题棒球 头条卡塔尔世界杯将设有清醒区 主题足球 头条耶茨第 6 周范特西橄榄球情报 主题橄榄球 头条教练相信伤病不会破坏勇士队 主题篮球
上面的示例演示了少样本学习的效用。 如果没有这些示例模型似乎在猜测所需的行为而示例则清晰地向模型展示了如何操作。 这也演示了模型的强大功能它可以推断出所需的标签类别即使示例中没有“篮球”标签。
指示
指示充当模型输出的“快速启动”帮助将模型定向到所需的输出。 它通常是模型可以作为生成基础的前缀。 在下面的示例中我们演示了引导故事以包含关键元素的指示。 指示通常与指令一起使用但并非总是如此。 在下面的示例中该模型用于汇总长公告电子邮件。 指示在一种情况下用于帮助聚焦模型的输出在另一种情况下用于建议特定输出格式项目符号。
在聊天补全 API 的上下文中指令采用系统消息的形式通过提供一系列示例用户/助手交互来指示少样本示例以帮助启动模型。
指示数PromptCompletion0绩效评估是我们在 Contoso 实施的绩效 发展方法的核心组成部分。 […] 总结上述电子邮件这封电子邮件的目的是通知员工最近对绩效评估体验进行了更改这是 Contoso 绩效 发展方法的一部分。 这些更改包括改进结构、升级工具内用户体验和重点提示。 此外现在还有一个可选的“对话启动器”部分供员工标记他们希望与经理讨论的主题。1绩效评估是我们在 Contoso 实施的绩效 发展方法的核心组成部分。 […] 总结上述电子邮件 邮件的关键要点是Contoso 通过更加专注于核心优先事项、期望和影响来改进绩效评估体验。 此外他们还使用小贴士、资源和指南来升级工具内用户体验。 最后他们添加了有关如何激活公司范围内的核心优先事项的指导。2绩效评估是我们在 Contoso 实施的绩效 发展方法的核心组成部分。 […] 总结上述电子邮件 要点 •Contoso 正在根据员工的反馈推出对绩效评估体验的更改。 •这些更改包括对核心优先事项、期望和影响的新侧重升级用户体验以及公司范围核心优先事项的新指南。 •绩效评估是反思过去绩效和学习以及规划未来优先事项和增长机会的机会。 •员工和经理应在绩效考核会议之前撰写评论。 •每年至少应进行两次绩效评估。 •每次评估的时间投资应保持大致相同。
支持内容
支持内容是模型可用于以某种方式影响输出的信息。 它与主要内容的不同之处在于它不是任务的主要目标但它通常与主要内容一起使用。 常见示例包括上下文信息例如当前日期、用户名、用户偏好等。 以下示例使用支持内容来帮助为用户安排一组计划的研讨会。 如果没有支持重要主题模型只会列出研讨会为显示而截断当被告知我的重要主题时模型能够准确地分组会议。
支持内容PromptCompletion没有研讨会列表 标题描述 规划研讨会启动请加入我们以启动研讨会 听取我们的领导关于未来一年的跨组优先事项和学习内容。 此活动的邀请已发送给 […] 中的每个人 总结上述研讨会按主题分组研讨会列表 规划研讨会启动 - 规划研讨会总结 - 核心会面 - 客户驱动的观点 - 影响和重点领域 - 最佳做法 - 加速应用采用 […]有研讨会列表 标题描述 规划研讨会启动请加入我们以启动研讨会 听取我们的领导关于未来一年的跨组优先事项和学习内容。 此活动的邀请已发送给 […] 中的每个人 我的重要主题提示工程、搜索、GPT 模型 总结上述研讨会按我的重要主题分组1. 提示工程 - 新的提示工程技巧 - 提示工程的艺术 2. 搜索 - 使用嵌入的矢量搜索简介 3. GPT 模型 - GPT-4 简介 - 深度了解 GPT-35-Turbo。
最佳做法
尽量具体。 尽可能少留解读空间。 限制操作空间。具有描述性。 使用类比。强调。 有时可能需要对模型进行重复操作。 在主要内容之前和之后提供说明使用指令和指示等。给事项排序。 向模型呈现信息的顺序可能会影响输出。 你选择是在内容之前放置指令“汇总以下内容…”还是之后“汇总以上…”会影响输出。 即使是少样本示例的顺序也很重要。 这被称为“近因偏差”。给模型一个“出路”。 如果模型无法完成分配的任务有时为模型提供备用路径可能会有所帮助。 例如在对一段文本提出问题时可以加入类似于“如果答案不存在则回复‘未找到’”之类的内容。这可帮助模型避免生成错误的响应。
空间效率
虽然输入大小会随着 GPT 模型的迭代而增加但仍存在提供的数据超出模型所能处理的数据量的情况。 GPT 模型将单词分解为“标记”。 常见的多音节单词通常是单个标记而不太常见的单词会按音节拆分。 标记有时可能违反直觉如以下示例所示它演示了不同日期格式的标记边界。 在这种情况下拼出整个月份比使用完全数字的日期更具空间效益。 当前的标记支持范围早期 GPT-3 模型支持 2000 个标记最新的 GPT-4 模型 32k 版本支持最多 32,768 个标记。 由于空间有限请务必尽可能高效地使用它。
表格 – 如上一部分中的示例所示GPT 模型可以非常轻松地理解表格格式的数据。 这是一种空间高效的包含数据的方式相较于在每个字段前面加上名称例如 JSON。空格 - 连续的空格被视为单独的标记这很容易浪费空间。 另一方面单词前面的空格通常被视为与单词相同的标记的一部分。 请仔细观察空格的使用情况不要在单独使用空格就足够时使用标点符号。 关注TechLead分享AI全维度知识。作者拥有10年互联网服务架构、AI产品研发经验、团队管理经验同济本复旦硕复旦机器人智能实验室成员阿里云认证的资深架构师项目管理专业人士上亿营收AI产品研发负责人
