微官网站怎么做,人人开发网站,轻媒做的网站,成都网页制作公司排名大模型之Prompt研究和技巧 大模型之Prompt编写简介组成技术Zero-ShotFew-shotCOTCOT-SCTOTGoTReAct 大模型之Prompt编写
简介 Prompt是是给 AI **模型的指令#xff0c;**一个简短的文本输入#xff0c;用于引导AI模型生成特定的回答或执行特定任务。 Prompt是你与语言模型沟… 大模型之Prompt研究和技巧 大模型之Prompt编写简介组成技术Zero-ShotFew-shotCOTCOT-SCTOTGoTReAct 大模型之Prompt编写
简介 Prompt是是给 AI **模型的指令**一个简短的文本输入用于引导AI模型生成特定的回答或执行特定任务。 Prompt是你与语言模型沟通的方式。一个好的Prompt可以让AI更准确地理解你的需求从而给出更有用的回答。 组成
Prompt的组成拆解主要包括以下六个要素
任务Task: 任务是Prompt的核心通常以动词开始明确表达你希望ChatGPT完成的任务或目标。这可以包括生成文本、给予建议、写作内容等。可以有多个任务以清晰地定义你的需求。上下文Context: 上下文提供了与任务相关的背景信息以确保ChatGPT理解问题的背景和约束条件。这包括用户的背景信息、成功标准、所处环境等。上下文对于任务的明确性和有效性至关重要。示例Exemplars: 示例是提供具体例子或框架的部分用来引导ChatGPT生成更准确的输出。提供示例可以明确示范所需的内容和格式从而提高输出质量。但并不是每次都需要提供示例有时候也可以让ChatGPT自行生成。角色Persona: 角色明确指定ChatGPT和Bard如果涉及到虚构的角色所扮演的角色或身份。这可以是具体的人也可以是虚构的角色有助于调整语气和内容以适应特定角色的需求。格式Format: 格式部分可视化了你期望输出的外观和结构如表格、列表、段落等。明确指定输出的格式可以确保ChatGPT生成的内容符合你的预期。语气Tone: 语气定义了输出文本的语气或风格如正式、非正式、幽默等。指定语气有助于确保ChatGPT的回应符合所需的情感和风格要求。
通过合理组织这六个要素你可以创建一个清晰明了的Prompt有效引导ChatGPT生成符合期望的文本输出。
当创建一个Prompt时下面是一些具体的例子展示如何使用上述六个要素
1. 任务Task
生成一篇有关太阳能发电的文章。给予我一些建议以降低生活中的碳足迹。写一封感谢信以表达对客户的感激之情。
2. 上下文Context
作为一个学生你要写一篇有关气候变化的研究报告希望获得深入了解可再生能源的信息。你是一位环保活动家需要有关减少塑料污染的可行性计划。你正在回顾一次商务合作需要一封感谢信来强调合作的重要性。
3. 示例Exemplars
作为示例可以提供一些有关太阳能的统计数据或者一个类似的文章的开头段落。作为示例列出一些环保措施如减少用塑料制品、使用可再生能源等。提供一些已经写好的感谢信段落以供参考。
4. 角色Persona
请以一位环保组织的志愿者的身份来回答。请以一位科学家的身份来回答。请以一位公司首席执行官的身份来回答。
5. 格式Format
请以段落的形式写一篇文章包括标题、引言、正文和结论。请以列表形式列出减少碳足迹的建议。请以正式书信的格式写一封感谢信包括日期、地址、称呼等。
6. 语气Tone
请使用正式的语气避免使用俚语或口语。请使用轻松的语气可以适当加入幽默元素。请使用感激之情的语气表达真诚的感谢。
这些示例突出了如何根据具体的需求来组成Prompt以确保ChatGPT能够理解任务、上下文、示例、角色、格式和语气并生成相应的内容。通过合理搭配这些要素可以引导ChatGPT产生符合要求的文本回应。
技术
Zero-Shot Zero-Shot Prompting 指的是在大型语言模型(LLM)中,不需要额外微调或训练,直接通过文本提示就可以完成指定的下游任务。 主要思想是: 先训练一个通用的大型语言模型,学习语言的基本规则,掌握丰富的常识和知识。然后在不改变模型参数的情况下,只通过软性提示指导模型完成特定任务。模型根据提示和已掌握的知识,生成对应任务的输出。 举个例子我们可以给 ChatGPT 一个简短的 prompt比如 描述某部电影的故事情节它就可以生成一个关于该情节的摘要而不需要进行电影相关的专门训练。 Zero-Shot Prompting 技术依赖于预训练的语言模型这些模型可能会受到训练数据集的限制和偏见。它的输出有时可能不够准确或不符合 预期。这可能需要对模型进⾏进⼀步的微调或添加更多的提示⽂本来纠正。 Few-shot Few-shot Prompting 是 Zero-shot Prompting的扩展,指使用很少量的任务相关示例来辅助提示,使模型更快适应新任务。 其关键思想是: 仍然基于预训练好的通用语言模型使用软提示指导模型完成新任务额外提供1-2个相关示例作为提示补充 例如
任务 生成一篇关于太阳能的文章。
示例
示例1太阳能是一种清洁能源通过太阳能电池板将太阳能转化为电力。示例2太阳能电池板通常安装在屋顶上可以为家庭提供可再生能源。示例3太阳能是减少温室气体排放的重要途径。
任务描述 请以这些示例为基础撰写一篇关于太阳能的文章重点介绍太阳能的工作原理、应用领域以及对环境的影响。
COT
论⽂表明它仅在⼤于等于 100B 参数的模型中使⽤才会有效。如果是⼩样本模型这个⽅法不会⽣效。 思维链提示就是把一个多步骤推理问题分解成很多个中间步骤分配给更多的计算量生成更多的 token再把这些答案拼接在一起进行求解。 COT-SC 让模型⽣成多个思维链然后取最多数答案的作为最终结果。 其实重复运算多次取概率最⾼的那⼀个需要借助脚本辅助完成这个功能。 Self-consistency是对CoT方法的改进相比于CoT只进行一次采样回答SC采用了多次采样的思想最终选择consistent的回答作为最终答案。SC的成立的基础是文章认为一个复杂的推理问题可以采用多种不同的方式进行解决最终都可以得到正确答案。人类思考同一个问题可能会有不同的思路但是最后可能得到相同的结论。可以理解为“一题多解”“条条大路通罗马”。SC相比于CoT性能进一步得到了更大的提升。 通过多次采样回答最终选择一致性最高的结果作为最终结果这在很大程度上可以避免LLM随机性带来的错误问题。 TOT Tree of ThoughtsToT框架⽤于改进语⾔模型LMs的推理能⼒。该框架是对流⾏的“Chain of Thought”⽅法的⼀种 泛化允许模型在解决问题的过程中进⾏更多的探索和策略性前瞻。 ToT允许模型⾃我评估不同的选择以决定下⼀步的⾏动并在必要时进⾏前瞻或回溯以做出全局性的选择。 在24点游戏中使⽤链式思考提示的GPT-4仅解决了4%的任务⽽使⽤ToT⽅法的成功率达到了74% 在其他场景中的应用型不是很大。
GoT
GoT有三种操作 Aggregation Refining Generation Aggregation指的是几个想法的整合变成了一个更好的想法图上表现为多个节点指向同一个节点 Refining指节点自身进行反思不断改善自己本身的内容图上表现为一个节点重新指向自己 Generation指通过一个节点产生了后续1个或者更多新的想法图上表现为一个节点指向一个或多个节点。 ReAct
和langchain 中的Agent是一个道理 使用 LLM 以交错的方式生成推理轨迹和特定于任务的动作从而实现两者之间更大的协同作用。 推理轨迹帮助模型归纳、跟踪和更新行动计划以及处理异常而操作允许它与外部源例如知识库或环境交互以收集附加信息。我们应用我们的方法名为 ReAct适应各种语言和决策任务并证明其在最先进的基线上的有效性以及比没有推理或行动组件的方法提高的人类可解释性和可信度。 具体来说在问答HotpotQA和事实验证Fever方面ReAct 通过与简单的维基百科 API 交互克服了思维链推理中普遍存在的幻觉和错误传播问题并生成类似人类的任务解决轨迹比没有推理痕迹的基线更容易解释。
