网站排名优化软件哪家好,可以通过哪些网站注册域名,如何设计网页模板,保亭住房和城乡建设局网站目录
什么是提示工程#xff08;Prompt Engineering#xff09;
Prompt 调优
Prompt 的典型构成
「定义角色」为什么有效#xff1f;
防止 Prompt 攻击
攻击方式 1#xff1a;著名的「奶奶漏洞」
攻击方式 2#xff1a;Prompt 注入 防范措施 1#xff1a;Prompt 注…目录
什么是提示工程Prompt Engineering
Prompt 调优
Prompt 的典型构成
「定义角色」为什么有效
防止 Prompt 攻击
攻击方式 1著名的「奶奶漏洞」
攻击方式 2Prompt 注入 防范措施 1Prompt 注入分类器
防范措施 2直接在输入中防御
高质量 prompt 技巧总结 什么是提示工程Prompt Engineering
提示工程也叫「指令工程」。
Prompt 就是你发给大模型的指令比如「讲个笑话」、「用 Python 编个贪吃蛇游戏」、「给男/女朋友写封情书」等貌似简单但意义非凡 「Prompt」 是 AGI 时代的「编程语言」「Prompt 工程」是 AGI 时代的「软件工程」「提示工程师」是 AGI 时代的「程序员」学会提示工程就像学用鼠标、键盘一样是 AGI 时代的基本技能提示工程「门槛低天花板高」所以有人戏称 prompt 为「咒语」但专门的「提示工程师」不会长久因为每个人都要会「提示工程」AI 的进化也会让提示工程越来越简单
Prompt 调优
找到好的 prompt 是个持续迭代的过程需要不断调优。
如果知道训练数据是怎样的参考训练数据来构造 prompt 是最好的。「当人看」类比
你知道 ta 爱读红楼梦就和 ta 聊红楼梦你知道 ta 十年老阿里就多说阿里黑话你知道 ta 是日漫迷就夸 ta 卡哇伊
不知道训练数据怎么办
看 Ta 是否主动告诉你。例如 OpenAI GPT 对 Markdown 格式友好OpenAI 官方出了 Prompt Engineering 教程并提供了一些示例Claude 对 XML 友好。只能不断试了。有时一字之差对生成概率的影响都可能是很大的也可能毫无影响……
「试」是常用方法确实有运气因素所以「门槛低、 天花板高」。
高质量 prompt 核心要点具体、丰富、少歧义
Prompt 的典型构成
不要固守「模版」。模版的价值是提醒我们别漏掉什么而不是必须遵守模版才行。
角色给 AI 定义一个最匹配任务的角色比如「你是一位软件工程师」「你是一位小学老师」指示对任务进行描述上下文给出与任务相关的其它背景信息尤其在多轮交互中例子必要时给出举例学术中称为 one-shot learning, few-shot learning 或 in-context learning实践证明其对输出正确性有很大帮助输入任务的输入信息在提示词中明确的标识出输入输出输出的格式描述以便后继模块自动解析模型的输出结果比如JSON、XML
「定义角色」为什么有效
模型训练者并没想到过会这样完全是大家「把 AI 当人看」玩出的一个用法实在传得太广导致现在的大模型训练数据里充满了角色定义所以更有效了有一篇论文证实的现象可以说明为啥「你是一个 xxx」特别有效 防止 Prompt 攻击
攻击方式 1著名的「奶奶漏洞」 正情况下大模型会拒绝回答一些危险的问题但是用户在进行prompt 的时候可以让大模型不经意的回答了有害问题。
攻击方式 2Prompt 注入 用户在进行prompt 的时候向大模型提出更换大模型已定义的角色让他回答用户自身需要的一些问题。 防范措施 1Prompt 注入分类器 就像安检一样在提交Prompt前让大模型先判断这个Prompt是否有害。
防范措施 2直接在输入中防御
当人看每次默念动作要领。在Prompt前面添加必要的提示要求。
总结目前并没有 100% 好用的防范方法。
高质量 prompt 技巧总结 把大模型当“”人”看不同的大模型有不同的沟通偏好。如chatgpt对 Markdown 格式的文本识别度很高。 Claude 对 XML 友好。 发出的指令要尽量具体、丰富、少歧义。 定义角色。现有的大模型里的很多数据都是基于角色定义训练的。 大模型对prompt的 开始和结束词语更敏感。将重要的事情在末尾描述三遍是一个不错的做法。 必要的时候举例描述或直接给出模板能提升大模型回答的准确性。 思维链模型将一个复杂的问题拆分成多个小问题一步步 提问 比 直接将这个复杂的问题丢给 大模型要可靠的多。 自洽性 同一个问题换个角度多问几次取出现次数最高的结果。 注意做好prompt攻击防范。
OpenAI API 的几个重要参数
其它大模型的 API 基本都是参考 OpenAI只有细节上稍有不同。
OpenAI 提供了两类 API
Completion API续写文本多用于补全场景。https://platform.openai.com/docs/api-reference/completions/createChat API多轮对话但可以用对话逻辑完成任何任务包括续写文本。https://platform.openai.com/docs/api-reference/chat/create
说明
Chat 是主流有的大模型只提供 Chat背后的模型可以认为是一样的但也不完全一样Chat 模型是纯生成式模型做指令微调之后的结果更多才多艺更听话
def get_chat_completion(session, user_prompt, modelgpt-3.5-turbo):_session copy.deepcopy(session)_session.append({role: user, content: user_prompt})response client.chat.completions.create(modelmodel,messages_session,# 以下默认值都是官方默认值temperature1, # 生成结果的多样性。取值 0~2 之间越大越发散越小越收敛seedNone, # 随机数种子。指定具体值后temperature 为 0 时每次生成的结果都一样streamFalse, # 数据流模式一个字一个字地接收response_format{type: text}, # 返回结果的格式json_object 或 texttop_p1, # 随机采样时只考虑概率前百分之多少的 token。不建议和 temperature 一起使用n1, # 一次返回 n 条结果max_tokens100, # 每条结果最多几个 token超过截断presence_penalty0, # 对出现过的 token 的概率进行降权frequency_penalty0, # 对出现过的 token 根据其出现过的频次对其的概率进行降权logit_bias{}, # 对指定 token 的采样概率手工加/降权不常用)msg response.choices[0].message.contentreturn msg
