有赞商城网站建设,企业管理咨询是做什么的,朝阳区规划网站,网站备案导致网站被kRLHF (Reinforcement Learning from Human Feedback) #xff0c;直译为#xff1a;“来自人类反馈的强化学习”。RLHF是一种结合了强化学习和人类反馈的机器学习方法#xff0c;主要用于训练大模型以执行复杂的任务#xff0c;尤其是当这些任务难以通过传统的奖励函数来精…RLHF (Reinforcement Learning from Human Feedback) 直译为“来自人类反馈的强化学习”。RLHF是一种结合了强化学习和人类反馈的机器学习方法主要用于训练大模型以执行复杂的任务尤其是当这些任务难以通过传统的奖励函数来精确定义时。
主要原理
RLHF主要包含下面四个组件
1.预训练模型pre-trained model开始于一个预训练模型如在大量文本数据上预训练的大语言模型
2.人类反馈human feedback):收集关于模型输出质量的人类反馈这些反馈可以能包括对生成的文本进行标注或者评分并提供改进的指导。
3.奖励建模reward modeling使用人类反馈来训练一个奖励模型这个奖励模型学习根据人类反馈来给模型生成的输出评分。
4.强化学习reinforcement learning利用奖励模型作为奖励函数使用标准的强化学习或者深度学习算法来继续训练原始模型优化模型的输出以最大化奖励模型给出的分数。
要解决的问题
解决传统强化学习面临的一些问题尤其是奖励工程reward engineering困难和缺少高质量反馈的挑战。在许多复杂任务重定义一个精确的奖励函数非常困难RLHF通过直接从人类反馈中学习避免了这一问题使得模型更好的适应特定的任务和预期行为。
RLHF的应用比较广泛从聊天机器人、文本生成到更复杂的决策制定和游戏中都有广泛的应用。通过人类反馈模型能够在更为复杂和抽象的层面学习并输出的结果更符合人类的预期和价值观。
也常用于大语言模型egopenai的gpt-3用于改善模型在特定任务上的表现生成更符合人类期望的语言、问题回答或者执行任务。 核心内容说完了下面我们看看LLM是怎么提出来要用RLHF的。关键问题在于如何评价GPT生成的文本好不好呢好的定于是基于人类价值观的你们如何让GPT学到人类的价值观呢
过去几年里各种 LLM 根据人类输入提示 (prompt) 生成多样化文本的能力令人印象深刻。然而对生成结果的评估是主观和依赖上下文的例如我们希望模型生成一个有创意的故事、一段真实的信息性文本或者是可执行的代码片段这些结果难以用现有的基于规则的文本生成指标 (如 BLUE 和 ROUGE) 来衡量。除了评估指标现有的模型通常以预测下一个单词的方式和简单的损失函数 (如交叉熵) 来建模没有显式地引入人的偏好和主观意见。
如果我们 用生成文本的人工反馈作为性能衡量标准或者更进一步用该反馈作为损失来优化模型那不是更好吗这就是 RLHF 的思想使用强化学习的方式直接优化带有人类反馈的语言模型。RLHF 使得在一般文本数据语料库上训练的语言模型能和复杂的人类价值观对齐。
RLHF 技术分解
RLHF 是一项涉及多个模型和不同训练阶段的复杂概念这里我们按三个步骤分解
预训练一个语言模型 (LM) 聚合问答数据并训练一个奖励模型 (Reward ModelRM) 用强化学习 (RL) 方式微调 LM。
Step 1. 预训练语言模型
首先我们使用经典的预训练目标训练一个语言模型。对这一步的模型OpenAI 在其第一个流行的 RLHF 模型 InstructGPT 中使用了较小版本的 GPT-3; Anthropic 使用了 1000 万 520 亿参数的 Transformer 模型进行训练DeepMind 使用了自家的 2800 亿参数模型 Gopher。
这里可以用额外的文本或者条件对这个 LM 进行微调例如 OpenAI 对 “更可取” (preferable) 的人工生成文本进行了微调而 Anthropic 按 “有用、诚实和无害” 的标准在上下文线索上蒸馏了原始的 LM。这里或许使用了昂贵的增强数据但并不是 RLHF 必须的一步。由于 RLHF 还是一个尚待探索的领域对于” 哪种模型” 适合作为 RLHF 的起点并没有明确的答案。 接下来我们会基于 LM 来生成训练奖励模型 (RM也叫偏好模型) 的数据并在这一步引入人类的偏好信息。
Step 2. 训练奖励模型
RM 的训练是 RLHF 区别于旧范式的开端。这一模型接收一系列文本并返回一个标量奖励数值上对应人的偏好。我们可以用端到端的方式用 LM 建模或者用模块化的系统建模 (比如对输出进行排名再将排名转换为奖励) 。这一奖励数值将对后续无缝接入现有的 RL 算法至关重要。
关于模型选择方面RM 可以是另一个经过微调的 LM也可以是根据偏好数据从头开始训练的 LM。例如 Anthropic 提出了一种特殊的预训练方式即用偏好模型预训练 (Preference Model PretrainingPMP) 来替换一般预训练后的微调过程。因为前者被认为对样本数据的利用率更高。但对于哪种 RM 更好尚无定论。
关于训练文本方面RM 的提示 - 生成对文本是从预定义数据集中采样生成的并用初始的 LM 给这些提示生成文本。Anthropic 的数据主要是通过 Amazon Mechanical Turk 上的聊天工具生成的并在 Hub 上可用 (https://huggingface.co/datasets/Anthropic/hh-rlhf)而 OpenAI 使用了用户提交给 GPT API 的 prompt。
关于训练奖励数值方面这里需要人工对 LM 生成的回答进行排名。起初我们可能会认为应该直接对文本标注分数来训练 RM但是由于标注者的价值观不同导致这些分数未经过校准并且充满噪音。通过排名可以比较多个模型的输出并构建更好的规范数据集。
对具体的排名方式一种成功的方式是对不同 LM 在相同提示下的输出进行比较然后使用 Elo 系统建立一个完整的排名。这些不同的排名结果将被归一化为用于训练的标量奖励值。
这个过程中一个有趣的产物是目前成功的 RLHF 系统使用了和生成模型具有 不同 大小的 LM (例如 OpenAI 使用了 175B 的 LM 和 6B 的 RMAnthropic 使用的 LM 和 RM 从 10B 到 52B 大小不等DeepMind 使用了 70B 的 Chinchilla 模型分别作为 LM 和 RM) 。一种直觉是偏好模型和生成模型需要具有类似的能力来理解提供给它们的文本。 接下来是最后一步利用 RM 输出的奖励用强化学习方式微调优化 LM。
Step 3. 用强化学习微调
长期以来出于工程和算法原因人们认为用强化学习训练 LM 是不可能的。而目前多个组织找到的可行方案是使用策略梯度强化学习 (Policy Gradient RL) 算法、近端策略优化 (Proximal Policy OptimizationPPO) 微调初始 LM 的部分或全部参数。因为微调整个 10B100B 参数的成本过高 (相关工作参考低秩适应 LoRA 和 DeepMind 的 Sparrow LM) 。PPO 算法已经存在了相对较长的时间有大量关于其原理的指南因而成为 RLHF 中的有利选择。
事实证明RLHF 的许多核心 RL 进步一直在弄清楚如何将熟悉的 RL 算法应用到更新如此大的模型。
让我们首先将微调任务表述为 RL 问题。首先该策略 (policy) 是一个接受提示并返回一系列文本 (或文本的概率分布) 的 LM。这个策略的行动空间 (action space) 是 LM 的词表对应的所有词元 (一般在 50k 数量级) 观察空间 (observation space) 是可能的输入词元序列也比较大 (词汇量 ^ 输入标记的数量) 。奖励函数是偏好模型和策略转变约束 (Policy shift constraint) 的结合。
PPO 算法确定的奖励函数具体计算如下将提示 输入初始 LM 和当前微调的 LM分别得到了输出文本 将来自当前策略的文本传递给 RM 得到一个标量的奖励 。将两个模型的生成文本进行比较计算差异的惩罚项在来自 OpenAI、Anthropic 和 DeepMind 的多篇论文中设计为输出词分布序列之间的 Kullback–Leibler (KL) 散度的缩放即 。这一项被用于惩罚 RL 策略在每个训练批次中生成大幅偏离初始模型以确保模型输出合理连贯的文本。如果去掉这一惩罚项可能导致模型在优化中生成乱码文本来愚弄奖励模型提供高奖励值。此外OpenAI 在 InstructGPT 上实验了在 PPO 添加新的预训练梯度可以预见到奖励函数的公式会随着 RLHF 研究的进展而继续进化。
最后根据 PPO 算法我们按当前批次数据的奖励指标进行优化 (来自 PPO 算法 on-policy 的特性) 。PPO 算法是一种信赖域优化 (Trust Region OptimizationTRO) 算法它使用梯度约束确保更新步骤不会破坏学习过程的稳定性。DeepMind 对 Gopher 使用了类似的奖励设置但是使用 A2C (synchronous advantage actor-critic) 算法来优化梯度。 作为一个可选项RLHF 可以通过迭代 RM 和策略共同优化。随着策略模型更新用户可以继续将输出和早期的输出进行合并排名。Anthropic 在他们的论文中讨论了迭代在线 RLHF其中策略的迭代包含在跨模型的 Elo 排名系统中。这样引入策略和 RM 演变的复杂动态代表了一个复杂和开放的研究问题。
RLHF 的未来
尽管 RLHF 取得了一定的成果和关注但依然存在局限。这些模型依然会毫无不确定性地输出有害或者不真实的文本。这种不完美也是 RLHF 的长期挑战和动力 —— 在人类的固有领域中运行意味着永远不会到达一个完美的标准。
收集人类偏好数据的质量和数量决定了 RLHF 系统性能的上限。RLHF 系统需要两种人类偏好数据人工生成的文本和对模型输出的偏好标签。生成高质量回答需要雇佣兼职人员 (而不能依赖产品用户和众包) 。另一方面训练 RM 需要的奖励标签规模大概是 50k 左右所以并不那么昂贵 (当然远超了学术实验室的预算) 。目前相关的数据集只有一个基于通用 LM 的 RLHF 数据集 (来自 Anthropic) 和几个较小的子任务数据集 (如来自 OpenAI 的摘要数据集) 。另一个挑战来自标注者的偏见。几个人类标注者可能有不同意见导致了训练数据存在一些潜在差异。
除开数据方面的限制一些有待开发的设计选项可以让 RLHF 取得长足进步。例如对 RL 优化器的改进方面PPO 是一种较旧的算法但目前没有什么结构性原因让其他算法可以在现有 RLHF 工作中更具有优势。另外微调 LM 策略的一大成本是策略生成的文本都需要在 RM 上进行评估通过离线 RL 优化策略可以节约这些大模型 RM 的预测成本。最近出现了新的 RL 算法如隐式语言 Q 学习 (Implicit Language Q-LearningILQL) 也适用于当前 RL 的优化。在 RL 训练过程的其他核心权衡例如探索和开发 (exploration-exploitation) 的平衡也有待尝试和记录。探索这些方向至少能加深我们对 RLHF 的理解更进一步提升系统的表现。
RLHF的局限性
尽管 RLHF 模型在训练 AI 代理执行从机器人、视频游戏到 NLP 等复杂任务方面取得了令人印象深刻的成果但使用 RLHF 并非没有局限性。
人类偏好数据成本高昂。收集第一手人类反馈的需求可能会造成一个代价高昂的瓶颈限制 RLHF 流程的可扩展性。Anthropic 10和 Google 11都提出了 AI 反馈强化学习 (RLAIF) 的方法即让另一个 LLM 评估模型响应来取代部分或全部人类反馈其结果与 RLHF 相当。
人类的输入具有高度主观性。要就“高质量”的输出到底是什么达成坚定的共识几乎是不可能的因为人类评估者不仅会对所谓的“事实”产生不同的意见还会对“适当的”模型行为究竟应该如何理解存在分歧。因此人类的分歧使得据以判断模型性能的“标准答案”无法形成。
人类评估者可能会犯错甚至故意采取对抗性和恶意行为。人类对模型的引导并不总是出于善意他们可能怀抱着真诚的反对意见也可能故意操纵学习过程。Wolf 等人在 2016 年的一篇论文中提出有毒行为应被视为人机交互中的一个基本预期并建议需要一种方法来评估人类输入的可信度。12 2022 年Meta AI 发布了一篇关于对抗性人类输入的论文ibm.com 外部链接研究了使用自动化方法“从高质量数据中获得最大学习效率同时对低质量和对抗性数据具有最大稳健性”。该论文对各种“操纵”行为进行了分类并确定了它们扭曲反馈数据的不同方式。
RLHF 存在过度拟合和偏见的风险。如果收集到的反馈来自一个非常有限的群体那么当模型被其他群体使用或者被用来处理与评估者持有某些偏见相关的主题时可能会出现性能问题。
参考资料
首先介绍一些相关的开源工作
关于 RLHF 的第一个项目来自 OpenAI:https://github.com/openai/lm-human-preferences
一些 PyTorch 的 repo
https://github.com/lvwerra/trlhttps://github.com/CarperAI/trlxhttps://github.com/allenai/RL4LMs
此外Huggingface Hub 上有一个由 Anthropic 创建的大型数据集:https://huggingface.co/datasets/Anthropic/hh-rlhf
相关论文包括在现有 LM 前的 RLHF 进展和基于当前 LM 的 RLHF 工作
TAMER: Training an Agent Manually via Evaluative Reinforcement (Knox and Stone 2008)Interactive Learning from Policy-Dependent Human Feedback (MacGlashan et al. 2017)Deep Reinforcement Learning from Human Preferences (Christiano et al. 2017)Deep TAMER: Interactive Agent Shaping in High-Dimensional State Spaces (Warnell et al. 2018)Fine-Tuning Language Models from Human Preferences (Zieglar et al. 2019)Learning to summarize with human feedback (Stiennon et al., 2020)Recursively Summarizing Books with Human Feedback (OpenAI Alignment Team 2021)WebGPT: Browser-assisted question-answering with human feedback (OpenAI, 2021)InstructGPT: Training language models to follow instructions with human feedback (OpenAI Alignment Team 2022)GopherCite: Teaching language models to support answers with verified quotes (Menick et al. 2022)Sparrow: Improving alignment of dialogue agents via targeted human judgements (Glaese et al. 2022)ChatGPT: Optimizing Language Models for Dialogue (OpenAI 2022)Scaling Laws for Reward Model Overoptimization (Gao et al. 2022)Training a Helpful and Harmless Assistant with Reinforcement Learning from Human Feedback (Anthropic, 2022)Red Teaming Language Models to Reduce Harms: Methods, Scaling Behaviors, and Lessons Learned (Ganguli et al. 2022)Dynamic Planning in Open-Ended Dialogue using Reinforcement Learning (Cohen at al. 2022)Is Reinforcement Learning (Not) for Natural Language Processing?: Benchmarks, Baselines, and Building Blocks for Natural Language Policy Optimization (Ramamurthy and Ammanabrolu et al. 2022)
欢迎去看看这篇文章
还有这个
