吉林企业做网站,天津 网站设计公司,成都网站建设 网络公司,制作网页软件免费试试号称最好的7B模型#xff08;论文复现#xff09; 本文所涉及所有资源均在传知代码平台可获取 文章目录 试试号称最好的7B模型#xff08;论文复现#xff09;概述论文原理部署与复现推理微调adapter 融合 概述 Mistral 7B 是一个新型的具有 7.3 万亿参数的大语言模型。…试试号称最好的7B模型论文复现 本文所涉及所有资源均在传知代码平台可获取 文章目录 试试号称最好的7B模型论文复现概述论文原理部署与复现推理微调adapter 融合 概述 Mistral 7B 是一个新型的具有 7.3 万亿参数的大语言模型。其性能甚至优于13万亿参数的 Liama2。 Mistral 7B 在所有测试基准中都优于之前最佳的 13B 模型Llama 2并在数学和代码生成方面超越了最佳的 34B 模型LLaMa 34B。此外Mistral 7B 在编码性能上接近于 Code-Llama 7B而不会牺牲非代码相关基准上的性能。Mistral 7B 利用了分组查询注意力GQA和滑动窗口注意力SWA。GQA 显著加快了推断速度同时在解码过程中减少了内存需求从而允许更高的批处理大小提高了吞吐量这对于实时应用非常重要。此外SWA 旨在以较低的计算成本更有效地处理更长的序列从而缓解了LLM大型语言模型的常见限制。这些注意力机制共同促进了 Mistral 7B 的增强性能和效率。 模型论文可见Mistral 7B 论文原理 Mistral 7B 基于 transformer 架构下图将展示该架构的主要参数 滑动窗口注意力SWA利用 transformer 的堆叠层来关注超出窗口大小 W 范围之外的信息。在层 k 中的位置 i 的隐藏状态 hi 关注前一层中位置在 i − W 和 i 之间的所有隐藏状态。递归地hi 可以访问到距离为 W × k 个标记的输入层中的标记如图所示。在最后一层使用窗口大小 W 4096理论上的注意力跨度大约为131K个标记。在实践中对于序列长度为16K且 W 4096对FlashAttention 和 xFormers 进行的修改使得相对于基准的普通注意力模型速度提升了2倍。 滚动缓存缓冲区。一个固定的注意力跨度意味着我们可以使用滚动缓冲区缩小缓存的大小。缓存的大小为 W而在时间步 i 的键和值存储在缓存的位置 i mod W 中。因此当位置 i 大于 W 时缓存中的过去数值被覆盖并且缓存的大小停止增加。下图中提供了一个以 W 3 为例的说明。在32k个标记的序列长度上这将使缓存的内存使用减少了8倍而不影响模型的质量 预先填充和分块。在生成序列时我们需要逐个预测标记因为每个标记都取决于前面的标记。然而提示是预先知道的我们可以使用提示来预先填充 (k, v) 缓存。如果提示非常大我们可以将其分成较小的块并使用每个块来预先填充缓存。为此我们可以将窗口大小选择为我们的块大小。对于每个块我们需要计算缓存和块上的注意力。图3展示了注意力掩码如何作用于缓存和块上 部署与复现 首先安装所需要的依赖推荐新建 conda 环境安装 # 确保安装了 cuda 版的 pytorch 如果已经安装了忽视这条
conda install pytorch torchvision torchaudio pytorch-cuda11.8 -c pytorch -c nvidia
pip install -r ./requirements.txt须在 linux 环境下运行因为 Windows 下 bitsandbytes 包为 bitsandbytes-windows 会造成 transfromers 包无法正常识别且 Windows 没有 Flash Attention 推理 在此处下载模型解压到 7b-v0.1-hf/1运行 infer.py输入你想使用的prompt,即可得到模型的回复。推理部分可在 Windows 下进行速度稍慢些但可以正常走完 python infer.py --promptAs a data scientist, can you explain the concept of regularization in machine learning?微调 使用准备好的数据集微调模型。你也可以使用自己的数据集打开train.py 编辑dataset 的路径即可该数据的风格为指令由 [INST] [/INST] 包围进行微调后模型便可以很好地处理类似的prompt运行train.py python train.pyadapter 融合 微调后的模型可以使用 PeftModel 连接 adapter重新进行推理。所有代码已经准备在adapter.py中运行即可输入数据集风格的 prompt python adapter.py --prompts[INST] How become a certified data professional [/INST]文章代码资源点击附件获取
