考证培训机构报名网站,如何做好互联网营销,百度推广计划,杭州seo网站建设引言
大模型训练通常会遇到内存资源的限制。目前常用的内存减少方法低秩适应#xff08;LoRA#xff09;#xff0c;通过引入低秩#xff08;low-rank#xff09;适配器来更新模型的权重#xff0c;而不是直接更新整个权重矩阵。然而#xff0c;这种方法在预训练和微调…引言
大模型训练通常会遇到内存资源的限制。目前常用的内存减少方法低秩适应LoRA通过引入低秩low-rank适配器来更新模型的权重而不是直接更新整个权重矩阵。然而这种方法在预训练和微调阶段通常表现不佳为此本文作者提出了梯度低秩映射Gradient Low-Rank Projection 「GaLore」这是一种允许**「全参数」**学习的训练策略并且比 LoRA 等常见的低秩适应方法更节省内存相比BF16内存减少了63.3% 。https://arxiv.org/pdf/2403.03507v1.pdf
背景介绍
大型语言模型(LLMs)在对话式人工智能和语言翻译等领域展现出了令人印象深刻的性能。训练这些大模型LLMs不仅需要大量的计算资源而且对内存的需求也非常大。这里的内存需求不仅仅是指数十亿个可训练的参数还包括它们的梯度和优化器状态比如Adam中的梯度动量和方差这些往往比参数本身占用的存储空间还要大。
举个例子如果我们从头开始训练一个LLaMA 7B模型即使是用最小的批量大小也需要至少58GB的内存其中14GB用于存储可训练的参数42GB用于存储Adam优化器的状态和权重梯度还有2GB用于存储激活值。这样的内存需求使得在像NVIDIA RTX 4090这样只有24GB内存的消费级GPU上进行训练变得不太现实。
除了工程和系统方面的努力比如梯度检查点和内存卸载等技术来实现更快更高效的分布式训练研究人员还在寻求开发各种优化技术以减少预训练和微调过程中的内存使用。
高效参数微调Parameter-efficient fine-tuningPEFT 技术让我们能够高效的将预训练语言模型PLMs适配至不同的下游任务中从而无需对模型的所有参数进行调整。其中当前较火的低秩适应LoRA技术将权重矩阵重新参数化为这里的是一个固定的全秩矩阵而和是待学习的附加低秩适配器。因为秩所以A和B包含的可训练参数数量较少。
当前LoRA已经被广泛使用其中是固定的预训练权重。它的变体ReLoRA也用于预训练通过定期使用之前学到的低秩适配器来更新。然而对于微调来说有研究表明LoRA并没有显示出与全秩微调相当的性能。对于从头开始的预训练它被证明需要一个全秩模型训练作为热身然后才能在低秩子空间中进行优化。这其中可能有两个原因1最优的权重矩阵可能不是低秩的2重新参数化改变了梯度训练的动态。
为了解决上述挑战本文作者提出了Gradient Low-Rank ProjectionGaLore训练策略它允许全参数学习同时比LoRA等常见低秩适应方法更节省内存。
GaLore介绍
GaLore的核心思想是在训练过程中利用梯度的低秩特性而不是直接对权重矩阵进行低秩近似。具体来说
在LLMs的训练过程中权重矩阵W的梯度G通常具有低秩结构。这意味着梯度矩阵可以通过较小的子空间来近似表示从而减少内存占用。GaLore通过计算两个投影矩阵和将梯度矩阵G投影到一个低秩形式。这样的投影操作可以显著降低优化器状态的内存成本因为P 和 Q 的低频率更新例如每 200 次迭代会产生最小的额外计算成本。
在训练过程中GaLore可以动态的切换低秩子空间这意味着模型可以在不同的子空间中学习而不是局限于单一的低秩空间。这种动态切换通过定期更新投影矩阵P和Q来实现以适应梯度的变化。此外GaLore在内存使用上进行了优化例如它只使用一个投影矩阵P或Q而不是同时使用两个这进一步减少了内存需求。
不仅如此GaLore还可以与现有技术结合例如「与8位优化器的结合」GaLore可以与8位优化器如8位Adam结合使用这些优化器已经在内存使用上进行了优化。结合使用GaLore和8位优化器可以在保持性能的同时进一步降低内存占用。「逐层权重更新」GaLore还与逐层权重更新技术结合这种技术在反向传播期间执行权重更新从而减少了存储整个权重梯度的需要。
「GaLore引入了少量额外的超参数」除了Adam的原始超参数外GaLore引入了秩、子空间切换频率和缩放因子α。这些超参数有助于调整GaLore的行为以适应不同的训练需求。其中在Adam引入GaLore如下所示。
实验结果
如下图展示了在预训练LLaMA 7B模型时不同方法的内存消耗。与 BF16 Adam 基线和 8 位 Adam 相比8 位 GaLore 分别减少了 37.92G (63.3%) 和 24.5G (52.3%) 总内存。如下图在GLUE基准测试中GaLore在微调预训练的RoBERTa模型时与LoRA相比取得了更好的性能。
如下图在不同模型大小下使用不同方法时的内存使用情况。这进一步证实了GaLore在内存效率方面的优势。
大模型岗位需求
大模型时代企业对人才的需求变了AIGC相关岗位人才难求薪资持续走高AI运营薪资平均值约18457元AI工程师薪资平均值约37336元大模型算法薪资平均值约39607元。
掌握大模型技术你还能拥有更多可能性
• 成为一名全栈大模型工程师包括PromptLangChainLoRA等技术开发、运营、产品等方向全栈工程
• 能够拥有模型二次训练和微调能力带领大家完成智能对话、文生图等热门应用
• 薪资上浮10%-20%覆盖更多高薪岗位这是一个高需求、高待遇的热门方向和领域
• 更优质的项目可以为未来创新创业提供基石。
可能大家都想学习AI大模型技术也想通过这项技能真正达到升职加薪就业或是副业的目的但是不知道该如何开始学习因为网上的资料太多太杂乱了如果不能系统的学习就相当于是白学。为了让大家少走弯路少碰壁这里我直接把全套AI技术和大模型入门资料、操作变现玩法都打包整理好希望能够真正帮助到大家。
-END- AI大模型学习路线汇总
大模型学习路线图整体分为7个大的阶段全套教程文末领取哈 第一阶段 从大模型系统设计入手讲解大模型的主要方法
第二阶段 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用
第三阶段 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统
第四阶段 大模型知识库应用开发以LangChain框架为例构建物流行业咨询智能问答系统
第五阶段 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型
第六阶段 以SD多模态大模型为主搭建了文生图小程序案例
第七阶段 以大模型平台应用与开发为主通过星火大模型文心大模型等成熟大模型构建大模型行业应用。
大模型实战案例
光学理论是没用的要学会跟着一起做要动手实操才能将自己的所学运用到实际当中去这时候可以搞点实战案例来学习。 大模型视频和PDF合集
观看零基础学习书籍和视频看书籍和视频学习是最快捷也是最有效果的方式跟着视频中老师的思路从基础到深入还是很容易入门的。
学会后的收获
• 基于大模型全栈工程实现前端、后端、产品经理、设计、数据分析等通过这门课可获得不同能力
• 能够利用大模型解决相关实际项目需求 大数据时代越来越多的企业和机构需要处理海量数据利用大模型技术可以更好地处理这些数据提高数据分析和决策的准确性。因此掌握大模型应用开发技能可以让程序员更好地应对实际项目需求
• 基于大模型和企业数据AI应用开发实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能 学会Fine-tuning垂直训练大模型数据准备、数据蒸馏、大模型部署一站式掌握
• 能够完成时下热门大模型垂直领域模型训练能力提高程序员的编码能力 大模型应用开发需要掌握机器学习算法、深度学习框架等技术这些技术的掌握可以提高程序员的编码能力和分析能力让程序员更加熟练地编写高质量的代码。
获取方式
有需要的小伙伴可以保存图片到wx扫描二v码免费领取【保证100%免费】
