大连科技学院官方网站的建设与放,深圳英文站seo,网站内容和备案不一,校园网站的建设作用1、文件转换
在官网 https://ai.meta.com/llama/ 申请一个账号#xff0c;选择要下载的模型#xff0c;会收到一个邮件#xff0c;邮件中介绍了下载方法 执行命令 git clone https://github.com/meta-llama/llama.git #xff0c;然后执行 llama/download.sh#xff0c…1、文件转换
在官网 https://ai.meta.com/llama/ 申请一个账号选择要下载的模型会收到一个邮件邮件中介绍了下载方法 执行命令 git clone https://github.com/meta-llama/llama.git 然后执行 llama/download.sh需要输入URL地址的时候就复制邮件里面的地址后面再输入自己需要的模型大小。就得到了原始模型如下图 接下来就是对模型HF化了在这个网址 https://github.com/huggingface/transformers/blob/main/src/transformers/models/llama/convert_llama_weights_to_hf.py 下载 convert_llama_weights_to_hf.py 文件执行命令python convert_llama_weights_to_hf.py --input_dir llama-main --output_dir llama2_7b_hf --model_size 7Bllama-main就是刚才下载的模型文件的路径llama2_7b_hf就是hf模型的输出路径。如果报没有huggingface transforms的错误就执行pip install transformers安装一下。我还报了下面这个错误
ImportError: Using low_cpu_mem_usageTrue or a device_map requires Accelerate: pip install accelerate0.26.0需要执行 pip install accelerate0.26.0 安装一下下图是转换完成的控制台打印的信息 我最终得到的是这些模型和其他博客不一样后续使用一下看看有没有问题吧断断续续花好长时间才得到这样的结果 /(ㄒoㄒ)/~~步骤和踩坑可能记录的不太全可以结合其他博客一起看
2、直接安装没成功
安装Git lfs
去官网https://github.com/git-lfs/git-lfs/releases 翻到一个版本下面的下载列表选择合适自己的版本如果是Linux系统不知道应该选AMD64还是ARM等的可以通过命令 arch 查看显示 x86_64 的就下载将压缩包解压使用命令 tar -zxvf git-lfs-linux-amd64-v3.5.1.tar.gz。进入到解压后的 git-lfs-3.5.1 文件夹执行安装命令 ./install.sh。这里我出现了没有权限的错误如下图 打开 git-lfs-3.5.1 文件夹中的 install.sh 文件修改prefix到自己有权限的文件夹如下图 再次执行 ./install.sh 命令又报错了 需要执行命令 git init 之后再次执行命令 ./install.sh 安装成功了执行命令 export PATH$PATH:刚才修改的prefix路径 可以再执行 git lfs install 验证是否安装成功。然后执行命令 git clone https://huggingface.co/meta-llama/Llama-2-7b-hf 报了连接超时的错误如下图 看了一些博客说用镜像网站、pycrawlers下载的都没成功。先放弃了 /(ㄒoㄒ)/~~
如有错误请多多指教欢迎交流