NExT-GPT复现之——llama踩坑

news/2024/7/12 2:20:50 标签: gpt, llama

NExT-GPT复现了快一周,库一多真的各种BUG!各种release和flag不一样也导致配置起来顾此失彼。等配置完了一定搞一个docker发出来!

这里记录一下llama踩坑。

由于llama2发布,llama1的权重很难申请到。学生邮箱两周都没消息。想使用llama2的权重,但是bug还是很多,而且md5码是错误的。

llama_windows_6">pyllama 在windows下

https://github.com/Xianchao-Wu/pyllama

首先是需要配置cmake,然后从sourse安装itree。

python -m llama.download  --model_size 7B --folder /tmp

全是空行,debug发现卡在这里一直retry.

 retcode = hiq.execute_cmd(cmd, verbose=False, shell=True, runtime_output=True, env=os.environ)

https://github.com/juncongmoo/pyllama/issues/50

安装weget等:

  • 如果您使用的是 Windows,则必须安装 WSL 和 bash 才能运行下载脚本。
  • 你必须安装wget(在linux版本中)
  • HIQ 似乎在 cmd 中执行 bash shell 脚本时出现问题
  • 你可以做的是,手动创建一个下载脚本的版本并添加你的director(Linux格式)并添加你想要的模型作为字符串
  • 现在只需使用 wsl 并在命令行中打开 bash 并运行下载脚本
  • 现在您已经安装了所需的型号并可以继续设置。

Windows 10 中 Bash Shell https://www.jianshu.com/p/a90591d5db0c
如何使用 WSL 在 Windows 上安装 Linux https://learn.microsoft.com/zh-cn/windows/wsl/install

报错

适用于 Linux 的 Windows 子系统没有已安装的分发版。
可以通过访问 Microsoft Store 来安装分发版:        
https://aka.ms/wslstore    

使用:

 wsl --install -d Ubuntu
 或
 wsl --install --distribution Debian

安装wget


http://www.niftyadmin.cn/n/5136431.html

相关文章

vscode开启emmet语法

需要在setting.json中添加配置 首先进入设置,然后点击右上角 Vue项目添加如下配置 "emmet.syntaxProfiles": { "vue-html": "html", "vue": "html" },React项目添加如下配置 "emmet.includeLanguages&quo…

【洛谷 P1106】删数问题 题解(贪心+字符串)

删数问题 题目描述 键盘输入一个高精度的正整数 N N N(不超过 250 250 250 位),去掉其中任意 k k k 个数字后剩下的数字按原左右次序将组成一个新的非负整数。编程对给定的 N N N 和 k k k,寻找一种方案使得剩下的数字组成…

23秋季学期期中考核(密码题)

师兄新学的Decode姿势 题目给出的 const SM4 require("gm-crypt").sm4; var payload "inu7s0XGslLFsPe0xok/nxqwtceG0cuMoh7hBbpwyNBrn3g/lMdcFYobv/KeRgWwI/TIA4qMtjqpNKOet E3TD0gWoSknGF6OhkRJ3LxrNUZ/Mi8ISz3xrDLawIY8NwbalYcQUGWtVjdC3nJL…

MSQL系列(十二) Mysql实战-为什么索引要建立在被驱动表上

Mysql实战-left/right/inner join 使用详解 前面我们讲解了BTree的索引结构,也详细讲解下 left Join的底层驱动表 选择原理,那么今天我们来实战一下 left join,right join,inner join 等sql命令,看看到底如何用以及如…

在VM虚拟机上安装centos并了解Linux常用命令

一. centos安装 新建一个虚拟机,使用ISO映像文件(在浏览器上直接搜索阿里云镜像站,下载合适的镜像文件) 安装后设置密码然后重启 重启后输入账号和密码 查看IP 输入命令: vi ifcfg-ens33,进入编辑界面&a…

装修模板中商品分类页面修正后商品分类没有二级类

修正前 /pages/index/category?id21 修正后 /pages/index/category

防数据泄密的解决方案

防数据泄密的解决方案 安企神数据防泄密系统下载使用 现代化企业离不开信息数据,数据对企业的经营至关重要,也是企业发展的命脉。为了保护公司数据不被泄露,尤其是在防止数据泄密方面,公司面临着巨大的挑战,需要采取…

设计工位卡片

因为今天接到了一个设计工位卡片的任务,于是在这里记录一哈,设计卡片所需要的一些东西: 设计卡片的网站有以下几个可供参考: Canva:提供各种类型的卡片设计模板,包括圣诞贺卡、生日贺卡、感谢卡等&#x…