做新的数据集做出来了,做新的模型应该是失败了,遇上了暂时没法解决的技术困难
在学校根本没法做这种方面研究,晚上到点准时断电,另外笔电一直亮着怕影响到舍友
另外微调真的好烧显卡,7b左右的要20G左右显存,80b左右的就得要8x80G左右了,感觉作为业余身份很难继续玩下去了
好希望有个lab,可以无限制供应电和宽带以及一台显存够大的服务器
此外,在研究LLM方面的资料(尤其中文)非常少,很多内容都高度重复,或者是LLM生成的内容,这也是我现在很难再继续进步的原因,等我玩透了再去整理一下教程方便后来者
 
 
Back to Top