Alpaca-LoRA 的安裝

嘗到了gpt的甜頭,覺(jué)得可以結(jié)合自己的任務(wù)訓(xùn)練下,因?yàn)橛米约旱姆?wù)器沒(méi)有那么大的gpu,后來(lái)等到lora終于可以跑自己的數(shù)據(jù)了~不過(guò)安裝過(guò)程中遇到了很多坑?。≌娴暮芏嗫?,安裝了4天后來(lái)才搞定,覺(jué)得相當(dāng)有價(jià)值記錄下(主要是想吐槽下這個(gè)版本得問(wèn)題)。

先從github上下載源代碼,網(wǎng)址放這了https://github.com/tloen/alpaca-lora。然后照著寫(xiě)得pip install -r requirement.txt。 好的,一堆堆意外開(kāi)始了。。。

1、網(wǎng)絡(luò)太差下載不了peft 和transformer兩個(gè)包

網(wǎng)速不好原因下載peft 和 transformer一直下不了,我是直接進(jìn)的requirement.txt里面給的github地址下載并安裝的。下載并解壓到文件夾下手動(dòng)安裝,命令如下:

      peft:       python setup.py build 
                   python setup.py install

      transformer:cd transfomers
                   pip install .    (注意這最后是一個(gè)點(diǎn) . )

特別提示:當(dāng)然如果你可以直接運(yùn)行安裝requirement最好,如果是手動(dòng)安裝的,一定要下它給的github的版本,我之前嘗試直接pip install transfomers,下載出來(lái)的版本不對(duì),導(dǎo)致不能和代碼匹配,所以一定要下作者給的那個(gè)版本。

2. 在安裝peft的時(shí)候報(bào)錯(cuò)有個(gè)包一直沒(méi)找到

忘記具體錯(cuò)誤是什么了不過(guò)我就記得安裝的時(shí)候報(bào)了一個(gè)致命的錯(cuò)誤(抱歉人老了記憶不太好),后來(lái)糾正是因?yàn)閜ython的版本不匹配(又是版本)。python的版本我從3.10換到了3.7換到了3.9后來(lái)?yè)Q到了3.8,真的是折磨人。個(gè)人測(cè)試 了3.8安裝過(guò)程很順,沒(méi)有一點(diǎn)毛病,注意在安裝3.7以及更高版本的python需要提前下載依賴(lài)包:

yum install zlib-devel bzip2-devel openssl-devel ncurses-devel \
sqlite-devel readline-devel tk-devel gcc make libffi-devel

如果沒(méi)有提前下載就安裝python的話(huà)會(huì)報(bào)錯(cuò)libff庫(kù)的錯(cuò)誤,所以不要偷這個(gè)懶。

3.下載對(duì)應(yīng)的torch和vision以及audio包

去官網(wǎng)下載對(duì)應(yīng)的torch包和另外兩個(gè)包,一定要版本匹配,你的python是幾就是幾,cuda是多少就下對(duì)應(yīng)的,我是cuda11.4版本的,我下的11.6,也是可以的。下載的3個(gè)地址貼在這里方便用:

torch:  https://download.pytorch.org/whl/torch/
vision: https://download.pytorch.org/whl/torchvision/
audio: https://download.pytorch.org/whl/torchaudio/

下載的時(shí)候3個(gè)文件的cuda和python都要全部對(duì)應(yīng),還有torch版本對(duì)應(yīng)的vision和audio,比如1.13的torch要下載0.14.1的vision和0.13.1的audio。大家可以在網(wǎng)上查一下再去下。

4. 報(bào)錯(cuò)needs_input函數(shù)沒(méi)有找到

OK這個(gè)問(wèn)題折磨了我很久,我記得是_lz開(kāi)頭的某個(gè)包里沒(méi)有這個(gè)函數(shù),后來(lái)查到是說(shuō)pandas的版本問(wèn)題,有的說(shuō)降低版本,我降低到他的版本后也不行(后來(lái)我個(gè)人分析是因?yàn)閜ip的問(wèn)題,pip的版本也會(huì)影響下載的版本,所以當(dāng)時(shí)直接狠心全部重新裝了一遍)。后來(lái)安裝的3.8的pandas完全沒(méi)有這個(gè)問(wèn)題。(3.7,3.9,3.10都有,已經(jīng)幫你們踩過(guò)坑了,真的要崩潰)

5.總結(jié)

以上是我遇到的一堆堆錯(cuò)誤,反正后來(lái)總結(jié)出來(lái)就是版本匹配真的很重要。作者給的源代碼里依賴(lài)了其他的庫(kù),其他庫(kù)的版本也得對(duì)應(yīng)才能運(yùn)行,經(jīng)過(guò)這次我也才發(fā)現(xiàn)pip版本都有影響,裝大模型真的很麻煩。。好奇為什么其他人那么順利,唰唰的就能玩了。OK安裝問(wèn)題到這就結(jié)束了,感覺(jué)我應(yīng)該把坑都踩了一遍,有問(wèn)題的可以留言交流。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時(shí)請(qǐng)結(jié)合常識(shí)與多方信息審慎甄別。
平臺(tái)聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡(jiǎn)書(shū)系信息發(fā)布平臺(tái),僅提供信息存儲(chǔ)服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

友情鏈接更多精彩內(nèi)容