0、Nvidia驱动
切记使用ubuntu 的应用程序software & update 选择安装合适的Nvidia驱动。
0-1 搜狗输入法：
https://shurufa.sogou.com/linux
https://shurufa.sogou.com/linux/guide
若不能显示中文：
安装下面两个依赖包就可以了
sudo apt-get install libqt5qml5 libqt5quick5 libqt5quickwidgets5 qml-module-qtquick2
sudo apt install libgsettings-qt1
1、Git 安装
sudo apt-get install git
查看版本
git version
Global Config.
git config --global user.name 'Neil-Hua'
git config --global user.email 'huaxiaoquan@163.com'
2、conda环境
wget https://repo.anaconda.com/archive/Anaconda3-2023.09-0-Linux-x86_64.sh
bash Anaconda3-2023.09-0-Linux-x86_64.sh
安装过程中，若忘记添加环境变量中.
可以用：
sudo gedit ~/.bashrc
添加：
export PATH=$PATH:/home/user/anaconda3/bin
就可以用
conda list 检验是否安装OK.
3、CUDA
更新gcc.
sudo apt update
sudo apt install gcc
nvidia-smi 查看显卡支持的CUDA版本
https://developer.nvidia.com/cuda-toolkit-archive 找到该版本并下载安装。
指令都给你写好了。
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/cuda-ubuntu2204.pin
sudo mv cuda-ubuntu2204.pin /etc/apt/preferences.d/cuda-repository-pin-600
wget https://developer.download.nvidia.com/compute/cuda/12.2.2/local_installers/cuda-repo-ubuntu2204-12-2-local_12.2.2-535.104.05-1_amd64.deb
sudo dpkg -i cuda-repo-ubuntu2204-12-2-local_12.2.2-535.104.05-1_amd64.deb
sudo cp /var/cuda-repo-ubuntu2204-12-2-local/cuda-*-keyring.gpg /usr/share/keyrings/
sudo apt-get update
sudo apt-get -y install cuda
中间可能会有报错，主要是Nvidia驱动版本和Cuda版本之间的一致性问题。挨个处理就好。
添加到环境变量：
export PATH=/usr/local/cuda-12.2/bin${PATH:+:${PATH}} export LD_LIBRARY_PATH=/usr/local/cuda-12.2/lib64\ ${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}
此时Cuda应该就OK了
nvcc -V
可以看到安装CUDA的版本信息。
放到系统的环境变量更加合适。
sudo gedit ~/.bashrc
export PATH=$PATH:/usr/local/cuda-12.2/bin export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda-12.2/lib64
3、llama2下载
https://ai.meta.com/resources/models-and-libraries/llama-downloads/ 页面申请，邮件获得一URL地址，备用
https://github.com/facebookresearch/llama Github下载地址
git clone https://github.com/facebookresearch/llama
得到一个llama的文件夹。
`
cd llama
#Make the ./download script executable
sudo chmod +x ./download.sh
# Run the ./download script
./download.sh
进入下载页面，输入刚才邮箱获得的URL地址，选择模型，即可进入下载页面。
4、安装torch.
在conda 建立一虚拟环境：
conda create -n llm7b python=3.11.5 -y
conda activate llm7b
conda activate llm7b 可能会报错误，使用source 可以解决：
conda info --envs ##查看base的位置
source /home/neil/anaconda3/etc/profile.d/conda.sh
conda activate llm7b
新版本的conda取消了conda activate xxx，改用下面的命令：
source activate 环境名
进入pytorch页面：
https://pytorch.org/
选择对应cuda版本的torch。
conda install pytorch torchvision torchaudio pytorch-cuda=12.1 -c pytorch -c nvidia
conda 进入python
>>python
>>> import torch
>>> torch.cuda.is_available()
5、llama2的部署
见下面链接：
https://twm.me/how-to-install-llama2-linux-ubuntu/
