LLM笔记

python虚拟环境管理

创建虚拟环境

python -m venv <新环境名>

该命令会在当前文件夹下创建一个新环境名的目录,保存新环境需要的依赖库。

激活虚拟环境

Linux环境:

source <新环境名>/bin/activate

windows环境:

.\<新环境名>\Scripts\activate.bat

conda虚拟环境管理

查看有哪些虚拟环境

conda env list

创建虚拟环境

conda create -n <new_env> python=3.6

<new_env>为自己命名的虚拟环境名称,该文件可在Anaconda安装目录 envs文件下找到。

克隆虚拟环境

conda create -n <new_env> --clone <from_env>

使用激活(或切换不同python版本)的虚拟环境:

python --version  # 可以检查当前python的版本
Linux:  conda activate <虚拟环境名>
Windows: activate <虚拟环境名>

对虚拟环境中安装额外的包

conda install -n your_env_name [package]

或者在虚拟环境之下:

conda install [package]

关闭虚拟环境

Linux: source deactivate
Windows: deactivate

删除虚拟环境

conda remove -n your_env_name(虚拟环境名称) --all
conda remove --name your_env_name  package_name  # 删除环境中的某个包

安装cuda 和 cudnn(废弃)

conda install cudatoolkit=11.8 -c https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main/linux-64/
conda install cudnn=6.0 -c https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main/linux-64/

安装torch

pip install torch==2.0.1 torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118

表示安装Torch2.1版本并且支持CUDA11.8。
或者使用官网生成需要安装版本的命令行:官网生成安装链接
注意:CDUA的本地驱动要另外安装。

安装显卡驱动

GeForce® 驱动程序 531.61 是 12.1版本的驱动。

  • nvidia-smi命令验证驱动以及版本是否正确。

安装CUDA ToolKit

CUDA Toolkit 选择和驱动相同的版本下载。

  • nvcc -V 验证编译器是否正常工作。

modelscope中安装Sambert-Hifigan语音合成模型

python 3.7-3.9

安装 kantts

pip install kantts -f https://modelscope.oss-cn-beijing.aliyuncs.com/releases/repo.html
pip install ffmpy ffmpeg ffmpeg-python imageio-ffmpeg bitstring
conda install ffmpeg

jupyter 允许远程访问

1、生成配置文件

jupyter notebook --generate-config
或
jupyter lab --generate-config

2、修改配置文件: 将 c.ServerApp.ip 的值改为主机的IP
3、启动jupyter lab

jupyter lab --allow-root

jupyter指定不同端口

jupyter  --port=<PORT_NUMBER> 

jupyter安装插件扩展

pip install jupyter-lsp python-lsp-server
apt install nodejs npm

启动text-generation-webui

python server.py --listen --api --api-blocking-port 8800 

git中合并主仓库的内容

git remote add upstream https://github.com/langgenius/dify.git
git fetch upstream
git checkout main
git rebase upstream/main
git push origin main

PDF文档转TXT文件

from langchain.document_loaders import PyPDFium2Loader

filename = "file.pdf"
documents = PyPDFium2Loader(file_path=filename).load()
text_list = []
for document in documents:
    text_list.append(document.page_content)
    text = "\n\n".join(text_list)

with open(filename+".txt", 'w', encoding='utf-8') as file:
    file.write(text)

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 216,258评论 6 498
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,335评论 3 392
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 162,225评论 0 353
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,126评论 1 292
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,140评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,098评论 1 295
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,018评论 3 417
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,857评论 0 273
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,298评论 1 310
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,518评论 2 332
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,678评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,400评论 5 343
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,993评论 3 325
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,638评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,801评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,661评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,558评论 2 352

推荐阅读更多精彩内容