一. 本地部署DeepSeek

最近deepSeek太火了, 所以我准备在本地部署一个.

二. 安装ollama

2.1 ollama是个啥?

ollama可以让你快速安装并运行一个大模型.里面有现成的命令,安装起来十分简单.

image.png

2.2 安装ollama

命令行arch -arm64 brew install ollama
安装完成后测试一下, 能跑起来没问题

image.png

三. 启动ollama

ollama serve

四. 运行模型

新开一个命令行tab, 然后ollama官网找到一个你想要运行的模型, 例如
ollama run deepseek-r1:8b, 等待下载

image.png

下载完成后, 就可以和本地AI模型互动了.