近日,幻方量化旗下AI公司深度求索(DeepSeek)正式发布DeepSeek-R1模型。在数学、代码、自然语言推理等任务上,该模型性能比肩OpenAI o1正式版。DeepSeek称,R1在后训练阶段大规模使用了强化学习技术,在仅有极少标注数据的情况下,极大提升了模型推理能力。
DeepSeek不仅将R1训练技术全部公开,还蒸馏了6个小模型开源给社区,允许用户借此训练其他模型。
API价格方面,每百万输入tokens 1 元(缓存命中)/4元(缓存未命中),每百万输出tokens 16元,较o1正式版低27-55倍。
DeepSeek-R1可以说是一个选能型选手,在各项任务上展现了超乎想象的能力,特别是在AIME和MATH-500这些高难度挑战上,DeepSeek-R1的成绩简直让人目瞪口呆,跟OpenAI o1比起来,毫不逊色,甚至还有点小超越。
你想没想过,自己也能在本地实现这样一个功能强大的DeepSeek呢?
今天我来手把手教大家,使用一款 AI 搜索开发框架--LeetTools 轻松在本地实现DeepSeek。
演示
📌 安装与配置LeetTools
1. 创建虚拟环境并安装LeetTools
1)从anaconda.com下载并安装naconda
2)从code.visualstudio.com下载并安装Visual Studio
3)打开anaconda,从左侧菜单选择Environment,再点击下方的Creat,为LeetTools创建一个虚拟环境
4)在弹出的对话框中,给虚拟环境起一个名字,比如LeetTools,接着勾选Python,选择版本3.11.11,然后选择Create,这样就创建了LeetTools的虚拟环境。
5)打开Visual Studio
6)选择最左侧菜单栏的Extension按钮,安装Python,Python Debugger,Pylance,Git Extension Pack,Git History,Github Repository,gitignore,Gitlens扩展插件
7)点击最左侧菜单栏的Source Control,然后点击Clone Repository按钮
8)在弹出的地址框中输入LeetTools的Github地址:🔗https://github.com/leettools-dev/leettools
9)在弹出的对话框中,选择下方的新建文件夹,建一个LeetTools的存储数据的文件夹,然后选择该文件夹,点击右下方的Select as Repository Destination,完成前期的配置工作,接下来就是LeetTools安装的过程了
10)然后在桌面上端的菜单栏里选择,Terminal,New Terminal,就在Visual Studio里打开了一个终端窗口然后就可以开始LeetTools的安装了。
% conda create -y -n leettools pythnotallow=3.11
% conda activate leettools
% pip install leettools
# where we store all the data and logs
% export LEET_HOME=${HOME}/leettools
% mkdir -p ${LEET_HOME}
2. 设置环境变量
# set the endpoint and api key
% export EDS_DEFAULT_LLM_BASE_URL=https://api.openai.com/v1
% export EDS_LLM_API_KEY=<your_openai_api_key>
3. 运行LeetTools 命令
# now you can run the command line commands
# flow: the subcommand to run different flows, use --list to see all the available flows
# -t run this 'answer' flow, use --info option to see the function description
# -q the query
# -k save the scraped web page to the knowledge base
# -l log level, info shows the essential log messages
% leet flow -t answer -q "How does GraphRAG work?" -k graphrag -l info
📌 示例代码
以下是一个使用LeetTools 调用 DeepSeek 的示例代码:
### to use other API providers such as DeepSeek, you can
% export EDS_DEFAULT_LLM_BASE_URL=https://api.deepseek.com/v1
% export EDS_LLM_API_KEY=<your deepseek api key>
% export EDS_DEFAULT_LLM_MODEL=deepseek-chat
# use a local embedder since DeepSeek does not provide an embedding endpoint yet
# if the API supports OpenAI-compatible embedding endpoint, no extra settings needed
# this dense_embedder_local_mem uses all-MiniLM-L6-v2 model as a singleton embedder
% export EDS_DEFAULT_DENSE_EMBEDDER=dense_embedder_local_mem
# Or you can put the above settings in the .env.deepseek file
% cat > .env.deepseek
LEET_HOME=/Users/myhome/leettools
EDS_DEFAULT_LLM_BASE_URL=https://api.deepseek.com/v1
EDS_LLM_API_KEY=sk-0d8-mykey
EDS_DEFAULT_LLM_MODEL=deepseek-chat
EDS_DEFAULT_DENSE_EMBEDDER=dense_embedder_local_mem
# Then run the command with the -e option to specify the .env file to use
% leet flow -e .env.deepseek -t answer -q "How does GraphRAG work?" -k graphrag -l info
定制化场景应用
通过LeetTools ,开发者可以轻松实现DeepSeek的强大功能。当然,LeetTools 的能力远不止于此。在它的开发框架上,开发者们可以大展身手,根据自身需求,开发出各种定制化的场景应用,让智能搜索真正融入到生活的方方面面。
-----------------------------------
©著作权归作者所有:来自51CTO博客作者智领云科技的原创作品,请联系作者获取转载授权,否则将追究法律责任
碾压 OpenAI,DeepSeek-R1 发布!如何在本地实现 DeepSeek?
https://blog.51cto.com/u_15471165/13175539