碾压 OpenAI,DeepSeek-R1 发布!如何在本地实现 DeepSeek?

近日,幻方量化旗下AI公司深度求索(DeepSeek)正式发布DeepSeek-R1模型。在数学、代码、自然语言推理等任务上,该模型性能比肩OpenAI o1正式版。DeepSeek称,R1在后训练阶段大规模使用了强化学习技术,在仅有极少标注数据的情况下,极大提升了模型推理能力。


DeepSeek不仅将R1训练技术全部公开,还蒸馏了6个小模型开源给社区,允许用户借此训练其他模型。


API价格方面,每百万输入tokens 1 元(缓存命中)/4元(缓存未命中),每百万输出tokens 16元,较o1正式版低27-55倍。

DeepSeek-R1可以说是一个选能型选手,在各项任务上展现了超乎想象的能力,特别是在AIME和MATH-500这些高难度挑战上,DeepSeek-R1的成绩简直让人目瞪口呆,跟OpenAI o1比起来,毫不逊色,甚至还有点小超越。

你想没想过,自己也能在本地实现这样一个功能强大的DeepSeek呢?


今天我来手把手教大家,使用一款 AI 搜索开发框架--LeetTools 轻松在本地实现DeepSeek。

演示

📌 安装与配置LeetTools

1. 创建虚拟环境并安装LeetTools

1)从anaconda.com下载并安装naconda

2)从code.visualstudio.com下载并安装Visual Studio

3)打开anaconda,从左侧菜单选择Environment,再点击下方的Creat,为LeetTools创建一个虚拟环境

4)在弹出的对话框中,给虚拟环境起一个名字,比如LeetTools,接着勾选Python,选择版本3.11.11,然后选择Create,这样就创建了LeetTools的虚拟环境。

5)打开Visual Studio

6)选择最左侧菜单栏的Extension按钮,安装Python,Python Debugger,Pylance,Git Extension Pack,Git History,Github Repository,gitignore,Gitlens扩展插件


7)点击最左侧菜单栏的Source Control,然后点击Clone Repository按钮

8)在弹出的地址框中输入LeetTools的Github地址:🔗https://github.com/leettools-dev/leettools

9)在弹出的对话框中,选择下方的新建文件夹,建一个LeetTools的存储数据的文件夹,然后选择该文件夹,点击右下方的Select as Repository Destination,完成前期的配置工作,接下来就是LeetTools安装的过程了

10)然后在桌面上端的菜单栏里选择,Terminal,New Terminal,就在Visual Studio里打开了一个终端窗口然后就可以开始LeetTools的安装了。

% conda create -y -n leettools pythnotallow=3.11

% conda activate leettools

% pip install leettools

# where we store all the data and logs

% export LEET_HOME=${HOME}/leettools

% mkdir -p ${LEET_HOME}

2. 设置环境变量

# set the endpoint and api key

% export EDS_DEFAULT_LLM_BASE_URL=https://api.openai.com/v1

% export EDS_LLM_API_KEY=<your_openai_api_key>

3. 运行LeetTools 命令

# now you can run the command line commands

# flow: the subcommand to run different flows, use --list to see all the available flows

# -t run this 'answer' flow, use --info option to see the function description

# -q the query

# -k save the scraped web page to the knowledge base

# -l log level, info shows the essential log messages

% leet flow -t answer -q "How does GraphRAG work?" -k graphrag -l info

📌 示例代码

以下是一个使用LeetTools 调用 DeepSeek 的示例代码:

### to use other API providers such as DeepSeek, you can

% export EDS_DEFAULT_LLM_BASE_URL=https://api.deepseek.com/v1

% export EDS_LLM_API_KEY=<your deepseek api key>

% export EDS_DEFAULT_LLM_MODEL=deepseek-chat

# use a local embedder since DeepSeek does not provide an embedding endpoint yet

# if the API supports OpenAI-compatible embedding endpoint, no extra settings needed

# this dense_embedder_local_mem uses all-MiniLM-L6-v2 model as a singleton embedder

% export EDS_DEFAULT_DENSE_EMBEDDER=dense_embedder_local_mem

# Or you can put the above settings in the .env.deepseek file

% cat > .env.deepseek

LEET_HOME=/Users/myhome/leettools

EDS_DEFAULT_LLM_BASE_URL=https://api.deepseek.com/v1

EDS_LLM_API_KEY=sk-0d8-mykey

EDS_DEFAULT_LLM_MODEL=deepseek-chat

EDS_DEFAULT_DENSE_EMBEDDER=dense_embedder_local_mem

# Then run the command with the -e option to specify the .env file to use

% leet flow -e .env.deepseek -t answer -q "How does GraphRAG work?" -k graphrag -l info

定制化场景应用

通过LeetTools ,开发者可以轻松实现DeepSeek的强大功能。当然,LeetTools 的能力远不止于此。在它的开发框架上,开发者们可以大展身手,根据自身需求,开发出各种定制化的场景应用,让智能搜索真正融入到生活的方方面面。

-----------------------------------

©著作权归作者所有:来自51CTO博客作者智领云科技的原创作品,请联系作者获取转载授权,否则将追究法律责任

碾压 OpenAI,DeepSeek-R1 发布!如何在本地实现 DeepSeek?

https://blog.51cto.com/u_15471165/13175539

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 220,809评论 6 513
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 94,189评论 3 395
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 167,290评论 0 359
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 59,399评论 1 294
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 68,425评论 6 397
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 52,116评论 1 308
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,710评论 3 420
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 39,629评论 0 276
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 46,155评论 1 319
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 38,261评论 3 339
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 40,399评论 1 352
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 36,068评论 5 347
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,758评论 3 332
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 32,252评论 0 23
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 33,381评论 1 271
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 48,747评论 3 375
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 45,402评论 2 358

推荐阅读更多精彩内容