DeepSeek R1 模型 本地化部署教程

DeepSeek

DeepSeek 官网:https://www.deepseek.com/

DeepSeek(杭州深度求索人工智能基础技术研究有限公司),是一家专注于开发先进大语言模型(LLM)和相关技术的企业,主要业务为研究和试验发展。2023年7月17日,由知名量化资管巨头幻方量化创立,法定代表人是裴湉,公司位于浙江省杭州市拱墅区环城北路169号汇金国际大厦西1幢1201室。 自成立以来,DeepSeek发展迅速,在大模型领域成果颇丰。2024年1月5日,发布首个包含670亿参数的大模型DeepSeek LLM,其在2万亿token的数据集上训练,涵盖中英文 ,并开源供研究社区使用,在推理、编码等方面表现出色。同年5月,开源第二代MoE大模型DeepSeek-V2,该模型拥有2360亿参数,训练参数量达8.1万亿个token,展现出极高的训练效率,在中文综合能力上超越众多模型,与GPT-4-Turbo等闭源模型处于同一评测梯队 。此后,9月升级推出DeepSeek V2.5;11月上线推理模型DeepSeek-R1-Lite预览版;12月开源模型DeepSeek-V3首个版本。进入2025年,1月20日正式发布DeepSeek-R1模型,在数学、代码等任务上性能比肩OpenAI o1正式版 ,并在1月24日国外大模型排名Arena上取得优异成绩,1月27日其应用在中国区及美区苹果App Store免费榜均占据首位。 DeepSeek的产品矩阵丰富,除上述模型外,还有DeepSeek Coder(一系列代码语言模型,在多种编程语言和基准测试中表现出色) 、DeepSeekMath(基于DeepSeek-Coder-v1.5 7B预训练,在竞赛级MATH基准测试成绩优异)、DeepSeek-VL(开源视觉-语言模型,在视觉-语言基准测试表现突出) 、DeepSeek-Coder-V2(开源MoE代码语言模型,在代码特定任务性能与GPT4-Turbo相当)等。这些模型凭借出色的性能、高效的训练以及广泛的应用场景,在大模型领域占据了重要地位,推动着人工智能技术的发展与应用。

DeepSeek-V3 的综合AI能力对比

能力维度DeepSeek V3DeepSeek V2.5Qwen2.5Llama3.1Claude-3.5GPT-4o
架构MoEMoEDenseDense
激活参数数量37B21B72B405B
总参数数量671B236B72B405B
英文能力(MMLU(EM))88.580.685.388.688.387.2
英文能力(MMLU-Redux(EM))89.180.385.686.288.988.0
英文能力(MMLU-Pro(EM))75.966.271.673.378.072.6
英文能力(DROP(3-shot F1))91.687.876.788.788.383.7
英文能力(IF-Eval(Prompt Strict))86.180.684.186.086.584.3
英文能力(GPQA-Diamond(Pass@1))59.141.349.051.165.049.9
英文能力(SimpleQA(Correct))24.910.29.117.128.438.2
英文能力(FRAMES(Acc.))73.365.469.870.072.580.5
英文能力(LongBench v2(Acc.))48.735.439.436.141.048.1
代码能力(HumanEval-Mul(Pass@1))82.677.477.377.281.780.5
代码能力(LiveCodeBench(Pass@1-COT))40.529.231.128.436.333.4
代码能力(LiveCodeBench(Pass@1))37.628.428.730.132.834.2
代码能力(Codeforces(Percentile))51.635.624.825.320.323.6
代码能力(SWE Verified(Resolved))42.022.623.824.550.838.8
代码能力(Aider-Edit(Acc.))79.771.665.463.984.272.9
代码能力(Aider-Polyglot(Acc.))49.618.27.65.845.316.0
数学能力(AIME 2024(Pass@1))39.216.723.323.316.09.3
数学能力(MATH-500(EM))90.274.780.073.878.374.6
数学能力(CNMO 2024(Pass@1))43.210.815.96.813.110.8
中文能力(CLUEWSC(EM))90.990.491.484.785.487.9
中文能力(C-Eval(EM))86.579.586.161.576.776.0
中文能力(C-SimpleQA(Correct))64.154.148.450.451.359.3

DeepSeek 本地部署教程

Ollama 官网下载:https://ollama.com/

Page Assist – 本地 AI 模型的 Web UI:https://chromewebstore.google.com/detail/page-assist-%E6%9C%AC%E5%9C%B0-ai-%E6%A8%A1%E5%9E%8B%E7%9A%84-web/jfgfiigpkhlkbnfnbobbkinehhfdhndo

Ollama DeepSeek 安装命令

# 1.5B Qwen DeepSeek R1
ollama run deepseek-r1:1.5b

# 7B Qwen DeepSeek R1
ollama run deepseek-r1:7b

# 8B Llama DeepSeek R1
ollama run deepseek-r1:8b

# 14B Qwen DeepSeek R1
ollama run deepseek-r1:14b

# 32B Qwen DeepSeek R1
ollama run deepseek-r1:32b

# 70B Llama DeepSeek R1
ollama run deepseek-r1:70b

DeepSeek AI 模型下载:https://huggingface.co/deepseek-ai

留下评论

您的邮箱地址不会被公开。 必填项已用 * 标注