返回教程列表
高级进阶教程
2025/2/5

DeepSeek本地部署完全指南

手把手教你如何在本地部署DeepSeek大模型。包括Ollama安装、模型下载、性能优化、API服务搭建等全流程。

15,604

阅读

0

点赞

0

评论

为什么本地部署

1. **数据隐私**:数据不离开本地

2. **离线使用**:无需联网

3. **免费使用**:无API调用费用

4. **自定义**:可以微调模型

环境准备

安装Ollama

curl -fsSL https://ollama.com/install.sh | sh

下载模型

# 7B模型(需要8GB显存)

ollama run deepseek-r1:7b

# 14B模型(需要16GB显存)

ollama run deepseek-r1:14b

# 32B模型(需要24GB显存)

ollama run deepseek-r1:32b

API服务

Ollama默认提供API服务:

curl http://localhost:11434/api/generate -d '{

"model": "deepseek-r1:7b",

"prompt": "你好"

}'

性能优化

  • 使用量化版本减少显存占用
  • 调整上下文长度
  • 启用GPU加速