DeepSeek本地部署

DeepSeek v3本地部署

魔塔社区huggingface

1. 安装ollama：ollama官网
2. 系统环境变量中添加模型安装目录
   • OLLAMA_MODELS = D:\llm
   • OLLAMA_HOST = 0.0.0.0:11434
3. 查看模型并下载：ollama 模型

ollama命令：

ollama list  # 查看本地模型列表
ollama run deepseek-r1  # 运行某个模型

ollama create deepseek -f D:/llm/gguf/deepseek/ModelFile  # 导入一个gguf格式模型
# ModelFile文件内容：FROM D:\llm\gguf\deepseek\deepseek.gguf

Chatbox使用

Chatbox 安装

RAGFlow安装

本地化搭建DeepSeek + RAGFlow 构建个人知识库

RAGFlow Github

1. 获取RAGFlow源码
   • git clone https://github.com/infiniflow/ragflow.git
2. 编辑源码docker/.env文件

   # 把轻量版注释掉，把完整版打开（完整版本地有embedding模型）
   #RAGFLOW_IMAGE=infiniflow/ragflow:v0.17.2-slim
   RAGFLOW_IMAGE=infiniflow/ragflow:v0.17.2

3. 启动RAGFlow应用
   • docker compose -f docker/docker-compose.yml up -d
4. 打开RAGFlow应用
   • http://localhost