默谷资源网

专业网站建设资源库

不用付费Windows端和Mac端本地部署deepseek大模型进阶版完整教程

经过我自己的反复测试,两个操作系统的部署方式接近,这是目前为止最有效的部署方法,千万别去花钱买教程了,无需专业背景 | 全程保姆级教学 | 附常见问题解决方案 <<<以下是具体操作方式:

本文价值
30分钟完成部署 → 免费体验“170亿”参数国产大模型(我这里说的是模型的大小因电脑的配置而决定的,配置越高显卡越高部署的大模型就越聪明哦) → 支持离线对话/文档分析 → 电脑小白也能独立操作,对我们普通人来说,7b的差不多就可以满足日常简单需求了。

准备清单

  1. 操作系统:Windows 10/11 或 macOS 12+
  2. 存储空间:至少30GB可用空间
  3. 网络环境:稳定下载环境(模型文件约15GB)

Windows系统部署教程(8步搞定)

1 安装Python环境
o 官网下载Python 3.10.x安装包(勾选"Add to PATH")
o 验证安装:按 Win+R 输入
cmd → 执行 python --version

2 获取模型文件
o 创建项目文件夹:桌面新建「DeepSeek_Project」
o 下载模型(二选一):
官方渠道:访问 modelscope.cn 搜索「deepseek-1.3b-chat」下载
网盘加速:回复「加速包」获取分流下载链接

3 安装依赖库
在文件夹地址栏输入
cmd打开终端,逐行执行:

pip install transformers>=4.34

pip install torch torchvision torchaudio --index-url https://pypi.org/simple/

4 编写启动脚本
新建
run.py文件,粘贴以下代码:

from transformers import AutoModelForCausalLM, AutoTokenizer

model =
AutoModelForCausalLM.from_pretrained("你的模型路径")

tokenizer =
AutoTokenizer.from_pretrained("你的模型路径")

5 启动模型(重要!)
终端执行:
python run.py --device cpu
(带NVIDIA显卡可改为
cuda加速)


前期准备清单

确认系统版本:macOS 12 Monterey 或更高
存储空间:至少40GB可用(推荐外接SSD)
网络环境:需稳定下载15GB+模型文件
终端权限:系统偏好设置 → 安全性与隐私 → 允许终端完全磁盘访问

完整操作流程

1 安装Homebrew(应用管理器)
打开终端执行(需输入开机密码):

/bin/bash -c "$(curl -fsSL
https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)"

出现==> Installation successful!即完成

2 配置Python环境(专为Mac优化)

# Intel芯片执行:  
brew install python@3.10  

# M1/M2芯片执行:  
arch -arm64 brew install python@3.10  

# 验证安装(应显示3.10.x)  
python3 --version  

3 创建专属工作区

cd ~/Desktop

mkdir DeepSeek_Mac && cd DeepSeek_Mac

4 下载模型文件(两种方式)
方案A:官方下载(约2小时)

pip3 install modelscope

python3 -c "from modelscope import snapshot_download; snapshot_download('deepseek-ai/deepseek-1.3b-chat')"

方案B:网盘加速(回复「Mac加速」获取链接)
下载后解压到工作区文件夹

5 安装核心依赖库

# 通用依赖

pip3 install transformers>=4.34

# M芯片加速组件

pip3 install tensorflow-macos tensorflow-metal

6 编写启动脚本
新建
deepseek_mac.py文件,粘贴以下代码:

import torch

from transformers import AutoModelForCausalLM, AutoTokenizer

# M芯片加速设置

device = "mps" if torch.backends.mps.is_available() else "cpu"

model = AutoModelForCausalLM.from_pretrained(

"./deepseek-1.3b-chat", # 模型路径

torch_dtype=torch.float16,

device_map=device

)

tokenizer = AutoTokenizer.from_pretrained("./deepseek-1.3b-chat")

# 示例对话

inputs = tokenizer("如何做番茄炒蛋?", return_tensors="pt").to(device)

outputs = model.generate(**inputs, max_new_tokens=200)

print(tokenizer.decode(outputs[0], skip_special_tokens=True))

7 首次运行配置

# 授予权限(防止闪退)

xattr -d com.apple.quarantine deepseek_mac.py

# 启动模型(M芯片专用命令)

python3 deepseek_mac.py --device mps

8 内存优化技巧
基础版:在启动命令后添加
--max_memory 14GB
进阶版:安装内存压缩工具

brew install zstd

9 创建快捷启动方式
新建
一键启动.command文件,内容:

#!/bin/zsh

cd ~/Desktop/DeepSeek_Mac

python3 deepseek_mac.py --device mps

终端执行chmod +x 一键启动.command赋予权限


必看注意事项

  1. 下载中断解决方案:使用迅雷等下载工具重试
  2. Windows端报错「缺少DLL文件」的话:安装最新VC++运行库
  3. 苹果芯片首次运行慢:等待10-15分钟初始化,估计也就3分钟左右就可以,我自己测试过
控制面板
您好,欢迎到访网站!
  查看权限
网站分类
最新留言