搭建本地deepseek

一、下载LM Studio：

Download LM Studio - Mac, Linux, Windows

ps:LM Studio ，可以加载各种模型，当和他对话的时候可以看到ai模型的是怎么思考的

二、下载deepseek 模型，下载地址如下

HF-Mirror  搜索GGUF格式的模型

ps: Q2、Q3、Q4、Q5、Q6、Q8 要求的电脑配置不一样

详情可以看bilibili  ：DeepSeek R1 推理模型 一键包 完全本地部署 保姆级教程 断网运行 无惧隐私威胁 大语言模型推理时调参 CPU GPU 混合推理 32B 轻松本地部署_哔哩哔哩_bilibili

三、创建模型目录E:\models\Publisher\Repository（ps:另外一种.safetensors格式没成功，有时间的同学可以研究下）

1.创建目录E:\models\Publisher\Repository，将上面下载的模型放入目录中

2.修改语言为中文

3.设置models 目录，如下图

4.会自动加载模型

四、加载模型

五、AI对话，可以快乐的玩耍了

提问