本地部署deepseek-r1:7b模型

最新推荐文章于 2025-08-09 09:04:43 发布
最新推荐文章于 2025-08-09 09:04:43 发布
阅读量2.2k 收藏 13
点赞数 28
CC 4.0 BY-SA版权
文章标签： javascript 前端 deepseek Chatbox AI Ollama AI大模型
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_45687201/article/details/145578244

本地部署deepseek-r1:7b模型

该篇文章能够让你学会本地使用Ollama搭建deepseek-r1:7b模型，从中你会了解ollama简单操作命令，通过该模型写出一个简单的JavaScript交互示例，了解该模型的性能消耗和硬件配置要求，最后将本地deepseek-r1:7b模型部署到Chatbox AI客户端应用中，以及为了照顾小白还有deepseek API KEY的配置运用场景，能够让你0基础搭建一个属于自己的AI模型。

文章目录

准备工作

  1. 下载Ollama

    Ollama 是一款跨平台的大模型管理客户端（MacOS、Windows、Linux），所以即便您使用的是Win10/Win11操作系统，也可以按照下面的方式去实现本地化部署。

    在这里插入图片描述

  2. 设备：要求内存16G以上，C盘空间大于15G，最好Win10以上。

下载并安装ollama

  • 客户端下载

    ollama下载地址。

  • 客户端安装

    双击打开Ollama，等待安装完成。

    在这里插入图片描述

  • 查看ollama版本号

    输入 ollama -v

    在这里插入图片描述

    这里表示安装的ollama客户端版本号为0.5.7，能够查阅版本号即表示安装成功。

    同时，在Win桌面右下角的系统托盘会出现Ollama的图标。

    在这里插入图片描述

安装deepseek-r1:7b模型

  • 在ollama官网查看deepseek-r1:7b模型为4.7G。

    在这里插入图片描述

  • 在本地运行ollama run deepseek-r1:7b，等待模型下载完成。

    在这里插入图片描述

  • 可以看到，模型下载的进度。

    在这里插入图片描述

    这一步需要耐心等待。

  • 安装完成后，我们对它发送一条消息进行测试。

    在这里插入图片描述

  • 我们再给点强度。看看效果：

    在这里插入图片描述

  • 看看性能面板：

    在这里插入图片描述

    可以看到，我的配置相对7b来说是吃力的，但是这纯属个人爱好测试，在实际运用中，我们肯定会采用合适的配置来运行它。

日常使用指南

以下操作均是在命令行中执行，按住 Win + R 键，输入 cmd 并回车。

  • 启动模型

    • 在命令行窗口中输入 ollama run deepseek-r1:7b 并回车。

  • 删除模型

    • 在命令行窗口中输入 ollama rm deepseek-r1:7b 并回车。

  • 查看模型列表

    • 在命令行窗口中输入 ollama list 并回车。

  • 清空上下文

    • 在命令行窗口中输入 /clear 并回车。

  • 退出模型

    • 在命令行窗口中输入 /bye 并回车。

  • 查看所有命令

    • 在命令行窗口中输入 ollama 并回车。

  • 图示

    在这里插入图片描述

    在这里插入图片描述

注意事项

  • 硬件要求：

    • 1.5b 版本：最低 8GB 内存
    • 7b 版本：建议 16GB 以上内存
    • 14b 版本：建议 32GB 以上内存

  • 存储空间：

    • 请确保有足够的硬盘空间（模型文件较大）
    • 1.5b 约需 3GB
    • 7b 约需 15GB
    • 14b 约需 30GB

  • 使用建议：

    • 首次使用建议从小模型开始尝试
    • 确保网络稳定，避免下载中断
    • 使用时保持电脑有足够的可用内存

JavaScript 调用代码示例

以下代码以实现为目的的简单示例：

<!DOCTYPE html>
<html lang="en">

<head>
    <meta charset="UTF-8">
    <meta name="viewport" content="width=device-width, initial-scale=1.0">
    <title>deepseek测试demo</title>
    <style>
        * {
            margin: 0;
            padding: 0;
            box-sizing: border-box;
        }
        .container {
            margin: 0 20%;
            width: 60%;
            height: 100vh;
            display: flex;
            flex-direction: column;
            justify-content: center;
            align-items: center;
        }
        #write-box {
            width: 100%;
            height: 200px;
            padding: 10px;
        }
        #send-btn {
            width: 100%;
            height: 30px;
            margin-top: 10px;
        }

        #content {
            width: 100%;
            height: 200px;
            padding: 10px;
            font-size: 12px;
            color: black;
            text-align: left;
        }

    </style>
</head>

<body>
    <div class="container">
        <textarea id="write-box"></textarea>
        <button id="send-btn">发送</button>
        <div id="content"></div>
    </div>
    <button>

    </button>
    <script>
        async function chatWithModel(prompt) {
            const url = "http://localhost:11434/api/chat";
            const data = {
                model: "deepseek-r1:7b",
                messages: [
                    {
                        role: "user",
                        content: prompt,
                    },
                ],
                stream: false,
            };

            const response = await fetch(url, {
                method: "POST",
                headers: {
                    "Content-Type": "application/json",
                },
                body: JSON.stringify(data),
            });

            return await response.json();
        }

        const sendBtn = document.getElementById("send-btn");
        const writeBox = document.getElementById("write-box");
        const content = document.getElementById("content");
        sendBtn.addEventListener("click", async () => {
            const prompt = writeBox.value;
            const response = await chatWithModel(prompt);
            content.innerHTML = response.message.content;
        });

    </script>
</body>

</html>

  • 图示

    在这里插入图片描述

  • 常见问题

    • API无法链接：检查 Ollama 服务是否正常运行，默认端口 11434 是否被占用。

    • 流式响应：将 stream 参数设置为 true，并相应调整代码以处理流式数据。

    • 请求超时：在请求时添加适当的超时设置，避免长时间等待。

  • 性能方面

    在这里插入图片描述

    图中红色框选部分则是大模型思考时吃性能的峰值。

Chatbox AI 部署

Chatbox AI 是一款 AI 客户端应用和智能助手，支持众多先进的 AI 模型和 API，可在 Windows、MacOS、Android、iOS、Linux 和网页版上使用。

为了能够更好的结合我们方才本地部署的Ollama - DeepSeek-r:7b模型，我们需要将其部署到Chatbox AI中。

  1. 下载Chatbox AI

  2. 配置模型

    • 打开Chatbox AI应用，选择使用本地模型Use My Own API Key / Local Model。

      在这里插入图片描述

    • 创建新的会话。

      在这里插入图片描述

    • 编辑当前会话，设置模型。

      在这里插入图片描述
      两个入口其一。

    • 填写参数。

      在这里插入图片描述

      名字任意，能让自己识别即可，点击保存。

  3. 测试

    在这里插入图片描述

    同样，在Chatbox AI中使用我们本地部署的Ollama - DeepSeek-r:7b模型，也会消耗性能。

  4. 设置中文

    在这里插入图片描述

使用DeepSeek官方API KEY集成到Chatbox AI中

  1. 申请DeepSeek官方API KEY，deepseek开放平台。

    在这里插入图片描述
    生成的API KEY请复制黏贴个人保存好。

  2. 配置模型

    • 设置模型

      在这里插入图片描述

    • 新建一个对话模型，并选择方才DeepSeek-R1官方API KEY模型。

      在这里插入图片描述

      注意：如果配置错误或者用量不足，Chatbox AI会提示:

      连接 DeepSeek API 失败。这通常是由于配置错误或 DeepSeek API 账户问题。请检查您的设置并验证您的 DeepSeek API 账户状态。
API Error: Status Code 402, {"error":{"message":"Insufficient Balance","type":"unknown_error","param":null,"code":"invalid_request_error"}}

🎉🎉🎉 以上就是本地部署deepseek-r1:7b模型的全过程，恭喜你又掌握了一项新技能！！

相关文档

【DeepSeek部署实战】DeepSeek-R1-Distill-Qwen-7B：基于vLLM 搭建高性能推理服务器
寻道AI，探索AI无限可能！
03-21 4186
大语言模型的落地应用离不开高效推理框架的支持，vLLM以其卓越的性能在众多框架中脱颖而出。本文将带你深入探索如何使用vLLM框架部署DeepSeek-R1-Distill-Qwen大语言模型，无论是深度学习新手还是有经验的开发者，都能从中获取实用的知识和技能。# 创建采样参数。temperature 控制生成文本的多样性，top_p 控制核心采样的概率# 初始化 vLLM 推理引擎# 初始化 vLLM 推理引擎。
本地部署的DeepSeek-R1-32B与DeepSeek-R1-7B模型效果对比
maxcode
02-08 6288
DeepSeek-R1-32B和DeepSeek-R1-7B作为DeepSeek系列中的两个重要版本，分别代表了不同规模和性能的模型。总体而言，DeepSeek-R1-32B和DeepSeek-R1-7B在本地部署中各有千秋。DeepSeek-R1-32B凭借其更大的规模和更强的生成能力，适合对模型性能有较高要求的场景；而DeepSeek-R1-7B则以较低的硬件要求和更高的运行效率，成为中小型企业和个人开发者的首选。最终选择哪种模型，需要根据具体的使用场景、资源预算以及对模型性能的需求来决定。
本地部署DeepSeek 多模态大模型Janus-Pro-7B
weixin_44626085的博客
01-31 1万+
在众多AI模型中，Janus-Pro-7B犹如一颗耀眼的星星。它代表了理解与生成一体化的新纪元。想象一下，它不仅能够理解文本，还能生成高质量图像，甚至可以回答复杂问题。这可不仅仅是“高科技”标签所涵盖的那么简单。视觉问答的准确率超越了著名的GPT-4V，真可谓是“问答王”。在图像生成的质量上，它的表现超越了DALL·E3与Stable Diffusion 3，简直像是“艺术家的助手”。它的高效推理能力使得单卡运行成为可能，这对于资源有限的个人或企业来说，无疑是一次福音。
Ollama本地部署deepseek-r1:8b
weixin_47695827的博客
01-29 7661
6GB显存本地运行deepseek-r1:8b，自定义模型身份。不需要任何客户端的可直接交互chat ui，仅支持ollama本地服务api参数修改`域名端口号`、`下拉选择模型`、`上下文`、`保存配置可清理上下文`、`md格式输出`、`重新回答`、`终止请求`、`导出记录`、`头像更换`操作。最重要的是只有一个`html`文件，拖拽到浏览器就能用。
DeepSeek本地部署之deepseek-r1-distill-llama-70b 本地部署与 AI 应用实践
2301_80239908的博客
07-12 948
本文介绍了本地化部署大型语言模型DeepSeek-R1-Distill-Llama-70B的实施方案。该700亿参数开源模型在中文任务中表现优异，具有数据隐私保护、可定制化等优势。文章重点提供了服务器硬件配置建议，推荐使用多块高性能GPU（如4×RTX4090或A100 80GB）、大内存（128GB+）及高速NVMe存储。同时对比了单机与多机集群部署的适用场景，强调中小企业可优先采用单机多卡方案平衡性能与成本。最后指出需结合量化技术优化推理效率，满足企业级AI应用的并发需求。
部署本地DeepSeek-r1:7b模型
qq_45529042的博客
01-29 811
最近国产大语言模型deepseek很火，推理能力很强，测试比openai chatgpt还强，还可以本地部署，不用联网，可以离线调用。
本地部署deepseek-r1:7b
ljh20040217的博客
02-11 1803
本地部署deepseek-r1:7b
DeepSeek-R1-7b全量微调（SFT）技术教程
2401_85325726的博客
03-25 1725
大模型很多技术干货，都可以共享给你们，如果你肯花时间沉下心去学习，它们一定能帮到你！
基于Ollama的DeepSeek-r1:7b 模型的本地话部署，利用Java语言实现本地化调用
03-13
基于Ollama的DeepSeek-r1:7b模型的本地化部署与Java实现 在人工智能领域，深度学习模型的部署和调用是至关重要的环节。深度学习模型能够完成复杂的任务，如图像识别、自然语言处理等，但其部署通常面临着资源消耗大...
DeepSeek大模型的DeepSeek-R1-Distill-Qwen-1.5B-GGUF版本，2025.2.6最新版的安装包OllamaSetup.exe
02-07
由于DeepSeek大模型的DeepSeek-R1-Distill-Qwen-1.5B-GGUF版本可能涉及复杂的计算和数据处理工作，其安装和部署可能需要在具备一定计算资源的环境下进行，例如配备高性能GPU的工作站或服务器。在安装过程中，用户...
Ubuntu系统3分钟本地部署DeepSeek-R1蒸馏模型，支持联网
Blockbuster_drug
02-20 1074
DeepSeek-R1蒸馏模型的3步快速无痛安装与体验，Ubuntu + ollama + Page Assist，支持联网，支持API。
【图文详解】部署deepseekR1模型：Win11本地部署deepseek R1:7B大模型：Ollama+deepseekR1+OpenWebUI+Hyper-V部署教程。 模型参数70亿
热门推荐
坚持写作，必有收获。
02-05 1万+
本章详细介绍：图文详解部署deepseekR1模型：Win11本地部署deepseek R1:7B大模型：Ollama+deepseekR1+OpenWebUI+Hyper-V部署教程。 模型参数70亿
本地部署deepseek-r1:7B模型
2401_82853421的博客
02-17 1474
注意这里安装的版本，如果是平常使用1.5b版本完全可以，7b要求显卡是4060，按照各自需求进行安装版本，这里我安装的是7b版本。「Deepseek喂饭指令.pdf」，复制整段内容，打开最新版「夸克APP」即可获取。链接：https://pan.quark.cn/s/f749f0bfc015。安装完成后，运行chatbox，左下角打开设置，按照以下进行配置。windows输入win+r打开命令框输入cmd，打开命令窗口。畅享原画，免费5倍速播放，支持AI字幕和投屏，更有网盘TV版。
deepseek-r1 7B、14B、32B占用性能测试
weixin_43228963的博客
02-16 1412
deepseek-r1 7B、14B、32B占用性能测试
使用ollama本地部署deepseek-R1
x18990027的博客
01-26 6909
本地部署deepseek R1 ，最近横空出世的deepseek犹如一批黑马引爆了ai圈，出色的性能以及极低的成本让个人也能训练属于自己的大模型。1.前往Ollama 官网，下载 Windows 安装程序（ollama setup.exe）运行安装程序。2. 新建目录，我这里以E:\ollama 为例，然后CMD运行下面三个命令行。我这里所使用的电脑配置比较差，所以安装的7b。大家可以尝试更大的包。-r1:7B就自动安装好了，在命令行里就可以对话模型了。3.环境配置好了后 ，输入ollama -v。
Auto-Dev项目本地部署DeepSeek-Coder-7B模型配置指南
最新发布
gitblog_01403的博客
08-09 343
Auto-Dev项目本地部署DeepSeek-Coder-7B模型配置指南 【免费下载链接】auto-dev AutoDev 是一个 AI 驱动的辅助编程插件。AutoDev 支持一键生成测试、代码、提交信息等，还能够与您的需求管理系统（例如Jira、Trello、Github Issue 等）直接对接。 在IDE 中，...
DeepSeek-R1模型不同参数规模（1.5B、7B、8B、14B、32B、70B、671B）之间的区别
有天你会让我妒忌的
02-10 1万+
DeepSeek-R1 系列模型的不同参数规模（如1.5B、7B、14B、70B等）代表了模型的参数量级，直接影响模型的。例如，用7B模型验证业务流程，再迁移到14B提升效果。建议先从小规模模型实验，再根据实际需求逐步升级。
北大代码大模型CodeShell-7B 本地部署记录
weixin_42329812的博客
12-18 2106
本地部署北大大模型codeshell
本地部署deepseek-R1-7B
02-28
### 如何在本地部署 DeepSeek-R1-7B 模型 为了成功地在本地环境中安装并运行 DeepSeek-R1-7B 模型，需遵循一系列特定的操作流程。此过程涉及环境准备、依赖项配置以及最终启动服务等多个方面。 #### 准备工作 确保...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Vinca@

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值