AI大模型：（二）1.1 ollama本地快速部署deepseek

已于 2025-04-07 22:17:51 修改
阅读量723 收藏 1
点赞数 3
CC 4.0 BY-SA版权
分类专栏： AI大模型开发 文章标签： 人工智能
于 2025-03-21 22:37:02 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/yztezhl/article/details/146428772

目录

1 本地部署要求及适用场景

2 ollama安装

2.1 ollama介绍 

2.2 ollama安装

3 deepseek安装运行

4 客户端应用安装 

5 自定义模型 

        DeepSeek号称模型界的拼夕夕，凭借其先进的算法+蒸馏技术，使得低成本小尺寸模型拥有顶尖模型的能力。有力推动了国内AI技术的发展，用户数量的快速增长导致服务器一度繁忙。为缓解这一问题，用户可选择在本地电脑上部署：只需下载Ollama和DeepSeek-R模型，且对电脑配置无硬性要求。当然，硬件配置越高，推理性能和响应速度也会相应提升。

1 本地部署要求及适用场景

模型参数‌ ‌CPU要求‌ ‌内存要求‌ ‌显存要求‌ ‌硬盘要求‌ ‌适用场景‌
‌<
了解本专栏 订阅专栏 解锁全文 超级会员免费看
Windows本地部署DeepSeek-R1大模型实战：基于Ollama的极简指南
TKang8912的博客
02-03 5990
准备训练数据（JSONL格式）{"text": "<用户指令>优化客服话术</指令><响应>..."}# 启动微调部署效果评估响应速度：CPU模式约15 tokens/s，RTX4090可达85 tokens/s内存占用：7B量化版约5.8GB，完整版需18GB知识截止：2023年10月（可通过微调更新）最佳实践建议日常使用选择4-bit量化版本复杂任务启用GPU加速长期运行建议配置为Windows服务敏感业务数据启用TLS加密传输。
deepseek大模型本机部署
Stestack的博客
01-31 6927
搭建一个聊天界面就需要另外一个开源项目chatbox：https://github.com/Bin-Huang/chatbox，下载对应版本chatbox，安装成功后打开chatbox，点击设置，模型提供方选择Ollama，ollama运行时他会自动识别模型，保存即可。这款模型不仅在性能上与OpenAI的GPT-4相媲美，更以开源和创新训练方法，为AI发展带来了新的可能性。deepseek官网https://chat.deepseek.com。官网：https://ollama.com。
使用Ollama部署本地大模型
最新发布
2301_81667623的博客
07-19 585
帮助读者快速部署自己的本地大模型，并在开发过程中进行模型调用，以及在开发工具中实现AI对话
本地部署DeepSeek大模型完整指南
ddv_08的博客
02-01 1万+
DeepSeek作为国产顶尖开源大模型，其优秀的语义理解和生成能力备受关注。本文将手把手教你如何在本地计算机部署DeepSeek模型并实现对话交互，支持CPU/GPU双模式运行。
ollama快速部署deepseek
weixin_43828003的博客
02-13 378
Ollama 是一个开源的人工智能平台，专注于在本地高效运行大型语言模型（LLMs）。通过 Ollama，开发者可以在自己的机器上运行多种大规模语言模型，而不必依赖于云端服务。它支持对大模型的管理和本地化部署，并且提供了易于使用的客户端接口和 WebUI 部署，帮助开发者高效地与语言模型交互。DeepSeek是一款由国内人工智能公司研发的大型语言模型，拥有强大的自然语言处理能力，能够理解并回答问题，还能辅助写代码、整理资料和解决复杂的数学问题。
ollama容器里面拉取deepseek
加入“Super Entity”，与全能开发团队共探AI智能体与数字人项目，开启前沿技术之旅。
02-23 852
DeepSeek 的 7B 版本需要至少 8GB 内存，而 14B 版本需要至少 16GB 内存。命令拉取 DeepSeek 模型。通过以上步骤，你可以在 Docker 容器中成功拉取并运行 DeepSeek 模型。首先，拉取 Ollama 的 Docker 镜像并启动容器。：模型文件较大，下载速度可能受网络状况影响。如果下载中断，可以重新运行。此时，你可以通过命令行与模型进行交互。在容器内部，使用 Ollama 的。挂载卷，确保模型数据持久化。命令，支持断点续传。
本地快速部署Ollama运行大语言模型详细流程，看这篇就够了
lyy2017175913的博客
12-10 4394
本文主要介绍如何在 Windows 系统快速部署 Ollama 开源大语言模型运行工具，并安装 Open WebUI 结合 cpolar 内网穿透软件，实现在公网环境也能访问你在本地内网搭建的 llama2、千文 qwen 等大语言模型运行环境。
DeepSeek R1 Ollama本地化部署全攻略：三步实现企业级私有化大模型部署
理论都是虚的，代码才是王道。
01-28 1万+
Ollama作为当前最受欢迎的本地大模型运行框架，为DeepSeek R1的私有化部署提供了便捷高效的解决方案。本文将深入讲解如何将Hugging Face格式的DeepSeek R1模型转换为Ollama支持的GGUF格式，并实现企业级的高可用部署方案。文章包含完整的量化配置、API服务集成和性能优化技巧。
简易教程：在本地使用 Ollama 和 Deepseek_R1 部署大语言模型
威哥说编程
01-28 1876
在本教程中，我们介绍了如何使用。
DeepSeek-R1模型5分钟下载本地对话——忘掉CUDA、GPU和烦人的代码：OLLAMA本地部署DeepSeek R1全攻略
a1966565的博客
02-15 3933
Ollama 支持在 Modelfile 中导入 GGUF 模型：创建一个名为Modelfile的文件，并在其中包含一个FROM指令，该指令指向你想要导入的模型的本地文件路径。在 Ollama 中创建模型运行模型。
ollama与deepseek是什么关系
qq_42942935的博客
02-25 2451
网上搜索本地化部署deepseek的教程，大概率都能看到ollama，到底他们之间有什么关系呢？‌‌
本地部署大模型？Ollama 部署和实战，看这篇就够了
u010522887的专栏
07-24 3万+
Ollama 也许是当前最便捷的大模型部署工具，配合Open WebUI，人人都可以拥有大模型自由。
本地部署并运行DeepSeek R1
howard2005的专栏
01-25 1万+
本次实战中，我们成功部署并体验了Ollama与DeepSeek R1的强大功能。首先，通过Ollama的便捷安装和版本管理，我们快速搭建了本地运行环境。随后，下载并运行DeepSeek R1模型，验证了其在多个场景中的实用性。
Deepseek教程（详细！！！）|使用Ollama下载Deepseek，并在Pycharm使用
BlueEstrella的博客
01-30 1万+
1. 打开Ollama官网/，根据自己的操作系统下载相应版本的安装文件(#^.^#)，我选择的是Windows版~2. 下载好后，直接双击打开安装文件，并点击“”安装。3.安装好后，在电脑的右下角的^，就可以看到一只可爱的羊驼，^0^咩~~~4.Ollama的默认安装路径为 C:\Users\用户名\AppData\Local\Programs\Ollama下图是Ollama在我的电脑中的位置*如果想将Ollama移动到别的盘符，需在环境变量中修改Path选项，添加Ollama文件绝对路径——
【DeepSeek应用实践】Ollama Deep Researcher：Ollama平台部署DeepSeek-R1，打造本地AI研究助手
寻道AI，探索AI无限可能！
04-01 1509
在当今数字化信息爆炸的时代，高效获取和整理信息成为了科研工作和专业研究中的关键环节。随着人工智能技术的飞速发展，大语言模型（LLM）在信息处理和自然语言理解方面展现出了巨大的潜力。Ollama Deep Researcher 应运而生，它是一款结合了 LangChain 和 Ollama 框架优势的本地化 AI 研究助手，旨在通过自动化的方式帮助用户进行深度网络调研和报告撰写，为研究人员和专业人士提供了一种高效、安全且灵活的研究工具。
深度求索的力量：在Ollama框架中本地部署DeepSeek-R1
ζั͡山 ั͡有扶苏 ั͡✾的博客
02-07 2197
你是否想了解如何在本地环境中轻松部署深度学习模型？这篇文章将详细介绍如何使用Ollama框架和DeepSeek-R1模型进行AI模型的本地安装与配置。我们将分享从环境搭建到模型加载的完整步骤，包括支持不同模型规模的配置方法，以及如何通过AnythingLLM优化性能。无论你是刚入门的开发者还是对AI模型部署有浓厚兴趣的技术爱好者，这篇指南都将为你提供实用的操作经验和性能优化建议。
简易教程|使用Ollama在本地部署大语言模型（Ollama+Deepseek_R1+OpenWebUI）
热门推荐
m0_61171702的博客
01-26 4万+
用简洁的方式部署AI大模型，从安装ollama到拉取AI大模型文件，到使用OpenWebUI的使用，没有多余描述。
deepseek部署之ollama安装
qq_42339117的博客
02-19 447
deepseek初体验之ollama
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

hay_lee

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值