Mac使用Ollama在本地部署大语言模型（Ollama+Deepseek_R1+OpenWebUI）

### 本地部署 DEEPSEEK 使用 Ollama 和 DeepSeek 并整合 Dify #### 配置与集成概述 为了实现 DEEPSEEK 模型的本地化部署并将其与 Ollama 和 Dify 整合，需要完成以下几个核心部分的工作：安装和配置 Ollama、下载和运行 DEEPSEEK 模型以及将这些组件与 Dify 进行无缝连接。 Ollama 是一种轻量级工具，用于管理和运行大型语言模型 (LLM)，支持多种模型架构。通过简单的命令即可启动指定版本的 DEEPSEEK 模型[^2]。而 Dify 则是一个应用框架，可以作为前端或中间件来调用 LLM 提供的服务。 --- #### 安装和配置 Ollama 要开始使用 Ollama 来管理 DEEPSEEK 模型，请按照以下方法操作： 1. **安装 Ollama** 下载最新版 Ollama 工具包，并根据操作系统执行相应的安装脚本。官方文档提供了详细的说明，确保环境满足最低依赖条件。 2. **拉取 DEEPSEEK 模型** 执行以下命令以获取特定版本的 DEEPSEEK 模型： ```bash ollama pull deepseek-r1:1.5b ``` 此命令会自动从远程仓库中提取 `deepseek-r1` 版本号为 `1.5b` 的预训练权重文件到本地存储路径下。 3. **验证模型加载状态** 启动服务前可以通过列表查看已成功导入的所有可用模型实例及其元数据信息： ```bash ollama list ``` --- #### 启动 DEEPSEEK 模型 一旦完成了上述准备工作，则可通过如下指令激活目标模型实例以便后续请求访问它所提供的功能接口： ```bash ollama run deepseek-r1:1.5b --port=11434 ``` 此命令将在默认端口上暴露 RESTful API 接口给外部程序调用，默认监听地址通常设置为 localhost 或者自定义 IP 地址。 --- #### 将 Ollama 与 Dify 集成 Dify 可作为一个灵活的应用开发平台，允许开发者轻松接入第三方 AI 能力。以下是具体步骤描述： 1. **创建项目结构** 初始化一个新的 Python 环境或者 Node.js 应用来承载整个业务逻辑流程设计工作流。 2. **编写适配器代码** 构建 HTTP 请求发送模块向刚才提到过的 Ollama 实例发起交互动作；例如利用 requests 库（Python）或其他同等效用库处理 POST 方法提交 JSON 数据体至 `/api/generate` 终结点位置处[^1]: ```python import requests url = "http://localhost:11434/api/generate" payload = { "prompt": "Tell me about the history of artificial intelligence.", "max_tokens": 100, "temperature": 0.7 } headers = {"Content-Type": "application/json"} response = requests.post(url, json=payload, headers=headers) result = response.json() print(result["response"]) ``` 3. **扩展应用程序界面** 结合实际场景需求进一步完善图形用户界面上展示效果等内容呈现形式等方面考虑因素进去之后再做最终调整优化方案出来就可以了. --- ### 总结 综上所述，在本地环境中部署 DEEPSEEK 模型并通过 Ollama 加载后，能够借助简单几行脚本快速搭建起一套完整的对话系统原型演示案例。与此同时，引入像 Dify 这样的高级别封装层还可以极大简化日常维护成本的同时提升整体用户体验满意度水平^. ---

### 如何部署 Ollama 和 DeepSeek R1 #### 准备工作 为了顺利部署Ollama和DeepSeek R1，需准备大约10GB的磁盘空间用于安装部署Ollama和DeepSeek R1[^2]。 #### 下载并安装Ollama软件 前往官方网站下载最新的Ollama软件版本，并按照官方指导完成安装过程。这一步骤是后续操作的基础，务必确保顺利完成安装。 #### 安装DeepSeek R1模型 在命令提示符(cmd)环境下执行如下指令来安装`deepseek-r1:14b`模型： ```bash ollama run deepseek-r1:14b ``` 此命令会自动拉取指定版本的DeepSeek R1模型至本地环境，从而允许用户在其计算机上运行该模型[^4]。 #### 验证安装情况 利用`ollama list`命令可以检查当前环境中已安装的所有Ollama支持的服务列表，以此确认DeepSeek R1是否正确无误地被加载到系统之中。如果一切正常，则说明已经成功完成了整个部署流程。 #### 应用场景拓展——集成Word文档处理工具 对于希望进一步提升工作效率的人来说，还可以考虑将DeepSeek与Microsoft Word相结合。尽管目前官方暂停了API Key的新注册请求，但是通过前述方法实现的本地化部署同样能够满足这一需求，即借助于本地接口调用来达成二者之间的无缝对接[^3]。