本文将用 Ollama 和 Page Assist 插件,快速部署一个具备在线搜索能力的本地大模型。
前言:
此处略过 Ollama 大模型的基础部署过程。如果未完成此步,请搜索相关教程,里面有足够详细的指导。
此外,接下来的许多步骤可能需要“科学上网”环境。
详细步骤:
-
第一步:下载并配置 Embedding 模型
除了已部署的 Ollama 大模型,我们还需要额外下载一个Embedding
模型。
什么是Embedding模型以及为什么需要
Embedding模型:将离散符号(如单词、用户ID)转化为连续向量表示的技术,用于捕捉语义和结构信息。
why: ta通过将离散数据映射为向量,提升语义理解与处理效率,是连接数据与模型决策的关键桥梁。
复制Embedding
模型的下载命令。
运行命令行:
按下Win + R
组合键,在弹出的运行窗口中输入cmd
,然后按回车键打开命令行界面。
首先输入ollama
,确保 Ollama 程序正在后台运行。
将之前复制的下载命令粘贴到命令行中(Ctrl + V
),然后按回车键执行。
下载完成后,可以再次打开命令行,输入ollama list
来验证Embedding
模型是否已成功下载。
-
第二步:安装并打开 Page Assist 插件
打开Google浏览器安装Page Assist插件
如果尚未安装,插件按钮会显示“Install”字样。
安装完成后,点击浏览器右上角的插件图标,打开 Page Assist 插件。
-
第三步:配置 Page Assist 插件
进入插件主界面后,首先确认是否有“Ollama 正在运行”的提示。然后,点击进入“设置”选项。
可以在设置中将界面语言调整为中文,以方便操作。
在“一般设置”中向下滚动,找到“搜索设置”部分。
(搜索引擎选择: DuckDuckGo 和 Google 需要“科学上网”。Google 有时可能不稳定,其他搜索引擎质量相对一般。在此,比较推荐使用 DuckDuckGo。当然,如果本地部署完成后,不方便“科学上网”,也可以选择 Bing 引擎。)
接下来,配置 RAG 设置。
选择之前额外下载的 Embedding 模型。其他设置可以保持默认,或者根据您的需求进行调整。务必点击“保存”以应用更改。
-
第四步:启用联网模式,开始智能对话!
最后返回主界面,选择一个模型,打开联网模式,就可以愉快地聊天啦
示例展示:
拓展功能:构建专属知识库
此外,还可以利用 Page Assist 的“管理知识”功能,打造个人的知识库。
点击后,知识库内容成功显示在上方区域,即表示导入成功。
还有很多功能可以自行探索哦
Enjoy