unbutu20.04 ollama

### 安装或配置Ollama项目/服务在Ubuntu 20.04上的方法 #### 准备工作 为了成功安装和运行 Ollama，在开始之前需要确保系统已更新至最新状态。可以通过执行以下命令来完成此操作[^1]： ```bash sudo apt update && sudo apt upgrade -y ``` #### 安装依赖项 Ollama 的安装可能需要一些额外的工具和支持库。可以先通过以下命令安装必要的软件包： ```bash sudo apt install curl wget git build-essential -y ``` #### 下载并安装 Ollama Ollama 提供了多种安装方式，其中最简单的方式是通过官方脚本自动下载二进制文件并完成安装。以下是具体的操作步骤： 1. 使用 `curl` 命令获取安装脚本并执行它： ```bash bash <(curl https://ollama.ai/install.sh) ``` 2. 如果希望手动指定版本或者自定义路径，则可以从 GitHub Releases 页面下载对应的二进制文件，并将其移动到系统的可执行路径下： ```bash wget https://github.com/jmorganca/ollama/releases/download/vX.X.X/ollama-vX.X.X-linux-amd64.tar.gz tar -xzvf ollama-vX.X.X-linux-amd64.tar.gz sudo mv ollama /usr/local/bin/ ``` 3. 验证安装是否成功： 运行以下命令以确认 Ollama 是否正常启动以及其当前版本号： ```bash ollama version ``` #### 启动与基本配置 一旦安装完毕，就可以按照如下方式进行初始化设置。 1. **创建默认数据存储位置** 默认情况下，Ollama 将模型保存于 `$HOME/.local/share/ollama/models/` 文件夹中。如果需要更改该目录，请提前调整环境变量： ```bash export OLlama_MODEL_PATH=/path/to/custom/model/directory mkdir -p $OLlama_MODEL_PATH ``` 2. **加载预训练模型** 可以从远程仓库拉取所需的 AI 模型实例。例如，要加载 LLaMA7B 模型，只需键入下面这条指令即可： ```bash ollama pull llama2 ``` 3. **测试 API 接口功能** 利用内置 HTTP RESTful APIs 来验证整个流程是否通畅无误。比如发送 GET 请求查看可用模型列表： ```bash curl http://localhost:11434/api/tags ``` #### 调整 GRUB 参数（针对特定硬件需求） 对于某些特殊场景下的 GPU 加速支持，可能还需要修改 Linux 内核引导参数以便更好地兼容虚拟化技术或其他高级特性。编辑 `/etc/default/grub` 文件并向 kernel line 添加这些选项[^3]: ```plaintext intel_iommu=on iommu=pt pcie_aspm=off vfio_iommu_type1.allow_unsafe_interrupts=1 vfio_pci.disable_vga=1 vfio_pci.disable_idle_d3=1 ``` 随后记得重新生成 grub.cfg 并重启机器使改动生效： ```bash sudo update-grub sudo reboot now ``` --- ### 注意事项 虽然上述指南涵盖了大部分常见情况下的部署过程，但在实际应用过程中仍需注意以下几点： - 确认目标服务器具备足够的磁盘空间用于存放大型神经网络权重； - 对于生产环境中频繁调用的服务端程序建议配合 systemd service manager 创建专用守护进程管理单元文件实现开机自启等功能优化体验效果更佳；