ollama 模型国内加速下载，制作自定义Modelfile模型文件；ollama模型导出

loong_XL

已于 2024-08-29 09:26:36 修改

阅读量1.2w

点赞数 9

CC 4.0 BY-SA版权

分类专栏：深度学习文章标签： ollama 大模型 gguf

于 2024-07-16 09:25:01 首次发布

本文链接：https://blog.csdn.net/weixin_42357472/article/details/140456366

深度学习专栏收录该内容

334 篇文章 ¥39.90 ¥99.00

订阅专栏

超级会员免费看

参考：
https://www.zhihu.com/question/640579563/answer/3562899008
https://github.com/ollama/ollama/blob/main/docs/modelfile.md

gguf格式介绍：
https://www.datalearner.com/blog/1051705718835586

1、ollama 模型国内加速下载

ollama主要的模型文件格式是gguf，可以在modelscope或huggingface上下载

huggingface：

export HF_ENDPOINT=https://hf-mirror.com
huggingface-cli download --resume-download --local-dir-use-symlinks False bigscience/bloom-560m --local-dir bloom-560m  --cache-dir bloom-560m