Ollama根据下载的GGUF创建大模型
由于平台自身的原因，Ollama平台上已经上线的模型并未包含最新的模型，且很多模型也并未在Ollama平台上上架，虽然Ollama已经可以一键安装Huggingface平台上的模型（详情请见Ollama安装Huggingface模型 - 姜九二 (jiangjianwu.cn)），但是有些大模型只上传了.safetensors 格式的文件，并不是Ollama支持的.gguf文件，这是我们可以采用llama.cpp将.safetensors 转换为.gguf 格式，然后就可以创建Ollama可以运行的大模型了。具体方法如下：
（1）创建本地大模型的文件，后缀名为.modelfile ，如创建一个名为demogis.modelfile的配置文件,内容为：
FROM ./DemoGIS.gguf（2）运行Ollama命令创建一个名为DemoGIS的大模型
# ollama create “模型名” -f “配置文件路径和名称”
ollama create DemoGIS -f demogis.modelfile当然，ModelFile文件可以配置更加详细的内容，详情可参考：Ollama Modelfile官方文档
阅读剩余
版权声明：
作者：姜九二
链接：https://www.jiangjianwu.cn/development/deep-learning/1422/ollama%e6%a0%b9%e6%8d%ae%e4%b8%8b%e8%bd%bd%e7%9a%84gguf%e5%88%9b%e5%bb%ba%e5%a4%a7%e6%a8%a1%e5%9e%8b.html
文章版权归作者所有，未经允许请勿转载。
THE END
