启动Ollama服务
ollama serve
从模型文件创建模型
ollama create
显示模型信息
ollama show
运行模型
ollama run 模型名称
从注册表中拉去模型
ollama pull 模型名称
将模型推送到注册表
ollama push
列出模型
ollama list
复制模型
ollama cp
删除模型
ollama rm 模型名称
获取有关Ollama任何命令的帮助信息
ollama help
结语
随着你对Ollama的熟悉,你还可以探索更多高级功能和命令。希望这篇教程对你有所帮助!如果你有任何问题或需要进一步的帮助,请随时联系。
导入本地模型教程
将模型拷贝到某个目录
D:\OllamaModels\qwen2-7b-instruct-q4_k_m.gguf
在同补录下创建一个Modelflie.txt文件,内容如下:
FROM ./qwen2-7b-instruct-q4_k_m.gguf
导入
ollama create qwen2-7b-instruct-q4_k_m -f Modelflie.txt
得到输出:
transferring model data
using existing layer sha256:0874bf61be2e4b3d0a4a75e58fbd442dc410745d513c1e1e5de0b54ae33e65db
creating new layer sha256:ae091ca0a8c8630ceb827f52a0d362e56293e28c67e84a664ee222c72428cc28
writing manifest
success
查看一下
ollama list
NAME ID SIZE MODIFIED
qwen2-7b-instruct-q4_k_m:latest 62b424cf2604 4.7 GB 3 seconds ago
gemma-2-9b-it-Q4_K_M:latest ab4f65f1a78b 5.8 GB 10 minutes ago
运行
ollama run qwen2-7b-instruct-q4_k_m
这样就可以了
https://modelscope.cn/models/qwen/Qwen2-7B-Instruct-GGUF/files
https://modelscope.cn/models/LLM-Research/gemma-2-9b-it-GGUF/files