
🦙 从 HuggingFace 拉取 GGUF 模型并导入 Ollama 完整教程(Windows 环境)📝 前言本教程详细记录了在 Windows 系统下,如何从 HuggingFace 下载 yuxinlu1/gemma-4-12B-coder-fable5-composer2.5-v1-GGUF 模型的 Q4_K_M 量化版本,并将其成功导入 Ollama 本地运行的全过程。教程针对 12G 显存显卡 进行优化配置,同时讲解了踩坑要点与解决方案,适合所有想将 HuggingFace GGUF 模型迁入 Ollama 的用户。 🧭 完整流程回顾 阶段 核心操作 关键产出 环境配置 设置 OLLAMA_MODELS 到 D 盘、安装 huggingface_hub 避免 C 盘爆满,获得下载工具 下载模型 通过国内镜像下载 Q4_K_M 量化文件 得到约 6.87GB 的 GGUF 文件 编写配置 创建 Modelfile,指定绝对路径与对话模板 告诉 Ollama 如何加载和运行模型 导入模型 执行 ollama create 命令 将 GGUF 注册 ...

