分类: 大模型部署与推理 | 河岳日星的博客

分类 - 大模型部署与推理

2026

LLaMA-Factory 实战（三）：单卡后训练全链路——SFT、DPO 与 GRPO/RLVR

2026-09-18

LLaMA-Factory 实战（三）：单卡后训练全链路——SFT、DPO 与 GRPO/RLVR

LLaMA-Factory 实战（二）：环境搭建、WebUI 训练与模型导出合并全流程

2026-09-05

LLaMA-Factory 实战（二）：环境搭建、WebUI 训练与模型导出合并全流程

🧩 LLaMA-Factory 实战（一）：数据格式、模板选择与版本调试（Qwen2.5 + LoRA 实战）

2026-08-28

🧩 LLaMA-Factory 实战（一）：数据格式、模板选择与版本调试（Qwen2.5 + LoRA 实战）

🦙 从 HuggingFace 拉取 GGUF 模型并导入 Ollama 完整教程（Windows 环境）

2026-06-22

🦙 从 HuggingFace 拉取 GGUF 模型并导入 Ollama 完整教程（Windows 环境）

Windows本地部署Ollama完整踩坑指南：从环境变量到图形化界面

2026-05-19

Windows本地部署Ollama完整踩坑指南：从环境变量到图形化界面

12G 显存跑 27B：NInfer + KVMem 推理引擎本地部署实战（sm_120 避坑全记录）

2026-05-12

12G 显存跑 27B：NInfer + KVMem 推理引擎本地部署实战（sm_120 避坑全记录）

📘 OpenClaw本地部署指南

2026-04-15

📘 OpenClaw本地部署指南

vLLM 高并发推理服务搭建与压测

2026-03-22

vLLM 高并发推理服务搭建与压测

用 FastAPI 把本地模型包成生产级 API

2026-03-08

用 FastAPI 把本地模型包成生产级 API

llama.cpp 量化部署：从 GGUF 到端侧推理

2026-02-28

llama.cpp 量化部署：从 GGUF 到端侧推理

数据库加载中