河岳日星的博客

⚠️ 本文为公开资料整理版（占位）：内容基于 vLLM 官方文档与社区实践梳理，用于建立知识框架；本人尚未在本地完成完整压测，真实吞吐/延迟数据待补实践后替换。如果你正在准备面试，这篇能帮你把「高并发推理」讲成体系；若要写进简历，请先亲手跑一遍。 一、vLLM 解决什么问题核心创新是 PagedAttention：把 KV-cache 像操作系统管理内存页一样分页管理，避免为「最大可能长度」预先分配整块显存。效果是对话场景显存利用率大幅提升，能支持的并发数显著上去了。 对比定位： llama.cpp：端侧/单机主力，量化友好、轻量； vLLM：高并发在线服务，吞吐优先； TGI（Text Generation Inference）：HuggingFace 出品，企业级、功能全。 二、起一个 OpenAI 兼容服务12345python -m vllm.entrypoints.openai.api_server \ --model Qwen/Qwen2.5-7B-Instruct \ --tensor-parallel-size 1 \ --gpu-memory-utili ...

我的 C 盘是 300 GB，长期只剩 50 多 GB 可用。每隔一阵子就会弹出「磁盘空间不足」，每次都想着”这回一定要清一清”，然后打开资源管理器，看着 AppData 这个黑洞，不知道从哪儿下手，最后关掉继续拖。 真正解决问题的不是某次大清理，而是换了个做法：先只读扫一遍，把「能删的、要想想的、不能碰的」分好级，再动手。下面这套流程从踩坑到成型，全盘扫描 29 秒出报告。 一、为什么不能边扫边删清理磁盘最大的风险不是删错文件，而是在没看清楚之前就动手。 AppData 下面塞着三样东西：真正的缓存垃圾、正在使用的运行时（.conda 里的 llama-factory 环境、.workbuddy 的技能库）、以及应用数据（微信聊天记录）。它们的名字长得一模一样——都是一堆看不懂的英文目录。凭目录名判断该不该删，等于抛硬币。 所以第一条是硬规矩：第一轮只扫描，一个文件都不动。产出带实测大小的分级报告，清理是另一步，必须逐个确认后再执行，而且进回收站，不硬删。 这不是教条。有一次扫完发现 C:\Users\tang\.cache 有 7.3 GB，看着像标准的缓存目录，可以直接清。再往下 ...

经验驱动。下面这段分析是本机真跑的：一份带典型脏数据的订单 CSV，经 pandas 清洗后算出月度/品类/客单价/环比。每一步的坑和真实数字都写在这里。 真实数据长什么样（脏的）从业务库导出的原始表经常是这样：金额带 ¥ 和逗号、日期混用 2025-01-03 和 2025/01/09、区域有别名（east 和 华东）、有重复行、有负金额、有缺失日期。我造了一份 11 行的样本，结构和真实导出一致。 清洗（每一步都对应一个坑）1234567df = df.drop_duplicates() # ① 去重（重复订单）df["amount"] = df["amount"].astype(str).str.replace("¥","",regex=False) \ .str.replace(",","",regex=False).astype(float) # ② "¥ ...

把一本小说或一个想法变成能拍的短剧，最容易走的弯路是直接开始写第一集。 写出来的东西往往不差——场景清楚、台词通顺、镜头感也有——但写到第三集就开始散：主角的策略每集都在换、对手的存在感越来越弱、当初埋的线接不上，最后只能靠”又出了个坏人”往下推。 问题不在文笔，在开发阶段该定的东西没定。下面这套流程是把”什么不能改、什么可以探索、故事靠什么持续产生冲突”先钉死，再谈分集。 一、先判断入口，别为了流程完整虚构材料五种常见入口，处理方式完全不同： 手上有什么 做什么 只有想法、题材或一句情绪目标 先做方向探索，再建创作简报与故事引擎 已有梗概、小说、改编材料 保存来源，先列出已承诺事实 / 可改范围 / 待确认项 方向已定，只缺分集 直接做或改分集地图 已有单集剧本 不要为了流程完整补开发材料，直接进写作 已有多集整稿 保留原文件，只做精确索引，从断点续跑 第 4 条是最反直觉的：已有的单集剧本不需要回头补一份”创作简报”来证明流程完整。补出来的文件多半是把剧本倒着翻译成方法论术语，既没用又会让后续阶段误以为它是原始依据。 长材料还有一条硬规矩：不要用正则 ...

经验驱动。不引 ECharts、不接 CDN，纯 SVG + 原生 JS 手搓一个可交互柱状图（附 p2_js_viz.html，支持 hover 提示、打乱、升降序），JS 已用 node 校验。为什么不用库、怎么画、交互怎么做、高分屏怎么不糊，全在这里。 为什么不用图表库ECharts 好用，但引入就要几百 KB；CDN 不稳（面试现场断网就尴尬）；而且面试官想看的是你会不会画，不是你会不会调 API。手搓一个 SVG 柱状图，既能进博客当 demo，又能当面试谈资——“坐标映射 + 事件绑定”这两件事讲清楚，比背配置项值钱。 怎么画：核心是坐标映射柱状图本质是一个线性映射：数据值 v → 矩形高度 h。 123var max = Math.max.apply(null, data.map(d => d.v));var h = (H - pad*2) * d.v / max; // 把值归一化到绘图区高度var y = H - pad - h; // SVG 的 y 轴向下，所以要从底部往上减 x 方向按 数据条数 均分，每条留点间隙。坐 ...