栀夏文章专栏
栀夏 的极会员文章专栏,收录其发布的全部专栏文章
Qwen3.8-27B 本地高速部署方案(Mac Studio M4 Max / oMLX)
目标:在 Apple Silicon 上以最快速度推理 Qwen3.8-27B,支持长上下文与 Agent 工具调用,全部离线运行、不依赖外网 API。更新日期:2026-09-06 | oMLX 0.6.4
摘要只配当导读:让 AI 长对话不失忆的分层压缩架构(附业界对比)
长对话 AI 的"失忆"不是玄学,而是压缩机制的结构性缺陷。本文从根因出发,逐层拆解一套以"分层段块 + 双逐字轨"为核心的压缩架构,并与 Claude Code 等业界方案正面对比。
贵的不是上下文长,是前缀形状变了几次:MFS 的 KV-cache 命中优化与注入分层
大上下文"太贵"的原因不是上下文长,而是前缀形状变了几次。 前缀缓存让旧字节按 0.1 折续费,但任何一次前缀改动 = 改写点之后全部内容全额重付。MFS 的答案是:注入分层(每个注入源都有唯一合法落点)+ 显式计价(每次改动都过回本闸)+ 全路径同构(ws 与 RE
DeepSeek Flash 思考死循环:烧钱账与一套可落地的思考流熔断方案
我的 agent 跑在官方 DeepSeek-V4-Flash 上,思考模式开着(这本来就是默认),reasoning effort 是 high。有一天我拉日志,被一条思考流吓到了:一轮思考,4927 行,约 1.6 万字符,其中 98.6% 是重复的废话。
1