2026 年 11 月 01 日——开源推理引擎 Strata 于 10 月下旬完成对 DeepSeek-V4.1-Flash 的本地运行支持，2.00bpw 量化套件体积 257GB，官方实测在 RTX 5070 12GB 显存加 64GB 内存的桌面平台上生成速度为每秒 4-6 token；10 月 31 日发布的 v0.2.9 又新增 Unsloth 1-bit 量化套件，并优化多 AMD 卡与 Strix Halo 平台的提示读取速度。
Strata 是一个 MIT 许可的开源推理引擎，思路是把超大 MoE 模型拆分到整台电脑上协同计算：常用专家驻留显存、全部专家放进内存由 CPU 与显卡同时计算、大查找表留在 SSD 按需读取。该项目 GitHub 仓库创建于 9 月 24 日，最初因让 Qwen3.8-Flash-Next 在 12GB 显存游戏本上跑通而受到关注，截至 11 月 1 日已有 36958 星、4002 次 fork。
DeepSeek 支持时间线：八天内连发六个版本
据 GitHub 发布页，DeepSeek-V4.1-Flash 支持自 10 月 24 日的 v0.2.4 起进入终端版，10 月 25 日的 v0.2.5 起桌面应用可直接选择，随后版本围绕它快速迭代：
| 版本 | 发布日期（UTC） | DeepSeek 相关变化 |
|---|---|---|
| v0.2.4 | 10 月 24 日 | DeepSeek 支持上线（v0.2.4.2 修复启动与安装问题） |
| v0.2.5 | 10 月 25 日 | 桌面应用可直接选择 DeepSeek |
| v0.2.7 | 10 月 27 日 | DeepSeek 上 Ryzen AI Max 平台；上下文最高可选 1M（256K 以上官方标注未测）；默认支持读图，首次多下载约 1GB |
| v0.2.7.1 | 10 月下旬 | DeepSeek 上 Apple Silicon Mac 与 NVIDIA DGX Spark |
| v0.2.8 | 10 月 29 日 | 修复 Mac 版 DeepSeek 内存泄漏；修复回复在词中间被截断的问题 |
| v0.2.9 | 10 月 31 日 | 新增 Unsloth 1-bit 套件；DeepSeek 在多张 AMD 卡上默认全部启用；Mac 生成速度稳定在每秒 18-22 token |
模型口径方面，Strata 文档中该模型名为 DeepSeekV4.1-Flash-1017（即 DeepSeek-V4.1-Flash 的 10 月 17 日构建）。参数量约 763B（552B 主干加 196B Engram，Hugging Face 仓库口径，非官方披露）；Strata 0.2.9 发布说明按其专家结构口径记为 15360 个专家、每个 token 激活 5-6 个。上下文默认 8K，v0.2.7 起最高可选 1M。
量化套件与磁盘要求
DeepSeek 引擎单独分发，v0.2.9 共提供 Windows CUDA、Linux CUDA/AMD、Mac Metal、Linux ARM64 六个引擎包。模型套件现有五档可选，均为数十万兆字节的下载量：
| 套件（来源） | 精度 | 下载体积 | 需要空闲空间 |
|---|---|---|---|
| ISTA-DAS | 1.75 bpw | 239 GB | 约 245 GB |
| ISTA-DAS | 2.00 bpw | 257 GB | 约 265 GB |
| ISTA-DAS | 2.25 bpw | 274 GB | 约 280 GB |
| Unsloth（v0.2.9 新增） | UD-IQ1_S | 241 GB | 复用已有 ISTA Engram 文件可少下约 111 GB |
| Unsloth（v0.2.9 新增） | UD-IQ1_M | 258 GB | 复用同上 |
据 0.2.9 发布说明，官方将两档 Unsloth 1-bit 套件与 ISTA-DAS 2.25 套件做了对比自测：以 Unsloth 自家 Q8 参考文件为基准，UD-IQ1_S、UD-IQ1_M、ISTA-DAS 2.25 的困惑度分别高出 4.8%、3.0%、8.9%，61 项任务套件分别通过 53、53、56 项（单次运行口径）。
官方实测速度（2.00bpw 套件）
官方 README 给出的五档硬件实测结果如下：
| 硬件配置 | 生成速度 | 长提示读取速度 |
|---|---|---|
| RTX 5070 12GB 加 64GB 内存 | 每秒 4-6 token | 每秒约 110 token（4K 提示） |
| RTX 3060 12GB 加 46GB 内存 | 每秒 9-11 token | 每秒约 155 token（4K 提示） |
| 1 张 Radeon AI PRO R9700 加 251GB 内存 | 每秒 21-25 token | 每秒 320-360 token（8K 提示） |
| 4 张 Radeon AI PRO R9700 | 每秒 74-77 token | 每秒 400-450 token（8K 提示） |
| Ryzen AI Max+ 395（128GB 统一内存） | 代码 19-21、聊天 11 | 每秒 87 token（4K）、125 token（8K） |
口径说明：以上为官方在 Strata 0.2.5（Strix Halo 为 0.2.7）上的自测数据；官方同时提示 CPU 核数与 SSD 速度影响明显，同一张卡在不同电脑上差别较大。作为参照，该引擎跑 Qwen3.8-Flash-Next 时，RTX 3060 12GB 上官方测得写故事约 53 token/s、写代码约 62 token/s（v0.2.7 口径），DeepSeek 套件慢一个数量级。
专家分层机制：显存、内存、SSD 各管一层
据官方 HOW_IT_WORKS 文档，Strata 让超大 MoE 模型装进消费级电脑的方式是按调用频率分层存放、多部件并行计算：
- 显存存放每个词都需要的计算部分，并缓存调用最频繁的数千个专家；该专家缓存随对话持续自适应调整，把近期更常用的专家换入显存（官方文档口径）。
- 内存以页锁定方式存放全部专家，显存中没有的专家由 CPU 就地计算，与显卡同时进行、互不等待。
- SSD存放大查找表（Qwen3.8-Flash-Next 为 28.8GB 的 n-gram 表），每个词只读取其中几行；DeepSeek 套件中的对应组件为 Engram 文件。
- 模型自带的 MTP 草稿层先猜后验，平均每步产出 2.4-3.2 个 token，官方称在答案质量不变的前提下快 1.6-1.8 倍。
国内获取与使用注意
据官方安装说明与第三方整理教程，国内部署的主要摩擦点在下载线路：
- 模型默认从 Hugging Face 下载，国内直连经常失败或极慢。终端版可设置
STRATA_SOURCE=modelscope环境变量改走魔搭国内源；桌面应用界面暂无切换下载源的按钮，也可自行下载模型文件后用--model-path导入。 - 安装包、显卡引擎与安装脚本均需从 GitHub 发布页获取，应用内引擎下载失败时可在浏览器手动下载对应引擎包，再选择"I already have the file"导入。
- 磁盘需预留 245-280GB 空闲空间，官方建议使用 NVMe SSD。
- 终端版启动命令支持先看计划再下载：
strata launch --family deepseek41 --model ist-das-2.00bpw --plan
数据口径说明：生成速度为官方在特定配置下的自测结果，套件体积与磁盘要求为官方文档口径，参数量 763B 为 Hugging Face 仓库口径且非官方披露；Unsloth 套件质量对比为官方单次运行的自测数据。
评论