2026 年 11 月 15 日——MiniMax 于 11 月 10 日开源图像生成模型 H3-Image 后不到一周,HuggingFace 社区已出现 23 个 GGUF 量化相关仓库,最低 Q2_K 档权重约 6.88GB(二进制口径约 6.4GiB),把官方 BF16 主权重约 68.65GB 的显存门槛压到消费级 8GB 显卡可运行的范围,下载量最高的量化仓库已超 12.7 万次。

剪枝加量化两步压缩

社区量化并非直接压缩官方原始权重:Comfy-Org 先放出结构剪枝后的 BF16 主权重(40.23GB),Abiray、unsloth 等量化作者再将其转制为 GGUF 格式。Abiray 仓库 README 称,输入 patchifier、输出头与 AdaLN 调制基等敏感层保留 FP32 不量化,以抑制量化噪声与网格伪影;新版权重内嵌 6 步采样调度元数据,原版 ComfyUI-GGUF 节点可直接加载,无需自定义脚本。

五天内的 23 个量化仓库

H3-Image 于 11 月 10 日晚开源,Abiray 与 Hearthscale 的量化仓库当天创建,AtomicChat 于 11 月 11 日、unsloth 于 11 月 12 日跟进。截至 11 月 15 日,HuggingFace 以「H3-Image GGUF」为关键词可检索到 23 个仓库,覆盖 Q2_K 至 Q5_K_M、unsloth 动态量化(UD)、NVFP4、FP8 等档位,以及 P-H3-Image 与提示词扩展模型 H3-Image-PE 的衍生量化。其中 Abiray/MiniMax-H3-Image-GGUF 下载量 127803 次、点赞 221,Hearthscale 版 46781 次,AtomicChat 版 13047 次。实测方面,哔哩哔哩上传者用社区节点包「XiaoHei」在 8GB 显存显卡上跑通 H3-Image 出图;网易号实测文章称 12.55GB 的 W4A8 量化版在 16GB 显卡上可正常运行。

数据与规格

项目 数据
官方 BF16 主权重 约 68.65GB(331 亿参数稠密 DiT)
Comfy-Org 剪枝 BF16 40.23GB
剪枝 Q2_K GGUF 6.88GB(约 6.4GiB),README 推荐 8–10GB 显存
剪枝 Q3_K_M GGUF 8.91GB,推荐 12GB 显存
剪枝 Q4_K_M GGUF 11.60GB,推荐 16GB 显存
剪枝 Q5_K_M GGUF 14.10GB,推荐 16–24GB 显存
文本编码器 Qwen3-VL-32B 另行加载,GGUF Q4_K_M 约 14.6GB
采样配置 6 步蒸馏、无 CFG,最高 4096×4096

数据截至 2026 年 11 月 15 日,来源为 HuggingFace 仓库页与 Abiray 量化仓库 README。

本地部署与生态

本地运行量化版需 ComfyUI v0.45.0 及以上与 city96 的 ComfyUI-GGUF 节点,并另行加载 24 通道图像 VAE 与 Qwen3-VL-32B 文本编码器——6.4GiB 仅为 DiT 权重占用,低显存显卡需依赖 ComfyUI 的模型卸载以时间换空间,实际占用与出图速度随卸载策略变化。README 将 Q4_K_M 标为画质平衡点、称接近无损,Q2_K 档定位极限压缩;社区公开样张多出自 Q4_K_M,低比特档的画质损失尚无统一基准。这波量化潮延续了 H3 系列的开源路径:8 月视频模型 H3 开源后社区即给出低显存部署方案,11 月初出现衍生图像模型 P-H3-Image;H3-Image 权重沿用社区许可证,量化衍生版同样受其约束。