新增教程

  • Strata部署Qwen3.8-Flash-Next 125B大模型本地推理与调优教程 —— Strata 是一款专为大 MoE（混合专家）模型打造的开源本地推理引擎，能让一台配备 12-24GB 显存的消费级游戏电脑跑起 1250 亿参数的 Qwen3.8-Flash-Next，并以 OpenAI 与 Anthropic 双协议对外提供本地 API。本教程完整记录从硬件自检、环境准备、模型下载、引擎安装、启动验证，到接入 AI 编程 Agent、量化档位与上下文调优的全过程，所有步骤均在一台 RTX 2080 Ti 22G + 32GB 内存的实机上跑通，实测出字速度 35-41 tokens/s，可直接作为同档位机器的部署蓝本。
  • YuE2歌曲生成模型ComfyUI节点工作流与INT8量化教程 —— 本教程是《YuE2歌曲生成模型Windows本地部署完整教程》的续篇。前一篇教程用 ComfyUI 便携包的嵌入式 Python 环境运行官方 yue2_infer 推理管线，实测需要 22GB 显存才能舒服跑通。本教程给出另一条路线：直接用 ComfyUI 官方 YuE2 节点 + INT8 量化模型，把显存门槛降到 8GB（RTX 30 系主流显卡），生成过程全程在 ComfyUI 节点画布内完成，可与其他 ComfyUI 工作流任意组合。实战案例为原创歌曲《盼静无风》，本教程的所有结论都来自 RTX 2080 Ti（22GB）上的实测，并在文末给出 8GB 显卡的迁移要点。

新增资讯

  • vLLM-Omni技术报告发布：全模态生成统一服务运行时，79条模型线接入六大负载 —— 2026 年 10 月 9 日——vLLM 社区于 10 月 7 日在 arXiv 发布 vLLM-Omni 技术报告（编号 arXiv:2610.09307，全文 34 页、11 图），并于 10 月 8 日通过官方 X 账号确认。该报告将语音助手、视觉生成、世界模型与机器人闭环等全模态推理负载统一到单一服务运行时之下：一个编排器推动请求跨阶段前进，专用引擎执行计算，OmniConnector 连接器承载数据平面传输，会话控制支撑全双工与闭环负载。按报告支持模型表统计，当前已有 79 条模型线接入，硬件平台横跨 NVIDIA CUDA、AMD ROCm、摩尔线程 MUSA、华为昇腾 NPU 与 Intel XPU 五种。
  • 腾讯 WorkBuddy 上线独立文件浏览器：本地文件右键直呼 AI，免上传边看边改 —— 2026 年 10 月 9 日——腾讯于 10 月 8 日宣布旗下 AI 办公产品 WorkBuddy 正式上线「独立文件浏览器」，用户在 Windows 文件资源管理器或 macOS Finder 中右键即可用 WorkBuddy 打开本地文件，单个窗口支持 Word、Excel、PPT、PDF、Markdown、HTML、图片、音频、TXT 等格式，官方文档明确查看与编辑本地文件本身不消耗积分。
  • 阶跃星辰 Step 5 Preview 登陆 OpenRouter，OpenCode、Cline 等多平台开放一周免费访问 —— 2026 年 10 月 9 日——阶跃星辰（StepFun）于美国中部时间 10 月 8 日宣布，其新一代旗舰基座模型 Step 5 Preview 正式上线模型聚合平台 OpenRouter，并从当日起在 OpenCode、Cline、Nous Research、KiloCode 等 Agent 开发平台陆续推出为期一周的免费访问。该模型采用稀疏 MoE 架构，总参数 600B、每 token 激活 27B，在 Artificial Analysis 综合智能指数（AA Intelligence Index）中获得 44 分，位列全球开源模型前三；据 AA 实测口径，其单任务成本为 0.71 美元，约为 Claude Opus 5（5.86 美元）的 1/8。
  • Odyssey-3 基础世界模型发布：Physics-IQ 基准 66.1 分刷新纪录，免费开放体验 —— 2026 年 10 月 9 日——AI 创业公司 Odyssey 于 10 月 8 日发布基础世界模型 Odyssey-3，官方称其为迄今最强大的基础世界模型；其中 Odyssey-3 Pro 在 Physics-IQ Verified 视频到视频基准上取得 66.10% 的最高报告分数，刷新该基准纪录，研究预览版已在官网免费开放体验。
  • 谷歌推出macOS端AI语音笔记应用AI Edge Foresight，本地运行EmbeddingGemma 2与Gemma 4 —— 2026 年 10 月 8 日——谷歌于 10 月 6 日发布面向 macOS 的实验性 AI 语音笔记应用 AI Edge Foresight，全部 AI 处理在本机离线完成，由 740M 参数的 EmbeddingGemma 2 与 Gemma 4 两款开源模型协同驱动，支持会议纪要整理、实时问答与跨模态检索，兼容 Apple Silicon 芯片的 Mac，可免费下载。
  • Unsloth 开源仓库支持本地训练 Decision 模型：4GB 显存起步，下游准确率最高 78% —— 2026 年 10 月 8 日——Unsloth 于 10 月 8 日发布 v0.1.904-beta 更新，官方宣布其开源仓库与桌面端现已支持在本地训练决策模型（Decision Model）：通过 Clef head 配合 LoRA 微调，可将 Qwen3.8、Gemma 4 等任意文本或多模态 LLM 转换为 Jev 风格的决策模型。官方基准显示，Qwen3.5-0.8B 在 4GB 显存下训练 42 分钟，三个决策基准的综合准确率从 20.7% 提升至 74.3%，下游任务准确率最高达 78%。
  • Grok Bot开放接入Claude等第三方模型，0.68.1更新与X平台@bot提及功能上线 —— 2026 年 10 月 8 日——马斯克于 10 月 7 日在 X 平台宣布，SpaceXAI 旗下 AI 代理 Grok Bot 将按任务择优调用 Claude Opus 5.5、Midjourney、Suno 等第三方模型，不再局限于自家 Grok 系列；同期 Grok Bot 发布 0.68.1 版本更新，新增幻灯片制作与格式化邮件能力，云端电脑屏幕分辨率提升至 1920×1200，X 平台 @bot 提及功能也已上线。
  • 谷歌开源 EmbeddingGemma 2 多模态嵌入模型：740M 参数端侧运行，纯文本仅需 191MB 内存 —— 2026 年 10 月 7 日——谷歌 DeepMind 于 10 月 6 日（北京时间 10 月 7 日凌晨）发布并开源多模态嵌入模型 EmbeddingGemma 2，总参数量 740M，采用 Apache 2.0 许可，可将文本、代码、图像、视频和音频统一映射到同一向量空间，量化后在 Pixel 11 Pro 手机上纯文本运行仅需约 191MB 内存。
  • OpenAI 宣布在 ChatGPT 推出视觉展示广告：图像生成场景先行，覆盖 12 亿周活用户 —— 2026 年 10 月 6 日——OpenAI 于 10 月 5 日发布官方公告，为 ChatGPT 推出全新的视觉展示广告（visual display ads）：广告将以图片形式出现在用户请求生成图像的结果旁，官方称这种形式"帮助人们探索产品和服务，更丰富的效果衡量能力帮助企业了解广告的影响"。首期测试将于本月稍晚在美国市场启动，未来向全球铺开后将触达 ChatGPT 的 12 亿周活用户（OpenAI 在 9 月 30 日 DevDay 2026 公布的口径）。据 TechCrunch 报道，这是 OpenAI 今年初启动广告业务以来首次把广告位延伸到图像生成场景。
  • llama.cpp 发布 v0.6.0：Qwen4Exp 新增 MTP 投机解码，Apple GPU 矩阵运算最高提速约 3 倍 —— 2026 年 10 月 6 日——开源推理引擎 llama.cpp 于 10 月 5 日 16:56（UTC，北京时间 10 月 6 日凌晨）发布 v0.6.0 稳定版：为 Qwen4Exp 架构提供高质量支持并新增基于多 token 预测（MTP）的投机解码，官方称在 DGX Spark 上解码提速约 1.5 倍；完整支持文本与视觉双模态决策模型 Clef；Metal 后端矩阵乘法最高提速约 3 倍；同步引入新批处理 API、重构内置 Web UI，底层 ggml 库升级至 v0.26.0。
  • vLLM Transformers 后端补齐视频输入：四种模态统一推理，将随 v0.32.0 进入稳定版 —— 2026 年 10 月 6 日——vLLM 项目于 10 月 5 日将 Transformers 后端的视频输入支持合并进主干（PR #57441），至此该后端可统一承接文本、图像、音频、视频四种模态的推理请求。由于合并时间比同日发布的 v0.31.0 稳定版晚约 1 小时，视频能力将随下一版本 v0.32.0 进入稳定版，按项目两周发布节奏预计在 10 月中下旬。
  • 腾讯开源多用户 AI 助手 Octop：独立账号隔离、多智能体，一行命令自托管部署 —— 2026 年 10 月 6 日——腾讯云于 2026 年 7 月 10 日正式开源多用户 AI 助手 Octop，采用 MIT 协议，定位"自托管、多用户、多智能体"，官方文档当前对应 v1.0.1 版本；据 GitHub 仓库 9 月上旬数据，项目星标约 1.5k，10 月 6 日相关介绍在 X 平台再度传播，重新进入公众视野。
  • 谷歌开源 DiarizationLM-Gemma-4-E4B 说话人分离后处理模型：4B 参数修正词级说话人标签，4 项基准错误率下降 —— 2026 年 10 月 5 日——谷歌于 10 月 5 日凌晨在 Hugging Face 发布说话人分离后处理模型 DiarizationLM-Gemma-4-E4B-v1（Daily Papers 官方帖时间为 2026 年 10 月 5 日 00:07，发布数小时内获得 3511 次浏览）。这是一款基于 Gemma 4 E4B（约 4B 参数）微调的模型，用于修正 ASR 词级输出中的说话人标签，官方称其在 4 项基准测试中降低了词级说话人分离错误。
  • 魔搭开源免索引检索框架 Sirchmunk：无需向量数据库，LENS 算法预算内动态探索，知识库可持续自进化 —— 2026 年 10 月 5 日——阿里魔搭社区（ModelScope）开源动态检索框架 Sirchmunk，10 月 4 日由智源社区等渠道报道。该框架无需预构建向量索引、无需向量数据库，直接对原始非结构化数据执行检索，核心 LENS（Latent Evidence Navigation and Search）算法在计算预算约束下动态定位证据；官方表示验证过的检索结果还能进入知识层，为后续问题提供先验，实现知识库自我进化。项目以 Apache License 2.0 协议开源，仓库为 modelscope/sirchmunk，截至发稿已获得 1355 个 star。
  • FreeVideo 开源：8GB 显存本地运行 MiniMax H3 视频生成模型，ComfyUI 与 LoRA 全支持 —— 2026 年 10 月 5 日——开源组织 FlashML-org 于 10 月 4 日正式发布本地视频生成推理引擎 FreeVideo，可在最低 8GB 显存、16GB 系统内存的消费级设备上运行 MiniMax H3 视频生成模型。项目代码以 Apache License 2.0 协议开源，支持 ComfyUI 深度集成、社区 LoRA 与自定义工作流，并可根据硬件配置自动适配加速方案。发布当日，开发者 OxMarioNawfal 在社交平台以"视频生成正式登陆你的游戏电脑"为题推介该项目，相关帖子获得 5.24 万次浏览；截至发稿，GitHub 仓库已获得 852 个 star。
  • 特朗普宣布成立超级智能部队（SIF）：国家情报总监克莱顿牵头，四大机构官员共同管理 —— 2026 年 10 月 5 日——美国总统特朗普于 2026 年 10 月 4 日在 Truth Social 发文，宣布在"白宫超级智能历史性协定"（Historic White House Accord on Super Intelligence）基础上成立"超级智能部队"（Super Intelligence Force，简称 SIF）。该机构由国家情报总监杰伊·克莱顿（Jay Clayton）牵头，负责协调联邦政府全部力量，目标是确保美国继续引领世界超级智能的发展。
  • 华为韬定律与麒麟9050 Pro逻辑折叠技术深度解析：实测数据与GPU算力展望 —— 2026 年 10 月 3 日——华为于 2026 年 5 月 25 日在上海 IEEE 国际电路与系统研讨会（ISCAS 2026）发表「韬（τ）定律」，提出以「时间缩微」替代「几何缩微」的半导体演进路径；四个月后，全球首款采用逻辑折叠（LogicFolding）技术的旗舰手机芯片麒麟 9050 Pro 随 Mate 90 系列于 10 月 1 日正式发布并现货开售，官方称其晶体管密度较上代提升 55%，NPU INT8 算力达 67.7 TOPS。本文从技术原理、实测数据与行业反响三个层面解析这一技术体系，并基于公开数据推演逻辑折叠向 GPU 与桌面算力迁移的可能空间。
  • llama.cpp 支持决策模型，新增 System One 端点，五款官方 GGUF 模型同步开放 —— 2026 年 10 月 3 日——llama.cpp 于 10 月 2 日正式合并决策模型支持（PR #29818），llama-server 新增 /v1/systemone 端点：开发者发送一段状态（文本、JSON 或截图）与若干带类型的问题，模型单次前向传播即返回各选项的概率，全程不生成文本。接口沿用 TypeSafe Jev 模型引入的 System One 格式，现有客户端仅需更换 base URL 即可完成迁移。ggml-org 同步开放五款官方 GGUF 决策模型，在 RTX PRO 6000 显卡上单次决策延迟为 3-43 毫秒，其中 27B 的 OpenJev 支持图像输入。
  • 英伟达发布 DGX Spark 64GB 版，4999 美元起售较 128GB 版首发价高 25% —— 2026 年 10 月 3 日——英伟达于 10 月 2 日发布 64GB 内存版 DGX Spark 桌面 AI 计算机，起售价 4999 美元（现汇率约合 33566 元人民币），2026 年 10 月 23 日由宏碁、华硕、戴尔、技嘉、惠普、微星等 OEM 厂商推向市场。该版本比 128GB 版 2025 年 10 月 3999 美元的首发价高出 1000 美元，同时 128GB Founders Edition 版本据多家媒体报道已同步调价至 6950 美元。
  • 蚂蚁百灵 Ling-3.1-flash 上架 OpenCode：限时免费提供，560B 总参数 25B 激活 —— 2026 年 10 月 3 日——OpenCode 于 10 月 2 日宣布，蚂蚁集团百灵团队（inclusionAI）9 月 30 日发布的新一代稀疏 MoE 大模型 Ling-3.1-flash 已登陆其 Zen 模型网关，以 ling-3.1-flash-free 模型 ID 限时免费开放调用，输入、输出与缓存读取价格均为零，免费期可用上下文 262K。模型总参数约 560B，每个 token 仅激活约 25B。

工坊上新

  • 笔杆子 · 公文智能写作软件 —— 面向公文写作场景的 AI 智能写作软件：素材进、公文出，输出符合 GB/T 9704-2012 的 Word 成稿；用真稿养风格，公文越用越像；含内网离线版。

本页由系统每周五 15:00 自动汇总生成，收录上一周（周五 15:00 ~ 本周五 15:00）本站新增的教程、资讯、视频、工坊与资源。