Maple-Preview-20B-A1B登场:iPhone上运行达127 tokenss

发布时间:2026-08-06 15:52

  在模型规模方面,Maple-Preview 的总参数量为 202 亿个,采用混合专家架构,激活参数量为 14.9 亿个。

  DeepGrove 表示,目前 AI 行业针对本地端侧主要依赖量化技术,但这种方式存在根本性问题,严重影响模型的性能和效率。

  DeepGrove 公司提出“三值权重”方案,将权重约束并量化为三值,大幅降低了内存占用与计算带宽需求,该模型包含 24 层、256 个专家,并采用 3:1 SWA-512:GA 混合注意力机制。

  在长上下文场景下,Maple-Preview 也强调内存控制能力。相关图表把 context length与维持上下文所需的额外内存占用放在同一坐标系中。结果显示,即便处理 131,000 tokens,Maple-Preview 的内存占用仍只有 7.69GB。

  DeepGrove 表示,Maple-Preview 目前仍处于 preview stage,后续还会继续改进。公司同时希望构建一套系统,让 AI 模型能根据对话内容自动调整,并针对单个用户做优化。

排行

精选