苹果正评估PrismML量化AI技术,让iPhone 15等运行27B模型

发布时间:2026-07-15 11:03

  在中,哈西表示:“他们 [指苹果公司] 目前正在认真评估我们的技术”,但他并未透露会谈的具体内容,只表示会谈尚处于早期阶段,但“进展顺利”。

  该媒体认为谈判的范围涵盖简单地通过授权使用 PrismML 技术,甚至不排除苹果直接收购 PrismML 的可能。

  PrismML 是加州理工衍生出来的 AI 初创公司,核心突破为原生 1-bit 模型压缩技术,模型体积可压缩至全精度版本的 1/14 左右,内存占用降低超 90%。

  原生 1-bit 模型压缩技术权重仅用 {-1, +1} 表示,配合分组缩放因子,非传统量化,声称无“高精度逃生通道”,宣称在保持接近 FP16 模型精度的同时,推理速度提升最高 8 倍,能耗降低 75%-80%。

  该公司表示,已将该模型从约 54 GB 缩减至不足 4 GB,让能在 iPhone 15 以及后续机型上运行完整 27B 参数模型。

  在中,哈西表示这种量化技术必然需要牺牲部分性能,相比较完整体积版本,量化后的模型性能保留了 95%/90%的基准测试得分,在处理事实推理、数学和编程方面也明显较弱。

排行

精选