lymm2003 发表于 2026-8-10 19:00

Meta开源30B AI 模型Muse Glimmer，4bit量化可在单卡24GB显存GPU运行

IT之家 8 月 10 日消息，Meta 今日发布 AI 模型 Muse Glimmer，并在 Apache 2.0 许可协议下开源该模型权重。Muse Glimmer 是一款拥有 300 亿参数（30B）的模型，专为全天候常驻运行的本地智能体（Agent）工作流深度优化。
官方表示，Muse Glimmer 应用了 4bit 量化技术，使其可在 24GB/32GB 显存的 Mac 或 PC 上本地运行。实测验证这种压缩对智能体任务性能的影响微乎其微，几乎没有任何衰减。
Meta 在 MacBook M4 Max、M5 Max 以及 RTX 5090 平台上进行了测试。结果表明，该模型的运行速度可以胜任流畅的对话以及实时智能体交互，且所有计算均 100% 在本地设备上完成。

与 Gemma4-31B 和 Qwen3.6-27B 相比，Muse Glimmer 在多项主流大语言模型基准测试中，均展现出了同尺寸级别模型中的强劲性能。

tonyunreal 发表于 2026-8-11 08:33

https://p.sda1.dev/34/6f5f7e13d33d2d044187b32de8f1a657/1000048276.jpg

https://p.sda1.dev/34/f918963e599c7f79920e3477599f0f43/1000048277.jpg



—— 来自 Xiaomi 25060RK16C, Android 16, 鹅球 v3.5.99

cxc666 发表于 2026-8-11 08:38

那不还是要起步9系显卡

—— 来自 鹅球 v3.3.96

apefrank 发表于 2026-8-11 08:45

本地部署还有甲那还要你何用

来都来了 发表于 2026-8-11 08:50

和qwen3.6比？

neptunehs 发表于 2026-8-11 08:57

我就觉得很奇怪 量化这活儿是社区负责的 干嘛他官方搞量化？

—— 来自 OnePlus PJX110, Android 14, 鹅球 v3.5.99

天桥夜风 发表于 2026-8-11 09:18

不是，用AI操作鼠标是什么路数
页: [1]
查看完整版本: Meta开源30B AI 模型Muse Glimmer，4bit量化可在单卡24GB显存GPU运行