Intel B60/70 GPU 跑LLM怎么样
相对AN家卡显存容量/价格比比较好看B60 24G，B70 32G
而且功耗看着很低
有人用过吗？
论坛助手,iPhone 32G能跑的LLM真的有实际应用价值吗
—— 来自 Xiaomi 25019PNF3C, Android 15, 鹅球 v3.5.99 本帖最后由 雪影 于 2026-6-11 19:29 编辑
B60算力不行，还不到200TOPS
B70价格能买R9700和4080Super 32G了
BMG架构硬件最大的问题是，没有4:2稀疏硬件，稀疏性能打折
LM Studio下，KV Cache卸载到显存关闭后，会异常。
R9700最大的问题还是ROCm太菜，vllm下原生INT8/INT4计算有bug，性能也不如Vulkan。
建议是4080Super 32G，CUDA依然是消费级炼丹唯一解，剩下的太挑战自己的纠错能力了
你也可以考虑伟大的Mac Studio！
—— 来自 Xiaomi 2304FPN6DC, Android 13, 鹅球 v3.5.99-alpha 少打音游多读书 发表于 2026-6-11 17:00
32G能跑的LLM真的有实际应用价值吗
—— 来自 Xiaomi 25019PNF3C, Android 15, 鹅球 v3.5.99 ...
Qwen3.6 27B可以的
—— 来自 Xiaomi 2304FPN6DC, Android 13, 鹅球 v3.5.99-alpha
页:
[1]