Intel B60/70 GPU 跑LLM怎么样

璇瑢子R

相对AN家卡显存容量/价格比比较好看
B60 24G，B70 32G
而且功耗看着很低

有人用过吗？

论坛助手,iPhone

少打音游多读书

32G能跑的LLM真的有实际应用价值吗

—— 来自 Xiaomi 25019PNF3C, Android 15, 鹅球 v3.5.99

雪影

B60算力不行，还不到200TOPS
B70价格能买R9700和4080Super 32G了
BMG架构硬件最大的问题是，没有4:2稀疏硬件，稀疏性能打折
LM Studio下，KV Cache卸载到显存关闭后，会异常。

R9700最大的问题还是ROCm太菜，vllm下原生INT8/INT4计算有bug，性能也不如Vulkan。
建议是4080Super 32G，CUDA依然是消费级炼丹唯一解，剩下的太挑战自己的纠错能力了
你也可以考虑伟大的Mac Studio！

—— 来自 Xiaomi 2304FPN6DC, Android 13, 鹅球 v3.5.99-alpha

雪影

少打音游多读书 发表于 2026-6-11 17:00
32G能跑的LLM真的有实际应用价值吗

—— 来自 Xiaomi 25019PNF3C, Android 15, 鹅球 v3.5.99 ...

Qwen3.6 27B可以的

—— 来自 Xiaomi 2304FPN6DC, Android 13, 鹅球 v3.5.99-alpha