IIIIIlllllIIIII 发表于 2026-9-3 13:48

nxmonitor 发表于 2026-9-3 12:31
那GLM5.3Flash的TPS就行了?也不怎么样,所以我现在还在用V4F…

glm5.3f的tps更是超级蜗牛 但是它不怎么雷霆大思考 所以从时间上看是更快的

— from motorola XT2603-1, Android 16, S1 Next Goose v4.0

小山内梢子 发表于 2026-9-3 14:11

现在酒馆还能怎么用哈基米

—— 来自 鹅球 v3.3.96

唠叨 发表于 2026-9-3 14:15

UncleDracula 发表于 2026-9-3 13:38
234M是多少积分?

Standard 套餐7天用量的42%

tewaku 发表于 2026-9-3 14:17

想问一下现在用哈基米玩酒馆要怎么搞?我 dc 号被封了进不了类脑。以前 2.5 时代玩过一段时间后来甲厚了额度砍了就不玩了,记得那时要搞什么反代什么的,现在还要吗?    Re:Source

jinuzuktII 发表于 2026-9-3 14:23

本帖最后由 jinuzuktII 于 2026-9-3 14:37 编辑

gemini现在不是有8块18个月的羊毛么

还是订阅然后反代,然后就是按普通API部署

cd112332255 发表于 2026-9-3 14:34

小白借楼问一下,家用机本地部署的话,是不是专项专用效果最好。比如我想翻译就只去hugging face 上专门translate 的模型,想写作就专门去找writing 的?

—— 来自 OnePlus PJX110, Android 15, 鹅球 v3.5.99-alpha

mitzvah 发表于 2026-9-3 14:51

cd112332255 发表于 2026-9-3 14:34
小白借楼问一下,家用机本地部署的话,是不是专项专用效果最好。比如我想翻译就只去hugging face 上专门tra ...

本地模型翻译写作能跑动就是gemma4 31b,跑不动日文Sakura 4b 那个CPU都能跑英文腾讯那个也行

cd112332255 发表于 2026-9-3 14:58

mitzvah 发表于 2026-9-3 14:51
本地模型翻译写作能跑动就是gemma4 31b,跑不动日文Sakura 4b 那个CPU都能跑英文腾讯那个也行 ...

跑是能跑的。也就是说现在其实没必要去区分对吗?

—— 来自 OnePlus PJX110, Android 15, 鹅球 v3.5.99-alpha

mitzvah 发表于 2026-9-3 15:21

cd112332255 发表于 2026-9-3 14:58
跑是能跑的。也就是说现在其实没必要去区分对吗?

—— 来自 OnePlus PJX110, Android 15, 鹅球 v3.5.99 ...

gemma4 31b 就是本地现阶段最好的写作翻译模型,其它的都往编程特化了

谎称 发表于 2026-9-3 15:30

本帖最后由 谎称 于 2026-9-3 15:33 编辑

歪个楼,阿里投资kimi的故事,挺有意思的……

https://mp.weixin.qq.com/s/MafY4h7Tju-pmxf30tjjKA


还有一个之前的c轮

https://mp.weixin.qq.com/s?__biz=MzYzNTA3NTgwNQ==&mid=2247484192&idx=1&sn=cb390c401eaac903f4f361f8c8aed370&scene=21#wechat_redirect

lubo 发表于 2026-9-3 15:32

Astra好像凌晨1点放

绕指流光 发表于 2026-9-3 16:04

jinuzuktII 发表于 2026-9-3 14:23
gemini现在不是有8块18个月的羊毛么

还是订阅然后反代,然后就是按普通API部署 ...

反代还是有风险,建议小号或者家庭组方式
随便玩玩的话直接 command code 10 刀套餐的额度足够了    Re:Source

jinuzuktII 发表于 2026-9-3 16:06

绕指流光 发表于 2026-9-3 16:04
反代还是有风险,建议小号或者家庭组方式
随便玩玩的话直接 command code 10 刀套餐的额度足够了    Re:S ...

搞个小号,一共不到10块钱封就封了

qwased 发表于 2026-9-3 16:11

mitzvah 发表于 2026-9-3 08:49
omp我用下来对dsv4flash的适配一坨啊

提示缓存前缀会被它的自动标题破坏掉,每一次追问都要全量prefill ...

自动标题是啥?我用omp-web没发现这个问题啊

drodchang 发表于 2026-9-3 16:15

kimi k3.1怎么还没消息,这是不是也太慢了?

tonyunreal 发表于 2026-9-3 16:15

Arena随便抽了个提示词
Opus 5 Max做的像大号glm 5.3 flash
Qwen 3.8 max 0902做的像大号mimo

想念ds灰测

—— 来自 Xiaomi 25060RK16C, Android 16, 鹅球 v3.5.99

王兰花秀丽 发表于 2026-9-3 16:21

夸张的更新速度,dsh 0.1.2的rc1来了    Re:Source

cscbzcbz 发表于 2026-9-3 16:22

王兰花秀丽 发表于 2026-9-3 16:21
夸张的更新速度,dsh 0.1.2的rc1来了    Re:Source

昨天刚更新alpha5

lactone 发表于 2026-9-3 16:25

astra能碾压5.1吗

—— 来自 HONOR AAK-AN00, Android 16, 鹅球 v3.5.99

mitzvah 发表于 2026-9-3 16:29

本帖最后由 mitzvah 于 2026-9-3 16:30 编辑

qwased 发表于 2026-9-3 16:11
自动标题是啥?我用omp-web没发现这个问题啊
omp默认会给对话打标题,而且会根据对话状态自动更新标题,这个功能会破坏dsv4的缓存格式,ds4模型的缓存命中率高度依赖于前缀格式。一旦被破坏,提示缓存就失效了

你要是用api,因为官方服务器prefill速度快感觉不出来,但是这时候其实已经全量prefill,我本地部署就非常明显,提示缓存正常的情况,所有的追问都是秒出命中率99%但是一旦全量prefill就要等半天才吐字


除此之外omp的提示缓存还有一堆毛病,总之就是卡的要死,那个rust重构的内核也不行稳定性比pi差一截,这东西其实已经不能算是pi了

siebten 发表于 2026-9-3 16:30

哈基米build反代不会封吧 但是每天没多少次数了 反重力看类脑好像封的很厉害

drodchang 发表于 2026-9-3 16:33

lactone 发表于 2026-9-3 16:25
astra能碾压5.1吗

—— 来自 HONOR AAK-AN00, Android 16, 鹅球 v3.5.99

估计不能,应该还是和以前一样各有所长

wandeeees 发表于 2026-9-3 16:34

我不要DSH,我要灰测啊

cscbzcbz 发表于 2026-9-3 16:38

wandeeees 发表于 2026-9-3 16:34
我不要DSH,我要灰测啊

也许明天有大的呢,昨天断了一次会不会是预兆

空き地卯木 发表于 2026-9-3 16:43

风水轮流转,该轮到 GPT 挨电了

城北无尘 发表于 2026-9-3 16:44

根据另一波 app更新版-火鸡科学家 的观察,最近app没更新,所以本周无D

NMTor 发表于 2026-9-3 16:49

本帖最后由 NMTor 于 2026-9-3 16:56 编辑

现在把美国豆包web当搜索引擎用,今天感觉没聊什么就触发5小时限额(plus,额度砍过?

qwased 发表于 2026-9-3 16:53

mitzvah 发表于 2026-9-3 16:29
omp默认会给对话打标题,而且会根据对话状态自动更新标题,这个功能会破坏dsv4的缓存格式,ds4模型的缓存 ...

web没发现这个问题,我就用的本地部署的qwen3.8,不用上下文压缩不会prefill啊

IIIIIlllllIIIII 发表于 2026-9-3 16:57

mitzvah 发表于 2026-9-3 16:29
omp默认会给对话打标题,而且会根据对话状态自动更新标题,这个功能会破坏dsv4的缓存格式,ds4模型的缓存 ...

它的title应该只会在第一条消息/plan mode结束 / 还有/rename 才会改啊
你本地部署不会一直在compact吧。。。

— from motorola XT2603-1, Android 16, S1 Next Goose v4.0

杀人鲸 发表于 2026-9-3 16:58

城北无尘 发表于 2026-9-3 16:44
根据另一波 app更新版-火鸡科学家 的观察,最近app没更新,所以本周无D

啊,怎么没有更新?不是刚刚才更新到224吗?我刚才逛系统商城的时候就发现了。大概是今天还是昨天的事情?

—— 来自 S1Fun

nxmonitor 发表于 2026-9-3 17:00

本帖最后由 nxmonitor 于 2026-9-3 17:11 编辑

Astra号称用了隐空间生成新思维链,有一定可能灰测的神秘模型也是这个样子。原先认为是转写隐藏了思维链,但是Flash出了流式的I'm doing,那Pro的思维链很奇怪,没理由把思维链隐藏起来…

nxmonitor 发表于 2026-9-3 17:01

如果这个判断是真的,那这个技术防蒸馏强度大幅提升,灰测模型的思维链依然能给0813用,但是结果一坨…

cscbzcbz 发表于 2026-9-3 17:04

大的要来了,大的要来了

mitzvah 发表于 2026-9-3 17:04

IIIIIlllllIIIII 发表于 2026-9-3 16:57
它的title应该只会在第一条消息/plan mode结束 / 还有/rename 才会改啊
你本地部署不会一直在compact吧 ...

不是的title会在追问时自动触发,绝不是啥压缩的问题,在ds4v4flash中特别明显

IIIIIlllllIIIII 发表于 2026-9-3 17:07

mitzvah 发表于 2026-9-3 17:04
不是的title会在追问时自动触发,绝不是啥压缩的问题,在ds4v4flash中特别明显 ...

可是omp代码里没有这个路径能改啊。。。假如是真的那cache rate会烂掉的。。。

— from motorola XT2603-1, Android 16, S1 Next Goose v4.0

mitzvah 发表于 2026-9-3 17:07

qwased 发表于 2026-9-3 16:53
web没发现这个问题,我就用的本地部署的qwen3.8,不用上下文压缩不会prefill啊
...

qwen3.8的缓存结构跟dsv4flash的提示缓存结构完全不同

qwased 发表于 2026-9-3 17:08

本帖最后由 qwased 于 2026-9-3 17:10 编辑

mitzvah 发表于 2026-9-3 17:07
qwen3.8的缓存结构跟dsv4flash的提示缓存结构完全不同

我接ds官方api也是绝大部分中缓存啊?
不过web端压根就没有标题,对话只会显示我发的第一句话

舞以 发表于 2026-9-3 17:11

大的又来了?

论坛助手,iPhone

overflowal 发表于 2026-9-3 17:29

大的在哪里?    Re:Source

chuchoselph 发表于 2026-9-3 17:35

什么大的,你们在说什么?
页: 302 303 304 305 306 307 308 309 310 311 [312] 313 314 315 316 317 318 319 320 321
查看完整版本: OPENAI数学氢弹雨来袭 | 大模型讨论专楼