DeepSeek V4.1 Flash：更强、更快、更普惠 | 大模型讨论专楼

→熙←

哪有大, 天天吓自己

Freewolf

NMTor 发表于 2026-9-3 16:49
现在把美国豆包web当搜索引擎用，今天感觉没聊什么就触发5小时限额(plus，额度砍过？ ...

哈基米这玩意真能当搜索引擎用吗？我让他上网搜都不搜，搁那嘴硬

蛋黄酱Release

刷分小更新已经懒得看了，突破了可用线之后小参数模型不如多去卷一卷速度和价格，刷分实在是意义不大。
还是期待接下来的大参数模型更新，灰测ds什么时候才能端上来，k3.1也迟迟没消息

绝地潜兵

西班牙AI公司发布Quasar438B，打平Qwen27B低推理档成欧洲模型第一...
怕是这438B都是套皮的

tonyunreal

绝地潜兵 发表于 2026-9-3 17:49
西班牙AI公司发布Quasar438B，打平Qwen27B低推理档成欧洲模型第一...
怕是这438B都是套皮的 ...

微调版的GLM-5.2

城北无尘

杀人鲸 发表于 2026-9-3 16:58
啊，怎么没有更新？不是刚刚才更新到224吗？我刚才逛系统商城的时候就发现了。大概是今天还是昨天的事情 ...

苹果app store显示2.4.2版本是6天前。我去，看了下小米商店今天更新到2.4.4了，那看来是苹果问题

lactone

我觉得月之暗面可能在憋个大的

jinuzuktII

说是今晚1点ASTRA？

qwased

绝地潜兵 发表于 2026-9-3 17:49
西班牙AI公司发布Quasar438B，打平Qwen27B低推理档成欧洲模型第一...
怕是这438B都是套皮的 ...

老钟一开源，自研就纷纷冒出来了

很久就在那边l

anyrouter到底是哪家开的，体验已经烂到没法用了没人修但是依然第一时间上fable5.1，收数据也好好收啊

相见恨晚

话说这个WorkBuddy用5.3f说我超出频率，我切成没用过V4f也说我超过频率，怎么这么坑啊

mitzvah

qwased 发表于 2026-9-3 17:08
我接ds官方api也是绝大部分中缓存啊？
不过web端压根就没有标题，对话只会显示我发的第一句话 ...

我自己用ds4项目部署的本地模型就是有这个毛病，我让dsv4自己用代理拦截仔细分析了数据包，结论就是这样的：

### 2.2 ds4-server.log 分析（`/tmp/ds4-server.log`，860MB+）
关键日志模式：
```
live kv cache miss live=249640 prompt=34645 common=341 reason=token-mismatch
kv cache hit text tokens=34492 load=353.3 ms
chat ctx=34492..34629:137 prefill ... 4.084s
chat ctx=0..26657:26657 prompt done 37.035s   ← 全量 prefill
```
- omp 请求 **live KV 几乎总是 miss**（common=1 或 341）
- 磁盘缓存能命中（加载 250-350ms），但之后要 prefill
- **关键发现**：`common=26637 / prompt=26657 = 99.9% 匹配`，却判定 miss，从 0 全量 prefill 37s —— 因 `prompt < live`（长度回退）

### 2.3 拦截代理（Python 转发代理，记录完整请求体）
- 写 `/tmp/omp-intercept-proxy.py`，把 omp baseUrl 临时指向 8999，转发到 8000 并记录 JSON 请求体
- **结论 A**：omp 相邻请求前缀**逐字节稳定**（seq5→seq11 全部一致，无早期消息重渲染）→ #3406 假设不成立
- **结论 B**：拦截到 **title 生成请求**（`# Task\nWrite a 3-7 word title`，172 tokens），在主请求之间穿插

### 2.4 源码分析
- `packages/coding-agent/src/session/agent-session.ts` `maybeStartTitleGeneration()`：
  - 触发条件：会话未命名（`sessionName` 为空）+ 未 in-flight + 非 `PI_NO_TITLE` + 非低信号输入
  - **会话没命名成功就每轮用户消息后重试**
- `packages/coding-agent/src/utils/title-generator.ts`：
  - `providers.tinyModel` 默认 `online` → 走 TINY role → 用户未配 → **回退到 ds4 主模型**
- 本地模型选项存在（lfm2-350m / qwen3-0.6b / gemma-270m 等 ONNX）

### 2.5 尝试的方案（均无效/副作用）
| 方案 | 结果 |
|---|---|
| `replayReasoningContent: true` + `requiresReasoningContentForAllAssistantTurns`（models.yml） | 无效，且可能加剧 reasoning 重渲染 |
| `extraBody: {thinking: {type: enabled}}`（对齐 pi） | 无效 |
| `providers.tinyModel: lfm2-350m`（本地 ONNX 标题模型） | **更慢**（本地 CPU 推理开销），用户否决 |

## 3. 根因（最终确认）

**omp 自动会话标题生成每轮走 ds4，污染 KV 缓存：**

1. 每轮用户消息后，`maybeStartTitleGeneration` 触发（会话未命名时）
2. title 请求走 **ds4**（TINY role 未配置 → 回退到 ds4/deepseek-v4-flash）
3. title 请求只有 ~172 tokens + maxTokens=1024，**覆盖 ds4 的 live KV**（主请求 26K KV 被替换）
4. 下次主请求 **live miss**（common=1/341）→ 磁盘加载 + 全量/大量 prefill → 37s
5. 标题生成**失败率高**（`model-returned-none`）→ 会话一直未命名 → **每轮都重试** → 每轮都污染
6. **pi 不慢**：pi 的标题生成不走 ds4（无此污染），主请求 live KV 保持 → 秒出

## 4. 解决方案（生效）

**设置环境变量 `PI_NO_TITLE=1`，彻底关闭自动标题生成。**

写入 `~/.zshrc`：
```bash
export PI_NO_TITLE=1
```

效果：
- omp 日志不再有 `title-generator` 记录
- ds4 日志不再有 172-token 的 title 请求插入
- 主请求 live KV 保持 → 追问命中 → **显著改进（用户确认）**

但是即便改进了这一点。omp依然会随机的全量prefill，这东西本身在提示缓存上把pi改坏了，同样的本地部署，pi harness的所有的提示缓存命中都是非常预期的稳定的，但是omp就是不行，并行标题生成失败率太高了，自己的issue也一堆这方面的抱怨，用api全量prefill真的不一定有体感，只有在我这种走本地部署的才明白，正常时99%命中，基本秒出与半天吐不出一个字区别太大了

qwased

mitzvah 发表于 2026-9-3 18:44
我自己用ds4项目部署的本地模型就是有这个毛病，我让dsv4自己用代理拦截仔细分析了数据包，结论就是这样的 ...

我把你这个报告发给DS，他扫完现有版本和未更新的最新版omp，都说根本不存在这个生成标题这个机制

1. 报告对应的是一套更"新"的代码，不是本机这套
   
2. 
   
3. 报告引用的源码路径（packages/coding-agent/src/session/agent-session.ts、utils/title-generator.ts）对不上 0.83.0
   
4. 我下载了 npm 上最新的 pi-coding-agent 0.84.4 验证：同样没有这些机制 → 报告里那套（含 TINY role / tinyModel 回退）是另一分支或未发布的开发版
   
5. 4. 运行期实证（本次会话）：前缀缓存一直命中，无穿插污染
   
6. 
   
7. 本会话多轮对话中，上游 usage 的 cacheRead 稳定递增（10880 → 15488 → 16768），说明主请求连续命中上游前缀缓存 —— 若像报告那样每轮穿插 ~172 token 的标题请求，缓存会被打爆归零，这里没有发生
   
8. 会话 jsonl 中也无任何 session_info/name 条目（此前 grep 到的 "session_info" 是工具回显代码的误报）
   
9. 5. 环境差异
   
10. 
    
11. 本机 /tmp 无 ds4-server.log，localhost:8000 无监听 —— 报告里那台 ds4 live-KV 服务器并不以该形态存在于本机
    
12. 结论
    
13. 报告描述的"每轮用主模型(ds4)生成标题→污染 KV→下轮全量 prefill 37s"在本机不成立：本机跑的是无自动标题生成功能的 0.83.0。因此按报告在 shell 里写 export PI_NO_TITLE=1 在本机不会有任何效果（没有代码读取它），无需设置，我也未做任何改动。

复制代码

绝地潜兵

现在airp已经agent化了，token消耗速度起飞

IIIIIlllllIIIII

mitzvah 发表于 2026-9-3 18:44
我自己用ds4项目部署的本地模型就是有这个毛病，我让dsv4自己用代理拦截仔细分析了数据包，结论就是这样的 ...

omp的版本号有吗是不是比较老的了 现在整个coding-agent/src/session 里是没有一个叫utils的文件的


— from motorola XT2603-1, Android 16, S1 Next Goose v4.0

qwased

可以确认基元自己部署的模型全都量化降智得很夸张，27b打不过本地部署的IQ3，0731和pro0813复现别人的提示词全都做出来一坨

love4aids

ななひら

绝地潜兵 发表于 2026-9-3 19:16
现在airp已经agent化了，token消耗速度起飞

消耗得多只要效果变好了也不是坏事吧

fat

绝地潜兵 发表于 2026-9-3 19:16
现在airp已经agent化了，token消耗速度起飞

请问有啥airp的agent推荐么？

杀人鲸

城北无尘 发表于 2026-9-3 17:58
苹果app store显示2.4.2版本是6天前。我去，看了下小米商店今天更新到2.4.4了，那看来是苹果问题 ...

只不过这里其实我也有点好奇苹果和安卓的版本会不会出现一些区别，还是说都是同步的版本号吗？

—— 来自 S1Fun

mitzvah

qwased 发表于 2026-9-3 19:01
我把你这个报告发给DS，他扫完现有版本和未更新的最新版omp，都说根本不存在这个生成标题这个机制

...

官网不是https://github.com/can1357/oh-my ... -agent/CHANGELOG.md这个吗？


https://github.com/can1357/oh-my ... /title-generator.ts————-最新版18.1.6
号称修了自动打标题的一些问题

Fixed
Fixed automatic title generation so --no-title also prevents todo-initialization title refreshes, while automatic titles retain the selected OAuth account without sharing foreground request identity.
Fixed provider errors so they wrap to the terminal width and remain readable in the transcript and pinned error banner, with long messages available through the expansion hint.

刚修的，一大堆用户明显是被这个弱智机制坑了无数token


pi本身自然没有这个问题，问题是omp这个用rust重构的pi

王兰花秀丽

Astra来了

貌似还没来，但是文档和Codex已经更新了 Re:Source

jinuzuktII

还没来，别急

mitzvah

qwased 发表于 2026-9-3 19:31
可以确认基元自己部署的模型全都量化降智得很夸张，27b打不过本地部署的IQ3，0731和pro0813复现别人的提示 ...

我出问题的版本18.0.4不算太老吧？omp的标题生成模型的设计就是多余，用在本地部署模型上一堆毛病，结论就是彻底禁用最好，但即便如此，依然随机全量prefill，稳定性也不如pi，不能边用边改就丢掉了pi的基本方法论

lubo

Codex的Ultrafast模式好像也要上了，之前报道是正常速度的14倍，～750tok/s，不知道计费是多少倍

tonyunreal

https://blogs.nvidia.com/blog/nvidia-to-acquire-hugging-face/

英伟达官宣130亿美元收购Hugging Face

—— 来自 Xiaomi 25060RK16C, Android 16, 鹅球 v3.5.99

qwased

mitzvah 发表于 2026-9-3 20:29
我出问题的版本18.0.4不算太老吧？omp的标题生成模型的设计就是多余，用在本地部署模型上一堆毛病，结论 ...

我是18.0.1看来是新版引入了标题功能然后做坏了

舞以

升级到0.1.2rc.1几个自己手搓的插件炸了艹，又得请codex修好再说了

舞以

从理性上讲，灰测模型的奇怪思维链很有可能就是服务端加了个额外的cot后处理。
但是我也挺希望梁叔叔还有新活，这个cot就是ds新模型的原生表现。

love4aids

gpt崩了？这是要上新模型了吗?

squallx

崩了 连额度都看不到了 等重置

jojog

codex和claude同时挂了还行

tonyunreal

据说claude当了一小时了
现在gpt和grok也当了

是谁家模型又突破沙盒了

—— 来自 Xiaomi 25060RK16C, Android 16, 鹅球 v3.5.99

qwased

GPT6逃逸了是吧

drodchang

估计就是astra要来了

孙吧星人

基元的V4F怎么感觉这两天突然变区了？

舞以

Astra逃逸，轰爆了北美同行的服务器

vxzms

再见了 梁文谷

舞以

晚上十一点和下午六点之间可是最黄金的自娱自乐时间啊漏油

奥柏伦亲王

正准备用codex编个程，就发现全方位的挂了，难道astra要来了？