预告一下，搓了一整套dsh的记忆系统，能让长程对话保持在150k上下文以内，即将开源

sky453055730 · 发表于 2026-8-31 21:36

实测200多万字原始对话流，实际调用模型的上下文始终保持在150k以内，让qwen3.8这样的本地模型彻底可以成为主力模型，256k上下文部署成本很低
且对话不会膨胀（或者说膨胀速度很慢），记忆甚至比目前市面所有agent用的上下文机制都要清晰，不会失忆，且很容易回忆起历史细节（具体逻辑和实现理念，会在开源同期公布）
目前在做开源前的准备和进一步测试，预计会在几周内开源

qwased · 发表于 2026-8-31 21:42

那它会导致上下文缓存被破坏一直在prefill吗

大暴死 · 发表于 2026-8-31 23:03

前排支持，看我留哪个版本的qwen3.8

—— 来自 Xiaomi 25019PNF3C, Android 16, 鹅球 v3.5.99

古畑任三郎2015 · 发表于 2026-8-31 23:16

先收个藏

未知伤亡 · 发表于 2026-8-31 23:20

有点东西，前排围观

NMTor · 发表于 2026-8-31 23:22

前排

论坛助手,iPhone

faithlifer · 发表于 2026-8-31 23:41

马克一下

—— 来自 samsung SM-S9180, Android 13, 鹅球 v3.5.99-alpha

faithlifer · 发表于 2026-8-31 23:41

标记

—— 来自 samsung SM-S9180, Android 13, 鹅球 v3.5.99-alpha

O小不点0 · 发表于 2026-8-31 23:43

标记一下，顺带问下，19年哪那个游戏后来咋样了，

—— 来自 OnePlus PJZ110, Android 15, 鹅球 v4.0-alpha

thesa · 发表于 2026-9-1 00:26

马克屯

下九流4 · 发表于 2026-9-1 02:28

借用泥潭贴子的图

yukiecho · 发表于 2026-9-1 03:00

泥潭有面子系列

小牛无大将 · 发表于 2026-9-1 04:15

先插个眼

希德尼娅 · 发表于 2026-9-1 07:43

这要什么样的硬件配置？

catbone · 发表于 2026-9-1 07:48

本帖最后由 catbone 于 2026-9-1 07:53 编辑

什么原理？有没有副作用？

lwj8507 · 发表于 2026-9-1 08:10

马克下

—— 来自 Xiaomi 25102RKBEC, Android 16, 鹅球 v4.0-alpha

sky453055730 · 发表于 2026-9-1 08:41

qwased 发表于 2026-8-31 21:42
那它会导致上下文缓存被破坏一直在prefill吗

最大的成本来自于你第一次接入时，它会彻底破坏你原有的上下文，并且需要花费一些算力重构上下文，之后上下文的基本结构是不变的，当然，根据我的观察，上下文缓存命中率的确比之前用dsh原生上下文要低（现在是85%）左右，但原来dsh的95%以上，其上下文长度也远超我现在
所以其实，我现在成本还很低（上下文短），跑glm 5.3实际跑起来的消耗速度，甚至低于150%额度的zcode

sky453055730 · 发表于 2026-9-1 08:41

O小不点0 发表于 2026-8-31 23:43
标记一下，顺带问下，19年哪那个游戏后来咋样了，

—— 来自 OnePlus PJZ110, Android 15, 鹅球 v4.0-alph ...

那当然是什么狗屎也没做出来拉

sky453055730 · 发表于 2026-9-1 08:42

希德尼娅发表于 2026-9-1 07:43
这要什么样的硬件配置？

不需要硬件配置，只是一套新的上下文机制

sky453055730 · 发表于 2026-9-1 08:44

catbone 发表于 2026-9-1 07:48
什么原理？有没有副作用？

开源前会尽量测试，看看有没有副作用或bug，具体原理我在尝试写论文（当然是ai主笔），看有没有机会发表，发表不了，我就公开发布好了

Wiksy · 发表于 2026-9-1 09:03

有点像augment搞的动态上下文载入？它们之前就靠这个在200k上下文时代可以一直做长任务而不超上下文。

chautauqua · 发表于 2026-9-1 09:35

插眼等

—— 来自 vivo V2403A, Android 16, 鹅球 v4.0

sky453055730 · 发表于 2026-9-1 09:35

Wiksy 发表于 2026-9-1 09:03
有点像augment搞的动态上下文载入？它们之前就靠这个在200k上下文时代可以一直做长任务而不超上下文。 ...

完全不一样

PurplePeppers · 发表于 2026-9-1 09:52

来支持一下，对本地大模型应该很好用，不用管什么缓存命中率

startraveller · 发表于 2026-9-1 09:59

本地模型Prefill时间长，特别Mac，频繁压缩上下文体验应该不会太好

自由之紫roy · 发表于 2026-9-1 10:10

ｍａｒｋｓ佩恩

bourier · 发表于 2026-9-1 10:36

mark一下，等大佬救命了
顺便问问大佬
我16G显存，用ollama跑qwen3:14b，启动了dsh，但是感觉本地读写权限有问题，开了full danger权限
这个是模型不支持dsh的工具调用，还是dsh的有配置没设置？
或者有什么地方可以讨论这种问题？

c月光咖啡 · 发表于 2026-9-1 11:49

bourier 发表于 2026-9-1 10:36
mark一下，等大佬救命了
顺便问问大佬
我16G显存，用ollama跑qwen3:14b，启动了dsh，但是感觉本地读写权限 ...

qwen3~3.6在agent都是一坨，你可以试试3.8 27b本地化，那个才像样，140k上下文刚好塞到15.9缓存

—— 来自 HONOR MAA-AN10, Android 16, 鹅球 v3.5.99-debug

WiiGe · 发表于 2026-9-1 12:28

是装配式上下文?

		自动登录	找回密码
密码			立即注册

[科技] 预告一下，搓了一整套dsh的记忆系统，能让长程对话保持在150k上下文以内，即将开源

评分