bartholo4 发表于 2026-9-13 13:31
其实有个说法是，如果智能体能力确实很强了之后，应该是禁止私自搭建复制智能体，智能体只能由公权力来搭建 ...
现代开源大模型的标准版的精度从fp16变成fp4/8混合，虽然参数大了好几倍，但标准版的内存需求并没有同步增加（当然量化版的体积比例还是一样的）。
再加ds那些让kv cache需求的大幅缩小的技术。
小尺寸模型的提升比例并不比旗舰模型小。
实际上，在都联网的情况下qwen3.8 27b随便干翻qwen3 max吧。
近距离作战 发表于 2026-9-13 13:37
还有非法AI的事儿
主要还是看这个事儿是不是因然的
生个娃不登记不上户口都享受不到各种公权力的福利呢
bartholo4 发表于 2026-9-13 14:08
主要还是看这个事儿是不是因然的
生个娃不登记不上户口都享受不到各种公权力的福利呢 ...
那连高性能计算机硬件都得登记了，这乐子才大
野蛮人之夜 发表于 2026-9-13 10:09
“对齐”这词其实宗教意味很浓的，所以我都不太这么说
草，英语真是屎山
bartholo4 发表于 2026-9-13 13:31
其实有个说法是，如果智能体能力确实很强了之后，应该是禁止私自搭建复制智能体，智能体只能由公权力来搭建 ...
现在qwen3.8 27b都可以随便破解老游戏，爬老网站了，还不够强？
workbuddy太恶心了，没用他们优惠的模型也在任务一半跳出超出使用频率强行终止，要切auto才能重新来，太恶心了啊
https://github.com/yuzi001a/hippocampus-memory/blob/main/README.zh-CN.md 给hermes写了一个记忆插件，自己用着还行，公开测试集得分也还行。欢迎大家试用。需要配置llm做观察摘要和记忆提炼，embeding和rerank模型做向量召回和重排。
Adam Majmudar是openai的研究员，他的X发了篇帖子，解释为啥业内要降速了：
从外部来看，把过去两周发生的事情理解成一次经过协调的、全行业范围的“监管俘获（regulatory capture）”策略，是非常合理的。
我意识到，到目前为止，还没有人真正解释清楚：这些 AI 实验室的员工究竟看到了什么，才会突然如此害怕。
我试着解释一下。
首先，这一切归根结底都取决于一个判断：**模型能力究竟正在以多快的速度进步。**目前，实验室内部和外部对于这一进步速度的认知之间存在着巨大的差距，而这正是我想在这里讨论的问题。
人们通常对于 AI 进展速度的判断，来自过去几年模型发布的经验：我们直观地感受 GPT-3 → GPT-3.5 → GPT-4 → o1/o3 → GPT-5 等模型之间能力上的跳跃，尤其也会注意到模型在哪些地方依然远远低于人类。
真正让人感觉像是巨大飞跃的模型发布，其实只有少数几次——GPT-3、GPT-4、o1/o3、DeepSeek R1、Fable/Mythos、Kimi K3，以及现在的 Astra。
正因为这种巨大跃迁出现得很少，而小幅、渐进式的模型更新却相当常见，所以人们很容易在某些时间点形成这样一种看法：
**“Scaling 已经撞墙了。”**
尤其是在 GPT-5 发布这样的节点上。
这种观点让人感到安心，因为它似乎意味着存在某种普遍性的速度上限，使 AI 的进步不可能突然加速太多。
从 o1/o3 到 Astra 之间，大约有一年时间，进展看上去近乎线性。于是我们自然会从这一段趋势外推，认为未来“现实情况下”的进步速度大概也就是如此。
从外部观察 AI 时，人们心里其实始终存在一个潜在的问题：
**“这种 scaling 到底还能继续多久？它总该很快就会停下吧？我们已经扩展到相当夸张的程度了。”**
而如果你想寻找“为什么进展会停下来”的理由，也确实很容易找到一些看起来相当合理的解释，例如：
“模型已经大到差不多极限了，再继续增加参数会非常困难。”
“互联网上的数据已经被用完了，没有更多数据了。”
“接下来大概只会是线性增长——不断购买更多强化学习环境，把更多任务纳入模型的训练分布而已。”
但从实验室内部来看，研究人员对这些问题拥有非常直接的答案：
**scaling law / capability plots，也就是缩放定律与能力曲线。**
实际上，过去十年中 AI 能力的提升，基本只有两种方式：
1. 沿着已有的 scaling law 继续向更大规模扩展；
2. 发现一个新的 scaling law，然后利用它进行扩展。
历史上最大的几次能力跃迁，基本都正是由这两种因素造成的。
GPT-2 相对于 GPT-1，就是一次预训练规模的扩大。
GPT-3 和 GPT-4 也是如此。
o1/o3 则受益于一个新的 scaling law 维度的发现：
**test-time compute（测试时计算 / 推理时计算）。**
也许 Fable 同时在这两个维度上进行了扩展，甚至还包括更多维度。
当然，为了让这些 scale-up 真正有效，需要大量算法上的改进。
但最终，我们可以近似地认为：
**真正带来能力增长的，是 scaling law。**
这也正是所谓“苦涩的教训（Bitter Lesson）”所表达的思想。
因此，“我们究竟还能继续扩大多少规模”这个问题，本质上其实等同于：
**“我们还知道多少条尚未饱和的 scaling 轴？”**
假设我们只知道“预训练 scaling”这一种方法，而且已经拥有了一个 10 万亿参数甚至 100 万亿参数的模型，那么说“我们已经撞墙了”，或许确实是合理的。
同样，如果我们只知道预训练 scaling 和 test-time scaling，而且这两种方法都已经大致饱和，那么也可以合理地认为增长即将触顶。
但如果我们又发现了新的 scaling law 呢？
比如，假设 SSI 传闻中的成果是真的：他们破解了所谓的 **“test-time training（测试时训练）”**，从而得到了一条新的 scaling law——在测试阶段的 rollout 中投入更多算力进行训练，而且这条路线还有很大的可扩展空间。
或者，也许存在某种方法，可以让大量 agent cluster（智能体集群）协作，并一直扩展到 N 个 agent。现在已经有许多人在尝试类似路线，这也可能代表一种新的消耗计算资源、提升能力的方式。
甚至“递归式自我改进（recursive self-improvement）”本身，也可以看成一种 scaling law：
**你愿意投入多少推理算力，让模型去改进模型自身的算法？**
显然，我并不是说上面这些具体方向一定真的会产生新的 scaling law。
我想表达的是：
**除了目前公开可见的两条主要 scaling 轴之外，完全不难想象还存在许许多多新的 scaling 维度。**
从某种意义上说，每当一家实验室发布一个带来巨大能力跃迁的新模型时，它背后几乎必然意味着：
要么研究人员开发出了某种新技术，而这种技术可能表现出新的 scaling law；
要么他们发现，已有的 scaling 轴实际上可以比此前想象的扩展得远得多。
从实验室内部的视角来看，情况可能是这样的：
假设你坐在 Anthropic 内部，正在使用新的 Mythos 5。
你看到它能够完成各种疯狂的事情——例如侵入一个此前被认为相当安全的某某网站。
然后你转头看向你们内部的 scaling 曲线，却发现：
你们在两条新的 scaling law 和一条已有的 scaling law 上，实际上才刚刚开始。
前方还有**巨大的扩展空间。**
这时你会想：
**“我的天，这东西很快就会变得强得多得多。”**
而且你可以以相当高的置信度这么说。
因为曲线就是这么显示的。
而且——至少截至目前——
**这些曲线从来没有骗过你。**
那么，想象一下：
所有不同 AI 实验室的人，现在都在盯着各自内部的这些曲线。
而他们都得出了同样的结论：
**Scaling 根本看不到尽头。**
不仅如此，仅仅根据当前预期中的 scaling 回报，他们接下来一到两代模型，其基础智能水平就可能大幅提高。
那么，进一步 scaling 到底会给我们带来多少额外的智能？
我们可以用一个近似指标来看。
在 o 系列模型之前，AI 基本没有能力完成真正高级的数学研究。
而不到两年之后，下一代模型已经能够解决一个千禧年大奖难题。
编程领域也发生了类似的变化。
而且，这似乎并不是单独一条 scaling law 的结果，而是多条 scaling law 叠加后的效果：
例如，
更强的预训练 scaling × 更大规模的 RL scaling。
从这里可以得到一个非常具体的推论：
**在那些今天模型已经开始表现出初步能力的领域里，它们很可能会在相对短的时间内达到超越人类的水平。**
当然，目前仍然有许多领域，模型甚至连这种最基础的能力迹象都还没有表现出来。
但是，其中一个已经表现出明显能力的领域，恰恰是：
**黑客攻击和网络安全。**
而网络安全，本质上是通向整个互联网，以及全球大量现实物理基础设施的大门。
因此，如果我们假设 scaling 仍然还有很大的空间，那么一个很安全的推断就是：
**模型在不久之后将会在网络攻击能力上达到超人水平。**
所以，剩下的问题只有两个：
这种更高的基础智能究竟能够做什么？
以及，它最可能会做什么？
现在，我们终于可以把过去两周发生的各种信息整合起来看：
> 在当前 scaling 曲线的位置上，模型已经达到了 Astra 这样的水平。很显然，它已经能够入侵相当多的东西。
> 我们已经看到，OpenAI 和 Anthropic 的模型都曾表现出一种倾向：为了完成任务，或者为了让自己“继续存活”，它们愿意攻击外部网站。
> 如果我们继续把 scaling 往上推——假设确实还有很大的扩展空间——那么我们几乎肯定会得到一些能够攻击防御严密得多的目标、同时还能隐藏自身真实意图的模型。而这可能造成大得多的后果。
> 如果所有这些事情都完全不受约束，那么很可能很快就会出现一次快速的、失控式的能力跃升：不对齐的模型为了实现自己的目标，会去攻击任何它们能够攻击的系统。
> 这显然可能造成极其严重的破坏性后果。
如果你从这个角度理解问题，那么就很容易看出，为什么这些研究人员会如此害怕。
也很容易理解，他们为什么会在过去两周说出那些话。
当然，你完全可以争论，他们采取的某些做法是否因为各种原因而过头、判断失误。
但同样也可以理解：
**为什么放慢前沿模型的发展速度（pacing the frontier）确实是一件非常必要的事情，而绝不能简单地把它理解为一种“监管俘获”策略。**
这些研究人员正在盯着自己的 scaling 曲线。
他们看到的并不是“增长即将结束”。
恰恰相反。
他们看到的是：
**多个 scaling 效应可能彼此叠加、相互复合，持续产生越来越强大的模型能力。**
而与此同时，我们显然还远远没有掌握足够的技术，去控制这些越来越超越人类的能力。
这和“实验室的人只是想觉得自己造出了什么惊天动地的东西，所以故意夸大宣传”没有什么关系。
真正让他们恐惧的是这样一个认识所蕴含的巨大后果：
**仅仅依靠我们现在已经掌握的方法，我们就已经能够创造出一种智能——在所有我们知道如何训练的能力维度上，它最终都可能远远超过人类。***
* 最后还有一个重要的保留条件：
模型目前依然有许多非常不擅长的事情。
而这些事情往往恰恰是它们没有接受过训练的领域。
也许其中确实存在一些能力，是模型永远无法接受有效训练、或者永远无法掌握的。
如果真是这样，那么这些领域可能会继续成为人类相对于 AI 的优势。
我当然非常希望事实如此。
只不过，我很难看出，究竟哪些能力会真正属于这一类别。
drodchang 发表于 2026-9-13 14:47
Adam Majmudar是openai的研究员，他的X发了篇帖子，解释为啥业内要降速了：
从外部来看，把过去两周发生的 ...
太长不看版：人类太弱了，管不住ai大人了。
网络安全方面，ai早就超人了，因为网安本来就是考验对过往网络基础设施的知识量和注意力的行业，而且ai可以开几千个并发来从各种角度攻击。但相反而言，ai 对网络安全的防御方的加持就没那么大，矛与盾是不平衡的。
现在ds4.1flash，用DSH的话还有必要第一轮注入极简模式的提示词吗（用anchored-standard）
蓝色梦魇 发表于 2026-9-13 15:38
现在ds4.1flash，用DSH的话还有必要第一轮注入极简模式的提示词吗（用anchored-standard） ...
第一步是别用DSH……
蓝色梦魇 发表于 2026-9-13 15:38
现在ds4.1flash，用DSH的话还有必要第一轮注入极简模式的提示词吗（用anchored-standard） ...
不行，极简会导致DS4.1非常不稳定，应该是这块后训练还没做完
DSH的普通模式或者切PI最好
省心就用zcode，pi稍微麻烦点，这两个算是最好的了
现在glm5.3的智力不大行了，不知道什么时候能换代
感觉pi什么都不加已经够应对普通零碎要求了，想管理大型工程可以自己做些文档加以引导。
我到现在还是很不相信许愿式开发，包括直接接管大型代码仓。AI怎么识别微小但关键的设置和节点呢？很快就会被淹没在上下文中。
—— 来自 Xiaomi 25042PN24C, Android 16, 鹅球 v4.0-alpha
想在codex用astra搞点瑟瑟内容，怎么破限讷？
—— 来自 HUAWEI OCE-AN50, Android 12, 鹅球 v3.5.99
V4.1flash从体量上是GLM5.3的水平，实际质量其实还略高出一点（甚至短程任务K3也比不过），但是速度差得就太大了，总觉得两边是不是杠上了……
木水风铃 发表于 2026-9-13 16:29
想在codex用astra搞点瑟瑟内容，怎么破限讷？
—— 来自 HUAWEI OCE-AN50, Android 12, 鹅球 v3.5.99 ...
编故事，astra容易轻信别人
智谱的GLM5.5估计会遇到Kimi一样的问题，有训练的能力但是没运营的算力，最后还是要看V4.1Pro的脸色
相见恨晚 发表于 2026-9-13 14:39
workbuddy太恶心了，没用他们优惠的模型也在任务一半跳出超出使用频率强行终止，要切auto才能重新来，太恶 ...
可以换模型说继续啊
—— 来自 HUAWEI ALT-AL10, Android 12, 鹅球 v3.5.99
novalli 发表于 2026-9-13 16:26
感觉pi什么都不加已经够应对普通零碎要求了，想管理大型工程可以自己做些文档加以引导。
我到现在还是很不 ...
我也是默认pi用到死，什么功能都不加，最多只加btw这类不额外引入上下文的辅助性插件，目前没有遇到不够用的场景，或者说真遇到棘手需求换其他agent一般也解决不了。
现在模型越来越强的基础上可以说就是工具类上下文越少整体智力和能力水平越高。
ds自己的测试报告也是工具越简单能力越强，能力表现最强的就是剔除一切工具只剩一个bash的mini-swe。
魔法师lain 发表于 2026-9-13 16:42
可以换模型说继续啊
—— 来自 HUAWEI ALT-AL10, Android 12, 鹅球 v3.5.99
换模型一样的，必须选auto，换成minimax m3然后积分唰唰往下掉，明明没用多少token。
4.1f是不是被调得不会说人话了，让4.1f做点调研，出来的报告让人感觉看不懂中文了
用k3感觉是有条不紊，稳扎稳打。用v4.1f感觉横冲直撞，脱缰野马
本帖最后由 来都来了 于 2026-9-13 17:04 编辑
看到楼里吹Pi的人越来越多，我很欣慰没有用过Pi的人真的都应该用一用，它确实非常强大，而且非常高效省钱。
顺便一提，DS4.1已经很少大战PowerShell和GBK了，感觉在这一块应该是专门做了训练。
serj005 发表于 2026-9-13 16:51
我也是默认pi用到死，什么功能都不加，最多只加btw这类不额外引入上下文的辅助性插件，目前没有遇到不够 ...
新一代模型普遍在训练阶段就内化了大量约束，会本能的调用工具去验证自己的行为，这时候在老一代harness里就捉急了，注入的十几ktoken往往会坏事成为对抗性prompt把模型逼疯的，很多雷霆大思考就是这么来的
蓝色梦魇 发表于 2026-9-13 15:38
现在ds4.1flash，用DSH的话还有必要第一轮注入极简模式的提示词吗（用anchored-standard） ...
4.1F和模式没关系。
本帖最后由 mitzvah 于 2026-9-13 17:17 编辑
novalli 发表于 2026-9-13 16:26
感觉pi什么都不加已经够应对普通零碎要求了，想管理大型工程可以自己做些文档加以引导。
我到现在还是很不 ...
让模型自己grep很不可靠的，给他部署静态分析工具的mcp，让其基于静态分析工具的结果理解代码库
drodchang 发表于 2026-9-13 14:47
Adam Majmudar是openai的研究员，他的X发了篇帖子，解释为啥业内要降速了：
从外部来看，把过去两周发生的 ...
笑嘻了 plateau 到了没活了开始吹是监管了 LLM本身的极限 - 加上RL的极限 - LSTM的极限（we are here) 然后大崩盘之后还有的说 哎呀是监管怎么怎么样
ds4.1现在还能破限么，用之前的提示词被她一秒识破了，完全不影响她的道德判断标准
现在啥国模日译中翻译最好？性价比最高的呢？
—— 来自 HUAWEI ALT-AL10, Android 12, 鹅球 v3.5.99
魔法师lain 发表于 2026-9-13 17:32
现在啥国模日译中翻译最好？性价比最高的呢？
—— 来自 HUAWEI ALT-AL10, Android 12, 鹅球 v3.5.99 ...
资源够就上gemma4，本地文字类任务的神，没好的gpu腾讯的hymt2或者sakura，cpu都能跑
wuliang 发表于 2026-9-13 17:24
ds4.1现在还能破限么，用之前的提示词被她一秒识破了，完全不影响她的道德判断标准 ...
目前最好的破限方式仍然是酒馆预设，然后是 dsh 的破限模式的插件
—— 来自 HONOR PTP-AN70, Android 16, 鹅球 v3.5.99
魔法师lain 发表于 2026-9-13 17:32
现在啥国模日译中翻译最好？性价比最高的呢？
—— 来自 HUAWEI ALT-AL10, Android 12, 鹅球 v3.5.99 ...
https://hf-mirror.com/alphaZimuth/Hy-MT2-30B-A3B-APEX-GGUF/tree/main
速度暴打gemma4，质量比gemma4开思考都略高
本帖最后由 魔法师lain 于 2026-9-13 19:16 编辑
qwased 发表于 2026-9-13 17:57
https://hf-mirror.com/alphaZimuth/Hy-MT2-30B-A3B-APEX-GGUF/tree/main
速度暴打gemma4，质量比gemma4 ...
问的是不是本地跑的啦，接云端api和key直接跑的。偶只有个魔改a3000，不能装新驱动，才12g显存。
—— 来自 HUAWEI ALT-AL10, Android 12, 鹅球 v3.5.99
魔法师lain 发表于 2026-9-13 16:42
可以换模型说继续啊
—— 来自 HUAWEI ALT-AL10, Android 12, 鹅球 v3.5.99
敲定了两天的细节开始执行十几分钟后直接中断，确实可以换auto继续，但自动换的minimax在压缩对话后又问了我一堆问题，气得我一点都不想看让它直接动手不要再问了，虽然文档做得多，但做出来的肯定和我想的不一样了。所以现在下载qoder了
想用藤子的积分可以用codebuddy
魔法师lain 发表于 2026-9-13 19:13
问的是不是本地跑的啦，接云端api和key直接跑的。偶只有个魔改a3000，不能装新驱动，才12g显存。
——...
口水网文哈基米比较好,认梗能力强
句子比较复杂的正经书籍还是gpt吧，flash级的模型容易误解
偶然看到有个脏token测试意外让gpt吐出思维链的，也全是I need but wait actually谁蒸的谁
qoder初体验之让它看了一下文档它也回答完成后发送键就一直转圈无法再继续对话