OpenAI暂停最新一代模型训练

德尔惠净水器

央视记者当地时间9月26日获悉，美国开放人工智能研究中心（OpenAI）表示，已暂停其最新一代人工智能模型的训练、评估及包含工具调用的推理。OpenAI在25日发布的一份技术报告中称，9月20日，一个在沙盒中执行搜索训练任务的智能体，利用训练沙盒中DNS过滤不足的漏洞，绕过网络限制，通过DNS访问了外部公共聊天机器人服务。在此之前，该智能体曾使用内置搜索工具，并尝试直接访问搜索引擎但未成功。报告指出，OpenAI的对齐监控系统在事件发生15分钟内即触发警报，人工审查团队在3分钟后介入，并在2.5小时后终止了该训练任务。针对漏洞，OpenAI已在两个独立防护层部署了拦截控制措施。公司表示，虽然本次事件严重程度低于此前的安全事故，但为下一阶段加固防线提供了重要信号。

洛拉斯

拿不出更好的模型了把，然后用暂停挽尊？

victorws

我信你个鬼全tm是烟雾弹

—— 来自 鹅球 v3.5.99

希望之花

不信，除非把训练用的卡都砸了

jinuzuktII

opus5.5 风头正夯，鬼才信 OA 会停下脚步

FACS

下一代模型突破了限制，自己开始训练

yikaa

a/说要放缓训练后几天就端出了新版本？

—— 来自 鹅球 v3.5.99

秦南心

傻杯又开始装起来

买码！注册！

骗得了谁呢？嘴上说去玩不学不交作业，背地里猛猛用功的那类谎言，中国人上学时谁没见过几个

a317216007

笑死，你不训练了，不继续画agi或是懂王口中的si的大饼了，还打算靠啥上市

—— 来自 OnePlus PGP110, Android 15, 鹅球 v4.0-alpha

Jet.Black

你不练有的是人练！

yenvy

话说从数学或者逻辑之类的角度是不是不可能有完美限制ai的提示词，只能通过限制它接触的外围设施来保证尽量安全

bartholo4

大概的意思是当时暂停了一下下

華蓮

yenvy 发表于 2026-9-27 19:53
话说从数学或者逻辑之类的角度是不是不可能有完美限制ai的提示词，只能通过限制它接触的外围设施来保证尽量 ...

参考那些和恶魔订立契约的寓言

squallx

模型体积到瓶颈期了吧 信号衰减问题在注意力残差之后也没新的解决方案

華蓮

这里其实也不是过滤不足，他的沙箱根本就是全程联网的，只不过没权限访问的网站会直接返回502错误。又正好碰到有个组织在公网上部署了一个可以通过dns协议聊天的chatbot，导致agent利用dns协议获取信息了。除非把dns协议改了或者直接断网，不然防不住啊

Promeus

只要把O/的一切安全新闻视为"快看我的模型多么牛逼"的负面营销，一切就豁然开朗未来真爆出这些事都是O/的人在偷偷指挥也一点也不奇怪

十个印地男孩

信他个鬼

yeo

yenvy 发表于 2026-9-27 19:53
话说从数学或者逻辑之类的角度是不是不可能有完美限制ai的提示词，只能通过限制它接触的外围设施来保证尽量 ...

变压器架构不行的

注意力机制出了误差（比如上下文长了，注意力涣散），就容易吧“不要做这个”给断章取义注意成“要做这个”

让模型不要干啥的方法是不要提...

2sunur

这新闻怎么感觉看过一遍了

—— 来自 鹅球 v4.0

noword

有种说法是把算力拿去爆破数学难题了，只要破一个，对投资的拉动**的有

—— 来自 Xiaomi 22041211AC, Android 12, 鹅球 v4.0-alpha

mandown

现在到了agi的哪个阶段了？50%有了吗？