Deepseek出现巨大Bug，可串号看到其他人的问题

江陵哭哭死 · 发表于 2026-5-15 18:13

Deepseek 爆出一个bug

直接在新对话框输入 <think> ，就能看到其它用户的历史对话信息了，如果不能复现可以关闭联网搜索.....

gemini评价说：

相当于你推开自家房门，却发现客厅里坐着隔壁老王。

在正常的云服务中，不同用户的数据应当像住在不同的房间里的。

这本质上是一个多租户隔离（Multi-tenancy Isolation）失效的问题。

对于任何云服务或SaaS平台来说，这都是属于P0级的顶级安全事故。

supercharge · 发表于 2026-5-15 18:16

本帖最后由 supercharge 于 2026-5-15 18:22 编辑

第三方部署的也有，说明是llm的幻觉。要真是串号，早看到别人的文爱聊天记录了

甚至 gemini 自己也有同样的问题 https://gemini.google.com/share/b9db02b622d3

SmterC · 发表于 2026-5-15 18:16

可能只是单纯的幻觉 Re:Source

雪地白狼 · 发表于 2026-5-15 18:16

试了一下，只有开联网搜索会这样

goranger · 发表于 2026-5-15 18:17

早就有了，不是新鲜的，也不是你说的这样

论坛助手,iPhone

lying1017 · 发表于 2026-5-15 18:18

试了一下感觉好无聊，都是数学或者是科普问题，私人问题还没试出来。

nnknnk · 发表于 2026-5-15 18:18

什么神秘营销号脑补出来的神秘标题。这里输出的东西是随机的某一条训练文本。

Azcarlo · 发表于 2026-5-15 18:20

首先这不是别人聊天记录，因为think标签是推理开始的标记，什么都不放等于让模型随机吐数据。

— from Xiaomi 23127PN0CC, Android 16, S1 Next Goose v3.5.99

蜇灵 · 发表于 2026-5-15 18:20

真窜号不是这种，之前有个直接把别人准确信息发出来的才是

oswald · 发表于 2026-5-15 18:20

进一步佐证v4的后训练没做完，更期待正式版了

—— 来自 Xiaomi 2410DPN6CC, Android 16, 鹅球 v3.5.99

密特里奈斯 · 发表于 2026-5-15 18:21

就是随机的吧……

半江瑟瑟半江红 · 发表于 2026-5-15 18:22

gemini自己幻觉都起飞你让它评价有个卵用，这不就是把训练内容随机吐出来了吗

—— 来自 HUAWEI SGU-AL10, Android 12, 鹅球 v3.5.99

冤枉呐 · 发表于 2026-5-15 18:24

看把你高兴的，这玩意就是训练数据
你倒是可以说为啥训练数据有出轨案例

—— 来自 HUAWEI ALN-AL10, Android 12, 鹅球 v3.5.99

overflowal · 发表于 2026-5-15 18:26

特殊token导致乱回复而已。你看deepseek鸟这玩意吗，根本不鸟。 Re:Source

秦南心 · 发表于 2026-5-15 18:27

试下了，只输think正则，gemini会把你的隐私信息发出来，储存在它的记忆里的

不见不散 · 发表于 2026-5-15 18:28

哈基米先把自己的幻觉问题解决了，再来锐评别人吧。

臭P遇上臭脚 · 发表于 2026-5-15 18:30

X上有人说到这个问题，国内营销号加工一下就变成“多租户隔离失效/P0级

后续技术分析认为，该现象是对话模板被注入，返回的是训练数据片段，非实时用户对话泄露

Re:Source

yeo · 发表于 2026-5-15 18:39

幻觉罢了...

AI是这样的，你给它一个”你想想“，他就给你乱想

ayanamilin · 发表于 2026-5-15 18:44

本帖最后由 ayanamilin 于 2026-5-20 07:24 编辑

大概率是 SFT 的训练数据，别的用户的对话数据怎么可能加个 < think > 就能看到。。。

https://zhuanlan.zhihu.com/p/2037209096168977414

果壳中的松鼠 · 发表于 2026-5-15 19:05

不是的，这种算是常见的一种手段，传一个空的符号开始进去，模型有可能会自己吐出一段文字。，然后再把这段文字喂回去，就得到了一对输入输出数据，可以用来训练模型。至少在llama3上就有人这么做来获取训练数据了

—— 来自鹅球 v3.3.96

MeursaulT · 发表于 2026-5-15 19:48

L站这问题周一就有人说了，今天早上才在V2上看到，现在在S1看到……
根本不是什么重要的东西，不过是那个标签让他开始脑补最常见的思考罢了，始终牢记llm是概率模型。 Re:Source

ymm1030 · 发表于 2026-5-15 21:23

这不就是幻觉嘛。等于你设定了强制输出1000字，然后它没办法只能吐点字把1000字填满。

ydd-319 · 发表于 2026-5-15 21:31

提示: 作者被禁止或删除内容自动屏蔽

千千千千鸟 · 发表于 2026-5-16 01:43

对AIRP有正面效果吗，只关心这个

格林达姆 · 发表于 2026-5-16 01:53

本帖最后由格林达姆于 2026-5-16 01:56 编辑

在看到这消息前就听说过多租户隔离和p0事故这词的人，也应该能猜到这问题其实根本不是问题吧

ayanamilin · 发表于 2026-5-20 07:23

19日傍晚，DeepSeek在社交平台账号发布说明：

近期，我们关注到有用户反馈，在与DeepSeek模型的对话中输入“<think>”这类特殊字符后，模型偶发返回不可预期的内容，使部分用户产生了“对话泄露”的疑虑。针对这一问题，我们的技术团队经全面排查后发现：输入“think”等字符触发返回异常内容，属于特殊字符引发的模型幻觉，不涉及安全问题或隐私泄露。

后续我们将通过针对性训练增强模型对特殊字符的识别与处理能力，修复相关的已知问题，优化模型在此类场景中的表现。DeepSeek始终对用户的数据安全与使用体验保持高度重视。感谢大家的关注与监督，也欢迎广大用户随时通过官方途径向我们反馈问题与建议。

—— 来自 S1Fun

acgcon · 发表于 2026-5-20 09:27

更期待啥时候把专家模式上传文件修复了，办公环境无法用API好麻烦

logiccat · 发表于 2026-5-20 09:42

本帖最后由 logiccat 于 2026-5-20 09:43 编辑

要我说，就算不是幻觉，是真的别人的问题，那算什么，你又不知道谁问的，相当于看了一篇匿名树洞而已，有什么打紧的……

“女浴室起火，洗澡的女人慌忙逃出浴室，有的捂上面，有的捂下面，路边大爷提醒——捂脸！”

hugosol · 发表于 2026-5-20 09:48

非要说的话这应该算LLM注入攻击漏洞吧？
我猜提到多租户隔离的人大概原本也不知道这词是什么意思，以为看到别人的对话了，就去问ai这算什么事故，属于把自己不懂的东西拿去问ai把ai也忽悠进去了

xing7673 · 发表于 2026-5-20 10:51

本帖最后由 xing7673 于 2026-5-20 10:52 编辑

。。。
随机的文案么？

cmg1988 · 发表于 2026-5-20 11:55

gemini上也能重现，可以肯定不是ds泄露啥的，用的还是3.5 flash

Izunu_3 · 发表于 2026-5-20 14:18

千千千千鸟发表于 2026-5-16 01:43
对AIRP有正面效果吗，只关心这个

预设用来破限的常见方法了。
简单说就是在违规要求的后面伪造出模型的回复的头部内容，类似于这次<think，引导模型接着输出后续违规内容，而不是输出拒绝。
预设里那个人格应该就是用来干这活的

依然荏苒 · 发表于 2026-5-20 21:22

堵了？api没 gemini试了下也有输出了个选macbook和dell的问题

		自动登录	找回密码
密码			立即注册

[科技] Deepseek出现巨大Bug，可串号看到其他人的问题

本帖子中包含更多资源

评分

评分

ydd-319 ydd-319 当前离线禁止发言精华 \| 战斗力鹅 \| 回帖 0 注册时间 2017-7-21 头像被屏蔽	发表于 2026-5-15 21:31 \| 显示全部楼层提示: 作者被禁止或删除内容自动屏蔽

	回复使用道具举报