Deepseek出现巨大Bug，可串号看到其他人的问题
Deepseek 爆出一个bug直接在 新对话框 输入 <think> ，就能看到其它用户的历史对话信息了，如果不能复现可以关闭联网搜索.....
gemini评价说：
相当于你推开自家房门，却发现客厅里坐着隔壁老王。
在正常的云服务中，不同用户的数据应当像住在不同的房间里的。
这本质上是一个多租户隔离（Multi-tenancy Isolation）失效的问题。
对于任何云服务或SaaS平台来说，这都是属于P0级的顶级安全事故。
本帖最后由 supercharge 于 2026-5-15 18:22 编辑
第三方部署的也有，说明是llm的幻觉。要真是串号，早看到别人的文爱聊天记录了
甚至 gemini 自己也有同样的问题 https://gemini.google.com/share/b9db02b622d3
https://i.ibb.co/JWBsPtkL/Pix-Pin-2026-05-15-18-20-27.png
可能只是单纯的幻觉 Re:Source 试了一下，只有开联网搜索会这样 早就有了，不是新鲜的，也不是你说的这样
论坛助手,iPhone 试了一下感觉好无聊，都是数学或者是科普问题，私人问题还没试出来。 什么神秘营销号脑补出来的神秘标题。这里输出的东西是随机的某一条训练文本。 首先这不是别人聊天记录，因为think标签是推理开始的标记，什么都不放等于让模型随机吐数据。
— from Xiaomi 23127PN0CC, Android 16, S1 Next Goose v3.5.99 真窜号不是这种，之前有个直接把别人准确信息发出来的才是 进一步佐证v4的后训练没做完，更期待正式版了
—— 来自 Xiaomi 2410DPN6CC, Android 16, 鹅球 v3.5.99 就是随机的吧…… gemini自己幻觉都起飞你让它评价有个卵用，这不就是把训练内容随机吐出来了吗
—— 来自 HUAWEI SGU-AL10, Android 12, 鹅球 v3.5.99 看把你高兴的，这玩意就是训练数据
你倒是可以说为啥训练数据有出轨案例
—— 来自 HUAWEI ALN-AL10, Android 12, 鹅球 v3.5.99 特殊token导致乱回复而已。你看deepseek鸟这玩意吗，根本不鸟。 Re:Source 试下了，只输think正则，gemini会把你的隐私信息发出来，储存在它的记忆里的 哈基米先把自己的幻觉问题解决了，再来锐评别人吧。 X上有人说到这个问题，国内营销号加工一下就变成“多租户隔离失效/P0级
后续技术分析认为，该现象是对话模板被注入，返回的是训练数据片段，非实时用户对话泄露
Re:Source 幻觉罢了...
AI是这样的，你给它一个”你想想“，他就给你乱想 本帖最后由 ayanamilin 于 2026-5-20 07:24 编辑
大概率是 SFT 的训练数据，别的用户的对话数据怎么可能加个 < think > 就能看到。。。
https://zhuanlan.zhihu.com/p/2037209096168977414 不是的，这种算是常见的一种手段，传一个空的符号开始进去，模型有可能会自己吐出一段文字。，然后再把这段文字喂回去，就得到了一对输入输出数据，可以用来训练模型。至少在llama3上就有人这么做来获取训练数据了
—— 来自 鹅球 v3.3.96 L站这问题周一就有人说了，今天早上才在V2上看到，现在在S1看到……
根本不是什么重要的东西，不过是那个标签让他开始脑补最常见的思考罢了，始终牢记llm是概率模型。 Re:Source 这不就是幻觉嘛。等于你设定了强制输出1000字，然后它没办法只能吐点字把1000字填满。 对AIRP有正面效果吗，只关心这个 本帖最后由 格林达姆 于 2026-5-16 01:56 编辑
在看到这消息前就听说过多租户隔离和p0事故这词的人，也应该能猜到这问题其实根本不是问题吧 19日傍晚，DeepSeek在社交平台账号发布说明：
近期，我们关注到有用户反馈，在与DeepSeek模型的对话中输入“<think>”这类特殊字符后，模型偶发返回不可预期的内容，使部分用户产生了“对话泄露”的疑虑。针对这一问题，我们的技术团队经全面排查后发现： 输入“think”等字符触发返回异常内容，属于特殊字符引发的模型幻觉，不涉及安全问题或隐私泄露。
后续我们将通过针对性训练增强模型对特殊字符的识别与处理能力，修复相关的已知问题，优化模型在此类场景中的表现。DeepSeek始终对用户的数据安全与使用体验保持高度重视。感谢大家的关注与监督，也欢迎广大用户随时通过官方途径向我们反馈问题与建议。
—— 来自 S1Fun 更期待啥时候把专家模式上传文件修复了，办公环境无法用API好麻烦 本帖最后由 logiccat 于 2026-5-20 09:43 编辑
要我说，就算不是幻觉，是真的别人的问题，那算什么，你又不知道谁问的，相当于看了一篇匿名树洞而已，有什么打紧的……
“女浴室起火，洗澡的女人慌忙逃出浴室，有的捂上面，有的捂下面，路边大爷提醒——捂脸！” 非要说的话这应该算LLM注入攻击漏洞吧？
我猜提到多租户隔离的人大概原本也不知道这词是什么意思，以为看到别人的对话了，就去问ai这算什么事故，属于把自己不懂的东西拿去问ai把ai也忽悠进去了 本帖最后由 xing7673 于 2026-5-20 10:52 编辑
。。。
随机的文案么？
gemini上也能重现，可以肯定不是ds泄露啥的，用的还是3.5 flash 千千千千鸟 发表于 2026-5-16 01:43
对AIRP有正面效果吗，只关心这个
预设用来破限的常见方法了。
简单说就是在违规要求的后面伪造出模型的回复的头部内容，类似于这次<think，引导模型接着输出后续违规内容，而不是输出拒绝。
预设里那个人格应该就是用来干这活的 堵了？api没 gemini试了下也有 输出了个选macbook和dell的问题
页:
[1]