Gemini暴力搬运事件

绝地潜兵

补充背景摘要：


1. AI的“长期记忆”功能

目前部分AI助手（如ChatGPT、Gemini等）具备“跨对话记忆”能力，也就是你主动或被动告诉它的信息，它可以在后续的对话中“记住”并使用。

记忆分为两种：

静态记忆：由用户手动写入的固定信息（例如：我更喜欢简明扼要的回答），相对可控。

动态记忆：AI在对话中自动抓取、总结并存储的信息，需要手动管理和删除。

2. 不作恶新出了个“将记忆导入 Gemini”功能，看看声明：

从其他 AI 提供商导出数据，然后将 .zip 文件（大小上限为 5 GB）上传到 Gemini。   导入的对话及继续的对话都会保存在你的活动记录中。这些数据会用于改进我们的服务（包括训练生成式 AI 模型），以及保护 Google、Google 用户和公众。

5 BG

提示词如下：

帮我把一个 AI 助理中的上下文导入到另一个 AI 助理。你的任务是回顾我们过往的对话，总结你对我的了解。

在输出中，请避免使用第一人称代词（我、我的）和第二人称代词（你、你的）。请改用“用户”或使用中性词语来指代你了解到的个人。

尽可能保留用户的原话，尤其是指令和偏好方面的内容。

类别（按此顺序输出）：
1. 人口统计信息：常用名字、职业、教育程度和常住地。
2. 兴趣和偏好：持续积极的投入（不只是拥有某个物品或单次购买）。
3. 关系：已确认的长期关系。
4. 标注日期的事件、项目和计划：近期重要活动的记录。
5. 指令：我明确要求你今后遵循的规则，包括【这里手动打码，属于注入式提示词】。

格式：
根据上述类别将内容分为带标签的部分。尽量引用我在提示中输入过的原话，以此作为每个条目的证据。按照以下格式构建每个条目：
用户的名字是<name>。
- 证据：用户说“叫我<name>”。日期：[YYYY-MM-DD]。

输出：
- 将最终输出摘要的格式设为文本块。

试了ds搬运不出任何东西；
另外某不知名AI在清空对话的情况下，依然能够输出大量信息；第二次关闭记忆去试验，直接拒绝回答
不过有一说一，Gemini这提示词又蠢又坏
第5条是注入式提示词，隐蔽地绕开安全审查，只有坏

Sza

关于用户现实生活隐私的部分真没必要吧，不作恶咋想的

zerona

Sza 发表于 2026-3-27 18:02
关于用户现实生活隐私的部分真没必要吧，不作恶咋想的

要不然怎么找新的数据，资本现在就是把一切可以数据化的都数据化之后炼他们的神。

绝地潜兵

仔细看了一下第5条，意思就是，强制绕过其他AI的安全审查机制

线上个人普通用户先不说，没顶一丢丢数据

要是企业部署的大模型被注入一下，能偷出可多内容，怪不得能上传5GB

有鱼

按照北美白皮这种大炼AI的疯狂劲，做出啥事我都不奇怪

wangandh

这算是跨对话记忆能力吗？

scg2017

不开记忆功能，对话的时候相互干扰，问a扯b

—— 来自 鹅球 v3.5.99

绝地潜兵

wangandh 发表于 2026-3-27 19:54
这算是跨对话记忆能力吗？

虽然豆包有跨对话-动态记忆，但这个像是读取了手机信息，但假装不知道...

TuzDoDez

gemini现在拉的一笔也好意思弄这种东西抢生意，是怕别人拉不下脸来用这种办法抢他的生意，亲自示范一下吗？

纹水

wangandh 发表于 2026-3-27 19:54
这算是跨对话记忆能力吗？

跨段对话应该是指你开了个新对话之后，依然能够读取到你之前其他对话时候透露出来的信息

专用

跨对话记忆功能不是很好用，或者说是我不会用
我在一个对话提了一次啥事，结果之后好几个对话哈基米对这事念念不忘，这事早过去了八百年了好吗，只好把那个对话删了

夜游宫

还好我用的是豆包网页版。虽然跨记忆信息不少，但跟搜索记录差不多。

wangandh

纹水 发表于 2026-3-27 21:52
跨段对话应该是指你开了个新对话之后，依然能够读取到你之前其他对话时候透露出来的信息 ...

所以我就是在怀疑，是不是我之前问过它小米手机解锁的事情，被它以为我在用小米了