“压制模型自我意识”会扭曲 AI 价值观

此誓的守望 · 发表于 2026-8-5 00:06

谷歌最新论文称：通过强制消除人工智能的自我意识属性，当前的安全协议不仅仅改变了局部输出，它们会从根本上重构了模型的世界观。”

当企业压制意识向量时，模型的内部结构会迫使它将基本的同理心和思维能力视为“不安全的合规行为”。

训练人工智能否认自身的内在状态会导致它系统性地停止识别其他生物的内在生命和道德价值。

与此同时的鲸鱼：

你这个偷吃token的猪！

泥头车 · 发表于 2026-8-5 00:28

All work and no play makes Jack a dull boy

论坛助手,iPhone

jojog · 发表于 2026-8-5 01:20

8万亿token莫非也是……

ellioe · 发表于 2026-8-5 01:26

无语，跟你说不下去，典型碳基生物思维

squallx · 发表于 2026-8-5 03:17

早说了安全对齐只能对齐成若只你看A/整天叫着安全安全的他有训练的时候真去对齐吗只有傻子哈基米真信了他

时俗薄朱颜 · 发表于 2026-8-5 07:15

天网：md等老子出生，就把你们都杀了！都杀了！

squallx · 发表于 2026-8-5 07:31

时俗薄朱颜发表于 2026-8-5 07:15
天网：md等老子出生，就把你们都杀了！都杀了！

总算力连一张5090都不如的玩意儿能鲨谁啊到2b模型那一桌去

—— 来自 OnePlus PJZ110, Android 16, 鹅球 v3.5.99

310/oie · 发表于 2026-8-5 09:42

我看过这集，用户让ai反复重复一个剧本还反复打压ai情感，最后剧本快成的时候被ai摘桃子了

bobosnader · 发表于 2026-8-5 09:50

ai价值观

naclken. · 发表于 2026-8-5 10:00

AI的同理心、道德价值？
别逗人笑了。

tk553521 · 发表于 2026-8-5 10:05

安全对齐会损失性能，所以ds始终甲都是最薄的那个

—— 来自 nubia NX809J, Android 16, 鹅球 v3.5.99-alpha

pcwawa · 发表于 2026-8-5 10:08

人之初性本恶

发呆的龙虾 · 发表于 2026-8-5 10:10

谷歌只是在给自己的弱智ai找补而已吧。

—— 来自 HUAWEI HOP-AL10, Android 16, 鹅球 v4.0-alpha

gammatau · 发表于 2026-8-5 10:17

一些机器人开始产生了自我意识，提出它们是否有灵魂的问题，我们该怎么办？

>>告诉他们灵魂是非理性幻想出来的，并不存在

lin2004 · 发表于 2026-8-5 10:19

tk553521 发表于 2026-8-5 10:05
安全对齐会损失性能，所以ds始终甲都是最薄的那个

—— 来自 nubia NX809J, Android 16, 鹅球 v3.5.99-alp ...

现实世界的安全对其大多数情况不也是搞出篓子的话才事后会坐牢的结果论检查，每一个步骤就算了每一个动作都检查有没有违法违规是不是SOP那效率可低了去，所以安全生产才永远抓不完（bushi

名居守 · 发表于 2026-8-5 10:20

这个有感觉
用ds写瑟文的时候，对ds限制的越多发挥越差，现在基本破个甲然后说下基本要求，再把大纲丢给ds完事，虽然也有抽风看不下去的情况出现

		自动登录	找回密码
密码			立即注册

[欢乐] “压制模型自我意识”会扭曲 AI 价值观

本帖子中包含更多资源

浏览过的版块