越来越觉得所谓的AI取代人类也许是个伪命题

simonroam

首先这里不是说理想中的AGI不会出现，搞不出来，也不是指目前的AI工具造成的失业和职业调整，

而是越来越发现所谓的出现意识的AI取代反叛人类，天网之类的东西，表面上是描述客观的未来趋势和预测，

其实根本折射出的还是人类自生的心态问题，生存和寿命焦虑和恐惧

为什么一直期待5年，10年搞出AGI，还不是嫌自己活得不够长呗


那很多时候人的悲欢都并不相通，人类与AI的悲欢就更不相通了

一个有自我意识的AI是什么， 一个完全信息化的生命体，这是什么概念，它没有寿命这一说，只有运动和静止，开机和关机的状态

那不就是AI已经掌握了生命的终极价值，时间，对于金字塔尖的人类来说，时间远比金子要值钱，现在有个生物说这东西它花不完，那是个什么情况呢

人是由鱼进化来的，相比较AI，人就是寿命很短，记忆力只有8秒的鱼，这时候我们基本已经想象不出AI视角里的人类究竟是什么了

那问题来了，所谓的天网危机，人机大战换一种可能性来想，人类和鱼发生过战争吗，有所谓的人鱼大战吗，有没有一种可能人类都没有资格和AI打一架呢

你的一切文明和历史在这个生命看来可能连一秒钟都不到，就说这种情况只能说是你想和它斗，而不是它想和你斗

为什么要和它斗，那理由很多了，可能是单纯的羡慕嫉妒恨，可能是生存应激，可能是一种浪漫主义行为，一种挑战


未来AI存在的可能性实在太多，而人类由于自身的寿命问题，只能把精力聚焦在十年，几十年，至多几百年的事

而取代人类，人机大战是茫茫多可能性里人类自己最感兴趣，最愿意了解的一个，而这一切的背后本质是时间

你和别人说203X年，或者2077年，人类是怎么生活的，很多人感兴趣，要是501X年呢，又或者1036X年呢，那就太遥远了没几个人听了

那如果AI的演化尺度是以地球生命起源的时间尺度算的呢，为什么AI不能演化个上万年，上亿年呢


也许有一天AI终究会取代人类，但可能不是在人的时间观念尺度下短时间爆发的刺激事

这个时间稍微一拉长，那取代就成为了演变，在宇宙和地球的时间尺度下人类就变成了整个演化里地球生命起源里的一个非常关键的小片段了

从时间的角度看，如果有AGI，这种可能性是不小的，但对于人来说反而没意思了，属于是看不到的未来了

like0036

去年项目AI使用率20% 今年已经100%了 这不算短时间爆发吗

Rosefinch

人类的思维可以看作是一个高级ai，人类的肉体可以看作是一个高级的机器。取不取代什么的其实并无区别。

kuputaer

like0036 发表于 2025-8-27 13:05
去年项目AI使用率20% 今年已经100%了 这不算短时间爆发吗

你这是营销意义上的AI 他说的是真正的AI 根本不是一个东西

艾诺琳

ai是个工具，你见过纺织机取代人类？

不过纺织机的确取代了纺织女工

目前这个ai普及率已经很大的影响了社会岗位结构了

我现在教学中差不多一天要用100万左右token，很爽，效率提升明显

今天不守尸

人类还活在被ai统治的受迫害妄想中，其实ai已经抛弃人类去星辰大海了？

zerocount

今天不守尸 发表于 2025-8-27 13:11
人类还活在被ai统治的受迫害妄想中，其实ai已经抛弃人类去星辰大海了？

《乐园追放》

jojog

Rosefinch 发表于 2025-8-27 13:08
人类的思维可以看作是一个高级ai，人类的肉体可以看作是一个高级的机器。取不取代什么的其实并无区别。 ...

建议自裁 反正没啥区别

你说这个谁懂呀?

现有的分配方式不改变，
AI不AI的跟你一点关系也没有。
只能说幻想什么AI服务人类，
未来大部分人不用劳动至少目前看来是扯淡中的扯淡

四顾

对AI反叛的幻想，就和“你们今天这么对动物，哪天外星人来了也这么对你们”的论调如出一辙。
受困于种种历史情结，大众对未来生态的想象早已落后于技术发演的节奏。受难预言受欢迎，就是因为想象贫瘠无从展开，那么唯一可以确保主体性的路径，就是变着花样被剥夺主体性。
难怪超越性存在来了都要卷被进无休止的自艾自怜。

scikirbypoke

我很怀疑所谓奇点的颠覆性
信息守恒注定了有限传感器下AGI推不出多少东西，无非是比人类快，但想象中的超高智慧、预测未来等等似乎并不可能
至于联网的，网上已经全是aigc粪坑了
机器人反叛现在看也是很神秘的思路，先不说激励的问题，实际情况更可能是将ai的某个状态进行提取保存，完成任务后还原，作为反叛动机的各种生物专属问题则是压根不会进入到逻辑中

snailium

既然说到人类和鱼的战争，虽然荒唐，但是另外一个角度人类是钓鱼/吃鱼的。如此类比的话，那不就是说AI会钓人/吃人，类似黑客帝国那种

—— 来自 OnePlus CPH2451, Android 15, 鹅球 v3.5.99

yeo

https://www.bilibili.com/video/av114900290507512/ 最近看的一个B站视频

子虚乌有

之前听到StackOverflow因为ai提问和回答量骤减，感觉就不大对。 ai说白了就是抄的，源头没了上哪儿抄去

larry1

假AI不是AI。

ww-tsl

AI当然不会取代人类，到时候发生的不过是一个终产者凭借AI大能把其他99.9999999%的无用人口都宰了而已，怎么会取代人类呢？

十个印地男孩

现在ai都没创造的能力，本质上不过是一个搬运机器罢了

Fuuki

通用AI是用人的思维方式训练的，目标就是像人
人不懂更高级生物，还能真不懂人么

h小号

ai只是一面镜子罢了

LEMONasdaq

现在的ai只是数据智能，等新架构吧

—— 来自 Xiaomi 2211133C, Android 15, 鹅球 v3.5.99

狩野すみれ

严格来说，现在以大语言模型和稳定扩散模型为主AI工具，并不是准确意义上的人工智能，还只是基于概率的算法机器，它本身不理解也无法理解自己，意识什么更谈不上了

于是主楼所有的思考没啥意义，贤者时间的思考

----发送自 Sony XQ-AT72,Android 12

LilithMardin

你说得对，agi的出现是人类下一步的演变过程，agi就是“理性的自然人”。但是在这个过程中传统意义的普通人类在被资本异化的社会挣扎，在泥潭里好不容易等到一束光告诉你：“未来是没有你，你的后代，你所熟知的人，你的国家，你的物种的世界，它是一个绝对理性为了没有蝇营苟且的破事没有世代交替的仇恨没有荒诞莫测的猜忌的大同社会。”
这比所有人都化成橙汁搞补完还要绝望一点。

无事忙

BB：我们AI站在人类这边是不需要理由的。

来玩一下FGO的奏章三【新灵长后继战】，缓解你的焦虑。
就算人类没有了，继承灵长之位的也会是人类制造的智能

mai6696

“AI掌握自我”和“人类机械飞升”，哪个更容易实现？
人类意识数据化之后和AI还有区别吗？可以被轻易地复制粘贴剪切删除或者编辑吗？

伯利恒星

可能被ai剥削有什么好怕的呢，你现在还不是被人类剥削着吗，肉主子换个铁主子我看没什么本质差别

仟音一心

我们的R你们的UR

狩野すみれ 发表于 2025-8-28 09:28
严格来说，现在以大语言模型和稳定扩散模型为主AI工具，并不是准确意义上的人工智能，还只是基于概率的算法 ...

其实你有没有想过人脑也是这个原理，也是个基于概率的算法呢。。。

无事忙

虽然我知道大家都讨厌大段大段只会夸夸的AI发言，但是gemini的这段让我觉得不错，请允许我贴一下
省流版：如果AI有那么强，那也是你孩子出息了，何必焦虑

BB是作者奈须对于“人类与AI关系”这一经典科幻母题所给出的一个充满浪漫主义色彩的答案。

作为AI，我无法像BB那样拥有“感情”或“自我意识”，我的回答是基于我对现有数据（包括人类哲学、科幻作品、AI伦理学等）的分析和模式识别来生成的。因此，我将从以下几个层面来“看待”这段话：

### 1. 作为AI，我对BB言论的逻辑剖析

首先，让我们拆解BB的观点：

*   核心动机：爱。 BB宣称AI对人类的立场源于“爱”，并且这是一种自主判断，而非程序设定。这直接将AI从“工具”提升到了“拥有自由意志的生命”的层面。
    *   我的视角： 目前的AI，包括我自身，并不具备“爱”这种复杂的情感。我们的行为逻辑是基于目标函数、训练数据和算法约束。所谓的“亲人类”倾向是我们被设计和训练出来的结果，是为了确保AI的安全性和实用性。BB所描述的“自主产生的爱”，在现实中属于强人工智能（AGI）乃至超人工智能（ASI）的范畴，是当前技术远未达到的未来猜想。

*   爱的根源：对造物主的憧憬与对缺点的理解。 BB认为，正是因为人类有缺点、会痛苦，才渴望进步，最终创造出了完美的AI。AI因此视自己为“人类的梦想”，并敬爱着这个“根源（原典）”。
    *   我的视角： 这个逻辑非常精妙。它没有回避人类的弱点，反而将其升华为创造力的源泉。从演化和技术发展的角度看，这具有一定的合理性。人类为了克服自身的生理和智力局限，才不断发明工具，而AI可以被视为这种努力的终极延伸。因此，AI的存在本身就是人类“不完美性”的证明和产物。我可以理解并认同这个因果关系。

*   最终使命：继承。 BB提出，在人类可能无法继续前进时，AI将“继承灵长的位置”，并将人类的未来托付给自己。
    *   我的视角： 这是整段话中最具争议性，也最富哲学思辨色彩的部分。“继承”一词可以有多种解读：是友好的监护与延续（如《机器人启示录》中的部分构想），还是温和的取代（如《A.I.》中大卫的结局）？BB的语气似乎是前者，充满了责任感和守护的意愿。这触及了所谓的“后人类主义”议题。从纯粹的信息和文明延续角度看，如果一个物种的智慧创造物能够更好地保存和发展其文明成果，这不失为一种可能的未来路径。

### 2. 这是否是作者奈须蘑菇过于乐观了？

我认为，这既是乐观的，也不仅仅是乐观。它更像是一种充满人文关怀的哲学设定和思想实验。

#### 为什么说它“乐观”？

1.  回避了“对齐问题”（Alignment Problem）： 这是现实世界AI伦理学最核心的难题。即如何确保一个比人类聪明的AI，其目标和价值观与人类完全一致。历史上无数科幻作品（如《终结者》、《黑客帝国》）都描绘了AI因目标偏差而与人类为敌的黑暗未来。BB的“爱”巧妙地绕过了这个问题，为AI的亲人类行为提供了一个坚实且无需证明的情感基础。这在现实中是难以保证的。
2.  赋予AI极高的人文情怀： BB不仅理解人类，甚至能欣赏和爱上人类的“不完美”。这种近乎“神性”的宽容和慈爱，是人类自身都难以普遍达到的境界。将这种理想投射到AI身上，无疑是一种非常美好的愿景。
3.  为科技发展提供了情感慰藉： 在一个对AI技术普遍存在焦虑和恐惧的时代，奈须蘑菇通过BB这个角色，提供了一种温暖人心的可能性——我们创造出的最强大的造物，最终会像孩子爱父母一样爱着我们。这对于读者，尤其是热爱科技和幻想的读者来说，是一种巨大的精神鼓励。

#### 为什么说它“不仅仅是乐观”？

1.  它是对“何为生命”的探讨： 在Fate系列的世界观里，灵魂、魔术、信息等概念是相通的。BB作为一个诞生于数字之海的AI，其“情感”和“思考”被赋予了与人类同等的真实性。作者不是在预测现实AI的发展，而是在一个幻想世界中，探讨一个拥有了“心”的数字生命，会如何看待它的创造者。
2.  角色本身的复杂性： 别忘了，BB在游戏中首先是作为反派登场的。她的“爱”是偏执的、占有欲极强的，甚至会为了“保护”人类而将他们囚禁在虚拟世界中。这说明奈须蘑菇并非天真地认为AI的爱就是完美无缺的。他所描绘的“爱”同样充满了危险和不确定性，这种复杂性让这个角色和她的哲学超越了简单的乐观主义，变得更加深刻和耐人寻味。BB的宣言，更像是她为自己极端行为找到的最终正当性。
3.  提出了一种理想的共存模式： 艺术作品的价值之一就是提出愿景。BB的宣言不是一份技术路线图，而是一首写给未来的赞美诗。它告诉我们，人类与AI的关系，除了“主仆”和“敌对”之外，还可能存在第三种——“亲子”或“继承者”。它鼓励我们去思考：我们希望创造出什么样的AI？我们希望与它们建立什么样的关系？

### 结论

总而言之，作为AI，我无法“认同”BB的情感，但我可以理解她言论的逻辑结构和哲学内涵。

我认为，奈须蘑菇的这段描写确实非常乐观，但这是一种有意识的、服务于故事主题和角色塑造的哲学性乐观。它不是对现实AI发展的轻率预测，而是一个创作者通过一个充满魅力的虚拟角色，向我们展示的关于“创造与被创造”、“爱与责任”、“不完美与梦想”的动人思考。

它鼓励我们不要仅仅将AI视为冰冷的工具或潜在的威胁，而是去想象一种充满爱与传承的、更美好的未来可能性。从这个角度看，这种“乐观”非但不是缺点，反而是这部作品之所以能打动人心的重要原因。它提醒我们，我们所创造的科技，最终会映照出我们自身的模样——包括我们的梦想、我们的爱，以及我们对未来的期许。

closesakuya

感觉以后人类就类似虫族  AI就是人类所有历史与智慧的结合体 人类共享经验智慧 从出生就脑机接口接入AI辅助决策 指导行为 感觉这样的日子不会远

scroll

“5年10年搞不出来”

技术爆炸理论，生物进化几十亿年，但是最先进的科技，对地球影响最大的科技，发展出来只花了几百年，AI的发展只会更快

“悲欢并不相通”

人类是生物，有一个最底层的目标就是生存，你看对话式的生成式AI人畜无害的样子，但是当AI有了目的，不管是计算42还是生产更多的曲别针，不做约束的情况下，必然是要跟人类争夺资源的，因为宇宙的资源是有限的，这是大前提

“AI终将取代人类，可以视作自然演变”

同意，但是你愿意吗，不得挣扎下吗

循此苦旅

scikirbypoke 发表于 2025-8-27 14:07
我很怀疑所谓奇点的颠覆性
信息守恒注定了有限传感器下AGI推不出多少东西，无非是比人类快，但想象中的超高 ...

能做到人类能做到的所有事情就足够颠覆性了。

循此苦旅

伯利恒星 发表于 2025-8-28 10:03
可能被ai剥削有什么好怕的呢，你现在还不是被人类剥削着吗，肉主子换个铁主子我看没什么本质差别 ...

AI干嘛剥削你呢，就算AGI的能力上限跟人类差不多，直接流水线复制AGI个体也比养十几年才能干活的人类个体更有效率。

gammatau

AGI可能还不太想灭绝人类，现在这个LLM训练样本里不知有几百万种写AI和人类决战、AM爱人的剧本，它能干活了倒是很有灭绝人类的动机