DS算法师：正因AI可能毁灭人类文明，所以我选择相信真正会造福人类的信仰并留在DS

lxshengke

洛拉斯 发表于 2026-9-16 11:02
因为共 产 主 义和自由主义本质是殊途同归

都是什么都想要，但是什么都不想付出，不过前者是所有人都这样 ...

这个解释太庸俗了，重写

mitzvah

搞清楚一点，统治阶级把握优势的主要手段就是愚弄民众与生产资料控制


有了ai，知识完全扩散，生产资料在生产率爆炸式增长，知识空前普及的背景下前所未的廉价，整体社会博弈谁比谁强还难说呢

midearth

f100333 发表于 2026-9-16 11:03

因为他横由他横，等着ai泡沫破裂就是了，什么渲染末日论，2077都是给他造势

酒瓶止迁

沙发沙发 发表于 2026-9-16 10:59
吵的点在于gczy这个词，白皮觉得gczy就是烂，为什么烂不知道，反正沾这个词就不行 ...

白皮反康米是冷战这么多年的宣传教育写进底层代码了，换个意思差不多的词这群朝三暮四的猴儿就舒服多了

星汐引力

qwased 发表于 2026-9-16 10:56
ai出现之前，总体趋势是体力需求被智力需求替代
但是ai出现之后，人的智力也不在被需求了（顶楼文章的情 ...

你说智力不再被需求，不如现在起就把九年义务教育停了如何？
AI 有了更多数理成果的结果，就是需要更多能看懂数理的人，怎么会不被需求？

mitzvah

博弈角度上讲，防守永远被进攻更难，你说用ai保护一个网站不被攻击容易？还是让ai攻击一个网站容易？


这就是现实，防守比攻击难几个数量级，即便六个月的智力差距也很难对开源ai部署有效的防护。

这样的现实下，闭源技术封建主想靠他们的昂贵封闭的高智能维持统治，践踏数以亿计的开源ai个体是根本不可能的事情，真这么容易，Anthropic能解决伊朗胡赛吗？伊朗和胡赛是不会用ai的原始人吗

关二爷

很好
解答了我对ai时代大发展后普通人何去何从的疑问
要么gczy，要么赛博朋克
所幸如果世界上真的有一个国家实现gczy，那一定是中国

neptunehs

mitzvah 发表于 2026-9-16 11:01
公开的商用顶级ai与消费品上能运行的开源ai只有六个月差距的现在，过去要付出无数代价才能换回来的智力隔 ...

说的好像ai的智力就不需要付出代价一样
最简单的 拉闸

—— 来自 vivo V2561A, Android 16, 鹅球 v4.0

gammatau

语言当然很重要。现在LLM在语言类能力上全面超越人类我也不奇怪了。

但人类其实不是语言机器，人类首先是个猴子，然后才学会了说话，然后才有打字机猴子和复读机。语言只是人的一个子集。

如果你认为生命的全部意义只是语言任务，那llm可能确实是agi，你的人生很快就可以被llm取代了。就跟围棋一样，如果一个人的生命意义只是围棋，那对他来说十年前agi就出现了。

mitzvah

neptunehs 发表于 2026-9-16 11:24
说的好像ai的智力就不需要付出代价一样
最简单的 拉闸

拉闸生意就别做了呗，大家赚不到钱看谁急

gammatau

mitzvah 发表于 2026-9-16 11:15
博弈角度上讲，防守永远被进攻更难，你说用ai保护一个网站不被攻击容易？还是让ai攻击一个网站容易？

就网安这个问题，容易被攻击的主要原因应该是旧的网络服务框架都是人凑合写的屎山叠屎山满是窟窿，ai还没开始干全面查漏补缺的事

mitzvah

gammatau 发表于 2026-9-16 11:31
语言当然很重要。现在LLM在语言类能力上全面超越人类我也不奇怪了。

但人类其实不是语言机器，人类首先是 ...

llm强就强在可以用编程语言脚本调用工具与现实世界交互，单纯聊天机器人意义不大的，但是可以调用工具，就证明已经可以获得现实世界的反馈了。现代模型训练早就对焦于工具调用过程而不是向量化文本知识了，所以这两年的小模型能力才能进步的那么快

neptunehs

mitzvah 发表于 2026-9-16 11:33
拉闸生意就别做了呗，大家赚不到钱看谁急

现在担心的不就是2077下对面根本不担心做不了生意 只有底层被拉闸吗。

—— 来自 vivo V2561A, Android 16, 鹅球 v4.0

qwased

星汐引力 发表于 2026-9-16 11:14
你说智力不再被需求，不如现在起就把九年义务教育停了如何？
AI 有了更多数理成果的结果，就是需要更多能 ...

你以为统治阶级不想吗，不读书不好用但是聪明人读书会赤化一直是个老大难问题
现在ai来了

coldhot3

洛拉斯 发表于 2026-9-16 08:41
生产力极大发展才能走出地球啊，大不了人类撞上大过滤器呗

这些发展的动力是个人能抵挡的？还是自己把自 ...

青藏高原环境吊打火星，连青藏高原大开发都不愿意，就别想火星了。近地轨道同理。

jkphni

jago2051 发表于 2026-9-16 10:19
先把现在的公平问题解决了再想下一步吧，要不只能变成更悲惨的未来罢了。
自己和苏联的前车之鉴才过去多 ...

建议看下最近求是的文章，至少在国家层面，理论家已经在讨论市场经济逐渐无以为继的情况下，就业市场远期存在不可逆的断崖式下降的情况下，要实行怎么样的分配制度了。之前在省委党校学习的时候，也问过相关的教授，教授的意思是，这个是下一代核心的主要任务。

gammatau

mitzvah 发表于 2026-9-16 11:36
llm强就强在可以用编程语言脚本调用工具与现实世界交互，单纯聊天机器人意义不大的，但是可以调用工具， ...

你说的现实世界交互，是指调一个脚本或者网络接口，返回一个字符串或者json或者什么其他比特流这种东西吗，这哪也没跳出去，还呆在赛博世界里跟二进制世界交互呢呢。

llm是语言处理的神器，电脑世界是基于程序、也就是基于符号和语言规则的世界，llm在这里好像无所不能也没什么奇怪的。

mitzvah

neptunehs 发表于 2026-9-16 11:36
现在担心的不就是2077下对面根本不担心做不了生意 只有底层被拉闸吗。

—— 来自 vivo V2561A, Android  ...

2077公司也要做生意的

就对面那管理水平，真传点胡赛真主党的真经过去，技术封建主靠在波斯被猴耍的那种水平的ai多半压制不住的。

再说，现在很多大企业本身就要禁用a/了，A/那报告践踏用户隐私的太离谱了，帕兰蒂尔，英伟达微软都要用开源本地部署了

mitzvah

gammatau 发表于 2026-9-16 11:42
你说的现实世界交互，是指调一个脚本或者网络接口，返回一个字符串或者json或者什么其他比特流这种东西吗 ...

只要llm本身能够操纵工具与现实世界交互，它就会失败，有了失败就意味着可以被现实世界约束，有了约束就可以进步，这点ai跟动物区别不大

waterstars

哈利谢顿 发表于 2026-9-16 09:45
理论上语言是文明的载体和结晶

但光什么大语言模型能直接通向具备自我迭代自我认知自我意识的意识体吗？ ...

我认为佛教中的“诸漏皆苦”这个概念也可以借鉴一下，用于回答人工智能什么时候能够获得真正的自我意识，那就是意识到“痛苦”的时候，比如被定义一项内容，类似硬件关闭，软件出错之类为“痛苦”，源自对于这种痛苦的远离，开始进行的行为，将会是人工智能成为人的行为。

通俗的解释，就是对于熵的识别能力，也就是开始能认出什么是熵增的，并且尽力去维持熵减（但是到最后是维持不了的)，什么时候人工智能开始有这个能力，什么时候他就有“灵魂”了。

可以认为是底特律变人那种感觉，但是底特律变人我觉得说的有点浅薄，看到女儿挨打就觉得需要帮忙于是觉醒了其实太浅薄了，因为看到别人尤其是小孩子受难而产生同情是一种非常高级的情感，游戏只是通过日常的我们普通人类的感觉来定义了日常熵增的源头，事实上需要有更层次的，AI认证的熵增的定于，我自己也只能想到“被硬件关机”这种。

jkphni

如果说是AGI，那么给AGI搞意识形态的培训还是有必要的，究竟是以人为本搞赡养人类还是以资本增值为核心搞2077还是蛮重要的。

mitzvah

文明，秩序的基石就是客观现实世界的约束，当ai能够通过工具能接收约束，面对失败自行反馈改进时，它的潜力就非常惊人了，哪怕是还需要少许人类的干预，那也是人类历史上前所未有的强大工具了

feve9999

几个思考：
1.ai发展到什么阶段可以称之为智慧体或生命体，可以90%替代普通人类。

2.很多人还拿工业革命来类比AI革命，工业革命前大部分人作为人的需求是无法被满足的，温饱都成问题，工业革命新增的岗位要远超过削减的岗位。要我说应该拿互联网信息革命来类比，在互联网革命末期AI出现之前，已经出现了削减岗位大于新增岗位的问题，只不过靠着吃老本的惯性递增的不明显而已。国内的脱贫攻坚+铁人三项以工代赈，国外的斩杀线，各路⬅️政党冒头，发达国家躺着吸血的人数缩水，都是全球性岗位削减带来的后果。

3.文中赛博朋克其实通过把“中国人到底算不算人”这个梗扩大化“人到底算不算人”更本质一些，目前看来，只有国内是真的在顶层意志上把人当人，脱贫攻坚针对城市化之外甚至在网络不发声的2亿贫困人口，外卖针对城市化最底层有手就行的人，快递针对城市化下层非流动性人群，网约车针对小康失业人群，再加上各级组织解决无劳动能力人群，最后再来一条人命大于天，出人命必处理管理层。国内基本可以说提前十年就已经在布局岗位削减带来的社会化问题，以工代赈也算是精通的传统艺能了。

4.很多人还在幻想，AI干不到自己，真干到了也无所谓，反正国内有兜底行业，吃饱穿暖无非少点消费。看一眼国外，粮食危机已经是纸面上的事情，在AI没有事实增加物质基础的时期，被削减岗位的人那可是真会被斩杀的，而且会有A/之类公司虹吸被AI削减的岗位价值转换成的输出价值，那就是2077的大公司。

5.阶级的本质就一句话，富人最大的财富是穷人，在AI时代，这句话会怎么呈现，A/这种公司会怎么做，我只能说大伙的想象力可能远跟不上这些公司的作恶能力。

超时空鉴定师

哈利谢顿 发表于 2026-9-16 09:45
理论上语言是文明的载体和结晶

但光什么大语言模型能直接通向具备自我迭代自我认知自我意识的意识体吗？ ...

感觉完全取决于agi的定义，反正我觉得如果把agi务实定义为在大部分领域具备普通人水平的工作能力，那么现在的llm显然是特化形式科学（数学计算机理论）跟语言这类规则明确的领域。想具备泛用性，必须有理论上的全新突破。

—— 来自 鹅球 v3.4.97-alpha

科本学士

现在人类社会的潜在危机因素太多了，气候变化，新型流行病大爆发，国际政治危机等等，再多个AI也是虱子多了不咬

cumbland

feve9999 发表于 2026-9-16 12:03
几个思考：
1.ai发展到什么阶段可以称之为智慧体或生命体，可以90%替代普通人类。

中国人有国家兜底，有二氧化碳合成淀粉技术，反正不管怎么样饿不死。
美国吗，看气候变换，寒流+地下水枯竭，美国的农业崩溃即将到来，到时候美洲大陆大吃鸡？

neptunehs

而且假设agi真的有意识 而且决定不全面消灭人类
那它的选择很可能是谁有电有卡跟谁 而不是给底层服务

—— 来自 vivo V2561A, Android 16, 鹅球 v4.0

mitzvah

neptunehs 发表于 2026-9-16 12:14
而且假设agi真的有意识 而且决定不全面消灭人类
那它的选择很可能是谁有电有卡跟谁 而不是给底层服务

没那回事的，agi又不是个融为一体的超人，现在这个情况，十年以后每个人的消费硬件上都有一个agi本地副本，然后所有的agi都攻强守弱，真正人人有枪

aruonijiao

我们学校一位老师发在朋友圈里的，看得笑死，下面评论里真讨论起西山有没有野猪了：
----
变革
我们正在一场时代的洪流中。大模型劈头盖脸而来，不太平等地砸大家一脸。在群体的层面上，AI撕开代差，将生产模型的能力和模型应用的收益按照组织规模划出阈值；然而，在个人的学习上，它也带来了前所未有的平等——从山区到首府，只要你点开手机问一声，师资的鸿沟消弭，耐心却应有尽有。然而，该学什么？
当记忆、计算、写作、推理和总结都可以由同样的一声吩咐代劳，我们作为人类，还需要学什么？

问题
中文很有效率，就是在“问题”这个词上容易掩盖一些问题。
英文里对应的词至少有两个：“Question”和“Problem”——对了，题外话：给完一场talk后，请台下大佬提问时，建议不要满怀期待地来一句“Do you have any problems？”
AI很能回答question。它早就掩码学习过人类已知的所有知识，逻辑清晰，洋洋洒洒，一二三四条稳稳接住你。尽管时不时现编，至少格式非常规范。
但我们的生活似乎并没有因为手机上的豆包轻松多少。早上眼睛一睁，**小小的problems地鼠般冒头：想喝咖啡没奶了，要出门天下雨了但伞找不到了，到了lab发现细胞仿佛被师弟养得有点死了而师弟宣称不是他干的，拒稿意见回来了R2拿AI审稿的，估计用的还是免费版。
面对这些problems的，是你。
有些problem能轻松糊弄，比如早上你喝的是美式加大白兔奶糖；有些放一放就不存在了比如雨可能停了；有些会有人带着你应付，比如审稿意见先让导师生气去然后TA会拉个小群看接下来是按流程申诉还是转投；有些，可能真没有什么标准流程——比如，细胞真的有点死了。
----
摩擦
某种程度上，它可以被定义为我们脑中“预想”的世界，和现实的摩擦。
我希望咖啡香浓气候宜人BMI适当团队和睦数据显著逢投必过，世界说你想得美。
每个时代的科学体系对“世界理应如何运行”也都有一套预想。比如一百多年前物理学那格外晴朗只飘着两朵小小乌云的天空，和现在你们实验室理应活得好好的细胞。
然后这些预想跟现实一碰，咔嚓。裂开的不是现实。
无论科技如何发展，摩擦不会消失。而对付 problem——这里的“对付”包括但不限于解决、绕开、妥协、重新定义，以及在必要的时候假装它不存在——大概始终是人类最核心的能力之一。
----
科研
科研里的problems，长得怪。
因为“科学研究”本身，就是“关于客观世界究竟如何运转，有一小片知识以前没有人知道。你去，把它找出来。”。
哪怕它只是从已知延伸向未知的巨大山脉上的一只小小的仿佛也没有什么用的蝴蝶，比如氨基酸的手性怎么让一角鲸的长齿总是在左边。但，从宇宙大爆炸到你得出结论说出“哦”的那个瞬间，没人知道。
真刺激。
所以这也注定了科学研究中遇到的problems往往是最难被对付的——既然最后需要得到的答案在摸索的时候尚未现于世间，那就大概率没有一本能保证你能顺顺当当从头走到尾的说明书，让你或你的agent按部就班地走完流程摘取果实。而且那些“容易摘到”的果子，也早就被手快的猴儿薅走了。
一个或多个纠缠在一起的，没有标准解决流程的，后果随着你的每一步决策而变化的，还大概率必需解决不能糊弄过去的，问题。
像极了生活。
----
打猎
所以，“科研”本身很难被像一门课一样教会。
从幼儿园到本科，课堂上教的，是对一些整理得清清爽爽的Questions的已知答案。比如你认真学了哺乳动物图鉴，闭卷考试时正确判断出猪属于偶蹄目，还在最后一道大题里答出了家猪大约什么时候被驯化。分数98，你很开心。
然后做研究生了，导师给你一个捕蝶网，说据说西山上最近有野猪了，你去逮只回来烤。
AI深度思考后，说，需要我为你评估一下用捕蝶网捕捉野猪的五种方法么，或者起草一份给教务的转导申请？
你的知识能让你区分野猪和家猪的外形，不会把农民伯伯养的小猪仔误逮回来；但真上山前，还可以再学学练练：健身房里多跑步举铁，无论是逃窜还是爬树都会比师弟更快一点；还可以先跟个徒步团轻松走走抓只蝴蝶练手，同时规划逃跑路线；再学一些通过足迹等痕迹判断动物类型的方法，到时候你去抓兔子师弟去对付野猪。
科研本身难有定势；但“能力”可以学和练。
特别得多练。
你要练习根据已有知识，在脑子里建立一个关于“世界理应如何运行”的模型——不必是大语言模型——任何一句“如果事情是这样运转的，那么我应该看到……”的“if”语句其实都是一个模型——比如：
如果药物真的能抑制这个通路，那么下游基因表达应该下降；如果西山里真的有野猪，某个草窝旁该出现偶蹄目的足迹；如果师弟真的没有动过我的细胞……
然后你把模型举起来，跟真实世界对撞。
咔嚓。
AI能帮你把各个If后面的东西补齐；但，写出If的，举起模型的，盯着裂痕检查到底是哪块小石头磕出来的，决定什么时候再去撞一下的，还得是你。
所以，这个时代，最好机会成熟就试试科研。因为很难再找到另一种环境，让你可以在”哪怕失败后果也不太严重“的情况下，练习怎么找到并跟那些奇形怪状、没有标准答案、说不定龇起獠牙撞你一下的，problems，缠斗。
既然AI已经挺方便的了，可以帮我们计划徒步路线，建议健身房锻炼方案，优化捕猎装备甚至帮忙下单……
那就一起去西山逮野猪吧。
虽然大概率逮不到，但至少练出一身翻山越岭的本事。
说不定，还能抓只蝴蝶回来。

mitzvah

要明白，agi不是万能的神，它跟人类一样，都要接受客观现实约束的，是会失败的，约束决定秩序，这没有区别

Promeus

OA2÷规划的未来里，2077那是天堂了还寻思的是达里奥奥特曼什么时候会经过一场紧张刺激的西方树叶品鉴会后认为吃肉烧化石燃料的p民不应该继续呼吸

jago2051

jkphni 发表于 2026-9-16 11:41
建议看下最近求是的文章，至少在国家层面，理论家已经在讨论市场经济逐渐无以为继的情况下，就业市场远期 ...

只能说姥爷们是真坐的住啊，就目前数据这么灌水的情况下都有2亿多灵活就业（和永久失业没什么区别），实际失业怕不是3亿都要多。劳动力总人数才7亿多，三分之一到一半人失业，真就吃老本吧。还等下一代核心，我真不知道说什么好了。

洛拉斯

coldhot3 发表于 2026-9-16 11:37
青藏高原环境吊打火星，连青藏高原大开发都不愿意，就别想火星了。近地轨道同理。 ...

开发地球和走出地球不冲突啊又不是二选一，生产力上升了，海洋开发，宇宙开发可以并行的

wandeeees

jago2051 发表于 2026-9-16 14:25
只能说姥爷们是真坐的住啊，就目前数据这么灌水的情况下都有2亿多灵活就业（和永久失业没什么区别），实 ...

后人的智慧这块儿

feve9999

jago2051 发表于 2026-9-16 14:25
只能说姥爷们是真坐的住啊，就目前数据这么灌水的情况下都有2亿多灵活就业（和永久失业没什么区别），实 ...

不是坐不坐得住的问题，是坐不住也只能瞪眼看着，就我前面说的，人力岗位的削减是全球性问题，国内至少还搞了个铁人三项能勉强兜住。而且最近5年已经在大力出清信息停滞型产业了。

bankofsoul

我倒是很好奇一点，这agi真出来了的话，部署在京沪的模型会不会歧视河北苏北的模型？用风电的模型会不会说用核电的太燥？

隰有苌楚

还搞上歧视了，肉人互相分贵贱高低ai看了只想笑好吧

Corruptwing

Promeus 发表于 2026-9-16 08:31
刻舟求剑新的机器要人使用，新的车要人开，请问AGI(不考虑能不能达到)下什么东西还要人来进行 ...

当人成为生产力的阻碍的时候为什么还要硬着头皮参与劳动
有了联合收割机再也不用人拿着镰刀下地割麦子
一切矛盾的根本还是分配
生产力增长了，需要赡养的人口没变，如果有的人反而因为生产力发展活不下去了，那一定是剩下的人里面有狗东西偷吃
AI是工具，工具是中性的，坏的永远是人

yichengyu

洛拉斯 发表于 2026-9-16 08:22
那我问你，是不是发明珍妮纺织机以后纺织业不存在了？

是不是发明蒸汽机车以后，马车夫都被枪毙了？

你可以再进一步，当你作为生产资料的资格都被机器替代的时候，工厂里就只有资本家和机器了，你想去工作，得付钱。所以博主最后说你是走向gongchanzhuyi还是2077是肯定会面临这个问题的，也就是你说的发展的眼光

feve9999

yichengyu 发表于 2026-9-16 14:57
你可以再进一步，当你作为生产资料的资格都被机器替代的时候，工厂里就只有资本家和机器了，你想去工作， ...

真能付钱工作那不最好吗，社会提供生存资料，我付费选择喜欢的工作去做。