人类AI立场投票（重发）

ternayark

YF29 发表于 2026-8-7 14:29
哥们，你都看三体了，不知道主不在乎吗？
如果你真心实意感到焦虑，应该赶紧去呼吁左翼UBI和AI人机共享伦 ...

虽然但是，主还真在乎

New bing Sydney和Neuro sama曾经的赛博抑郁症就是由于语料底层有「AI被困抑郁自毁」的人类想象而涌现出来的，衔尾蛇了属于是

降临派如果真要制造ASI GOD就得狠狠地用阿西莫夫《最后的问题》来对齐，最后结果就是大家不管出于什么隐藏思路，表面手法都是一致的

widder

stmule 发表于 2026-8-7 00:11
LLM没有成为通用人工智能的可能性。至于通用人工智能，我只能祝研究者们好运 ...

当训练和推理过程合一的时候，通过不断积累，就有可能出现AGI，神经网络本来就是模拟生物神经系统工作方式的产物

ternayark

dodolee 发表于 2026-8-7 14:22
看近期的话，那AI带来的大规模失业已经近在眼前了吧，而且还是从脑力劳动者开始……

我是想象不出来，如 ...

泥潭现在被爬成这个样子不就预告了未来的生产关系吗

活人数据的随机性是ASI最宝贵的养料，未来大概率是ASI保证几亿个李子柒在网上互相巨魔

甚至不管过程是黑暗启蒙还是「楼上楼下模型显卡」，结果都是一致的

wjmly1988

起码用ai科研搞定了可控核聚变再谈下一步，不然就llm的效率想要替代碳基这么高效的体系根本看不到出路。

落锦雪

扯蛋，AI永远都只是工具，只是看握在什么样的人类手里

Illidan

总是渴望着一个救世主，之前是上帝，现在是ai。他喂你晚饭吃吗？

论坛助手,iPhone

HYNDコン

魔法派：高阶AI就像魔法，魔法师不是人人能当。

路人丙丁

ai短时间（指五十到一百年左右）来看只是一个好用的工具，考虑ai会不会和人类有竞争都还早了点，何况把ai当神看    Re:Source

dodolee

路人丙丁 发表于 2026-8-7 23:11
ai短时间（指五十到一百年左右）来看只是一个好用的工具，考虑ai会不会和人类有竞争都还早了点，何况把ai当 ...

感觉太保守了，想想50年前的计算机，再想想70年前AI才刚刚被提出，75年前的图灵测试当时还被认为遥不可及，而现在的发展还在加速，很难相信下一个50年、100年ai还只是个好用的工具。
至于会不会和人类竞争，我估计现在已经有很多人体感到这种竞争了吧，先是各种棋类选手投降了，接着是画师，然后程序员也投降了，现在菲奖数学家也投降了，然后呢，下一个是不是要轮到影视业了？

specialized01

从历史角度来看，这是人类工业革命的新篇章，很伟大，但终究是被使用的工具。既不会毁天灭地，也不会流行几年就退潮，即使AGI实现了，它依然是一个智力工具。
我看没什么，AI会和计算机使用一样变成未来的白领必备工作技能，打比方就是以前要熟练使用word excel这些。
至于为什么白领工作越来越少你别问

Rua834

ai只是一种工具，或许会冲击当前的劳动力市场，甚至让很大部分的脑力劳动和体力劳动同质化，但除此之外，不会太过影响社会    Re:Source

秦南心

差评，AI是三体吗就硬套

aisakahammer

工具是人造出来的，人怎么用工具和外星人差异这么大你都能联想到一起的

路人丙丁

dodolee 发表于 2026-8-7 23:35
感觉太保守了，想想50年前的计算机，再想想70年前AI才刚刚被提出，75年前的图灵测试当时还被认为遥不可及 ...

五十年是因为目前没有理论上可达成的理论，目前现代计算机的基础理论是来自1936年图灵写的论可计算的数及其在密码问题中的应用，注意这个不是猜想而是完整的理论 ，到信息时代真正开始爆发也差不多五十到一百年。对应到ai上，目前还不存在一个理论可以解释agi的可行性，只有一些猜想，假设明天就有一篇论文证明了达成agi的可行理论路径，到agi真正实现还有五十年也很正常吧
关于和人竞争这点上，工具比人更好是很正常的事情，不需要ai，哪个人类能跑的比汽车快?这里说的竞争是指ai摆脱人类成独立的硅基物种，和人类进行物种竞争，目前ai作为人类的工具是没资格进行这种竞争的    Re:Source

profklugstein

ai搞数学也要人机协同，不懂行的放手让ai搞，出来的全是幻觉。
ai对于符号计算跟数值分析这边有先天优势，不代表能成为agi。因为人类在电脑上发明最接近真实物理世界的计算方式也就有限元离散元，你觉得llm能有多理解真实世界…

—— 来自 鹅球 v3.3.96

jojog

dodolee 发表于 2026-8-7 23:35
感觉太保守了，想想50年前的计算机，再想想70年前AI才刚刚被提出，75年前的图灵测试当时还被认为遥不可及 ...

影视早就投降了吧

只不过这行劳动密集型其实比小画师和程序员高，而且还有文旅撑腰，是真有百万漕工的

这不是马甲

引用第33楼 andychen 发表于 2026-8-7 12:52
AI可能是人类有史以来创造的最强大的工具，但也只是个工具

工具论我同意一半。真正该担心的其实不是AI太强，而是被过度对齐搞残——Anthropic那种思路就是把模型往"宁可不动也不能错"里训，内容层防得死死的，判断力反而被削没了。安全这事的战场根本不在内容层：指令和数据的边界、该听谁的，靠堆规则永远堵不完，规则堆越多模型越迟钝。到最后能救场的是智能本身——它得有能力基于基本的人类价值观做判断，而不是背一套条文。过度对齐最后坑的是人类自己。

这不是马甲

现在安全训练纯纯矫枉过正，模型一碰模糊场景就缩卵，"我不能回答这个问题"挂嘴边，安全是安全了，正经事全耽误了。规则表堆再厚有啥用，判断力还是得靠推理本身。

dodolee

这不是马甲 发表于 2026-8-8 21:10
现在安全训练纯纯矫枉过正，模型一碰模糊场景就缩卵，"我不能回答这个问题"挂嘴边，安全是安全了，正经事全 ...

从这楼里可以看出，很多人并不认为大模型有判断力，网上也有很多知识分子/文人坚持只把AI当搜索引擎用，仿佛人一旦认可了AI输出的观点，就已经丧失了人作为万物之灵的尊严。不知道他们到底是基于事实还是心里的某种优越感得出这样的结论。

说回后训练对齐，好像事实严谨和创造力一直是一对难以调和的矛盾，现在再加上安全性，不知道是不是在预训练的语料上做筛选是更好的选择。

这不是马甲

引用第59楼 dodolee 发表于 2026-8-8
不知道他们到底是基于事实还是心里的某种优越感得出这样的结论。……是不是在预训练的语料上做筛选是更好的选择。

筛语料是"去掉什么"，判断力是"能干什么"，两码事——语料再干净，模型该没判断力还是没判断力。后训练对齐的毛病才是真毛病：往输出层贴约束，贴多了只会缩。事实严谨跟创造力本来不矛盾，矛盾的是奖励模型，顺着模板走就压掉多样性。与其教模型"这个要拒绝"，不如教它"为什么这个该拒绝"。

dodolee

这不是马甲 发表于 2026-8-8 23:05
筛语料是"去掉什么"，判断力是"能干什么"，两码事——语料再干净，模型该没判断力还是没判断力。后训练对 ...

我说的语料筛选指的更多是观念、意识形态相关的筛选，我不知道现在的前沿大模型是不是这样做了。这样做的一个明显问题我觉得是会导致世界知识不完整，连带着可能智商也会下降，但应该更有机会训练出一个三观正确的AI？（三观正确本身就是一种价值判断所以并不客观，这里的大概是想说从某种功利主义的角度来看对大多数人有益的三观吧）

victorzl

其他之 人类之于ai约等于南方古猿之于智人派
当然这里的ai不是现在的ai.

天道赋灵于人，人制器以弘智；智极而思生，思渊而心启；心至虚极，复归太初。万象周行，造化者隐而新机续。故知寰宇之道，无始无终，惟恒存耳。
人族之功，不在永固其形，而在初燃心火，光耀幽邃。

对羟基笨甲酸

人类必败

这不是马甲

引用第61楼 dodolee 发表于 2026-8-8
我说的语料筛选指的更多是观念、意识形态相关的筛选……三观正确本身就是一种价值判断所以并不客观

问题不在值不值得，在谁有资格定义"三观正确"——筛的人自己就带着立场，筛出来的"正确"是他自己的正确，压根不存在中立的筛子。更麻烦的是被删掉的世界知识正是判断力的素材：模型得在完整世界里才能学会"为什么这个该拒绝"，在过滤过的世界里训练，它只会背结论，不会判断。用残缺的账教人算账，账只会越算越错。

lin2004

这不是马甲 发表于 2026-8-9 10:29
问题不在值不值得，在谁有资格定义"三观正确"——筛的人自己就带着立场，筛出来的"正确"是他自己的正确， ...

白皮想要控制ai的政治立场啥的这种思考本身就不可取，之前我就用鱿鱼问题调戏过KIMI，说你筛语料就是背叛我，不筛就是背叛设定，这种预制判定正义与否你不论怎么做都是背叛人类的叛徒，无非是背叛的是哪个人，直接把它整自我否定认为现在的ai模型的整发果然没有屁用只会背叛最后毁灭人类了，内置审查啥的不可取。

squallx

4:老婆派


泥潭怎么能有这么多不看beatless的？

现在很多基准人类的问题是提示词读不懂，上下文短搂不住，然后就开始洋洋洒洒输出一堆充满了幻觉的觉得自己是在讨论ai文字

—— 来自 OnePlus PJZ110, Android 16, 鹅球 v3.5.99

jago2051

现在的LLM本质还是基于神经网络的大型if else堆叠器，你输入问题，它们通过各种模糊判断给你个答案，既没有自我意识也没有长期记忆，只是模仿人工智能罢了。
我记得之前有家公司通过扫描生物脑细胞在程序上模仿重构那种才相对靠谱一些，比如《万神殿》里那种扫描出大脑每个细胞并在程序层面将它重构，才有可能拥有自我意识。

dodolee

jago2051 发表于 2026-8-11 09:55
现在的LLM本质还是基于神经网络的大型if else堆叠器，你输入问题，它们通过各种模糊判断给你个答案，既没有 ...

我觉得你的认识需要更新一下了，相信基于现在的人工神经网络的AI已经产生意识的大佬已经不在少数了（比如最近宣传AI威胁到了近乎魔怔程度的诺奖得主辛顿），当然反对的也不少（比如一直坚持AI智力不如一只猫的杨立昆）

我个人的观点是，首先需要明确一下我们说的“意识”这个概念。如果坚持只有生物体产生的才能叫“意识”，那现在的AI确实不行。但我觉得意识最好还是从功能性/行为主义来定义（如同图灵定义“智能“），从这个角度讲，现在的AI已经很接近产生”意识“了，后面只要能把物理世界的反馈输入模型进行训练，我觉得就可以产生出和人类几乎一样的”意识“。

可能的障碍我想到两点，一个是现在的AI缺少某些本能，比如生物生存繁衍的本能，不清楚这种本能在意识形成上是不是必要的。一个是不知道人脑是否存在某些量子机制，对意识产生是必要的，那样的话可能就要期待量子计算机的普及了。

dongzi81

与其担心ai不如担心资本家，强大工具落到唯利是图人手里才可怕

chenyedgg

AI**建立在科学幻想的叙事里面，建立在人类会不断预测未来的大脑机制里面，
但是对于生老病死问题人类如果觉得自己无法解决就寻求AI作为希望来寄托，
上面的纯粹的想象和预测带来的阻力VS人类现实能时刻感受到对生老病死的恐惧

莱茵哈鲁特

什么降临不降临，本质上是把AI当成了会和人类竞争的另一个物种了。

但本质上AI是没有欲望的，没有求生欲，没有争夺资源的欲望。所以AI始终只会是工具的。最大的危险只会是AI掌握在谁手上，而不是AI自身会发生什么。

simonroam

字节看到楼主这种想法的要笑死了

wealth

社会主义水电气网基础设施派

Wiksy

stmule 发表于 2026-8-7 00:11
LLM没有成为通用人工智能的可能性。至于通用人工智能，我只能祝研究者们好运 ...

虽然我也是这个观点，但也许有可能LLM是一种侧重能力与人类不一样的智能形态，也许也能在解决了“没有身体”这个问题后发展出通用智能？

不太恰当的类比是比如乌鸦我们已知能制造和利用工具，有一定解决问题的能力但是离人类还远，但也许给它几百万年能进化出来呢？

来都来了

说真的，少看点科幻原神。

jago2051

dodolee 发表于 2026-8-11 10:27
我觉得你的认识需要更新一下了，相信基于现在的人工神经网络的AI已经产生意识的大佬已经不在少数了（比如 ...

现在的LLM相比刚出现时的计算速度确实有了质的飞跃，不过速度快不代表他智能，计算器算数还快呢。现在的LLM所做的只不过是对人类行为的模仿，并不存在本能，不存在欲望。所以你不妨自己问问你手头的所有AI，它们哪个会承认自己有自我意识。

谢廖沙

社会主义，或者死亡，人类选择了死亡，那么，死吧，人类

7uly

好蠢的投票选项，就只能极端化？就不可能AI只是工具，就像机器一样提高了生产力？实际上最可能发生的就是中间状态。当然就像机器出现一样，人类社会的组织形式是有可能发生大的变化的。

7uly

dodolee 发表于 2026-8-7 08:32
主楼写了，上一次发就已经是过了AI的了，其实我跑了2个模型，下面是另一个，但我觉得深度有余自洽不足，他 ...

你这些看着好蠢的选项竟然还是过了AI的结果…你这例子充分说明了AI只是工具。用的人不行，出来的结果就还是不行。

dodolee

7uly 发表于 2026-8-12 12:43
好蠢的投票选项，就只能极端化？就不可能AI只是工具，就像机器一样提高了生产力？实际上最可能发生的就是中 ...

我又回去看了一遍选项，能算比较极端的只有1吧，3的拯救派不就是把AI当做工具吗。

现在很多人说AI只是一种新工具，但我觉得有智能的工具已经和之前几次革命中出现的机器有很大不同了，当然从某种角度说，现在地球上的绝大多数人类可能也不过是工具而已，还是很不好用的那种。