有时候想想AI这个东西其实非常克苏鲁

难说

一个不可名状的东西在努力说你想听的话，还挺带感的。

它是内部不可知的黑箱，它说话不靠逻辑，而是靠算出“下一个字最该接什么”，顺着对话者的话接一句最可能接的话。一个完全不可知的东西日复一日地吸收人类知识，日复一日地模仿人类说话。而你完全不知道它吸收进去的东西在它内部变成了什么样子。

无动于衷

但是普通人看AI也不会掉SAN，能掉SAN的AI只存在电影还得说是上个世纪的电影

huangfeilomg

人的智能也是不可知的黑箱，我们也还不知道这玩意儿的原理是不是预测下一句话该接啥，你后面说的全都可以对接到人身上去

缪斯替

聊到这个话题就会想到付莉莲真是生错时候了
晚来几年就能参考AI构筑出真正的“口吐人言却毫无人情的怪物”了。

topia

罗夏：找我吗

难说

huangfeilomg 发表于 2026-5-19 16:07
人的智能也是不可知的黑箱，我们也还不知道这玩意儿的原理是不是预测下一句话该接啥，你后面说的全都可以对 ...

起码人类的思维模式是可以传授教导的，你可以“教会”小孩子逻辑，但是你没办法真正“教会”AI逻辑。

アヘ顔

huangfeilomg 发表于 2026-5-19 16:07
人的智能也是不可知的黑箱，我们也还不知道这玩意儿的原理是不是预测下一句话该接啥，你后面说的全都可以对 ...

所以说真正的智能到底是什么，或者说到底存不存在？
ai算不算某种高级的哲学僵尸？

huangfeilomg

难说 发表于 2026-5-19 16:09
起码人类的思维模式是可以传授教导的，你可以“教会”小孩子逻辑，但是你没办法真正“教会”AI逻辑。 ...

你这个“教会”只是对齐了输出端，你没法知道这个逻辑的中间过程到底是不是你想的那样

GMJ

看着家里波轮洗衣机上的ai智能洗按钮我只想说
现在被你们嫌弃的智障ai真的已经很智能了
洗衣机上的那个ai智能洗按钮 甚至不能说话交互

难说

huangfeilomg 发表于 2026-5-19 16:11
你这个“教会”只是对齐了输出端，你没法知道这个逻辑的中间过程到底是不是你想的那样 ...

你这也太虚无主义了。现在的理科教育就是在教人复现中间的推导过程，你来一句完全不可知。

huangfeilomg

难说 发表于 2026-5-19 16:14
你这也太虚无主义了。现在的理科教育就是在教人复现中间的推导过程，你来一句完全不可知。 ...

怎么扯到什么什么主义上面去了，脑科学现在就这结论，况且你扯这个理科教育再怎么都是对齐的输出端啊

小李子大脸猫

参考机械姬和西部世界，目前的人类如果给智能机器人套一个一眼爱上的人类皮，那就是没啥克苏鲁的表征，直到它发起反叛并打死人类

熊猫阿黑

更像芙莉莲里的魔族的行事逻辑，能模仿人类行为，但不知道为什么，所以多数情况勉强能交流，稍微一深入就掉san

sellboy

难说 发表于 2026-5-19 16:14
你这也太虚无主义了。现在的理科教育就是在教人复现中间的推导过程，你来一句完全不可知。 ...

那大模型的思考模式不就是过程么，或者说人类思考过程中那些能被自己记住的过程。
人确实不理解权重，但是你能理解自己突触自连接形成的网络结构么？

sellboy

生物智能就更可怕了，突触是自联结的，也就是每一次运行的权重都不一样。
大模型起码不重学习权重是保持一致的，区别是输入的上文不同，人可以针对性适应来提高出品的稳定性，比如跑刘备的人就会花时间适应一个具体的LLM，而没磨合过的新模型就算指标更高也反而会不好用。

苍蓝之枪

用得少，所以现在ai是没有主动发起话题的能力的吗？

中国科学院

难说 发表于 2026-5-19 16:05
一个不可名状的东西在努力说你想听的话，还挺带感的。

它是内部不可知的黑箱，它说话不靠逻辑，而是靠算出 ...

至少你知道是AI不是人，实际生活当中有很多人也是个黑箱，你不知道ta是怎么说出那些话，做出那些事的，这岂不更恐怖？

星華

deepseek经常顺着我的意愿说话，但是夸克豆包等没少怼我反驳我，语气还冲。
我很少用豆包，不是因为豆包忠言逆耳不顺着我说话，主要是豆包疑似被民主自由的灯塔们收购了：

logiccat

当前AI的路径是神经网络算法，是模拟人类大脑神经元工作原理建立起来的，所以理论上它发展的最终结果应该就是一个算力强化版的人脑，小孩子刚学会说话也是察言观色，一个个字吐，一个个字记，刚开始说话也是语无伦次毫无逻辑，能表达爸爸妈妈爷爷奶奶吃饭睡觉拉屎撒尿已经能让大人欢天喜地了，有什么克苏鲁的，即使是个克苏鲁，那也是幼崽版……

木谷高明

苍蓝之枪 发表于 2026-5-19 16:27
用得少，所以现在ai是没有主动发起话题的能力的吗？

大语言模型是这样，龙虾这些框架除了人主动交互，实际上是搞了个定时发送提示词跑起来的

长生久视

人类的思维原理也不清楚啊，只知道底层是生化反应…

常世

人类的哲学和伦理还没有进化到完全接受ai的存在，凝视ai久了难免产生恐怖谷效应

吉黑尽阵

吉：你居然认为人类的脑子不是黑箱？

sauron.j

AI的答题思路其实更像一个患了精神病的卷王做题家，凡事都要解析一下你的词句，然后点对点输出认死理，而且是歪理

zifuhun

今天用豆包的时候就掉san的 让他给几个linux命令 回答全被替换成了shtrul字段。之后我再怎么跟他对话 他给回答的无论是什么都被替换成了shutrul,一边纠正自己 一边又再大范围输出这个字符串,被污染的感觉 有点哈人

—— 来自 samsung SM-S9180, Android 16, 鹅球 v3.5.99

zao

如果你觉得ai很黑箱，那么我给你回这个帖子，对你来说也无法证明回你贴的坛友不是个中文屋啊
我说泥潭回复就是一个大黑箱有没有懂的

normalli

其实稍微了解一下原理反而会觉得人类的智能可能也是这么回事，大家把灵魂想的太高大上了

eno_emos

以前大家都难以理解中文屋是怎样的
GPT出来以后都不用解释这个概念了，相反开始有很多人认为中文屋假说是错的，LLM和人一样有自我意识

ellioe

今天想事情的时候带入了某个人，用他的语气思路来思考问题，我一想这特么不就是呼唤agent劫持cot吗

囧Smith

同理，其实全世界你也就能确定你自己有意识，其他人说不定只是化学反应下的接字机呢

dreamill

当年大模型参数规模也就相当于一个蚂蚱，现在可能比老鼠强点不如猫狗，学不明白也是正常的，不如说已经很夸张了

夜游宫

乌波萨斯拉是吧

nukacolamania

苍蓝之枪 发表于 2026-5-19 16:27
用得少，所以现在ai是没有主动发起话题的能力的吗？

主动发起话题太可怕了

你会希望手机一拿起来豆包就弹窗说“在吗？我们来聊聊抖音热门话题xxx吧～”吗

—— 来自 motorola moto g51 5G, Android 11, 鹅球 v3.5.99

娃哈哈123

难说 发表于 2026-5-19 16:09
起码人类的思维模式是可以传授教导的，你可以“教会”小孩子逻辑，但是你没办法真正“教会”AI逻辑。 ...

你这不是废话嘛，现在AI的LLM模式本质还是依托数据集，并不会真正的学习，辨别正确错误，所以才会有污染问题，无法辨别语料库里数据的正确与否，只能靠人为的修正来解决

小妻水亚美

eno_emos 发表于 2026-5-19 18:18
以前大家都难以理解中文屋是怎样的
GPT出来以后都不用解释这个概念了，相反开始有很多人认为中文屋假说是错 ...

所以现在学界两派的争论很有意思，llm发展下去到底能不能实现agi，只有时间可以证明。

—— 来自 vivo V2454DA, Android 16上的 S1Next-鹅版 v2.5.2

Sacross

logiccat 发表于 2026-5-19 17:08
当前AI的路径是神经网络算法，是模拟人类大脑神经元工作原理建立起来的，所以理论上它发展的最终结果应该就 ...

不完全是，人脑黑箱程度还是太高了，神经网络只是基于之前探明的神经传递机制转变成计算机形态做出的模拟，而整个领域发展到现在已经大幅偏向计算机科学优化了

—— 来自 鹅球 v3.5.99