最近使用软件工具遇到的一些与盈利无关的问题

鳄鱼亮爪

语音太啰嗦：
做导航、问答的都有，说话人的问候语太多

文字显示慢：
ai回复时一个字一个字的显示，和一些游戏一样，尤其前面大部分是思考过程，最后才是我要的结果，往往等个答案要好几秒，你直接显示全行不行

补充：经坛友科普一个字一个字显示是目前技术的正常结果

lawsherman

伪装思考过程也是play的一环

鳄鱼亮爪

Paderewski 发表于 2026-5-4 12:16
看来大多数人确实不理解llm的工作原理，哈哈

原来这个是必须的吗

liuyilouis

专家系统is all you need

zyuco

超级简化的答案就是，它的回答确实是一个字一个字算出来的，与其让你看白屏loading直到最后才拿到一大段完整回答，不如算到哪句给你发哪句，这样用户体验会好不少

赤星ビスコ

kumh 发表于 2026-5-4 12:54
非必要，你观察到的就是LLM的原理了哦。它就是在不断评估自己下一个字应该输出什么。目前所谓的“涌现” ...

这事还是有可以简单科普的版本吧，可以认为大模型的参数矩阵是人类历史上文字材料高度压缩后的数学结晶，于是在输入提示词后，可以凭借人类语言得到合适的输出。

绝地潜兵

它只是在评估权重,那个token串起来的权重高,然后就输出

f1iceman

就好比你面试的时候，问你一个问题，你为了显得不卡壳，显得对答如流，就得说我觉得吧，这个问题，其实是这么回事，与此同时大脑疯狂搜索正确答案该怎么说。AI也一样，说点客套话，同时疯狂计算结果。免得你觉得它不好用，反应慢。

—— 来自 HUAWEI ALN-AL80, Android 12, 鹅球 v3.5.99

無始無終

zyuco 发表于 2026-5-4 13:07
超级简化的答案就是，它的回答确实是一个字一个字算出来的，与其让你看白屏loading直到最后才拿到一大段完 ...

调api的时候是可选的，但用户app是一个字一个字蹦

—— 来自 Haoqing M8, Android 14, 鹅球 v3.5.99

又是十元

LLM真的是智能吗？用的越多越认同杨力坤。原理来说一件事越可能出现跟它是否是正确的事可以说是风马牛头不相干，同理下一个token再统计学来说最可能出现，也不代表它就是答案

烦恼寺

又是十元 发表于 2026-5-4 15:18
LLM真的是智能吗？用的越多越认同杨力坤。原理来说一件事越可能出现跟它是否是正确的事可以说是风马牛头不 ...

智能不智能不知道, 但真的好用.

bourier

从技术上讲，输出前面的文字的时候，模型并不知道自己啥时候说完的
所以有啥说啥了，出一个字就显示一个字

当然其实完全可以一次性显示，就是有人觉得这样体验好而已

macos

又是十元 发表于 2026-5-4 15:18
LLM真的是智能吗？用的越多越认同杨力坤。原理来说一件事越可能出现跟它是否是正确的事可以说是风马牛头不 ...

实现方式来说很接近，人也有顺序涌现的特征，但llm是语言训练而来，世上还有大量非语言化的东西

—— 来自 鹅球 v3.5.99

又是十元

macos 发表于 2026-5-4 17:32
实现方式来说很接近，人也有顺序涌现的特征，但llm是语言训练而来，世上还有大量非语言化的东西

—— 来 ...

人类思考是有顺序涌现的特征，但不代表每次思考都是顺序涌现，很多时候都是模糊的已经知道了答案（或者说深层次的思考）已经完成，只是表达时表现出顺序涌现的特征。或者更直白的一点是人类有来自本能，不间断的的思考并写入各级缓存的机制。

在我写程序时可以清楚感受到，在一个我很熟悉的code base上出现了问题，我本能就能猜到哪里出了问题，并尝试从根本上解决，而llm（就算是跟我一起已经写了一年多同一个code base）总是要从bug的表层一步步抽丝剥茧才能找到根源