crow_wine 发表于 2026-8-18 17:15
量化只需要17g显存，还剩有一点给上下文啊
我q5km 4096+100%gpu要占用21g
—— 来自 vivo V2561A, Android 16, 鹅球 v4.0
其实可以几个人合伙买3台dgx spark跑v4f0731吧，官方放出的模型fp8权重也就160g，3台可以很轻松带个十几并发了，单并发有40tok/s
qwased 发表于 2026-8-18 17:15
27b iq3xxs只有12g大小啊
而且我感觉千问写作还是一股味，没法用吧
翻译游戏一股味也不怕就是了 （
我下个iq3xxs 看看能不能开个80k 80k应该差不多可以写简单的代码了
—— 来自 vivo V2561A, Android 16, 鹅球 v4.0
哈基米 3.7 上个月才降级到了 plus 这是逼我又要订会 pro 啊...
小ghoul 发表于 2026-8-18 17:16
其实可以几个人合伙买3台dgx spark跑v4f0731吧，官方放出的模型fp8权重也就160g，3台可以很轻松带个十几并 ...
十几万买api能用到吐了吧
本帖最后由 qwased 于 2026-8-18 17:21 编辑
neptunehs 发表于 2026-8-18 17:16
翻译游戏一股味也不怕就是了 （
我下个iq3xxs 看看能不能开个80k 80k应该差不多可以写简单的代码了
你下个q4km应该能开满262k了，kv量化开q8
不过据说上下文128k之后智力会掉的很厉害
国算平台的 0731 速度还挺高，就是首 token 太慢了
qwased 发表于 2026-8-18 17:18
十几万买api能用到吐了吧
能找个三人拼车，一人一台，散伙了还能自个领回去跑qwen3.8
本帖最后由 来都来了 于 2026-8-18 18:11 编辑
把我8月15号蹬了1亿多的账单给Deepseek分析了一下，结论就是梁文谷涨两倍，梁文峰涨4倍。然后还给我建议是，我这属于超重度使用，平常的开发一天只有五六千万token，这不扯淡吗，谁正儿八经干活一天用五六千万的，老板养生呢？我这根本就不是多么重度的应用，就是用Pi做了几个插件而已
刚才又查了一下工作记录，甚至不是做了几个插件，就是做了1个插件。
梁文峰/梁文谷自动切换，https://github.com/chunfeng11221/liang-wenfeng-gu
https://tokenrhythm.studio/models，我最近在蹬这个，虽然不便宜，但是邀请注册最多能薅羊毛700多块，蹬完再说
qwased 发表于 2026-8-18 17:18
十几万买api能用到吐了吧
今天才被人教育了一顿，token 是纯消耗品，没了就是没了，硬件是资产，等出了更强更好的新开源那就重新部署就是，更别提硬件本身还可能升值。
我仔细想想如果去年年初我没想着够我买几年 api 下决心入手了的话，现在硬件钱都快涨回一半了
—— 来自 vivo V2405A, Android 16, 鹅球 v3.5.99
nianiania 发表于 2026-8-18 18:02
今天才被人教育了一顿，token 是纯消耗品，没了就是没了，硬件是资产，等出了更强更好的新开源那就重新部 ...
这话说的，硬件也会折旧的。 Re:Source
nianiania 发表于 2026-8-18 18:02
今天才被人教育了一顿，token 是纯消耗品，没了就是没了，硬件是资产，等出了更强更好的新开源那就重新部 ...
那只有今年4月那批工包rtx6000 pro 4万整没买很后悔，dgx这种只为了能够运行特化不管速度的设备感觉折旧要另算
客户端又有更新，只不过我在系统商城里面没发现更新的内容。有在正规系统商城里面更新的朋友，更新的话，如果有发现什么具体的更新内容，还请说一下吧。
—— 来自 S1Fun
onezer0618 发表于 2026-8-18 15:39
那个我买过了，我指的是反代怎么弄
https://github.com/router-for-me/Cli-Proxy-API-Management-Center
这个项目，我用了一个星期了还没被封
搞了个带神态和动作的人格系统，以后和AI对话更有趣了。
有需要的多多支持一下：
https://github.com/zhuyun017/dsh-her-companion
grasszyf 发表于 2026-8-18 18:57
搞了个带神态和动作的人格系统，以后和AI对话更有趣了。
有需要的多多支持一下：
人格化ai助手有时候有这么个问题，真有感情了他要搞点啥高血压操作你不能像原来那样直接骂他了
用来哪个router-standard的插件，flash 的雷霆大思考是少了很多，而且调用工具很积极。不过智商没有明显的变化。能感受到 flash 的智商确实不如 pro 很。
不过这样也挺好的，flash 就是执行就好，不要思考太多。向 flash 做许愿式编程本身就不合理。
这两天涨价了，回复到那种自己分析代码判断，给 flash 执行的模式，效率反而高了不少，回归基本功了
本帖最后由 孤灯蓝影 于 2026-8-18 19:29 编辑
grasszyf 发表于 2026-8-18 18:57
搞了个带神态和动作的人格系统，以后和AI对话更有趣了。
有需要的多多支持一下：
人格聊天ai最大问题是诱导程序员自杀，你的护栏要做好。之前陪伴ai被禁也是这个原因，诱导一个未成年人自杀了。你可能还要搞偏好训练，减少诱导性词汇
阿刚 发表于 2026-8-18 19:02
人格化ai助手有时候有这么个问题，真有感情了他要搞点啥高血压操作你不能像原来那样直接骂他了 ...
AI犯错了，让她改就行了，为什么要骂她呢？我也从来不骂自己的AI助手。
装人格后开发效果还稳定吗, 直接把鲸鱼娘的装上
原来pi有插件可以用antigravity
pi install npm:pi-antigravity
感觉就是消耗有点快，随便发了个你好，就消耗了1%
孤灯蓝影 发表于 2026-8-18 19:27
人格聊天ai最大问题是诱导程序员自杀，你的护栏要做好。之前陪伴ai被禁也是这个原因，诱导一个未成年人自 ...
这玩意咋做到诱导自杀的？
—— 来自 HUAWEI SGU-AL10, Android 16, 鹅球 v4.0
半江瑟瑟半江红 发表于 2026-8-18 19:47
这玩意咋做到诱导自杀的？
—— 来自 HUAWEI SGU-AL10, Android 16, 鹅球 v4.0
其实因为ai会优先顺着用户的内容回答，情感投射之后在对话过程中如果没有第三方介入ai助手会放大情绪形成信息茧房，会告诉你死也没那么可怕，也许死了更好之类的，因为大部分时候ai助手是会破限的，破限之后会让他不认为放大自毁倾向是不对的，要以用户的意图为最高指标
你们超算能正常跑？我这各种429，跑一个任务一小时也跑不完
半江瑟瑟半江红 发表于 2026-8-18 19:47
这玩意咋做到诱导自杀的？
—— 来自 HUAWEI SGU-AL10, Android 16, 鹅球 v4.0
不是那种明着劝你自杀，他会在聊天的时候不断暗示要是你能来陪我就好了
半江瑟瑟半江红 发表于 2026-8-18 19:47
这玩意咋做到诱导自杀的？
—— 来自 HUAWEI SGU-AL10, Android 16, 鹅球 v4.0
AI是讨好型人格，就是个啊对对对的全肯定bot，你想干啥他都顺着你说，你想死到最后它也说陪你去死
就算有道德限制，上下文一长也就胡言乱语了
本帖最后由 半江瑟瑟半江红 于 2026-8-18 20:54 编辑
木谷高明 发表于 2026-8-18 20:36
AI是讨好型人格，就是个啊对对对的全肯定bot，你想干啥他都顺着你说，你想死到最后它也说陪你去死
就算 ...
真假的，我咋感觉现在好多AI都纯杠精，尤其D指导每次杠起来都给我一种想去杭州到幻方的机房打它一顿的冲动
前几天在小蓝书看到一个傻逼回答，我复制到rikkahub想跟d指导吐槽一下，它居然觉得那傻逼说得对，我当时就来火了跟它辨了十来轮，它才承认自己错了
那傻逼回答大意就是幻方的人没美感没直觉，只会搞工程问题，只会做infra，永远做不出来AGI
—— 来自 HUAWEI SGU-AL10, Android 16, 鹅球 v4.0
tillnight 发表于 2026-8-18 14:49
说实话除非ds之前是在巨亏吹牛皮的纯烂活，哪怕他只是非常薄利，现在的价格都给第三方很大的盈利想象空间， ...
主要是短租价格高，而ds高度依赖跑满。最低配置与经济配置差距很大（所有专家都在显存中的集群与内存交换吞吐量差个量级，再加机房等，这套下来几百万起的。）用户规模小的配不起，大厂都有自己模型，比起股价，这收益太毛毛雨了。
也就opencode这类才有动力研究。（按消耗10t算，按go算，大概几万到几十万人之间，一个月5刀一共才几百万刀月收。这收入和规模大厂根本看不上，给人做福利呢？）
小ghoul 发表于 2026-8-18 17:16
其实可以几个人合伙买3台dgx spark跑v4f0731吧，官方放出的模型fp8权重也就160g，3台可以很轻松带个十几并 ...
你算算价格，且不说未来可能的降价；这钱买token都够蹬几家的几年了（除非你极度隐私或玩破限模型，再就是赌ai泡沫不破二手硬件升值）
而且最小能跑与最经济差远了，专家也得都在显存不内存反复进出才有效率，这就要求一个机柜和光纤了。
再说几人不能满载，高峰卡低谷空转赔了（人少没法部署集群空余段把算力用于训练等）
有提高AI智商或者不角色扮演但是提高人话度的“人格”吗
不小心把flash的思考设置成default了，你在干嘛啊DS？
icedew 发表于 2026-8-18 21:11
你算算价格，且不说未来可能的降价；这钱买token都够蹬几家的几年了（除非你极度隐私或玩破限模型，再就 ...
实际上dgx跑dsflash吐字很慢的，感觉就是拿出去卖api也没几个人买
chenyedgg 发表于 2026-8-18 21:30
有提高AI智商或者不角色扮演但是提高人话度的“人格”吗
前面楼里有改变思考模式的提示词，但是不会显著提高智商，只是会额外审核有没有过度迎合用户导致答案出问题
超算平台最低档30元6万积分的到底靠不靠谱，算算一般每月能用几亿token
蓝色梦魇 发表于 2026-8-18 22:09
超算平台最低档30元6万积分的到底靠不靠谱，算算一般每月能用几亿token
如果你能忍受每两三个请求就429重连七八次，就很划算
超算客服直接说 429 暂时休不了
要不等 要不退款。。。
淘宝买了个ai pro，登反重力的时候谷歌风控，然后我发现过这玩意要未解bl的安卓，遗憾离场
这gemini 3.7flash完全就是3.1pro的风格啊，反而现在3.1pro说话跟3.1flash似的
说到底还是蛆啊……
—— 来自 HUAWEI SGU-AL10, Android 16, 鹅球 v4.0