找回密码
 立即注册
搜索
楼主: 绕指流光

[科技] DeepSeek V4.1 Flash 1017:许愿式编程一键成真 | 大模型讨论专楼

 火... [复制链接]
发表于 2026-10-21 10:28 来自手机 | 显示全部楼层
normalli 发表于 2026-10-21 10:16
这是目前大模型的上下文窗口的限制,记忆压缩都是有损的,但人类上下文窗口大概只有不到10个token,是靠 ...

人类的记忆是模拟的,用来记文字可能确实寒酸,但是记场景和动作这类东西转成token指不定上万亿呢
回复

使用道具 举报

发表于 2026-10-21 10:33 | 显示全部楼层
看见DeepSeek开源内部推理框架了,现在第三方想复现原价api是不是已经没什么障碍了
回复

使用道具 举报

发表于 2026-10-21 10:35 | 显示全部楼层
本帖最后由 eno_emos 于 2026-10-21 10:38 编辑
warlock228 发表于 2026-10-21 10:12
嘎啦嘛的编程如何?月费穷鬼档大概比肥龙便宜个50左右,感觉还是得找个plan制度的,肥鱼用着用着一周烧20多 ...

六七十块这个档位有opencodego,凑合也能用

话说国算那个最近有人用过吗?稳定了么?还跟8月那样慢的见鬼吗
回复

使用道具 举报

发表于 2026-10-21 10:44 来自手机 | 显示全部楼层
2035年 发表于 2026-10-21 10:18
怎么能亏这么多的,梁圣价格定这么低,都能几个月回本
A处价格这么贵,半年亏800亿,到底在干嘛呢 ...

这玩意是重资产
回复

使用道具 举报

发表于 2026-10-21 10:44 | 显示全部楼层
沙发沙发 发表于 2026-10-21 10:33
看见DeepSeek开源内部推理框架了,现在第三方想复现原价api是不是已经没什么障碍了 ...



还有点差距,不过不大了
vLLM做完优化说还差6%

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

×
回复

使用道具 举报

发表于 2026-10-21 10:48 | 显示全部楼层

传统的所谓重资产,除了资产价格高,还有回本周期慢
算力如果能半年回本,那根本不能按传统的重资产来定义
倒是A处不知道是效率问题还是什么,搞得比传统的重资产还重的样子
回复

使用道具 举报

发表于 2026-10-21 10:48 | 显示全部楼层
2017.05.04 发表于 2026-10-21 10:44
还有点差距,不过不大了
vLLM做完优化说还差6%

真印钞机了各家快把价格打下来啊
回复

使用道具 举报

发表于 2026-10-21 10:52 来自手机 | 显示全部楼层
飞剪号 发表于 2026-10-21 10:28
人类的记忆是模拟的,用来记文字可能确实寒酸,但是记场景和动作这类东西转成token指不定上万亿呢 ...

我认为人脑中确实有和token类似的机制,它不是文字,和向量有类似的结构,但不是那么准确的数值,代表更抽象的概念,当然人脑和计算机完全不同,记忆更多的是一种过程而不是数据,人脑能同时激活的过程极其有限
回复

使用道具 举报

发表于 2026-10-21 10:54 | 显示全部楼层
2035年 发表于 2026-10-21 10:18
怎么能亏这么多的,梁圣价格定这么低,都能几个月回本
A处价格这么贵,半年亏800亿,到底在干嘛呢 ...

梁子只需要不断提升斩杀线,A处要考虑的可就多了

随便猜几个点,首先双方手头的现金价格(利息等)估计就不一样,其次硬件上无论是机房还是卡包括电国内的应该都便宜点,然后人工成本肯定也差距很大,最后A处要维持万亿估值上市的幻想应该有一些为了1%烧100倍成本的做法吧
回复

使用道具 举报

发表于 2026-10-21 10:54 | 显示全部楼层
PurplePeppers 发表于 2026-10-21 00:37
楼里有没有用的多的老哥,每月200亿token,纯coding,梁文谷大概要多少钱,评估一下性价比 ...

我看了一下记录,最近三十天150亿,1100。

使用峰谷差不多,前几天有pro还没切换。

Cost
¥1,098.87
CNY
API requests
51,360
Tokens
15,735,345,177
回复

使用道具 举报

发表于 2026-10-21 10:55 来自手机 | 显示全部楼层
本帖最后由 tillnight 于 2026-10-21 11:02 编辑
2035年 发表于 2026-10-21 10:18
怎么能亏这么多的,梁圣价格定这么低,都能几个月回本
A处价格这么贵,半年亏800亿,到底在干嘛呢 ...


能不能不要复读回本,太招黑了。
A/的财务肯定有问题,但是大模型公司没有一个赚钱的。你说的回本指的是token推理服务,这个人人都是赚钱的,甚至a/发明的arr概念就是因为只算卖token是有净利润的。正常公司算“回本”指的是公司整体盈利,这个目前对大多数算力都在研发上的大模型公司是不可能的。ds今年亏损大概在几十亿这个级别。
Ao研发快,因为ao算力多,但是算力需要高昂的资本投入,这个目前没有明确的证据可以收回成本。这就是一直谈的ai泡沫,以及为什么国内泡沫相对较小(因为买不到卡资本没地方烧钱)
回复

使用道具 举报

发表于 2026-10-21 10:56 | 显示全部楼层
你们有用CodeBuddy的API吗?DSH被CodeBuddy拉黑了?

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

×
回复

使用道具 举报

发表于 2026-10-21 10:58 来自手机 | 显示全部楼层
本帖最后由 lactone 于 2026-10-21 11:03 编辑

tibo说codex永久保存prompt caching

然后传成了永久保存所有kv cache

然后咩鳖

—— 来自 vivo V2520A, Android 16, 鹅球 v3.5.99-alpha
回复

使用道具 举报

发表于 2026-10-21 11:04 来自手机 | 显示全部楼层
天桥夜风 发表于 2026-10-21 10:54
梁子只需要不断提升斩杀线,A处要考虑的可就多了

随便猜几个点,首先双方手头的现金价格(利息等)估计 ...

那反了国内获取同等算力的卡的成本是国外的4倍(英伟达b300)或者大于4倍(昇腾),跟这个最大的capex比起来机房供电都是小钱
回复

使用道具 举报

发表于 2026-10-21 11:05 | 显示全部楼层
tillnight 发表于 2026-10-21 10:55
能不能不要复读回本,太招黑了。
A/的财务肯定有问题,但是大模型公司没有一个赚钱的。你说的回本指的是t ...

按照现在推理部分80%的毛利率,只要推理使用算力在一个合理区间,其实就可以实现盈利了啊
今年前七个月DS只亏了7亿(information报道),全年只有10亿,和A处差了三个数量级
实在是有点匪夷所思了
回复

使用道具 举报

发表于 2026-10-21 11:06 | 显示全部楼层
eno_emos 发表于 2026-10-21 10:35
六七十块这个档位有opencodego,凑合也能用

话说国算那个最近有人用过吗?稳定了么?还跟8月那样慢的见鬼 ...

谢谢我去捣鼓一下
回复

使用道具 举报

发表于 2026-10-21 11:08 | 显示全部楼层
感觉未来给大模型接上摄像头之后,每秒钟的信息量相比现在都是爆炸得多,上下文更不够用了
回复

使用道具 举报

发表于 2026-10-21 11:11 来自手机 | 显示全部楼层
2035年 发表于 2026-10-21 11:05
按照现在推理部分80%的毛利率,只要推理使用算力在一个合理区间,其实就可以实现盈利了啊
今年前七个月DS ...

所以说a/的财务肯定是有问题的,他的订阅价格比oai有性价比,大概率是打肿脸充胖子,实际财务情况应该比openai差。但是不存在什么卖token毛利润高就应该赚钱的说法。目前传说oa两家的算力70%在训练,这和前段时间传的ds的算力分配比高度一致。而训练算力不考虑无形资产就是纯投入,算力越多,亏损越多,这才是目前的客观情况。openai一样是百亿级的亏损。国内公司普遍亏少一个量级,因为就买不到那么多卡。另外ds下半年的亏损是放大的,因为上半年还没融资买卡,这几个月拿了钱是匡匡烧钱的。
回复

使用道具 举报

发表于 2026-10-21 11:14 | 显示全部楼层
转自微博 @无心简影
https://weibo.com/5564927603/RnFamj0J8

【#DeepSeek全面开源DeepInfer#】 #DeepSeek宣布开源推理框架#  评论区永远是最精彩的

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

×
回复

使用道具 举报

发表于 2026-10-21 11:15 来自手机 | 显示全部楼层
奥柏伦亲王 发表于 2026-10-21 09:31
有时候用户不一定能弄明白自己想要什么,或者模糊的知道自己想要什么无法用文字清晰的表达,或者缺乏相关 ...

写完你还是得看一下,有些废话太多,还要把gpt特有的防御性要求删掉点

—— 来自 samsung SM-S9480, Android 16, 鹅球 v4.0
回复

使用道具 举报

发表于 2026-10-21 11:21 来自手机 | 显示全部楼层
holmesjerry 发表于 2026-10-21 11:04
那反了国内获取同等算力的卡的成本是国外的4倍(英伟达b300)或者大于4倍(昇腾),跟这个最大的capex比 ...

现在950DT单卡25万,四台32卡机器给你按1200万算,然后八卡B300机器是1300万一台,所以你怎么算出来大于的?

—— 来自 HUAWEI SGT-AL50, Android 16, 鹅球 v3.4.97-alpha
回复

使用道具 举报

发表于 2026-10-21 11:32 | 显示全部楼层
奥柏伦亲王 发表于 2026-10-21 09:31
有时候用户不一定能弄明白自己想要什么,或者模糊的知道自己想要什么无法用文字清晰的表达,或者缺乏相关 ...

这个为什么要出提示词呢,我习惯都是直接让模型从第一性原理出发,理解用户一般需要什么,可以先把自己理解的用户的需求做了然后干。我自己跟模型说话的时候也会注意去告诉他我的根本目的根本动因取舍是什么,我上面说的这些都是抛砖引玉,你可以有自己的想法,不能只被我的想法局限,不一定按照我的要求来组织你的回答,我觉得这样输出的内容就挺好的
回复

使用道具 举报

发表于 2026-10-21 12:21 | 显示全部楼层
UncleDracula 发表于 2026-10-21 10:56
你们有用CodeBuddy的API吗?DSH被CodeBuddy拉黑了?

我说昨天晚上dsh里没法使用workbuddy的额度了,怎么修都不行,但是pi里的可以。
这么一看就懂了。
回复

使用道具 举报

发表于 2026-10-21 12:28 来自手机 | 显示全部楼层
我是自定义preamble的,看来拦不到我
回复

使用道具 举报

发表于 2026-10-21 12:36 | 显示全部楼层
本帖最后由 UncleDracula 于 2026-10-21 12:37 编辑
needagf 发表于 2026-10-21 12:21
我说昨天晚上dsh里没法使用workbuddy的额度了,怎么修都不行,但是pi里的可以。
这么一看就懂了。 ...

沙雕企鹅又开始干没皮炎的事了。我让DSH把默认提示词的You are an AI agent powered by DeepSeek Harness的powered by DeepSeek Harness去掉就可以了。或者极简模式不改也可以用。
回复

使用道具 举报

发表于 2026-10-21 13:04 | 显示全部楼层
本帖最后由 serj005 于 2026-10-21 13:37 编辑

workbuddy2api 一个最好用的分支停止维护了,现在workbuddy对反代管理越来越严了

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

×
回复

使用道具 举报

发表于 2026-10-21 13:05 来自手机 | 显示全部楼层
2035年 发表于 2026-10-21 10:18
怎么能亏这么多的,梁圣价格定这么低,都能几个月回本
A处价格这么贵,半年亏800亿,到底在干嘛呢 ...

我还没仔细看S1文件,不过就我猜测,一方面Anthropic没有将手上的算力资源主要投入到盈利的推理业务中,另一方面今年还花大价钱四处收购新的算力资源。另外他们今年还开了很多新坑,还有挖人,运营成本这块肯定也不低

账面亏800亿其实不让我担心,让我有点忧虑的是Claude Code从6月起用户数增长停滞。考虑到这个时间窗口是Fable和后续的Opus5开始成为主力模型的时间,这说明对于订阅用户来说目前的Token价格存在一个硬上限,Fable的定价已经太高了
回复

使用道具 举报

发表于 2026-10-21 13:15 来自手机 | 显示全部楼层
chilming 发表于 2026-10-21 06:40
求问,是乐乐趣的书吗,可以分享一下工具吗

不是哎,是piyopen的。

—— 来自 vivo V2454DA, Android 16, 鹅球 v4.0
回复

使用道具 举报

发表于 2026-10-21 13:19 | 显示全部楼层
serj005 发表于 2026-10-21 13:04
workbuddy2api 一个最好用的分支停止维护了,现在workbuddy对反代管理越来越严了
...

做这种东西脑子有点不清楚,薅opencode之类的的反代可以,薅腾子的,属实是屁股痒了想蹲号子了    Re:Source
回复

使用道具 举报

发表于 2026-10-21 13:21 | 显示全部楼层
梁圣那个infra问了下ai说是没说KVcache的调度方法?
回复

使用道具 举报

发表于 2026-10-21 13:34 | 显示全部楼层
看昨天的开源和盈利计算,感觉显卡和存储还要涨呀。
那么问题来了,现在要买的话,显卡,内存,ssd。优先买什么呢
回复

使用道具 举报

发表于 2026-10-21 13:44 | 显示全部楼层
andychen 发表于 2026-10-21 13:05
我还没仔细看S1文件,不过就我猜测,一方面Anthropic没有将手上的算力资源主要投入到盈利的推理业务中, ...

这是显而易见的吧,普通人咋可能去用那么贵的玩意
我用KIMI都嫌贵
回复

使用道具 举报

发表于 2026-10-21 13:45 来自手机 | 显示全部楼层
jojog 发表于 2026-10-21 13:21
梁圣那个infra问了下ai说是没说KVcache的调度方法?

ds说这套方法和他们的硬件高度耦合,暂时不开
回复

使用道具 举报

发表于 2026-10-21 13:48 来自手机 | 显示全部楼层
奈落的孤火花 发表于 2026-10-21 11:32
这个为什么要出提示词呢,我习惯都是直接让模型从第一性原理出发,理解用户一般需要什么,可以先把自己理 ...

现在的llm被训练成注意力集中在头尾,如果对话开始你不把任务写好,可能跑久一点他就忘掉了
工具太多导致系统提示词过长也会有这个情况
回复

使用道具 举报

发表于 2026-10-21 13:54 | 显示全部楼层
奈落的孤火花 发表于 2026-10-21 11:32
这个为什么要出提示词呢,我习惯都是直接让模型从第一性原理出发,理解用户一般需要什么,可以先把自己理 ...

是的,跟LLM对话时不要只讲自己要干什么(how),把背后的原因(why)也说出来,这样可以极大减少沟通成本
不要忘记大模型在大部分领域都比你要有经验,真当它实习生只会呼呼喝喝那肯定要闯祸的,这也是最能体现领导水平的地方
回复

使用道具 举报

发表于 2026-10-21 13:57 来自手机 | 显示全部楼层
提示词工程只是人在蒸馏LLM罢了。
回复

使用道具 举报

发表于 2026-10-21 14:01 来自手机 | 显示全部楼层
2035年 发表于 2026-10-21 13:44
这是显而易见的吧,普通人咋可能去用那么贵的玩意
我用KIMI都嫌贵

Kimi订阅本来就是最没性价比的那一档

—— 来自 HUAWEI SGU-AL10, Android 16, 鹅球 v4.0
回复

使用道具 举报

发表于 2026-10-21 14:07 | 显示全部楼层
bixinhaner 发表于 2026-10-21 13:34
看昨天的开源和盈利计算,感觉显卡和存储还要涨呀。
那么问题来了,现在要买的话,显卡,内存,ssd。优先买 ...

现在好像是ssd和内存在跌,显卡暴涨
回复

使用道具 举报

发表于 2026-10-21 14:10 | 显示全部楼层
想比较快速地上手dsh直接开始使用 有什么best practice 文档吗?oh my dsh可以么….

论坛助手,iPhone
回复

使用道具 举报

发表于 2026-10-21 14:11 | 显示全部楼层
国内网络服务都逃不过的劫    

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

×
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|手机版|小黑屋|上海互联网违法和不良信息举报中心|网上有害信息举报专区|962110 反电信诈骗|举报电话 021-62035905|Stage1st ( 沪ICP备13020230号-1|沪公网安备 31010702007642号 )

GMT+8, 2026-11-3 12:16 , Processed in 0.220937 second(s), 5 queries , Gzip On, Redis On.

Powered by Discuz! X3.5 Licensed

© 2001-2026 Discuz! Team.

快速回复 返回顶部 返回列表