大贤者
精华
|
战斗力 鹅
|
回帖 0
注册时间 2015-1-9
|
本帖最后由 phorcys02 于 2026-9-1 23:00 编辑
command code goat 的第一个 周限额蹬完了。大概这样,只蹬v4f, 2.7B, 不是严格按照梁文谷蹬的,如果严格遵循梁文谷,估计在3B左右,每月大概6B。
当然这个数字取决于你的命中率,我基本都是dsh蹬的,命中率都是99%+。
command code goat 可能和 ollama pro一样自部署了, 因为最近人少时候有300token/s, 人多时候也有150-200token/s.
和官网相比量化的程度感觉还好,略低一点点。我的任务不是特别吃模型智力,所以感觉还好。
如果你需要大量v4f, 也能接受量化损失一点智力, command code goat还是有点香的.
300token/s用多了, 官网的 105token/s都觉得慢如牛, sol更是乌龟一样...
但command code goat还有个专门的 deepseek 4 flash fast 模型, 用量少很多,不知道是不是因为测试期,所以才给这个速度。
|
本帖子中包含更多资源
您需要 登录 才可以下载或查看,没有账号?立即注册
×
|