我现在用qwen3.627bQ8上下文256kKV不做量化的全资源模式做

孤鸿泽 2026-05-09 11:32:29

我现在用qwen3.6 27b Q8 上下文256k KV不做量化的全资源模式做guda.cn项目的code review。这个项目代码量庞大，工程目录已经达到1.48G。

任务启动以后内存和显存各占45G，随着任务量的增加，会有略微的上涨。你买了一个48G的显卡是能进行生产力干活的，需要一点牺牲，压缩一下KV，但32G的就费劲了。

这就是我为什么没买5090的原因，32G还是憋屈，各种难受，甩不开膀子。上48G的只能满足当下的使用，一点余量没有，这对投资来说也是危险的，不如一把梭到rtxpro6000，没有比它再好的生产力产品了，再往上就是数据中心集群训练卡了。

0 阅读：0

感谢大家的关注

作者最新文章

1

anthropic的claude opus 4.7确实强到离谱。早上我用二十分钟

2

稍微加点光影效果，现在本地生图完全可以作定妆和分镜了，后期再一调色，难分真假。

3

我在本地生成的图片，感觉与在线大模型没有太大差别吧。

4

rtxpro6000有三个版本，服务器版没有散热，工作站版是双涡轮，Max-Q版

5

随着AI智能化的加速，提示词的能力差异会导致社会分层。表达能力的强的人会获得指数

6

有很多技术不能做培训，不是几个东西不能教，而是很多不能教。你要是入门了，自己能过

7

视频合成的时候所有资源全部拉满，一点余量都没了。

8

我现在用qwen3.6 27b Q8 上下文256k KV不做量化的全资源模式做

9

xAI每月烧钱约10亿美元，2025年全年亏损约130亿美元，直接把SpaceX

10

qwen3.6 27b的出现是一个本地部署的拐点，就像openai推出chatg

热门分类

财经TOP

1

目测损失500W有没有

2

一个人顶一个上海的GDP

3

高股息加业绩高增长股票一览！

4

你个st啥时候才能放我出来

5

165才是黄金身段

6

7

王鹤润王鹤润王鹤润

8

老板斥巨资打造的，你们管这叫什么风格？

9

美不胜收2082

10

美财长：中国买不到伊朗油。同一天，70艘油轮装满美国油高价出口！4月14日，美

财经最新文章

1

今天中国股市所谓的牛市与以前的牛市是完全不一样的。以前的牛市是权重蓝筹股轮流上

2

7.9亿人被“收割”！余额宝从6.7%跌到0.89%，一天0.24元，我们还在死

3

【一季度国内黄金ETF增仓量暴涨114.88%】5月9日，中国黄金协会公布的数据

4

巴菲特35年来，最高一年的收益率是1991年的65%。看到这个，估计很多散户开心

5

【#榴莲价格跌至1字头#：成水果店“引流神器”，有商家单日营业额4万元，称开到坏

6

国资圈炸锅了不少人慌了谁能想到一个正儿八经的国企集团，短短几年就能被败得

7

持有小券商的要后悔了吧！近日，河北证监局强调关于证券佣金收取标准的通知要求。

8

卢麒元称巴菲特和李嘉诚没有投资AI基建，我们却把大把的钱投了进去。同时他又称AI

9

一位云南的股民，不顾家人的反对，坚持要投资神剑股份。他家人拗不过他，最终同意了他

10

【金饰消费量下滑金饰消费量下滑原因】5月9日，据中国黄金协会，2026年一季度，