当前位置:首页 > 每日看点

Qwen-3在实际场景中的表现如何?

卡卷网12个月前 (05-14)每日看点230

首先说结论:实际体验挺不错的

配置(23年上半年攒的,今年换了4根内存):

13600kf+b760+4x48g ddr5(插满4槽 最后稳定在5400mt)+3090 24g

win11+ollama+open-webui(我比较懒,所以都是ollama一键拉模型)

先后跑了:

qwen2.5-qwq-q4

qwen3-32b-q4

qwen3-32b-q8

qwen3-30b-a3-q8

gemma3-27b-q4

gemma3-27b-it-qat

phi4-14B-q8

同时api了deepseek的reasoner和chat

主要应用场景:偶尔应付个文章(总结之类的),查询计算机知识盲点(懒得翻书和搜索),偶尔写个小代码

最后留下的是:qwen3-30b-a3-q8,gemma3-27b-it-qat

实际应用体验(含吐槽):

1.gemma3-27b前摇巨长(难绷),知识水平还是可以的,对中文意图理解就那样,优势是多模态(虽然有点鸡肋就是了),gemma3-27b-it-qat比gemma3-27b-q4感觉要好,输出信息要密集一点。

2.qwen3-30b-a3-q8 速度可以接受,效果不错,效果基本持平qwen3-32b-q8,速度翻倍(本来以为进内存交换以后速度会崩到底,没想到还行,为了速度就舍弃了qwen3-32b-q8),效果上来说q8应该是秒杀q4的。

3.deepseek 的 api真的不如网页(也许是我错觉),输出知识的时候有时候不如qwen3-32b-q8、qwen3-30b-a3-q8

4.phi4-14b-q8训练质量挺高,虽然智商稍稍差了一丢丢,但是有点精致的感觉,pk上还是不差的,主要是想到有qwen3-30b-a3-q8,就没留下了,没有试fp16

过几天试试用ktransformers部署一下qwen3:235b-a22b-q4,应该勉强能用用

吐个槽:qwen赶紧更新vl吧,10w+图片等着打标

最后教大家如何把带think的模型直接玩爆炸:十六进制数5AB3H转换为二进制是多少。

扫描二维码推送至手机访问。

版权声明:本文由卡卷网发布,如需转载请注明出处。

本文链接:https://www.kajuan.net/ttnews/2025/05/13073.html

分享给朋友:

相关文章

为什么大家都说手机性能永远超不过PC?

最新的天玑9400牛逼吧,堪称PC级CPU,测试成绩16W功耗能跑9500分,1.8W能跑3000分,GPU也差不多是这个情况。 手机电池一般是4000-5000毫安时,电压3.7V。 也就是说,手机正常满载5W功耗下,这个电池能支持运行4…

荣耀magic 7 首发的应该都收到货了,感觉怎么样?

8号入手magic7,跟mate40pro比。 优点:1、电池真耐用,充电块,华为电池也是新换的但是明显荣耀耐用;2、系统明显快多了,mate40pro下半年开始卡的不行,实在受不了了。3、声音、震动效果提升明显,指纹反应灵敏很多。 缺点:…

有哪些是你用上了mac才知道的事?

用上了高端的Mac(已退货)才知道:原来文件夹里面的文件,你看到是8个,其实可能有12个。其中3个图标重叠在一起了,另外一个被拖动到屏幕外面了。 用上了高端的Mac(已退货)才知道:原来鼠标灵敏度有问题是因为系统内置了鼠标加速度,只能用控制…

如何评价小米14pro顶配可以选配卫星通话,小米15全系都无法选配?

如何评价小米14pro顶配可以选配卫星通话,小米15全系都无法选配?

雷总不是说了吗,我可以不用,但你不能没有。市面上OPPO Find X8 Pro和vivo X200 Pro的卫星通信版分别加价300,而荣耀Magic7和Magic7 Pro有卫星通信版且不加价,荣耀更显诚意。 我觉得有是更好的,虽然使用…

年收入40万的网文作者,是不是可以吊打任何职业了?

哈,我二十岁的时候也这么狂。 想当年,我一个大二学生,在宿舍里写出一本大精品,月入两万五,在学校里走路都是横着的,游戏卡池一开,看都不看,氪到出货为止。iPhone12pro一发布直接买,还买了个iPad Pro,都是官网直接买的,Appl…

中国的科技为什么在最近2-3年时间像突然大爆发一样?

这个真的得感谢1998年美国在南联盟使馆投的两颗大炸弹。 在80年代中国下马了一千多个项目,用资金进口了近一百万辆小汽车。我记得小时候有一段时间从海南岛开往北方的漂亮日本小面包车,密集从村前公路上驶过,连过路的间隙都没有,就这样接连开了一个…

发表评论

访客

看不清,换一张

◎欢迎参与讨论,请在这里发表您的看法和观点。