当前位置:首页 > 每日看点 > 正文内容

Qwen-3在实际场景中的表现如何?

卡卷网10个月前 (05-14)每日看点208

首先说结论:实际体验挺不错的

配置(23年上半年攒的,今年换了4根内存):

13600kf+b760+4x48g ddr5(插满4槽 最后稳定在5400mt)+3090 24g

win11+ollama+open-webui(我比较懒,所以都是ollama一键拉模型)

先后跑了:

qwen2.5-qwq-q4

qwen3-32b-q4

qwen3-32b-q8

qwen3-30b-a3-q8

gemma3-27b-q4

gemma3-27b-it-qat

phi4-14B-q8

同时api了deepseek的reasoner和chat

主要应用场景:偶尔应付个文章(总结之类的),查询计算机知识盲点(懒得翻书和搜索),偶尔写个小代码

最后留下的是:qwen3-30b-a3-q8,gemma3-27b-it-qat

实际应用体验(含吐槽):

1.gemma3-27b前摇巨长(难绷),知识水平还是可以的,对中文意图理解就那样,优势是多模态(虽然有点鸡肋就是了),gemma3-27b-it-qat比gemma3-27b-q4感觉要好,输出信息要密集一点。

2.qwen3-30b-a3-q8 速度可以接受,效果不错,效果基本持平qwen3-32b-q8,速度翻倍(本来以为进内存交换以后速度会崩到底,没想到还行,为了速度就舍弃了qwen3-32b-q8),效果上来说q8应该是秒杀q4的。

3.deepseek 的 api真的不如网页(也许是我错觉),输出知识的时候有时候不如qwen3-32b-q8、qwen3-30b-a3-q8

4.phi4-14b-q8训练质量挺高,虽然智商稍稍差了一丢丢,但是有点精致的感觉,pk上还是不差的,主要是想到有qwen3-30b-a3-q8,就没留下了,没有试fp16

过几天试试用ktransformers部署一下qwen3:235b-a22b-q4,应该勉强能用用

吐个槽:qwen赶紧更新vl吧,10w+图片等着打标

最后教大家如何把带think的模型直接玩爆炸:十六进制数5AB3H转换为二进制是多少。

扫描二维码推送至手机访问。

版权声明:本文由卡卷网发布,如需转载请注明出处。

本文链接:https://www.kajuan.net/ttnews/2025/05/13073.html

分享给朋友:

相关文章

B 站上有哪些很好的学习资源?

B 站上有哪些很好的学习资源?

前!方!高!能!精选了多位学习Up主,不乏百万粉丝的大V,还有超多珍贵的学习资源推荐。进了小破站,完全不用担心学完了该怎么办?因为根本学不完啊!!!B站的学习干货实在太多了!语言学习葉子先生酱https://space.bilibili.c...

想要在双 11 换一台全面无短板的新手机,有没有「闭眼买」的机型推荐?

想要在双 11 换一台全面无短板的新手机,有没有「闭眼买」的机型推荐?

最近一个月各大手机厂商的旗舰机扎堆发布,不知道大家看爽了没?这一代的性能续航大提升,最低 3599 元就能买到,同时老款也有不小的降幅,今年双 11 算是相当适合换手机的节点了!这次,小黑就给大家推荐双 11 期间值得购买的手机...150...

有哪些是你用上了mac才知道的事?

用上了高端的Mac(已退货)才知道:原来文件夹里面的文件,你看到是8个,其实可能有12个。其中3个图标重叠在一起了,另外一个被拖动到屏幕外面了。用上了高端的Mac(已退货)才知道:原来鼠标灵敏度有问题是因为系统内置了鼠标加速度,只能用控制台...

PHP承载百万/天 访问量需要用到什么技术?

当年做一个百万PV的商城,也不过是两台2c4g的阿里云虚机罢了(其实一台就够,另外一台主要的逼着大家一定开发的时候一定要有负载均衡和横向扩容的意识)。当时框架还是Thinkphp3.2,框架提高运行效率的开关全打开,标准的lnmp模式,单机...

想入个键盘,想买机械的但是太贵,求知友推荐一款手感比较好的薄膜键盘?

想入个键盘,想买机械的但是太贵,求知友推荐一款手感比较好的薄膜键盘?

相信很多接触过286的90后朋友都和我有一样的体会,以前的机械键盘真的是让人头皮发麻,不仅敲击要非常用力,而且很吵。所以后面随着大家的生活消费水平的上升,家家户户都有电脑了,自然也不想再用打字来宣扬自己有电脑的优越感,基本上大家都换成了又轻...

为什么神经网络可以解偏微分方程,是什么原理?

为什么神经网络可以解偏微分方程,是什么原理?

题主一直比较关心神经网络在其他科学领域的应用,比如数学、物理学还有生物学,比如AlphaFold。本次带来的这篇文章傅里叶神经网络算子解偏微分方程就是一个很有意思的方向,其实我自己去年在给美国一个客户做兼职预测数字货币期权价格的时候就用到过...

发表评论

访客

看不清,换一张

◎欢迎参与讨论,请在这里发表您的看法和观点。