当前位置:首页 > 每日看点 > 正文内容

Qwen-3在实际场景中的表现如何?

卡卷网3个月前 (05-14)每日看点64

首先说结论:实际体验挺不错的

配置(23年上半年攒的,今年换了4根内存):

13600kf+b760+4x48g ddr5(插满4槽 最后稳定在5400mt)+3090 24g

win11+ollama+open-webui(我比较懒,所以都是ollama一键拉模型)

先后跑了:

qwen2.5-qwq-q4

qwen3-32b-q4

qwen3-32b-q8

qwen3-30b-a3-q8

gemma3-27b-q4

gemma3-27b-it-qat

phi4-14B-q8

同时api了deepseek的reasoner和chat

主要应用场景:偶尔应付个文章(总结之类的),查询计算机知识盲点(懒得翻书和搜索),偶尔写个小代码

最后留下的是:qwen3-30b-a3-q8,gemma3-27b-it-qat

实际应用体验(含吐槽):

1.gemma3-27b前摇巨长(难绷),知识水平还是可以的,对中文意图理解就那样,优势是多模态(虽然有点鸡肋就是了),gemma3-27b-it-qat比gemma3-27b-q4感觉要好,输出信息要密集一点。

2.qwen3-30b-a3-q8 速度可以接受,效果不错,效果基本持平qwen3-32b-q8,速度翻倍(本来以为进内存交换以后速度会崩到底,没想到还行,为了速度就舍弃了qwen3-32b-q8),效果上来说q8应该是秒杀q4的。

3.deepseek 的 api真的不如网页(也许是我错觉),输出知识的时候有时候不如qwen3-32b-q8、qwen3-30b-a3-q8

4.phi4-14b-q8训练质量挺高,虽然智商稍稍差了一丢丢,但是有点精致的感觉,pk上还是不差的,主要是想到有qwen3-30b-a3-q8,就没留下了,没有试fp16

过几天试试用ktransformers部署一下qwen3:235b-a22b-q4,应该勉强能用用

吐个槽:qwen赶紧更新vl吧,10w+图片等着打标

最后教大家如何把带think的模型直接玩爆炸:十六进制数5AB3H转换为二进制是多少。

扫描二维码推送至手机访问。

版权声明:本文由卡卷网发布,如需转载请注明出处。

本文链接:https://www.kajuan.net/ttnews/2025/05/13073.html

分享给朋友:

相关文章

需要做一个微信小程序项目,大公司价格太高怎么办?

需要做一个微信小程序项目,大公司价格太高怎么办?

一个小程序制作开发多少钱构建一个微信小程序大概需要花费多少资金? 一、自主开发如果选择自主开发,这里面门道可不少。微信小程序认证费用: 300 /年域名费用: 30 - 80 /年服务器费用: 600 - 3000 /年这么一算,扣除人力成...

电视上哪个软件可以免费看电视直播?

电视上哪个软件可以免费看电视直播?

今天给大家推荐8款免费电视端直播看剧软件,感兴趣的朋友可以下载试一试!1、超级ITV 6.04免费看电视直播,央视卫视高清秒播,还有电影电视剧少儿体育等。2、小鲸电视 1.3.1小鲸电视是一款智能电视应用,集成了多个内容来源,包括腾讯视频、...

手机用久了,垃圾都在哪里,总是内存显示不够,还很卡,这可怎么解决?

手机用久了,垃圾都在哪里,总是内存显示不够,还很卡,这可怎么解决?

大家的手机在使用一段时间之后啊,是不是都会出现又卡又慢的情况,尤其是安卓手机,这种现象更是非常明显,而且很多朋友啊,也都知道手机之所以会出现这些问题,一般都是手机安装了大量软件,而这些软件在使用过程中会产生大量的缓存垃圾,因此啊时间久了就会...

内存和硬盘的单位都是G,两者的功能是什么?谁能用简单通俗的方式来解读一下?

内存和硬盘的单位都是G,两者的功能是什么?谁能用简单通俗的方式来解读一下?

要弄清楚这个问题,首先要弄清楚什么是内存,什么是硬盘,在计算机的组成结构中有一个很重要的部分是存储器。它是用来存储程序和数据的部件。对于计算机来说,有了存储器,才有记忆功能,,才能保证正常工作。存储器的种类很多。按其用途可分为主存储器与辅助...

如何在自己家里建立一套私有云系统?需要哪些设备?

如何在自己家里建立一套私有云系统?需要哪些设备?

我敢保证,这绝对是目前为止最简单的搭建家用私有云的方法:“一台主机+至少一块硬盘”足矣!不需要任何专业知识,也没有复杂繁琐的步骤,十分钟不到就能搭建好,帮你成功打开文件云储存新世界的大门!还在单纯依靠网盘进行文件存储的朋友,不是我吐槽哈,它...

在 Istio、Linkerd 和 Cilium 之间,哪种服务网格在性能上表现最佳?

在 Istio、Linkerd 和 Cilium 之间,哪种服务网格在性能上表现最佳?

在讨论服务网格之前,先理解一下为什么我们需要它。现代微服务架构意味着将应用拆分为多个小型、独立的服务,这些服务可以独立开发、部署和扩展。然而,服务之间的通信和管理成了巨大的挑战,例如如何保证安全的通信、负载均衡、监控与可观测性等。服务网格...

发表评论

访客

看不清,换一张

◎欢迎参与讨论,请在这里发表您的看法和观点。