当前位置:首页 > 每日看点

在CV界,传统卷积已经彻底输给Transformer了吗?

卡卷网2年前 (2025-01-18)每日看点295

感觉很多答案都回答得很好了。

我就只说一点,经过在 Kaggle 上实践十几个数据集之后,我得到的结论是 ViT 系模型全都是“近视眼”。

(ViT 系模型: Vision Transformer 系列模型总称,包括 vit, swin, cait, deit, xcit, deit 等等)

比如说像下图这样的,哪怕你有近视眼,还是能分辨出狮子是狮子。

在CV界,传统卷积已经彻底输给Transformer了吗?  第1张

而 CV 科研界圣杯 ImageNet 里全是这样的图片,因此 ViT 系模型能大显身手。

在 Kaggle 里的类 ImageNet 数据的比赛中 ViT 确实能占一席之地,和 CNN 分庭抗礼 (并不是一边倒)。

但如果换成这样的图片,要在几千x几千像素的图片里分辨出这种像素级别的细节,那就不是 ViT 系模型的强项了,甚至在某些个数据集上基本无法正常收敛。

在CV界,传统卷积已经彻底输给Transformer了吗?  第2张

可以去看 Kaggle 上近两年的医疗图像比赛,金牌区基本看不到用 ViT 系模型的,清一色 CNN。

扫描二维码推送至手机访问。

版权声明:本文由卡卷网发布,如需转载请注明出处。

本文链接:https://www.kajuan.net/ttnews/2025/01/9907.html

分享给朋友:

相关文章

下一个风口最可能是什么?

下一个风口最可能是什么?

肯定是一带一路了,国内没什么卷的空间了,现在国家正在给一带一路的第三世界国家建设基础设施,等交通打通之后,就是通信打通,通信打通就是贸易打通,未来我建议大家重仓小语种,阿拉伯语最值得学(也有其他小语种自己去查一带一路国家),将来去其他国家随…

如何判断 Java 工程师的基础知识是否扎实?

我来给你出几道大题,能答对70%,你就算基础扎实了。 第一部分 Java基础(27)1. 程序本质:代码是如何被执行的?CPU、操作系统、虚拟机各司何职?2. 基础语法:从CPU角度看变量、数组、类型、运算、跳转、函数等语法3. 引用类型:…

MacOS真的比Windows流畅吗?

我现在公司配的机器,配置是绝对的大古董了 惠普z230sff薄塔 cpu只是个4770,没错不是4790k,4770全核睿频只有3.8g 显卡更是古董,k600,已经结束驱动更新支持了,显存仅1g,跑分跑不过13代uhd核显 内存是加到16…

电视家停运了,目前有没有免费的电视直播软件?

电视家停运了,目前有没有免费的电视直播软件?

内部消息已经出现电视家5.0版 电视家是会停运的衍生品 这里有2个不停运的直接品 一、电视盒子 二、电视机本身 一、关于电视盒子的故事:电视家刚停运几天之后,我家首次花210块买了一年的电视会员。 88岁的亲爷爷喜欢,虽然看不懂电视剧情,架…

能Ping到IP地址,却不能Ping网址,会是什么原因?

号主:老杨丨11年资深网络工程师,更多网工提升干货,请关注公众号:网络工程师俱乐部 下午好,我的网工朋友。 在网络管理和故障排除中,ping是一个常用的工具,用于测试主机之间的连通性。然而,仅仅依赖ping命令往往无法全面诊断复杂的网络问题…

求一个超级丐的nas,要求足够便宜?

求一个超级丐的nas,要求足够便宜?

看了几个方案,门槛都太高了。 我个人是比较推荐猫盘(小猫)的,一百块钱左右就有,一般卖家都会刷好刷不死固件,轻而易举就能按教程一步步刷成黑群晖,实在手残稍微添点让卖家刷好也行。 这玩意儿最大的buff是,硬件和白群DS120J是完全一样…

发表评论

访客

看不清,换一张

◎欢迎参与讨论,请在这里发表您的看法和观点。