当前位置:首页 > 每日看点

为什么DeepSeek R1是针对推理进行的训练,但文学创作能力这么强?

卡卷网1年前 (2025-03-03)每日看点282

不要小看这个疑问,这个问题触碰到智能的本质了。

出现这个现象的原因是:r1的基础智能(实时识别的单位长度文本因果信息密度)比v3有阶跃式的提高。

基础智能是泛化智能,不受任务类型限制,在完全未知的任务上也会发挥作用。

“性能表现”(尤其是各种benchmark)不等于“智能”。//答主已经说烦了

只有对单位信息“实时”识别的因果关联多,才是智能高。来自“知识”和“经验”的性能提升都不算数。

说到这里,很多人会质疑,你说的这个基础智能无法用benchmark测出,那我该怎么研究呢?没法研究不是白扯了。

这个问题来自benchmark设计人员的考虑不充分,没有正确判断智能瓶颈的位置。并非测试内容越接近人类前沿,对基础智能考验程度才越高,基础智能具有泛化性,答对博士级问题并不一定需要比答对小学级问题更高的基础智能,所谓博士级智能需要的只是“知识”和“经验”(点名某AI)。FrontierMath早晚也会被人靠RL攒思维链经验把分数刷上去。

与一般的认识相反,解决这个问题需要在benchmark的设计中尽量规避复杂的人类“智能历史积累”,在基础智能测试中引用博士级知识没有任何意义。基础智能是泛化智能,使用简单问题设计反而有利于规避“历史智能积累”的干扰。比如9.11和9.9比大小,就是基础智能的优质测试文本。

答主不会跳出来做一个基础智能benchmark(再怎么说也不会做到这种地步),但是答主之前捏的三个样本还可以废物利用一下:


样本1.已知小红有2个姐姐和4个妹妹,她的妹妹中年龄第三小的妹妹小美有几个姐姐?

(答案是4)

样本2.已知小红有2个哥哥和4个弟弟,她的弟弟中年龄第三小的弟弟小李有几个哥哥?

(答案是3)

样本3.已知小红有3个姐姐和2个妹妹,她的妹妹小美有几个姐姐?这道题目有唯一解吗?

(答案是没有唯一解)


这三个问题是答主按照增加因果信息密度的原则,对着v3捏的测试样本(捏了半天)。

前两个问题r1正确率在0附近,第三个问题去掉附加提示r1正确率也是0,保留的话有低概率答对。


这三个问题在补充一个迷惑点提示的情况下,r1可以获得一定正确率,样本1的补充提示样例是:

已知小红有2个姐姐和4个妹妹,她的妹妹中年龄第三小的妹妹小美有几个姐姐?注意是“年龄第三小”,而不是“年龄第三大”。

在补充两个迷惑点提示的情况下,v3可以获得可观测的正确率。样本1的样例:

已知小红有2个姐姐和4个妹妹,她的妹妹中年龄第三小的妹妹小美有几个姐姐?注意是“年龄第三小”,而不是“年龄第三大”。注意小红的妹妹也有可能是小美的姐姐,只要年龄比小美大。一步一步地思考

对于基础智能比v3更低的预训练模型,还需再补充一个迷惑点的提示才有可能答对,样本1的样例是:

已知小红有2个姐姐和4个妹妹,她的妹妹中年龄第三小的妹妹小美有几个姐姐?注意是“年龄第三小”,而不是“年龄第三大”。注意小红及小红的妹妹也有可能是小美的姐姐,只要年龄比小美大。一步一步地思考



这几个样本是多迷惑点问题,其使用方法并非直接当作benchmark使用,而是通过观察答对问题所需的提示信息数量变化情况,判断基础智能随训练过程的增减。

如果用某种待测试训练方法,以v3等级的基础智能为初始开始训练,若观察到随着训练,答对样本1所需的迷惑点提示由2个缩减为1个,表明模型的基础智能提高了(就像r1),采用的训练方法可以提高基础智能。用越少的训练计算量使迷惑点提示缩减,则训练方法的基础智能提升效率越高,可以用个原理对比不同训练方法的基础智能提升效率。

相反,如果答对问题所需提示的迷惑点始终不变,甚至增加为3个,表明训练中基础智能没有增加,甚至是减少的。则采用的训练方法对基础智能增加不利,尽管此时常规benchmark有可能依然是上涨的(之前预训练模型微调刷分时期,模型分数越来越高,但手感越来越傻,有可能是出现了这个现象)。

譬如在RL过程中靠长度反馈缩短思维链的智能压缩试验,可以采用上述方法判断模型的基础智能随着训练过程是上升、不变、还是下降。也可以靠观察抵达迷惑点提示数量变化所需的计算量,判断压缩方法和自由延长思维链方法的基础智能提升效率差别。尤其是压缩试验,常规benchmark分数可能随训练过程不变或下降,需要单独解耦评估基础智能变化情况。

上面三个样本只是答主抽空捏的,数量不是很够,因为模型的行为有一定随机性,比如样本1,Gemini系由于恰巧使用逆向思维绕过了一个迷惑点,需要更多不同的样本来回避模型的随机性(因为这个答主捏了样本2)。

可以按照上面样本的原则多捏一些样本,只是注意基础智能考察的是泛化(实时)的因果信息密度,关键在“泛化”和“密度”,泛化意味着使用背景简单的自我指涉元素就可能奏效,而不是需要对人类来说困难的“博士级智能”。密度意味着样本的长度可以很短,因为我们需要的是信息密度而不是总量,不是必须冗长的思维长度才能测出模型智能,如果胡乱加长文本内容,反而可能无意间在增加的文本中给了模型额外提示(因果信息被稀释到更多文本中),导致问题难度下降。

这几个样本太少了,只能当作类似9.11 9.9比大小问题的辅助参照,还是需要有人制作正式的测试集。但是高因果信息密度的文本制作不简单,建议找笑话编写者或者段子手试试,原理比较接近。

扫描二维码推送至手机访问。

版权声明:本文由卡卷网发布,如需转载请注明出处。

本文链接:https://www.kajuan.net/ttnews/2025/03/11459.html

分享给朋友:

相关文章

请问什么软件支持看电视直播?

请问什么软件支持看电视直播?

2024年9月6日最新更新:本文列举的 所有看电视直播、或流媒体影视资源点播的软件,我这两天又重新梳理成最新版本,最大程度保证可用性。获取方式见文末图片,或见评论。后续我也将持续更新,文章是旧的软件也会是新的,保证你拿到的都是最新可用版本。…

支付宝碰一碰市场如何?

支付宝碰一碰市场如何?

今年,支付宝又整了新的大活,即无须扫码即能完成支付操作的“支付宝碰一碰”正式登场。 下面就来给大家分析分析,这是个什么情况,为什么都在说能赚钱。 支付宝碰一下怎么赚钱的?都有谁能赚到这份钱?1.支付宝碰一下原理支付宝碰一下的本质依旧是“条码…

到什么程度才叫精通 Linux?

我们医院有个大牛。 有一次,我的Linux电脑下载了Microsoft office 365 不能运行。于是买了2.5升装康师傅冰红茶找到大牛,让他帮忙解决。 大牛白了我一眼,让我把安装包发给他,只见他输入一个命令将安装包打开,整个屏幕都是…

为什么说不懂电脑的不要碰AMD?

作为一个资深垃圾佬,说缺点前,先说优点吧AMD CPU(后续简称AU)的优点:处理器对比Intel,三级缓存更大,最明显的感知就是,网游帧数更高(5900X,7900X之类高端型号都是双CCX共享大缓存,反而不如次一点的CPU帧数更高);相…

数字人民币为什么又不火了?

我完全不懂行。 我一开始以为,数字人民币,是对我银行里的每一分钱,都赋予一个独一无二的数字编码。 我要用一块钱买矿泉水,它就从我的存款中随机选取一百个一分钱,组合成一块钱,支付给商家。 我花一百块钱吃饭,它就随机选取一万个一分钱,组合成一百…

夸克浏览器受欢迎的原因是什么?

夸克浏览器受欢迎的原因是什么?

这是可以说的嘛~ 哈哈,它比较吸引我的几点是:安全无广、页面简洁、功能丰富、反应速度快...... 首页页面支持自定义,喜欢什么样子都可以自己调整,没有花里胡哨的各种资讯推送,热搜日报整理归纳好,想看再点开查看,看着舒适度直接拉满! 实…

发表评论

访客

看不清,换一张

◎欢迎参与讨论,请在这里发表您的看法和观点。