当前位置:首页 > 每日看点 > 正文内容

为什么DeepSeek R1是针对推理进行的训练,但文学创作能力这么强?

卡卷网8个月前 (03-03)每日看点162

不要小看这个疑问,这个问题触碰到智能的本质了。

出现这个现象的原因是:r1的基础智能(实时识别的单位长度文本因果信息密度)比v3有阶跃式的提高。

基础智能是泛化智能,不受任务类型限制,在完全未知的任务上也会发挥作用。

“性能表现”(尤其是各种benchmark)不等于“智能”。//答主已经说烦了

只有对单位信息“实时”识别的因果关联多,才是智能高。来自“知识”和“经验”的性能提升都不算数。

说到这里,很多人会质疑,你说的这个基础智能无法用benchmark测出,那我该怎么研究呢?没法研究不是白扯了。

这个问题来自benchmark设计人员的考虑不充分,没有正确判断智能瓶颈的位置。并非测试内容越接近人类前沿,对基础智能考验程度才越高,基础智能具有泛化性,答对博士级问题并不一定需要比答对小学级问题更高的基础智能,所谓博士级智能需要的只是“知识”和“经验”(点名某AI)。FrontierMath早晚也会被人靠RL攒思维链经验把分数刷上去。

与一般的认识相反,解决这个问题需要在benchmark的设计中尽量规避复杂的人类“智能历史积累”,在基础智能测试中引用博士级知识没有任何意义。基础智能是泛化智能,使用简单问题设计反而有利于规避“历史智能积累”的干扰。比如9.11和9.9比大小,就是基础智能的优质测试文本。

答主不会跳出来做一个基础智能benchmark(再怎么说也不会做到这种地步),但是答主之前捏的三个样本还可以废物利用一下:


样本1.已知小红有2个姐姐和4个妹妹,她的妹妹中年龄第三小的妹妹小美有几个姐姐?

(答案是4)

样本2.已知小红有2个哥哥和4个弟弟,她的弟弟中年龄第三小的弟弟小李有几个哥哥?

(答案是3)

样本3.已知小红有3个姐姐和2个妹妹,她的妹妹小美有几个姐姐?这道题目有唯一解吗?

(答案是没有唯一解)


这三个问题是答主按照增加因果信息密度的原则,对着v3捏的测试样本(捏了半天)。

前两个问题r1正确率在0附近,第三个问题去掉附加提示r1正确率也是0,保留的话有低概率答对。


这三个问题在补充一个迷惑点提示的情况下,r1可以获得一定正确率,样本1的补充提示样例是:

已知小红有2个姐姐和4个妹妹,她的妹妹中年龄第三小的妹妹小美有几个姐姐?注意是“年龄第三小”,而不是“年龄第三大”。

在补充两个迷惑点提示的情况下,v3可以获得可观测的正确率。样本1的样例:

已知小红有2个姐姐和4个妹妹,她的妹妹中年龄第三小的妹妹小美有几个姐姐?注意是“年龄第三小”,而不是“年龄第三大”。注意小红的妹妹也有可能是小美的姐姐,只要年龄比小美大。一步一步地思考

对于基础智能比v3更低的预训练模型,还需再补充一个迷惑点的提示才有可能答对,样本1的样例是:

已知小红有2个姐姐和4个妹妹,她的妹妹中年龄第三小的妹妹小美有几个姐姐?注意是“年龄第三小”,而不是“年龄第三大”。注意小红及小红的妹妹也有可能是小美的姐姐,只要年龄比小美大。一步一步地思考



这几个样本是多迷惑点问题,其使用方法并非直接当作benchmark使用,而是通过观察答对问题所需的提示信息数量变化情况,判断基础智能随训练过程的增减。

如果用某种待测试训练方法,以v3等级的基础智能为初始开始训练,若观察到随着训练,答对样本1所需的迷惑点提示由2个缩减为1个,表明模型的基础智能提高了(就像r1),采用的训练方法可以提高基础智能。用越少的训练计算量使迷惑点提示缩减,则训练方法的基础智能提升效率越高,可以用个原理对比不同训练方法的基础智能提升效率。

相反,如果答对问题所需提示的迷惑点始终不变,甚至增加为3个,表明训练中基础智能没有增加,甚至是减少的。则采用的训练方法对基础智能增加不利,尽管此时常规benchmark有可能依然是上涨的(之前预训练模型微调刷分时期,模型分数越来越高,但手感越来越傻,有可能是出现了这个现象)。

譬如在RL过程中靠长度反馈缩短思维链的智能压缩试验,可以采用上述方法判断模型的基础智能随着训练过程是上升、不变、还是下降。也可以靠观察抵达迷惑点提示数量变化所需的计算量,判断压缩方法和自由延长思维链方法的基础智能提升效率差别。尤其是压缩试验,常规benchmark分数可能随训练过程不变或下降,需要单独解耦评估基础智能变化情况。

上面三个样本只是答主抽空捏的,数量不是很够,因为模型的行为有一定随机性,比如样本1,Gemini系由于恰巧使用逆向思维绕过了一个迷惑点,需要更多不同的样本来回避模型的随机性(因为这个答主捏了样本2)。

可以按照上面样本的原则多捏一些样本,只是注意基础智能考察的是泛化(实时)的因果信息密度,关键在“泛化”和“密度”,泛化意味着使用背景简单的自我指涉元素就可能奏效,而不是需要对人类来说困难的“博士级智能”。密度意味着样本的长度可以很短,因为我们需要的是信息密度而不是总量,不是必须冗长的思维长度才能测出模型智能,如果胡乱加长文本内容,反而可能无意间在增加的文本中给了模型额外提示(因果信息被稀释到更多文本中),导致问题难度下降。

这几个样本太少了,只能当作类似9.11 9.9比大小问题的辅助参照,还是需要有人制作正式的测试集。但是高因果信息密度的文本制作不简单,建议找笑话编写者或者段子手试试,原理比较接近。

扫描二维码推送至手机访问。

版权声明:本文由卡卷网发布,如需转载请注明出处。

本文链接:https://www.kajuan.net/ttnews/2025/03/11459.html

分享给朋友:

相关文章

下班后可以做点什么副业赚钱呢?

下班后可以做点什么副业赚钱呢?

首先说明一下,我分享的任务不需要交钱,也不需要入群,只需要你去平台学习就可以。如果有任何让你交钱,进群的任务,请警惕被割韭菜。今天给大家分享7大赚钱副业,新手小白0粉丝0门槛0技术都可以去做,不说大富大贵,但是赚个零花钱还是可以。如果你已经...

学了两个月网络安全,一直未入门怎么办,知乎大佬们给些建议吧?

学了两个月网络安全,一直未入门怎么办,知乎大佬们给些建议吧?

你才学两个月,就想入门,笑不活了,我学了8年了,还被人说是个菜鸟。我学了这么多的渗透,依然挖不到自己的漏洞。ailx10:学习CSRF漏洞ailx10:学习PHP XXE漏洞ailx10:学习CORS漏洞ailx10:学习ClickJack...

为什么我感受不到 1500 元的手机比四五千的差?

我长期使用两千元左右的安卓机,一天接近8小时的重度手机使用者。某天我突然想试试看传说中非常赛艇的苹果。狠了心,砸了钱。七千大样买了爱疯。就这?什么辣鸡玩意。而且因为我一直更新软件,用了两年爱疯就卡了。并没有传说中的用四五年不卡。用了这么一次...

你为什么讨厌抖音?

我就被抖音毁了。现在被我媳妇从抖音里拯救出来了。我为什么会这样说?我媳妇硕士在读,我文化程度相对就比较低了。大多数人看抖音其实就是为了一图一乐呵刚开始我也是这样的,我是2017年在朋友的推荐下注册了抖音,刚开始那时候对抖音不太上瘾,一周也就...

中国芯片产量达1399亿颗,这意味着什么?

美国并不是没有明白人,只是特朗普不懂芯片产业的情况,冒冒失失在ZZ正确下,开启了对中国芯片的掐脖子,结果没掐死,反而让人练出了铁肺。芯片是所有科技产业的上游,美国原本在上游呆得很舒服,靠英伟达、AMD、德州仪器、高通等这些几十年霸主地位的公...

为什么有人觉得华为mate60只值2000?

为什么有人觉得华为mate60只值2000?

你以为买Mate60的人真的傻?真的那么爱国?国庆前,我家那傻子加价800多买了一台Mate60,当时还被我骂他是傻子。可是他说一回到公司就被老板同事朋友看到,拿去反复查看,都在惊叹他这么快就买到新机。跟亲戚朋友聚会,别人一看就知道他买的是...

发表评论

访客

看不清,换一张

◎欢迎参与讨论,请在这里发表您的看法和观点。