当前位置:首页 > 每日看点 > 正文内容

o1、GPT4、GPT4o 这三个有什么区别?

卡卷网11个月前 (12-04)每日看点432

GPT-4已经无了。

GPT omni,模态全能者

GPT-4o,o代表着omni(全能),体现了OpenAI将大部分模态,统一在Transform框架下,激发模型进行全模态思考的野心。

比如S2S,比传统的TTS,多了声波的维度,你可以从声波的频率中解读出额外的信息。还有图片识别,在统一框架下的图片识别,可以更有机地调用主模型的推理能力。

GPT-4o的框架下,有小模,中模,大模三种尺寸,小模适合快速推理(其实什么都不适合,现在比较好用的小模是Flash002),中模适合大部分人的通用任务,包括数学,代码,查询差不多都在这一层,大模写作能力更好,情感理解更细腻,大模的存在并不能明显提升STEM领域的表现,但对那种规则不明确的领域,会有更好的模拟,比如写作。

OpenAI o1,推理者

这是基于GPT的新式推理框架,可以理解为一个官方的Prompts外挂,通过强化学习,让模型学会通过“Prompt自启发”来稳固展开推理流,视野更广,步子更稳,走得也更远。作为一个通过强化学习得到的模型,奖励设置是重中之重。像数学、逻辑推理,通用代码是几个容易验证,所以容易设置奖励的领域。像主观性的东西,仍依赖于传统的RLHF(或者SFT),这就非常考验项目主管的审美能力了。

从本质上讲,o1仍然属于“单体Agent推理流”,这和马文·明斯基设想的“Agents心智社会”有比较大的差距,——即“智能”是由多个Agents协作产生的,它们会符合进化论和博弈论的潜在规则。或者,简而言之,o1仍然属于弱强化学习。如果要构成了一个“Agents的推理社会”,仍然需要在强化学习多多投入。

我大体同意OpenAI的理念,从深度神经网络中能直接挖掘出来的东西看,现阶段已经告一段落了,下一个世代需要的算力和数据量,可能又是另一个级别了。

扫描二维码推送至手机访问。

版权声明:本文由卡卷网发布,如需转载请注明出处。

本文链接:https://www.kajuan.net/ttnews/2024/12/2930.html

分享给朋友:

相关文章

如果我们没有自己的手机操作系统,会出现所谓的“卡脖子”“安全”问题吗?

如果我们没有自己的手机操作系统,会出现所谓的“卡脖子”“安全”问题吗?

前段时间某某高管在微博发文表示:“其实我觉得,中国人需要的不是一个自己的手机os,而是一个全国产的微信,再搭配一些辅助功能。”这算是“安卓开源”开源的代表了吧。然而打脸来的如此之快,10月30日消息,在Linux内核疑似大规...

现在手里有一万闲钱,买什么币好?

今天是2024年7月29日,看看我的持仓吧。只有几百刀的那些微持仓就不说了,以下持仓都在几千刀~几万刀不等。不构成任何投资建议,成本是多次买入的大致均摊成本$TIA 成本0$DYM 成本0 $SAGA 成本0$STRK 成本0$ETHFI...

B 站上有哪些很好的学习资源?

B 站上有哪些很好的学习资源?

前!方!高!能!精选了多位学习Up主,不乏百万粉丝的大V,还有超多珍贵的学习资源推荐。进了小破站,完全不用担心学完了该怎么办?因为根本学不完啊!!!B站的学习干货实在太多了!语言学习葉子先生酱https://space.bilibili.c...

Layui 不更新了么?

Layui 不更新了么?

layui2.8已经于今天正式发布了,新增优化了大量特性,这里按照layui更新日志的模块结构,详细为你一一介绍。基础风格调整新版调整主色调为#16baaa,在原有的墨绿基础上赋予了清新。更简单的构建构建代码更简单,除字体外,只有js和cs...

打印速度慢,是不是打印机cpu不行?

打印速度慢,是不是打印机cpu不行?

打印机是机械设备,cpu内存硬盘它也有但这只是它的电控部分,打印机类似于汽车属于机电一体化设备和电脑不是一个类型的产品。很多人总是认为打印机和电脑是一类产品,实际上这是一个误区,电脑是it(Information Technology)信息...

为什么扫码支付在中国流行,在发达国家被排斥?

因为这是一种落后的技术。卖菜的大爷花5毛钱就可以打印出一张二维码来接受付款。你觉着这种先进么?跟先进完全不沾边的。正是因为不先进,所以才能流行。卖菜大爷用不起一台先进的、具有NFC感应功能的、还能刷各种银行卡的收款机。这就是现实。发达国家,...

发表评论

访客

看不清,换一张

◎欢迎参与讨论,请在这里发表您的看法和观点。