当前位置:首页 > 每日看点

o1、GPT4、GPT4o 这三个有什么区别?

卡卷网2年前 (2024-12-04)每日看点563

GPT-4已经无了。

GPT omni,模态全能者

GPT-4o,o代表着omni(全能),体现了OpenAI将大部分模态,统一在Transform框架下,激发模型进行全模态思考的野心。

比如S2S,比传统的TTS,多了声波的维度,你可以从声波的频率中解读出额外的信息。还有图片识别,在统一框架下的图片识别,可以更有机地调用主模型的推理能力。

GPT-4o的框架下,有小模,中模,大模三种尺寸,小模适合快速推理(其实什么都不适合,现在比较好用的小模是Flash002),中模适合大部分人的通用任务,包括数学,代码,查询差不多都在这一层,大模写作能力更好,情感理解更细腻,大模的存在并不能明显提升STEM领域的表现,但对那种规则不明确的领域,会有更好的模拟,比如写作。

OpenAI o1,推理者

这是基于GPT的新式推理框架,可以理解为一个官方的Prompts外挂,通过强化学习,让模型学会通过“Prompt自启发”来稳固展开推理流,视野更广,步子更稳,走得也更远。作为一个通过强化学习得到的模型,奖励设置是重中之重。像数学、逻辑推理,通用代码是几个容易验证,所以容易设置奖励的领域。像主观性的东西,仍依赖于传统的RLHF(或者SFT),这就非常考验项目主管的审美能力了。

从本质上讲,o1仍然属于“单体Agent推理流”,这和马文·明斯基设想的“Agents心智社会”有比较大的差距,——即“智能”是由多个Agents协作产生的,它们会符合进化论和博弈论的潜在规则。或者,简而言之,o1仍然属于弱强化学习。如果要构成了一个“Agents的推理社会”,仍然需要在强化学习多多投入。

我大体同意OpenAI的理念,从深度神经网络中能直接挖掘出来的东西看,现阶段已经告一段落了,下一个世代需要的算力和数据量,可能又是另一个级别了。

扫描二维码推送至手机访问。

版权声明:本文由卡卷网发布,如需转载请注明出处。

本文链接:https://www.kajuan.net/ttnews/2024/12/2930.html

分享给朋友:

相关文章

为什么程序员不自己开发微信小程序这类似的东西赚钱?

为什么程序员不自己开发微信小程序这类似的东西赚钱?

你如果有好的想法是可以挣钱的 首先大家说的个人资质限制确实多,也不建议直接拿个人资质去用小程序盈利,因为很麻烦 我说一下我的大体操作: 1.首先去申请个体户,这个可以用住宅来注册申请,而且速度很快就几天就下来了,经营类目主要是互联网销售这些…

手机用久了,垃圾都在哪里,总是内存显示不够,还很卡,这可怎么解决?

手机用久了,垃圾都在哪里,总是内存显示不够,还很卡,这可怎么解决?

大家的手机在使用一段时间之后啊,是不是都会出现又卡又慢的情况,尤其是安卓手机,这种现象更是非常明显,而且很多朋友啊,也都知道手机之所以会出现这些问题,一般都是手机安装了大量软件,而这些软件在使用过程中会产生大量的缓存垃圾,因此啊时间久了就会…

打印速度慢,是不是打印机cpu不行?

打印速度慢,是不是打印机cpu不行?

打印机是机械设备,cpu内存硬盘它也有但这只是它的电控部分,打印机类似于汽车属于机电一体化设备和电脑不是一个类型的产品。 很多人总是认为打印机和电脑是一类产品,实际上这是一个误区,电脑是it(Information Technology)信…

为什么工资五千的人会一下花八九千买手机呢?

这其实是一个何不食肉糜的问题,这个问题其实很现实,越是月薪5000越需要高档手机。 前段时间看了一个纪录片,讲外卖小哥都用什么手机,结果发现绝大多数外卖小哥用的手机都是旗舰机型,有的时候宁可买二手也要买旗舰。 因为 1外卖小哥对ip68等手…

如何判断 Java 工程师的基础知识是否扎实?

我来给你出几道大题,能答对70%,你就算基础扎实了。 第一部分 Java基础(27)1. 程序本质:代码是如何被执行的?CPU、操作系统、虚拟机各司何职?2. 基础语法:从CPU角度看变量、数组、类型、运算、跳转、函数等语法3. 引用类型:…

无意中发现技术主管写的代码,大家帮忙看看什么水平?

无意中发现技术主管写的代码,大家帮忙看看什么水平?

虽然很多答主用了诸如“典范级”、“心旷神怡” 的形容, 赞美这段代码, 但这里, 出于技术讨论的动机, 我说说不同看法. 栈, 如果善于利用栈来处理树结构, 那么可以写出更简洁的代码, 根本不需要 recuresiveFn 这种方法. 泛型…

发表评论

访客

看不清,换一张

◎欢迎参与讨论,请在这里发表您的看法和观点。