近日，据The Information报谈，OpenAI的下一代旗舰模子可能不会像前边几代产物那样竣事宽绰的飞跃。
据报谈，测试代号为Orion的新模子的职工发现，尽管新模子性能高出了OpenAI现存的模子，但最初进程并不如从GPT- 3到GPT-4那么大。
换句话说，OpenAI最初的速率似乎正在放缓。凭证一些里面职工的说法，在诸如编程这类任务上，Orion并不比之前的模子更可靠。OpenAI职工和磋磨东谈主员示意，GPT研发速率放缓的原因之一是高质地文本和其他数据的供应量在不停减少。
为嘱托这种情况，OpenAI树立了一个基础团队，以磋磨如安在新锻练数据不停减少的情况下连接改动模子。据报谈，这些新计谋包括使用AI模子生成的合成数据对Orion进行锻练等。
现在，OpenAI并未回答关联音信的评述苦求。不外上个月OpenAI曾示意，“本年莫得发布代号为Orion的模子的策划”。
在话语任务上发达更好
使用ChatGPT的用户数目正在飙升。不外，ChatGPT的底层模子改动速率似乎正在放缓。
OpenAI行将推出的旗舰模子Orion所靠近的挑战高慢了OpenAI所靠近的费事。本年5月，OpenAI首席推行官阿尔特曼告诉职工，他瞻望正在锻练的Orion可能会比一年前发布的上一款模子好得多。
The Information近日征引知情东谈主士的音信称，阿尔特曼示意，尽管OpenAI只完成了Orion锻练历程的20%，但就智能进程以及完成任务和回答问题的技巧而言，它还是与GPT-4相配。
关联词，一些使用或测试过Orion的OpenAI职工示意，天然Orion的性能高出了之前的模子，但与GPT-3到GPT-4的飞跃比拟，质地的晋升要小得多。
OpenAI的一些磋磨东谈主员以为，在处理某些任务方面，Orion并不比之前的模子更可靠。The Information征引OpenAI又名职工的话称，Orion在话语任务上发达更好，但在编码等任务上可能不会胜过之前的模子。其中一位职工示意，与OpenAI最近发布的其他模子比拟，Orion在数据中心运转资本可能更高。
OpenAI 磋磨员 Noam Brown上个月在TED AI会议上示意，拓荒更先进的模子在财务上可能不可行。
“咱们真要锻练耗资数千亿好意思元或数万亿好意思元的模子吗？”Brown说，“在某个时候，推广范式（Scaling paradigm）就会崩溃。”
数据资源被榨干了？
Scaling law是AI范畴的一个中枢假定：惟有有更多的数据可供学习，以及稀奇的筹划技巧来促进锻练历程，谎言语模子（LLM）就会连接以换取的速率改动。
扎克伯格、阿尔特曼等也公开示意，他们尚未涉及传统Scaling law的极限。
这便是为什么包括OpenAI在内的公司仍破耗数十亿好意思元来建造欢叫的数据中心，以尽可能地从预锻练模子中赢得性能晋升。
天然表面上现在的模子并莫得涉及Scaling law的极限，然而可供使用的数据开头却将近干涸了。
OpenAI的职工和磋磨东谈主员示意，GPT模子减慢的一个原因是高质地文本和其他数据的供应不及。谎言语模子需要在预锻练时期处理这些数据，以意会寰宇和不同看法之间的干系，从而处罚撰写著作或编程造作等问题。
The Information征引知情东谈主士的音信称，畴昔几年里，谎言语模子在预锻练历程中使用了来自网站、竹素和其他开头的公开文本和数据，但模子拓荒东谈主员基本上还是把这类数据资源榨干了。
已有合成数据用于锻练
为了嘱托这种情况，OpenAI树立了一个基础团队，以磋磨如安在新锻练数据不停减少的情况下连接改动模子。该团队由之前精雅预锻练的Nick Ryder率领。OpenAI示意，这个团队将磋磨若何嘱托锻练数据的匮乏，以及Scaling law还能适用多永劫刻。
OpenAI的又名职工称，Orion的锻练数据里有一部分是AI生成的合成数据。这些数据由GPT-4和最近发布的推理模子o1生成。关联词，该职工示意，这种合成数据导致了一个新问题，即Orion 最终可能会在某些方面与那些旧模子相似。
软件公司Databricks的联接首创东谈主兼董事长Ion Stoica示意，这种合成数据可能并不可匡助AI最初。
除此以外，OpenAI的磋磨者们在模子锻练后阶段进行了稀奇的改动。比如，OpenAI遴荐了强化学习门径，通过让模子从多数有正解的任务中学习（比如数学或编程问题），以此来改动处理特定任务的时势。
同期，OpenAI还会请东谈主工评估员对预锻练的模子在特定任务上进行测试，并对谜底进行评分。这有助于磋磨者退换模子，以更好地嘱托诸如写稿或编程等特定类型的苦求。这一门径，即附带东谈主类反馈的强化学习，有助于改动之前的AI模子。
o1便是OpenAI使用这种改动妙技得到的效果，o1模子在给出谜底前，会花更多时刻来“想考”谎言语模子在锻练历程中处理的数据。这意味着，即使不合底层模子进行修改，惟有在回答用户问题时提供稀奇的筹划资源，o1模子的回答质地就能执续晋升。据知情东谈主士浮现，如若OpenAI或者执续改动底层模子的质地，哪怕速率较慢，也能显耀晋升推理效果。
“这为咱们提供了一个全新的推广维度。”Brown在TED AI大会上示意，磋磨东谈主员不错通过将每次查询的资本从一分钱晋升到十分钱来提高模子的反馈质地。
阿尔特曼一样强调了OpenAI推理模子的伏击性，这些模子不错与LLMs结合。阿尔特曼在10月份一个面向利用拓荒者的行径中示意：“我但愿推理功能能解锁咱们多年来期待竣事的许多功能——举例，让这类模子有技巧孝顺新的科学常识，匡助编写更复杂的代码。”
但两位知情职工示意，o1模子现在的价钱比非推理模子高出六倍，因此它莫得无为的客户群。
与此同期，o1模子的安全性也被好多东谈主诟病，《天然》杂志就曾示意，在评估历程中，他们发现o1偶然会遗漏要津安全信息，举例未强调爆炸危急或忽视不顺应的化学品为止门径。
值得一提的是，OpenAI安全系统团队精雅东谈主翁荔（Lilian Weng）近日晓示将离开还是职责了近7年的OpenAI。