线索表明,生成人工智能的未来将在2024年揭晓
本文选自The Algorithmic Bridge,这是一个旨在弥合人工智能与人类之间差距的教育项目。
2024年对于生成人工智能来说是特殊的一年,但原因与2020-2023年不同。
如果让我用一个词来形容过去的几年,我会说是增长。
在短短四年的时间里,生成式人工智能已经从一个抽象的愿望转变为一个涉及许多类型的公司协同工作的异构空间:像OpenAI这样的模型制造商,像Scale AI这样的数据标签商,像Nvidia这样的硬件供应商,像Rabbit这样的设备创新者,以及像Jasper这样建立在语言模型之上的狭窄服务。
他们都以某种方式追求着同样的目标:将生成式AI打造成一个受人尊敬的成熟产业。
尽管有些人质疑生成人工智能根本没有用,但几乎没有人否认它是一种我们可以寄予厚望的新事物。我们期待增长,我们也实现了增长。无论是在研究还是在产品层面(只需计算发表的有价值的论文或创办的人工智能初创公司的数量)。
因此,它的增长最好地定义了生成式人工智能爆炸的早期阶段,从2020年6月OpenAI的GPT-3(如果我们稍微延伸一下时间,甚至是2019年的GPT-2)到2023年12月谷歌DeepMind的Gemini。
当然,今年也将是增长的一年,但增长并不能最好地定义它。我们正在进入一个新的阶段,需要一个更合适的词。
2024年将是真相大白的一年。如果你想了解更多关于人工智能的相关内容,可以阅读以下这些文章:
2024年每个开发人员都需要掌握的生成式人工智能技能
Google的Gemini AI模型:揭开人工智能的未来
世界上最好的人工智能模型:谷歌DeepMind的Gemini已经超过了GPT-4!
我尝试了50种人工智能工具,以下是我的最爱
GPT-4是太好了还是我们能得到的最好的?
2023年以一个惊喜开始,OpenAI的GPT-4比其他任何产品都要好得多。
它以另一种相反的情绪结束:人们期待已久的谷歌DeepMind的Gemini并不比GPT-4好多少(对一些人来说,它甚至略逊一筹,只是在基准测试的花招下表现得更好而已)。
有趣的是,这两个惊喜的原因都是一样的:GPT-4是2022年的技术。
在OpenAI完成模型训练一年半后(2022年夏天),世界上没有一家人工智能公司(包括OpenAI在内)成功构建并发布一个更好的系统。GPT-4在OpenAI与其竞争对手之间创造了巨大的差距,实际上已经成为了一道壕沟。
规模较小的人工智能初创公司和实验室在Meta及其Llama家族的带领下,利用开源的力量追求OpenAI的成功,但没有一家能达到GPT-4的性能。Anthropic的Claude 2、微软的模型或亚马逊的模型也是如此。(LLM竞技场排行榜是目前唯一可靠的基准测试,你可以查看领奖台:GPT-4, GPT-4,你猜对了,GPT-4)。
最后,每个人承诺向前迈出新一步的希望(至少对像我这样的旁观者来说)也落空了。
Gemini Ultra没有达到预期。
我们可以说,谷歌的DeepMind根本没有OpenAI好。Gemini并不比1.5年前的人工智能模型好多少,因为建造它的公司并不那么出色。但当DeepMind构建了AlphaGo和AlphaFold,然后是Chinchilla和Gopher,最后是Gemini时,这个论点就很难站得住脚了。
可以说,DeepMind惊人的人工智能发展历史比OpenAI更伟大。
另一种可能性是,就目前的技术水平而言,我们已经非常接近生成式人工智能的上限,这也是我理解人工智能专家们回避思考的原因。如果没有突破(这可能会发生,也可能不会发生),我们将无法很快达到下一个水平。如果发生这种情况,预期将遭受意想不到的冲击。
痛苦的教训只适用于不需要巧妙的算法突破的时候。当它们存在时,它就会破裂。如果我们进入一个这样的时期,无论是规模、数据还是计算都无法让我们到达另一边。
那么,GPT-4是真的好还是我们目前所能得到的最好的?
Mark Zuckerberg对生成式人工智能的坚定押注
2024年是重要的一年还有另一个原因。不仅因为我们可能会遇到算法上的上限(我们不确定),还因为风险处于历史最高水平。
如果上限真的存在,它可能不会持续太久,因为一些非常知名的人工智能公司承诺用尽一切力量打破它。
Meta首席执行官Mark Zuckerberg登场。
Zuck在Threads上分享的一段评论颇多的短视频中,他明确表示(据我所知,这是他第一次明确表示)Meta的目标是构建人工通用智能(AGI)并将其开源。这也是OpenAI和DeepMind多年来一直追求的目标(除了开源部分,这已经获得了大量的赞誉,肯定会让Altman和Hassabis在家里感到震惊)。
Zuck透露,到2024年底,Meta将拥有约35万个Nvidia h100(如果包括其他GPU,总共相当于约60万个h100)。也就是说,正如一些人估计的那样,价值200亿美元的计算资源准备好训练下一代人工智能模型。
他还说了我们已经知道的事情:Meta正在训练Llama 3,正如Yann LeCun暗示的那样,该公司将像他们对Llama 2和Llama一样将其开源。(注意,开源的定义比以前更加宽松,例如,我们对模型训练所用的数据一无所知。)
简而言之:Meta正在全力以赴。
对抗OpenAI和谷歌,但也朝着AGI和生成人工智能的领导地位迈进。Zuck的信息暗示着另一层含义:他似乎很有信心Meta能够证明能力上限并不存在。
但如果存在这样的上限——如果存在能力的高原(一些专家认为这并不存在,或者至少我们还没有接近,就像01.AI首席执行官Kai-Fu Lee在世界经济论坛的一场辩论中表示,他们将很快迎来挑战。而且是巨大的挑战)。
但如果这样的上限确实存在,如果他们无法用大约60万个h100突破它,会发生什么呢?
根据我们的发现,我们能走多远?
并不是很多专家对人工通用智能(AGI)的概念持有异议,尽管这是一个确实令人困惑的术语。
有些人更喜欢其他名字——LeCun认为这是一个误称,他使用人类级别的人工智能代替——但大多数人认为,无论我们怎么称呼它,我们最终都会到实现这一目标。Zuck本人表示,他并不真正关心这个缩写词背后概念的确切定义,但我们需要通用智能,才能让即将到来的人工智能工具真正成为下一代产品。
我不打算在这里讨论这个名字。我关心的是,即使人们不希望人工智能公司来建造AGI,至少在理论上,这是可能的。我们所知道的物理法则并没有限制类似或超越人类智能的存在(尽管也没有物理法则说这是必然的)。
我提出这个问题的原因是,我一直提到的假设上限不是一个硬限制,而是一个软限制,即我们对自己正在做的事情的理解(一半是认知缺陷,一半是技术不足)。
也许我们还没有真正弄清楚我们需要什么来构建下一代人工智能工具。也许我们做不到。我不知道,但我们的努力有可能在2024年失败。这不是一个疯狂的预测。无论Meta收集了多少GPU,如果这种可能性成为现实,它们可能还不够。
如果这两家顶尖的人工智能公司在尽了最大的努力之后,仍无法达到我们的期望,无法突破GPT-4看似无意中设定的能力上限,那么会发生什么呢?
这就是为什么2024年是一个特殊的年份。
GPT-5是否足够好?
GPT-5和Llama 3都即将推出。它们会足够好吗?
最近,Sam Altman在世界经济论坛接受采访时表示:“GPT-2非常糟糕,GPT-3相当糟糕,GPT-4很糟糕,GPT-5没问题。”我将此解释为GPT-5将明显优于GPT-4,也就是说,我们在使用它们时将感觉到差异,但可能不如他所希望的那么好。
问题是:这种能力的提升是否反映了与以前类似的进展路径?GPT-5对GPT-4的作用会和GPT-4对GPT-3的作用一样吗?这会让我们满意吗?首先,我认为从GPT-3到GPT-4的飞跃并不像从GPT-2到GPT-3那样令人印象深刻。也许当你看到一个系统从绝对低级到中等水平时,比从中等水平到相当不错时,更容易感到惊讶。
如果GPT-5“只是”好一点,那么它可能无法达到我们的期望或认知的标准。人们(尤其是那些痴迷的人)随时都在期待AGI的出现。他们也是人工智能最坚定的拥护者。如果人工智能公司失去了他们,他们就失去了大部分公众的支持。
2024年:揭秘之年
因此,Zuckerberg和Meta正全力开发AGI,其GPU计算价值比OpenAI的银行存款还多。Altman和OpenAI将在2024年的某个时候发布GPT-5,以努力保持领先地位并保持我们的热情。(我不知道在Gemini令人失望之后,Google DeepMind 计划做什么,棘手的演示加剧了这种失望,所以我把他们排除在外了。)
他们将尽最大努力提供证据,证明我们还没有完成指数级增长(正如Cohere首席执行官Aidan Gomez所说,扩展还没有耗尽)。人工智能正在以前所未有的速度增长。突破将会到来,清除前方如幻影般的障碍。能力上限是不存在的。AGI即将问世。
无论他们成功还是失败,人工智能的近期前景都将暴露无遗。
他们全力以赴,做出最后的赌注。
2024年,这场赌注的结果将揭晓。
感谢阅读,希望你喜欢这篇文章。你还可以订阅我们的YouTube频道,观看大量大数据行业相关公开课:https://www.youtube.com/channel/UCa8NLpvi70mHVsW4J_x9OeQ;在LinkedIn上关注我们,扩展你的人际网络!https://www.linkedin.com/company/dataapplab/
原文作者:Alberto Romero
翻译作者:wenling
美工编辑:过儿
校对审稿:Jason
原文链接:https://albertoromgar.medium.com/clues-say-generative-ais-future-will-be-revealed-in-2024-cb30099f8d77