OpenAI是否秘密创造了类脑智能?

OpenAI是否秘密创造了类脑智能?

今年早些时候,OpenAI的首席执行官Sam Altman在Reddit论坛上发表了一篇帖子,引起了科技界的轰动:“AGI已在内部实现。”

AGI是通用人工智能(Artificial General Intelligence)的缩写——是人工智能研究的终极目标。从本质上讲,真正的AGI是一种类似人类大脑的智能,能够推理、创造性思维,甚至可能具有意识。

Altman发布关于实现AGI的帖子是一件大事——它的重要性类似于一位顶级科学家发布“核聚变成功了”,或者Donald Trump发布“我不参与竞选”。

Altman后来表示,这个帖子只是个玩笑。但他最近被解雇的事件引发了对此的质疑。

据报道,就在Altman被解雇之前,OpenAI的董事会得知一个重大突破。泄露的文件显示,这一突破与一款代号为Q*的新模型有关。

OpenAI最终能实现AGI吗?Q*是什么,对人工智能的未来意味着什么?让我们一探究竟。如果你想了解更多关于人工智能的相关内容,可以阅读以下这些文章:
软件工程师:2023年让你减少繁忙工作的8大最佳人工智能工具!
人工智能取代人工之前要问的4个问题
如何一眼识别人工智能生成的图像!
一个新的人工智能野兽苏醒了!

关于Q*(发音为Q-star)的大部分信息都基于路透社的报道。该新闻媒体采访了OpenAI的几位匿名消息人士,并获得了有关所谓新突破的内部文件,其中包括该公司顶级科学家写给董事会的一封秘密信件。

他们的报告显示,Q*在内部引起了轩然大波,因为它能够完成以前任何大型语言模型都做不到的事情:基础数学。

起初,这似乎并不是什么大不了的事。自20世纪50年代以来,简单的计算器已经能够进行基本的数学运算。但是使用大型语言模型(或Q*可能使用的其他架构)实现这一里程碑,实际上是一个巨大的突破。

当我在Johns Hopkins学习认知科学时,我的导师是一位名叫Paul Smolensky的教授。他与一位竞争对手研究者就认知的本质展开了一场令人震惊的激烈辩论(至少对学术界来说是如此)

事情变得如此糟糕,以至于他的对手发表了一篇题为《为什么Smolensky的解决方案不奏效》的论文,几年后又发表了一篇题为《为什么Smolensky的解决方案仍然不奏效》的论文。

Smolensky的解决方案是什么?基本上,他试图解释人类的大脑(我们知道它是由连接在一起的神经元组成的)是如何进行符号推理,执行数学等运算的。

符号推理通常需要一台二进制计算机,它可以接收信息并进行系统处理,产生一个单一的、确定的、永远不变的正确答案。

大脑不是这样工作的。它们基本上是一团纷乱的线路。那么它们如何像计算机一样工作呢?

Smolensky提出,人类的大脑确实是一团杂乱的线路,我们利用这些连接的自由流动特性来做一些不需要精确的事情,比如创造性推理,甚至是视觉。

然而,当我们需要进行符号推理时,Smolensky提出,我们的纷乱线路可以以某种方式实现一个符号的“虚拟机”。

基本上,我们的神经元可以以某种方式调用一台虚拟计算机,在需要时能够使用符号并得出确定性答案。

至关重要的是,这台虚拟计算机仍然运行在连接神经元的相同神经硬件上。然而,它能够像一台二进制计算机一样工作,执行传统神经网络难以正确完成的操作。

如果路透社的报道是正确的,这表明OpenAI可能已经创造了这样一个混合系统,使用硅和计算机芯片而不是神经元和生物导线。

据报道,Q*能够进行符号推理,即使目前还处于非常低的水平,但这表明它可能已经成功地开发出Smolensky提出的那种连接主义的“虚拟计算机”系统。

与人类大脑一样,这将赋予新模型以直观和创造性的方式进行推理的能力(使用它的“混乱线路”,就像今天的LLMs所做的那样),而且还可以转换为符号推理模式,解决像数学问题这样有单一正确答案的问题。

因此,能够进行基本数学运算并不是OpenAI取得突破的重点。相反,据报道,基于神经网络的模型已经开发出了这种能力,这表明该模型在模仿人类大脑的基本能力方面迈出了重要的一步。

这一飞跃可能正是让OpenAI董事会感到恐慌的原因。如果Q*朝着更类似大脑的架构迈出了一大步,那么随着其扩展,它可能会发展出与人类大脑类似的其他能力。

对于人工智能末日论者来说,这足以让他们彻夜难眠,或者让一位受欢迎的首席执行官惊慌失措地下台。

与那些末日论者的担忧相反,Q*可能不会毁灭世界。即使该模型取得了以前仅限于人类大脑的突破,但这并不意味着它具有超级智能、意识,甚至达到了AGI的水平。

如果报道是正确的,这意味着OpenAI在创造有用的人工智能方面又领先了一大步。

一个能够直观和符号推理的模型在自然语言处理、药物发现和数学等领域将非常重要。这些领域需要创造性和逻辑性的融合,而目前的大型语言模型很难做到这一点。

例如,理解语言需要理解含义,同时还需要掌握语法等确定性基础知识。

目前的大语言模型可以在统计学的基础上理解语言,预测在给定文本中可能出现的单词。但他们并没有真正理解所有人类语言所拥有的基本符号逻辑,也没有真正理解产生含义的词汇之间的联系。

像Q*这样的模型,如果真的能将符号推理和直觉推理结合起来,就有可能将文本分解为其组成的语法部分,充分理解上下文,然后创建出与训练数据没有统计关系的全新文本或观点。这将赋予它巨大的创造力。

同样,如果一个系统既能够理解像蛋白质折叠过程这样的的确定性数学,又能更直观地了解人体功能,那么它可能会以极快的速度发明有用的新药物。

即使Q*已经存在,它可能也不会立即面向公众。正如这样的系统可以彻底改变药物发现或创意写作,它也可能擅长发明生物武器或编造令人信服、难以察觉的宣传。在像Q*这样的系统公开之前,OpenAI都需要应对这些风险。

如果关于Q*的报道是准确的,那就说明Altman在Reddit上关于AGI的暗示并不是在故弄玄虚。

它可能还没有出现,但像Q*这样的系统将是朝着更像人脑一样运作的人工智能的巨大飞跃。这将使它朝着能够像我们人类一样推理和创造的通用智能迈出巨大的一步。

感谢阅读!你还可以订阅我们的YouTube频道,观看大量大数据行业相关公开课:https://www.youtube.com/channel/UCa8NLpvi70mHVsW4J_x9OeQ;在LinkedIn上关注我们,扩展你的人际网络!https://www.linkedin.com/company/dataapplab/

原文作者:Thomas Smith
翻译作者:文玲
美工编辑:过儿
校对审稿:Jason
原文链接:https://medium.com/the-generator/did-openai-secretly-create-a-brain-like-intelligence-after-all-246caf1cfe6f