奥特曼或因匿名信被开除?接近强人工智能的“Q星”浮出水面|科技观察

封面区块链 该文章已上链 >

封面新闻 2023-11-24 21:53 88602

封面新闻记者 马晓玉

就在上周,OpenAI 内部上演一出戏剧性的“宫斗”,其总裁山姆·奥特曼(Sam Oltman)在毫不知情的情况下被OpenAI 董事会开除。但就在昨日,奥特曼已返回OpenAI 并重新出任CEO一职。

山姆·奥特曼

OpenAI 的内乱看似已经大结局,但事实上还留下诸多的未知数,为何董事会坚持要让奥特曼离开?董事会到底有什么证据或是理由,不顾9成内部员工抗议强行辞退奥特曼,至今其中的缘由都没有被公开。

11月23日,据外媒报道,奥特曼被辞退很可能源于一封来自OpenAI 内部人员的匿名信件。信中警告道,OpenAI 所研发的新型人工智能大模型“Q星”拥有解决数学问题的能力,将对人类产生威胁。

奥特曼被罢免的背后

“Q星”或是导火索之一

匿名人士提到,OpenAI 最近在一项名为Q星(发音为Q-star)的人工智能大模型开发上取得进展,部分内部人士视为公司在通用人工智慧(AGI)上的突破,OpenAI 将 AGI 定义为在最具经济价值的任务中超越人类的自主系统。

于是部分研究员在奥特曼被罢免的四天前,向董事会出发警告信,称这个强大的AI或对人类产生威胁。长期担任 OpenAI 技术长的米拉·穆拉蒂(Mira Murati )周三也向员工提到了Q星,并表示在董事会开除奥特曼之前曾取得这封信。据指,该事件是奥特曼被解雇的导火线之一。

山姆·奥特曼和伊尔亚·苏茨克维

作为 AI 保守派,在今年7月时,OpenAI 董事会核心成员之一的伊尔亚·苏茨克维就曾组建了一个“超级联盟”,其宗旨就是保证未来GPT-4不会对人类造成伤害。上周,苏茨克维对该技术持保留态度,认为他可能会通过部署最新的突破性技术而过快推动AI发展,领头参与了这次高调罢免奥特曼的风波。

目前无法确认信中内容,也无法独立核实研究人员声称的Q星能力。OpenAI亦拒绝就事件置评。但作为OpenAI 联合创始人之一的马斯克却在社交媒体上转发相关报道,并表示非常令人担忧。

Q星到底有多厉害?

为何能掀起这么大的水花

要想粗略地了解Q星的能力,或许可以从人工智能发展的三个阶段说起。电子科技大学从事脑科学和人工智能研究的副研究员蒋希介绍道,人工智能发展的第一个阶段是弱人工智能阶段(ANI),这个阶段的人工智能可以帮助人类存储和快速处理海量数据,是认知和感知的基础。但是只专于某一领域,比如AlphaGo,虽然很擅长下围棋,却无法与人类下象棋。

其次是强人工智能阶段也就是经常说的通用人工智能阶段(AGI),能够同时应对不同层面的问题,具有自我学习,理解复杂理念等多种能力,这时候已经能够感知外界,能够帮助人类高效地完成“看”和“听”相关的工作,并作出判断,采取行动。但最近火热的ChatGPT也还不能被称之为AGI。

最后也是最高等级的阶段(ASI),也就是超人工智能阶段,它们拥有自由意志和自由活动能力的独立意识模式,能够像人一样思考并主动采取行动,可以全面辅助或替代人类工作。

目前,生成式人工智能擅长通过统计预测下一个单词来进行写作和语言翻译,而对同一个问题的回答可能千差万别。从应用成熟度的角度看,人工智能仍处于弱人工智能(ANI)阶段。

但是,如果掌握了数学能力(只有一个正确答案),就意味着人工智能将拥有更强的推理能力,与人类智能相媲美。研究人员认为,数学是生成式人工智能发展的前沿,这可以应用于新颖的科学研究等方面。与只能解决有限运算的计算器不同,AGI 可以概括、学习和理解。

从现实状况来看,消息人士谈到,Q星拥有大量计算资源,能够解决某些数学问题。“虽然它现在的数学能力只有小学生水平,但通过这些测试让研究人员对Q星未来的成功非常乐观。”

此外,还提到了一个由早期的 “代码基因”(Code Gen)和“数学基因”(Math Gen)团队合并而成“人工智能科学家”团队,目前工作就是探索如何优化现有的人工智能模型,以提高其推理能力,并最终完成科学工作。

奥特曼上周还在出席亚太经合组织(APEC)工商领导人峰会上表示,“在OpenAI 的历史上,我曾四次有机会置身其中,当我们把无知的面纱推开,把探索的前沿向前推进时,能够做到这一点是我一生的职业荣誉。”他相信重大进展就在眼前,然而一天后,董事会就解雇了奥特曼。

奥特曼出席亚太经合组织(APEC)工商领导人峰会

OpenAI 官网写道,“ OpenAI 的使命是确保AGI高度自主且在大多数具有经济价值的工作上超越人类的系统,将为全人类带来福祉。”如果信中内容为真,那么OpenAI 似乎已经快接近其宏大目标。

蒋希认为,研究者产生担心强人工智能威胁到人类很正常,但是现有技术进步到足够真正威胁人类地步的那一天还没到来,仍需要客观理性,“目前广大研究者都不知道它(Q星)的性能怎么样,是否真正已经达到了强人工智能阶段尚不清楚。但就算达到所谓强人工智能阶段(AGI),也不会对人类造成威胁,只要出台相应法规合理监管即可。”而今年正式实施的《生成式人工智能服务管理暂行办法》也展现了我国对人工智能技术飞速发展的关切。

评论 12

  • 王星星 2023-12-01 发表于四川

    科技强大

  • 范舟宜 2023-12-01 发表于四川

    奥特曼或因匿名信被开除

  • fmdcc90d 2023-11-30 发表于四川

    观察

查看更多

去APP中参与热议吧