OpenAI风波过后,神秘项目“Q星”浮出水面,内部研究人员称其将威胁人类

更新时间:2023-11-26 09:30:37作者:橙橘网

OpenAI风波过后,神秘项目“Q星”浮出水面,内部研究人员称其将威胁人类

随着美国人工智能公司OpenAI首席执行官、ChatGPT之父萨姆·奥尔特曼的回归,这场震惊美国科技界的“宫斗大戏”也暂告一个段落。而直到现在,奥尔特曼被突然解雇的确切原因还是一个谜团。

近日,有消息人士透露称,奥尔特曼被突然解雇,可能与该公司秘密研究的项目——Q*(发音为Q-star,即Q星)有关,而一些员工认为Q星可能是该公司探索通用人工智能(AGI)获得的突破性成果。


OpenAI首席执行官萨姆·奥尔特曼回归

与此同时,资本市场注意到,尽管这部“宫斗”大戏的结局是奥尔特曼回归,但尘埃落定之前,在各大公司掌门人开出优厚薪资待遇、试图对OpenAI员工展开“挖角大战”时,人工智能领域人才资源竞争的激烈程度已经可见一斑——只要AI岗位的客观需求仍然旺盛,企业就会继续敞开怀抱,用惊人的薪酬数字努力吸引顶尖人才。

能解决小学数学问题的“Q星”

为何被指“对人类有威胁”?

有报道指出,OpenAI公司正在研究的“神秘AI项目”(即Q星),可能是导致奥尔特曼此前被突然解雇的重要原因之一。

有两名匿名人士透露,该公司几名研究人员曾致信董事会,警告称这一项目的突破将威胁人类。信中称,Q星可以解决小学数学问题,这点燃了紧张情绪,也引发了大家的疑问——奥尔特曼是否在研发方面过于激进。而该公司首席技术官穆拉蒂随后也在一份发送给员工的备忘录中承认了Q星项目的存在。


“神秘AI项目”或是导致奥尔特曼此前被解雇的原因 图据视觉中国

事实上,奥尔特曼此前突遭解雇之时,OpenAI前董事会曾称“奥尔特曼不够坦诚”。还有消息称,奥尔特曼被解雇的背后是OpenAI高层对公司未来发展产生的分歧,而分歧的核心就是“安全和商业化”。

报道称,一直以来,人们都致力于让机器解决数学问题,为此才有了计算器等的发明。不过此前的计算机器只能通过输入一系列的命令,最后得出一个唯一答案。在这样的前提下,这些机器无法脱离程序进行创造性思考。而Q星则不然。

“倘若真的能实现突破,让它(Q星)能对抽象概念进行逻辑推理,那将是一个巨大飞跃。”AI初创公司Tromero联合创始人希金斯解释道。该公司的另一位联合创始人卡拉诺夫斯卡则认为,这个项目的名字——Q星,暗示着它可能是Q-learning和A*搜索的结合。

据介绍,Q-learning是AI强化学习方式中的一种,让AI通过反复试验来学习做出决策的方法。与OpenAI现行训练AI的方法不同,Q-learning不需要依赖人类反馈进行学习,而是自行完成所有的操作和训练。

倘若未来生成式AI真的能够自行找到正确的数学题解题方法,这将表明其拥有更高层次的推理能力,也可能成为开发AGI的第一步。据悉,AGI是指具备理解、学习技能的AI。简单来说,开发出AGI意味着开发出一种能执行人类才能执行的任务的AI。

有报道指出,AGI是一种可以超越人类的AI,其可能在未来对人类造成生存威胁,为此人们认为需要对其加以限制。专注于研究AI的罗戈斯基则补充称,就数学而言,现有的AI已经能进行本科水平的数学演算,但无法处理高级的数学问题。“若新的AI能不依靠以往的数据分析,而能解决新的、此前没出现过的问题。这将是一个大突破。”他说道。

“没有员工,就没有OpenAI”

他们为何能“一个抵三个”?

在此次OpenAI“宫斗”风波中,“700多名员工签联名信要求奥尔特曼重返,否则就集体跳槽到微软”,也凸显了该公司精英员工们的影响力。求职网站ZipRecruiter的首席经济分析师波拉克分析称,对于AI这样的新兴技术,只有极少数人能既懂理论又有经验,而OpenAI的员工就是人才稀缺行业中的“抢手货”。


OpenAI的700多名员工签联名信要求奥尔特曼重返

据悉,微软首席执行官纳德拉曾向OpenAI员工保证,倘若他们愿意加入微软旗下的新AI子公司,微软将保证为其留下岗位。美国云端软件公司Salesforce的首席执行官贝尼奥夫更是直接喊话有意愿离职的OpenAI员工:“直接把简历发我邮箱。”贝尼奥夫据称还提供了一份足以匹配OpenAI员工的薪资福利报价单。

波拉克介绍称:“OpenAI的软件系统是高度专业化的,员工需要通过长时间学习才能运用。这些员工无法轻易从别处挖来,培养也需要较长时间。为此,OpenAI公司内部一名AI工程师能抵其他公司的三名同类型工程师。”波拉克认为,这也让OpenAI公司的员工在业内拥有异常高的地位,甚至能向董事会施压。“正如OpenAI首席技术官所说,没有员工的OpenAI,什么都不是。”

从薪资数据上看,根据OpenAI数据,其工程师的职位薪资范围一般年薪是在20万美元到37万美元,少数更专业化的岗位薪资能达到30万美元到45万美元之间。根据薪资统计网站Levels.fyi测算,倘若员工的薪资为30万美元,那么加上奖金、股票奖励,其一年总薪资可能达到80万美元。

红星新闻记者 黎谨睿 综合新华社、环球网报道

编辑 郭宇 责编 李彬彬

为您推荐

2023桐乡马拉松赛前一天练什么?

马拉松比赛前一天可以以休息为主。

2023-12-02 21:55

2023桐乡马拉松赛前两天训练内容有哪些?

2023年桐乡马拉松赛前一到两天最好不要完全停止跑步,可以进行放松慢跑,距离不超过6公里,以保持状态和适应比赛地的环境为主,时间也尽量以晨跑为宜。

2023-12-02 21:55

山东全国交通安全日直播入口

山东全国交通安全日直播入口直播在线入口:中国交通频道,山东公安、山东交警、济南交警微信视频号等

2023-12-02 21:55

2023桐乡马拉松赛前五天训练什么

2023桐乡马拉松赛前五天这个时间段可以安排抗乳酸训练,开始减量后肌肉的耐乳酸能力必定会受到一定影响。

2023-12-02 21:55

潍坊市公益广告创意设计大赛(参赛要求+奖项设置)

潍坊市公益广告创意设计大赛参赛要求奖项设置.参赛作品必须遵守国家法律法规,坚持正确价值导向,符合公序良俗,突出思想道德内涵,构思新颖、创意鲜活,融潍坊的历史文化、发展成就、时代特征、艺术特点于一体,具有一定的艺术感染力和冲击力等

2023-12-02 21:55

2023桐乡半程马拉松赛前一周训练什么?

2023年桐乡马拉松赛前训练一般建议在赛前6、7天可安排一次20-22公里的长距离跑后,但是后面的五天的训练量应当逐渐减少,以便于调整体能状态。详见全文。

2023-12-02 21:55