人形机器人“狂奔”,马斯克并非杞人忧天│AI安全观察①

更新时间:2024-03-19 01:56:07作者:橙橘网

人形机器人“狂奔”,马斯克并非杞人忧天│AI安全观察①

21世纪经济报道记者孔海丽 北京报道

AI大模型疾行军,人形机器人所代表的硅基生物,行为越来越智能,恐怖谷效应也难以避免。

据国际投行高盛预测,到2035年,人形机器人市场规模有望达到1540亿美元。

科技巨头纷纷“用钱投票”人形机器人赛道的同时,技术的规范与安全,同样重要。

机器人的AI革命

3月18日,芯片巨头英伟达的GTC大会举行,这是英伟达每年最重要的技术发布平台之一,被业界公认为“AI风向标”。今年,大会的重点议题也是人形机器人。

就在上周,Figure01人形机器人的演示视频,在全球的社交媒体刷屏。

Figure01机器人根据人类发出的口头指令,完成了一系列动作:将苹果递给人类,将“垃圾”归类并放入篮子,将杯子和盘子拿起来放到沥水架上。

除了这些连贯的动作,机器人与人类之间的对话也相当清晰流畅,虽然其言行有一定的延时,但整体表现称得上“优异”。

这款人形机器人由FigureAI公司开发。该公司由硅谷另一位传奇人物阿德科克在2022年创立,阿德科克被称为“青春版马斯克”。创立不足两年,今年2月,FigureAI接受英伟达等公司投资时,估值已达26亿美元。

Figure 01接入了OpenAI提供的大模型。值得注意的是,该机器人的所有行为均来自其自主学习,并不是远程操控。而Figure AI公司在3月1日才宣布与OpenAI合作,只有不足两周时间的训练。

在这个过程中,由OpenAI提供视觉推理和语言理解,Figure 01的神经网络提供快速、低等级、灵巧的机器人动作。

Figure 01接入OpenAI的成果,揭示了AI大模型在商业应用上的广阔前景,而且很有可能超乎想象。

FigureAI和OpenAI均未透露该人形机器人接入的大模型是哪个版本,但可以确信的是,随着大模型能力的迅速迭代,人形机器人的思考、对话和行为也将得到大幅进化。

就在Figure01霸屏的几天前,一份54页的内部文件在硅谷流传,它描画的核心,是OpenAI正在开发的一个超级神秘项目,被命名为Q*(QStar)。

令人惊叹的是,Q*多模态大模型拥有125万亿个参数,比现有GPT-4多60倍。可供比较的是,人脑有800-1000亿个神经元、100万亿个突触。

业界纷纷猜测,Q*多模态大模型,正是模仿人类大脑设计的。

事实上,Q*准备走得更远。根据上述内部文件披露,OpenAI计划于2027年完成Q*训练,以GPT-7的名义发布。Q*最终面世的时候,它将相当于一个智商145的人类。

换而言之, GPT-7将成为第一个真正具有初步自我意识的AGI模型,而且智商将高达145,超过了99%的人类。众所周知,爱因斯坦的智商是160,而拥有145智商的人物,在全球也是凤毛麟角。

进步还是终结?

巧合的是,与Q*项目文件泄露差不多同一天,OpenAI公布了“宫斗夺权事件”的调查报告。该报告由美国著名律师事务所WilmerHale完成。

经过对OpenAI前董事会成员、高管及其他相关证人进行了数十次访谈、审阅文件3万余份,并评估各种公司行为之后,报告认为,前董事会解雇CEO山姆·奥特曼的决定,并非出于对产品安全、开发速度、公司财务状况或其向投资者、客户或业务合作伙伴声誉的担忧,而更多是二者之间的信任关系破裂。基于该调查报告,奥特曼“无罪”重返OpenAI董事会,并任命了来自外部的三名女性董事。

奥特曼称得上是“完胜”,但该调查报告有意无意回避了一个重要问题,即前董事会指责奥特曼“不坦诚”。

此外,人们还关心,现在已经离开公司的OpenAI前首席科学家、联合创始人IlyaSutskever(伊尔亚·苏茨克维),去年11月发生内部“宫斗”时与奥特曼的重大分歧到底是指什么,是不是传闻中“伦理与商业的方向控制”?

Q*项目文件或许揭开了谜底的一角。AI大模型初具自我意识,正是IlyaSutskever担忧的,他要求人工智能与人类“对齐”,就是希望在商业伦理方面加强对它的控制,以确保OpenAI 不偏离其“人工智能造福全人类”的创建初衷。

这也是马斯克长期以来的担忧。这位OpenAI前创始人之一、捐助者之一,前不久发起了一项针对OpenAI的诉讼,其所公开宣称的目的,就是让OpenAI践行“人工智能造福全人类”的初衷,而不是被微软等公司用于商业化。

性格强悍、行事偏执的马斯克,是一位“人类至上主义者”,无论是离开OpenAI再创办自己的AI公司xAI,还是创建火箭发射公司X SPACE,都是他核心观点的外化。前者是想确保人类不被人工智能机器人控制,后者则是要为人类拓展新的星际生存空间。

如果说Figure01打开了大模型的商业化前景,预示着产业界祈盼多年的GAI奇点即将到来,那么,Q*项目训练中的智商145大模型则夹杂着一丝担忧,如何防止它在拥有自我意识之后失控,或者反过来伤害人类甚至役使人类,这样的想法并非杞人忧天。

工业革命以来,尝到科技转化甜头的人类,总是期望更高更强更新的技术,从而使碳基生物在地球上能生活(统治)得更舒适、更长久。这就是为什么人们普遍希冀多模态大模型最终能导向一次产业革命的原因所在。

科学技术本身是中立的,没有善恶之分,但商业化路径却存在邪恶与良善。如果技术被不良理念主导,可能使科技走向无法收场。而且技术越先进,对人类潜在的伤害越大,人工智能换脸只是其中极小的例子。

不过,业界已经行动起来了。3月13日,欧洲议会高票通过了《人工智能法案》,下一步是待欧盟理事会批准。相对于管控和惩罚,这项法案更重在防范,比如要求微软、谷歌以及OpenAI等公司在发展工人智能时额外增加透明度。

当下,人类确实期待一次新的产业革命。但技术的运行,需要严格的规则与指引,使其运行在安全轨道上,防止技术脱缰。