黄学东院士:ChatGPT虽然厉害 但不可能取代人类

更新时间:2023-06-05 22:06:38作者:橙橘网

黄学东院士:ChatGPT虽然厉害 但不可能取代人类

作者|章剑锋

出品|网易科技《科学大师》栏目

微软云全球人工智能首席技术官,是位华人,他叫黄学东。在ChatGPT火爆中国之后,我注意到了他。

ChatGPT是一款由OpenAI研发的生成式人工智能模型,微软是它最大的投资方。有关于它的神乎其神,市面上有着各种各样不好确证的传言和解读,而媒体也注意到,在它的研发团队成员中,有不少年轻的华人面孔,其中不少人的大学阶段或研究生教育是在中国国内完成的。

黄学东院士:很多华人能在国外异军突起,说明了什么?

图片由受访者提供

黄学东先后在湖南大学和清华大学读本科和研究生,1987年前往英国爱丁堡大学深造,攻读博士学位,后又前往美国卡内基梅隆大学从事研究工作。1993年,他加入微软公司,一呆就是30年,成为一位全球人工智能领域顶尖的华人工程师。

微软先后走出过多位知名业界的华人高管,如李开复、张亚勤 、沈向洋、张宏江、洪小文、陆奇等人,黄学东相对低调很多,早在上世纪90年代,他就推动和策划了微软公司管理层在北京组建微软中国研究院(后来的微软亚洲研究院),于幕后做了不少工作,包括具体到面试研究院的管理者,帮助微软公司引进和面试了李开复、张亚勤、张宏江等业界大牛。

今年,黄学东先后当选了美国国家工程院院士和美国艺术与科学院院士,成为计算机领域大陆改革开放后培养出的第一位美国双院院士。采访他时,我才知道,整个微软的认知服务,从创建到落地到推出,他一直是领导者和灵魂人物,他也是微软公司最接近ChatGPT项目的人之一。

关于ChatGPT与微软现有人工智能产品的关系,黄学东向我解释说,微软认知服务,包括了微软语音,微软计算机视觉、机器翻译和Azure OpenAI services,而Azure OpenAI services就包括ChatGPT、GPT4.0、DALL.E等,它们都是同样的API(Application Programming Interface,微软应用程序),而这些都是黄学东领导的团队在过去几年推出来的。

他说,“微软认知服务是微软从人工智能研究到落地以来一个经典的产品,影响了众多的客户。Azure OpenAI的ChatGPT也是微软认知服务框架下的一个产品”。


一,你只看到ChatGPT一枝独秀,却没有看到另外90%的失败

《科学大师》:ChatGPT在中国大火,各种公司和主体纷纷进入这个研发和投资赛道,我们担心会存在某种非理性的狂热,最终把泡沫吹大吹破。您怎么看这个问题?美国也有这种情况么?

黄学东:我对中国国内的情况不太了解,所以不敢随便发言。在美国,我觉得谷歌、 Meta、微软公司和OpenAI做得都差不太多,美国现有三家大的云平台在做这个事,市场上已经有的是微软和OpenAI合作推出的ChatGPT,谷歌有他们自己的东西,扎克伯格的Meta也做了一个开源的大模型,基本上就是这几家了。那Amazon (亚马逊)也正在开发他们自己的东西。还有一些初创公司,有几家也在做类似的东西,大概总共是10家左右。我觉得这样很好,有竞争才有进步。

至于你关心的最后谁能跑出来,成为王者,现在从技术层面来讲,我觉得微软和谷歌无疑是处在领跑者的位置,两家的优势都是比较明显的。

《科学大师》:为什么微软这么有眼光,它能够下重注来投资OpenAI,甚至马斯克都退出了,在这个阶段,微软却走在了前面?

黄学东:这得要感谢我们的CEO萨提亚·纳德拉 ,他为什么能做上CEO是有原因的。他有这个眼光,这完全是他的功劳,同时,微软一直有这种前沿探索的眼光和理念、理想,这是一种内驱力,所以才能做出这一类投资决策。

微软一直以来其实也投资了很多东西,不仅仅只是投资了这一个ChatGPT,只不过大家看到的是今天ChatGPT跑出来了,跑在前面了,看到我们在这一阶段的成功,但是还有其他90%的项目是还没有成功,大家没有看到那90%的故事。

《科学大师》:陆奇最近在国内演讲中说到,像GPT这种语言大模型,微软内部也有好几千人在做,但是最终还是不如Open AI做得好,您认同他的看法吗?

黄学东:我们跟Open AI一起合作做的这件事,它是在微软的云平台Azure上,一起做的,所以你不能说微软就没有做好,我们有这个基础,而且创新也是基于这个基础,这是第一点。

第二点,也不能说微软人工智能团队就无所作为,在智能语音、计算机视觉、机器翻译等方面,这些微软现有的认知服务,它的性价比还是业界第一的。

很多人没有看到微软的人工智能研发是一个多维的东西,在这个多维的组合中,微软现有的这个API,它是一个模型可以做一件事情,你要做语音识别,它就是一个语音识别的模型,要做机器翻译,机器翻译就有一个模型,要做文本总结,就有文本总结的模型,你要做计算机视觉,也都有一个这样的大模型,但是目前这个大语言模型,它不一样的地方是,很多事情可以通过提示来做而且做得非常好,这是之前没有的。但随之而来,是它的成本也上去了,它并不是十全十美的,就像一个豪华的汽车和一个很便宜的汽车,这两者都有它的应用价值,你不能说现在有了一个豪华汽车,就把经济实用型的汽车说成是没有什么用。

黄学东院士:很多华人能在国外异军突起,说明了什么?

图片由受访者提供

二,ChatGPT算迈向超级人工智能的一小步,但还没达到这个目标

《科学大师》:GPT出来后,大家试用过觉得这个东西挺不成熟,是在一本正经的胡说八道,比如说,黄学东院士当选美国两院院士的时间,这个知识点它就说得不对,它给出的时间要早于您当选的确切年份,这挺让人尴尬的。

黄学东:这是我们应该关注的问题,当前生成式人工智能还不够成熟。如果一个人的鉴别力不是很好,那他就容易被人工智能忽悠了。这就跟人一样的,人虽然是地球上最高等级的智能体,但有时候也会不可靠,他大部分时间是对的,但是不靠谱的时候也会胡来,而怎么样能够让这种生成式人工智能变得越来越靠谱,这是我们人工智能发展中需要实现的事情。只有把成熟的人工智能用于教育和宣传,才是对社会有益的。

大语言模型在上世纪70年代就有了,IBM当时的语音识别研发团队就已经推出,但当时它的识读能力有限。现在这个大模型,是从机器翻译这个领域抽出来的,用的是机器翻译的一个方法确精准变换器,它没有超越机器翻译实现新的突破,但是它看了很多很多的东西,然后预测下一个词汇怎么样,就相当于把整个搜索引擎所有文本全看了一遍,用更多的数据训练它,并加上了奖励建模和强化学习与人类的预期对齐等技术,然后通过不同的提示可以突然涌现一些令人惊奇的能力。确实能做到一本正经,显得很有智能,但是它还没法做到完全精确精准,不能完全把错误剔除,它的稳定性目前还没有办法实现的。

它用的是深度学习的基础架构,最主要的一个特点就是自学习并加上奖励建模,把所有的数据全拿过来,所有的语言都拿过来,根据这个它可以自己学习,就是说看了一个文章以后你下面要讲什么东西,可以不用标注的数据,它看了前面一段文章(问题),它就能知道后面一段文章,可以翻译出来(给出答案和对策),这是GPT4.0,就是自己跟自己“翻译”。

这是一个大力出奇迹的事情,你用的训练数据达到一定地步以后,就会涌现很多看似惊人的东西。

现在的问题是,怎么改进它?使它变得更加的精确,让它给出的信息不会似是而非,对人产生误导。

我认为它需要带着知识奔跑(running with the knowledge),不是通过GPT自己来解决,而是在GPT给出结果以后,还需要再加一层防护罩,对它的结果用外部知识进行核实,这涉及到对许许多多垂直领域知识和信息的整合和鉴别能力,只有实现这一点,人们对于人工智能的使用才会更加科学和保险。

《科学大师》:可以说它还不是一个超级人工智能?

黄学东:超级智能,有一个阶段性的定义。

我举个例子,搜索就是一个最大的人工智能系统,可以说它是超级智能,为什么?因为不管你搜什么东西,它都能给你回答。没有任何人具有搜索功能那么强大的记忆力。我们就从记忆力这一点来讲,今天的搜索引擎已经超越了我们每一个人。

也许大家会说,它这不能算是人工智能。但是我必须说,记忆是智能的一部分。从记忆这个维度来看,它已经有了超级记忆的智能。它记得比我们多,算得比我们快。

现在ChatGPT又是怎么一回事呢?我认为它是原有计算机搜索技术运用的一种阶段性提升,是很大的一种提升。它把传统搜索引擎给到我们的信息,压缩成一段一段的总结、归纳,你问它什么问题,它可以完美地通过一段文章给你描述出来,不是通过传统的搜索引擎形式给你一堆不经加工的信息,而是通过对这些翻译结果的奖励排序与人们的预期对齐。你说它是不是超级智能?从记忆维度来看,它确实是。它自动生成的东西,有时候看起来还写得很“漂亮”。但是它真正有深度理解和推理能力吗?没有,它只是一种记忆压缩,然后再释放,重新展现在大家面前。

黄学东院士:很多华人能在国外异军突起,说明了什么?

图片由受访者提供

三,GPT有自己的“脾气”,但它不可能取代人类

《科学大师》:很多人说得很夸张,认为GPT会带来失业潮,好多工种会被替代,搞得人心惶惶的,您认为这种担心有必要吗?

黄学东:每一种新的技术出现以后,总会对社会旧有的局面产生冲击,但是我们也应该注意到,新技术的出现同时也会带来更多的机会,带来更多可能性。

就像汽车出来之后,司机取代了马车夫,电脑的普及以后,打字员的岗位也就没有了,ChatGPT出来,会取代很多白领,但我认为它不会是简单的对白领实现取代,它让他们可以往上发展,使他们可以从很多重复性的琐碎的工作中脱身出来,能去做更有创造性和更有价值的事情。就像微软办公软件Office可以帮人提高生产效率,现在GPT这套东西整合进去之后,全新的Office会重新定义什么叫做生产力软件及相应的应用场景,这并不是说会让好多人都找不到饭碗。

既使没有这种技术,我认为任何时候都会存在职业可取代的情况。要问的是,什么样的人是不可取代的?就是创造型的人才,不会失败、不会过时的,永远是人的思想,人的原创性思维,你必须确保自己有独到的见解,而不是人云亦云,把人家的东西拿过来装饰一下,这种工作的价值会越来越低。当然我不能说他绝对就没有空间,社会是多样的,各种需求都存在,不可能人人都成为精英,非精英的普通人永远是大多数,这些人也应该会有自己的生存空间。我认为需要乐观看待新技术的出现。

《科学大师》:另一个让人疑惑的问题是,不少人鼓吹说这种人工智能模型,会具备独立的自我意识或者自主意识,然后会对人类实现反超,这有科学上的依据吗?

黄学东:看你怎么解释和定义这个自我意识,它作为一个语言模型,当然有它的脾气。如果说它有自主意识,那当然也没问题。我记得有纽约时报的一个记者就跟它调侃,结果这个语言模型就跟他说,唉呀我爱上你了。这个记者就说我不行,你别爱上我,我结婚了。这个模型就说,你老婆不好,我更好。这种对话,你说它是不是属于自主意识?它确实是的,就是因为看了很多这种资料,通过训练后,记住了很多东西,一不小心它就可能干这种事情。

我觉得它就是一个很大的压缩器,把过去所有看到过的信息全部压缩下来,然后存放起来,一旦被触发或引导,就有这种表现。这时候你觉得它是真的爱对话者吗?不是,它只是用文字表述出来,好像它真的爱他一样。这当然不是真实的人格型情感的表露。

四,ChatGPT的成功不是偶然,一流创新需要土壤

《科学大师》:ChatGPT面世后,大家发现,OpenAI这个研发团队中有不少华人面孔。包括您这样杰出的人工智能专家,也是从我们中国走出来的,华人杰出人才的涌现,在美国是一个特别的现象么?

答:我觉得中国人和其他国家的人在美国都做得非常好,都很出色,绝对不能说中国人有什么缺陷,大家都不会有这样的认识。

不管你是什么样的种族,什么样的教育背景,只要有能力,在美国发展的机会是很大的,它本来就是一个移民国家,这里不仅仅有华人面孔,各种各样的面孔都有。比如英伟达的CEO黄仁勋和Zoom的CEO袁征都是美籍华人。

美国的开放性,对全球优秀人才有着极强的吸引力,这成为他们的创新动力,五湖四海的人聚集在这里,都有一个美国梦,这也是美国强大起来、发展很快的最主要的原因之一。

我先后在英国和美国留学、工作,有切身的比较。美国和英国或欧洲传统的社会不太一样。英国比较传统,大家更加重视传统也比较循规蹈矩,很多不愿服从当地社会文化规范的人,早就选择来到美国。我上世纪80年代在英国爱丁堡大学读博士期间,没有毕业前就去了美国的卡内基梅隆大学。我英国的博士老师对我说,美国人做的研究就是世界一流的,你应该去更大的世界看看,开开眼界。他觉得英国那边人的天地还是比较小的。在我论文选题确定前,老师就资助我到美国游历,这可以讲对我一生的发展起了决定性的作用。我相信在这边工作和发展的各种族裔的人,包括许多杰出的华人,都会有这种感受。

《科学大师》:国内就有人问,ChatGPT为什么会出现在美国,而不是出现在中国?一流的科研创新,目前是美国居多,别人只能是跟跑,为什么出现这个局面?

黄学东:这个因素太多了。第一,我刚才讲美国是一个非常有吸引力的开放型国家,很多元化,不管你是什么种族,只要是优秀人才,你都可以在这里找到一席之地,他不会排斥异类,所以优秀的人比例很高,可以讲美国聚集了全球最聪明的头脑。

第二,美国的经济基础和财力也非常强大,它现在还是世界第一大经济体,它有充分的物质条件支持科研投入,支持大家去搞研发创新,它养得起这些人。

第三, 美国也是一个比较年轻的国家,还不到三百年,它没有历史上的很多包袱,没有太多的束缚,做事情能放得开手脚 ,也不去束缚大家的思想和创新活力。而欧洲很多国家,由于历史原因,遗留下来很多东西,有太多传统的框框,他们有很多的约定俗成。

第四,美国的企业和高校交流互动非常好,人才的流动比较通畅 ,我就是从卡内基梅隆大学去的微软,大学和企业的合作关系是很密切的,微软的研发团队,有很多人都是从全球顶尖大学出来的,相互结合,这也支撑了企业的研发创新,使得像贝尔实验室、 IBM当年的沃森研究中心(Watson Research Center)、微软研究院,这些研发团队一代接一代,长江后浪推前浪,都非常优秀,都对社会做出了大的贡献。

第五,美国的文化中,没有成王败寇这回事,他们的价值观反而是鼓励失败、宽容失败的。创新之路必然有失败,而且会有很多的失败。你只有从失败中才能走出一条可行路径。这是所有成功者都必定经历过的。

我说的这些因素,还不完全充分,但我认为,归根结底,一种自由、多元、开放、包容的文化土壤,对于原始创新和应用研究活力的激发,是不可或缺的。美国的科技实力能够全球领先,我想是得益于这一点。

五,如果你想成为优秀的人才,不妨听我一言

《科学大师》:如果要您对中国的大学生和年轻人一些建议,帮助他们更好地成长和发展,您会对他们说些什么?

黄学东:我读的第一所大学是湖南大学,后来考到清华读研究生,然后是到英国读博士和在美国做博士后。先后经历了四所大学,再进入卡内基梅隆大学和微软工作。我就觉得,人的一生,一定要读万卷书行万里路。我们中国传统文化里面其实都有讲这个,但在实践中可能会受到各种条件和因素的限制。

我领悟到了中国的传统、欧洲(英国)的传统、美国的传统,正因为我受到那么多不同文化的熏陶,有些东西可以讲是终身受用。我给中国同学的一个建议是,你千万不要固定在一所学校读下去,本科、硕士、博士最好是读3个学校,这样至少你就有3个学校的校友群,然后你博士后也要换1个地方,至少有4个学校的校友,那你校友多朋友就多了,你的思维、视野就开阔了。

很多学生本科、硕士、博士都在一个学校读,我不是说一个学校不好,但是你为什么不换几个学校呢?中国那么多优秀的学校,或者你到欧洲、美国等国外学校读,全球有那么多的好学校,读万卷书行万里路,这是一个很好的办法。

我曾跟我的本科母校湖南大学的学生座谈中还提到这么几点,我愿意分享给更多年轻人:

1, 创新很难教会,也没有普遍的适用原则,从今天开始你就要找更好的人交流,并进行更多的脑力激荡,然后在创新中快速迭代。

2, 出色的执行力比好的点子难很多。我们需要既有执行力又有好点子。一个坏主意能让最优秀的执行力一事无成。毅力源于你学会了在被打倒后重新站起来。专注是提高创新力和执行力的倍增器。

3, 要勇于冒险,不敢冒险只会取得平庸的成就,在你个人的职业和生活中,每年都要尝试一些重大、新颖和冒险的决定。有很多人精于算计,不敢冒险,我是湖南人,我觉得湖湘文化非常好,就是做人做事要敢为天下先,敢于冒险和尝试,同时要实事求是,追求经世致用。

4, 出色的创新力和执行力可以让你变得富有,要想富有你必须培养自己拥有价值并且能够迅速增长的东西。这可以是企业、房地产、自然资源、知识产权或其他一技之长,仅仅出卖自己的时间,这只是线性增长,而且随着逐渐老去这会不可持续。

5, 不要一味追逐身份地位,空有这些而缺乏实质内容是不会长久的。当你取得想要的成就后内驱力就是唯一的动力,它会推动你向更高的地方攀登,内驱力会让你努力学习新的东西,增加你的幸福感,使生活更有趣,而能防止思想僵化和老年痴呆。

我当年在清华读研的时候,就觉得跟计算机交流太困难了,要是能用自然语言的方式就能解决这个问题,多好。今天不管是ChatGPT还是语音识别,这个愿望已经达到了,但这还不够。要知道,这个地球上有7000种不同的语言,我们要让这个世界变得更好,让交流更理想,我们就要支持这7000种语言,何况这世界上每天都有某些小语种消亡,因为大的语言讲的人多,不会有问题,怎么让不同语言的人自由交流,是个很大的挑战,所以这就是我的内驱力,要让人工智能帮助大家实现更好的无障碍的交流。我们生而为人,一定要有理想有追求。