百度文心大模型将发新版本,传推理成本增加10倍

更新时间:2023-10-13 12:13:01作者:橙橘网

百度文心大模型将发新版本,传推理成本增加10倍

近日,据消息人士透露,百度正在加紧训练文心大模型4.0,这将是文心大模型3.5版本后又一个重磅版本,或将在10月17日举行的百度世界大会上发布。

据爆料,文心大模型4.0的推理成本相比文心大模型3.5增加10倍。

有业内专家表示,大模型的推理成本跟三个因素相关:模型的网络结构和参数规模、推理部署方式、芯片和集群架构。

从目前的爆料信息来看,文心大模型4.0的参数规模预计可能突破万亿级别。换句话说,文心4.0的神经网络结构将变得更复杂、参数规模更大,这必然带来更大的计算量,这也意味着更高的推理成本。

随着大语言模型的不断升级迭代,参数量突破万亿、模型能力越来越强、用户使用量激增,推理成本都是大模型厂商需要持续优化的地方。

今年3月,百度正式推出了大语言模型文心一言。随后8月,百度率先将文心一言向全社会全面开放,此后文心一言冲上相关应用商店应用排行榜,并成为首个登顶苹果App Store免费应用榜首的中文AI原生应用。

本文标签: 推理  大模型  百度文心  

为您推荐

合肥南二环西延部分路段封闭施工通知(11月4日起)

南二环西延(西二环-永和路)工程1、2标段定于2023年11月3日24:00对施工范围内道路进行一阶段封闭施工

2023-10-30 11:18

2023合肥限行规定最新消(持续更新)

从即日起对巢湖市部分路段实行限制大型货车(黄牌货车)通行,对违反通告规定,影响交通安全的违法行为,将依法予以处罚。

2023-10-30 11:18

江西省高校诵读红色家书讲述英烈故事直播在哪看(附回放入口)

江西省高校诵读红色家书讲述英烈故事直播在江西省教育厅视频号观看,视频回放用手机进入江西省教育厅视频号,点击“直播回放”即可收看。

2023-10-30 11:17

江西诵读红色家书 讲述英烈故事作文(400/600/800字)

烽火连三月,家书抵万金,生离死别关头的革命家书,字里行间,有离人的惦念、牵挂,更多的是对胜利的期待。本文为你介绍作文三篇范文。

2023-10-30 11:17

2023江西诵读红色家书讲述英烈故事视频回放+内容+时间

2023江西诵读红色家书讲述英烈故事视频回放可用手机进入江西省教育厅视频号,点击“直播回放”即可收看。直播内容及时间详见正文。

2023-10-30 11:17

2023江西诵读红色家书讲述英烈故事巡演直播入口+回放入口

江西高校“诵读红色家书讲述英烈故事”巡演来啦!第41场直播时间为10月29日(周日)14:30,直播平台为江西省教育厅。

2023-10-30 11:17