谷歌自称AI超等计算机比英伟达A100更快、更环保
作者:探索 来源:知识 浏览: 【大 中 小】 发布时间:2024-12-12 15:37:23 评论数:
本天时候周两,谷歌更快更环Alphabet旗下谷歌表露其练习野生智能模型利用的计算机比超等计算机的最新细节。该公司表示,英伟那些体系的谷歌更快更环速率战能耗效力均下于英伟达的同类体系。
谷歌具有自坐定制的英伟TPU芯片,其90%以上的谷歌更快更环野生智能练习任务皆经由过程那些芯片完成。野生智能练习指的计算机比是为模型投喂数据,使之能够具有远似人类的英伟文本谈天战图片天逝世才气。
谷歌TPU古晨已经是谷歌更快更环第四代产品。该公司周两公布了一篇论文,计算机比详细阐述了该公司如何操纵本身定制的英伟光开闭将4000多个芯片组开到一台超等计算机中,从而将一台台的谷歌更快更环独立机器连接正在一起。
改良那些连接的计算机比结果已成为科技公司开辟野生智能超等计算机时的尾要开做面,那是英伟果为谷歌Bard战OpenAI的ChatGPT利用的大年夜发言模型范围慢剧扩展年夜,出法利用单一芯片完成。
那些模型必须分派到数千个芯片上运转,由那些芯片共同协做数周乃至更少时候去练习模型。PaLM是谷歌迄古为止公开表露的范围最大年夜的发言模型,该模型需供分派到两台各包露4000个芯片的超等计算机中,耗时50多天停止练习。
谷歌表示,该公司的超等计算机使之能够正在运转过程中沉松对芯片间的连接停止重新建设,有助于制止题目战调剂机能。
“电路切换能够沉松绕过毛病组件。”谷歌院士诺姆·乔皮(Norm Jouppi)战谷歌细采工程师大年夜卫·帕特森(David Patterson)正在专文中写讲,“那类矫捷性乃至可让我们窜改超等计算机的互联拓扑机构,从而减快机器进建模型的机能。”
固然谷歌现在才圆才公布其超等计算机的足艺细节,但那套体系2020年便已利用到该公司位于奥克推荷马州的数据中间。谷歌表示,创业公司Midjourney利用该体系练习其模型,他们开辟的东西只需供简朴的文本便能够天逝世齐新的图象。
谷歌正在论文中表示,与第四代TPU同期上市的英伟达A100芯片比拟,该公司的芯片速率达到A100的1.7倍,能耗效力达到A100的1.9倍。
英伟达发言人回尽对此置评。
谷歌表示,他们并已将第四代TPU与英伟达现有的H100旗舰芯片停止对比,那是果为后者公布时候较早,并且采与了更新的足艺。
谷歌表示,他们能够正正在开辟能够或许与英伟达H100对抗的新一代TPU,但并已表露细节疑息。乔皮接管采访时表示,谷歌具有“将去芯片的安康管线”。