世界上最大的计算机芯片WSE-3将为大型AI超级计算机提供8倍的算力

Cerebras公司的晶圆级引擎3(WSE-3)芯片包含4万亿个晶体管,有一天将为8exaFLOPCondorGalaxy3超级计算机提供算力。

当前,科学家们制造出了世界上最大的计算机芯片——一个由4万亿个晶体管组成的庞然大物。其制造商表示,这种巨大的芯片有朝一日将被用于运行功能强大的人工智能(AI)超级计算机。

新的WaferScaleEngine3(WSE-3)是超级计算公司Cerebras的第三代平台,旨在为OpenAI的GPT-4和Anthropic的Claude3Opus等人工智能系统提供动力。

该芯片包含90万个AI核心,由一个8.5×8.5英寸(21.5×21.5厘米)的硅片组成,与2021年的前身WSE-2一样。

公司代表在一份新闻稿中表示,新芯片的功耗与上一代相同,但功能是上一代的两倍。相比之下,之前的芯片包含2.6万亿个晶体管和85万个人工智能核心,这意味着该公司大致遵守了摩尔定律,摩尔定律指出,计算机芯片中的晶体管数量大约每两年翻一番。

相比之下,目前用于训练人工智能模型的最强大的芯片之一是NVIDIAH200图形处理单元(GPU)。然而,NVIDIA的巨型GPU只有区区800亿个晶体管,比“Cerebras”少57倍。

该公司代表在3月13日发布的另一份声明中表示,WSE-3芯片有朝一日将用于为CondorGalaxy3超级计算机提供动力,该计算机将总部设在德克萨斯州达拉斯。

正在建设中的“秃鹰银河3(CondorGalaxy3)”超级计算机,将由64个由WSE-3芯片为动力的“CerebrasCS-3”人工智能系统“构建块”组成。当连接在一起并激活时,整个系统将产生8个exaFLOP的计算能力。

然后,当结合秃鹰银河1号和秃鹰银河2号系统时,整个网络将达到总共16个exaFLOP。

相比之下,目前世界上最强大的超级计算机是橡树岭国家实验室的“前沿”超级计算机,它的计算能力大约为1exaFLOP。

公司代表表示,“秃鹰银河3”超级计算机将用于训练未来的人工智能系统,该系统将比GPT-4或谷歌的“双子座”大10倍。例如,据传言,GPT-4使用大约1.76万亿变量(称为参数)来训练系统;秃鹰银河3号可以处理大约24万亿个参数的人工智能系统。

发布于 2025-04-22
149
目录

    推荐阅读