英特尔向英伟达宣战推出AI芯片Gaudi2专供中国

       今年以来，全球大模型创业热潮引发算力需求猛增，英伟达H100、A100等用于大模型训练的AI芯片走俏。而作为AI芯片的主战场之一，中国市场备受芯片巨头关注。

7月11日，英特尔（INTC.NASDAQ）在发布会上推出面向中国市场的第二代深度学习加速器——Habana® Gaudi®2（下称“Gaudi 2”）。该产品是一款ASIC（专用集成电路）芯片，由英特尔Habana团队设计，采用台积电7纳米工艺。Habana是英特尔在2019年斥资20亿美元收购的以色列AI芯片初创企业。

Habana® Gaudi®2深度学习加速器，图源：英特尔

Gaudi 2去年于海外发布，此次是针对中国市场推出的定制版本。在性能和配置上，该芯片集成了24个可编程Tensor处理器核心（TPCs），配置21个Gbps以太网接口，内存和缓存提高到96GB HBM2e和48MB SRAM，内存带宽升为2.4TB/s等。

时代周报记者从英特尔获得的资料显示，在测试GPT-3时，Gaudi 2也表现出了强劲性能，在384个加速器上训练时间达311分钟，从256个加速器到384个加速器实现了近线性95%的扩展。这使得Gaudi 2是除了英伟达产品外，唯一能把MLPerf GPT 3.0模型跑起来的芯片。

英特尔还透露，Gaudi 2国内首批将与百度智能云、浪潮信息、美团、紫光新华三等公司合作。其中，浪潮信息在发布会现场发布了基于8颗Gaudi 2加速卡HL-225B、双路第四代英特尔至强可扩展处理器的浪潮信息AI服务器NF5698G7；新华三则宣布即将适配Gaudi 2，打造专为大模型训练的智能算力服务器H3C UniServer R5500 G6，算力提升3倍，GPT-4训练时间缩短70%。

对于英特尔来说，推出中国定制版AI处理器，意味着英特尔在中国市场也在全力争取客户。2022年，中国区营收在英特尔总营收中占比约为27%。

英特尔数据中心与人工智能集团副总裁兼中国区总经理陈葆立表示，在将Gaudi 2从海外引进中国的数月中，英特尔亦针对时下大模型热潮进行了软件层面的迭代优化。该公司称，计划在2024年发布采用台积电5纳米工艺的下一代Gaudi 3产品，并将在符合美国出口限制政策的前提下，继续推出针对中国市场的定制版本。

“英特尔正在降低人工智能的准入门槛，并强化客户在云端通过网络和智能边缘部署这一关键业务技术的能力，从而帮助构建中国人工智能的未来。”英特尔执行副总裁、数据中心与人工智能事业部总经理Sandra Rivera说。

图源：英特尔

由ChatGPT引发的大模型热潮中，提供底层算力的AI芯片被视作必争之地。目前在这一领域，英伟达（NVDA.NASDAQ）占据绝对主导地位，其A100和H100，是GPU同类产品中的佼佼者，为中国主流数据中心、云服务厂商所熟悉。

因此，Gaudi 2被市场看作英特尔挑战英伟达的又一力作。

在发布会现场，英特尔毫不避讳将Gaudi 2与英伟达的同类产品进行正面较量。据介绍，Gaudi 2运行ResNet-50的每瓦性能约是英伟达A100的2倍，性价比相较于AWS云中基于英伟达的解决方案高出40%，并预计今年9月性价比超越英伟达最新H100。

Gaudi 2作为一款专用AI加速芯片，相比英伟达的通用GPU A100和H100，其服务器成本更低，价格优势也更为明显。不过，Habana Labs首席运营官Eitan Medina也坦承，Gaudi 2在性能上落后于目前英伟达最高端的H100芯片。

“对于包含整个GPT-3语料库的代表性切片的GPT-3训练评估，Gaudi 2在384个加速器上训练GPT-3的时间为311分钟，Nvidia在512 个H100 GPU上的训时间则为64分钟。这意味着，基于GPT-3模型，每个H100的性能领先于Gaudi 2 3.6倍。性价比是影响H100和 Gaudi 2相对价值的一个重要考量因素。Gaudi 2服务器的成本要比H100低得多。Gaudi 2的价格优势大大缩小了与H100的性价比差距。”Eitan Medina在接受媒体采访时如是说。

除了性能表现，CUDA（Compute Unified Device Architecture）生态一直是英特尔的强项。Sandra Rivera在接受媒体采访时表示，在AI运算中，确实很多人使用CUDA，但在最近的大模型领域，大部分开发者并不会做底层开发，而是在较高的框架层面做创新。Eitan Medina则补充，Gaudi 2已是第二代产品，有数年的软件积累，底层软件库已经开发完备。“我们希望让开发者能够在最上层20%的比例中做开发，这里的开发和CUDA并没有那么直接的关联。”他说。

不仅是英特尔，越来越多的AI芯片厂商加入GPU芯片竞争，试图挑战“擂主”英伟达，其中不乏燧原科技、墨芯、沐曦等国内初创企业。在此前举办的世界人工智能大会（WAIC）上，燧原科技等初创企业也展示了各自的造芯能力。

另据摩根士丹利分析师的估计，今年AI芯片市场的年销售额将达到430亿美元左右。而在四年内，AI芯片收入将达到1250亿美元。对于英伟达的市场争夺，Sandra Rivera强调，市场需要替代品。“他们（客户）非常欢迎英特尔在向大众部署AI方面发挥重要的领导作用。”他说。