英伟达的旗舰 AI 芯片据说比上一个冠军快 4.5 倍

Nvidia H100 Tensor Core GPU放大 / Nvidia H100 Tensor Core GPU 的新闻照片。 英伟达

Nvidia 昨天宣布,其即将推出的 H100“Hopper”Tensor Core GPU 在行业标准 MLPerf 基准测试中首次亮相时创造了新的性能记录,提供的结果比 A100 快 4 倍、5 倍,后者是目前Nvidia的处理器。最快的量产 AI 芯片。

MPerf 基准测试(技术上称为“MLPerfTM Inference 2.1”)衡量“推理”工作负载,这表明芯片可以将先前训练的机器学习模型应用于新数据的能力。一组名为 MLCommons 的行业公司在 2018 年开发了 MLPerf 基准,以提供标准化的指标来向潜在客户传达机器学习性能。

Nvidia 的 H100 基准测试结果与 A100 的对比,采用精美的条形图形式。 放大 / Nvidia H100 与 A100 的基准测试结果,以复杂的条形图形式显示。 英伟达

特别是,H100 在 BERT-Large 基准测试中表现出色,该基准使用 Google 开发的 BERT 模型衡量自然语言处理性能。 Nvidia 将这一特殊结果归功于 Hopper 架构的 Transformer Engine,它专门加速了 Transformer 模型的训练。这意味着 H100 可以加速未来的自然语言模型,类似于 OpenAI 的 GPT-3,它可以编写多种不同风格的书面作品并进行对话。

Nvidia 将 H100 定位为高端数据中心 GPU 芯片,专为人工智能和超级计算应用而设计,如图像识别、大语言模型、图像合成等。分析师预计它将取代 A100 作为 Nvidia 的旗舰数据中心 GPU,但它仍在开发中。美国政府上周对向中国出口芯片实施的限制引发了人们的担忧,即英伟达可能无法在 2022 年底之前交付 H100,因为它的一些开发正在那里进行。

Nvidia 在上周向美国证券交易委员会提交的第二份文件中澄清说,美国政府将允许在中国进一步开发 H100,因此该项目目前似乎重回正轨。据英伟达称,H100 将在“今年晚些时候”上市。如果上一代 A100 芯片的成功有任何迹象,那么 H100 可以在未来几年为各种改变游戏规则的 AI 应用程序提供动力。

英伟达的旗舰 AI 芯片据说比上一个冠军快 4.5 倍
Nvidia H100 Tensor Core GPU放大 / Nvidia H100 Tensor Core GPU 的新闻照片。 英伟达

Nvidia 昨天宣布,其即将推出的 H100“Hopper”Tensor Core GPU 在行业标准 MLPerf 基准测试中首次亮相时创造了新的性能记录,提供的结果比 A100 快 4 倍、5 倍,后者是目前Nvidia的处理器。最快的量产 AI 芯片。

MPerf 基准测试(技术上称为“MLPerfTM Inference 2.1”)衡量“推理”工作负载,这表明芯片可以将先前训练的机器学习模型应用于新数据的能力。一组名为 MLCommons 的行业公司在 2018 年开发了 MLPerf 基准,以提供标准化的指标来向潜在客户传达机器学习性能。

Nvidia 的 H100 基准测试结果与 A100 的对比,采用精美的条形图形式。 放大 / Nvidia H100 与 A100 的基准测试结果,以复杂的条形图形式显示。 英伟达

特别是,H100 在 BERT-Large 基准测试中表现出色,该基准使用 Google 开发的 BERT 模型衡量自然语言处理性能。 Nvidia 将这一特殊结果归功于 Hopper 架构的 Transformer Engine,它专门加速了 Transformer 模型的训练。这意味着 H100 可以加速未来的自然语言模型,类似于 OpenAI 的 GPT-3,它可以编写多种不同风格的书面作品并进行对话。

Nvidia 将 H100 定位为高端数据中心 GPU 芯片,专为人工智能和超级计算应用而设计,如图像识别、大语言模型、图像合成等。分析师预计它将取代 A100 作为 Nvidia 的旗舰数据中心 GPU,但它仍在开发中。美国政府上周对向中国出口芯片实施的限制引发了人们的担忧,即英伟达可能无法在 2022 年底之前交付 H100,因为它的一些开发正在那里进行。

Nvidia 在上周向美国证券交易委员会提交的第二份文件中澄清说,美国政府将允许在中国进一步开发 H100,因此该项目目前似乎重回正轨。据英伟达称,H100 将在“今年晚些时候”上市。如果上一代 A100 芯片的成功有任何迹象,那么 H100 可以在未来几年为各种改变游戏规则的 AI 应用程序提供动力。

What's Your Reaction?

like

dislike

love

funny

angry

sad

wow