AMD and NVIDIA's battle spreads to the AI field! Meta and Oracle announced a huge investment in the acquisition of AMD AI chips.

智通财经 APP 获悉，CPU 与 GPU 双产业巨头、英伟达 (NVDA.US) 竞争对手之一 AMD(AMD.US) 于美东时间周三举行 “Advancing AI” 发布会，AMD 宣布正式推出其旗舰款 AI GPU 加速器 MI300X，意味着 AMD 与英伟达之间的激烈竞争从 PC 领域全面延伸至 AI 领域，AMD 测试数据显示其整体性能比英伟达 H100 高出 60%。除了如预期发布诸如 Instinct MI300X、MI300A 等新产品外，在 AI 领域的一些全球领军者也来到现场，比如 OpenAI、微软以及 Meta，并表示他们后续将大量配置 AMD Instinct MI300X。

“Advancing AI” 发布会上，首先登场的是 Instinct MI300X 加速器，由于 MI300 系列 AI 芯片的参数在半年前的产品宣传活动上就已经公布，本次 “Advancing AI” 发布会更多聚焦于整套系统在实际应用中的表现，以及与 AI 训练/推理领域热度最高的英伟达 H100 AI 芯片的全方位性能对比。此外，AMD 将截至 2027 年的全球 AI 芯片市场规模预期，从 1500 亿美元猛然上修至 4000 亿美元。

AI 领域的全球领军者 OpenAI、微软 (MSFT.US) 以及 Meta(META.US) 周三在 AMD 活动上表示，他们将使用 AMD 最新的 AI 芯片 Instinct MI300X。这是迄今为止全球科技公司正在寻找昂贵的英伟达 H100 AI 芯片替代品的最明显迹象。英伟达 H100 对于创建和部署 OpenAI 旗下的 ChatGPT 等生成式人工智能 (生成式 AI) 应用程序至关重要，如今 AI 芯片领域几乎处于垄断地位的英伟达 H100 终于有了强力竞争对手，那就是 AMD Instinct MI300X。

如果 AMD 最新的高端 AI 芯片在明年初开始出货时，足以满足构建人工智能大模型的科技公司和云服务提供商的算力需求，同时降低科技公司开发人工智能模型的成本，势必将对英伟达旗下销售额不断飙升的 AI 芯片构成巨大的竞争压力。

AMD 首席执行官苏姿丰 (Lisa Su) 周三表示:“潜在大客户的所有兴趣基本上集中在云计算领域的大型处理器和大型 GPU 上。”

AMD 表示，MI300X 基于一种全新的架构，这种架构通常会带来显著的性能提升。AMD 全新 AI 芯片最显著的特点是拥有 192GB 的尖端高性能 HBM3 内存，传输数据速度更快，可以适应更大规模的人工智能模型。

被 AMD 粉丝们亲切称为 “苏妈” 的苏姿丰在发布会上直接将 MI300X 及其构建的系统与英伟达的主要 AI 芯片 H100 进行了比较。“这种性能直接转化为更好的用户体验，” 苏姿丰表示。“当你向模型提出要求时，你希望它能更快地回复，尤其是在反应变得更复杂的情况下。”

AMD 面临的主要问题在于，一直以英伟达软硬件为基础的公司是否会投入时间和金钱来信任另一家 AI 芯片供应商。AMD 周三告诉投资者和合作伙伴，该公司已经改进了名为 ROCm 的配套软件套件，以与英伟达的行业标准 CUDA 软件相竞争，一定程度上解决了 AMD 在 AI 芯片领域面临的一个关键缺陷——那就是软硬件生态系统，而这个缺陷一直是人工智能开发者目前更喜欢英伟达旗下产品的主要原因之一。

AMD 在周三并未透露 MI300X 的定价，但英伟达 AI 芯片每块售价高达 4 万美元，苏姿丰表示，AMD 的芯片必须比英伟达的芯片购买和运营成本更低，才能说服潜在大客户购买。

虽然发布会的内容基本上符合市场预期，但似乎未提振 AMD 股价。在周三美股科技股集体走弱的背景下，AMD 发布会还没开完，股价就由涨转跌，最终收跌超 1%，但是盘后涨幅超过 1%。

由于 AMD 即将推出与英伟达 H100 相抗衡的高性能 AI 芯片，华尔街分析师们对于 AMD 股价普遍看涨，Seeking Alpha 汇编的华尔街分析师共识评级以及目标价显示，华尔街分析师们对 AMD 的共识评级为 “买入”，平均目标价预期达 132.24 美元，意味着未来 12 个月潜在涨幅高达 13%，最高目标价则为 200 美元。

性能强于英伟达 H100! AMD 大幅上调市场规模预期

与 AI 训练/推理领域热度最高的英伟达 H100 AI 芯片的最新性能对比数据显示，在一般 LLM 内核 TFLOP 中，MI300X 在 FlashAttention-2 和 Llama 2 70B 中提供较英伟达 H100高达 20% 的性能提升幅度。从平台的角度来看，将 8x MI300X 解决方案与 8x 英伟达 H100 解决方案进行比较，AMD 发现 Llama 2 70B 的增益程度要大得多，高达 40%，Bloom 176B 基准下的增益程度则高达 60%。

具体的 AMD Instinct MI300X 与英伟达 H100 性能对比数据显示：

在 1v1 比较中，整体性能比 H100 (Llama 2 70B) 提高 20%

在 1v1 比较中，整体性能比 H100 (FlashAttention 2) 提高 20%

8v8 服务器中的整体性能比 H100 (Llama 2 70B) 提高 40%

在 8v8 服务器中，整体性能比 H100 (Bloom 176B) 提高 60%

最新 MI300 AI 芯片背后的驱动力是 AMD ROCm 6.0。该软件堆栈已更新到最新版本，具有强大的新功能，包括支持各种人工智能工作负载任务量，例如生成式人工智能和大语言模型 (LLM)。

内存是 AMD 另一个巨大的升级领域，MI300X 的 HBM3 容量比其前身 MI250X(128 GB) 增加了 50%。为了实现高达 192GB 的内存池，AMD 为 MI300X 配备了 8 个 HBM3 堆栈，每个堆栈都是 12-Hi，同时整合了 16Gb IC，每个 IC 具有 2GB 容量，或每个堆栈具有高达 24GB 的容量。

该级别的内存规模将提供高达 5.3TB/s 的带宽和 896GB/s 的 Infinity Fabric 带宽。相比之下，英伟达即将推出的 H200 AI 芯片提供 141GB 容量，而英特尔 Gaudi3 将提供 141GB 容量。功耗方面，AMD Instinct MI300X 的额定功率为 750W，比 Instinct MI250X 的 500W 提升了 50%，比 NVIDIA H200 多了 50W。

AMD 在周三对 AI 芯片领域的未来市场规模给出了大胆的预测数据，认为 AI 芯片市场将迅猛扩张。具体来说，AMD 预计 AI 芯片市场整体规模到 2027 年将达到超过 4000 亿美元，较该公司几个月前提供的 1500 亿美元上调将近两倍，凸显全球各大企业对人工智能硬件的预期快速变化，各企业正在迅速布局全新的 AI 产品。

有哪些科技巨头将使用 MI300X?

AMD 在周三的发布会上表示，该公司已经与一些最需要 GPU 的科技公司签订了使用该芯片的协议。根据研究公司 Omidia 最近的一份报告，Meta 和微软是 2023 年英伟达 H100 AI 芯片的最大规模买家。

在发布会上，Facebook 和 Instagram 母公司 Meta 公开表示，该公司未来将大量使用 MI300X GPU 处理人工智能推理工作负载，如处理人工智能贴纸、图像编辑和操作其 AI 助手，并表示结合 ROCm 软件堆栈来支持 AI 推理工作负载。

微软首席技术官 Kevin Scott 公开表示，微软将通过其 Azure 网络服务提供对 MI300X 芯片的技术访问通道。此外，同日消息显示，微软未来将评估对 AMD 的 AI 芯片产品的需求，评估采用该新品的可行性。

ChatGPT 开发商 OpenAI 表示，该公司将在一款名为 Triton 的重要软件产品中支持 AMD MI300 等 GPU。Triton 不是像 GPT-4 那样的大语言模型，但对于人工智能研究领域来说是非常重要的产品。

英伟达最大规模客户之一甲骨文表示，将在自己的云计算服务体系中使用 Instinct MI300X 加速器，并计划基于 AMD Instinct MI300X 开发生成式 AI 服务。

AMD 目前还没有预测该 AI 芯片的长期销售额，目前只给出了 2024 年预期，预计 2024 年数据中心 GPU 带来的总营收规模约为 20 亿美元。仅在最近一个季度，英伟达的数据中心业务营收就超过 140 亿美元，不过这一数据还包括 GPU 以外的业务。然而，AMD 表示，未来四年，AI 芯片领域的总市场规模可能将攀升至 4000 亿美元，是该公司此前预测值的两倍。

苏姿丰还向记者表示，AMD 并不认为它需要击败英伟达才能在市场上取得好成绩。在谈到人工智能芯片市场时，苏姿丰对记者表示:“我认为很明显，英伟达现在占据绝大多数。”“我们认为，到 2027 年，AI 芯片市场规模可能会超过 4000 亿美元，而我们将扮演重要角色。”