Survey: A large number of users are planning to switch from the NVIDIA platform to AMD MI300X!
来源芯智讯。3 月 10 日消息，根据 TensorWave 最近公布的一项调查数据显示，大量人工智能专业人士正计划从英伟达的 AI GPU 平台转向采用 AMD 最新的 Instinct MI300X GPU。TensorWave 联合创始人 Jeff Tatarchuk 近日通过 X 平台透露，他们进行了一项独立调查，涵盖 82 名工程师和人工智能专业人士，其中约有 50% 的受访者表示他们对 AMD Instinct MI300X GPU 充满信心，因为相比于英伟达的 H100 系列产品，MI300X 不仅拥有更出色的性价比，而且供应充足，避免了遇到货源紧张的问题。Jeff 还提到，TensorWave 公司也将采用 MI300X 人工智能加速器。显然，这对于 AMD 来说无疑是个好消息。因为以往其 Instinct 系列产品相比英伟达的竞品，不仅性能要低一些，市场认可度也相对较低，这也导致其在 AI 芯片市场的份额远低于英伟达。但是，AMD 去年推出的最新的 Instinct MI300X GPU 在性能上成功超越了英伟达明星产品 H100。
来源芯智讯。
3 月 10 日消息，根据 TensorWave 最近公布的一项调查数据显示，大量人工智能专业人士正计划从英伟达的 AI GPU 平台转向采用 AMD 最新的 Instinct MI300X GPU。
TensorWave 联合创始人 Jeff Tatarchuk 近日通过 X 平台透露，他们进行了一项独立调查，涵盖 82 名工程师和人工智能专业人士，其中约有 50% 的受访者表示他们对 AMD Instinct MI300X GPU 充满信心，因为相比于英伟达的 H100 系列产品，MI300X 不仅拥有更出色的性价比，而且供应充足，避免了遇到货源紧张的问题。Jeff 还提到，TensorWave 公司也将采用 MI300X 人工智能加速器。
显然，这对于 AMD 来说无疑是个好消息。因为以往其 Instinct 系列产品相比英伟达的竞品，不仅性能要低一些，市场认可度也相对较低，这也导致其在 AI 芯片市场的份额远低于英伟达。但是，AMD 去年推出的最新的 Instinct MI300X GPU 在性能上成功超越了英伟达明星产品 H100。
根据资料显示，AMD Instinct MI300X 内部集成了 12 个 5/6nm 工艺的小芯片（HMB 和 I/O 为 6nm），拥有 1530 亿个晶体管。在内核设计上，采用了相比 MI250X 更简单的设计，放弃了 APU 的 24 个 Zen4 内核和 I/O 芯片，取而代之的是 CDNA 3 GPU 内核架构，拥有 304 个计算单元（每个 GPU 小芯片拥有 38 个 CU），19456 个流处理器。在内存带宽方面，MI300X 也配备了更大的 192GB HBM3 内存（8 个 HBM3 封装，每个堆栈为 12 Hi）相比 MI250X 提高了 50%，带来高达 5.3TB/s 的带宽和 896GB/s 的 Infinity Fabric 带宽。相比之下，英伟达即将推出的 H200 AI 加速器也只有 141 GB 的容量。
具体来说，与英伟达 H100 相比，MI300X 拥有以下优势：
内存容量高出 2.4 倍
内存带宽高出 1.6 倍
FP8 性能 (TFLOPS) 高出 1.3 倍
FP16 性能 (TFLOPS) 高出 1.3 倍
在 1v1 对比测试中，性能方面可领先 H100 (Llama 2 70B) 最多 20%
在 1v1 对比测试中，性能方面可领先 H100 (FlashAttention 2) 最多 20%
在 8v8 服务器对比测试中，性能方面可领先 H100 (Llama 2 70B) 最多 40%
在 8v8 服务器对比测试中，性能方面可领先 H100 (Bloom 176B) 最多 60%
从参数上来看，AMD Instinct MI300X 在性能上取得了巨大飞跃，相比英伟达目前的主力产品 H100 拥有一定的优势，再加上英伟达目前仍然存在供应不足以及价格高昂等方面的问题，这也使得 AMD 有了更多的机会。
AMD CEO 苏姿丰在 1 月 30 日的电话会议上预测称，2024 年 AMD 的 AI 芯片营收将达 35 亿美元，高于先前预测的 20 亿美元。另外，去年四季度的 AI 芯片营收也超越此前预测的 4 亿美元，但她并未披露确切的数字。
不过，需要指出的是，目前英伟达在 AI 芯片市场占据了超过了 90% 的市场份额，居于垄断地位，这也使得 AMD 在与其竞争过程中可能会受到其市场地位的压制。
上个月推出的面向云端大模型的全新推理芯片与英伟达（NVIDIA）竞争的美国人工智能初创公司——Groq 的 CEO Jonathan Ross 近日在接受《华尔街日报》采访时就控诉英伟达阻碍公平竞争。Jonathan Ross 表示，曾有其他芯片供应商客户对其透露，如果英伟达问起这件事，他们会否认与 Groq 谈过话，因为怕遭到报复。
“我们见过的很多人都说，倘若双方见面的消息传到英伟达耳里，他们会打死不认。”“问题在于，你必须提前一年付款给英伟达，但产品交期或许是一年、或许要更久。他们会说，‘哎呀，你跟别人买了，那我猜交货时间可能要晚点了。’” Jonathan Ross 说道。
虽然英伟达否认此事，随后 AMD 前资深副总裁兼图形业务部总经理 Scott Herkleman 也指控英伟达的商业行为和垄断集团卡特尔（Cartel）行为相似，并称其为 “GPU 卡特尔”，暗示英伟达在 AI 芯片市场上的霸主地位或许不是偶然。Herkleman 认为，英伟达限制 GPU 供应，通过让客户害怕使用竞争对手 GPU，以维持产业主导地位。
编辑：芯智讯 - 浪客剑
