根据外媒Seeking Alpha的报道,花旗集团的分析报告指出,微软的数据中心部门是AMD Instinct MI300X芯片的最大买家,并已开始为GPT-4这类大型语言模型(LLM)执行工作。此前,AMD首席执行官苏姿丰表示,预计到2024年AI芯片的销售金额将达到35亿美元,高于之前预期的20亿美元。
虽然AMD没有公开Instinct MI300X的定价,但知情人士透露,每片内建Instinct MI300X芯片的运算卡的售价约为1.5万美元,相较于竞争对手英伟达(NVIDIA)的同等级产品是比较经济实惠的。目前,英伟达的H100 PCIe 80GB HBM2E版本在市场上的售价大概在3万美元到4万美元,甚至更高。至于性能更强的H100 SXM5 80GB HBM3版本的定价则更高。
AMD的Instinct MI300X采用了小芯片架构设计,混用5纳米和6纳米制程技术,晶体管数量达到了1,530亿个。其使用了第四代Infinity Fabric解决方案,共有28个模组芯片,其中包括8个HBM和4个计算芯片,而每个计算芯片拥有2个基于CDNA 3架构的预算单元,共计有80个计算单元。
这也代表整个芯片有320个运算单元和20,480个流处理器。出于良率的考虑,AMD削减了部分院算单元,实际使用数量为304个和19,456个流处理器。此外,HBM3容量达到192GB,提供了5.3TB/s的内存带宽和896GB/s的Infinity Fabric带宽。
根据AMD官方性能测试,Instinct MI300X的表现优于市面上已有的Nvidia H100 80GB,甚至有可能对即将上市的H200 141GB构成威胁。目前,除传出微软Instinct MI300X的最大买家之外,还有Meta也已采购了大量AMD Instinct MI300系列产品,LaminiAI则是首家公开使用MI300X的公司。
网友评论