开云体育， yabo体育， 亚博体育， 鸭脖体育， 宝博体育， 爱游戏体育， 188体育， 华体会体育， 欧宝体育， OB体育， 乐鱼体育， 万博体育， 亚娱体育， 米乐体育， 8868体育， 6686体育， 星空体育， 金年会体育， bob体育， bet体育， 皇冠体育， 九州体育， 沙巴体育， 必博体育， 天博体育， 立博体育， 球友会体育， 伟德体育， 火狐体育， 环亚体育， 云开体育， 意昂体育， 亚美体育， 米6体育， 贝博体育， one体育， 斗球体育， 56体育， m5体育， 天娱体育， 大乐体育， 爱博体育， 博乐体育， 乐动体育， 华亿体育， 安博体育， MK体育， 米兰体育，
四年前，AMD曾设定到2025年实现EPYC系列服务器处理器和Instinct系列AI芯片的能效提升30倍的目标。如今，MI300X AI芯片已经提前完成这一目标，时间提前了整整一年。根据THW的报道，AMD使用一台搭载两个64核心EPYC 9575F CPU、八个Instinct MI300X AI芯片和2304GB DDR5内存的服务器，进行Llama3.1-70B（vLLM 0.6.1.post2、TP8）推理测试，测试结果显示，系统的能源效率相比2020年的旧设备提升了显著的28.3倍。
虽然AMD没有详细披露2020年旧机的具体配置，但推测其大概率是EPYC 7002系列（Zen 2架构，最多64核CPU）以及基于CDNA 1架构的Instinct MI100 AI芯片。AMD表示，除了硬件上的巨大提升，架构的进步和软件优化的结合，也是实现这一飞跃的关键因素。
在今年10月的Advancing AI 2024大会上，AMD还正式推出了新款AI加速卡——Instinct MI325X。该卡在MI300X的基础上进一步增强了HBM内存，配备了256GB HBM3E内存，比MI300X增加了64GB。
MI325X性能与NVIDIA H200的对比
Instinct MI325X支持最多八块并行组合，提供总计2TB HBM3E内存和48TB/s带宽，性能高达FP16 10.4 PFlops（每秒10.4千万亿次浮点运算）和FP8 20.8 PFlops（每秒20.8千万亿次浮点运算）。与NVIDIA H200相比，无论是单卡还是八卡平台，MI325X在不同大模型推理任务中的性能都领先20-40%。在训练性能方面，单卡性能超过H200 10%，而八卡平台的表现与H200持平。
MI325X加速卡生产与发布计划
MI325X加速卡将在四季度开始生产，预计明年第一季度，合作伙伴将陆续推出整机系统和基础架构解决方案。
"
网友评论