RSS
 
当前位置 : 主页 > 能源科技 >

叫板英伟达,AMD发布“最强算力”Instinct MI300X

时间:2024-03-18 10:32 浏览:

据媒体报道,当地时间周三,AMD举行“Advancing AI”发布会,推出了备受期待的Instinct MI300X加速器、Instinct MI300A以及专门应用于AI PC领域的锐龙8040系列移动处理器等。AMD首席执行官苏姿丰(Lisa Su)表示,AMD的MI300X芯片是“业界最先进的人工智能加速器”,并声称其性能优于英伟达目前的产品。

据介绍,Instinct MI300X加速器由8个MI300X组成,能够提供高达1.5TB的HBM3内存容量。与Instinct MI250X相比,MI300X系统计算单元多出了接近40%,还有1.5倍的内存容量,以及1.7倍的峰值理论内存带宽。同时新系统也支持FP8、稀疏性等更多的数学格式。

与英伟达H100 HGX相比,AMD表示,Instinct MI300X加速器在运行大语言模型推理时的吞吐量和时延表现要明显高出一截,在各项AI和HPC项目中也明显要高出一头。苏姿丰也在周三宣布,Instinct MI300X加速器已经从今天开始发货,与此同时,Instinct MI300A加速器也已经进入了量产阶段。

值得注意的是,Instinct MI300A是世界首款专为HPC和AI设计的APU,使用的HBM3内存规格为128GB。与Instinct MI250X相比,MI300A的性能功耗比能接近翻番。

除了硬件规格的提升,AMD也在周三宣布了最新版本的ROCm 6开源软件平台。公司介绍称,ROCm 6在提升AI加速性能方面取得了显著进步,特别是在MI300系列加速器上运行Llama 2文本生成任务时,其AI加速性能比前一代硬件和软件提高了大约8倍。

除了数据中心级别的芯片外,AMD同期还发布了锐龙8040系列移动处理器。AMD介绍称,与上一代同样搭载锐龙AI NPU的7040相比,8040系列在AI任务展现了进一步的提升。AMD介绍称,整个系列总共有9款芯片,预计搭载该系列的电脑将从2024年一季度开始发售。