AMD举行“Advancing AI”发布会，公布MI300系列芯片性能参数
小蜗牛
中途下车
2023-12-07 20:31:56
--------------------------
市场展望：
鉴于AIGC需求激增，AMD预计到2027年，数据中心加速器市场将从2023年的450亿美元增长至4000亿美元，对应CAGR超过70%。
MI 300：
AMD推出MI300X和MI300A芯片，皆采用台积电5nm和6nm制程工艺，分别搭载192GB HBM3与128GB HBM3。
MI300X芯片基于新CDNA3架构，对关键AI数据类型的处理性能较上一代CDNA2高出3倍以上。
MI300X晶体管数量为1530亿个，结合先进封装，提供领先的内存容量和带宽。
Instinct MI300X：
Instinct MI300X由8个MI300X组成，Instinct MI300X已从当日开始发货，Instinct MI300A已进入量产阶段。
与H100 HGX相比：
-- Instinct MI300X提供1.5TB HBM3内存容量，H100 HGX为680GB
-- 运行1760亿参数Bloom模型时，性能是H100 HGX的1.6倍。
-- 运行600亿参数Llama 2时，性能H100 HGX的1.4倍。
AI基础设施软件：
AMD宣布ROCm 6开源软件平台，可支持AMD硬件上的AI框架。
ROCm 6专注于对大型语言模型的优化，在运行Llama 2文本生成任务时，其加速性能比前一代提高了大约8倍。
生态系统持续扩大，目前有62000多个模型在AMD GPU上运行，并持续与OpenAI等加强合作关系。
对于130亿参数的AI模型，MI300X上的ROCm 6提供的推理性能是英伟达产品的1.2倍以上。
合作伙伴：
AMD强调了与微软、甲骨文、戴尔、惠普、联想、Super Micro等公司的合作关系，以将MI300X解决方案推向市场。
-- Azure云将开放Instinct MI300X虚拟机的预览，并表示ROCm优化为-- LAMA-2等机型提供了出色的性能。
-- Oracle宣布在其裸金属云计算平台中支持MI300X。
-- Dell推出带有MI300X加速器的新型PowerEdge服务器。
作者利益披露：转载，不作为证券推荐或投资建议，旨在提供更多信息，作者不保证其内容准确性。
声明：文章观点来自网友，仅为作者个人研究意见，不代表韭研公社观点及立场，站内所有文章均不构成投资建议，请投资者注意风险，独立审慎决策。
S
通富微电
工分
2.77
转发
收藏
投诉
复制链接
分享到微信
有用 1
打赏作者
无用
真知无价，用钱说话
0个人打赏
同时转发
暂无数据