英伟达新GPU传言-韭研公社

登录注册

英伟达新GPU传言

丁元英

2023-11-10 08:59:11

英伟达中国版本GPU，路边消息16号就要发布。而且据说量很大，台积正好把之前H800产能空了出来，一个季度可以供出来50万颗（之前H800算上意向订单合计也就这个量级吧）

从传言中的性能看，的确是保住了互联带宽，而且900GB什么概念，当时A800是从600GB阉割到400GB，这次一步跳回到900GB，训练速度应该是平方关系，如果FLOPS不变，按道理训练速度提升4倍。但FLOPS从A100的FP16 312TFLOPS，以及H100的756TFLOPS，直接阉割到148TFLOPS，也就是H100的20%，A100的不到50%。大概算了下，假如芯片面积不变，这个算力/die size（平方毫米），刚刚满足新规“算力密度”指标。只能说，太狠了。之前还YY过，是不是可以保住算力虚增面积，来降低算力密度，就算成本功耗高了，但国内拿到的算力没变。今天这个方案出来，个人猜测1）英伟达和BIS做了沟通，为了达到限制的效果，还是阉割分子；2）虚增面积是增加成本，如果性能不变甚至下降但价格还上涨，英伟达与中国对手的差距可真就有缩小的可能了。由于本次新规出人意料的没有提及对互联带宽的限制，看来英伟达也和BIS确认了这一点，于是在IO上送大礼包了，直接从400G调到900G，一定程度上补齐了算力阉割造成的训练损失。一个20%，一个X4，整体训练性能略有下降，但勉勉强强保住了相对国产化对手们的领先优势。