登录注册
昨晚最热英伟达阉割卡!到底利好谁?
机构挖掘机
2023-11-10 08:16:57
先说观点,当大家都在卷谁的卡更厉害时,不如去看看耗材,解读中有一句很重要,也是可以避开卷的筹码。

英伟达新款阉割卡的显存从80GB提高到96GB,弥补算力损耗,看似单卡只有20%增量,但由于互联数的增加(算力下去了只能靠量补),会有明显的乘数效应,这事儿直接对应的就是HBM!!

炒卡炒租赁不如炒HBM,不论是英伟达还是昇腾,不都得加存储么!利好
S同有科技(sz300302)S S香农芯创(sz300475)S

一、芯片

NV新品解读近期H20 L20相关信息在传播,目前H20的设计思路是阉割单卡算力,导致集群算力规模较低,算力阉割至1/6,难以胜任GPT-4等训练任务,但是在大模型推理场景下有一定适用度。
华为昇腾算力将全面取代英伟达!最利好华为算力产业链!现在英伟达算力占据99%,未来华为算力占50%以上,英伟达中国将迎来华为昇腾ai平替,以华为平替ERP和EDA的实力,英伟达cu­da将是下一个突破!
二、英伟达改良版H100或将上线,继续看好算力租赁
事件:《科创板日报》9日讯,记者从产业链人士处了解到,英伟达现已开发出针对中国区的最新改良版系列芯片:HGX H20、L20 PC­le和L2 PC­le。知情人士称,最新三款芯片是由H100改良而来,英伟达最快或将于本月16号之后公布,国内厂商最快将在这几天拿到产品。记者向英伟达求证了该消息的真实性,但截至发稿,英伟达方面暂无回应。
观点:我们认为对算力租赁公司来说,竞争格局继续处于禁令生效后的优化期,相对于极度稀缺的A H 800/100需求,少数企业转向H20带来的影响可以忽略不计,继续看好。
改良版芯片可能暂时是英伟达内部的规划,不知是否通过美国政府批准,尚存不确定性。
算力租赁:改良版芯片性能大幅下降,性价比极低。如果采用,则大模型训练周期会被拉长,且成本将大幅上升。对绝大多数企业来说,短期通过第三方算力租赁公司获取A H 100/800算力资源以谋求更低的成本和更快的训练周期才是更明智的选择。
国产算力:改良版芯片对于国内有严格合规需求的少数企业来说,可能是暂时、勉强采纳的替代方案,但这类企业正是当前和华为昇腾等国产算力生态的合作方。
1、短期来看,昇腾等国产芯片还处于导入期,供给相对不足,少数企业或将选择改良版。但即使该类企业出于合规考虑采购H20作为替代方案,长期也将不得不继续扶持国产算力生态以保证长期的发展空间和确定性。
2、对于该类企业来说,为平衡合规和成本,甚至可能会短期采取租赁的方式获取第三方算力资源。
三、NV新卡H20初步解读
1、算力水平:约等于50%的A100(百分比仅定性 非定量)
单卡运算能力0.15P左右(FP16)、0.3P(int8)
+900G的nv­l­i­nk
+6颗HBM3
2、能力水平:L40S、RTX4090、A100的中间体
计算能力更弱
访存能力更强
集群能力一如既往优秀 万卡水平
NV生态完善
3、适用场景:大模型的微调、百亿参数模型的训练、大规模推理
大模型训练对组网要求很高,增加服务商壁垒。集群规模有上限,万P意味着十万颗级别GPU,组网难度可能极大。
4、成本:较贵,用了6颗HBM(H100用了6颗)对应96GB HBM3,HBM或可占到单卡成本的一半以上,所以售价和H100/800可能处于同一水平。
#以上信息均为估算,具体以后期到卡适配测试效果为准。
产业中前期已有新版NV卡传闻,这也符合产业逻辑。但对NV H系列的需求仍未减弱,价格暂未体现。国产算力也同样势在必行,各家都在积极适配。新卡的推出也可在部分场景缓解供需压力。

作者利益披露:原创,不作为证券推荐或投资建议,截至发文时,作者不持有相关标的。
声明:文章观点来自网友,仅为作者个人研究意见,不代表韭研公社观点及立场,站内所有文章均不构成投资建议,请投资者注意风险,独立审慎决策。
S
同有科技
S
香农芯创
工分
2.70
转发
收藏
投诉
复制链接
分享到微信
有用 8
打赏作者
无用
真知无价,用钱说话
0个人打赏
同时转发
评论(3)
只看楼主
热度排序
最新发布
最新互动
  • 只看TA
    2023-11-10 08:43
    同有形态不错
    1
    0
    打赏
    回复
    投诉
    于2023-11-10 09:02:13更新
    查看1条回复
  • 只看TA
    2023-11-11 17:36
    谢谢分享
    0
    0
    打赏
    回复
    投诉
  • 1
前往