登录注册
转:昇腾910B与英伟达A800对比
谁与争锋
蜜汁自信
2023-10-02 18:27:23

昇腾910B与英伟达A800对比

来自AI大时代国运昌盛的雪球专栏

根据华为自行公开的昇腾910B与英伟达A800参数的对比可以发现主要有这么几点值得特别注意

参数对比集中在Tensor Core而淡化CUDA Core相关的指标

关于这点其实很容易解释我们做任何一款产品要想获得认可真正的难点不在技术参数而在研发生产销售及应用整体构成的生态CUDA的优势恰恰在这个地方也是最难打破的地方对于终端客户来说从一个平台迁移到另一个平台既需要耗费大量的资金也需要耗费大量的时间迁移成本太高

对比测试的小型服务集群使用的是8节点对NVIDIA的4节点

尽管从公布的数据来看表面上很接近但如果是在同等条件下似乎可以理解为不足50%在实际应用中一般采用的都是大服务集群这个数据会更差不管是训练还是推理

着重强调的FP16在预训练中极容易溢出

LLM大模型也好生成式AI也罢占绝大部分比重的是预训练FP16最大的问题在于极容易溢出至少也要提供BF16来作为保障

HBM存储芯片的限制

HBM是基于3D叠层工艺的DRAM存储芯片能突破内存容量和带宽瓶颈为GPU提供更快的数据处理能力算力要求越高对内存的需求就越大HBM3E 目前已成为英伟达和AMD主流服务器的标配而这一块则要看国内的企业比如华海诚科能否突破GMC的封锁毕竟全球只有两家日本企业可以供应GMC

在实际上的商业落地过程中我们可以看到华为主打的是国产信创市场但说实话如果是小型客户这个影响还小些而像国家或城市建立的数据或智算中心以目前极为单薄的算力云租赁商业模式来看会极大的影响政府的算力基础建设和投资领域的回报率因为缺少真正的商业用户买单这也是为什么绝大部分算力中心特别是一二期的工程花费巨资购买那么多的算力却基本成了摆设造成巨大浪费的原因

的确从中美科技竞争的角度来讲国家应该大力扶持但我们都知道经济环境本就不好纳税人的钱如此被浪费掉不能发挥激活经济的价值和作用着实让人心疼我们思考的重心应该放在怎么让这些算力产生价值盘活经济上





作者利益披露:转载,不作为证券推荐或投资建议,旨在提供更多信息,作者不保证其内容准确性。
声明:文章观点来自网友,仅为作者个人研究意见,不代表韭研公社观点及立场,站内所有文章均不构成投资建议,请投资者注意风险,独立审慎决策。
S
恒为科技
S
中贝通信
S
恒润股份
S
菲菱科思
S
翠微股份
工分
8.83
转发
收藏
投诉
复制链接
分享到微信
有用 11
打赏作者
无用
真知无价,用钱说话
0个人打赏
同时转发
评论(5)
只看楼主
热度排序
最新发布
最新互动
  • 只看TA
    2023-11-04 13:59
    谢谢分享
    0
    0
    打赏
    回复
    投诉
  • 只看TA
    2023-10-07 20:11
    转发一下!
    0
    0
    打赏
    回复
    投诉
  • gggfgf
    一路目送的小韭菜
    只看TA
    2023-10-07 14:25
    转发,辛苦了
    0
    0
    打赏
    回复
    投诉
  • 只看TA
    2023-10-05 13:48
    谢谢,转发!!!
    0
    0
    打赏
    回复
    投诉
  • 1
前往