登录注册
高通发布《通过NPU和异构计算开启终端侧生成式AI》报告
钱塘明月
全梭哈的老韭菜
2024-03-07 15:15:54

      高通公司提出,随着生成式AI用例需求在有着多样化要求和计算需求的垂直领域不断增加,需要专为AI定制设计的全新计算架构。这首先需要一个面向生成式AI全新设计的神经网络处理器(NPU),同时要利用异构处理器组合,比如中央处理器(CPU)和图形处理器(GPU)。通过结合NPU使用合适的处理器,异构计算能够实现最佳应用性能、能效和电池续航,赋能全新增强的生成式AI体验。

  《通过NPU和异构计算开启终端侧生成式AI》报告深入阐述了异构计算的重要性,解析什么是NPU,以及高通领先的NPU和异构计算解决方案,并展示了第三代骁龙8和骁龙X Elite上业界领先的AI性能。

  报告认为,异构计算能够实现最佳应用性能、能效和电池续航,以最大化发挥生成式AI终端用户体验。NPU专为实现以低功耗加速AI推理而全新打造,其架构随着新AI算法、模型和用例的发展不断演进。

     NPU将是即GPU之后,AI算力最新的方向!!

     相关受益股  请大神推荐!!!

作者利益披露:原创,不作为证券推荐或投资建议,截至发文时,作者不持有相关标的。
声明:文章观点来自网友,仅为作者个人研究意见,不代表韭研公社观点及立场,站内所有文章均不构成投资建议,请投资者注意风险,独立审慎决策。
S
芯原股份
工分
10.91
转发
收藏
投诉
复制链接
分享到微信
有用 4
打赏作者
无用
真知无价,用钱说话
1个人打赏
同时转发
评论(20)
只看楼主
热度排序
最新发布
最新互动
  • 只看TA
    03-07 15:39
    除了美格智能,我找不到了
    3
    0
    打赏
    回复
    投诉
    于2024-03-07 22:02:32更新
    查看3条回复
  • 埃尔德本地化
    中线波段的龙头选手
    只看TA
    03-07 20:39
    芯原  国科微  正宗属性感觉芯原更好一些
    4
    0
    打赏
    回复
    投诉
  • 只看TA
    03-07 16:20
    美格智能是行业内最早推出高算力模组产品的企业,公司的高算力模组集成了CPU\GPU\NPU等多种计算单元,可进行通用计算和异构计算,根据应用场景需求可提供1.4TOPS到近48TOPS的AI算力。公司的高算力模组产品已经可以运行类似于Stable Diffusion\Llama 2等复杂大模型,为在各种不同类型的终端产品的端侧执行生成式AI的各类应用,提供了标准的软硬件环境。公司也持续在高算力模组和生成式AI应用方面进行研发和市场投入。
    2
    0
    打赏
    回复
    投诉
  • 律投汇
    超短低吸
    只看TA
    03-07 15:52
    美格智能
    2
    0
    打赏
    回复
    投诉
  • 只看TA
    03-08 01:08
    美格智能 算力模组最正宗
    1
    0
    打赏
    回复
    投诉
  • 只看TA
    03-07 23:20
    新题材,跟踪一下
    1
    0
    打赏
    回复
    投诉
  • 只看TA
    03-07 23:17
    这个简单啊。寒武纪啊
    1
    0
    打赏
    回复
    投诉
  • 未来人提前一步挖
    超短低吸的游资
    只看TA
    03-07 20:36
    看好npu  最慢下周!肯定要爆
    1
    0
    打赏
    回复
    投诉
  • 只看TA
    03-08 07:37
    寒武纪
    0
    0
    打赏
    回复
    投诉
  • 只看TA
    03-08 07:22
    国科微 华为+鸿蒙+npu
    0
    0
    打赏
    回复
    投诉
  • 1
  • 2
前往