AIPC核心增量--NPU-韭研公社

登录注册

AIPC核心增量--NPU

永远拥抱高景气

孤独求败的龙头选手

2023-12-11 10:13:34

首先，说说我们为什么每一个人都要换

AIPC

，很简单为了提高电脑使用的效率以及提升生产力。

在卷王的工作中你有AIPC就是一个打十个的存在。如果有excel不会做，叫aipc批量即可。如果你不知道文件如何批量改名，归类，查找文件，叫aipc做即可。如果图片视频不会处理，ppt不会做，电脑不知道如何设置，驱动怎么下载等等一系列问题，很简单，交给aipc操作。

除了整个电脑的重做外，市场遗漏了AIPC的核心，那就是NPU。

为什么需要个人电脑的

npu

而不是云端像

chatgpt

一样直接传输？很简单，因为个人隐私

+

个人大模型

+

边缘测节省时间和成本。

个人大模型可以通过AIPC的NPU完成，这样

既保护了电脑里的隐私，又使用专属个人定制大模型。

关于速度和成本。
相信现在许多人已经用上了ChatGPT, 同时，大家应该都能看到有时候进不去网站，提示【ChatGPT满负荷运转】因为很多用户都想体验这个软件,导致chatGPT满负荷运转,不少用户无法进入chatGPT页面,一般出现这个报错,就是因为同一时间进入的用户过多。

所以说，面对这种问题，最暴力的方法，大家都会想到就是加更多的服务器，用更多的GPU呗。对于计算机算法工程师来说，这可能是一个下策，而能够从原理端解决问题才是王道。于是，我给大家推荐NPU芯片这种从神经网络运算机理入手，从根源解决大规模神经网络运算的问题。

讲了这么多，不远说点实在的，现在市场上有无现成的解决方案，与单纯的GPU方案相比？
有的，比如$阿里巴巴-SW(09988)$ 之前在云溪大会上分布的含光800. 阿里含光NPU发布
云栖大会上，平头哥芯片公司横空出世，阿里也是从去年开始研发自己的 NPU 芯片。今年云栖大会上，NPU 有了重大突破：全球最高性能 AI 推理芯片含光 800 正式发布！在业界标准的 ResNet-50 测试中，含光 800 推理性能达到 78563 IPS，比目前业界最好的 AI 芯片性能高 4 倍；能效比 500 IPS/W，是第二名的 3.3 倍。
含光800性能的突破得益于软硬件的协同创新：硬件层面采用自研芯片架构，通过推理加速等技术有效解决芯片性能瓶颈问题；软件层面集成了达摩院先进算法，针对CNN及视觉类算法深度优化计算、存储密度，可实现大网络模型在一颗NPU上完成计算。

那么，含光NPU背后的加速神经网络运算的机理是什么呢？，详细的内容，大家有兴趣可以查看阿里云社区的汇报解读【阿里达摩院：含光NPU的算法与架构-阿里云开发者社区 (aliyun.com)】
【总结一下就是：NPU为大型云端数据中心而生，通过软硬件一体化实现人工智能应用的神经网络推理加速！！！】

今天，深度学习真正实用要至少克服两大挑战（从计算的角度）：第一是如何让复杂的模型更高效率和高效能运行；第二是模型需要吞吐大量数据，如何在大量数据量呑吐的情况下还能保持很好的实时性。例如，就深度语言模型而言，今天非常流行的BERT language model，几乎成为所有自然语言处理核心的模型，而今天实际上用的Bert模型还是平均的Bert模型，但它至少有几亿的参数，如果采用大型Bert的话，至少参数要翻一个数量级。
另外一个跟自然语言处理有关的就是机器翻译。今天机器翻译一般都是用Deep Transformer的结构，这是一个非常深的至少60多层的结构，它为了更好捕捉上下文信息，需要所谓的Multi-head Attention机制，这些都让模型极其复杂，使得运行模型的计算成本非常高。
【这里我提一下，ChatGPT 也是 Transformer的结构，和阿里这边的大模型机制差不多，大规模数据场景也非常契合】

标的：

$芯原股份-U(SH688521)$ ：GPU／NPU等推动IP业务稳健增长, 2022 Q3 IP 授权次数为47 次，同比有所下降，但平均单次授权费用同比增长46.9%，公司单价较高的GPU/NPU 等IP 需求较好，收入占比提升。
$全志科技(SZ300458)$ : 7月22日，高新区企业全志科技和阿里旗下半导体公司平头哥达成战略合作，全志科技将基于平头哥玄铁处理器研发全新的计算芯片，该芯片将应用于工业控制、智能家居、消费电子等领域，预计3年出货5000万颗。全志科技最新发布了V853多目异构AI视觉芯片产品，采用三核异构设计，包括Arm Cortex-A7主核、RISC-V协处理核与AI NPU。
瑞芯微(SH:603893): RK3399Pro和RK1808是瑞芯微第一代内置有NPU的高性能人工智能处理器，算力3T，应用于各类对算力有较高要求的嵌入式智能产品。
寒武纪-U(SH:688256)：还记得去年在德国柏林的IFA展上，华为正式发布了麒麟970芯片，该芯片中首次内置了神经元网络单元（NPU）以完成人工智能计算。这也可以说是华为首次推出含有人工智能功能的芯片，不过其中的NPU却是采用寒武纪的IP来设计的，算不算是华为自己的芯片很难界定。
国科微(SZ:300672)：2015年进入安防IPC领域，正逐步构建安防前后端全系列布局。基于新一代AI ISP引擎，国科微最新推出高端IPC SoC GK7608。面对夜间彩色成像难题，GK7608引入 “黑白彩色双光融合”技术，无需补充白光，在夜晚仍可获得光彩鲜艳的图像，为客户提供高质量的低噪全彩方案。GK7608搭载高算力双核NPU实现多个神经网络并行运算，可应用到200个人/车的高密度场景，消除高密度场景盲区。

S芯原股份(sh688521)S S全志科技(sz300458)S S亿道信息(sz001314)S

作者利益披露：转载，不作为证券推荐或投资建议，旨在提供更多信息，作者不保证其内容准确性。

声明：文章观点来自网友，仅为作者个人研究意见，不代表韭研公社观点及立场，站内所有文章均不构成投资建议，请投资者注意风险，独立审慎决策。

芯原股份

全志科技

亿道信息

工分