华为在WAIC 2023大会上联合四家合作伙伴共同发布昇腾AI大模型训推一体化解决方案,可以无缝切换大模型的训练和推理过程,支撑客户开箱即用,无需进行二次硬件适配。
2023年11月6日互动,公司已与华为签署了全面合作框架协议,并已联合发布了从容大模型训推一体化解决方案。
2、2023年5月4日讯,公司接受调研表示具备在人才与算法的布局,正着力打造AI驱动的虚拟数字人 ,从而把握住虚拟直播、虚拟客服、动画游戏等新场景带来的商业机会。2023年3月公司拟募集资金不超36.35亿元,拟全部用于云从“行业精灵”大模型研发项目。
3、公司在视觉、语音、NLP等方向上都在实践类似于ChatGPT的“预训练模型+反馈调优”的技术路线,通过自研的视觉大模型和NLP大模型,大幅提高了算法的生产效率。
4、公司主业为提供人机协同操作系统和行业解决方案,技术方向上覆盖图像识别、语音识别、自然语言处理和机器学全领域。$云从科技(sh688327)$
大模型一体机是一种软硬件结合的设备,集成了AI芯片、AI平台软件及各类模型算法。通常使用AI服务器的大模型训练过程需要将数据传输到中央服务器或云端进行计算,然后再传回结果,会导致数据传输和网络延迟,而大模型一体机将计算资源与AI模型集成在一个设备中,能够在本地进行计算,使训练效率大幅提升,同时降低用户使用门槛。
性能方面,一体机通过算力底层硬件设施到大模型再到应用开发平台全生命周期深度优化,使得华为AI GPU可对标英伟达 A100。10月19日,据A公司表示,华为昇腾910B的能力已经基本达到英伟达A100的水平。
软件方面,华为针对AI场景,设计了异构计算架构CANN、AI 计算框架MindSpore和全流程开发工具链MindStudio等软件体系。CANN是一种异构计算架构,功能类似英伟达CUDA,可以释放AI硬件的性能,支撑快速部署神经网络。MindSpore是华为深度学框架,帮助开发者孵化出各种AI创新算法和应用,大幅提升效率,以11%的占比在全球框架里排名第三。MindStudio能让开发者一站式完成安装部署、模型训练等全流程,显著降低了开发门槛。
需求方面,华为昇腾一体机带来的大模型本地化部署,能够满足市场对于数据安全和技术门槛的需求。其中,从数据自主可控的角度出发,党政军对数据安全需求强烈。
假设2023-27年政府端PC数量为3300-3400万台,到2027年接入大模型的PC渗透率达到30%,AI一体机单价为180万元/台,最大并发量为40台,对应政府端AI一体机市场规模4590亿元。此外,AI工程化开发成本较高,中小厂商难以负担,使用一体机能够降低中小厂商进行AI创业的门槛。
华为昇腾一体机的研发和制造需要一定的门槛,需要合作方提供通用大模型算法的能力并具有华为的合作资质及合作时间(半年以上)。云从科技 688327已与华为合作推出一体机相关产品。