大模型爆火GPU陷供应短缺,算力租赁需求兴起
记者日前多方采访获悉,AI大模型和行业应用等迅速增长推动算力需求,GPU已陷入供应短缺,多款GPU价格从3、4月至今涨幅接近50%,订单排期至明年上半年。基于此算力租赁市场兴起,需求和市场订单量上升,未来增长空间较大。
随着大模型以及相关应用的发展,算力需求呈现爆发式增长。但除了大型互联网企业、AI龙头企业具有较多的GPU算力芯片储备外,中小企业在发展AI模型、应用过程中,遭遇算力瓶颈。华安证券尹沿技分析指出,算力租赁成为广大中小企业解决算力需求的最优解。
上市公司中,首都在线(300846)率先建立大规模、高覆盖的GPU算力资源池,在2022年已建设1万片面向图形处理的GPU资源池,其中包括A100、a5000等英伟达先进算力硬件。
立昂技术(300603)在成都简阳募投的立昂云数据(成都简阳)一号基地一期项目未来将打造“算力+数据+算法”的超算创新应用生态体系,公司称相关的服务器及加速卡等会根据业务实际情况采购国内外知名品牌供应商产品。
AI云算力的龙头-首都在线(300846)。
先来看看公司的相关行业背景情况:
1、算力是打造大模型生态的必备基础,平台是模型和算力的桥梁: 算力是训练大模型的底层动力源泉,一个优秀的算力底座在大模型(AI算法)的训练和推理具备效率优势;平台实为模型和算力之间的 “ 桥梁” 是 AIGC 或大模型生成的必备要素,不论是数据库还是编译器,都需要通过平台来实现资源的合理分配以达到软硬件的最优组合,从而大幅提升模型效率。大模型参数呈现指数规模,引爆海量算力需求: 根据财联社和OpenAI数据,ChatGPT浪潮下算力缺口巨大,根据OpenAI数据,模型计算量增长速度远超人工智能硬件算力增长速度,存在万倍差距。运算规模的增长,带动了对AI训练芯片单点算力提升的需求,并对数据传输速度提出了更高的要求。根据智东西数据,过去五年,大模型发展呈现指数级别,部分大模型已达万亿级别,因此对算力需求也随之攀升。
2、英伟达提供全栈AI云解决方案, 全球 AI+ 时代已经到来:英伟达提供的全站云服务包括基础设施、调度、加速库、加速框架、应用框架全套解决方案,上层应用包括自然语言处理、机器视觉、智能驾驶、机器人、生物计算等全行业的应用框架大模型解决方案。我们认为在英伟达的云服务赋能瞎,全球AI有望加速发展,迎来“AI大爆炸”全新时代。英伟达引领全球,AI云服务迎来黄金发展时期: 英伟达此阶段提供AI云服务的本质分如下,第一,ChatGPT“大模型”引发算力时代,英伟达作为全球AI芯片龙头公司,有望借助算力底座通过AI云服务的方式开启新一轮成长体曲线,自身拥有强大基因助力英伟达在超算时代的AI云服务具备先发优势;第二,以英伟达为代表全球算力储备充足,AI赋能千行百业的“ 燃油 ” 已经充足,即将迎来 “AI大爆炸”的全新时代。
再来看看公司的基本面有哪些亮点:
1、携手遂源科技,开启AIGC芯征程:2023年3月15日,首都在线(16.3,4.55%,7)与燧原科技正式签署AIGC生态共创计划合作协议,共同聚焦打造全面的AIGC生态圈,将重点针对大模型 MaaS(Model-as-a-Service)展开联合攻关,正式对外推出基于云燧i20支撑的AIGC实时推理应用。双方合作旨在建立高效可靠的算力基础设施,支撑AIGC业务快速发展。算力基础设施将包括高性能计算集群、存储系统、网络设备等硬件设施,以及专业的管理软件和服务支持,从而支持人工智能和大数据等领域应用的快速发展。双方合作服务AIGC的发展方向包括:为AI大模型提供算力训练集群,以及为AIGC应用提供AIGC云服务。
2、GPU公有云算力渐成公有云行业新爆点,公司推动渲染新平台:元宇宙,数字孪生,AIGC,AR/VR等的快速发展拉升了对于GPU算力的需求。在产品形态上,首都在线异构算力平台可以提供高性能GPU服务器,协助客户搭建自己的渲染业务平台,同时面向数字人与元宇宙场景提供基于GPU直通卡的虚拟化云主机,为客户提供以单张卡为基本算力单元的弹性算力服务,提供1卡1路1用户的使用方案。面向图形和游戏设计行业的云桌面产品及针对行业的解决方案。定制开发视频流算法,大幅度提升了设计师使用时的交付体验,同时GPU桌面产品在普通云桌面的基础上实现了大文件传输、手写板多级压感支持等功能,目前已广泛应用于数字建筑、游戏开发、工业设计、教育培训等领域。针对垂直行业提供了丰富的解决方案。针对元宇审需求提供数字视频流媒体传输方案,从底层算力资源和网络资源,到流媒体管理平台以及视频流接入SDK,形成一站式交付的媒体方案;针对教育培训行业,合作利用云桌面实现了教培方案上云,为游戏开发、3D设计师培训等领域提供了一站式上云的解决方案。
首都在线:和北大强强联手 推动人工智能在各行各业的应用落地】首都在线官方消息称,为建设更为优质的智能算力环境,服务AIGC产业发展,首都在线和北大强强联手,分享最新的研究成果和技术进展,加速人工智能技术的转化,推动人工智能在各行各业的应用落地。目前,首都在线正在积极与国内以燧原科技为代表的AI算力厂商及AI初创企业展开合作,计划推出国产训练和推理平台。基于自身全球化的代理商、机房和专线资源布局,可以协助大模型、AIGC企业进行出海业