1.鸿博股份的业务方向

⑴払司介绍

鸿博股份旗下有几家重要的子公司，分别是重庆鸿海、鸿博昊天、无锡双龙和英博数科。这些子公司代表了公司的几个重点业务方向。

重庆鸿海：主要从事福利彩票和税务局、韦艮行等专业票据的印刷。

鸿博昊天：主要从事精品印刷，服务于党和国家重要文献、重大主题出版物以及北京市的中小学教科书等核心出版物。

无锡双龙：是国家税务总局、邮储银行、中国银行等多个重要机构的全国性定点印刷企业之一。

英博数科：是鸿博股份的全资子公司，与中关村中恒文化科技创新服务联盟、英伟达公司、鸿博股份合作成立了北京AI创新赋能中心。

⑵鸿博股份的业务发展

鸿博股份最初从事的是印刷业务，起初是热敏票的印刷，后来逐步发展为高端酒盒包装和精品印刷业务。去年通过子公司英博数科进军算力业务。

2.英伟达在大模型训练领域的关键作用

英伟达在大模型训练领域扮演着重要角色，其数据中心业务收入占比超过了游戏业务，成为其收入贡献最多的业务。英伟达的数据中心业务表现持续超出市场预期，主要驱动力来自大模型训练对高端GPU的持续需求。

3.英伟达的DGX产品及核心技术

⑴DGX产品

英伟达的DGX产品是为处理深度学习算法而研发的超级计算机，其中最新的产品是基于A100或H800的DGX服务器。第三代基于A100的DGX设备的单精度算力达到了5P次flop,第四代基于H800的设备的算力达到了[6P次。

⑵Envy Link和Envy Switch

Envy Link是用于塔之间传输的高带宽传输工具，速度是传统PCI5.0传输速度的7倍。Envy Switch是连接多个EnvyLink的工具，实现多对多的GPU通信。

⑶IP网络

IP网络是英伟达配套的核心技术，用于多台服务器之间的互联，传输速率快。最新一代基于H100的第四代DGX设备搭载的IB传输速度可达到900GB。

4.大模型训练对GPU需求的量化测算

根据基于open的论文和第三方机构的方法论，对训练和推理阶段所需的算力和DGX服务器数量进行了测算。

⑴训练阶段

训练阶段的总训练计算量取决于模型参数数量、训练数据集大小、训练轮次和批次大小。单个GPU的运算能力以及训练大模型所需时间决定了对GPU的总需求量。以训练一个类似于1750亿参数的GPT模型为例，使用基于A100的DGX设备训练，大约需要122台服务器。

⑵推理阶段

推理阶段的计算量取决于参数数量、问题长度、模型输出回复长度以及模型的计算复杂性。用户的访问量以及单个GPU的运算能力决定了推理阶段对GPU的并发需求量。

Q&A

Q：公司的IP网络具有什么特点？它是用来替代传统的以太网的吗？

A:IP网络是用于多台服务器之间的互联，它的作用是替代传统的以太网,最主要的一蚀点是传输速率快。

Q：大模型训练对于算力的需求有哪些因素决定？

A:总的训练计算量取决于模型的参数数量、训练数据集的大小、训练轮次以及批次的大小。单一GPU的运算能力和训练大模型的时间也决定了对GPU的总需求量。(节选）

慧选牛牛统计：该股最近90天内共举办了4次或以上机构内部交流会；90天内共有2篇券商研报，机构给出评级2次，买入评级1家，增持评级1家，机构目标均价为30.4元。90天内共62次机构调研，其中券商调研25次，基金19次，私募3次，资管3次。