【国盛通信】GPT宕机凸显算力紧缺，「打破通信墙+极致调优」乃无二之选[加油]
股海鱼
明天一定赚的公社达人
2023-11-09 14:00:41
【国盛通信】GPT宕机凸显算力紧缺，「打破通信墙+极致调优」乃无二之选
❗️昨晚OpenAI出现100分钟大规模宕机，公司认为GPT新版本访问量激增导致服务器瘫痪，算力紧缺程度可见一斑。
【打破通信墙】搭建高速光通信网络，通过超高速率芯片&内存互联，允许万卡集群跨GPU数据高速无损交换，仍是充分发挥算力集群性能的核心。
【极致调优】通过监测GPU负载、交换链路拥挤度、模型优化等方式从系统层面优化集群性能，充分压榨GPU利用率；该环节可视化运维或成破局关键。
【算力后周期加速崛起】云化使算力资源“整转零”，便于用户随时调用；调优从网络和模型层面优化实现算力降本；调度统筹分配全国/全球算力成本优化。
🧧【光连接】中际旭创、新易盛、天孚通信、太辰光、腾景科技、源杰科技、盛科通信等
【调度】思特奇、中科曙光等
【调优】恒为科技等
【租赁】中贝通信、恒润股份、中科金财、东方材料、润建股份、利通电子等
【可视化、BOSS】浩瀚深度、中新赛克、亚信科技、天源迪科、东方国信等
❗️昨晚OpenAI出现100分钟大规模宕机，公司认为GPT新版本访问量激增导致服务器瘫痪，算力紧缺程度可见一斑。
【打破通信墙】搭建高速光通信网络，通过超高速率芯片&内存互联，允许万卡集群跨GPU数据高速无损交换，仍是充分发挥算力集群性能的核心。
【极致调优】通过监测GPU负载、交换链路拥挤度、模型优化等方式从系统层面优化集群性能，充分压榨GPU利用率；该环节可视化运维或成破局关键。
【算力后周期加速崛起】云化使算力资源“整转零”，便于用户随时调用；调优从网络和模型层面优化实现算力降本；调度统筹分配全国/全球算力成本优化。
🧧【光连接】中际旭创、新易盛、天孚通信、太辰光、腾景科技、源杰科技、盛科通信等
【调度】思特奇、中科曙光等
【调优】恒为科技等
【租赁】中贝通信、恒润股份、中科金财、东方材料、润建股份、利通电子等
【可视化、BOSS】浩瀚深度、中新赛克、亚信科技、天源迪科、东方国信等
作者利益披露：转载，不作为证券推荐或投资建议，旨在提供更多信息，作者不保证其内容准确性。
声明：文章观点来自网友，仅为作者个人研究意见，不代表韭研公社观点及立场，站内所有文章均不构成投资建议，请投资者注意风险，独立审慎决策。
S
新易盛
工分
1.72
转发
收藏
投诉
复制链接
分享到微信
有用 5
打赏作者
无用
真知无价，用钱说话
0个人打赏
同时转发
暂无数据