登录注册
北交所SRAM—华岭股份
顺势而为主升
2024-02-20 15:35:22
【比英伟达GPU性能快10倍!世界最快大模型Groq自研LPU系统采用SRAM】

一觉醒来,每秒能输出500个token的Groq模型刷屏全网。堪称是“世界上速度最快的LLM”!Groq突然爆火,背后最大的功臣不是GPU,而是自研的LPU——语言处理单元。单卡仅有230MB内存,2万美元一张。在LLM任务上,LPU比英伟达的GPU性能快10倍。LPU是专为图形渲染而设计、包含数百个核心的并行处理器,能够为AI计算提供稳定的性能。

具体来说,LPU的工作原理与GPU截然不同。它采用了时序指令集计算机架构,这意味着它无需像使用高带宽存储器(HBM)的GPU那样频繁地从内存中加载数据。不同于英伟达GPU需要依赖高速数据传输,Groq的LPU在其系统中没有采用高带宽存储器(HBM)。它使用的是SRAM,其速度比GPU所用的存储器快约20倍。鉴于AI的推理计算,相较于模型训练需要的数据量远小,Groq的LPU因此更节能。在执行推理任务时,它从外部内存读取的数据更少,消耗的电量也低于英伟达的GPU。1.1 国内首家专业集成电路测试服务企业

上海华岭成立于2001 年,是国内第一家专业集成电路测试服务企业,致力于为各 类集成电路企业提供测试软硬件开发、测试验证、晶圆测试、成品测试、系统级测试及 高可靠性检测等全流程测试技术服务。公司专注于集成电路测试领域,自成立以来突破 了一系列高端芯片测试方法和工程技术,构筑了核心竞争优势,先后承担了8 项国家科 技重大专项项目及50 多项其他国家和上海市重点科研项目,自主研发了覆盖市面上超 80%以上集成电路产品的超1000种芯片测试程序,形成多项核心技术,完成申请与授权 多项国内外发明专利,整体技术水平达到国内领先地位。



公司在高端设计应用测试解决方案、先进工艺产品的测试方案、先进封装测试解决 方案等各方面积累了较为丰富的核心技术成果;掌握了高性能CPU、MCU、CIS、MEMS、 FPGA、SRAM、存储器芯片、通信芯片、射频芯片、信息安全芯片、人工智能芯片等高端芯片的 测试技术;服务产品工艺覆盖 7nm-28nm 等先进制程;开发了高密度、微间距及高速 KGD 晶圆测试等先进工艺产品测试硬件设计解决方案;完成了三维集成高密度封装相 关测试解决方案开发,具备三维立体封装芯片协同测试及测试程序管理能力
作者利益披露:原创,不作为证券推荐或投资建议,截至发文时,作者不持有相关标的。
声明:文章观点来自网友,仅为作者个人研究意见,不代表韭研公社观点及立场,站内所有文章均不构成投资建议,请投资者注意风险,独立审慎决策。
S
华岭股份
S
北京君正
S
西测测试
S
光力科技
工分
8.47
转发
收藏
投诉
复制链接
分享到微信
有用 12
打赏作者
无用
真知无价,用钱说话
0个人打赏
同时转发
评论(5)
只看楼主
热度排序
最新发布
最新互动
  • 只看TA
    02-20 17:18
    不错追了
    1
    0
    打赏
    回复
    投诉
  • 只看TA
    02-20 16:15
    感谢分享
    1
    0
    打赏
    回复
    投诉
  • 吃鸡遇到缩圈
    蜜汁自信的老韭菜
    只看TA
    02-20 19:06
    0
    0
    打赏
    回复
    投诉
  • 黑暗中的坚持
    自学成才的老韭菜
    只看TA
    02-20 16:21
    不错
    0
    0
    打赏
    回复
    投诉
  • 只看TA
    02-20 15:36
    感谢分享
    0
    0
    打赏
    回复
    投诉
  • 1
前往