登录注册
简单101
2024-01-01 22:09:17
@TheBigShort大空头: AIPC之内存,为什么是澜起和聚辰。内存的快速升级是AIPC最显著的价值增量。存储产业链:BF16中,每运行10亿参数模型需要2GB内存;Int8量化下,每运行10亿参数模型需要1GB内存。(本地运行各种参数量级的模型对内存的需求)因此假设本地运行一个100亿参数的模型,需要的内存要至少10GB。目
8 赞同-2 评论
声明:文章观点来自网友,仅为作者个人研究意见,不代表韭研公社观点及立场,站内所有文章均不构成投资建议,请投资者注意风险,独立审慎决策。
工分
0.02
转发
收藏
投诉
复制链接
分享到微信
有用 0
打赏作者
无用
真知无价,用钱说话
0个人打赏
同时转发
暂无数据