rio柚木提娜 好意思光告示单颗36GB HBM3E内存:惊东谈主带宽1.2TB/s
发布日期:2024-09-12 16:50 点击次数:182
快科技9月10日音尘rio柚木提娜,好意思光官方告示,还是完成12-Hi堆栈的新一代HBM3E高带宽内存,单颗容量达36GB,比之前的8-Hi 24GB增大了足足一半。
它将用于顶尖的AI、HPC想到产物,比如NVIDIA H200、B200等加速卡,单卡就能平缓驱动700亿参数的Llama2等大模子,不再需要相似调用CPU,从而减少蔓延、普及数据管理戒指。
好意思光12-Hi 36GB HBM3E内存还有着9.2Gbps的超高速度,单颗就能提供卓越1.2TB/s的惊东谈主带宽,况兼功耗比8-Hi版块更低。
台积电CoWoS封装本领制造,也便是NVIDIA H100、H200等多量使用的本领,互相不错平缓搭配。
彩虹小马赞助完满可编程的MBIST(内存内置自测试),不错模拟全速下的系统负载,便捷快速完成测磨练证,加速上市。
好意思光示意,12-Hi HBM3E还是提供给要害伙伴进行考证。