美光公布1β制程HBM3Gen2存储器，传输速度快且更节能

    当前HBM存储器成为HPC与AI顶级硬件的热门存储器规格，美光科技Micron宣布推出新一代的HBM3Gen2存储器，初步推出8层堆叠的24GBHBM3Gen2存储器，预计2024年再公布12层堆叠的36GBHBM3Gen2；美光HBM3Gen2每脚位传输速率超过9.2GB/s、较目前市面上HBM3方案高出50%以上，并达到1.2TB/s以上频宽，同时每瓦性能提升2.5倍。

    美光HBM3Gen2将提升AI数据中心的关键性能、容量与功耗指标，并有助缩减如GPT-4等大型语言模型(LLM)与未来更高阶版本的训练时间，在提升AI基础硬件性能之余提供卓越的总体拥有成本。

    美光HBM3Gen2采用1βDRAM制程节点，将总共24GB晶粒以堆叠8层高度方式构成立方体，同时也将于2024年送样的12层的36GBHBM3，将可比竞品高出50%容量。美光在HBM3Gen2通过比当前HBM3高出一倍的硅晶穿孔数量，以及以五倍金属密度减少热阻抗，借此实现低功耗。美光通过参与台积电3DFabric联盟伙伴，与台积电导入与整合AI及高性能运算设计的运算系统，台积电当前已收到美光HBM3Gen2样品并进行评估与测试。

在当前最热门的生成式AI技术，美光HBM3Gen2的高频宽与容量发挥关键效用，每组堆叠达24GB容量、每脚位大于9.2GBps的传输速度能减少30%大型语言模型的训练时间，除了降低总体持有成本，也能提升每日查询次数；此外由于优异的每瓦性能，已装设1000万个GPU计算，每组堆叠能减少5W性能、在5年内使用可省下达5.5亿美元的运营成本。

 *免责声明：文章来源于网络，如有争议，请联系客服。