三星已经在本月量产了HBM3E 8H DRAM，以及第9代V-NAND技术的产品，并计划在第二季度内量产HBM3E 12H DRAM和基于1β (b) nm（第五代10nm级别）32Gb DDR5打造的128GB DRAM产品，比原计划里的下半年提前了。按照三星的说法，这是为了更好地应对生成式AI日益增长的需求，所以选择加快了HBM和1β (b) nm 32Gb DDR5的项目进度。

近期企业级QLC SSD的需求攀升，而目前市场上可以提供经验证的企业级QLC产品的厂家只有Solidigm和三星。为此三星已确认，第三季度会量产QLC版本的第9代V-NAND产品，以尽可能地满足企业用户的使用需求。

不少人还关心三星的晶圆代工业务，但三星称，由于市场需求疲软和持续的库存调整，复苏的速度相对比较迟缓。不过三星表示，目前晶圆厂的运营效率已经有所提升，新一代2/3nm制程工艺的开发也较为顺利，另外4nm制程工艺的良品率已日趋稳定。

三星计划下半年量产第二代3nm制程工艺，也就是SF3，使用“第二代多桥-通道场效应晶体管（MBCFET）”，之前已在试产。

传闻AMD计划在今年下半年推出Instinct MI350系列，属于Instinct MI300系列的升级版本。其采用了台积电（TSMC）的4nm工艺制造，以提供更强的性能并降低功耗。由于采用了12层堆叠的HBM3E，提高带宽的同时还加大了容量。

三星的HBM3E 12H DRAM提供了高达1280GB/s的带宽，加上36GB容量，均比起之前的8层堆栈产品提高了50%。由于采用了先进的热压非导电薄膜（TC NCF）技术，使得12层产品与8层产品有着相同的高度规格，满足了当前HBM封装的要求。该技术还通过芯片间使用不同尺寸的凸块改善HBM的热性能，在芯片键合过程中，较小凸块用于信号传输区域，而较大凸块则放置在需要散热的区域，将有助于提高产品的良品率。

按照三星的说法，在人工智能应用中，采用HBM3E 12H DRAM预计比HBM3E 8H DRAM的训练平均速度提高34%，同时推理服务用户数量也将增加超过11.5倍。

有业内人士称，该笔交易与三星晶圆代工的谈判是分开的。此前有传言称，AMD下一代CPU/GPU将引入三星的工艺。

据TrendForce报道，AMD和英伟达都加快了主力人工智能（AI）应用芯片的开发步伐，而且都在规划采用更高规格的HBM产品，以进一步提升性能。从目前情况来看，2024年将会有三大趋势：

HBM3将进阶到HBM3E - 预计英伟达下半年开始扩大搭载HBM3E的H200出货，取代H100成为主流，B200和GB200也会采用HBM3E。AMD年底前会带来Instinct MI350系列，在此之前还会有Instinct MI32x系列，均选定了HBM3E。

HBM容量持续增大 - 目前市场主流的H100搭载的是80GB的HBM3，至2024年底改用HBM3E的新品，容量将提升至192GB到288GB。

HBM3E将从8层往12层堆叠发展 - 英伟达首批Blackwell架构产品都采用了8层堆叠的HBM3E，到了明年将引入12层堆叠的HBM3E。AMD今年的Instinct MI350系列，以及明年的Instinct MI375系列，都将采用12层堆叠的HBM3E，将容量提升至288GB。

此前三星已官宣了业界首款拥有12层堆叠的HBM3E，传闻SK海力士在今年2月已经向英伟达发送了新款12层堆叠HBM3E样品，以进行产品验证测试。另外有趣的是，报道中还提及了之前没有出现的AMD Instinct MI375系列。

近日美光总裁兼首席执行官Sanjay Mehrotra在2024财年第二财季财报会议上表示，美光2024年的HBM产能已经售罄，2025年大部分产能的供应也已经分配完毕，预计HBM产品的出货占比将在明年大幅度攀升。2024财年美光将从HBM产品上获得数亿美元的收益，从2024财年第三财季开始，HBM产品收入将增加并提高整体毛利率。

由于需要更多地制造HBM，极大影响了美光其他DRAM的产能，限制了普通内存产品的供应。Sanjay Mehrotra坦承，在同一制程节点生产同等容量下，HBM3E的晶圆消耗量是标准DDR5的三倍，随着性能及封装复杂程度的提高，未来HBM4的消耗量会更大。

这一定程度上与HBM的良品率更低有关，由于需要多层DRAM通过TSV堆叠，只要其中一层出现问题，就意味着整个堆栈报废。现阶段HBM的良品率也就在60%到70%之间，明显低于普通的DRAM产品。

不只是美光，此前SK海力士和三星都已表示，在人工智能（AI）和高性能计算（HPC）的巨大需求推动下下，2024年的HBM产能已经排满。

SK海力士是首家HBM3E供应商，于2023年8月份完成HBM3E存储器的开发，上个月向英伟达发送了新款12层堆叠HBM3E样品进行测试，如今宣布量产的HBM3E存储器应该是8层堆叠的产品，容量为24GB。SK海力士表示，其最新的HBM3E产品在速度和热量控制上是目前业界内最好的。最新款HBM3E每秒可处理1.18TB的数据，相当于在一秒内处理230多部全高清电影（每部 5GB）。同时，SK海力士的HBM3E产品在采用Advanced MR-MUF工艺后，与上一代产品相比，散热性能也提高了10%，减少了积热的可能性。

SK海力士HBM业务负责人Sungsoo Ryu表示，HBM3E的量产完善了公司AI存储器产品阵容，并希望以HBM产品线的成功经验，进一步提升客户对公司的信心，稳固与前者的关系，夯实公司在AI存储器供应领域的领先地位。

之前也有报道称，为了应对竞争更加激烈的存储器市场，SK海力士曾拟计划于美国印第安纳州建造晶圆厂，以及在韩国本土投资10亿美元建造先进的HBM封装设施，如今率先量产HBM3E产品，无疑使SK海力士在未来存储器市场里占得一定先机。

与SK海力士在HBM3遥遥领先不同，到了HBM3E情况似乎出现了变化，美光和三星的加入让市场竞争变得越来越激烈。去年美光、SK海力士和三星先后都发送了HBM3E样品给英伟达，用于下一代AI GPU的资格测试。这也是英伟达为了保证下一代产品供应，规划加入更多的供应商的举措。

美光在去年7月，推出了业界首款带宽超过1.2TB/s、引脚速度超过9.2GB/s、8层堆叠的24GB容量HBM3E，采用了1β（1-beta）工艺制造。随后美光透露，其HBM3E样品的性能更强且功耗更低，实际效能超出了预期，也优于竞争对手，让客户大吃一惊。美光还准备了12层堆叠的36GB容量HBM3E，在给定的堆栈高度下，容量增加了50%。

作为HBM市场的领头羊，SK海力士也不会坐以待毙，近期已向英伟达发送了新款12层堆叠HBM3E样品，以进行产品验证测试。近期三星也官宣了同类产品，容量为36GB的12层堆叠HBM3E。下一代HBM4有望在2026年到来，相信HBM市场竞争会变得更加激烈。

HBM需要在基础晶圆上通过硅通孔（TSV）连接多层DRAM，首批HBM3E产品均采用8层堆叠，容量为24GB，美光、SK海力士和三星分别在去年7月、8月和10月向英伟达发送了样品。此前有消息称，英伟达已经向SK海力士和美光分别支付了约合5.4亿至7.7亿美元的预付款，供应下一代HBM3E。

美光、SK海力士和三星都在推进12层堆叠HBM3E的开发，容量也将提升到36GB，其中需要解决一些器件特性和可靠性验证问题。上个月三星宣布，已开发出业界首款12层堆叠HBM3E，提供了高达1280GB/s的带宽，预计今年下半年开始大规模量产。不过目前看来SK海力士的进度也很快，传闻还应用了新的工艺。

有业内人士称，SK海力士提供的样品属于早期版本，主要是为了建立新产品的标准和特性，SK海力士称其为“UTV（Universal Test Vehicle）”，预计这次产品验证测试不会花太多的时间。随着人工智能芯片市场的快速增长，HBM产品的竞争也变得更加激烈。

HBM3E 12H DRAM采用了先进的热压非导电薄膜（TC NCF）技术，使得12层产品与8层产品有着相同的高度规格，满足了当前HBM封装的要求。这项技术预计会带来更多优势，特别是在更高的堆叠上，业界正在努力减轻芯片裸片变薄带来的裸片翘曲。三星不断降低其NCF材料的厚度，并实现了业界最小的芯片间隙（7µm），同时还消除了层间空隙。这些努力使其与HBM3 8H DRAM相比，垂直密度提高了20%以上。

三星的热压非导电薄膜技术还通过芯片间使用不同尺寸的凸块改善HBM的热性能，在芯片键合过程中，较小凸块用于信号传输区域，而较大凸块则放置在需要散热的区域，这种方法有助于提高产品的良品率。

三星表示，在人工智能应用中，采用HBM3E 12H DRAM预计比HBM3E 8H DRAM的训练平均速度提高34%，同时推理服务用户数量也将增加超过11.5倍。据了解，三星已经开始向客户提供HBM3E 12H DRAM的样品，预计今年下半年开始大规模量产。

早在去年7月，美光就宣布推出业界首款带宽超过1.2TB/s、引脚速度超过9.2GB/s、8层垂直堆叠的24GB容量HBM3E，采用了其1β（1-beta）工艺制造，性能相比目前出货的HBM3解决方案提高了50%。据介绍，美光HBM3E产品的每瓦性能是前几代产品的2.5倍，为人工智能数据中心的性能、容量和功率效率等关键指标创造了新的记录，可以减少GPT-4等大型语言模型的训练时间，并提供了卓越的总拥有成本（TCO）。美光称，其HBM3E的功耗比竞争对手SK海力士和三星的同类产品低了30%。

美光还准备了12层垂直堆叠的36GB容量HBM3E，在给定的堆栈高度下，提供的容量增加了50%，随着技术的进步，美光将硅通孔（TSV）增加了一倍，金属密度增加了五倍，从而降低了热阻抗，加上节能的数据路径设计，因此让能效得以提高。

下个月英伟达的GTC 2024上，美光将会带来36GB容量HBM3E，并分析更多的产品信息。

SK海力士将会成为继三星之后第二家展示GDDR7显存芯片的公司，它们家产品的速度是35.4Gbps，比三星的慢，不过存储密度是相同的，都是单颗16Gbit。与三星的一样，SK海力士的GDDR7同样采用PAM3信号编码机制，拥有专门的低功耗设计，不知道它是否类似三星的四种低时钟状态。

GDDR7是给下一代游戏显卡所准备的，而AI HPC领域则需要HBM3E，海力士会在会议上展示他们最新的16层堆栈48GB HBM3E芯片，新的设计理论上能让单颗芯片速度达到1280GB/s，采用四颗HBM3E就能达到192GB容量和5.12TB/s的超高带宽。新的HBM3E采用全新的全功能TSV(硅通孔)设计和6相读书节队列选通方案，以实现硅通孔面积优化。

最后SK海力士还为移动设备带来了LPDDR5T内存，频率高达10533MHz，内存电压1.05V，如此高的数据速度得益于独家的寄生电容降低技术和电压偏移校准接收器技术，新的高频LPDDR5T内存能为智能手机、平板电脑和轻薄笔记本提供更好的性能。

上个月英伟达在投资者简报中放出了产品路线图，展示了2024年至2025年数据中心的规划，下一代Blackwell架构GPU的发布时间从2024年第四季度提前到2024年第二季度末，并计划在2025年发布后续的“X100”。据Business Korea报道，英伟达已经与SK海力士签订HBM3E优先供应协议，用于新一代B100计算卡。

虽然英伟达准备实现供应链多元化，美光和三星都向英伟达提供了HBM3E的样品，完成验证测试后就会正式签约，不过有业内人士预计，SK海力士仍然会率先取得HBM3E供应合同，并从中获得最大的供应份额。凭借与英伟达的交易，SK海力士在2023财年第四财季的营收有望时隔1年零3个月再次突破10万亿韩元。

明年英伟达即将推出的产品里，新增加的H200和B100分别会采用6个和8个HBM3E模块。随着英伟达产品线逐步向下一代产品过渡，HBM3E的使用量会增加，这也有利于SK海力士提升盈利能力。目前SK海力士以2025年为目标，积极开展HBM4的开发工作，以继续保持竞争优势。

SK海力士表示，其以量产HBM3的经验为基础，成功开发出全球最高性能的扩展版HBM3E，并凭借业界最大规模的HBM供应经验和量产成熟度，计划明年上半年开始将HBM3E投入量产。SK海力士希望通过HBM3，实现牵引AI技术革新的最高性能，持续在用于AI的存储器市场保持独一无二的地位。同时随着高附加值产品HBM的供应比重持续加大，加速SK海力士的业绩反弹。

据了解，SK海力士技术团队在HBM3E产品上采用了Advanced MR-MUF2最新技术，散热性能与上一代相比提高了10%。HBM3E还具备了向后兼容性，使用HBM3的客户无需修改其设计或结构也可以直接采用新产品。

根据businesskorea的报道，SK海力士收到NVIDIA要求提供HBM3E样品的请求，目前正准备发货，现在SK海力士的HBM3E还处于开发阶段，副总裁朴明秀在今年4月的第一季度财报电话会议上透露，SK海力士准备在今年下半年实现8Gbps HBM3E的产品打样，并在明年上半年进行量产，通常来说，产品开发完成后，样品会送给用户进行评估。

现在SK海力士在HBM市场上是要领先于三星的，根据TrendForce的数据，截止去年，SK海力士在全球HBM市场份额占了50%，而三星则占据40%。

去年6月，SK海力士率先量产了HBM3，占据了市场主导，并为NVIDIA的H100“Hopper”Tensor Core GPU供货，如果他们成功交付HBM3E的话，就可巩固他们在高性能AI市场上第一的地位，毕竟NVIDIA占据了全球AI高性能计算GPU份额的90%，这会进一步拉开他们与竞争对手三星的差距。