3D X-AI搜索

超能网 >>
搜索

搜索结果

NEO Semiconductor公布3D X-AI芯片技术，以取代目前用于AI GPU的HBM

吕嘉俭发布于2024-08-14 11:27 / 关键字： 3D X-AI

近日，NEO Semiconductor公布了3D X-AI芯片技术，以取代目前用于AI GPU的HBM。这款3D DRAM内置AI处理功能，可以处理和生成不需要数学计算的输出。当大量数据在内存和处理器之间传输时，可以缓解数据总线的瓶颈问题，提高了AI性能和效率。

NEO Semiconductor创始人兼首席执行官Andy Hsu表示：“由于架构和技术效率低下，目前的AI芯片浪费了大量的性能和功率。目前的AI芯片架构将数据存储在HBM中，并依赖GPU来执行所有计算。这种分离的数据存储和数据处理体系结构，使得数据总线成为不可避免的性能瓶颈。通过数据总线传输大量的数据会导致性能受限，而且功耗非常高。3D X-AI可以在每个HBM芯片上进行AI处理。这可以大大减少HBM和GPU之间的数据传输，从而提高性能并显着降低功耗。”
3D X-AI芯片的底部有一个神经元电路层，用于处理存储在同一芯片上的300个存储层中的数据。该3D DRAM中有8000个神经路电路，在存储器中进行AI处理，相比传统方案性能提高了100倍。其容量为128GB，每个芯片可以支持10TB/s的AI处理速度。如果将12个芯片堆叠在一个HBM封装堆栈中，可以实现1.5TB以上的存储容量以及120TB/s的处理吞吐量。
按照NEO Semiconductor说法，采用3D X-AI技术的芯片在存储密度上是当前HBM产品的八倍，更重要的是，通过减少高能耗GPU需要处理的数据量，使得降低99%的功耗。

分享
| 收藏 | 评论(1)