计算机处理器和存储器之间那道看不见的“墙”,正被一种创新的三维堆叠技术悄然拆除。
桌上笔记本电脑运行着复杂的人工智能模型,屏幕上却突然弹出“内存不足”的提示——这尴尬瞬间背后,是困扰计算领域多年的“存储墙”难题。

处理器和存储器之间的数据交换速度,已经严重滞后于处理器自身计算能力的提升-6。而一种名为SeDRAM的创新存储技术,正在改变这一现状-2-9。

如今的计算机系统,尤其是那些运行AI大模型和高性能计算的设备,面临着一种看似矛盾的局面:处理器越来越快,但整体性能却无法完全释放。
问题的核心在于数据搬运。计算机、手机等设备的处理器和存储器之间有着大量的数据交换,就像两个近邻城市之间有着大量的车辆往来-6。
道路条件限制了通勤效率,没有高速公路,或需要通过高速-国道-省道等组合才能通勤-6。处理器和存储器之间的大量数据交换也面临着类似的严重“通勤问题”-6。
技术人员一直在为解决这个问题而努力-6。传统的解决方案如HBM(高带宽内存)或DDR内存方案,仍然受到物理连接限制,难以满足AI时代对内存带宽的爆炸性需求。
SeDRAM技术,也就是异质集成嵌入式DRAM,提供了一种全新的解决方案-2。它采用了三维堆叠的方式,将存储单元直接堆叠在计算单元之上。
我的天呐,这技术简直是把存储器和处理器从“分居”变成了“同居”!传统架构中,存储器和处理器是分开的,需要通过各种接口和总线通信。
而SeDRAM技术通过异质集成(Hybrid Bonding)工艺将DRAM存储阵列晶圆和逻辑晶圆做3D堆叠,实现金属层直接互连-9。
这就好比在两座城市之间修建了宽阔的直连高速,有效解决了数据交换时的“通勤问题”-6。
这项技术的核心在于创新的连接方式。相比传统HBM或DDR内存方案去掉了PHY-PHY互连结构,SeDRAM实现了两者之间的超大带宽、超低功耗和低延迟的数据互连-9。
西安紫光国芯通过代工合作的方式使用武汉新芯晶圆堆叠技术3DLink™设计SeDRAM平台,将DRAM晶圆和其他不同工艺节点的逻辑晶圆利用Cu-Cu(铜-铜)互连的方式直接键合-10。
说实话,这种设计真是巧妙!它突破了传统封装级Micro-bump互连架构的限制,通过多片晶圆直接键合,达到高密度互连-10。
结果就是从逻辑电路到存储阵列之间每Gbit高达34GB/s的带宽和0.88pJ/bit的能效-10。基于SeDRAM平台的两款SoC产品已经在武汉新芯大规模量产-10。
SeDRAM技术的性能数据令人印象深刻。根据官方信息,这项技术可为算力芯片提供每秒数十TB的内存访问带宽,同时容量最高可达数十GB-9。
与传统嵌入式存储方案相比,SeDRAM优势明显。它采用纳米级互连技术将DRAM晶圆和不同工艺晶圆在垂直方向上互联,实现对存储器的直接访问-2。
通过定制的DRAM设计支持多种容量(64MB、128MB、256MB到8GB)和多种带宽-2。同时为不同的工艺提供标准化接口和测试IP,使SoC能够方便简单地集成-2。
这种性能表现不是纸上谈兵。过去5年里,西安紫光国芯的SeDRAM技术一直处于行业领先水平,在大带宽、高算力等领域表现出显著的竞争优势-6。
SeDRAM技术已经在多个领域展现出了应用潜力。目前最新的第三代SeDRAM®技术可提供每秒数十TB的访存带宽和数十GB的内存容量,是专门为AI、HPC等应用场景设计打造的高性能存储方案-9。
值得重点关注的是,作为一种超大带宽、超低功耗的大容量片内存储解决方案,SeDRAM技术在人工智能大模型以及高性能计算芯片等应用领域有着独特的技术及性能优势-6。
未来几年,预计将会有多款相关产品进入市场-6。围绕该技术成果,西安紫光国芯已布局超百项相关专利,实现了产品化、规模化应用-6。
多款采用西安紫光国芯SeDRAM技术的芯片产品实现大规模量产,累计出货超百万颗,取得了良好的市场反响,创造了超十亿的经济效益-6。
在2024年3月的集成电路科学技术大会(CSTIC 2024)上,西安紫光国芯展示了SeDRAM技术的最新进展-9。数十款搭载西安紫光国芯SeDRAM®技术的芯片产品已完成研发或实现量产出货,其应用落地案例数量在行业内遥遥领先-9。
这种技术正在越来越容易、越来越灵活地被集成到各类不同的芯片设计中-9。凭借多年来在数十个3D芯片上成功的工程实践经验,西安紫光国芯能够最大程度地帮助客户快速实现设计收敛,控制产品研发风险-9。
业界权威专家组成的成果评价委员会对该技术的先进性和创新性给予了高度评价,并一致认为该技术“整体达到国际先进水平,为国产化高性能计算芯片的发展提供了新思路”-6。
在西安市高新区,西安紫光国芯的研发实验室里,工程师们正在测试新一代SeDRAM芯片的性能数据。屏幕上滚动的数字显示,内存访问带宽已经突破每秒数十TB大关-9。
这项起步于2013年的技术研发,经历了2019年的首次产品化成功,如今已成为中国突破“存储墙”困境的关键技术之一-9。
随着人工智能计算需求的持续爆炸式增长,处理器与存储器之间的那道“墙”只会越来越高。而像SeDRAM这样的三维堆叠存储技术,或许将成为推开这堵墙的第一把利器。
网友问答网友“芯片爱好者”提问:SeDRAM技术和我们平时在电脑里加的DDR内存条有什么本质区别?
这位朋友问到了点子上!SeDRAM和传统DDR内存条的区别可大了去啦,就像智能手机和传统功能手机的区别一样明显。
先说物理结构,DDR内存条是独立的模块,需要通过主板上的插槽和接口与处理器连接,中间有一大堆电路和协议转换。而SeDRAM是直接通过三维堆叠技术和处理器“贴”在一起的,用专业的说法叫“异质集成”-2。
它采用纳米级互连技术将DRAM晶圆和不同工艺晶圆在垂直方向上互联,实现对存储器的直接访问-2。这种紧密程度带来的最大好处就是带宽大增、延迟大降!
再说性能表现,传统DDR5内存的带宽大概在几十GB/s级别,而SeDRAM能提供每秒数十TB的内存访问带宽-9。这个差距是几百倍甚至上千倍!
而且功耗也大幅降低,SeDRAM实现了从逻辑电路到存储阵列之间每Gbit高达34GB/s的带宽和0.88pJ/bit的能效-10。这意味着同样处理一批数据,SeDRAM耗电更少,发热也更低。
应用场景也不同,DDR内存条是通用解决方案,什么电脑都能用。而SeDRAM更像是定制化方案,专门为AI、高性能计算这些对内存带宽有极端需求的场景设计-9。
它已经成功应用在多款芯片产品中,累计出货超百万颗-6。所以啊,这两者虽然都是内存技术,但设计和应用思路完全不是一个层级的。
网友“科技观察者”提问:现在有哪些实际产品使用了SeDRAM技术?效果怎么样?
嘿,这个问题问得具体!虽然厂家没有公布全部客户名单,但从公开信息看,SeDRAM技术已经有不少落地应用了。
根据西安紫光国芯披露的信息,多款采用该公司SeDRAM技术的芯片产品已经实现大规模量产,累计出货超百万颗-6。这个数量级说明技术已经相当成熟稳定了。
而且这些产品取得了良好的市场反响,创造了超十亿的经济效益-6。没有真实可靠的产品表现,是不可能达到这样的市场成绩的。
从技术合作角度看,基于SeDRAM平台的两款SoC产品已经在武汉新芯大规模量产-10。这说明SeDRAM不只是一个实验室技术,而是已经建立了完整的生产制造链条。
在2024年的集成电路科学技术大会上,西安紫光国芯透露SeDRAM技术已经被用在了一些极致高性能算力芯片的设计中-9。虽然没点名具体是哪些芯片,但“极致高性能算力芯片”这个描述,很可能是面向AI训练、科学计算等高端应用。
从效果反馈来看,采用SeDRAM技术的产品最大的优势就是解决了“存储墙”问题。传统架构中,处理器常常要等待内存输送数据,而现在数据就在“身边”,随时可取。
这种架构显著提高了访存带宽,降低了单位比特能耗,使得访存效率获得大幅提升-6。对于需要处理海量数据的AI应用来说,这种提升直接转化为更快的训练速度和更低的运营成本。
网友“未来趋势”提问:SeDRAM技术未来会如何发展?会不会完全取代现在的内存技术?
嚯,这个问题看得远!关于SeDRAM的未来发展,可以从几个方面来看,但要说到“完全取代”,我觉得短期内不太可能,更可能是多种技术并存,各司其职。
从技术演进方向看,SeDRAM肯定会继续朝着更高带宽、更大容量、更低功耗的方向发展。目前的第三代SeDRAM技术已能提供每秒数十TB的访存带宽和数十GB的内存容量-9。
未来随着工艺进步和设计优化,这些数字还会进一步提升。西安紫光国芯已经围绕该技术布局了超百项相关专利-6,这说明他们有长期的技术路线图。
从应用场景扩展看,SeDRAM最初主要面向超算、大数据分析、人工智能、智能物联网等高端领域-2。但随着技术成熟和成本下降,它有可能会逐渐向更多应用场景渗透。
不过,要说完全取代现有内存技术,我认为不太现实。传统DDR内存有自己的优势,比如标准化程度高、兼容性好、成本相对较低,在普通消费电子领域仍有很大市场。
更可能的情况是形成分层存储架构:SeDRAM作为高速缓存,直接与处理器堆叠;DDR内存作为主内存;再加上SSD等作为外部存储。不同层级承担不同任务,协同工作。
从产业生态看,SeDRAM技术需要芯片设计、制造、封装测试全产业链的配合。西安紫光国芯与武汉新芯的合作模式-10,可能会成为这类技术推广的典范。
未来可能会有更多厂商加入这个生态,推动3D堆叠存储技术的标准化和普及。但这个过程需要时间,也需要平衡性能、成本、可靠性等多方面因素。
总的来说,SeDRAM代表了一种重要的技术方向,特别是在AI和高性能计算领域,它的价值会越来越明显。但它不会一枝独秀,而是会与其他存储技术共同发展,满足不同场景的需求。