半导体行业中，存储器始终扮演着举足轻重的角色，特别是DRAM（动态随机存取存储器）和NAND（闪存）。近年来，随着人工智能（AI）技术的蓬勃发展，尤其是生成式AI如ChatGPT的广泛应用，存储器市场迎来了新的增长契机，新型存储技术如HBM和QLC SSD等应运而生。
在AI技术的推动下，非结构化数据如图像、视频、音频等呈现爆炸式增长，这对存储提出了新的挑战。据IDC预测，到2028年，全球将产生394ZB的数据，其中AIGC领域的数据增长尤为显著，AI图像和视频生成的数据量将激增167倍。存储逐渐成为制约AI发展的关键因素之一。
为了应对这一挑战，业界开始关注存内计算技术，但商业化进程一直缓慢。近日，三星电子与SK海力士宣布合作，致力于LPDDR6-PIM内存产品的标准化，旨在加速AI专用低功耗存储器的标准化进程。这一合作有望推动存内计算技术的商业化应用。
在AI时代，算法、数据和算力是三大核心要素，而芯片作为算力的基石，正面临冯·诺依曼架构的瓶颈。传统的冯·诺依曼架构中，计算与内存分离，导致数据在读写过程中产生大量开销，限制了系统性能的提升。随着AI等高性能需求的爆发，这一瓶颈愈发凸显。
为了突破这一瓶颈，学术界和产业界开始探索后摩尔时代的新一代芯片技术，其中存算一体芯片备受瞩目。存算一体芯片通过存储与计算的融合一体化，从根源上解决了冯·诺依曼架构的问题。这种芯片能够大幅降低数据搬运开销，突破“存储墙”与“功耗墙”，并在相对落后的工艺节点下实现高性能，缓解工艺微缩压力。
存算一体技术有三种主流路径：近存计算（PNM）、存内处理（PIM）和存内计算（CIM）。近存计算通过减少数据移动和提高缓存效率，适用于大规模并行处理和优化内存带宽的应用。存内处理则专注于数据密集型应用和能效优化，适用于快速数据处理和降低能耗的场景。存内计算则更侧重于特定领域的高并行性计算和定制硬件优化。
近年来，近存计算技术相对成熟，已经实现了规模化量产。以AMD、Intel、三星、海力士等企业为代表的半导体龙头企业，纷纷发布了基于高带宽内存技术(HBM)和2.5D/3D封装技术的近存计算芯片。然而，近存计算本质上仍然是存算分离的冯·诺依曼架构。
相比之下，存内计算技术更加前沿。从2021年开始，三星、海力士、TSMC等国际巨头以及Mythic等公司开始试产存内计算芯片。阿里巴巴达摩院也成功研发了全球首款基于DRAM的3D键合堆叠存算一体AI芯片，在特定AI场景中性能提升显著。
三星在存内计算领域尤为活跃。他们不仅展示了基于HBM2-PIM技术的存内计算芯片，还在AMD Instinct MI100计算卡中加入了HBM-PIM芯片，构建了一个大型计算系统。该系统在使用训练语言模型算法时，性能大幅提升，功耗显著降低。三星还在Hot Chips 2023会议上公布了HBM-PIM和LPDDR-PIM的最新研究成果。
SK海力士也不甘落后，他们开发出了首款基于PIM技术的GDDR6-AiM样本。与传统DRAM相比，GDDR6-AiM在特定计算环境中演算速度最高可提升16倍，功耗降低80%。TSMC也展示了在多种器件上实现存内计算的探索成果。
然而，尽管各家企业都在积极布局存内计算技术，但商业化进程一直缓慢。其中一个重要原因是各家企业根据各自的标准开发产品，导致概念和规范存在差异，行业难以采用通用标准。为了推动存内计算技术的商业化应用，三星电子和SK海力士正在合作推动LPDDR6-PIM内存的标准化。
标准化可以提升兼容性和互操作性，促进技术的广泛应用和普及。同时，标准化还有助于降低成本，减少研发成本和时间，促进规模经济。随着标准化的推进，存内计算技术的商业化应用有望加快步伐。
国内企业也在存内计算领域取得了显著进展。知存科技推出了首款量产存内计算SOC芯片WTM2101，该芯片采用模拟存算计算范式，在40nm成熟工艺下实现了高算力和低功耗，并已商用至智能可穿戴设备中。后摩智能也推出了鸿途H30芯片，采用数字存算计算范式，实现了更高的算力和功耗。
随着技术的不断演进和市场需求的不断变化，存内计算技术的商业化应用前景广阔。当各种条件成熟之际，存算一体芯片有望在半导体行业中大放异彩。
