当大模型还在云端疯狂堆显卡时,美光已经把目光投向了车轮上、机器人身上那颗必须实时做决策的芯片。物理 AI 时代,数据不再等你搬回来——内存必须主动贴上去。美光最新曝光的 EIM(Edge Inference Memory),正是一场围绕“垂直堆叠”的存储革命。
一、物理 AI 的内存困境:带宽追不上神经网络的胃口
过去两年,AI 的主战场毫无疑问在云端。训练 GPT 级别的模型需要数万张 GPU 协同,数据中心成了“吞电巨兽”。但 AI 的下一幕,正在从云端转向物理世界——自动驾驶汽车、人形机器人、AR/VR 头显,这些设备有一个共同的名字:物理 AI(Physical AI)。
物理 AI 与云端 AI 最大的区别在于:它必须在本地、实时地处理来自传感器洪流的数据。
一辆 L4 级自动驾驶汽车上,激光雷达、毫米波雷达、十几个摄像头每秒产生的原始数据可达数 GB。视觉 Transformer、占据栅格网络(Occupancy Network)、BEV 感知模型的推理需求,让车载 SoC 的算力逐年翻倍。但算力从来不是孤立工作的——每一个 TOPS 都需要内存带宽来喂养。
行业里有一个残酷的经验法则:算力每提升一倍,对内存带宽的需求大约也要翻倍。然而传统内存架构的演进速度远远跟不上。这就是所谓“内存墙”(Memory Wall)问题——处理器与内存之间那条 DDR 总线,正在成为物理 AI 最深的瓶颈。
更麻烦的是,边缘设备对功耗和延迟极度敏感:
- 延迟:自动驾驶系统要求端到端响应时间在几十毫秒以内,任何数据搬运的额外延迟都可能致命;
- 功耗:机器人和头显靠电池供电,内存数据搬运的能耗往往高于计算本身;
- 空间:车载和机载设备寸土寸金,不可能塞进 HBM 那样昂贵的方案。
美光给出的答案,是 EIM——边缘推理内存。
二、EIM 是什么:把内存“叠”到逻辑芯片头顶上
美光对 EIM 的定位非常明确:面向物理 AI 的专用存储芯片,瞄准自动驾驶、人形机器人、AR/VR 三大市场。
其核心技术思路可以概括为四个字:垂直堆叠。EIM 将低功耗内存直接堆叠在逻辑芯片(SoC/ASIC)之上,通过混合键合(Hybrid Bonding)或类似 3D 堆叠工艺实现超短互连。
我们画一张示意图来理解 EIM 与传统架构的区别:
<svg viewBox="0 0 800 400" xmlns="http://www.w3.org/2000/svg" font-family="PingFang SC, Microsoft YaHei, Noto Sans SC, sans-serif">
<!-- 传统架构 -->
<rect x="40" y="40" width="320" height="40" rx="8" fill="#6366f1"/>
<text x="200" y="66" text-anchor="middle" fill="#fff" font-size="18">SoC / AI 加速器</text>
<rect x="40" y="90" width="320" height="8" fill="#94a3b8"/>
<text x="200" y="118" text-anchor="middle" fill="#475569" font-size="14">PCB 走线 + DDR 接口(长距离)</text>
<rect x="40" y="130" width="320" height="40" rx="8" fill="#8b5cf6"/>
<text x="200" y="156" text-anchor="middle" fill="#fff" font-size="18">LPDDR 内存(同板分立)</text>
<text x="200" y="210" text-anchor="middle" fill="#475569" font-size="16" font-weight="bold">传统架构:数据搬运远、延迟高、功耗大</text>
<!-- 箭头数据流 -->
<path d="M120 130 L120 95 L120 85" stroke="#6366f1" stroke-width="3" marker-end="url(#a1)"/>
<defs><marker id="a1" markerWidth="8" markerHeight="8" refX="4" refY="4" orient="auto"><path d="M0,0 L8,4 L0,8" fill="#6366f1"/></marker></defs>
<!-- EIM 架构 -->
<rect x="440" y="40" width="320" height="40" rx="8" fill="#8b5cf6"/>
<text x="600" y="66" text-anchor="middle" fill="#fff" font-size="18">EIM 低功耗内存(上层)</text>
<rect x="440" y="80" width="320" height="12" fill="#c4b5fd"/>
<text x="600" y="110" text-anchor="middle" fill="#7c3aed" font-size="14" font-weight="bold">混合键合超短互连(μm 级)</text>
<rect x="440" y="118" width="320" height="40" rx="8" fill="#6366f1"/>
<text x="600" y="144" text-anchor="middle" fill="#fff" font-size="18">逻辑芯片(下层)</text>
<text x="600" y="210" text-anchor="middle" fill="#6d28d9" font-size="16" font-weight="bold">EIM:垂直堆叠,带宽↑ 延迟↓ 功耗↓</text>
<!-- 底部标注 -->
<rect x="100" y="280" width="600" height="80" rx="10" fill="#f5f3ff" stroke="#8b5cf6"/>
<text x="400" y="312" text-anchor="middle" fill="#4c1d95" font-size="15">核心收益:互连距离从厘米级缩短到微米级</text>
<text x="400" y="340" text-anchor="middle" fill="#4c1d95" font-size="15">显著降低数据处理延迟,大幅提高有效内存带宽</text>
</svg>
三个关键收益
1. 延迟大幅降低。 传统 LPDDR 与 SoC 之间的信号要走几厘米的 PCB 走线,而 3D 垂直堆叠后,互连距离缩短到微米级。对于实时性要求苛刻的机器人控制回路和自动驾驶规划模块,这意味着确定性的低延迟响应。 2. 带宽显著提高。 超短互连意味着可以布置密度远超传统总线的数据通道,单位功耗下的有效带宽大幅提升——这正是推理工作负载最渴求的资源。 3. 功耗与面积双降。 数据搬运的距离越短,能耗越低。DRAM 访存的能耗中,很大一部分消耗在接口驱动和传输线上;堆叠架构直接砍掉了这块开销。同时,内存与逻辑合为一体,也省下了 PCB 上的宝贵面积。三、为什么是现在?物理 AI 的产业窗口正在打开
美光此番押注 EIM,本质上是对“物理 AI 会复制大模型增长曲线”的一次豪赌。
具身智能(Embodied AI)近年来成为最热的赛道之一。特斯拉 Optimus、Figure、宇树等人形机器人进入量产前夜;端到端自动驾驶方案大规模落地;Apple Vision Pro 带火空间计算。这些设备上的 AI 模型越来越大,从 CNN 走向 Transformer 和 VLA(Vision-Language-Action)大模型,本地推理的内存需求呈指数级增长。
但边缘侧不可能用 HBM——HBM 虽然带宽惊人,但成本高、良率低、功耗大,只适合数据中心。EIM 的巧妙之处在于,它用“堆叠”这一 HBM 同源的技术思路,但选择了低功耗内存介质,为边缘场景量身定制。
值得一提的是,EIM 并非孤立的技术方向。行业整体正朝“近存计算/存算一体”演进:
- 三星、SK 海力士均在推进逻辑芯片与内存的混合键合研究;
- 台积电的 SoIC 3D 堆叠平台已在为高算力芯片服务;
- 学术界的 3D 堆叠 SRAM/DRAM 方案论文层出不穷。
美光的差异化在于明确定位物理 AI 推理场景,并以存储大厂的身份亲自下场做“内存 + 逻辑”的系统级产品,这本身就是商业模式的一次升级——从卖标准件,到卖为特定工作负载优化的解决方案。
四、冷思考:EIM 离量产还有多远?
当然,作为前沿技术,EIM 的落地仍面临几道坎:
1. 散热。内存叠在发热的 SoC 头顶,热量必须穿过内存层散出,DRAM 对温度敏感,热设计是核心挑战;
2. 良率与成本。混合键合工艺对晶圆级精度要求极高,Known-Good-Die 问题(逻辑芯片坏了,堆叠的内存也一起报废)会推高成本;
3. 生态适配。编译器、驱动、内存调度软件需要针对 3D 堆叠架构做深度优化,产业链协同需要时间。
不过,回顾 HBM 的历史——从最初被认为“太贵、没人用”,到如今成为 AI 芯片标配——3D 堆叠存储在需求爆发面前的商业化速度,往往超出预期。
结语
存储行业的竞争逻辑正在改变:当制程微缩逼近物理极限,架构创新(堆叠、近存、存算一体)成了新的增长引擎。美光的 EIM 选择在物理 AI 早起跑,赌的是三年后满街跑的机器人和自动驾驶汽车,每一台都需要一颗“内存长在芯片上”的推理大脑。
如果这个判断成立,EIM 可能不只是多一个产品线,而是美光从“卖 DRAM”迈向“卖 AI 系统能力”的转折点。存储巨头的下一场战争,已经悄然打响。


