苹果Mac mini和Mac Studio把内存带宽拉到了1.2TB/s，小米玄戒O100冲上1.22TB/s，英伟达RTX 5090直接逼近1.8TB/s。算力不再是唯一看点，内存带宽成了AI硬件最扎眼的战场。背后那堵“内存墙”，正被整个行业撬得摇摇晃晃。
容量和带宽，别再傻傻分不清
很多人觉得内存越大越强，但在AI场景里，带宽同样致命。容量决定你能装下多大的模型，带宽决定参数每秒能喂给计算核心多少口粮。大模型每生成一个token，都得把全部参数完整过一遍。一个70B参数模型用FP16存，光参数就有140GB；如果内存带宽只有1.2TB/s，理论上每秒顶多吐8个token。带宽不够，芯片算力再猛也只能干瞪眼，这就是典型的内存受限状态。
三款硬核新品，把带宽卷出新高度
最近这波新品，数字一个比一个唬人。
- 苹果Mac mini和Mac Studio统一内存带宽最高做到1.2TB/s。Mac mini被官方称为“全天候运行AI Agent的生产力工具”，Mac Studio更是能选到512GB统一内存。对本地跑模型的人来说，这等于把“大水箱”和“粗水管”焊在了一起。
- 小米的端侧AI加速芯片玄戒O100，内存带宽直接干到1.22TB/s，还用了晶圆级垂直堆叠工艺，把两层DRAM晶圆压在NPU计算晶圆上头。
- 英伟达RTX 5090也没省力气，512-bit位宽配GDDR7显存，带宽冲到接近1.8TB/s。这块消费级显卡的带宽，已经比不少服务器都猛。
作为参照，普通DDR5双通道内存带宽大概在100GB/s上下，PCIe 5.0 x16理论带宽也只有64GB/s。这些新品动辄上TB/s，确实是另一个物种。
“内存墙”从1995年就立起来了
内存带宽被死磕，不是厂商闲得慌。1995年，计算机科学家就发过论文《Hitting the Memory Wall》，提出内存墙概念：处理器算力涨得飞快，内存带宽却跟不上，结果处理器大量时间在等数据。三十年过去，这堵墙没倒，反而被大模型顶得更结实了。
AI训练和推理都要疯狂搬运权重，内存子系统成了瓶颈。所以你会看到，从GPU到手机SoC，厂商都在带宽参数上搞军备竞赛。
存储巨头转向企业级，消费级内存先遭殃
AI数据中心对HBM和高规格服务器DRAM的需求太猛，三星、SK海力士、美光都把先进产能往企业级产品倾斜。消费级内存供给变少，合约价一路走高。美光甚至宣布逐步退出消费级内存业务。普通用户攒机时可能已经发现，DDR5价格不再友好，这就是蝴蝶效应。
拆墙的技术路线，各有各的狠活
业界拆内存墙，基本是四条路一起走。
- 物理拓宽：GDDR7、HBM这类高速显存把位宽和频率做上去，数据通道更宽。
- 3D堆叠：把存储芯片直接叠在计算芯片上方，缩短物理距离。小米玄戒O100的晶圆级垂直堆叠，就是典型代表。
- 统一内存与高速互联：苹果用统一内存池，雷雳5高速互联减少数据搬运，让CPU/GPU共享同一份数据。
- 存内计算/PIM：把计算挪进存储芯片里，让数据不出门就能被处理，三星HBM-PIM和SK海力士AiM都在探索。
上云也一样要算内存账
自己组机器打架是硬件党的浪漫，对大部分团队来说，上云反而更灵活。云服务器ECS的内存规格会直接决定推理吞吐，选配置时别只看CPU核数。找阿里云代理商问一圈，配置和价格会清楚很多；易枫顺 - 阿里云官方旗舰级代理商就能把内存带宽、实例规格和预算一起盘清楚。赶上阿里云优惠，再叠一张阿里云代金券，确实能省下不少成本。如果不想被内存墙卡住脖子，又不想动辄几十万砸硬件，这算是一条软硬兼施的路。
FAQ
Q: 内存带宽和显存带宽是一回事吗？
A: 不完全一样。显存带宽专门指GPU或显卡上显存的数据传输速度，内存带宽更宽泛，涵盖系统内存、统一内存等。现在很多AI芯片把内存和显存做进同一个池子，界线越来越模糊。
Q: 内存墙会因为新工艺消失吗？
A: 不会短期消失。3D堆叠、PIM这些技术能缓解瓶颈，但模型参数的增长速度同样惊人。只要计算核心还在等数据，内存墙就会换个姿势存在。
Q: 普通用户买电脑也要看内存带宽吗？
A: 办公、打游戏影响不大，但如果你想本地跑大模型或做AI创作，带宽就很重要。建议优先看统一内存带宽或显存带宽，别只盯着内存容量。
关于易枫顺
深圳市易枫顺网络科技有限公司是阿里云官方旗舰级代理商。提供云服务器ECS、云数据库RDS、对象存储OSS等阿里云全系产品官方特惠折扣与代金券申请，以及多云成本优化、企业上云一站式服务。客服热线：19520841949 - 易枫顺
来源：爱范儿
