随着 LLM 向 1M 上下文演进，KV cache（键值缓存）已成为制约推理服务效率的核心瓶颈。自回归生成的特性使得模型必须存储历史 token 的 key-value 状态（即 KV cache）以避免重复计算，但 KV cache ...

这篇三维视角的综述给行业指了明路，英伟达、智谱AI的案例也证明这条路走得通。说句实在话，未来AI的竞争，拼的不是谁的模型参数大，而是谁能把每一寸显存、每一分算力都用在刀刃上。既要跑得够快、成本够低，又要守住可信的底线，这样LLM才能真正从实验室走出来 ...

2026年1月16日，随着3DV-Cache技术通过堆叠L3缓存持续在游戏处理器领域占据优势，AMD继续推进其缓存架构的演进。近期，该公司公开一项名为均衡延迟堆叠缓存的技术研究，专利编号为US20260003794A1，展示了其在下一代 ...

大家好，今天给大家分享一篇关于 Cache 的硬核的技术文，基本上关于Cache的所有知识点都可以在这篇文章里看到。 关于 Cache 这方面内容图比较多，不想自己画了，所以图都来自《Computer Architecture : A Quantitative Approach》。 这是一本体系架构方面的神书，推荐大家 ...

2026年1月15日，北京 —— 继英伟达CEO黄仁勋在CES 2026发布革命性“推理上下文内存存储平台”后，本土高性能存储厂商绿算技术（ForinnBase） 今日宣布，其旗舰产品GP7000系列全闪存储平台已通过英伟达适配，成为全球首批、也是唯一支持G3级KV Cache分层存储的国产化解决方案，为下一代AI工厂建设提供了关键的基础设施支撑。

2025年3月17日，华硕发布一项名为AI Cache Boost的技术，可明显提升AMD Ryzen 9000系列处理器的AI性能。 该技术仅适用于其推出的AMD 800系列主板，必须刷入最新的固件，处理器必须是Ryzen 9000系列，Ryzen 9000 3D-Vache系列处理器最佳。 在满足上述要求的情况下，用户可以 ...

新酷产品第一时间免费试玩，还有众多优质达人分享独到生活经验，快来新浪众测，体验各领域最前沿、最有趣、最好玩的产品吧~！下载客户端还能获得专享福利哦！ 原标题：AMD 详解 Infinity Cache 高速缓存技术，带宽是显存的 3.25 倍 IT之家 10 月 30 日消息 AMD ...

baron (网名:代码改变世界ctw)，九年手机安全/SOC底层安全开发经验。擅长trustzone/tee安全产品的设计和开发 做为一名底层安全 ...

— 第三代AMD EPYC家族最新成员，拥有768MB的L3缓存，具备平台兼容性以及现代安全功能 — — 用于技术计算工作负载的EPYC处理器随着主要OEM、ODM、SI、ISV以及云解决方案共同蓬勃发展— 2022年3月21日，加利福尼亚州圣克拉拉讯 – AMD（超威，纳斯达克股票代码：AMD ...

IT之家 3 月 21 日消息，华硕本月 17 日宣布为 AMD 锐龙 9000 系列处理器 + 华硕 AMD 800 系主板的最新平台推出一项名为 "AI Cache Boost" 的 BIOS 级优化功能。 AI Cache Boost 启用后华硕主板将执行包括将 FCLK （IT之家注：即 Infinity Fabric 互联运行频率）超频至 2100MHz 在内的一 ...