超微电脑（SMCI）股价在沉重抛压下暴跌10.03%，至26.63美元，跌幅2.97美元。此次下跌发生之际，该公司宣布推出通过与IBM和英伟达合作开发的全新AI存储方案，该技术旨在加速AI推理、提升GPU效率，并支持不断扩展的企业工作负载。

超微携手IBM与英伟达推出AI存储方案

超微推出了全新的KV缓存存储平台，整合了三大基础设施提供商的技术。该系统集成超微Petascale全闪存服务器、IBM Storage Scale软件和NVIDIA Dynamo，基于AMD EPYC 9005处理器构建，并采用NVIDIA Spectrum-X以太网网络。

此次合作瞄准企业应用和云基础设施中对更快AI推理日益增长的需求。现代AI系统处理更大的数据集和更长的对话，对现有内存资源施加更大压力，企业需要能够在不降低处理效率的情况下应对复杂工作负载的存储系统。KV缓存卸载正是针对这一瓶颈：它将可复用的模型上下文从容量有限的GPU内存转移到共享闪存存储，使缓存容量成为可随需求扩展的资源。

超微设计该平台旨在将KV缓存容量扩展到本地GPU内存之外。这种方式使AI系统能够复用先前处理过的信息，而无需重复计算。共享存储还能帮助组织在保持一致应用性能的同时扩展推理容量。

KV缓存技术实现最高56倍的首token响应加速

超微与英伟达使用包含1200亿参数的大语言模型对这项技术进行了测试。测试记录显示，在130,000 token提示下，首token响应时间最高提升56倍，证明了系统复用缓存信息时的显著改进。首token响应时间衡量的是模型开始产生输出前的等待时间，当上下文未被缓存时，这一延迟会随提示长度增加而增长。

测试期间，输入长度从30,000 token增加到130,000 token，使用缓存时响应准备时间仅增加0.377秒，而不使用缓存时则需要29.55秒。这些结果凸显了该技术对处理大量信息的应用的潜在收益。

该平台还通过减少不必要的计算和处理延迟来支持更高的GPU利用率。其共享架构使多个GPU集群能够高效访问存储的上下文，两家公司在高负载和网络流量竞争条件下对系统进行了验证。对于运行大量并发推理工作负载的运营者而言，这种组合将存储架构与GPU生产力和服务能力直接挂钩。

超微瞄准企业AI基础设施增长

随着企业增加在AI部署和推理服务上的支出，此次公告扩展了超微的基础设施产品组合。企业应用日益依赖编码助手、自动化工作流和处理长篇文档的系统，这些应用在强大计算资源之外还需要可靠的存储容量。

超微还为该新平台提供工厂机架集成和部署服务。据该公司称，这些服务可将部署周期从数周缩短至数天。IBM提供存储管理能力，英伟达则提供推理软件和网络技术。

尽管股价大幅下跌，此次合作仍巩固了超微在企业AI基础设施领域的地位。该公司表示，其最新方案解决了高要求应用中的计算效率、存储可扩展性和系统可靠性问题。不过，公告未包含财务预测或来自新平台的已确认营收贡献，客户采用情况和平台的商业贡献仍有待未来公司披露中观察。

来源：Blockonomi