Marvell представляет портфель решений памяти для инфраструктуры ИИ, нацеленный на узкие места инференса агентного ИИ

Сообщение TechFlow, 4 августа гигант полупроводниковой отрасли в сфере инфраструктуры данных Marvell Technology объявила о запуске нового поколения решений для памяти, ориентированных на инфраструктуру AI, охватывающих серверное хранилище для AI, расширение и пулинг памяти CXL на уровне стойки, а также общую память с оптической взаимосвязью между несколькими стойками, направленных на решение растущих проблем с емкостью памяти и пропускной способностью в процессе вывода Agentic AI. В Marvell заявили, что с увеличением масштаба моделей AI, расширением контекстного окна и ростом спроса на KV Cache традиционная архитектура с тесной связью вычислений и памяти ограничивает эффективность вывода AI. Благодаря разъединению памяти (memory disaggregation), ресурсы памяти могут масштабироваться более независимо от вычислительных ресурсов, повышая утилизацию GPU и снижая задержку при перемещении данных.