Marvell, AI 인프라 메모리 솔루션 포트폴리오 출시, Agentic AI 추론 병목 현상 겨냥

TechFlow 소식, 8 월 04 일, 데이터 인프라 반도체 거대 기업 Marvell Technology 는 AI 인프라를 위한 차세대 메모리 솔루션 포트폴리오를 출시했다고 발표했다. 이는 서버급 AI 스토리지, 랙급 CXL 메모리 확장 및 풀링, 다중 랙 광 인터커넥트 공유 메모리를 포괄하며, Agentic AI 추론 과정에서 점증하는 메모리 용량 및 대역폭 병목 현상을 해결하는 것을 목표로 한다. Marvell 은 AI 모델 규모 확대, 컨텍스트 윈도우 연장 및 KV Cache 수요 증가에 따라 전통적인 컴퓨팅과 메모리의 긴밀 결합 아키텍처가 AI 추론 효율성을 제한하고 있다고 밝혔다. 메모리 디스에그리게이션 (memory disaggregation) 을 통해 메모리 리소스가 컴퓨팅 리소스 확장과 더 독립적으로 확장될 수 있게 하여 GPU 활용률을 높이고 데이터 이동 지연을 줄일 수 있다.