OpenAI 연구원이 AMD 와 Cerebras 의 공동 AI 추론 솔루션을 칭찬하며, 와트당 성능이 5 배 향상될 것으로 예상했다.
7x24h 속보
OpenAI 연구원이 AMD 와 Cerebras 의 공동 AI 추론 솔루션을 칭찬하며, 와트당 성능이 5 배 향상될 것으로 예상했다.
OpenAI 연구원 Jeffrey Wang 은 AMD 와 Cerebras 가 공동 개발한 AI 추론 솔루션의 성능을「믿을 수 없다」고 평가했다. 이 솔루션은 AMD Helios 랙과 Cerebras 웨이퍼 스케일 엔진을 통합해 프롬프트와 token 생성 단계를 각각 처리하며, 와트당 초당 token 수를 5 배 향상시킬 것으로 추정된다. 이 기술 경로는 이종 컴퓨팅을 통해 추론 성능을 최적화하며, 주요 AI 실험실에서 추론 비용 절감에 지속적으로 관심을 보이고 있음을 반영한다.
TechFlow 소식, 7 월 29 일, OpenAI 연구원 Jeffrey Wang 은 AMD 와 Cerebras 가 공동 개발한 AI 추론 솔루션의 성능이「믿을 수 없을 정도」라고 평가했다. 이 솔루션은 AMD Helios 랙과 Cerebras 웨이퍼 스케일 엔진을 통합하여 프롬프트와 token 생성 단계를 각각 처리하며, 와트당 초당 token 수를 5 배 향상시킬 것으로 추정된다. 이 기술 경로는 이종 컴퓨팅을 통해 추론 성능을 최적화하며, 선두 AI 연구소들의 추론 비용 절감에 대한 지속적인 관심을 반영한다.




