TechFlow 보도에 따르면, 7 월 20 일 애널리스트 Sunny Bangia 의 견해에 따르면 2025 년 출시된 DeepSeek R1 과 유사하게 Kimi K3 의 출시 역시 AI 컴퓨팅 파워가 예상보다 낮을 것이라는 우려를 불러일으켰습니다. 그러나 이러한 비교는 중요한 차이점을 간과했을 수 있습니다. Kimi K3 와 같은 모델이 컴퓨팅 자원을 더 효율적으로 활용하도록 설계되었지만 실행 시 여전히 대량의 메모리가 필요하며, 이러한 특성은 SK 하이닉스, TSMC 및 엔비디아와 같은 기업들에 대한 수요를 지속적으로 지지할 수 있습니다.
Kimi K3 는 2.8 조 개의 파라미터를 보유하고 있어 희소성 비율을 새로운 최고치로 끌어올렸습니다. 더 높은 희소성 비율은 각 작업에서 활성화되는 파라미터 수가 모델 전체 크기 대비 적다는 것을 의미하며, 결과적으로 토큰당 더 높은 계산 효율성을 실현합니다. 파라미터는 단순히 메모리에 저장된 숫자일 뿐입니다. 저정밀도 데이터 포맷을 사용하여 모델을 압축하더라도 Kimi K3 의 파라미터는 여전히 약 1.4 테라바이트의 메모리를 차지합니다. K3 를 채택하는 것 자체로 고용량 메모리 실리콘 칩 업그레이드에 대한 수요가 발생할 것이며, 예를 들어 엔비디아의 Blackwell GB300 이 있습니다. (진스)
즐겨찾기 추가
소셜 미디어 공유
