코인베이스 CEO: 코인베이스는 일부 프롬프트를 비용 효율성이 높은 모델로 라우팅하고 있다

TechFlow 보도에 따르면, 6월 8일 코인베이스 최고경영자 브라이언 암스트롱(Brian Armstrong)은 향후 12~18개월 이내에 인공지능 작업 부하의 80%가 비용이 99% 낮은 모델에서 실행될 것으로 전망했다. 나머지 20%는 여전히 최신 세대 모델에 의존하게 될 것이라고 밝혔다. 그는 업계의 병목 현상이 모델 자체보다는 에너지와 연산 능력에 더 크게 나타날 것이라고 분석했다. 또한 브라이언 암스트롱은 코인베이스가 프롬프트를 필요에 따라 저비용 모델로 동적으로 라우팅하기 위해 노력 중이며, 토큰 사용량이 지속적으로 지수급으로 증가하는 상황에서도 일부 시나리오에서는 비용을 대체로 안정적으로 유지할 수 있을 것이라고 언급했다.