TechFlow 소식에 따르면, 5월 10일 Medium 보도를 통해 Swarms API가 최근 성능, 비용 효율성 및 유연성을 향상시키기 위한 중대한 업데이트를 출시했다. 이번 업데이트는 주로 세 가지 핵심 기능을 포함한다.
Flex Processing은 비긴급 AI 워크로드를 위한 비용 최적화 처리 계층으로, 입력 및 출력 토큰 비용에 대해 75% 할인을 제공하며, 야간(태평양 표준시 오후 8시부터 오전 6시까지)에는 추가로 75% 할인을 적용하고, 타임아웃 윈도우를 15분까지 연장한다.
동적 지능형 캐시 시스템은 에이전트 완료 결과를 자동으로 최적화하며, 5분의 캐시 수명시간(TTL)과 60초마다 자동 정리를 지원하고, 동시 요청을 처리하여 중복된 API 호출과 토큰 사용을 줄일 수 있다.
개별 에이전트 완료 엔드포인트는 600여 개의 모델 제공업체를 지원하며, 사용자 정의 시스템 프롬프트, 역할 구성, 온도 및 토큰 제어 등의 파라미터 설정을 포함해 전례 없는 수준의 맞춤화 옵션을 제공한다.
즐겨찾기 추가
소셜 미디어 공유
