Swarms API представила масштабное обновление, включающее Flex Processing, интеллектуальное кэширование и индивидуальные эндпоинты агентов.
TechFlow сообщает, 10 мая. По данным Medium, сервис Swarms API недавно выпустил крупное обновление, направленное на повышение производительности, экономической эффективности и гибкости, которое включает три основные функции:
Flex Processing представляет собой уровень обработки, оптимизированный по стоимости для несрочных задач ИИ, предоставляющий скидку 75 % на стоимость входных и выходных токенов, дополнительную скидку 75 % в ночное время (с 20:00 до 06:00 по тихоокеанскому стандартному времени) и увеличенное окно таймаута до 15 минут.
Динамическая интеллектуальная система кэширования автоматически оптимизирует результаты выполнения агентов, обладает временем жизни кэша 5 минут и автоматической очисткой каждые 60 секунд, поддерживает параллельные запросы и способствует сокращению избыточных вызовов API и расхода токенов.
Индивидуальная конечная точка завершения работы агента предлагает беспрецедентные возможности настройки, поддерживает более 600 провайдеров моделей и позволяет настраивать такие параметры, как системный промпт, конфигурация роли, температура и управление токенами.
