TechFlow Logo
Войти/ Регистрация
Газ ETH
Gwei
Страх
gas
24/7Новости

Tether выпускает кроссплатформенный фреймворк BitNet LoRA, поддерживающий обучение и инференс больших моделей на потребительских GPU и смартфонах

2026.03.17 - 14:03
Поделиться

По сообщению TechFlow, 17 марта, по словам генерального директора Tether Паоло Ардоино, команда Tether AI представила новую версию QVAC Fabric, интегрирующую кроссплатформенный фреймворк BitNet LoRA, что позволяет осуществлять обучение и инференс больших моделей с миллиардами параметров на потребительских GPU и смартфонах.

Новая версия QVAC Fabric LLM впервые обеспечила кроссплатформенную работу тонкой настройки и инференса BitNet LoRA на GPU AMD, Intel, Apple Metal и мобильных GPU. На флагманских устройствах скорость инференса на GPU выше, чем на CPU, в 2–11 раз, потребление памяти снижено на 90% по сравнению с моделями полной точности. Команда Tether уже выполнила тонкую настройку моделей с параметрами до 3,8 миллиарда на флагманских телефонах, таких как Pixel 9, S25 и iPhone 16, и осуществила тонкую настройку моделей с параметрами до 13 миллиардов на iPhone 16. Соответствующий код открыт на GitHub.

В избранное
Поделиться

Новости 24/7

TechFlow Logo

Платформа для поиска перспективных активов Главное о Web3, AI, золоте, акциях США и мировой экономике

Предложить статьюemail
Предложить темуmsg

Предупреждение о рисках: материалы сайта не являются инвестиционной рекомендацией. TechFlow не даёт торговых сигналов, не побуждает к совершению сделок и не оказывает связанных с торговлей услуг. В соответствии с уведомлением Народного банка Китая и ещё девяти ведомств о дальнейшей профилактике и пресечении рисков спекулятивной торговли виртуальными валютами просим читателей осознавать связанные с ними риски.

© 2024 TechFlow. Все права защищены.

Контакты: [email protected]

ICP-лицензия: 琼ICP备2022009338号