Tether представив перший у світі мобільний «фреймворк навчання ШІ масштабу мільярда», який працює на iPhone та Samsung LoRA

Тether旗下 дані та AI підрозділ QVAC 17 березня оголосили про важливий технологічний прорив, представивши перший у світі кросплатформенний фреймворк для тонкого налаштування LoRA, що підтримує архітектуру Microsoft BitNet (1-бітовий LLM). Ця технологія, інтегрована в QVAC Fabric, значно зменшує вимоги до пам’яті та обчислювальної потужності, роблячи моделі з мільярдами параметрів доступними не лише для корпоративних GPU, а й для звичайних смартфонів і ноутбуків, забезпечуючи «локальне, повністю приватне» навчання.

(Попередній огляд: Tether інвестує в Axiym для розширення платіжної інфраструктури: сприяння інтеграції USDT у глобальні регульовані платіжні мережі)
(Додатковий фон: Tether інвестує у AI-технології сну! Лідируючи у Eight Sleep з 50 мільйонами доларів, оцінка компанії зросла до 1,5 мільярда доларів)

Зміст статті

Перемикач

• Магія 1-бітової архітектури: дозволяє смартфонам «змагатися» з великими системами
• Публічні дані: швидкість Samsung S25 і iPhone 16 вражають
• Забудьте API-ключі: створіть 100% приватного персонального AI

У галузі штучного інтелекту (AI) тренування потужних моделей традиційно вважається «золотим дном» з високими витратами, що залежить від дорогих систем NVIDIA або хмарних обчислень. Однак гігант стабільних монет Tether намагається змінити цю парадигму за допомогою технологій. 17 березня підрозділ Tether Data оголосив про запуск першого у світі кросплатформенного фреймворку для тонкого налаштування LoRA на базі BitNet для платформи QVAC (QuantumVerse Automatic Computer).

Головна цінність цієї технології — можливість запускати AI-моделі з «мільярдом параметрів» безпосередньо на смартфонах для персоналізованого навчання.

Магія 1-бітової архітектури: дозволяє смартфонам «змагатися» з великими системами

Цей прорив базується на архітектурі BitNet 1-бітового LLM, розробленій Microsoft. За допомогою оптимізацій у QVAC Fabric, пам’ять і обчислювальні ресурси моделей BitNet знижені до мінімуму. За повідомленнями, цей фреймворк підтримує не лише NVIDIA GPU, а й Intel, AMD, Apple M-серії чіпи, а також мобільні GPU Adreno (Android), Mali, Apple Bionic.

Це означає, що AI, який раніше міг працювати лише у дата-центрах, тепер може виконуватися безпосередньо на смартфонах для «Low-Rank Adaptation (LoRA)» — тонкого налаштування. Tether стверджує, що ця технологія дозволяє обробляти моделі у два рази більші за традиційні Q4-кванти, демонструючи виняткову економію пам’яті.

Публічні дані: швидкість Samsung S25 і iPhone 16 вражають

Команда Tether поділилася захоплюючими результатами тестів, що демонструють реальні можливості фреймворку на сучасних смартфонах:

• Модель з 125 мільйонами параметрів: на Samsung S25 для тонкого налаштування набору з 300 медичних документів потрібно всього близько 10 хвилин.
• Модель з 1 мільярдом (1B) параметрів: аналогічне налаштування — на Samsung S25 витрачає 1 годину 18 хвилин, а на iPhone 16 — 1 годину 45 хвилин.
• Екстремальні виклики: команда успішно запустила модель з 13 мільярдами (13B) параметрів на iPhone 16 для тонкого налаштування, довівши можливості мобільних пристроїв.

Забудьте API-ключі: створіть 100% приватного персонального AI

Генеральний директор Tether Paolo Ardoino наголошує: «Якщо для використання AI потрібен API-ключ, він не належить вам справжньо». Основна ідея QVAC — «локальність перш за все» (Local-first).

За допомогою фреймворку BitNet LoRA користувачі можуть навчати AI безпосередньо на своїх поштових скриньках, нотатках і повідомленнях, не передаючи дані до хмарних серверів. Це знімає побоювання щодо зловживання конфіденційною інформацією та руйнує монополію великих корпорацій у сфері AI. Зараз QVAC Fabric LLM доступний як відкритий софт (ліцензія Apache 2.0), а на платформі Hugging Face є попередньо налаштовані адаптери, що дозволяє розробникам по всьому світу швидко долучитися до революції у краєвиді edge computing.