Запуск потужних мовних моделей традиційно потребує або регулярних платежів за хмарні сервіси, або встановлення дорогих серверних комплексів із величезним енергоспоживанням. Компанія Bosgame продемонструвала альтернативний підхід, довівши можливість локальної роботи з DeepSeek-V3.1 — моделлю на 671 мільярд параметрів — без необхідності купувати професійне обладнання Nvidia H100.
Сім міні-ПК замість одного суперкомп’ютера
Основу рішення складають семи пристрої M5 AI на базі процесора Ryzen AI Max+ 395 — чипа з лінійки AMD Strix Halo з потужною інтегрованою графікою та скоростною пам’яттю. Кожен такий міні-ПК в топовій конфігурації оснащений 128 ГБ оперативної пам’яті, чого достатньо для повсякденних завдань, але недостатньо для самостійного запуску DeepSeek-V3.1.
Революційним елементом стала технологія USB4 Direct Connection, яка з’єднує вузли в єдину розподілену систему без необхідності використання складної централізованої архітектури. Це дозволило Bosgame побудувати локальний кластер, поєднавши обчислювальні ресурси семи окремих пристроїв.
Гнучкість розширення та енергоефективність
Ключева перевага цього підходу полягає в можливості поступового розширення. Користувач може почати з одного міні-ПК і докуповувати нові пристрої в міру потребування більшої потужності для локальної обробки нейромереж. Сумарне енергоспоживання такого кластера залишається в розумних межах, а вартість значно нижча за професійні серверні рішення аналогічної потужності.
Вартість та актуальність рішення
Однак потенційних покупців варто запідозрити про цінову політику Bosgame. На початку минулого року топова версія M5 AI коштувала близько $1 700 (75 600 грн), тоді як зараз виробник просить $2 800 (124 600 грн). Такий значний ріст ціни пояснюється дефіцитом потужних чипів AMD або усвідомленням унікальності продукту.
Незважаючи на вартість, збірка з семи вузлів залишається цікавою альтернативою для розробників, які бажають зберігати дані локально та не залежати від хмарних провайдерів. Це прямолінійне залізне рішення для тих, хто цінує конфіденційність та незалежність від великих корпорацій.
Водночас у глобальній гонці за ШІ-потужностями ставки значно вищі — наприклад, SpaceX готує мільярдний контракт на надання хмарних ШІ-обчислень для Пентагону, що демонструє зовсім інший рівень масштабування технологій.
