Theta EdgeCloud: Бета-реліз гібридної платформи обчислень для ШІ з децентралізованим ринком GPU

Компанія Theta Labs сьогодні оголосила про бета-реліз своєї гібридної архітектури краю хмари для мережі Theta EdgeCloud, платформи обчислень, яка поєднує традиційні графічні процесори (GPU) на основі хмари з розподіленою мережею з понад 30,000 спільно-управляючих вузлів. Платформа розроблена для надання економічно вигідного доступу до потужних ресурсів обчислень для навчання та розпізнавання моделей ШІ, обробки відео, фінансового моделювання та інших задач, що потребують значних обчислювальних потужностей. У цьому новому релізі представлено новий децентралізований ринок GPU, який забезпечує конкурентоспроможне і прозоре ціноутворення на обчислення в межах платформи.

Гібридна архітектура відповідає на основну проблему сучасної обчислювальної техніки: зростаючі витрати і обмежена доступність спеціалізованого обладнання, необхідного для завдань ШІ і машинного навчання. Традиційні постачальники хмарних послуг стягують преміальні тарифи за доступ до GPU, часто залишаючи без можливостей менші наукові групи, стартапи та навчальні заклади. Шляхом інтеграції розподілених обчислювальних ресурсів від членів спільноти разом із традиційною хмарною інфраструктурою, платформа надає подібні можливості за значно зниженими витратами.

Динамічний ринок GPU для ефективного маршрутизації обчислень

Theta EdgeCloud є децентралізованим ринком, який з`єднує попит і пропозицію на обчислювальну потужність GPU. Це дозволяє будь-кому з невикористаними GPU внести свої ресурси і отримати винагороду, а також надає розробникам і командам ШІ масштабовану, економічно вигідну платформу для запуску контейнеризованих робочих навантажень.

Платформа дозволяє клієнтам обирати найбільш підходящу інфраструктуру для різних видів обчислювальних завдань. Наприклад, навчання великої моделі ШІ, яка потребує значної кількості відеопам`яті (vRAM), може бути спрямоване на потужні хмарні або центрові GPU. У контексті цього, такі завдання як інференція моделі з переривчастими навантаженнями, які є в своїй природі паралельними, можуть бути розподілені між численними ігровими машинами, що управляються спільнотою, надаючи гнучку і економічно вигідну альтернативу.

Щоб забезпечити справедливу та динамічну модель ціноутворення, Theta EdgeCloud дозволяє операторам вузлів (сторона пропозиції) встановлювати свої власні погодинні ставки оренди. Тим часом, користувачі (сторона попиту) можуть вибирати вузли, які відповідають їхнім вимогам до продуктивності і бюджетним обмеженням під час запуску робочих навантажень. Цей підхід, що ґрунтується на ринкових механізмах, допомагає зберігати ціноутворення на обчислення GPU конкурентоспроможним і прозорим.

Система передбачає механізми резервного копіювання з автоматичною логікою переходу, щоб переназначати роботи, якщо будь-який пристрій спільноти вийде з ладу, забезпечуючи надійне виконання обчислювальних завдань через різноманітну мережу типів GPU.

Підтримка провідних академічних та підприємницьких клієнтів

На платформі зараз працюють клієнти, такі як Стенфордський університет, Національний університет Сеула, KAIST, університет Йонсей, університет Орегону, Університет штату Мічиган та NTU Singapore для академічних досліджень у сфері ШІ. Підприємницькі клієнти включають великі спортивні команди, такі як НХЛ Лас-Вегас Найтс, НБА Х`юстон Рокетс, а також глобальні кіберспортивні команди FlyQuest та Evil Geniuses.

Бета-реліз включає функції, що були запитані існуючими клієнтами, включаючи постійне збереження для навчання моделей ШІ, покращене пріоритезування завдань та API для розробників для подачі запитів та аналітики.

“Справжня ситуація полягає в тому, що витрати на GPU стали непомірними для багатьох організацій, які займаються важливим дослідженням в сфері ШІ,” сказав Цзєї Лонг, технічний директор Theta Labs. “Університети кажуть нам, що змушені скорочувати проекти або чекати місяцями на доступ до доступних обчислювальних ресурсів. Виходячи з невикористаних ресурсів GPU, що знаходяться в ігрових комп`ютерах і роботах по всьому світу, ми можемо надати ті ж обчислювальні можливості за частку витрат. Це означає, що наші партнери в Стенфорді, KAIST та інших закладах можуть проводити більше експериментів, швидше вдосконалювати і розширювати межі можливого в дослідженнях ШІ без обмежень бюджету.

Технічні можливості

Гібридна архітектура підтримує контейнеризовані обчислювальні завдання, включаючи навчання моделей ШІ та інференцію, кодування та трансформацію відео, 3D-рендеринг, фінансові симуляції та наукові обчислювальні програми. Платформа надає понад 80 ПетаFLOPS розподіленої обчислювальної потужності GPU завдяки своїй комбінації хмарних партнерств з Google Cloud і Amazon Web Services та розподіленою мережею краю.

Клієнтський вузол EdgeCloud - це легкий програмний пакет, який дозволяє членам спільноти вносити свій невикористаний обсяги GPU. Розширена контейнеризація завдань забезпечує високу ефективність обчислень серед різних типів GPU і специфікацій. Щоб дізнатися більше про програмне забезпечення клієнта EdgeCloud, будь ласка, ознайомтеся з цимпосиланням.

Про Theta Labs

Theta Labs є провідним постачальником децентралізованої хмарної інфраструктури для ШІ, медіа та розваг, що підтримується глобальною мережею з 30,000 розподілених крайових вузлів та рідним блокчейном. Підтримувана Samsung, Sony, Bertelsmann Digital Media Investments та Creative Artists Agency, Theta входить до десятки найкращих блокчейнів DePIN за ринковою капіталізацією на Coingecko та до топових токенів ШІ на Binance.com. Валідатор підприємства Theta та рада з управління складаються з глобальних лідерів ринку, включаючи Google, Samsung, CAA та Binance.

Нещодавно запущена Theta EdgeCloud є першою гібридною платформою обчислень ШІ в режимі хмари та краю з понад 80 ПетаFLOPS розподіленої обчислювальної потужності GPU на вимогу. EdgeCloud вже має 25 глобальних клієнтів, включаючи 4 з 5 найкращих університетів Південної Кореї, провідні професійні спортивні команди, такі як НХЛ Лас-Вегас Найтс, НБА Х`юстон Рокетс, а також глобальні кіберспортивні команди FlyQuest та Evil Geniuses та інші.