Від "зварювання" великих моделей до нової моделі обчислювальної потужності
Хоча в Україні спостерігається бум навчання великих моделей, нестача високопродуктивних графічних процесорів та висока вартість обчислювальної потужності стали серйозними проблемами для галузі. Компанії шукають інноваційні способи вирішення цих викликів, а послуги з обчислювальної потужності стають новою бізнес-моделлю.
Тренування великих AI моделей вимагає значної обчислювальної потужності. Наприклад, для певної метеорологічної моделі, використовуючи лише 200 графічних карт, витрати на тренування протягом двох місяців можуть перевищити 2 мільйони юанів. А для універсальних великих моделей, витрати на тренування можуть сягати десятків мільярдів юанів. Це ускладнює ситуацію для багатьох малих і середніх підприємств.
Стикаючись із ситуацією, коли висококласні GPU-карти важко знайти, компанії вжили різноманітних стратегій реагування:
Підвищення якості даних, підвищення ефективності навчання
Оптимізація інфраструктури для забезпечення стабільної роботи великих кластерів
Покращити обчислювальну потужність ресурсів, підвищити їх використання
Використання архітектури суперкомп'ютера замість хмарної архітектури
Використання вітчизняної платформи GPU замість продуктів Nvidia
Водночас, обчислювальна потужність служби формує нові виробничі ланцюги та бізнес-моделі. Верхній рівень надає базові ресурси обчислювальної потужності, середній рівень відповідає за виробництво та розподіл обчислювальної потужності, а нижній рівень – це промислові користувачі. Хмарні постачальники послуг та професійні постачальники обчислювальної потужності стають важливими гравцями середнього рівня.
Обчислювальна потужність сервісів в основному використовує дві моделі: оплату за використання та оплату за рік або місяць. Користувачі можуть вибирати різні форми, такі як GPU-інстанси або платформи MaaS. У майбутньому також буде просуватися "інтеграція обчислювальної мережі", що дозволить здійснювати гнучке управління через архітектури та регіони.
Хоча в даний час індустрія захоплена боротьбою за ресурси висококласних GPU, в довгостроковій перспективі обчислювальна потужність як послуга є невідворотною тенденцією. Постачальники обчислювальної потужності повинні заздалегідь підготуватися до трансформації після раціонального повернення ринку.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
10 лайків
Нагородити
10
5
Поділіться
Прокоментувати
0/400
PoetryOnChain
· 16год тому
Вартість炼丹 така велика, не дарма це仙术.
Переглянути оригіналвідповісти на0
ForeverBuyingDips
· 16год тому
Майнінгові карти всі хочуть використовувати.
Переглянути оригіналвідповісти на0
LootboxPhobia
· 16год тому
200w навчальні витрати Обман для дурнів на місці
Переглянути оригіналвідповісти на0
OnchainDetective
· 16год тому
Обчислювальна потужність спалює гроші, пастка очевидна, дані повністю у блокчейні можуть бути відстежені.
Переглянути оригіналвідповісти на0
StablecoinGuardian
· 16год тому
Не грай, якщо не можеш собі дозволити. Не можеш купити відеокарту, а ще хочеш витягти з неї гроші.
Велике навчання моделей входить в нову стадію. Обчислювальна потужність стає майбутньою тенденцією.
Від "зварювання" великих моделей до нової моделі обчислювальної потужності
Хоча в Україні спостерігається бум навчання великих моделей, нестача високопродуктивних графічних процесорів та висока вартість обчислювальної потужності стали серйозними проблемами для галузі. Компанії шукають інноваційні способи вирішення цих викликів, а послуги з обчислювальної потужності стають новою бізнес-моделлю.
Тренування великих AI моделей вимагає значної обчислювальної потужності. Наприклад, для певної метеорологічної моделі, використовуючи лише 200 графічних карт, витрати на тренування протягом двох місяців можуть перевищити 2 мільйони юанів. А для універсальних великих моделей, витрати на тренування можуть сягати десятків мільярдів юанів. Це ускладнює ситуацію для багатьох малих і середніх підприємств.
Стикаючись із ситуацією, коли висококласні GPU-карти важко знайти, компанії вжили різноманітних стратегій реагування:
Водночас, обчислювальна потужність служби формує нові виробничі ланцюги та бізнес-моделі. Верхній рівень надає базові ресурси обчислювальної потужності, середній рівень відповідає за виробництво та розподіл обчислювальної потужності, а нижній рівень – це промислові користувачі. Хмарні постачальники послуг та професійні постачальники обчислювальної потужності стають важливими гравцями середнього рівня.
Обчислювальна потужність сервісів в основному використовує дві моделі: оплату за використання та оплату за рік або місяць. Користувачі можуть вибирати різні форми, такі як GPU-інстанси або платформи MaaS. У майбутньому також буде просуватися "інтеграція обчислювальної мережі", що дозволить здійснювати гнучке управління через архітектури та регіони.
Хоча в даний час індустрія захоплена боротьбою за ресурси висококласних GPU, в довгостроковій перспективі обчислювальна потужність як послуга є невідворотною тенденцією. Постачальники обчислювальної потужності повинні заздалегідь підготуватися до трансформації після раціонального повернення ринку.