Хвиля великих моделей сприяє виникненню нових бізнес-можливостей у сфері обчислювальної потужності. Компанії змінюють стратегію для подолання нестачі GPU.
Обчислювальна потужність стає новим типом сервісної моделі, революція, спричинена бумом великих моделей
Останнім часом попит на навчання великих моделей стрімко зріс, висококласні GPU стали в дефіциті, що стало гарячою темою в галузі. Ціна на графічну карту NVIDIA A100 зросла до понад 200 тисяч юанів, а місячна оренда досягла 50-70 тисяч юанів. Навіть незважаючи на це, деякі компанії стикаються з проблемами, такими як зрив поставок постачальниками.
Цю обчислювальну потужність важко вирішити в короткостроковій перспективі. Експерти зазначають, що без інвестицій у десятки мільярдів важко продовжувати розробку великих моделей. Деякі підприємці вважають, що без підтримки у сотні мільярдів, ця дорога буде важка для проходження.
У світлі цієї ситуації, в індустрії загалом вважають, що в міру того, як ринок переходить від шаленої активності до раціональності, підприємства будуть коригувати свої стратегії для контролю витрат відповідно до змін у прогнозах.
Для подолання обчислювальної потужності підприємства вжили різних заходів:
Використання високоякісних даних для підвищення ефективності навчання
Підвищення стабільності інфраструктури, забезпечення довгострокової стабільної роботи тисячі калорій
Оптимізація обчислювальної потужності карт, реалізація детального розподілу.
Підвищення швидкості мережі, щоб уникнути перерв у навчанні
Перехід від архітектури хмарних обчислень до архітектури суперкомп'ютерів
Використання вітчизняних платформ замість GPU від Nvidia
Ці методи вимагають значних технічних здібностей, і зазвичай підприємствам важко задовольнити потреби через власні дата-центри, тому вони часто обирають підтримку професійних постачальників обчислювальної потужності.
Насправді, за "великою моделлю обчислювальної потужності" ми вже боремося за нову модель послуг. Послуги обчислювальної потужності базуються на різноманітній обчислювальній потужності, з'єднуються через мережу обчислювальної потужності та мають на меті ефективне постачання обчислювальної потужності. Це не лише включає обчислювальну потужність, а й упаковує ресурси, такі як зберігання, мережа тощо, для доставки у формі API.
У ланцюгу постачання обчислювальної потужності постачальники забезпечують базові ресурси, постачальники послуг обчислювальної потужності, а кінцевими споживачами є галузеві користувачі. В порівнянні з самостійним створенням середовища, використання послуг обчислювальної потужності є більш вигідним з точки зору витрат і технологій.
Наразі послуги обчислювальної потужності в основному пропонуються за двома моделями: оплатою за використання та річною або місячною підпискою. У майбутньому також буде впроваджено "інтеграцію обчислювальної мережі", що підтримує розподіл ресурсів між різними архітектурами, регіонами та постачальниками послуг.
Зі збільшенням попиту на великі моделі, обчислювальна потужність швидко розвивається в унікальний промисловий ланцюг та бізнес-модель. Хоча зараз спостерігається нестача висококласних GPU, це лише тимчасове явище. У довгостроковій перспективі постачальники обчислювальної потужності повинні заздалегідь підготуватися до швидких змін після повернення ринку до раціональності.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
Хвиля великих моделей сприяє виникненню нових бізнес-можливостей у сфері обчислювальної потужності. Компанії змінюють стратегію для подолання нестачі GPU.
Обчислювальна потужність стає новим типом сервісної моделі, революція, спричинена бумом великих моделей
Останнім часом попит на навчання великих моделей стрімко зріс, висококласні GPU стали в дефіциті, що стало гарячою темою в галузі. Ціна на графічну карту NVIDIA A100 зросла до понад 200 тисяч юанів, а місячна оренда досягла 50-70 тисяч юанів. Навіть незважаючи на це, деякі компанії стикаються з проблемами, такими як зрив поставок постачальниками.
Цю обчислювальну потужність важко вирішити в короткостроковій перспективі. Експерти зазначають, що без інвестицій у десятки мільярдів важко продовжувати розробку великих моделей. Деякі підприємці вважають, що без підтримки у сотні мільярдів, ця дорога буде важка для проходження.
У світлі цієї ситуації, в індустрії загалом вважають, що в міру того, як ринок переходить від шаленої активності до раціональності, підприємства будуть коригувати свої стратегії для контролю витрат відповідно до змін у прогнозах.
Для подолання обчислювальної потужності підприємства вжили різних заходів:
Ці методи вимагають значних технічних здібностей, і зазвичай підприємствам важко задовольнити потреби через власні дата-центри, тому вони часто обирають підтримку професійних постачальників обчислювальної потужності.
Насправді, за "великою моделлю обчислювальної потужності" ми вже боремося за нову модель послуг. Послуги обчислювальної потужності базуються на різноманітній обчислювальній потужності, з'єднуються через мережу обчислювальної потужності та мають на меті ефективне постачання обчислювальної потужності. Це не лише включає обчислювальну потужність, а й упаковує ресурси, такі як зберігання, мережа тощо, для доставки у формі API.
У ланцюгу постачання обчислювальної потужності постачальники забезпечують базові ресурси, постачальники послуг обчислювальної потужності, а кінцевими споживачами є галузеві користувачі. В порівнянні з самостійним створенням середовища, використання послуг обчислювальної потужності є більш вигідним з точки зору витрат і технологій.
Наразі послуги обчислювальної потужності в основному пропонуються за двома моделями: оплатою за використання та річною або місячною підпискою. У майбутньому також буде впроваджено "інтеграцію обчислювальної мережі", що підтримує розподіл ресурсів між різними архітектурами, регіонами та постачальниками послуг.
Зі збільшенням попиту на великі моделі, обчислювальна потужність швидко розвивається в унікальний промисловий ланцюг та бізнес-модель. Хоча зараз спостерігається нестача висококласних GPU, це лише тимчасове явище. У довгостроковій перспективі постачальники обчислювальної потужності повинні заздалегідь підготуватися до швидких змін після повернення ринку до раціональності.