Вычислительная мощность становится новой моделью сервиса, революция, вызванная бумом больших моделей
В последнее время спрос на обучение больших моделей резко возрос, высококлассные GPU не хватает, что стало горячей темой в отрасли. Цена на видеокарту NVIDIA A100 взлетела до более чем 200000 юаней, а ежемесячная аренда достигает 50000-70000 юаней. Тем не менее, некоторые компании все еще сталкиваются с проблемами, связанными с неисполнением обязательств со стороны поставщиков.
Эта нехватка вычислительной мощности в краткосрочной перспективе трудна для решения. Эксперты говорят, что без вложения десятков миллиардов средств трудно продолжать разработку больших моделей. Некоторые предприниматели считают, что без поддержки в сотни миллиардов или триллионы эта дорога будет трудной.
В условиях этой ситуации в отрасли общепризнано, что с переходом рынка от безумия к рациональности компании будут корректировать свои стратегии для контроля затрат в соответствии с изменением ожиданий.
Чтобы справиться с нехваткой вычислительной мощности, компании применили различные методы:
Используйте качественные данные для повышения эффективности обучения
Повышение стабильности инфраструктуры, чтобы обеспечить долгосрочную стабильную работу в тысяче калорий
Оптимизация распределения ресурсов вычислительной мощности, реализация детализированного распределенного планирования
Увеличьте скорость сети, избегайте прерываний в обучении
Переход от облачной архитектуры к архитектуре суперкомпьютера
Используйте отечественные платформы вместо GPU от NVIDIA
Эти методы требуют высокой технической способности, и обычно предприятиям сложно удовлетворить потребности с помощью собственных дата-центров, поэтому они чаще выбирают поддержку профессиональных поставщиков вычислительной мощности.
На самом деле, за "большими моделями вычислительной мощности" уже закрепилась новая модель услуг. Услуги вычислительной мощности основаны на разнообразной вычислительной мощности, связанной через сеть вычислительной мощности, с целью эффективного обеспечения вычислительной мощности в новой области. Это не только включает вычислительную мощность, но также упаковывает ресурсы хранения, сети и другие, предоставляя их в форме API и т. д.
В вычислительной мощностной цепочке поставок, верхний уровень предоставляет базовые ресурсы, средний уровень предоставляет услуги вычислительной мощности, а нижний уровень – это отраслевые пользователи. По сравнению с созданием собственного окружения, использование услуг вычислительной мощности имеет большее преимущество в стоимости и технологиях.
В настоящее время услуги вычислительной мощности в основном предоставляются по двум моделям: почасовая оплата и подписка на год/месяц. В будущем также будет продвигаться "интеграция вычислительной сети", поддерживающая распределение ресурсов между разными архитектурами, регионами и провайдерами услуг.
С ростом спроса на большие модели, вычислительная мощность быстро развивается в уникальную отраслевую цепочку и бизнес-модель. Хотя в настоящее время существует нехватка высококлассных ГПУ, это лишь временное явление. В долгосрочной перспективе поставщикам вычислительной мощности необходимо заранее подготовиться к быстрому изменению после возвращения рынка к разумности.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
Волна больших моделей порождает новые бизнес-возможности в сфере вычислительной мощности. Компании ищут способы справиться с нехваткой GPU.
Вычислительная мощность становится новой моделью сервиса, революция, вызванная бумом больших моделей
В последнее время спрос на обучение больших моделей резко возрос, высококлассные GPU не хватает, что стало горячей темой в отрасли. Цена на видеокарту NVIDIA A100 взлетела до более чем 200000 юаней, а ежемесячная аренда достигает 50000-70000 юаней. Тем не менее, некоторые компании все еще сталкиваются с проблемами, связанными с неисполнением обязательств со стороны поставщиков.
Эта нехватка вычислительной мощности в краткосрочной перспективе трудна для решения. Эксперты говорят, что без вложения десятков миллиардов средств трудно продолжать разработку больших моделей. Некоторые предприниматели считают, что без поддержки в сотни миллиардов или триллионы эта дорога будет трудной.
В условиях этой ситуации в отрасли общепризнано, что с переходом рынка от безумия к рациональности компании будут корректировать свои стратегии для контроля затрат в соответствии с изменением ожиданий.
Чтобы справиться с нехваткой вычислительной мощности, компании применили различные методы:
Эти методы требуют высокой технической способности, и обычно предприятиям сложно удовлетворить потребности с помощью собственных дата-центров, поэтому они чаще выбирают поддержку профессиональных поставщиков вычислительной мощности.
На самом деле, за "большими моделями вычислительной мощности" уже закрепилась новая модель услуг. Услуги вычислительной мощности основаны на разнообразной вычислительной мощности, связанной через сеть вычислительной мощности, с целью эффективного обеспечения вычислительной мощности в новой области. Это не только включает вычислительную мощность, но также упаковывает ресурсы хранения, сети и другие, предоставляя их в форме API и т. д.
В вычислительной мощностной цепочке поставок, верхний уровень предоставляет базовые ресурсы, средний уровень предоставляет услуги вычислительной мощности, а нижний уровень – это отраслевые пользователи. По сравнению с созданием собственного окружения, использование услуг вычислительной мощности имеет большее преимущество в стоимости и технологиях.
В настоящее время услуги вычислительной мощности в основном предоставляются по двум моделям: почасовая оплата и подписка на год/месяц. В будущем также будет продвигаться "интеграция вычислительной сети", поддерживающая распределение ресурсов между разными архитектурами, регионами и провайдерами услуг.
С ростом спроса на большие модели, вычислительная мощность быстро развивается в уникальную отраслевую цепочку и бизнес-модель. Хотя в настоящее время существует нехватка высококлассных ГПУ, это лишь временное явление. В долгосрочной перспективе поставщикам вычислительной мощности необходимо заранее подготовиться к быстрому изменению после возвращения рынка к разумности.