Сеть играет ключевую роль в эпоху больших моделей ИИ. С увеличением масштабов моделей многосерверные кластеры стали основным способом решения проблем обучения, что также заложило основу для "высшего" положения сети в эпоху ИИ. В отличие от прошлого, когда сеть использовалась исключительно для передачи данных, сегодня она больше используется для синхронизации параметров модели между графическими процессорами, что предъявляет более высокие требования к плотности и емкости сети.
Сетевой спрос в основном исходит из трех направлений:
Огромный объем модели: время обучения пропорционально количеству параметров модели, а скорость вычисления на одном устройстве ограничена, поэтому то, как использовать сеть для увеличения "числа устройств" и "параллельной эффективности", напрямую определяет вычислительную мощность.
Сложная коммуникация при синхронизации нескольких карт: после разделения модели на отдельные карты каждое вычисление требует выравнивания, что предъявляет более высокие требования к сетевой передаче и обмену.
Дорогие расходы на сбои: обучение больших моделей занимает месяцы, и перерывы могут привести к огромным убыткам. Сеть стала сложной системной инженерией, сопоставимой с самолетами и авианосцами.
Сетевые инновации в основном сосредоточены в следующих направлениях:
Замена средств связи: свет, медь и кремний имеют свои преимущества, новые технологии, такие как LPO и кремниевый свет, способствуют снижению затрат.
Конкуренция сетевых протоколов: NV-LINK, Infinity Fabric и другие протоколы межчипового общения конкурируют с IB, Ethernet и другими протоколами общения между узлами.
Изменения в сетевой архитектуре: помимо архитектуры Leaf-Spine, такие новые архитектуры, как Dragonfly и rail-only, могут стать направлением эволюции сверхбольших кластеров.
Инвестиционные рекомендации сосредоточены на компаниях, связанных с ключевыми аспектами и инновациями в коммуникационных системах. Будущее сетевых инноваций будет стремиться к балансу между "снижением затрат", "открытостью" и масштабом вычислительной мощности.
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
С увеличением сетевого спроса в эпоху ИИ инновационные направления сосредотачиваются на снижении затрат и открытости
Сеть эпохи ИИ: спрос и инновации
Сеть играет ключевую роль в эпоху больших моделей ИИ. С увеличением масштабов моделей многосерверные кластеры стали основным способом решения проблем обучения, что также заложило основу для "высшего" положения сети в эпоху ИИ. В отличие от прошлого, когда сеть использовалась исключительно для передачи данных, сегодня она больше используется для синхронизации параметров модели между графическими процессорами, что предъявляет более высокие требования к плотности и емкости сети.
Сетевой спрос в основном исходит из трех направлений:
Огромный объем модели: время обучения пропорционально количеству параметров модели, а скорость вычисления на одном устройстве ограничена, поэтому то, как использовать сеть для увеличения "числа устройств" и "параллельной эффективности", напрямую определяет вычислительную мощность.
Сложная коммуникация при синхронизации нескольких карт: после разделения модели на отдельные карты каждое вычисление требует выравнивания, что предъявляет более высокие требования к сетевой передаче и обмену.
Дорогие расходы на сбои: обучение больших моделей занимает месяцы, и перерывы могут привести к огромным убыткам. Сеть стала сложной системной инженерией, сопоставимой с самолетами и авианосцами.
Сетевые инновации в основном сосредоточены в следующих направлениях:
Замена средств связи: свет, медь и кремний имеют свои преимущества, новые технологии, такие как LPO и кремниевый свет, способствуют снижению затрат.
Конкуренция сетевых протоколов: NV-LINK, Infinity Fabric и другие протоколы межчипового общения конкурируют с IB, Ethernet и другими протоколами общения между узлами.
Изменения в сетевой архитектуре: помимо архитектуры Leaf-Spine, такие новые архитектуры, как Dragonfly и rail-only, могут стать направлением эволюции сверхбольших кластеров.
Инвестиционные рекомендации сосредоточены на компаниях, связанных с ключевыми аспектами и инновациями в коммуникационных системах. Будущее сетевых инноваций будет стремиться к балансу между "снижением затрат", "открытостью" и масштабом вычислительной мощности.