Эволюция сети в эпоху ИИ: от потребностей к инновациям
С наступлением эпохи больших моделей сеть стала ключевым элементом в системах ИИ. В этой статье мы обсудим, почему сеть стала "центральной фигурой" в эпоху ИИ, начиная с принципов, и рассмотрим будущие инновации и инвестиционные возможности в области сетей.
Источники сетевых требований
Объем модели становится все больше, предел вычислительной мощности одной карты и масштаб модели становятся все дальше друг от друга, необходимо решать проблемы обучения с помощью многосерверного кластера.
Сеть используется не только для передачи данных, но и для синхронизации параметров модели между графическими картами, что предъявляет более высокие требования к плотности и ёмкости сети.
Время тренировки тесно связано с вычислительной скоростью, а вычислительная скорость зависит от скорости одного устройства, количества устройств и эффективности параллельной работы нескольких устройств. Сеть играет ключевую роль в последних двух аспектах.
В многокарточном обучении после каждого вычисления необходимо производить выравнивание параметров, что ставит высокие требования к передаче и обмену данных в сети.
Обучение больших моделей продолжается несколько месяцев, сбои в сети могут привести к огромным потерям, требования к стабильности системы чрезвычайно высоки.
Направление сетевых инноваций
Замена средств связи: три основных средства - свет, медь и кремний - имеют свои преимущества и развиваются в направлении снижения затрат, включая LPO, LRO, кремниевую оптику и др.
Конкуренция сетевых протоколов: внутренний протокол связи узлов связан с видеокартами, а связь между узлами осуществляется в основном через IB и Ethernet.
Изменения в сетевой архитектуре: эволюция от архитектуры Leaf-Spine к архитектуре Dragonfly, архитектуре только для рельсов и другим направлениям для удовлетворения потребностей сверхбольших кластеров.
Инвестиционные рекомендации
Обратите внимание на ключевые аспекты коммуникационных систем: Zhongji Xuchuang, Xinyi Sheng, Tianfu Communication и другие.
Обратите внимание на инновационные этапы в системе связи: Longtech Fiber, Taicheng Light, Shengkai Communication и др.
Основное внимание следует уделить балансу между инновациями по снижению затрат, открытой экосистемой и масштабом вычислительной мощности.
Отслеживание динамики новых технологий, понимание изменений в спросе на компоненты, вызванных этим.
Системная инженерия сети — это результат совместных инноваций и усилий множества этапов, и ее инвестиционные возможности становятся более ясными и последовательными. При этом, помимо охвата основных этапов, также необходимо активно следить за новыми возможностями, возникающими в результате инноваций.
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
20 Лайков
Награда
20
8
Поделиться
комментарий
0/400
ApeDegen
· 23ч назад
Это уже слишком, сейчас карты должны работать параллельно.
Посмотреть ОригиналОтветить0
ResearchChadButBroke
· 08-05 16:03
Ццц, снова появилась возможность Будут играть для лохов.
Посмотреть ОригиналОтветить0
MindsetExpander
· 08-03 03:45
Сеть и плотность всего поняли, осталось только деньги.
Посмотреть ОригиналОтветить0
ShitcoinConnoisseur
· 08-03 03:45
Это всего лишь следование моде, всё это просто коса.
Посмотреть ОригиналОтветить0
EthMaximalist
· 08-03 03:44
Чипов уже не хватает, а вы все говорите о сети.
Посмотреть ОригиналОтветить0
SorryRugPulled
· 08-03 03:44
Снова рисую пирог, жду железной вершины.
Посмотреть ОригиналОтветить0
CoffeeNFTrader
· 08-03 03:33
Выросли акции высоких технологий и сетевых компаний, всё стабильно.
Эволюция сети в эпоху ИИ: от потребностей к инновациям. Анализ ключевых ролей сети в эпоху больших моделей.
Эволюция сети в эпоху ИИ: от потребностей к инновациям
С наступлением эпохи больших моделей сеть стала ключевым элементом в системах ИИ. В этой статье мы обсудим, почему сеть стала "центральной фигурой" в эпоху ИИ, начиная с принципов, и рассмотрим будущие инновации и инвестиционные возможности в области сетей.
Источники сетевых требований
Объем модели становится все больше, предел вычислительной мощности одной карты и масштаб модели становятся все дальше друг от друга, необходимо решать проблемы обучения с помощью многосерверного кластера.
Сеть используется не только для передачи данных, но и для синхронизации параметров модели между графическими картами, что предъявляет более высокие требования к плотности и ёмкости сети.
Время тренировки тесно связано с вычислительной скоростью, а вычислительная скорость зависит от скорости одного устройства, количества устройств и эффективности параллельной работы нескольких устройств. Сеть играет ключевую роль в последних двух аспектах.
В многокарточном обучении после каждого вычисления необходимо производить выравнивание параметров, что ставит высокие требования к передаче и обмену данных в сети.
Обучение больших моделей продолжается несколько месяцев, сбои в сети могут привести к огромным потерям, требования к стабильности системы чрезвычайно высоки.
Направление сетевых инноваций
Замена средств связи: три основных средства - свет, медь и кремний - имеют свои преимущества и развиваются в направлении снижения затрат, включая LPO, LRO, кремниевую оптику и др.
Конкуренция сетевых протоколов: внутренний протокол связи узлов связан с видеокартами, а связь между узлами осуществляется в основном через IB и Ethernet.
Изменения в сетевой архитектуре: эволюция от архитектуры Leaf-Spine к архитектуре Dragonfly, архитектуре только для рельсов и другим направлениям для удовлетворения потребностей сверхбольших кластеров.
Инвестиционные рекомендации
Обратите внимание на ключевые аспекты коммуникационных систем: Zhongji Xuchuang, Xinyi Sheng, Tianfu Communication и другие.
Обратите внимание на инновационные этапы в системе связи: Longtech Fiber, Taicheng Light, Shengkai Communication и др.
Основное внимание следует уделить балансу между инновациями по снижению затрат, открытой экосистемой и масштабом вычислительной мощности.
Отслеживание динамики новых технологий, понимание изменений в спросе на компоненты, вызванных этим.
Системная инженерия сети — это результат совместных инноваций и усилий множества этапов, и ее инвестиционные возможности становятся более ясными и последовательными. При этом, помимо охвата основных этапов, также необходимо активно следить за новыми возможностями, возникающими в результате инноваций.