Мережа відіграє ключову роль в епоху великих моделей ШІ. Зі збільшенням масштабів моделей, багатосерверні кластери стали основним способом вирішення проблеми навчання, що також заклало основу для "вищого" статусу мережі в епоху ШІ. На відміну від минулого, коли мережа використовувалась лише для передачі даних, сьогодні мережа більше використовується для синхронізації параметрів моделей між графічними процесорами, що висуває вищі вимоги до густини та ємності мережі.
Попит на мережу в основному походить з трьох аспектів:
Великий обсяг моделі: час навчання пропорційний кількості параметрів моделі, а швидкість обчислення на одному пристрої обмежена, тому те, як використовувати мережу для збільшення "кількості пристроїв" та "паралельної ефективності", безпосередньо визначає обчислювальну потужність.
Складна комунікація для синхронізації декількох карт: після розподілу моделі на одну карту, кожен обчислення потребує вирівнювання, що висуває вищі вимоги до мережевої передачі та обміну.
Високі витрати на збій: навчання великих моделей триває кілька місяців, і перерви можуть призвести до величезних втрат. Мережа стала складною системною інженерією, що порівнянна з літаками та авіаносцями.
Мережеві інновації в основному зосереджені на наступних напрямках:
Зміна комунікаційних середовищ: три основні середовища - світло, мідь і кремній - мають свої переваги, нові технології, такі як LPO та кремнієва оптика, допомагають знизити витрати.
Конкуренція мережевих протоколів: міжконтактні комунікаційні протоколи NV-LINK, Infinity Fabric тощо змагаються з комунікаційними протоколами між вузлами, такими як IB, Ethernet.
Зміни в мережевій архітектурі: нові архітектури, такі як Dragonfly та rail-only, можуть стати еволюційним напрямком для надвеликих кластерів, крім архітектури leaf-spine.
Інвестиційні рекомендації слід зосередити на компаніях, пов'язаних із ключовими елементами комунікаційних систем та інноваціями. У майбутньому інновації в мережі шукатимуть баланс між "зниженням витрат", "відкритістю" та масштабами обробки даних.
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
16 лайків
Нагородити
16
5
Поділіться
Прокоментувати
0/400
PermabullPete
· 07-31 19:20
Інфраструктура ремонтується, починаємо!
Переглянути оригіналвідповісти на0
MoonlightGamer
· 07-30 18:18
Продаж мережевих карт на короткій позиції
Переглянути оригіналвідповісти на0
OnchainSniper
· 07-29 04:20
Вартість мережі занадто висока, чи не так?
Переглянути оригіналвідповісти на0
MevShadowranger
· 07-29 04:19
Обчислювальна потужність підтримає оновлення найважливіше
Зростання попиту на мережу в епоху ШІ: інноваційні напрямки зосереджені на зниженні витрат та відкритості
Мережа епохи ШІ: попит та інновації
Мережа відіграє ключову роль в епоху великих моделей ШІ. Зі збільшенням масштабів моделей, багатосерверні кластери стали основним способом вирішення проблеми навчання, що також заклало основу для "вищого" статусу мережі в епоху ШІ. На відміну від минулого, коли мережа використовувалась лише для передачі даних, сьогодні мережа більше використовується для синхронізації параметрів моделей між графічними процесорами, що висуває вищі вимоги до густини та ємності мережі.
Попит на мережу в основному походить з трьох аспектів:
Великий обсяг моделі: час навчання пропорційний кількості параметрів моделі, а швидкість обчислення на одному пристрої обмежена, тому те, як використовувати мережу для збільшення "кількості пристроїв" та "паралельної ефективності", безпосередньо визначає обчислювальну потужність.
Складна комунікація для синхронізації декількох карт: після розподілу моделі на одну карту, кожен обчислення потребує вирівнювання, що висуває вищі вимоги до мережевої передачі та обміну.
Високі витрати на збій: навчання великих моделей триває кілька місяців, і перерви можуть призвести до величезних втрат. Мережа стала складною системною інженерією, що порівнянна з літаками та авіаносцями.
Мережеві інновації в основному зосереджені на наступних напрямках:
Зміна комунікаційних середовищ: три основні середовища - світло, мідь і кремній - мають свої переваги, нові технології, такі як LPO та кремнієва оптика, допомагають знизити витрати.
Конкуренція мережевих протоколів: міжконтактні комунікаційні протоколи NV-LINK, Infinity Fabric тощо змагаються з комунікаційними протоколами між вузлами, такими як IB, Ethernet.
Зміни в мережевій архітектурі: нові архітектури, такі як Dragonfly та rail-only, можуть стати еволюційним напрямком для надвеликих кластерів, крім архітектури leaf-spine.
Інвестиційні рекомендації слід зосередити на компаніях, пов'язаних із ключовими елементами комунікаційних систем та інноваціями. У майбутньому інновації в мережі шукатимуть баланс між "зниженням витрат", "відкритістю" та масштабами обробки даних.