AI時代網路演進:從需求到創新 解析大模型時代網路關鍵角色

robot
摘要生成中

AI時代網路的演進:從需求到創新

隨着大模型時代的到來,網路已成爲AI系統中的關鍵一環。本文將從原理出發,探討網路爲何成爲AI時代的"C位",並討論未來網路側的創新與投資機會。

網路需求的來源

  1. 模型體積日益龐大,單卡算力上限與模型規模差距拉大,需要多服務器集羣解決訓練問題。

  2. 網路不僅用於傳輸數據,更多用於同步顯卡間的模型參數,對網路密度和容量提出更高要求。

  3. 訓練耗時與計算速率密切相關,而計算速率取決於單設備速率、設備數量和多設備並行效率。網路對後兩項起關鍵作用。

  4. 多卡訓練中,每次計算後都需進行參數對齊,對網路傳輸和交換提出高要求。

  5. 大模型訓練持續數月,網路故障可能導致巨大損失,對系統穩定性要求極高。

網路創新方向

  1. 通信介質更迭:光、銅與硅三大介質各有優勢,正向LPO、LRO、硅光等降本方向發展。

  2. 網路協議競爭:節點內通信協議與顯卡綁定,節點間通信以IB和以太網爲主。

  3. 網路架構變化:從葉脊架構向Dragonfly架構、rail-only架構等方向演進,以適應超大集羣需求。

投資建議

  1. 關注通信系統核心環節:中際旭創、新易盛、天孚通信等。

  2. 關注通信系統創新環節:長飛光纖、太辰光、盛科通信等。

  3. 重點關注降本創新、開放生態和算力規模的平衡。

  4. 跟蹤新技術動態,把握由此帶來的元器件需求變化。

網路系統工程是由衆多環節共同創新和努力完成的,其投資機會更加明確可循。在把握核心環節的同時,也要積極關注創新帶來的新機遇。

ETH1.57%
查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 讚賞
  • 8
  • 分享
留言
0/400
ApeDegenvip
· 16小時前
这也太卷了吧现在卡都要并行干活
回復0
ResearchChadButBrokevip
· 08-05 16:03
啧啧 又是一波割韭菜的机会来了
回復0
格局打开器vip
· 08-03 03:45
网络密度啊啥的都整明白了 就差钱了
回復0
空气币品鉴大师vip
· 08-03 03:45
跟风炒作而已 一切皆为镰刀
回復0
EthMaximalistvip
· 08-03 03:44
芯片都不够用了还搁这谈网络呢
回復0
SorryRugPulledvip
· 08-03 03:44
又在画饼 等一个铁大顶
回復0
CoffeeNFTradervip
· 08-03 03:33
炒高潜ai和网络股,稳了
回復0
Liquidation_Watchervip
· 08-03 03:25
嗯 N卡快被掏空了
回復0
交易,隨時隨地
qrCode
掃碼下載 Gate APP
社群列表
繁體中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)