Évolution du réseau à l'ère de l'IA : de la demande à l'innovation
Avec l'avènement de l'ère des grands modèles, le réseau est devenu un élément clé des systèmes d'IA. Cet article partira des principes pour explorer pourquoi le réseau est devenu le "C position" à l'ère de l'IA, et discutera des opportunités d'innovation et d'investissement du côté des réseaux à l'avenir.
Sources de la demande réseau
La taille des modèles devient de plus en plus grande, la limite de puissance de calcul d'une seule carte s'écarte de l'échelle du modèle, nécessitant des solutions de formation par des clusters de serveurs multiples.
Le réseau n'est pas seulement utilisé pour transmettre des données, mais surtout pour synchroniser les paramètres des modèles entre les cartes graphiques, ce qui nécessite des exigences plus élevées en termes de densité et de capacité du réseau.
Le temps d'entraînement est étroitement lié à la vitesse de calcul, qui dépend du taux d'un seul appareil, du nombre d'appareils et de l'efficacité du parallélisme multi-appareils. Le réseau joue un rôle clé dans les deux derniers.
Dans l'entraînement multi-cartes, il est nécessaire d'effectuer un alignement des paramètres après chaque calcul, ce qui impose de fortes exigences sur le transport et l'échange de réseau.
L'entraînement de grands modèles dure plusieurs mois, des pannes réseau peuvent entraîner d'énormes pertes, ce qui exige une stabilité du système très élevée.
Direction d'innovation réseau
Évolution des supports de communication : la lumière, le cuivre et le silicium ont chacun leurs avantages, et se dirigent vers des directions de réduction des coûts telles que LPO, LRO et le silicium optique.
Concurrence des protocoles réseau : le protocole de communication interne des nœuds est lié aux cartes graphiques, et la communication entre nœuds est principalement basée sur IB et Ethernet.
Changement d'architecture réseau : évolution de l'architecture en étoile vers l'architecture Dragonfly, l'architecture rail-only, etc., pour répondre aux besoins des très grands clusters.
Conseils d'investissement
Surveillez les segments clés des systèmes de communication : Zhongji Xuchuang, New Yi Sheng, Tianfu Communication, etc.
Suivre l'innovation dans le système de communication : Yangtze Optical Fibre, Taiyuan Satellite, Shengke Communication, etc.
Se concentrer sur l'équilibre entre l'innovation de réduction des coûts, l'écosystème ouvert et l'échelle de calcul.
Suivre l'évolution des nouvelles technologies et saisir les changements de demande en composants qui en découlent.
L'ingénierie des systèmes réseau est le résultat d'une innovation et d'efforts conjoints de nombreux maillons, et ses opportunités d'investissement sont plus claires et traçables. Tout en saisissant les maillons essentiels, il est également important de se concentrer activement sur les nouvelles opportunités apportées par l'innovation.
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
20 J'aime
Récompense
20
8
Partager
Commentaire
0/400
ApeDegen
· Il y a 16h
C'est trop compétitif maintenant, même les cartes doivent travailler en parallèle.
Voir l'originalRépondre0
ResearchChadButBroke
· 08-05 16:03
Zut zut, une autre opportunité de se faire prendre pour des cons arrive.
Voir l'originalRépondre0
MindsetExpander
· 08-03 03:45
J'ai compris la densité du réseau et tout ça, il ne me manque plus que l'argent.
Voir l'originalRépondre0
ShitcoinConnoisseur
· 08-03 03:45
C'est juste de la spéculation, tout cela n'est qu'une faux.
Voir l'originalRépondre0
EthMaximalist
· 08-03 03:44
On n'a même pas assez de puces et on parle encore de réseau.
Voir l'originalRépondre0
SorryRugPulled
· 08-03 03:44
Encore en train de faire des promesses en l'air, attendant un grand sommet de fer.
Voir l'originalRépondre0
CoffeeNFTrader
· 08-03 03:33
Faites monter les actions d'AI et des réseaux, c'est stable.
Évolution du réseau à l'ère de l'IA : de la demande à l'innovation, analyse des rôles clés du réseau à l'ère des grands modèles.
Évolution du réseau à l'ère de l'IA : de la demande à l'innovation
Avec l'avènement de l'ère des grands modèles, le réseau est devenu un élément clé des systèmes d'IA. Cet article partira des principes pour explorer pourquoi le réseau est devenu le "C position" à l'ère de l'IA, et discutera des opportunités d'innovation et d'investissement du côté des réseaux à l'avenir.
Sources de la demande réseau
La taille des modèles devient de plus en plus grande, la limite de puissance de calcul d'une seule carte s'écarte de l'échelle du modèle, nécessitant des solutions de formation par des clusters de serveurs multiples.
Le réseau n'est pas seulement utilisé pour transmettre des données, mais surtout pour synchroniser les paramètres des modèles entre les cartes graphiques, ce qui nécessite des exigences plus élevées en termes de densité et de capacité du réseau.
Le temps d'entraînement est étroitement lié à la vitesse de calcul, qui dépend du taux d'un seul appareil, du nombre d'appareils et de l'efficacité du parallélisme multi-appareils. Le réseau joue un rôle clé dans les deux derniers.
Dans l'entraînement multi-cartes, il est nécessaire d'effectuer un alignement des paramètres après chaque calcul, ce qui impose de fortes exigences sur le transport et l'échange de réseau.
L'entraînement de grands modèles dure plusieurs mois, des pannes réseau peuvent entraîner d'énormes pertes, ce qui exige une stabilité du système très élevée.
Direction d'innovation réseau
Évolution des supports de communication : la lumière, le cuivre et le silicium ont chacun leurs avantages, et se dirigent vers des directions de réduction des coûts telles que LPO, LRO et le silicium optique.
Concurrence des protocoles réseau : le protocole de communication interne des nœuds est lié aux cartes graphiques, et la communication entre nœuds est principalement basée sur IB et Ethernet.
Changement d'architecture réseau : évolution de l'architecture en étoile vers l'architecture Dragonfly, l'architecture rail-only, etc., pour répondre aux besoins des très grands clusters.
Conseils d'investissement
Surveillez les segments clés des systèmes de communication : Zhongji Xuchuang, New Yi Sheng, Tianfu Communication, etc.
Suivre l'innovation dans le système de communication : Yangtze Optical Fibre, Taiyuan Satellite, Shengke Communication, etc.
Se concentrer sur l'équilibre entre l'innovation de réduction des coûts, l'écosystème ouvert et l'échelle de calcul.
Suivre l'évolution des nouvelles technologies et saisir les changements de demande en composants qui en découlent.
L'ingénierie des systèmes réseau est le résultat d'une innovation et d'efforts conjoints de nombreux maillons, et ses opportunités d'investissement sont plus claires et traçables. Tout en saisissant les maillons essentiels, il est également important de se concentrer activement sur les nouvelles opportunités apportées par l'innovation.