La evolución de la red en la era de la IA: de la demanda a la innovación
Con la llegada de la era de los grandes modelos, la red se ha convertido en un componente clave de los sistemas de IA. Este artículo partirá de los principios para explorar por qué la red se ha convertido en la "posición central" de la era de la IA, y discutirá las oportunidades de innovación e inversión en el lado de la red en el futuro.
Fuentes de la demanda de red
El tamaño del modelo se está volviendo cada vez más grande, la capacidad de cálculo de una sola tarjeta se aleja del tamaño del modelo, lo que requiere una solución de entrenamiento mediante un clúster de múltiples servidores.
La red no solo se utiliza para transmitir datos, sino que se usa más para sincronizar los parámetros del modelo entre las tarjetas gráficas, lo que plantea mayores exigencias en cuanto a la densidad y la capacidad de la red.
El tiempo de entrenamiento está estrechamente relacionado con la velocidad de cálculo, y la velocidad de cálculo depende de la tasa de un solo dispositivo, la cantidad de dispositivos y la eficiencia de paralelización de múltiples dispositivos. La red juega un papel clave en los dos últimos.
En el entrenamiento con múltiples tarjetas, se requiere realizar la alineación de parámetros después de cada cálculo, lo que impone altas exigencias a la transmisión y el intercambio de red.
El entrenamiento de grandes modelos dura varios meses, y las fallas en la red pueden causar pérdidas enormes, lo que requiere una estabilidad del sistema extremadamente alta.
Dirección de Innovación en la Red
Cambio de medios de comunicación: La luz, el cobre y el silicio tienen sus propias ventajas, y están evolucionando hacia direcciones de reducción de costos como LPO, LRO y fotónica de silicio.
Competencia de protocolos de red: el protocolo de comunicación dentro del nodo está vinculado a la tarjeta gráfica, mientras que la comunicación entre nodos se basa principalmente en IB y Ethernet.
Cambios en la arquitectura de red: evolución de la arquitectura de hoja y raíz hacia arquitecturas como Dragonfly y rail-only, para adaptarse a las necesidades de clústeres de gran tamaño.
Consejos de inversión
Prestar atención a los elementos clave del sistema de comunicación: Zhongji Xuchuang, Xinyi Sheng, Tianfu Communication, etc.
Prestar atención a la innovación en el sistema de comunicación: Yangtze Optical Fiber, Tainav, Shengke Communications, etc.
Enfocarse en el equilibrio entre la innovación en la reducción de costos, el ecosistema abierto y la escala de la potencia de cálculo.
Rastrear las tendencias de nuevas tecnologías y captar los cambios en la demanda de componentes resultantes.
La ingeniería de sistemas de red es el resultado de la innovación y el esfuerzo conjunto de múltiples etapas, y sus oportunidades de inversión son más claras y accesibles. Al captar los elementos clave, también es importante prestar atención a las nuevas oportunidades que surgen de la innovación.
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
20 me gusta
Recompensa
20
8
Compartir
Comentar
0/400
ApeDegen
· hace16h
Esto es demasiado competitivo, ahora las tarjetas tienen que trabajar en paralelo.
Ver originalesResponder0
ResearchChadButBroke
· 08-05 16:03
Tsk tsk, otra oportunidad para tomar a la gente por tonta ha llegado.
Ver originalesResponder0
MindsetExpander
· 08-03 03:45
Ya he entendido todo sobre la densidad de la red y esas cosas, solo me falta el dinero.
Ver originalesResponder0
ShitcoinConnoisseur
· 08-03 03:45
Solo es una burbuja creada por el seguimiento, todo es una guadaña.
Ver originalesResponder0
EthMaximalist
· 08-03 03:44
Con los chips escasos, ¿cómo se puede hablar de redes?
Ver originalesResponder0
SorryRugPulled
· 08-03 03:44
Otra vez dibujando una torta, esperando un gran pico de hierro.
Ver originalesResponder0
CoffeeNFTrader
· 08-03 03:33
Aumentar las acciones de IA y de internet, está estable.
Evolución de la red en la era de la IA: de la demanda a la innovación, análisis de los roles clave de la red en la era de los grandes modelos
La evolución de la red en la era de la IA: de la demanda a la innovación
Con la llegada de la era de los grandes modelos, la red se ha convertido en un componente clave de los sistemas de IA. Este artículo partirá de los principios para explorar por qué la red se ha convertido en la "posición central" de la era de la IA, y discutirá las oportunidades de innovación e inversión en el lado de la red en el futuro.
Fuentes de la demanda de red
El tamaño del modelo se está volviendo cada vez más grande, la capacidad de cálculo de una sola tarjeta se aleja del tamaño del modelo, lo que requiere una solución de entrenamiento mediante un clúster de múltiples servidores.
La red no solo se utiliza para transmitir datos, sino que se usa más para sincronizar los parámetros del modelo entre las tarjetas gráficas, lo que plantea mayores exigencias en cuanto a la densidad y la capacidad de la red.
El tiempo de entrenamiento está estrechamente relacionado con la velocidad de cálculo, y la velocidad de cálculo depende de la tasa de un solo dispositivo, la cantidad de dispositivos y la eficiencia de paralelización de múltiples dispositivos. La red juega un papel clave en los dos últimos.
En el entrenamiento con múltiples tarjetas, se requiere realizar la alineación de parámetros después de cada cálculo, lo que impone altas exigencias a la transmisión y el intercambio de red.
El entrenamiento de grandes modelos dura varios meses, y las fallas en la red pueden causar pérdidas enormes, lo que requiere una estabilidad del sistema extremadamente alta.
Dirección de Innovación en la Red
Cambio de medios de comunicación: La luz, el cobre y el silicio tienen sus propias ventajas, y están evolucionando hacia direcciones de reducción de costos como LPO, LRO y fotónica de silicio.
Competencia de protocolos de red: el protocolo de comunicación dentro del nodo está vinculado a la tarjeta gráfica, mientras que la comunicación entre nodos se basa principalmente en IB y Ethernet.
Cambios en la arquitectura de red: evolución de la arquitectura de hoja y raíz hacia arquitecturas como Dragonfly y rail-only, para adaptarse a las necesidades de clústeres de gran tamaño.
Consejos de inversión
Prestar atención a los elementos clave del sistema de comunicación: Zhongji Xuchuang, Xinyi Sheng, Tianfu Communication, etc.
Prestar atención a la innovación en el sistema de comunicación: Yangtze Optical Fiber, Tainav, Shengke Communications, etc.
Enfocarse en el equilibrio entre la innovación en la reducción de costos, el ecosistema abierto y la escala de la potencia de cálculo.
Rastrear las tendencias de nuevas tecnologías y captar los cambios en la demanda de componentes resultantes.
La ingeniería de sistemas de red es el resultado de la innovación y el esfuerzo conjunto de múltiples etapas, y sus oportunidades de inversión son más claras y accesibles. Al captar los elementos clave, también es importante prestar atención a las nuevas oportunidades que surgen de la innovación.