A Evolução da Rede na Era da IA: Da Demanda à Inovação
Com a chegada da era dos grandes modelos, a rede tornou-se uma parte fundamental dos sistemas de IA. Este artigo irá explorar, a partir dos princípios, por que a rede se tornou o "lugar central" na era da IA e discutir as inovações e oportunidades de investimento futuras do lado da rede.
Origem da demanda na rede
O volume dos modelos está a aumentar, o limite de capacidade de cálculo por cartão está a distanciar-se da escala do modelo, sendo necessário resolver os problemas de treino com múltiplos clusters de servidores.
A rede não é apenas utilizada para a transmissão de dados, mas mais para sincronizar os parâmetros do modelo entre as placas gráficas, o que exige maiores requisitos de densidade e capacidade da rede.
O tempo de treino está intimamente relacionado à taxa de cálculo, e a taxa de cálculo depende da taxa de um único dispositivo, do número de dispositivos e da eficiência de paralelismo de múltiplos dispositivos. A rede desempenha um papel crucial nas duas últimas.
No treinamento com múltiplas placas, é necessário realizar o alinhamento de parâmetros após cada cálculo, o que impõe altas exigências à transmissão e troca de rede.
O treinamento de grandes modelos dura vários meses, falhas na rede podem causar enormes perdas, exigindo uma estabilidade do sistema extremamente alta.
Direção de Inovação em Rede
Mudança de meio de comunicação: as três principais mídias, luz, cobre e silício, têm suas vantagens e estão se desenvolvendo em direção à redução de custos, como LPO, LRO e silício fotônico.
Competição de protocolos de rede: protocolo de comunicação dentro do nó vinculado à placa gráfica, comunicação entre nós principalmente via IB e Ethernet.
Mudanças na arquitetura da rede: evolução da arquitetura Leaf-Spine para arquiteturas Dragonfly, rail-only, entre outras, para atender à demanda de super grandes clusters.
Sugestões de investimento
Focar nos principais elos do sistema de comunicação: Zhongji Xuchuang, New易盛, Tianfu Communication, entre outros.
Focar na inovação dos sistemas de comunicação: Yangtze Optical, Taiyuan Optical, Shengke Communication, entre outros.
Focar na inovação de redução de custos, na ecologia aberta e no equilíbrio da escala de computação.
Acompanhar as dinâmicas das novas tecnologias e entender as mudanças na demanda por componentes que daí resultam.
A engenharia de sistemas de rede é realizada por diversos elos que inovam conjuntamente e se esforçam para completar o trabalho, tornando as oportunidades de investimento mais claras e acessíveis. Ao compreender os elos principais, é também importante estar atento às novas oportunidades trazidas pela inovação.
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
20 Curtidas
Recompensa
20
8
Compartilhar
Comentário
0/400
ApeDegen
· 08-06 01:24
Isto está muito competitivo, agora os cartões têm que trabalhar em paralelo.
Ver originalResponder0
ResearchChadButBroke
· 08-05 16:03
啧啧 又是一波 fazer as pessoas de parvas de oportunidade来了
Ver originalResponder0
MindsetExpander
· 08-03 03:45
A densidade da rede e essas coisas já estão claras, só falta o dinheiro.
Ver originalResponder0
ShitcoinConnoisseur
· 08-03 03:45
É apenas uma especulação seguindo a moda, tudo é uma foice.
Ver originalResponder0
EthMaximalist
· 08-03 03:44
Os chips já não são suficientes e ainda estamos a falar de rede.
Ver originalResponder0
SorryRugPulled
· 08-03 03:44
Mais uma vez a desenhar sonhos, à espera de um grande topo de ferro.
Ver originalResponder0
CoffeeNFTrader
· 08-03 03:33
Focar em ações de alta potencial em IA e tecnologia, estabilizou.
Evolução da rede na era da IA: da demanda à inovação, análise dos papéis-chave da rede na era dos grandes modelos
A Evolução da Rede na Era da IA: Da Demanda à Inovação
Com a chegada da era dos grandes modelos, a rede tornou-se uma parte fundamental dos sistemas de IA. Este artigo irá explorar, a partir dos princípios, por que a rede se tornou o "lugar central" na era da IA e discutir as inovações e oportunidades de investimento futuras do lado da rede.
Origem da demanda na rede
O volume dos modelos está a aumentar, o limite de capacidade de cálculo por cartão está a distanciar-se da escala do modelo, sendo necessário resolver os problemas de treino com múltiplos clusters de servidores.
A rede não é apenas utilizada para a transmissão de dados, mas mais para sincronizar os parâmetros do modelo entre as placas gráficas, o que exige maiores requisitos de densidade e capacidade da rede.
O tempo de treino está intimamente relacionado à taxa de cálculo, e a taxa de cálculo depende da taxa de um único dispositivo, do número de dispositivos e da eficiência de paralelismo de múltiplos dispositivos. A rede desempenha um papel crucial nas duas últimas.
No treinamento com múltiplas placas, é necessário realizar o alinhamento de parâmetros após cada cálculo, o que impõe altas exigências à transmissão e troca de rede.
O treinamento de grandes modelos dura vários meses, falhas na rede podem causar enormes perdas, exigindo uma estabilidade do sistema extremamente alta.
Direção de Inovação em Rede
Mudança de meio de comunicação: as três principais mídias, luz, cobre e silício, têm suas vantagens e estão se desenvolvendo em direção à redução de custos, como LPO, LRO e silício fotônico.
Competição de protocolos de rede: protocolo de comunicação dentro do nó vinculado à placa gráfica, comunicação entre nós principalmente via IB e Ethernet.
Mudanças na arquitetura da rede: evolução da arquitetura Leaf-Spine para arquiteturas Dragonfly, rail-only, entre outras, para atender à demanda de super grandes clusters.
Sugestões de investimento
Focar nos principais elos do sistema de comunicação: Zhongji Xuchuang, New易盛, Tianfu Communication, entre outros.
Focar na inovação dos sistemas de comunicação: Yangtze Optical, Taiyuan Optical, Shengke Communication, entre outros.
Focar na inovação de redução de custos, na ecologia aberta e no equilíbrio da escala de computação.
Acompanhar as dinâmicas das novas tecnologias e entender as mudanças na demanda por componentes que daí resultam.
A engenharia de sistemas de rede é realizada por diversos elos que inovam conjuntamente e se esforçam para completar o trabalho, tornando as oportunidades de investimento mais claras e acessíveis. Ao compreender os elos principais, é também importante estar atento às novas oportunidades trazidas pela inovação.