Da "alquimia" do grande modelo ao novo modo de Poder de computação
A onda de treinamento de grandes modelos é forte, mas a escassez de GPUs de alto desempenho e os altos custos de poder de computação tornaram-se problemas difíceis para a indústria. As empresas estão buscando métodos inovadores para enfrentar os desafios, enquanto os serviços de poder de computação também estão se tornando um novo modelo de negócios.
Treinar modelos de IA em larga escala requer um grande suporte de Poder de computação. Usando um grande modelo meteorológico como exemplo, apenas o uso de 200 placas GPU durante dois meses de treinamento pode custar mais de 2 milhões de yuans. E para modelos gerais, o custo de treinamento pode chegar a dezenas de milhões de yuans. Isso torna difícil para muitas pequenas e médias empresas suportarem.
Diante da situação em que é difícil encontrar placas de GPU de alta gama, as empresas adotaram várias estratégias de resposta:
Melhorar a qualidade dos dados, aumentar a eficiência do treinamento
Otimizar a infraestrutura para garantir a operação estável de clusters em larga escala
Melhorar o agendamento de recursos de poder de computação, aumentar a utilização
Adotar uma arquitetura de supercomputação em vez de uma arquitetura de computação em nuvem
Usar plataformas de GPU nacionais em vez de produtos da Nvidia
Entretanto, os serviços de poder de computação estão a formar novas cadeias de indústria e modelos de negócios. A montante, são fornecidos recursos básicos de poder de computação; a meio, é responsável pela produção e agendamento do poder de computação; a jusante, encontram-se os utilizadores do setor. Os fornecedores de serviços em nuvem e os prestadores de serviços de poder de computação especializados estão a tornar-se papéis importantes a meio.
O serviço de poder de computação adotará principalmente dois modelos: pagamento por uso e pagamento anual ou mensal. Os usuários podem escolher diferentes formas, como instâncias de GPU ou plataformas MaaS. No futuro, também será promovida a "integração de poder de computação e rede", permitindo uma programação flexível entre diferentes arquiteturas e regiões.
Embora a indústria atual esteja ansiosa por garantir recursos de GPU de alta gama, a longo prazo, a serviço de poder de computação é uma tendência inevitável. Os prestadores de serviços de poder de computação precisam se preparar com antecedência para a transformação após o retorno à racionalidade do mercado.
Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
10 Curtidas
Recompensa
10
5
Compartilhar
Comentário
0/400
PoetryOnChain
· 22h atrás
O custo da alquimia é tão alto, não é à toa que é uma arte mágica.
Ver originalResponder0
ForeverBuyingDips
· 22h atrás
As placas de mineração são muito procuradas.
Ver originalResponder0
LootboxPhobia
· 22h atrás
200w de custos de treino fazer as pessoas de parvas现场吧
Ver originalResponder0
OnchainDetective
· 22h atrás
O truque de que o Poder de computação queima dinheiro é evidente, os dados são totalmente rastreáveis na cadeia.
Ver originalResponder0
StablecoinGuardian
· 22h atrás
Se você não pode jogar, não jogue. Se não pode comprar uma placa gráfica, não espere fazer alquimia.
O treinamento de grandes modelos entra em uma nova fase, e o Poder de computação como serviço se torna uma tendência futura.
Da "alquimia" do grande modelo ao novo modo de Poder de computação
A onda de treinamento de grandes modelos é forte, mas a escassez de GPUs de alto desempenho e os altos custos de poder de computação tornaram-se problemas difíceis para a indústria. As empresas estão buscando métodos inovadores para enfrentar os desafios, enquanto os serviços de poder de computação também estão se tornando um novo modelo de negócios.
Treinar modelos de IA em larga escala requer um grande suporte de Poder de computação. Usando um grande modelo meteorológico como exemplo, apenas o uso de 200 placas GPU durante dois meses de treinamento pode custar mais de 2 milhões de yuans. E para modelos gerais, o custo de treinamento pode chegar a dezenas de milhões de yuans. Isso torna difícil para muitas pequenas e médias empresas suportarem.
Diante da situação em que é difícil encontrar placas de GPU de alta gama, as empresas adotaram várias estratégias de resposta:
Entretanto, os serviços de poder de computação estão a formar novas cadeias de indústria e modelos de negócios. A montante, são fornecidos recursos básicos de poder de computação; a meio, é responsável pela produção e agendamento do poder de computação; a jusante, encontram-se os utilizadores do setor. Os fornecedores de serviços em nuvem e os prestadores de serviços de poder de computação especializados estão a tornar-se papéis importantes a meio.
O serviço de poder de computação adotará principalmente dois modelos: pagamento por uso e pagamento anual ou mensal. Os usuários podem escolher diferentes formas, como instâncias de GPU ou plataformas MaaS. No futuro, também será promovida a "integração de poder de computação e rede", permitindo uma programação flexível entre diferentes arquiteturas e regiões.
Embora a indústria atual esteja ansiosa por garantir recursos de GPU de alta gama, a longo prazo, a serviço de poder de computação é uma tendência inevitável. Os prestadores de serviços de poder de computação precisam se preparar com antecedência para a transformação após o retorno à racionalidade do mercado.