Poder de computação torna-se um novo modelo de serviço, a revolução trazida pela onda dos grandes modelos

Recentemente, a demanda por treinamento de grandes modelos disparou, e as GPUs de alto desempenho estão em falta, tornando-se um tópico quente na indústria. O preço de uma placa gráfica NVIDIA A100 disparou para mais de 200 mil yuans, e o aluguel mensal também alcançou entre 50 a 70 mil yuans. Apesar disso, ainda há empresas enfrentando problemas como fornecedores que não cumprem.

Esta escassez de poder de computação será difícil de resolver a curto prazo. Especialistas afirmam que, sem um investimento de bilhões, será difícil continuar a desenvolver grandes modelos. Alguns empreendedores acreditam que, sem o apoio de centenas de bilhões ou trilhões, este caminho será difícil de percorrer.

Diante dessa situação, é amplamente acreditado na indústria que, à medida que o mercado passa da euforia para a racionalidade, as empresas ajustarão suas estratégias para controlar custos em resposta às mudanças nas expectativas.

Para lidar com a escassez de Poder de computação, as empresas adotaram várias métodos:

1. Usar dados de alta qualidade para melhorar a eficiência do treinamento
2. Melhorar a estabilidade da infraestrutura, alcançando um funcionamento estável a longo prazo de mil calorias
3. Otimização do agendamento de recursos da placa de poder de computação, para alcançar um agendamento distribuído refinado.
4. Aumentar a velocidade da rede, evitar interrupções no treinamento
5. Transição da arquitetura de computação em nuvem para a arquitetura de supercomputação
6. Usar plataformas nacionais em vez de GPUs da Nvidia

Esses métodos exigem uma forte capacidade técnica, geralmente as empresas têm dificuldade em atender às necessidades por meio da construção de seus próprios centros de dados, optando frequentemente por apoiar-se em prestadores de serviços de poder de computação especializados.

Na verdade, o "Poder de computação do grande modelo" que estamos competindo se tornou um novo modelo de serviço. O serviço de poder de computação é um campo emergente que se baseia na diversidade do poder de computação, conecta-se através de redes de poder de computação e tem como objetivo fornecer efetivamente poder de computação. Ele não inclui apenas o poder de computação, mas também encapsula recursos como armazenamento e rede, entregues na forma de APIs.

Na cadeia industrial de poder de computação, os fornecedores de recursos básicos estão na parte superior, os que oferecem serviços de poder de computação estão no meio, e os usuários do setor estão na parte inferior. Em comparação com a construção de um ambiente próprio, usar serviços de poder de computação é mais vantajoso em termos de custo e tecnologia.

Atualmente, os serviços de poder de computação são principalmente cobrados de duas maneiras: pagamento por uso e pagamento anual ou mensal. No futuro, será promovida a "integração e fusão do poder de computação e da rede", apoiando a alocação de recursos entre diferentes arquiteturas, regiões e provedores de serviços.

Com a normalização da demanda por grandes modelos, os serviços de poder de computação estão rapidamente se desenvolvendo em uma cadeia de indústria e modelo de negócio únicos. Embora atualmente haja uma escassez de GPUs de alta gama, isso é apenas um fenômeno temporário. A longo prazo, os provedores de serviços de poder de computação devem se preparar para uma rápida mudança após o retorno à racionalidade do mercado.