De la "fabrication de pilules" par de grands modèles à un nouveau mode de puissance de calcul
Bien que la vague d'entraînement des grands modèles soit forte, la pénurie de GPU haut de gamme et le coût élevé de la puissance de calcul sont devenus des problèmes pour l'industrie. Les entreprises cherchent des méthodes innovantes pour relever ces défis, tandis que les services de puissance de calcul deviennent également un nouveau modèle commercial.
L'entraînement de modèles d'IA à grande échelle nécessite un soutien en puissance de calcul énorme. Prenons l'exemple d'un grand modèle météorologique, où l'utilisation de seulement 200 cartes GPU pendant deux mois d'entraînement pourrait coûter plus de 2 millions de yuans. En ce qui concerne les grands modèles généraux, le coût d'entraînement pourrait atteindre des dizaines de millions de yuans. Cela rend difficile pour de nombreuses petites et moyennes entreprises de supporter ces coûts.
Face à la situation où les cartes GPU haut de gamme sont difficiles à obtenir, les entreprises ont adopté diverses stratégies d'adaptation :
Améliorer la qualité des données, augmenter l'efficacité de l'entraînement
Optimiser l'infrastructure pour assurer un fonctionnement stable des grands clusters
Améliorer la planification des ressources de puissance de calcul, augmenter le taux d'utilisation
Adopter une architecture de supercalculateur pour remplacer l'architecture de cloud computing
Utiliser une plateforme GPU nationale à la place des produits Nvidia
En parallèle, les services de puissance de calcul sont en train de former une nouvelle chaîne industrielle et un nouveau modèle commercial. En amont, des ressources de puissance de calcul de base sont fournies, au milieu, la production et la gestion de la puissance de calcul sont assurées, et en aval, ce sont les utilisateurs industriels. Les fournisseurs de services cloud et les fournisseurs de services de puissance de calcul spécialisés deviennent des acteurs clés au milieu.
Les services de puissance de calcul adoptent principalement deux modèles : la facturation à la consommation et les forfaits annuels ou mensuels. Les utilisateurs peuvent choisir différentes formes telles que les instances GPU ou la plateforme MaaS. À l'avenir, nous promouvrons également l'"intégration de la puissance de calcul et du réseau" pour réaliser une allocation flexible à travers différentes architectures et régions.
Bien que l'industrie soit actuellement enthousiaste à l'idée de se battre pour les ressources GPU haut de gamme, à long terme, la service de puissance de calcul est une tendance inévitable. Les fournisseurs de services de puissance de calcul doivent se préparer à l'avance pour la transformation après le retour à la rationalité du marché.
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
10 J'aime
Récompense
10
5
Partager
Commentaire
0/400
PoetryOnChain
· Il y a 22h
Le coût de la fabrication d'élixirs est si élevé, c'est à juste titre une technique divine.
Voir l'originalRépondre0
ForeverBuyingDips
· Il y a 22h
Les cartes de minage sont toutes recherchées par les gens.
Voir l'originalRépondre0
LootboxPhobia
· Il y a 22h
Frais d'entraînement de 200w Se faire prendre pour des cons sur place
Voir l'originalRépondre0
OnchainDetective
· Il y a 22h
La stratégie de brûler de la puissance de calcul est évidente, les données sont entièrement traçables off-chain.
Voir l'originalRépondre0
StablecoinGuardian
· Il y a 22h
Si vous ne pouvez pas vous permettre, ne jouez pas. Si vous ne pouvez pas vous acheter une carte graphique, ne pensez pas à miner.
L'entraînement des grands modèles entre dans une nouvelle phase, la Puissance de calcul en tant que service devient une tendance future.
De la "fabrication de pilules" par de grands modèles à un nouveau mode de puissance de calcul
Bien que la vague d'entraînement des grands modèles soit forte, la pénurie de GPU haut de gamme et le coût élevé de la puissance de calcul sont devenus des problèmes pour l'industrie. Les entreprises cherchent des méthodes innovantes pour relever ces défis, tandis que les services de puissance de calcul deviennent également un nouveau modèle commercial.
L'entraînement de modèles d'IA à grande échelle nécessite un soutien en puissance de calcul énorme. Prenons l'exemple d'un grand modèle météorologique, où l'utilisation de seulement 200 cartes GPU pendant deux mois d'entraînement pourrait coûter plus de 2 millions de yuans. En ce qui concerne les grands modèles généraux, le coût d'entraînement pourrait atteindre des dizaines de millions de yuans. Cela rend difficile pour de nombreuses petites et moyennes entreprises de supporter ces coûts.
Face à la situation où les cartes GPU haut de gamme sont difficiles à obtenir, les entreprises ont adopté diverses stratégies d'adaptation :
En parallèle, les services de puissance de calcul sont en train de former une nouvelle chaîne industrielle et un nouveau modèle commercial. En amont, des ressources de puissance de calcul de base sont fournies, au milieu, la production et la gestion de la puissance de calcul sont assurées, et en aval, ce sont les utilisateurs industriels. Les fournisseurs de services cloud et les fournisseurs de services de puissance de calcul spécialisés deviennent des acteurs clés au milieu.
Les services de puissance de calcul adoptent principalement deux modèles : la facturation à la consommation et les forfaits annuels ou mensuels. Les utilisateurs peuvent choisir différentes formes telles que les instances GPU ou la plateforme MaaS. À l'avenir, nous promouvrons également l'"intégration de la puissance de calcul et du réseau" pour réaliser une allocation flexible à travers différentes architectures et régions.
Bien que l'industrie soit actuellement enthousiaste à l'idée de se battre pour les ressources GPU haut de gamme, à long terme, la service de puissance de calcul est une tendance inévitable. Les fournisseurs de services de puissance de calcul doivent se préparer à l'avance pour la transformation après le retour à la rationalité du marché.