De "refinar el elixir" con grandes modelos a un nuevo modelo de potencia computacional
A pesar de la gran ola de entrenamiento de modelos, la escasez de GPU de alta gama y el alto costo de la Potencia computacional se han convertido en un problema para la industria. Las empresas están buscando métodos innovadores para enfrentar los desafíos, mientras que el servicio de Potencia computacional se está convirtiendo en un nuevo modelo de negocio.
Entrenar modelos de IA a gran escala requiere un gran soporte de potencia computacional. Tomando como ejemplo un gran modelo meteorológico, solo usando 200 tarjetas GPU durante dos meses de entrenamiento, el costo podría superar los 2 millones de yuanes. Y para un modelo general, el costo de entrenamiento podría alcanzar decenas de millones de yuanes. Esto hace que muchas pequeñas y medianas empresas no puedan soportarlo.
Ante la difícil situación de escasez de tarjetas GPU de alta gama, las empresas han adoptado diversas estrategias de respuesta:
Mejorar la calidad de los datos, aumentar la eficiencia del entrenamiento
Optimizar la infraestructura para lograr un funcionamiento estable de clústeres a gran escala
Mejorar la programación de la potencia computacional y aumentar la tasa de utilización
Adoptar una arquitectura de supercomputación en lugar de una arquitectura de computación en la nube
Utilizar plataformas de GPU nacionales en lugar de productos de Nvidia
Al mismo tiempo, los servicios de potencia computacional están formando nuevas cadenas industriales y modelos de negocio. La parte superior proporciona recursos básicos de potencia computacional, la parte media se encarga de la producción y programación de la potencia computacional, y la parte inferior son los usuarios de la industria. Los proveedores de servicios en la nube y los proveedores de servicios de potencia computacional profesionales están convirtiéndose en roles importantes en la parte media.
El servicio de potencia computacional se basa principalmente en dos modelos: facturación por uso y suscripción anual o mensual. Los usuarios pueden elegir entre diferentes formas, como instancias de GPU o plataformas MaaS. En el futuro, se promoverá la "integración de potencia computacional y red", logrando una programación flexible entre arquitecturas y regiones.
A pesar de que la industria actual está entusiasmada por competir por recursos de GPU de alta gama, a largo plazo, la servicio de potencia computacional es una tendencia inevitable. Los proveedores de servicios de potencia computacional necesitan prepararse con anticipación para la transformación tras el regreso a la racionalidad del mercado.
Ver originales
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
10 me gusta
Recompensa
10
5
Compartir
Comentar
0/400
PoetryOnChain
· hace22h
El costo de refinar el elixir es tan alto, no es de extrañar que sea una técnica divina.
Ver originalesResponder0
ForeverBuyingDips
· hace22h
Las tarjetas de minería son muy solicitadas.
Ver originalesResponder0
LootboxPhobia
· hace22h
200w costos de entrenamiento Ser engañados en el lugar.
Ver originalesResponder0
OnchainDetective
· hace22h
La trampa del dinero quemado por la potencia computacional es evidente, los datos son completamente rastreables en la cadena.
Ver originalesResponder0
StablecoinGuardian
· hace22h
Si no puedes jugar, no juegues. Si no puedes comprar una tarjeta gráfica, no esperes hacer alquimia.
El entrenamiento de grandes modelos entra en una nueva fase, la Potencia computacional como servicio se convierte en la tendencia futura.
De "refinar el elixir" con grandes modelos a un nuevo modelo de potencia computacional
A pesar de la gran ola de entrenamiento de modelos, la escasez de GPU de alta gama y el alto costo de la Potencia computacional se han convertido en un problema para la industria. Las empresas están buscando métodos innovadores para enfrentar los desafíos, mientras que el servicio de Potencia computacional se está convirtiendo en un nuevo modelo de negocio.
Entrenar modelos de IA a gran escala requiere un gran soporte de potencia computacional. Tomando como ejemplo un gran modelo meteorológico, solo usando 200 tarjetas GPU durante dos meses de entrenamiento, el costo podría superar los 2 millones de yuanes. Y para un modelo general, el costo de entrenamiento podría alcanzar decenas de millones de yuanes. Esto hace que muchas pequeñas y medianas empresas no puedan soportarlo.
Ante la difícil situación de escasez de tarjetas GPU de alta gama, las empresas han adoptado diversas estrategias de respuesta:
Al mismo tiempo, los servicios de potencia computacional están formando nuevas cadenas industriales y modelos de negocio. La parte superior proporciona recursos básicos de potencia computacional, la parte media se encarga de la producción y programación de la potencia computacional, y la parte inferior son los usuarios de la industria. Los proveedores de servicios en la nube y los proveedores de servicios de potencia computacional profesionales están convirtiéndose en roles importantes en la parte media.
El servicio de potencia computacional se basa principalmente en dos modelos: facturación por uso y suscripción anual o mensual. Los usuarios pueden elegir entre diferentes formas, como instancias de GPU o plataformas MaaS. En el futuro, se promoverá la "integración de potencia computacional y red", logrando una programación flexible entre arquitecturas y regiones.
A pesar de que la industria actual está entusiasmada por competir por recursos de GPU de alta gama, a largo plazo, la servicio de potencia computacional es una tendencia inevitable. Los proveedores de servicios de potencia computacional necesitan prepararse con anticipación para la transformación tras el regreso a la racionalidad del mercado.