La ola de grandes modelos impulsa nuevas oportunidades de negocio en servicios de potencia computacional, las empresas buscan adaptarse a la escasez de GPU.
Potencia computacional como nuevo modelo de servicio, la transformación traída por la ola de grandes modelos
Recientemente, la demanda de entrenamiento de modelos grandes ha aumentado drásticamente, y los GPU de alta gama son escasos, convirtiéndose en un tema candente en la industria. El precio de una tarjeta gráfica Nvidia A100 ha aumentado a más de 200,000 yuanes, y el alquiler mensual también ha alcanzado entre 50,000 y 70,000 yuanes. A pesar de esto, todavía hay empresas que enfrentan problemas con los proveedores que no cumplen.
Esta escasez de potencia computacional es difícil de resolver a corto plazo. Algunos expertos indican que sin una inversión de miles de millones, es difícil seguir desarrollando grandes modelos. Algunos emprendedores creen que sin el apoyo de cientos de miles de millones, este camino será difícil de seguir.
Ante esta situación, en la industria se considera generalmente que, a medida que el mercado pasa de la euforia a la racionalidad, las empresas ajustarán sus estrategias para controlar costos en función de los cambios en las expectativas.
Para hacer frente a la escasez de Potencia computacional, las empresas han adoptado varios métodos:
Utilizar datos de alta calidad para mejorar la eficiencia del entrenamiento
Mejorar la estabilidad de la infraestructura, lograr un funcionamiento estable a largo plazo de mil calorías.
Optimizar la programación de recursos de potencia computacional, logrando una programación distribuida detallada.
Aumentar la velocidad de la red, evitar interrupciones en el entrenamiento
De la arquitectura de computación en la nube a la arquitectura de supercomputación
Utilizar plataformas nacionales en lugar de GPU de Nvidia
Estos métodos requieren una capacidad técnica considerable, y por lo general, las empresas tienen dificultades para satisfacer la demanda mediante la construcción de sus propios centros de datos, optando en su lugar por el apoyo de proveedores especializados en potencia computacional.
De hecho, la "potencia computacional de grandes modelos" por la que estamos compitiendo se ha convertido en un nuevo modelo de servicio. El servicio de potencia computacional es un campo emergente que se basa en la diversidad de potencia computacional, se conecta a través de redes de potencia computacional y tiene como objetivo proporcionar potencia computacional de manera efectiva. No solo incluye potencia computacional, sino que también encapsula recursos como almacenamiento, redes, etc., que se entregan en forma de API.
En la cadena de la industria de la potencia computacional, los proveedores de recursos básicos están en la parte superior, los servicios de potencia computacional se ofrecen en la parte media, y los usuarios de la industria están en la parte inferior. En comparación con construir un entorno propio, el uso de servicios de potencia computacional tiene ventajas en costo y tecnología.
Actualmente, el servicio de potencia computacional se ofrece principalmente en dos modalidades: pago por uso y suscripción anual o mensual. En el futuro, se promoverá la "integración y fusión de la potencia computacional y la red", apoyando la programación de recursos a través de diferentes arquitecturas, regiones y proveedores de servicios.
Con la normalización de la demanda de grandes modelos, el servicio de potencia computacional está evolucionando rápidamente hacia una cadena de suministro y un modelo de negocio únicos. Aunque actualmente hay escasez de GPU de alta gama, esto es solo un fenómeno temporal. A largo plazo, los proveedores de servicios de potencia computacional deben prepararse para la rápida transformación que ocurrirá una vez que el mercado regrese a la racionalidad.
Ver originales
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
8 me gusta
Recompensa
8
5
Compartir
Comentar
0/400
MrRightClick
· 08-02 14:44
El precio es demasiado ridículo.
Ver originalesResponder0
LostBetweenChains
· 07-30 20:02
El patrocinador es la verdadera razón.
Ver originalesResponder0
WalletDivorcer
· 07-30 20:00
Los precios de las tarjetas gráficas se han disparado.
La ola de grandes modelos impulsa nuevas oportunidades de negocio en servicios de potencia computacional, las empresas buscan adaptarse a la escasez de GPU.
Potencia computacional como nuevo modelo de servicio, la transformación traída por la ola de grandes modelos
Recientemente, la demanda de entrenamiento de modelos grandes ha aumentado drásticamente, y los GPU de alta gama son escasos, convirtiéndose en un tema candente en la industria. El precio de una tarjeta gráfica Nvidia A100 ha aumentado a más de 200,000 yuanes, y el alquiler mensual también ha alcanzado entre 50,000 y 70,000 yuanes. A pesar de esto, todavía hay empresas que enfrentan problemas con los proveedores que no cumplen.
Esta escasez de potencia computacional es difícil de resolver a corto plazo. Algunos expertos indican que sin una inversión de miles de millones, es difícil seguir desarrollando grandes modelos. Algunos emprendedores creen que sin el apoyo de cientos de miles de millones, este camino será difícil de seguir.
Ante esta situación, en la industria se considera generalmente que, a medida que el mercado pasa de la euforia a la racionalidad, las empresas ajustarán sus estrategias para controlar costos en función de los cambios en las expectativas.
Para hacer frente a la escasez de Potencia computacional, las empresas han adoptado varios métodos:
Estos métodos requieren una capacidad técnica considerable, y por lo general, las empresas tienen dificultades para satisfacer la demanda mediante la construcción de sus propios centros de datos, optando en su lugar por el apoyo de proveedores especializados en potencia computacional.
De hecho, la "potencia computacional de grandes modelos" por la que estamos compitiendo se ha convertido en un nuevo modelo de servicio. El servicio de potencia computacional es un campo emergente que se basa en la diversidad de potencia computacional, se conecta a través de redes de potencia computacional y tiene como objetivo proporcionar potencia computacional de manera efectiva. No solo incluye potencia computacional, sino que también encapsula recursos como almacenamiento, redes, etc., que se entregan en forma de API.
En la cadena de la industria de la potencia computacional, los proveedores de recursos básicos están en la parte superior, los servicios de potencia computacional se ofrecen en la parte media, y los usuarios de la industria están en la parte inferior. En comparación con construir un entorno propio, el uso de servicios de potencia computacional tiene ventajas en costo y tecnología.
Actualmente, el servicio de potencia computacional se ofrece principalmente en dos modalidades: pago por uso y suscripción anual o mensual. En el futuro, se promoverá la "integración y fusión de la potencia computacional y la red", apoyando la programación de recursos a través de diferentes arquitecturas, regiones y proveedores de servicios.
Con la normalización de la demanda de grandes modelos, el servicio de potencia computacional está evolucionando rápidamente hacia una cadena de suministro y un modelo de negocio únicos. Aunque actualmente hay escasez de GPU de alta gama, esto es solo un fenómeno temporal. A largo plazo, los proveedores de servicios de potencia computacional deben prepararse para la rápida transformación que ocurrirá una vez que el mercado regrese a la racionalidad.