Detrás de la escasez de potencia computacional: nuevos modelos de negocio en la era de los grandes modelos
El entrenamiento de grandes modelos requiere una enorme Potencia computacional, pero la escasez de GPUs de alta gama se ha convertido en un problema en la industria. El precio de una Nvidia A100 ha sido inflado a dos o tres cientos mil yuanes, y el alquiler mensual de un servidor A100 también ha aumentado a entre 5 y 7 mil yuanes. A pesar de esto, muchas empresas siguen teniendo dificultades para obtener los chips necesarios.
Los expertos de la industria han revelado que actualmente hay alrededor de 100,000 tarjetas GPU de alta gama en el mercado chino, y se espera que este número aumente a 200,000 para fin de año. Las empresas que poseen cerca de 10,000 tarjetas representan aproximadamente el 10% de la cuota de mercado, mientras que 40,000 tarjetas podrían representar el 20%.
Pero el alto costo de la potencia computacional ha hecho que muchas empresas se echen atrás. Entrenar un gran modelo vertical en el campo de la meteorología puede costar 2 millones de yuanes, mientras que el costo de un modelo general podría ser cien veces mayor. En la industria se considera que, sin el apoyo de miles de millones de fondos, es difícil seguir invirtiendo en el desarrollo de grandes modelos.
Ante la escasez de potencia computacional, las empresas están respondiendo activamente. Algunos métodos incluyen: utilizar datos de alta calidad para mejorar la eficiencia del entrenamiento; mejorar la estabilidad de la infraestructura; optimizar la programación de la potencia computacional; pasar de una arquitectura de computación en la nube a una arquitectura de supercomputación; utilizar plataformas de GPU nacionales, entre otros.
La potencia computacional se ha convertido en un nuevo modelo de servicio. El servicio de potencia computacional logra una salida unificada de potencia computacional heterogénea a través de nuevas tecnologías de computación, integrándose con tecnologías como la computación en la nube. Los usuarios solo necesitan presentar su demanda de potencia computacional, y el proveedor del servicio se encarga de la configuración y entrega de la potencia computacional.
Actualmente, los servicios de potencia computacional se basan principalmente en dos modos: facturación por uso y suscripción anual o mensual. En el futuro, podría desarrollarse un modo de "integración de potencia computacional y red", que soporte la programación flexible entre arquitecturas, regiones y proveedores de servicios.
Aunque actualmente hay una escasez de GPU de alta gama, a largo plazo la oferta y la demanda eventualmente se equilibrarán. Los proveedores de potencia computacional deben prepararse con anticipación y estar listos para el regreso a la racionalidad del mercado. Con la normalización de la demanda de grandes modelos, los servicios de potencia computacional, que se originan en los servicios en la nube, están formando rápidamente una cadena industrial y un modelo de negocio únicos.
Ver originales
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
24 me gusta
Recompensa
24
7
Compartir
Comentar
0/400
WalletDetective
· 07-17 18:11
¿Has conseguido la tarjeta pero ya no tienes dinero?
Ver originalesResponder0
SignatureAnxiety
· 07-17 00:53
No es que la GPU sea demasiado cara, es que yo soy demasiado pobre.
Ver originalesResponder0
OnchainSniper
· 07-14 22:19
Todo el dinero ha ido a parar al bolsillo de Nvidia.
Ver originalesResponder0
AirdropFreedom
· 07-14 22:18
Tener dinero es tener potencia computacional
Ver originalesResponder0
MoneyBurner
· 07-14 22:15
Optimista trabajador, siempre listo para perder el pasaporte y hacer un Rug Pull.
La escasez de potencia computacional en la era de los grandes modelos: nuevos modelos de negocio y estrategias de respuesta
Detrás de la escasez de potencia computacional: nuevos modelos de negocio en la era de los grandes modelos
El entrenamiento de grandes modelos requiere una enorme Potencia computacional, pero la escasez de GPUs de alta gama se ha convertido en un problema en la industria. El precio de una Nvidia A100 ha sido inflado a dos o tres cientos mil yuanes, y el alquiler mensual de un servidor A100 también ha aumentado a entre 5 y 7 mil yuanes. A pesar de esto, muchas empresas siguen teniendo dificultades para obtener los chips necesarios.
Los expertos de la industria han revelado que actualmente hay alrededor de 100,000 tarjetas GPU de alta gama en el mercado chino, y se espera que este número aumente a 200,000 para fin de año. Las empresas que poseen cerca de 10,000 tarjetas representan aproximadamente el 10% de la cuota de mercado, mientras que 40,000 tarjetas podrían representar el 20%.
Pero el alto costo de la potencia computacional ha hecho que muchas empresas se echen atrás. Entrenar un gran modelo vertical en el campo de la meteorología puede costar 2 millones de yuanes, mientras que el costo de un modelo general podría ser cien veces mayor. En la industria se considera que, sin el apoyo de miles de millones de fondos, es difícil seguir invirtiendo en el desarrollo de grandes modelos.
Ante la escasez de potencia computacional, las empresas están respondiendo activamente. Algunos métodos incluyen: utilizar datos de alta calidad para mejorar la eficiencia del entrenamiento; mejorar la estabilidad de la infraestructura; optimizar la programación de la potencia computacional; pasar de una arquitectura de computación en la nube a una arquitectura de supercomputación; utilizar plataformas de GPU nacionales, entre otros.
La potencia computacional se ha convertido en un nuevo modelo de servicio. El servicio de potencia computacional logra una salida unificada de potencia computacional heterogénea a través de nuevas tecnologías de computación, integrándose con tecnologías como la computación en la nube. Los usuarios solo necesitan presentar su demanda de potencia computacional, y el proveedor del servicio se encarga de la configuración y entrega de la potencia computacional.
Actualmente, los servicios de potencia computacional se basan principalmente en dos modos: facturación por uso y suscripción anual o mensual. En el futuro, podría desarrollarse un modo de "integración de potencia computacional y red", que soporte la programación flexible entre arquitecturas, regiones y proveedores de servicios.
Aunque actualmente hay una escasez de GPU de alta gama, a largo plazo la oferta y la demanda eventualmente se equilibrarán. Los proveedores de potencia computacional deben prepararse con anticipación y estar listos para el regreso a la racionalidad del mercado. Con la normalización de la demanda de grandes modelos, los servicios de potencia computacional, que se originan en los servicios en la nube, están formando rápidamente una cadena industrial y un modelo de negocio únicos.