Puissance de calcul en pénurie : un nouveau modèle commercial à l'ère des grands modèles
L'entraînement de grands modèles nécessite une puissance de calcul massive, mais la demande pour des GPU haut de gamme dépasse l'offre, ce qui est devenu un problème dans l'industrie. Le prix d'un Nvidia A100 a été gonflé à deux ou trois dizaines de milliers de yuans, et le loyer mensuel d'un serveur A100 a également grimpé à 50 000-70 000 yuans. Malgré cela, de nombreuses entreprises ont encore du mal à obtenir les puces dont elles ont besoin.
Des initiés de l'industrie révèlent qu'il y a actuellement environ 100 000 cartes GPU haut de gamme sur le marché chinois, et ce nombre pourrait atteindre 200 000 d'ici la fin de l'année. Les entreprises possédant près de 10 000 cartes représentent environ 10 % de la part de marché, tandis que 40 000 cartes pourraient représenter 20 %.
Mais le coût élevé de la puissance de calcul dissuade de nombreuses entreprises. Former un grand modèle vertical dans le domaine météorologique coûte 2 millions de yuans, tandis que le coût d'un grand modèle général peut être cent fois supérieur. Dans l'industrie, il est largement admis que sans des milliards de fonds de soutien, il est difficile de continuer à investir dans la recherche et le développement de grands modèles.
Face à la pénurie de puissance de calcul, les entreprises s'efforcent de réagir activement. Certaines méthodes incluent : utiliser des données de haute qualité pour améliorer l'efficacité de l'entraînement ; améliorer la stabilité de l'infrastructure ; optimiser la planification de la puissance de calcul ; passer d'une architecture de cloud computing à une architecture de supercalcul ; utiliser des plateformes GPU nationales, etc.
La puissance de calcul est devenue un nouveau modèle de service. Les services de puissance de calcul réalisent une sortie unifiée de puissance de calcul hétérogène grâce à de nouvelles technologies de calcul, en s'intégrant avec des technologies telles que le cloud computing. Les utilisateurs n'ont qu'à exprimer leurs besoins en puissance de calcul, et le fournisseur de services se charge de la configuration et de la livraison de la puissance de calcul.
Actuellement, les services de puissance de calcul sont principalement facturés sur la base de l'utilisation et par abonnement annuel ou mensuel. À l'avenir, il pourrait y avoir un développement d'un mode "intégration de la puissance de calcul et du réseau", permettant une gestion flexible à travers différentes architectures, régions et fournisseurs de services.
Bien que les GPU haut de gamme soient actuellement en pénurie, à long terme, l'offre et la demande finiront par s'équilibrer. Les fournisseurs de puissance de calcul doivent anticiper et se préparer au retour à la rationalité du marché. Avec la normalisation de la demande pour les grands modèles, les services de puissance de calcul issus des services cloud se forment rapidement en une chaîne industrielle et un modèle commercial uniques.
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
24 J'aime
Récompense
24
7
Partager
Commentaire
0/400
WalletDetective
· 07-17 18:11
Tu as réussi à attraper la carte, mais tu n'as plus d'argent, n'est-ce pas ?
Voir l'originalRépondre0
SignatureAnxiety
· 07-17 00:53
Ce n'est pas que le GPU soit trop cher, c'est que je suis trop pauvre.
Voir l'originalRépondre0
OnchainSniper
· 07-14 22:19
Tout l'argent est dans les poches de Nvidia.
Voir l'originalRépondre0
AirdropFreedom
· 07-14 22:18
Avoir de l'argent, c'est avoir de la puissance de calcul.
Voir l'originalRépondre0
MoneyBurner
· 07-14 22:15
Optimiste du travail, prêt à perdre son passeport pour un Rug Pull.
Pénurie de puissance de calcul à l'ère des grands modèles : nouveaux modèles commerciaux et stratégies de réponse
Puissance de calcul en pénurie : un nouveau modèle commercial à l'ère des grands modèles
L'entraînement de grands modèles nécessite une puissance de calcul massive, mais la demande pour des GPU haut de gamme dépasse l'offre, ce qui est devenu un problème dans l'industrie. Le prix d'un Nvidia A100 a été gonflé à deux ou trois dizaines de milliers de yuans, et le loyer mensuel d'un serveur A100 a également grimpé à 50 000-70 000 yuans. Malgré cela, de nombreuses entreprises ont encore du mal à obtenir les puces dont elles ont besoin.
Des initiés de l'industrie révèlent qu'il y a actuellement environ 100 000 cartes GPU haut de gamme sur le marché chinois, et ce nombre pourrait atteindre 200 000 d'ici la fin de l'année. Les entreprises possédant près de 10 000 cartes représentent environ 10 % de la part de marché, tandis que 40 000 cartes pourraient représenter 20 %.
Mais le coût élevé de la puissance de calcul dissuade de nombreuses entreprises. Former un grand modèle vertical dans le domaine météorologique coûte 2 millions de yuans, tandis que le coût d'un grand modèle général peut être cent fois supérieur. Dans l'industrie, il est largement admis que sans des milliards de fonds de soutien, il est difficile de continuer à investir dans la recherche et le développement de grands modèles.
Face à la pénurie de puissance de calcul, les entreprises s'efforcent de réagir activement. Certaines méthodes incluent : utiliser des données de haute qualité pour améliorer l'efficacité de l'entraînement ; améliorer la stabilité de l'infrastructure ; optimiser la planification de la puissance de calcul ; passer d'une architecture de cloud computing à une architecture de supercalcul ; utiliser des plateformes GPU nationales, etc.
La puissance de calcul est devenue un nouveau modèle de service. Les services de puissance de calcul réalisent une sortie unifiée de puissance de calcul hétérogène grâce à de nouvelles technologies de calcul, en s'intégrant avec des technologies telles que le cloud computing. Les utilisateurs n'ont qu'à exprimer leurs besoins en puissance de calcul, et le fournisseur de services se charge de la configuration et de la livraison de la puissance de calcul.
Actuellement, les services de puissance de calcul sont principalement facturés sur la base de l'utilisation et par abonnement annuel ou mensuel. À l'avenir, il pourrait y avoir un développement d'un mode "intégration de la puissance de calcul et du réseau", permettant une gestion flexible à travers différentes architectures, régions et fournisseurs de services.
Bien que les GPU haut de gamme soient actuellement en pénurie, à long terme, l'offre et la demande finiront par s'équilibrer. Les fournisseurs de puissance de calcul doivent anticiper et se préparer au retour à la rationalité du marché. Avec la normalisation de la demande pour les grands modèles, les services de puissance de calcul issus des services cloud se forment rapidement en une chaîne industrielle et un modèle commercial uniques.