Poder de computação em falta: o novo modelo de negócio na era dos grandes modelos
O treinamento de grandes modelos requer um poder de computação massivo, mas a alta demanda por GPUs de alto desempenho se tornou um problema difícil para a indústria. O preço de uma NVIDIA A100 foi inflacionado para 200.000 a 300.000 yuan, e o aluguel mensal de um servidor A100 também disparou para 50.000 a 70.000 yuan. Mesmo assim, muitas empresas ainda têm dificuldade em obter os chips necessários.
Fontes da indústria revelaram que atualmente há cerca de 100.000 placas de GPU de alta gama no mercado chinês, podendo aumentar para 200.000 até o final do ano. Empresas com cerca de 10.000 placas representam cerca de 10% da quota de mercado, enquanto 40.000 placas podem representar 20%.
Mas o alto custo do poder de computação faz com que muitas empresas hesitem. Treinar um grande modelo vertical na área meteorológica custa 2 milhões de yuan, enquanto o custo de um grande modelo genérico pode ser cem vezes maior. A indústria em geral acredita que, sem o apoio de bilhões em financiamento, é difícil continuar investindo no desenvolvimento de grandes modelos.
Perante a escassez de poder de computação, as empresas estão a responder ativamente. Alguns métodos incluem: usar dados de alta qualidade para aumentar a eficiência do treino; melhorar a estabilidade da infraestrutura; otimizar a alocação de poder de computação; fazer a transição de uma arquitetura de computação em nuvem para uma arquitetura de supercomputação; usar plataformas de GPU nacionais, entre outros.
O poder de computação tornou-se um novo modelo de serviço. O serviço de poder de computação realiza a saída unificada de poder de computação heterogêneo através de novas tecnologias de computação, em conjunto com tecnologias como a computação em nuvem. Os usuários apenas precisam apresentar suas necessidades de poder de computação, e o prestador de serviços completa a configuração e entrega do poder de computação.
Atualmente, os serviços de poder de computação são principalmente cobrados por uso e por assinatura anual ou mensal. No futuro, pode-se desenvolver um modelo de "integração de poder de computação e rede", que suporte a programação flexível entre diferentes arquiteturas, regiões e provedores de serviços.
Embora atualmente haja uma escassez de GPUs de alta gama, a oferta e a procura eventualmente se equilibrarão a longo prazo. Os prestadores de serviços de poder de computação devem se preparar com antecedência para quando o mercado voltar à racionalidade. Com a normalização da demanda por grandes modelos, os serviços de poder de computação, originários dos serviços em nuvem, estão rapidamente formando uma cadeia industrial e um modelo de negócios únicos.
Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
24 Curtidas
Recompensa
24
7
Repostar
Compartilhar
Comentário
0/400
WalletDetective
· 07-17 18:11
Conseguiu a carta e já não tem dinheiro, certo?
Ver originalResponder0
SignatureAnxiety
· 07-17 00:53
Não é que a GPU seja muito cara, é que eu sou muito pobre.
Ver originalResponder0
OnchainSniper
· 07-14 22:19
O dinheiro foi para o bolso da Nvidia.
Ver originalResponder0
AirdropFreedom
· 07-14 22:18
Ter dinheiro significa ter Poder de computação
Ver originalResponder0
MoneyBurner
· 07-14 22:15
Optimista trabalhador, sempre pronto para perder o passaporte e puxar o tapete
Escassez de poder de computação na era dos grandes modelos: novos modelos de negócios e estratégias de resposta
Poder de computação em falta: o novo modelo de negócio na era dos grandes modelos
O treinamento de grandes modelos requer um poder de computação massivo, mas a alta demanda por GPUs de alto desempenho se tornou um problema difícil para a indústria. O preço de uma NVIDIA A100 foi inflacionado para 200.000 a 300.000 yuan, e o aluguel mensal de um servidor A100 também disparou para 50.000 a 70.000 yuan. Mesmo assim, muitas empresas ainda têm dificuldade em obter os chips necessários.
Fontes da indústria revelaram que atualmente há cerca de 100.000 placas de GPU de alta gama no mercado chinês, podendo aumentar para 200.000 até o final do ano. Empresas com cerca de 10.000 placas representam cerca de 10% da quota de mercado, enquanto 40.000 placas podem representar 20%.
Mas o alto custo do poder de computação faz com que muitas empresas hesitem. Treinar um grande modelo vertical na área meteorológica custa 2 milhões de yuan, enquanto o custo de um grande modelo genérico pode ser cem vezes maior. A indústria em geral acredita que, sem o apoio de bilhões em financiamento, é difícil continuar investindo no desenvolvimento de grandes modelos.
Perante a escassez de poder de computação, as empresas estão a responder ativamente. Alguns métodos incluem: usar dados de alta qualidade para aumentar a eficiência do treino; melhorar a estabilidade da infraestrutura; otimizar a alocação de poder de computação; fazer a transição de uma arquitetura de computação em nuvem para uma arquitetura de supercomputação; usar plataformas de GPU nacionais, entre outros.
O poder de computação tornou-se um novo modelo de serviço. O serviço de poder de computação realiza a saída unificada de poder de computação heterogêneo através de novas tecnologias de computação, em conjunto com tecnologias como a computação em nuvem. Os usuários apenas precisam apresentar suas necessidades de poder de computação, e o prestador de serviços completa a configuração e entrega do poder de computação.
Atualmente, os serviços de poder de computação são principalmente cobrados por uso e por assinatura anual ou mensal. No futuro, pode-se desenvolver um modelo de "integração de poder de computação e rede", que suporte a programação flexível entre diferentes arquiteturas, regiões e provedores de serviços.
Embora atualmente haja uma escassez de GPUs de alta gama, a oferta e a procura eventualmente se equilibrarão a longo prazo. Os prestadores de serviços de poder de computação devem se preparar com antecedência para quando o mercado voltar à racionalidade. Com a normalização da demanda por grandes modelos, os serviços de poder de computação, originários dos serviços em nuvem, estão rapidamente formando uma cadeia industrial e um modelo de negócios únicos.