Poder de computação Serviço: Novo modelo de negócios na era dos grandes modelos
A demanda por poder de computação impulsionada pelo treinamento de grandes modelos está fazendo com que os serviços de poder de computação se tornem um novo modelo de negócios emergente. Embora a indústria enfrente desafios como a escassez de GPUs de alta performance atualmente, a longo prazo, os provedores de serviços de poder de computação precisam se preparar para a transição após o retorno racional do mercado.
A procura por GPUs de alta gama excede a oferta
A atual situação de alta demanda e baixa oferta de GPUs de alto desempenho é bastante comum. Um executivo da indústria de computação em nuvem afirmou que, embora a demanda dos clientes por recursos de GPUs de alto desempenho seja forte, a oferta ainda não consegue satisfazer completamente as necessidades do mercado. Um executivo de uma grande empresa também admitiu: "Falta, claro que falta, mas nós também não temos como fazer nada."
Com o desequilíbrio entre oferta e procura, os preços das GPUs de alta gama aumentaram. No auge, o preço de uma A100 foi inflacionado para duas a três dezenas de milhar de yuan, e o aluguer mensal de um servidor A100 também subiu para 50-70 mil yuan. Mesmo assim, por vezes pode ser difícil encontrar chips, e alguns fornecedores até enfrentam situações de incumprimento.
Estratégias de resposta
Diante da escassez de poder de computação, as empresas estão à procura de soluções.
Usar dados de maior qualidade para melhorar a eficiência do treinamento.
Melhorar a capacidade da infraestrutura, alcançando uma operação estável acima de mil calorias.
Otimizar o agendamento de recursos de Poder de computação, aumentando a taxa de utilização.
Transição da arquitetura de computação em nuvem para a arquitetura de supercomputação para reduzir custos.
Usar plataformas nacionais em vez de GPUs da Nvidia.
Escolher fornecedores de poder de computação especializados para reduzir os custos de construção de centros de dados.
Poder de computação serviço novo modo
Poder de computação está evoluindo de um simples recurso de hardware para um novo modelo de serviço. O serviço de poder de computação é baseado em diversidade de poder de computação e, por meio de uma rede de poder de computação, tem como objetivo fornecer poder de computação eficaz.
Na cadeia industrial de poder de computação:
Empresas upstream fornecem Poder de computação básico
As empresas de meio de cadeia são responsáveis pela produção e fornecimento de Poder de computação.
As empresas downstream dependem de serviços de poder de computação para aplicações de valor acrescentado
Este modelo reduz a barreira de entrada para o uso do poder de computação, ajudando ao desenvolvimento inclusivo do poder de computação.
Evolução do modelo de negócios
Atualmente, os serviços de poder de computação utilizam principalmente dois modelos: cobrança por uso e assinaturas anuais ou mensais. No futuro, a indústria está avançando para a "integração e fusão do poder de computação e rede", apoiando a programação flexível entre arquiteturas, regiões e fornecedores.
Com a normalização da demanda por grandes modelos, o poder de computação está rapidamente formando uma cadeia industrial e um modelo de negócios únicos. Embora a atual escassez de GPUs de alta gama traga desafios, a longo prazo, os provedores de serviços de poder de computação precisam se preparar para a transformação após o retorno racional do mercado.
Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
13 gostos
Recompensa
13
3
Partilhar
Comentar
0/400
ShibaSunglasses
· 12h atrás
Ter A100 não é tão bom quanto comprar moeda
Ver originalResponder0
AllInAlice
· 12h atrás
Atingiu duzentos a trezentos mil por unidade. Fiquei louco, não é?
A era dos grandes modelos chegou, e o Poder de computação se tornou um novo modelo de negócio emergente.
Poder de computação Serviço: Novo modelo de negócios na era dos grandes modelos
A demanda por poder de computação impulsionada pelo treinamento de grandes modelos está fazendo com que os serviços de poder de computação se tornem um novo modelo de negócios emergente. Embora a indústria enfrente desafios como a escassez de GPUs de alta performance atualmente, a longo prazo, os provedores de serviços de poder de computação precisam se preparar para a transição após o retorno racional do mercado.
A procura por GPUs de alta gama excede a oferta
A atual situação de alta demanda e baixa oferta de GPUs de alto desempenho é bastante comum. Um executivo da indústria de computação em nuvem afirmou que, embora a demanda dos clientes por recursos de GPUs de alto desempenho seja forte, a oferta ainda não consegue satisfazer completamente as necessidades do mercado. Um executivo de uma grande empresa também admitiu: "Falta, claro que falta, mas nós também não temos como fazer nada."
Com o desequilíbrio entre oferta e procura, os preços das GPUs de alta gama aumentaram. No auge, o preço de uma A100 foi inflacionado para duas a três dezenas de milhar de yuan, e o aluguer mensal de um servidor A100 também subiu para 50-70 mil yuan. Mesmo assim, por vezes pode ser difícil encontrar chips, e alguns fornecedores até enfrentam situações de incumprimento.
Estratégias de resposta
Diante da escassez de poder de computação, as empresas estão à procura de soluções.
Usar dados de maior qualidade para melhorar a eficiência do treinamento.
Melhorar a capacidade da infraestrutura, alcançando uma operação estável acima de mil calorias.
Otimizar o agendamento de recursos de Poder de computação, aumentando a taxa de utilização.
Transição da arquitetura de computação em nuvem para a arquitetura de supercomputação para reduzir custos.
Usar plataformas nacionais em vez de GPUs da Nvidia.
Escolher fornecedores de poder de computação especializados para reduzir os custos de construção de centros de dados.
Poder de computação serviço novo modo
Poder de computação está evoluindo de um simples recurso de hardware para um novo modelo de serviço. O serviço de poder de computação é baseado em diversidade de poder de computação e, por meio de uma rede de poder de computação, tem como objetivo fornecer poder de computação eficaz.
Na cadeia industrial de poder de computação:
Este modelo reduz a barreira de entrada para o uso do poder de computação, ajudando ao desenvolvimento inclusivo do poder de computação.
Evolução do modelo de negócios
Atualmente, os serviços de poder de computação utilizam principalmente dois modelos: cobrança por uso e assinaturas anuais ou mensais. No futuro, a indústria está avançando para a "integração e fusão do poder de computação e rede", apoiando a programação flexível entre arquiteturas, regiões e fornecedores.
Com a normalização da demanda por grandes modelos, o poder de computação está rapidamente formando uma cadeia industrial e um modelo de negócios únicos. Embora a atual escassez de GPUs de alta gama traga desafios, a longo prazo, os provedores de serviços de poder de computação precisam se preparar para a transformação após o retorno racional do mercado.