DeepSeek: o que está por trás da afirmação de treino de 294.000 dólares e porque o R1 custou na verdade milhões

14 min de leitura
Secrets of Chinese AI Model DeepSeek Revealed in Landmark Paper ...

Porque é que um preço de 294.000 dólares chocou o mundo da IA

Quando a DeepSeek publicou um artigo com revisão por pares sobre o seu modelo de raciocínio R1 na Nature, um número captou a atenção do mundo: 294.000 dólares. Manchetes sugeriram que o modelo de topo teria sido treinado por uma fração do que os rivais americanos supostamente gastaram. O número era real, mas aplicava-se a uma fatia estreita do trabalho. Esse valor cobria uma etapa final de aprendizagem por reforço que refinou o raciocínio passo a passo do modelo. Não incluía os meses de pré-treino num modelo base muito maior de que o R1 depende.

Índice
  1. Porque é que um preço de 294.000 dólares chocou o mundo da IA
  2. O que o artigo da Nature realmente diz
  3. A fatura real para construir o R1 começa com o pré-treino do V3
  4. Como funciona a matemática das horas de GPU
  5. A aprendizagem por reforço é uma etapa de acabamento, não o trabalho todo
  6. Chips, regras de exportação e o que a DeepSeek realmente usou
  7. A DeepSeek foi muito mais barata que os rivais ocidentais?
  8. O que os especialistas dizem sobre custos e acesso
  9. Dados, destilação e o que o conjunto de treino provavelmente continha
  10. Porque se espalhou a manchete dos 294.000 dólares e porque isso importa
  11. O que isto significa para os custos e a concorrência em IA
  12. Pontos-Chave

O desempenho do R1 assenta no DeepSeek V3, um modelo de linguagem amplo treinado num corpus massivo usando um grande cluster de computação. Só depois de essa base cara estar pronta é que a equipa executou a aprendizagem por reforço para orientar o modelo para uma melhor lógica e resolução de problemas. Confundir a etapa de acabamento com o projeto inteiro foi o que transformou uma linha de custo especializada numa manchete.

A diferença importa. Um modelo que rivaliza com os melhores sistemas em programação e matemática não surge num fim-de-semana com alguns racks de chips. Requer computação sustentada, curação extensa de dados, experimentações repetidas, cuidadoso trabalho de segurança e avaliação, e uma fase final de otimização. O artigo da Nature abriu uma janela valiosa sobre essa última fase. Não apagou o esforço pesado que a antecedeu.

O que o artigo da Nature realmente diz

O material suplementar do R1 detalha uma execução de aprendizagem por reforço em 512 GPUs Nvidia H800. Descreve um período inicial de treino do R1 Zero de cerca de 198 horas e mais 80 horas para chegar ao R1 lançado. A equipa registou também cerca de 5.000 horas de GPU para gerar dados de preferência usados no processo. Ao preço das taxas habituais de aluguer de aceleradores da classe H800, essas etapas somam pouco menos de 300.000 dólares. Esse valor não representa todo o tempo e computação necessários para construir um modelo de ponta do zero.

O artigo também clarifica o contexto de hardware. A DeepSeek treinou o R1 principalmente em H800, chips que a Nvidia desenhou para a China depois de regras de exportação dos EUA restringirem o acesso a aceleradores de gama superior. A equipa admitiu usar GPUs A100 para trabalho preparatório com um modelo mais pequeno, tendo depois migrado para H800 na principal execução de aprendizagem por reforço do R1. Os leitores podem consultar os detalhes técnicos e as linhas de custo nos materiais com revisão por pares publicados pela revista Nature.

Publicidade

A fatura real para construir o R1 começa com o pré-treino do V3

Os próprios materiais da DeepSeek apontam para o maior centro de custos: o pré-treino do modelo base V3 em que o R1 se apoia. O V3 foi treinado em 2.048 GPUs H800 durante cerca de dois meses. Esse período traduz-se em cerca de 2,79 milhões de horas de GPU. Usando uma estimativa conservadora de aluguer de cerca de 2 dólares por hora de GPU para esta classe de hardware, a execução de pré-treino por si só fica perto dos 5,58 milhões de dólares. Acrescentando os cerca de 294.000 dólares de aprendizagem por reforço e geração associada de dados, a fatura de computação para alcançar a forma lançada do R1 aproxima-se dos 5,87 milhões de dólares.

Esta estimativa acompanha o enquadramento do artigo, segundo o qual os 294.000 dólares do R1 são um custo adicional por cima do modelo base. Coincide também com análises externas que situam a escala total de computação do R1 na mesma gama de outros grandes modelos abertos. Isso continua a parecer enxuto face aos orçamentos rumorados dos maiores sistemas fechados, mas está longe da pechincha sugerida por uma única manchete de menos de 300.000 dólares.

Como funciona a matemática das horas de GPU

Horas de GPU são uma forma simples de medir computação: uma GPU a funcionar durante uma hora equivale a uma hora de GPU. O total de uma execução de treino é o produto do número de GPUs pelas horas registadas. O preço resulta do custo dessas horas no mercado, seja aluguer na cloud seja depreciação e operação de hardware próprio. Um programador que aluga mais de 2.000 aceleradores durante meses paga à hora. Um programador que compra o mesmo cluster desembolsa capital inicialmente e depois paga energia, refrigeração, espaço e manutenção.

Comprar um cluster desta escala custaria muito mais do que alugar para uma única execução. Equipar 2.048 GPUs da classe H800, redes e servidores bem ultrapassaria os 51 milhões de dólares aos preços atuais de mercado, e isso exclui tempo de engenharia, licenciamento de dados, trabalho de avaliação, armazenamento e os muitos experimentos falhados que antecedem um lançamento bem-sucedido. O valor de 5,87 milhões de dólares deve ser visto como o custo das grandes execuções bem-sucedidas, não o custo total de fazer a pesquisa que as tornou possíveis.

Publicidade

A aprendizagem por reforço é uma etapa de acabamento, não o trabalho todo

A aprendizagem por reforço altera o comportamento de um modelo treinado através da recompensa de resultados desejados. No programa R1, a DeepSeek usou uma técnica que pontuava respostas e orientava o modelo para soluções que chegavam a resultados corretos. Os investigadores descrevem esta abordagem como aprendizagem por reforço pura. Não requer cadeias de raciocínio escritas por humanos. O modelo explora e testa os seus próprios caminhos, recebe um sinal de correção e melhora gradualmente a sua estratégia interna de raciocínio.

Essa etapa de acabamento é valiosa. Pode desbloquear um desempenho mais forte em matemática, programação e tarefas científicas, onde o objetivo é chegar a um resultado verificável. É também muito mais barata do que o pré-treino. O esforço pesado continua a ser os meses de aprendizagem que deram ao modelo base conhecimento linguístico e capacidades amplas. A aprendizagem por reforço molda depois essas capacidades para objetivos específicos como raciocínio passo a passo e uso de ferramentas.

Chips, regras de exportação e o que a DeepSeek realmente usou

A DeepSeek treinou sob uma restrição de fornecimento de chips. Os Estados Unidos restringiram a exportação de aceleradores de gama alta para a China, razão pela qual o H800, uma versão reduzida e amigável para exportação da GPU de centro de dados da Nvidia, aparece em todo o material da DeepSeek. Rumores da indústria sugerem que investigadores na China encontraram maneiras de aceder a peças mais rápidas, e as declarações da empresa foram analisadas linha a linha à procura de pistas sobre as fontes de hardware. O que importa para a história dos custos é mais claro: a etapa de aprendizagem por reforço do R1 usou um cluster de 512 H800, enquanto o trabalho preparatório anterior incluiu tempo em A100.

No seu documento suplementar, a equipa reconheceu esse facto. Os investigadores explicaram o papel dos A100 na fase de preparação antes das principais execuções do R1 em H800.

Investigadores da DeepSeek escreveram: "No que diz respeito à nossa investigação sobre o DeepSeek-R1, utilizámos as GPUs A100 para preparar os experimentos com um modelo mais pequeno."

Esse detalhe ajuda a reconciliar como o orçamento final e a mistura de chips podem ser ambos verdadeiros. Os H800 contam na principal contabilidade de custos da aprendizagem por reforço, enquanto os A100 aparecem em experimentos anteriores que moldaram a abordagem.

Publicidade

A DeepSeek foi muito mais barata que os rivais ocidentais?

A fatura completa de computação que produziu o R1 fica mais perto dos 6 milhões de dólares do que dos 300.000 dólares. Continua a ser uma fração do gasto de nove dígitos rumorado por trás dos sistemas fechados de fronteira. Encontra-se também na mesma categoria de grandes modelos abertos como o Llama 4 da Meta quando medido por número de aceleradores e duração de treino, mesmo que esses programas tenham usado mais tokens. A diferença é interessante, mas não é uma revolução que reduz custos numa ordem de grandeza em toda a cadeia de valores.

Uma razão pela qual muitos leitores ainda veem a DeepSeek como uma líder de custos é a forma como a sua equipa esticou os chips sob restrições. A empresa escalou uma arquitetura de mistura de especialistas que ativa apenas um pequeno subconjunto de parâmetros em cada token. Isso produz maior rendimento por hora de GPU. Apostou também em raciocínio mais longo no momento da inferência, o que transfere parte do encargo do pré-treino para a utilização a jusante.

Investigadores também debateram fontes de dados e transferência de conhecimento entre modelos. A DeepSeek usou destilação em partes do seu ecossistema, onde um modelo forte gera respostas que ensinam um modelo mais pequeno ou mais barato. A equipa afirmou que o modelo base V3 aprendeu a partir de uma rastreagem web que contém conteúdo gerado por IA, o que pode incluir saídas de outros sistemas. O artigo enquadra isto como incidental e não como cópia intencional de caminhos de raciocínio. A distinção técnica importa a advogados e decisores políticos, e importa a estimadores de custos que tentam perceber até onde um programador pode chegar com menos tokens e menos computação.

O que os especialistas dizem sobre custos e acesso

Vozes académicas têm defendido uma leitura equilibrada dos números da DeepSeek. Reconhecem a competência de engenharia genuína, mas alertam contra comparações de custos simplistas. Orçamentos de treino mais baixos ainda podem beneficiar o mercado se promoverem acesso mais barato, contudo os números de manchete omitem frequentemente o preço das pessoas, dos experimentos e da infraestrutura.

Umar Iqbal, professor assistente de ciência e engenharia informática na Washington University em St. Louis, argumentou que as reduções de custo podem expandir o acesso, assinalando também os compromissos de privacidade e segurança da IA à escala da cloud.

Iqbal afirmou: "Para que as tecnologias sejam amplamente adotadas, têm de ser acessíveis", acrescentando que um desenvolvimento mais barato pode permitir mais experimentos à grande escala, alertando ao mesmo tempo que os serviços de IA baseados na cloud levantam questões reais sobre controlo de dados e privacidade.

Mesmo os apoiantes da via técnica da DeepSeek advertiram que os totais de treino amplamente divulgados são um benchmark incompleto. Apontam para execuções repetidas, ciclos de afinação e trabalho de dados que ficam fora de uma única passagem de treino ponta a ponta.

Dados, destilação e o que o conjunto de treino provavelmente continha

A destilação usa respostas de um sistema mais forte para orientar um modelo alvo. Os programadores podem gerar milhões de pares de perguntas e respostas de qualidade, traços de código ou exemplos de cadeias de raciocínio, e depois afinar um modelo para reproduzir esse comportamento. Este método pode elevar a qualidade sem reexecutar as partes mais caras do pré-treino. É uma razão principal pela qual equipas mais pequenas conseguem aproximar-se ou igualar capacidades específicas de laboratórios maiores em áreas como matemática e programação.

A DeepSeek afirmou que algumas variantes destiladas da sua família de modelos recorreram a sistemas de código aberto como o Llama da Meta. Para o V3, a empresa descreveu uma rastreagem web ampla que incluía um volume significativo de respostas geradas por IA. Essa via traz benefícios e riscos. Pode acelerar a aprendizagem de padrões comuns, mas também importa licenças desconhecidas e problemas de qualidade. O artigo da Nature pressionou a comunidade a exigir mais clareza sobre que dados foram usados e quando, e que partes da cadeia de valores dependiam de etiquetas sintéticas.

Publicidade

Porque se espalhou a manchete dos 294.000 dólares e porque isso importa

O número de 294.000 dólares era fácil de comunicar e dramático o suficiente para mover mercados. Em janeiro, as primeiras divulgações da DeepSeek já tinham despertado o temor de que um concorrente de baixo custo minasse os líderes americanos. Investidores venderam ações de fabricantes de chips e parceiros de IA. O artigo com revisão por pares reavivou esse tema com uma linha simples que viajou mais depressa que as notas de rodapé. Muitos leitores e alguns jornalistas trataram a aprendizagem por reforço como toda a história.

O artigo fez mais do que agitar entusiasmo. Definiu um padrão de transparência ao colocar números concretos e detalhes de método num registo científico público. Os revisores pressionaram a DeepSeek a reduzir a linguagem antropomórfica e a clarificar segurança, fontes de dados e computação. Isso é bom para a ciência e para a indústria. Ajuda a comunidade a perceber que técnicas geraram mais valor e que custos continuam difíceis de comprimir.

O que isto significa para os custos e a concorrência em IA

A economia da construção de modelos está a mudar. Depois de anos de escalada, muitas equipas dão agora mais ênfase à afinação e a dar aos modelos mais tempo para raciocinar, em vez de apenas expandir o tamanho do conjunto de dados e o número de parâmetros. Isso transfere parte do encargo de custos a jusante para a inferência, onde um modelo pensa mais tempo por consulta e consome mais computação por resposta. O efeito líquido pode ainda ser um acesso do utilizador final mais barato se os ganhos de eficiência superarem o tempo extra de raciocínio.

A arquitetura de mistura de especialistas da DeepSeek, a sua utilização de aprendizagem por reforço para raciocínio e a destilação seletiva fazem parte de um movimento mais amplo da indústria em direção a um desenvolvimento mais modular. Os modelos aprendem uns com os outros, equipas mais pequenas constroem sobre bases maiores e pesos abertos dão às startups um ponto de partida. Um estudo político sobre esta tendência na Europa observou que estas mudanças poderiam ajudar empresas mais pequenas a competir, mas também dificultam a recuperação do custo fixo do treino fundamental. A concorrência de preços pode aumentar, enquanto os programadores procuram formas sustentáveis de integrar IA em produtos e serviços.

Alguns investigadores alertam que os números de treino divulgados contam frequentemente menos do que é necessário para chegar a um sistema polido. Salientam a diferença entre o custo de uma execução final bem-sucedida e o orçamento total que cobre trabalho de dados, tentativas falhadas, avaliações de segurança e meses de engenharia.

Martin Vechev, diretor do instituto suíço INSAIT, elogiou o feito técnico, mas alertou que os números de uma única execução não devem ser tratados como custo total.

Vechev afirmou: "O valor de 5 a 6 milhões de dólares é enganoso, pois só contabiliza uma execução de treino; desenvolver um modelo destes exige múltiplas execuções e experimentos, tornando o custo real muito mais elevado."

Essa visão corresponde à evidência em torno do R1. A grande poupança do projeto veio de escolhas arquitetónicas inteligentes e de uma boa receita de aprendizagem por reforço, não de saltar as partes caras do pré-treino. O resultado final é um caminho credível para alto desempenho com menos computação do que alguns rivais, mas não um método que transforme o treino de fronteira numa tarefa de menos de 300.000 dólares.

Pontos-Chave

  • O valor de 294.000 dólares para o DeepSeek R1 cobre aprendizagem por reforço em 512 GPUs H800 e geração associada de dados, não o treino completo do modelo.
  • O R1 depende do modelo base V3, treinado em 2.048 GPUs H800 durante cerca de dois meses, ou cerca de 2,79 milhões de horas de GPU.
  • A estimativa de aluguer de computação situa o pré-treino do V3 perto dos 5,58 milhões de dólares, com o total para chegar ao R1 em torno dos 5,87 milhões de dólares.
  • Comprar hardware comparável custaria muito mais do que alugar, com um cluster da classe de 2.000 GPUs acima dos 51 milhões de dólares antes das operações.
  • A DeepSeek usou GPUs A100 para trabalho preparatório e depois H800 na principal execução de aprendizagem por reforço do R1.
  • A escala de computação do R1 está mais próxima de outros grandes modelos abertos do que as primeiras manchetes sugeriram, mesmo que pareça enxuta ao lado dos orçamentos rumorados de nove dígitos dos modelos fechados.
  • A aprendizagem por reforço refinou o raciocínio a custo relativamente baixo, enquanto o esforço pesado permaneceu no pré-treino e no trabalho de dados.
  • Os especialistas alertam que os números divulgados de treino raramente incluem I&D, preparação de dados e múltiplas execuções falhadas que elevam os custos reais do projeto.
Partilhar este artigo

Também pode gostar