Xiaomi MiMo atinge 1.000 tokens por segundo em GPUs convencionais sem chips à medida

Um novo recorde de velocidade em inteligência artificial

Em 8 de junho de 2026, a Xiaomi lançou o MiMo V2.5 Pro UltraSpeed, um modo de inferência que impulsiona um modelo de linguagem com um bilião de parâmetros para além dos 1.000 tokens por segundo em unidades de processamento gráfico (GPU) padrão na cloud. O feito marca a primeira vez que um modelo desta escala ultrapassa esse limiar sem depender de silício personalizado ou hardware especializado. Demonstrações internas mostram um débito máximo a aproximar-se dos 1.200 tokens por segundo de forma sustentada num único nó convencional equipado com oito GPUs.

Para compreender a importância, compare-se com os testes públicos atuais. O GPT 5.5 da OpenAI gera cerca de 68 tokens por segundo. O Claude Opus 4.6 opera a aproximadamente 71 tokens por segundo, enquanto o Google Gemini Flash alcança 192. O modo UltraSpeed da Xiaomi proporciona aproximadamente quinze vezes a velocidade de saída da experiência padrão do ChatGPT, e fá-lo num modelo que já compete com sistemas de fronteira em avaliações de engenharia de software.

O modelo por trás desta velocidade é o MiMo V2.5 Pro, uma arquitetura Mixture of Experts de 1,02 biliões de parâmetros com uma janela de contexto de um milhão de tokens. Ao contrário de muitos concorrentes, o sistema processa texto, imagens, áudio e vídeo nativamente dentro de um único modelo. A Xiaomi disponibilizou o checkpoint subjacente sob uma licença de código aberto MIT, permitindo aos programadores alojar localmente, afinar e implementar o sistema comercialmente sem taxas de licenciamento.

A ascensão improvável da Xiaomi na inteligência artificial

A maioria dos consumidores associa a Xiaomi a smartphones acessíveis, trotinetes elétricas e, cada vez mais, veículos elétricos. A empresa enviou 33,8 milhões de telefones no primeiro trimestre de 2026 e entregou mais de 30.000 veículos elétricos só em maio. No entanto, por trás destes produtos de consumo está uma divisão dedicada de inteligência artificial que tem vindo a construir modelos de linguagem de grande dimensão desde abril de 2025, quando lançou um modelo de raciocínio compacto de 7 mil milhões de parâmetros.

Nos catorze meses seguintes, a família MiMo cresceu e tornou-se numa das linhas de pesos abertos mais competitivas disponíveis. O atual modelo principal, MiMo V2.5 Pro, estreou-se a 22 de abril de 2026. Apresenta resultados comparáveis ao Claude Opus 4.6 em tarefas de engenharia de software, custando aproximadamente um oitavo do preço por token. O preço padrão do modelo base é de 0,025 yuan por milhão de tokens em acertos de cache, 3 yuan por milhão em falhas de cache para entrada e 6 yuan por milhão para saída.

O anúncio de 8 de junho acrescenta o UltraSpeed como um modo de serviço de alto desempenho sobreposto diretamente a este modelo existente. Em vez de alterar os pesos ou a arquitetura do modelo, os ganhos de velocidade vêm inteiramente da otimização da inferência, um feito de software que desafia pressupostos sobre o que o hardware convencional pode fazer.

O custo da velocidade na IA moderna

A velocidade de inferência tornou-se um campo de batalha crítico para os modelos de linguagem de grande dimensão. A taxa a que um sistema gera tokens determina não só a rapidez com que os utilizadores recebem respostas, mas também que aplicações são económica e tecnicamente viáveis. Um modelo que gera 68 tokens por segundo funciona bem para interfaces de chat em que os humanos leem ao seu próprio ritmo. Falha completamente em tarefas sensíveis à latência, como deteção de fraude em tempo real, sinais de negociação de alta frequência ou agentes autónomos de programação que têm de iterar por vários passos de raciocínio em segundos.

Reconhecendo este estrangulamento, várias startups construíram empresas inteiras em torno de silício personalizado. A Cerebras concebeu um chip à escala de wafer, aproximadamente do tamanho de um prato de jantar, com 44 gigabytes de memória no chip para eliminar as restrições de largura de banda que abrandam a inferência convencional em GPU. Esse sistema alcançou aproximadamente 969 tokens por segundo no Llama 3.1 405B da Meta, um modelo com menos de metade dos parâmetros do MiMo V2.5 Pro. A Groq desenvolveu uma arquitetura personalizada de Unidade de Processamento de Linguagem capaz de 300 a 750 tokens por segundo, dependendo do modelo. Nenhuma das plataformas funciona em hardware disponível através de serviços padrão de aluguer na cloud.

A abordagem da Xiaomi rejeita esta corrida ao armamento de hardware. Ao otimizar software e conceção do modelo em conjunto, a empresa alcançou velocidades comparáveis em GPUs convencionais alugáveis. Qualquer programador com acesso a um nó padrão de 8 GPUs pode, teoricamente, replicar o resultado, uma mudança que poderá redistribuir a vantagem competitiva dos fabricantes especializados de chips para a inovação algorítmica.

Comprimir inteligência com quantização FP4

O primeiro pilar do UltraSpeed envolve uma compressão numérica agressiva chamada quantização FP4. A inferência padrão de modelos armazena normalmente os pesos com precisão de 16 bits ou 8 bits. Cada parâmetro exige uma certa quantidade de largura de banda de memória e, à escala de um bilião de parâmetros, o simples movimento desses pesos da memória para os núcleos de processamento cria um engarrafamento que limita a velocidade de geração.

A solução da Xiaomi aplica precisão de 4 bits de forma seletiva. A arquitetura Mixture of Experts contém muitas camadas de especialistas, que detêm a grande maioria dos parâmetros e se revelam mais tolerantes à redução de precisão. A Xiaomi comprimiu apenas estas camadas de especialistas para o formato MXFP4, mantendo os outros módulos do modelo com maior precisão, indicada como FP8. Esta abordagem seletiva reduz a pegada de memória sem degradar a qualidade da saída, porque o treino com reconhecimento de quantização integrou a compressão no processo de aprendizagem do modelo. Os testes comparativos mostram que a variante quantizada tem um desempenho essencialmente igual ao da versão original de precisão total.

Como as camadas de especialistas constituem a maior parte do modelo, esta compressão seletiva reduz drasticamente a quantidade de dados que tem de circular pela memória durante cada passo de geração. As poupanças de largura de banda traduzem-se diretamente num maior débito.

Prever em paralelo através da descodificação especulativa DFlash

O segundo pilar aborda a natureza sequencial da geração de linguagem. Normalmente, os modelos produzem tokens um a um, com cada novo token a depender de todos os anteriores. A descodificação especulativa oferece um atalho: um modelo de rascunho mais pequeno adivinha rapidamente vários tokens seguintes, e o modelo-alvo maior verifica todas as adivinhações em paralelo. Onde as adivinhações coincidem, o sistema poupa tempo. A descodificação especulativa tradicional ainda obriga o modelo de rascunho a gerar adivinhações sequencialmente, limitando o benefício.

O DFlash, um método da comunidade de investigação que a Xiaomi refinou, remove inteiramente esta restrição sequencial. Em vez de adivinhar tokens um a um, o modelo de rascunho preenche um bloco inteiro de posições mascaradas numa única passagem direta. A Xiaomi afinou este processo com o otimizador de segunda ordem Muon e autodestilação do modelo. O modelo de rascunho utiliza exclusivamente Sliding Window Attention, garantindo que o custo computacional por previsão se mantém constante independentemente de quanto cresce a conversa.

Em cenários de programação, o sistema alcança um comprimento médio de aceitação de 6,3 tokens por ronda de verificação, num tamanho de bloco limitado a 8. Isto significa que o modelo grande confirma seis ou sete tokens num único passo, em vez de os gerar individualmente. Como a amostragem por rejeição garante que apenas tokens válidos passam, a saída permanece matematicamente idêntica à descodificação padrão. O ganho de velocidade surge sem perda de qualidade.

Eliminar intervalos de microssegundos com o TileRT

O terceiro pilar visa um estrangulamento invisível que só emerge a velocidades extremas. Quando a inferência ultrapassa 1.000 tokens por segundo, cada operador matemático executa-se durante meros microssegundos. Os sistemas de serviço tradicionais lançam operadores uns após os outros, com pequenos intervalos entre cada lançamento. A velocidades normais, estes intervalos são negligenciáveis. A níveis UltraSpeed, fraturam o fluxo de execução e tornam-se no principal estrangulamento.

O TileRT, co-desenvolvido com o parceiro de inferência TileRT, resolve isto com um Persistent Engine Kernel que permanece residente dentro da GPU continuamente. Em vez de iniciar e parar operações, o kernel usa Warp Specialization para atribuir threads de hardware específicas ao movimento de dados, computação e comunicação em papéis coordenados. Mesmo operações minúsculas como RMSNorm, embeddings de posição rotativa e escritas na cache KV, que normalmente criam atrasos à escala de microssegundos, executam-se sem interrupção.

O sistema foi concebido em conjunto com as escolhas FP4 e DFlash, em vez de adicionado posteriormente. Esta codesignação extrema de modelo e sistema garante que as três camadas se alinham estreitamente. A Xiaomi afirma explicitamente que nenhuma das três técnicas, isoladamente, alcança 1.000 tokens por segundo. Apenas a sua execução combinada produz o resultado recorde.

Impacto no mundo real e contexto empresarial

O limiar dos 1.000 tokens altera que aplicações fazem sentido para modelos de classe de fronteira. O raciocínio paralelo torna-se prático, permitindo que os sistemas executem dezenas de caminhos de raciocínio Best of N ou de pesquisa em árvore dentro do mesmo tempo de relógio que um modelo mais lento precisaria para um. Os agentes de programação beneficiam porque uma geração mais rápida reduz o tempo de espera entre passos autónomos. Os ciclos de decisão em tempo real na geração de sinais de negociação, interceção de fraude e sistemas de diálogo ao vivo ganham viabilidade quando a latência desce abaixo dos limiares de perceção humana.

A Xiaomi demonstrou o efeito prático com demonstrações públicas. Um jogo Snake totalmente funcional gerado em aproximadamente dez segundos. Um protótipo de interface do macOS surgiu em cerca de um minuto. Estas são tarefas limitadas pelo débito, em que a velocidade bruta de tokens funciona como a restrição vinculativa.

O acesso ao UltraSpeed faz-se através de um ensaio limitado da API, baseado em candidaturas, de 9 a 23 de junho de 2026. O preço situa-se em três vezes a tarifa padrão do MiMo V2.5 Pro, o que se traduz em cerca de 1,29 dólares por milhão de tokens de entrada e 2,61 dólares por milhão de tokens de saída, segundo os cálculos cambiais atuais. A Xiaomi promete aproximadamente dez vezes a velocidade de geração por esse prémio. O serviço de subscrição Token Plan não se aplica ao UltraSpeed. Os utilizadores aprovados recebem duas semanas de acesso gratuito ao Chat com limites diários: dez entradas na fila por conta, sessões limitadas a trinta minutos e libertação automática de recursos após cinco minutos de inatividade.

Apesar destes marcos técnicos, os mercados financeiros reagiram com indiferença. As ações da Xiaomi fecharam a €2,91 a 11 de junho, apenas 1,75% acima do mínimo de 52 semanas e marcando uma descida de 35% desde o início do ano. A empresa continua a diversificar, lançando o smartphone premium 17T na Índia no mesmo dia do lançamento do assistente MiMo Code, e prosseguindo a expansão de veículos elétricos com a cidade de Changchun. Se a dinâmica operacional pode inverter o desempenho das ações depende dos próximos dados de resultados.

Lançamento em código aberto e a questão da verificação

A Xiaomi disponibilizou em código aberto o checkpoint MiMo V2.5 Pro FP4 DFlash no Hugging Face, incluindo pesos quantizados e parâmetros DFlash. A TileRT publicou módulos selecionados no GitHub. Esta transparência convida a testes independentes da comunidade, que se revelarão críticos porque todas as atuais alegações de velocidade provêm dos testes internos da Xiaomi. Ainda não foi publicada qualquer verificação independente por terceiros.

A replicação pela comunidade testará várias questões em aberto. Primeiro, se o valor de 1.000 tokens por segundo se mantém em instâncias de GPU comuns fora do ambiente de ensaio controlado da Xiaomi. Segundo, se surgem regressões de qualidade em tarefas conversacionais abertas, onde as taxas de aceitação para descodificação especulativa são atualmente mais baixas do que em tarefas de programação estruturada. Terceiro, se a abordagem de kernel persistente do TileRT pode integrar-se com pilhas de serviço padrão já implementadas em ambientes de produção.

Se os testes independentes confirmarem as alegações, a Xiaomi terá alcançado com software o que os concorrentes passaram centenas de milhões de dólares a procurar através de silício personalizado. O resultado sugeriria que a codesignação algorítmica pode desbloquear níveis de desempenho que antes se pensava exigirem hardware especializado, potencialmente redirecionando o investimento em toda a indústria da inteligência artificial.

Pontos-chave

• O MiMo V2.5 Pro UltraSpeed da Xiaomi tornou-se o primeiro modelo de um bilião de parâmetros a exceder 1.000 tokens por segundo em GPUs convencionais padrão quando foi lançado a 8 de junho de 2026.
• A velocidade resulta de três técnicas coordenadas: quantização FP4 das camadas de especialistas, descodificação especulativa ao nível de blocos DFlash e o runtime persistente de GPU TileRT.
• O modelo subjacente MiMo V2.5 Pro apresenta resultados próximos do Claude Opus 4.6 em tarefas de programação, custando aproximadamente um oitavo do preço por token.
• Ao contrário de concorrentes como a Cerebras e a Groq, a Xiaomi alcançou o recorde sem silício personalizado, usando um nó padrão de 8 GPUs disponível através de fornecedores de cloud.
• O checkpoint MiMo V2.5 Pro FP4 DFlash está disponível sob uma licença de código aberto MIT no Hugging Face, com módulos TileRT no GitHub.
• Um ensaio limitado da API decorre de 9 a 23 de junho de 2026, com um preço três vezes superior à tarifa padrão para aproximadamente dez vezes a velocidade de geração.
• As ações da Xiaomi permanecem perto dos mínimos de 52 semanas apesar do avanço técnico, com as ações em queda de 35% desde o início do ano em meados de junho de 2026.