AMA no Reddit do Kimi K2.5 da Moonshot AI expõe a confusa realidade dos modelos de fronteira de código aberto

17 min de leitura
AMA no Reddit do Kimi K2.5 da Moonshot AI expõe a confusa realidade dos modelos de fronteira de código aberto

Quando 595 gigabytes encontram a realidade dos programadores

Dois dias após lançarem o que os analistas da indústria chamaram de modelo de inteligência artificial de código aberto mais poderoso alguma vez criado, investigadores da Moonshot AI entraram no Reddit para enfrentar uma audiência que estava em partes iguais entusiasmada e frustrada. A startup sediada em Pequim tinha todos os motivos para celebrar. O Kimi K2.5 tinha gerado manchetes sobre a redução da diferença de capacidades face aos gigantes americanos da IA e sobre testar os limites dos controlos de exportação de chips dos Estados Unidos. Mas os programadores que esperavam no r/LocalLLaMA, um fórum onde engenheiros trocam conselhos sobre executar grandes modelos de linguagem em tudo, desde uma única GPU de consumidor a pequenos racks de hardware prosumer, tinham uma preocupação mais imediata. Queriam saber quando poderiam realmente usar a coisa.

Índice
  1. Quando 595 gigabytes encontram a realidade dos programadores
  2. O problema do tamanho que não vai desaparecer
  3. As leis de escalonamento atingiram um muro?
  4. Dentro do Agent Swarm: como 100 subagentes partilham memória
  5. A mudança do Sistema 1 para o Sistema 2
  6. Porque é que o Kimi por vezes se chama Claude
  7. A procura de alma num modelo de recompensa
  8. A depuração como o verdadeiro trabalho da investigação em IA
  9. Roteiro para o K3 e a aprendizagem contínua
  10. O que isto revela sobre a IA aberta em 2026
  11. Em resumo

A sessão Ask Me Anything de três horas tornou-se uma janela inesperadamente franca para o desenvolvimento de IA de fronteira em 2026, não a versão polida que aparece nos materiais de marketing corporativo, mas a realidade confusa de depurar falhas, gerir a deriva de personalidade e confrontar uma tensão fundamental que define a IA de código aberto hoje. A Moonshot tinha publicado os pesos do modelo para que qualquer pessoa os pudesse descarregar e personalizar. O ficheiro ocupa cerca de 595 gigabytes. Para a maioria dos programadores na thread, essa abertura permanecia puramente teórica.

Três membros da equipa da Moonshot participaram sob os nomes de utilizador ComfortableAsk4494, zxytim e ppwwyyxx. Ao longo de aproximadamente 187 comentários, responderam a perguntas sobre arquitetura, metodologia de treino e o enigma filosófico do que dá a um modelo de IA o seu caráter. Também ofereceram um retrato de onde virá a próxima ronda de progresso, e não era simplesmente mais parâmetros.

Publicidade

O problema do tamanho que não vai desaparecer

A primeira vaga de perguntas tratou o Kimi K2.5 menos como um avanço e mais como uma dor de cabeça logística. Um utilizador perguntou sem rodeios porque é que a Moonshot não estava a criar modelos mais pequenos a par do modelo principal. "Tamanhos pequenos como 8B, 32B, 70B são ótimos pontos para a densidade de inteligência", escreveram, referindo-se a contagens de parâmetros em milhares de milhões. Outro disse que os modelos enormes se tinham tornado difíceis de celebrar porque muitos programadores simplesmente não os conseguiam executar. Um terceiro apontou os concorrentes americanos como metas de tamanho, pedindo variantes focadas em programação que caberiam em GPUs modestas.

A equipa da Moonshot não anunciou um modelo mais pequeno de imediato. Mas reconheceu a procura em termos que sugeriam que a queixa era familiar. "Pedidos bem recebidos!" escreveu um coanfitrião. Outro notou que a coleção de modelos da Moonshot já inclui alguns modelos mais pequenos de mistura de especialistas no Hugging Face, ao mesmo tempo que avisou que modelos pequenos e grandes exigem frequentemente investimentos de engenharia diferentes.

A resposta mais reveladora surgiu quando um utilizador perguntou se a Moonshot poderia construir algo em torno de 100 mil milhões de parâmetros otimizado para uso local. A equipa do Kimi respondeu lançando um compromisso diferente: um modelo de 200 mil milhões ou 300 mil milhões de parâmetros que poderia manter-se acima do que chamou de "limiar de usabilidade" em muitas tarefas. Essa resposta captou o dilema que os laboratórios de pesos abertos enfrentam. Um modelo de 200 a 300 mil milhões de parâmetros ampliaria o acesso em comparação com um sistema de um bilião de parâmetros, mas continuaria a assumir configurações multi-GPU ou técnicas agressivas de quantização que reduzem a precisão para poupar memória.

Os programadores na thread não estavam a pedir modelos um pouco mais pequenos. Estavam a pedir modelos dimensionados para o hardware que realmente possuem, e um roteiro que trate a implementação local como uma restrição de primeira classe, em vez de uma reflexão tardia de amador. A troca evidenciou uma fratura crescente na comunidade de IA de código aberto entre laboratórios que lançam modelos maciços que exigem infraestrutura à escala de centros de dados e profissionais que querem executar sistemas no seu próprio equipamento.

Publicidade

As leis de escalonamento atingiram um muro?

À medida que a thread avançava para além das queixas sobre hardware, voltou-se para o que muitos investigadores consideram agora a questão central nos grandes modelos de linguagem: as leis de escalonamento começaram a atingir um patamar? As leis de escalonamento referem-se à relação previsível entre o tamanho do modelo, o volume de dados e o desempenho que tem impulsionado o progresso da IA durante anos. Um participante perguntou diretamente se o escalonamento tinha "atingido um muro".

Um representante da Kimi respondeu com um diagnóstico que se tornou cada vez mais comum em toda a indústria. "A quantidade de dados de alta qualidade não cresce tão rápido quanto a capacidade computacional disponível", escreveram, "por isso, o escalonamento com a previsão convencional do próximo token com dados da Internet trará menos melhorias." Esta observação aborda uma restrição fundamental: só há uma quantidade limitada de texto de qualidade na Internet, e os laboratórios de IA já treinaram na maior parte dele.

Depois, a equipa ofereceu a sua rota de fuga preferida. Apontou para o Agent Swarm, a capacidade do Kimi K2.5 de coordenar até 100 subagentes a trabalhar em paralelo, como uma forma de "escalonamento em tempo de teste" que poderia abrir um novo caminho para ganhos de capacidade. O escalonamento em tempo de teste refere-se ao aumento da quantidade de computação realizada durante a inferência, quando o modelo está efetivamente a responder a perguntas, em vez de durante a fase inicial de treino.

No enquadramento da equipa, o escalonamento não tem de significar apenas execuções maiores de pré-treino. Pode também significar aumentar a quantidade de trabalho estruturado feito em tempo de inferência e depois incorporar esses conhecimentos de volta no treino através de aprendizagem por reforço. "Poderão surgir novos paradigmas de escalonamento", escreveu um coanfitrião. "Olhando para o futuro, é provável que tenhamos um modelo que aprende com menos ou mesmo zero priores humanos."

A afirmação implica que a unidade de progresso pode estar a deslocar-se da contagem de parâmetros e das curvas de perda de pré-treino para sistemas que conseguem planear, delegar e verificar, usando ferramentas e subagentes como blocos de construção, em vez de dependerem de uma única passagem direta maciça através de uma rede neural.

Publicidade

Dentro do Agent Swarm: como 100 subagentes partilham memória

No papel, o Agent Swarm soa como uma ideia familiar numa nova embalagem: muitos agentes de IA a colaborar numa tarefa. A AMA revelou os detalhes mais importantes sobre para onde vai a memória, como acontece a coordenação e porque é que a orquestração não colapsa em ruído.

Um programador levantou uma preocupação clássica dos multiagentes. A uma escala de 100 subagentes, um agente orquestrador torna-se frequentemente um estrangulamento, tanto na latência como naquilo a que a comunidade chama "context rot". A deterioração do contexto é a degradação do desempenho que ocorre à medida que o histórico de conversa se enche de conversa interna e rastos de ferramentas, até o modelo perder o fio ao que estava a tentar realizar.

Um coanfitrião da Kimi respondeu com uma escolha de design que importa para qualquer pessoa que construa sistemas de agentes em ambientes empresariais.

Os subagentes funcionam com a sua própria memória de trabalho e enviam os resultados de volta ao orquestrador, em vez de transmitir tudo para um contexto partilhado. Isto permite-nos escalar o comprimento total do contexto numa nova dimensão!

Outro programador insistiu nas alegações de desempenho. A Moonshot descreveu publicamente o Agent Swarm como capaz de alcançar cerca de 4,5 vezes de aceleração em fluxos de trabalho adequados, mas os céticos perguntaram se esse número reflete simplesmente o quão paralelizável é uma determinada tarefa. A equipa concordou: depende. Em alguns casos, o sistema decide que uma tarefa não requer agentes paralelos e evita gastar a computação extra. Também descreveu os orçamentos de tokens dos subagentes como algo que o orquestrador tem de gerir, atribuindo a cada subagente uma tarefa de tamanho apropriado.

Lido como engenharia em vez de marketing, a Moonshot estava a descrever um padrão empresarial familiar: manter o plano de controlo limpo, limitar as saídas dos processos de trabalho e evitar inundar um coordenador com registos que não consegue digerir. Esta arquitetura sugere que os futuros sistemas de IA se parecerão mais com clusters de computação distribuída do que com chatbots monolíticos.

Publicidade

A mudança do Sistema 1 para o Sistema 2

A mudança mais consequente sugerida na AMA não foi uma nova pontuação de benchmark. Foi uma declaração sobre prioridades de investigação. Uma pergunta perguntou se a Moonshot estava a mover capacidade computacional do pré-treino do "Sistema 1" para a aprendizagem por reforço do "Sistema 2". Estes termos referem-se a modos cognitivos popularizados pelo psicólogo Daniel Kahneman: o Sistema 1 é um pensamento rápido e intuitivo, enquanto o Sistema 2 é um raciocínio mais lento e deliberado.

Em termos de IA, isto traduz-se numa mudança da aprendizagem ampla de padrões para um treino que recompensa explicitamente o raciocínio e o comportamento correto em tarefas de vários passos. Um representante da Kimi respondeu que a capacidade computacional de aprendizagem por reforço continuará a aumentar, e sugeriu que novas funções objetivo de RL são prováveis, "especialmente no espaço dos agentes".

Essa frase lê-se como um roteiro. À medida que os modelos se tornam mais utilizadores de ferramentas e decompositores de tarefas, os laboratórios gastarão mais do seu orçamento a treinar modelos para se comportarem bem como agentes, e não apenas para prever tokens. Para as empresas, isto importa porque as melhorias impulsionadas por RL chegam frequentemente com compromissos. Um modelo pode tornar-se mais decisivo, mais viciado em ferramentas ou mais alinhado com sinais de recompensa que não se mapeiam perfeitamente nas expectativas de uma empresa.

Quando questionada sobre a diferença de capacidade computacional entre a Moonshot e laboratórios americanos com frotas de GPUs vastamente maiores, a equipa foi franca. "A diferença não está a diminuir, diria eu", escreveu um coanfitrião. "Mas quanta capacidade computacional é necessária para alcançar a AGI? Veremos." Outro ofereceu um enquadramento mais filosófico: "Há demasiados fatores a afetar a capacidade computacional disponível. Mas, independentemente disso, a inovação adora restrições."

Publicidade

Porque é que o Kimi por vezes se chama Claude

Os lançamentos de pesos abertos vêm agora com uma suspeita permanente: o modelo aprendeu demasiado com os concorrentes? Essa suspeita pode endurecer rapidamente em acusações de destilação, em que uma IA aprende treinando com os resultados de outra IA. Um utilizador levantou uma das alegações mais desconfortáveis a circular nos círculos de modelos abertos: que o K2.5 por vezes se identifica como "Claude", o modelo principal da Anthropic. A implicação era um empréstimo pesado.

A Moonshot não descartou o comportamento. Em vez disso, descreveu as condições em que acontece. Com o prompt de sistema certo, disse a equipa, o modelo tem uma elevada probabilidade de responder "Kimi", particularmente em modo de pensamento. Mas com um prompt de sistema vazio, o modelo deriva para o que a equipa chamou de "área indefinida", que reflete distribuições de dados de pré-treino e não escolhas deliberadas de treino.

Depois, ofereceu uma explicação específica ligada a uma decisão de treino. A Moonshot disse que tinha feito upsampling de dados de programação mais recentes da Internet durante o pré-treino, e que esses dados parecem estar mais associados ao token "Claude", provavelmente porque os programadores que discutem assistentes de programação de IA referem frequentemente o modelo da Anthropic. A equipa rejeitou a acusação de destilação com resultados de benchmarks.

Na verdade, o K2.5 parece superar o Claude em muitos benchmarks. HLE, BrowseComp, MMMU Pro, MathVision, só para nomear alguns.

Para os adotantes empresariais, o ponto importante não é o drama da Internet. É que a deriva de identidade é um modo de falha real, e um que as organizações podem frequentemente mitigar controlando os prompts de sistema, em vez de deixar a autodescrição do modelo ao acaso. A AMA tratou a governança de prompts não como um floreado de experiência do utilizador, mas como higiene operacional essencial para uma implementação fiável.

Publicidade

A procura de alma num modelo de recompensa

Um tema recorrente na thread era que o estilo de escrita do K2.5 parece mais genérico do que o dos modelos Kimi anteriores. Os utilizadores descreveram-no como mais parecido com um "assistente prestável" padrão, um tom que muitos programadores veem agora como a personalidade predefinida de modelos fortemente pós-treinados. Um utilizador disse que adorava a personalidade do Kimi K2 e perguntou o que tinha acontecido.

Um coanfitrião da Kimi reconheceu que cada novo lançamento traz alguma mudança de personalidade e descreveu a personalidade como subjetiva e difícil de avaliar. "Este é um problema bastante difícil", escreveram. A equipa disse que quer melhorar a questão e tornar a personalidade mais personalizável por utilizador.

Numa troca separada sobre se o fortalecimento da capacidade de programação compromete a escrita criativa e a inteligência emocional, um representante da Kimi argumentou que não há conflito inerente se o modelo for suficientemente grande. Mas manter o "gosto de escrita" entre versões é difícil, disseram, porque o modelo de recompensa está constantemente a evoluir. A equipa baseia-se em benchmarks internos, uma espécie de meta-avaliação, para acompanhar o progresso da escrita criativa e ajustar os modelos de recompensa em conformidade.

Outra resposta foi mais longe, usando linguagem que soaria invulgar numa especificação corporativa de IA, mas familiar para quem usa estas ferramentas diariamente. A equipa falou da "alma" de um modelo de recompensa e sugeriu a possibilidade de armazenar um "estado" do utilizador que reflete o gosto e usá-lo para condicionar os resultados do modelo. Essa troca aponta para uma fronteira de produto que as empresas frequentemente subestimam. A deriva de estilo não é apenas estética. Pode mudar a forma como um modelo explica decisões, como se esquiva, como lida com ambiguidade e como interage com clientes e funcionários.

Publicidade

A depuração como o verdadeiro trabalho da investigação em IA

A perceção cultural mais reveladora surgiu em resposta a uma pergunta sobre surpresas durante o treino e a aprendizagem por reforço. Um coanfitrião respondeu com uma única palavra, a negrito para ênfase: depuração.

Quer seja pré-treino ou pós-treino, uma coisa manifesta-se constantemente como a prioridade máxima: depuração.

O comentário iluminou um tema que percorreu toda a sessão. Quando questionado sobre a sua metodologia de "escada de escalonamento" para avaliar novas ideias em diferentes tamanhos de modelo, zxytim ofereceu uma anedota sobre um fracasso. A equipa tinha-se apressado uma vez a incorporar o Kimi Linear, uma arquitetura experimental de atenção linear, na geração anterior de modelos. Falhou a escada de escalonamento a uma certa escala. Recuaram e passaram pelo que o coanfitrião chamou de "um difícil processo de depuração", e após meses finalmente conseguiram fazê-lo funcionar.

"Estatisticamente, a maioria das ideias que funcionam a pequena escala não passa a escada de escalonamento", continuaram. "As que passam são geralmente simples, eficazes e matematicamente fundamentadas. A investigação é sobretudo sobre gerir o fracasso, não sobre celebrar o sucesso."

Para líderes técnicos que avaliam fornecedores de IA, a admissão é instrutiva. A capacidade de fronteira não emerge apenas de avanços elegantes. Emerge de um isolamento implacável de falhas e de culturas organizacionais dispostas a passar meses em problemas que podem não funcionar. Esta verificação da realidade contrasta fortemente com as narrativas polidas frequentemente apresentadas em lançamentos de produtos.

Publicidade

Roteiro para o K3 e a aprendizagem contínua

A AMA também funcionou como um teaser subtil para a próxima geração do Kimi. Os programadores perguntaram se o Kimi K3 adotaria a investigação de atenção linear da Moonshot, que visa lidar com contexto longo de forma mais eficiente do que os mecanismos de atenção tradicionais. Os membros da equipa sugeriram que as abordagens lineares são uma opção séria. "É provável que o Kimi Linear faça parte do K3", escreveu um. "Também incluiremos outras otimizações."

Noutra troca, um coanfitrião previu que o K3 "será muito melhor, se não 10x melhor, que o K2.5". A equipa também destacou a aprendizagem contínua como uma direção que está a explorar ativamente, sugerindo um futuro em que os agentes possam trabalhar eficazmente ao longo de horizontes temporais mais longos. Esta é uma necessidade empresarial crítica se os agentes tiverem de lidar com projetos em curso em vez de tarefas de turno único.

"Acreditamos que a aprendizagem contínua melhorará a capacidade de ação e permitirá que os agentes trabalhem eficazmente durante durações muito mais longas", escreveu um coanfitrião. Sobre o Agent Swarm especificamente, a equipa disse que planeia disponibilizar a estrutura de orquestração aos programadores assim que o sistema se tornar mais estável. "Esperemos que muito em breve", acrescentaram.

O que isto revela sobre a IA aberta em 2026

A sessão não resolveu todas as questões. Alguns dos pedidos mais técnicos sobre receitas de treino multimodal, defesas contra reward hacking e governança de dados foram adiados para um relatório técnico futuro. Isso não é invulgar. Muitos laboratórios tratam agora os detalhes mais decisivos em termos operacionais como sensíveis.

Mas a thread ainda revelou para onde se moveram as verdadeiras disputas na IA. A diferença que mais importa não é entre a China e os Estados Unidos, ou entre aberto e fechado. É a diferença entre o que os modelos prometem e o que os sistemas conseguem realmente entregar. A orquestração está a tornar-se o produto. A Moonshot não está apenas a lançar um modelo. Está a lançar uma visão do mundo que diz que os próximos ganhos vêm de agentes que conseguem dividir trabalho, usar ferramentas e devolver resultados estruturados rapidamente.

Os pesos abertos estão a colidir com a realidade do hardware, à medida que os programadores exigem abertura que funcione localmente, em vez de abertura que exija um centro de dados. E o campo de batalha está a deslocar-se da inteligência bruta para a fiabilidade, de superar um benchmark por dois pontos para depurar a disciplina de chamada de ferramentas, gerir memória em fluxos de trabalho multiagente e preservar o "gosto" difícil de quantificar que determina se os utilizadores confiam no resultado.

A Moonshot apareceu no Reddit na sequência de um lançamento de grande visibilidade e de uma narrativa geopolítica crescente. Os programadores que ali esperavam preocupavam-se com uma questão mais prática: quando é que aberto significa realmente utilizável? Nesse sentido, a AMA não se limitou a promover o Kimi K2.5. Ofereceu um instantâneo de uma indústria em transição, de modelos maiores para computação mais estruturada, de APIs fechadas para pesos abertos que ainda exigem engenharia séria para implementar, e de celebrar o sucesso para gerir o fracasso.

Em resumo

  • A Moonshot AI lançou o Kimi K2.5, um modelo de código aberto de 595GB, e depois realizou uma AMA no Reddit em r/LocalLLaMA, enfrentando perguntas sobre usabilidade prática
  • Os programadores exigiram modelos mais pequenos (8B-70B parâmetros) para hardware local, mas a Moonshot sugeriu 200B-300B parâmetros como o mínimo para uma usabilidade ampla
  • A equipa reconheceu que as leis de escalonamento estão a atingir um patamar devido a dados de treino de alta qualidade limitados, virando-se para o "escalonamento em tempo de teste" através do Agent Swarm, que coordena 100 subagentes
  • O Agent Swarm usa memória de trabalho isolada por subagente para evitar a deterioração do contexto, com um orquestrador a gerir orçamentos de tokens e a alocação de tarefas
  • A capacidade computacional de aprendizagem por reforço vai aumentar, deslocando o foco da correspondência de padrões do Sistema 1 para o raciocínio do Sistema 2 e o treino de comportamento de agentes
  • A Moonshot explicou a deriva de identidade (o modelo chamar-se "Claude") como resultado de dados de programação sobre-amostrados que contêm referências frequentes ao Claude, e não destilação
  • A personalidade e a "alma" continuam difíceis de medir e manter entre versões, com planos para estados de gosto específicos do utilizador
  • Espera-se que o Kimi K3 inclua arquiteturas de atenção linear e capacidades de aprendizagem contínua para tarefas de agente de longo horizonte
Partilhar este artigo

Também pode gostar