Infraestrutura, chips, inferência e modelos executados nos seus dispositivos.
31 artigos
O benchmark reúne tarefas baseadas em mudanças reais no Megatron-LM, vLLM e verl. No preprint, o melhor resultado entre seis modelos de fronteira foi resolver 38,9% das tarefas.
A Recursive Superintelligence publicou o Flint, um modelo de pesos abertos com 39,8 bilhões de parâmetros projetado para inferência de código em hardware local. Com apenas 2,5 bilhões de parâmetros ativos por token, a empresa afirma velocidades superiores a 125 tokens por segundo em notebooks Apple Silicon.
A LFM3 reúne modelos de texto, visão, áudio e decisão baseados em uma arquitetura comum. A Liquid AI afirma que os pesos estão disponíveis e que cada modelo pode ser ajustado com uma única GPU; os números de desempenho divulgados são avaliações da própria empresa, não verificações independentes.
Um preprint apresenta uma quantização concebida para os dois componentes do cache MLA. Os autores relatam maior capacidade teórica e resultados quase sem perda em quatro modelos, mas o resumo disponível não permite avaliar os detalhes experimentais nem o desempenho em produção.
Após uma pausa de 11 dias devido a incidentes de segurança, a OpenAI decidiu eliminar o acesso à internet em tempo real para seus modelos mais avançados, substituindo-o por um ambiente simulado com conteúdo web em cache.
A Recursive lançou o Flint, um modelo MoE de 40B parâmetros para programação agêntica que roda em hardware local. Seu desenvolvimento foi liderado pela Eureka Machine, um sistema de pesquisa automatizada que otimizou a arquitetura, o treinamento e a inferência em menos de quatro meses.
Em 21 de outubro de 2026, a Anthropic lançou a prévia de pesquisa do Claude Duet, uma aplicação onde o modelo atua como um agente proativo. Analisamos a sua disponibilidade inicial, a relação com a infraestrutura de agentes geridos e as limitações da evidência atual sobre as suas capacidades específicas.
Quatro modelos da NVIDIA tornaram-se públicos em 20 de outubro de 2026: dois sistemas de embeddings, um reranker multimodal e um modelo de edição de imagem para inspeção de placas. Todos operam sob a licença OpenMDW 1.1 e exigem infraestrutura própria.
A DeepSeek publicou seu framework interno de inferência, já utilizado em produção com o V4.1-Flash. A abertura pode facilitar implantações próprias, mas as fontes fornecidas não permitem confirmar de forma independente suas vantagens de desempenho, o escopo do suporte para hardware nem uma redução efetiva da dependência da NVIDIA.
A AWS lança o TorchNeuron, um backend nativo de código aberto que permite executar modelos do PyTorch em chips Trainium2 e Trainium3. A ferramenta busca reduzir a dependência do CUDA, embora sua primeira versão apresente limitações de compatibilidade e omita milhares de testes do framework.
A Inception Labs lançou o Mercury 3, um modelo de linguagem baseado em difusão com velocidade de inferência de 1.068 tokens por segundo e contexto de 1 milhão de tokens. Analisamos a arquitetura, as comparações com modelos autoregressivos e as limitações da evidência independente atual.
A arquitetura de inferência desacoplada no vLLM incorpora um mecanismo de transferência bidirecional de cache KV que permite reutilizar contexto entre turnos, melhorando significativamente o tempo até o primeiro token em cargas de trabalho agênticas.