Infraestrutura, chips, inferência e modelos executados nos seus dispositivos.
27 artigos
Após uma pausa de 11 dias devido a incidentes de segurança, a OpenAI decidiu eliminar o acesso à internet em tempo real para seus modelos mais avançados, substituindo-o por um ambiente simulado com conteúdo web em cache.
A Recursive lançou o Flint, um modelo MoE de 40B parâmetros para programação agêntica que roda em hardware local. Seu desenvolvimento foi liderado pela Eureka Machine, um sistema de pesquisa automatizada que otimizou a arquitetura, o treinamento e a inferência em menos de quatro meses.
Em 21 de outubro de 2026, a Anthropic lançou a prévia de pesquisa do Claude Duet, uma aplicação onde o modelo atua como um agente proativo. Analisamos a sua disponibilidade inicial, a relação com a infraestrutura de agentes geridos e as limitações da evidência atual sobre as suas capacidades específicas.
Quatro modelos da NVIDIA tornaram-se públicos em 20 de outubro de 2026: dois sistemas de embeddings, um reranker multimodal e um modelo de edição de imagem para inspeção de placas. Todos operam sob a licença OpenMDW 1.1 e exigem infraestrutura própria.
A DeepSeek publicou seu framework interno de inferência, já utilizado em produção com o V4.1-Flash. A abertura pode facilitar implantações próprias, mas as fontes fornecidas não permitem confirmar de forma independente suas vantagens de desempenho, o escopo do suporte para hardware nem uma redução efetiva da dependência da NVIDIA.
A AWS lança o TorchNeuron, um backend nativo de código aberto que permite executar modelos do PyTorch em chips Trainium2 e Trainium3. A ferramenta busca reduzir a dependência do CUDA, embora sua primeira versão apresente limitações de compatibilidade e omita milhares de testes do framework.
A Inception Labs lançou o Mercury 3, um modelo de linguagem baseado em difusão com velocidade de inferência de 1.068 tokens por segundo e contexto de 1 milhão de tokens. Analisamos a arquitetura, as comparações com modelos autoregressivos e as limitações da evidência independente atual.
A arquitetura de inferência desacoplada no vLLM incorpora um mecanismo de transferência bidirecional de cache KV que permite reutilizar contexto entre turnos, melhorando significativamente o tempo até o primeiro token em cargas de trabalho agênticas.
O Nemotron 3.5 Super VL foi concebido para interpretar documentos, gráficos, imagens e vídeos e apoiar tarefas prolongadas com uso de ferramentas. As informações disponíveis confirmam o lançamento e a escala do modelo, mas não são suficientes para estabelecer seu desempenho independente nem o hardware necessário para cada implantação.
O novo modelo combina raciocínio, uso de ferramentas e compreensão de texto, imagens, documentos e vídeo. A NVIDIA declara 12 bilhões de parâmetros ativos por token e melhorias de eficiência, mas os resultados publicados não bastam para estabelecer uma comparação independente nem um custo universal de inferência.
Pesquisadores apresentam um método para projetar as saídas de modelos de difusão biomoleculares, corrigindo defeitos físicos como colisões entre cadeias ou ligações distorcidas sem a necessidade de re-treinar o modelo.
Um preprint recente propõe um sistema que ajusta dinamicamente a distribuição de workers entre as fases de prefill e decode para evitar violações de SLO sem adicionar GPUs.