Uso primário declarado ou inferido com cautela a partir da documentação oficial.
Nemotron 3.5 Bolt E4B
Modelo compacto da NVIDIA publicado em 23 de outubro de 2026, pós-treinado a partir do Gemma-4-E4B-it. Tem cerca de 8 mil milhões de parâmetros totais e 4 mil milhões efetivos; E4B não significa um MoE com quatro mil milhões de parâmetros ativos. Agrupamos BF16 e GGUF Q4_K_M numa ficha, com resultados separados por precisão. A modalidade documentada é texto para texto: destinar-se a assistentes de voz não o transforma num sistema de reconhecimento ou síntese de áudio.
O essencial
Capacidade máxima de entrada quando publicada pela fonte.
Limite máximo de geração documentado.
Canais de disponibilidade verificados.
Família funcional principal e especialidades verificadas.
Condições declaradas para API, pesos ou alojamento próprio.
Limites e integração
| ID de API | nvidia/nemotron-3.5-bolt-e4b |
|---|---|
| Tipo de modelo | Texto e raciocínio · Código |
| Modelo de acesso | API e pesos abertos |
| Licença | OpenMDW 1.1; base Gemma 4 sob Apache 2.0 |
| Implantação | API ou implementação própria |
| Lançamento | 23 OCT 2026 |
| Data de corte do conhecimento | Pós-treino: maio de 2026 |
| Entrada | Texto |
| Saída | Texto |
| Janela de contexto | 65.536 tokens partilhados entre entrada e saída |
| saída máxima | A ficha indica até 64K; não são 64K adicionais ao contexto |
| Raciocínio | enable_thinking e conversational_mode; orçamento configurável |
| Ferramentas publicadas | Funções · Ferramentas em vários turnos |
| Passeios Estruturados | Não publicado |
| Processamento em lote | Não publicado |
| Cache de prompts | Não publicado |
| Ajuste fino | Não publicado |
| Plataformas verificadas | NVIDIA Build · Hugging Face · vLLM · llama.cpp |
Conversas, personagens interativas e assistentes de dispositivos com chamadas a ferramentas. A variante BF16 permite investigação, avaliação e adaptação com vLLM; a distribuição de 4 GB privilegia a execução local com llama.cpp. O raciocínio e o modo de conversação são controlados através do template de chat. A NVIDIA recomenda temperatura 1,0 e top-p 0,95. O agente anfitrião deve validar argumentos, permissões e respostas das ferramentas antes de executar ações.
A configuração BF16 fixa 65.536 posições e a receita GGUF usa o mesmo contexto. A ficha resume entrada e saída como até 64K cada; não comprova uma janela combinada de 128K. A NVIDIA Build arredonda para 66K. Os componentes de imagem e áudio herdados em config.json e os exemplos automáticos da Hugging Face não comprovam capacidades multimodais validadas para este lançamento. A designação 4 GB não garante a memória total no contexto máximo: é necessário acrescentar runtime e cache KV.
O que pode fazer
Orientação
Conversas, personagens interativas e assistentes de dispositivos com chamadas a ferramentas. A variante BF16 permite investigação, avaliação e adaptação com vLLM; a distribuição de 4 GB privilegia a execução local com llama.cpp. O raciocínio e o modo de conversação são controlados através do template de chat. A NVIDIA recomenda temperatura 1,0 e top-p 0,95. O agente anfitrião deve validar argumentos, permissões e respostas das ferramentas antes de executar ações.
Contexto
65.536 tokens partilhados entre entrada e saída · A ficha indica até 64K; não são 64K adicionais ao contexto
Ferramentas e integração
Funções · Ferramentas em vários turnos
Acesso
NVIDIA Build · Hugging Face · BF16 / Q4_K_M
Custo documentado
| Conceito | Valor | Unidade/condição |
|---|---|---|
| Entrada padrão | Endpoint gratuito de prototipagem; tarifa comercial não publicada | Tarifa padrão da API |
| Entrada em cache | Não publicado | Leitura de prefixos reutilizados |
| Escrita ou armazenamento em cache | Não publicado | A condição varia consoante o fornecedor |
| Saída padrão | Endpoint gratuito de prototipagem; tarifa comercial não publicada | Pode incluir tokens de raciocínio |
| Entrada por lotes | Não publicado | Processamento assíncrono |
| Saída por lotes | Não publicado | Processamento assíncrono |
A NVIDIA Build oferece um endpoint gratuito para prototipagem com o identificador nvidia/nemotron-3.5-bolt-e4b. Não foi verificada uma tarifa comercial, uma quota universal ou gratuitidade permanente; os custos numéricos ficam vazios. Os pesos descarregáveis exigem infraestrutura própria. O modelo usa OpenMDW 1.1 e a base Gemma 4 declara Apache 2.0. Os modelos de rascunho DFlash são componentes opcionais de descodificação especulativa, não modelos de conversação independentes nem uma garantia de aceleração em qualquer equipamento.
i Os preços mudam e podem depender do nível, região ou duração do contexto. Verifique a fonte antes de tomar uma decisão.
Como ler os resultados
A NVIDIA publica uma comparação com NeMo Gym que separa BF16 e Q4_K_M. Registamos BFCL-v3, ToolSandbox e RULER a 64K: avaliam chamadas a funções, ferramentas com estado e recuperação de contexto, respetivamente; não medem a mesma coisa. Os testes usam raciocínio, exceto RoleBench, EQ-Bench v3 e RULER. Não são medições da Inferama nem testes de segurança. A precisão pode alterar o resultado em ambas as direções; conserve checkpoint, template, amostragem, hardware e versão do avaliador para os reproduzir.
| Benchmark | Resultado | Métrica | Fonte |
|---|---|---|---|
| BFCL-v3 | BF16: 68,51 % · Q4_K_M: 67,31 % | Maior é melhor | Ver fonte ↗ |
| ToolSandbox | BF16: 68,77 % · Q4_K_M: 74,13 % | Maior é melhor | Ver fonte ↗ |
| RULER (64K) | BF16: 86,99 % · Q4_K_M: 85,76 % | Maior é melhor | Ver fonte ↗ |
O Inferama só destaca o “melhor resultado” quando a métrica, o conjunto de testes, a configuração e a data permitem uma comparação equivalente. Os números do fornecedor são apresentados como declarações de sua própria fonte.
Cronologia
Bolt E4B · BF16 / Q4_K_M
Pesos publicados e endpoint de prototipagem disponível; variantes agrupadas sem duplicar fichas.