Deep Principle disponibiliza Hydrogen 1.0 em formato INT8 para download
Imagem gerada pela Equipa Editorial da Inferama
01

O que a Deep Principle publicou

A Deep Principle publicou uma distribuição quantizada INT8 do Hydrogen-1.0 em um repositório público. O checkpoint é uma variante do modelo científico da empresa, não uma nova geração do Hydrogen. A documentação identifica o GLM-5.3, da Z.AI, como modelo-base.

A revisão pública identificável do repositório contém os pesos e a documentação desta variante. No entanto, a data original de publicação não está confirmada: a revisão permite identificar o estado do artefato, mas, por si só, não basta para determinar quando ele foi anunciado ou quando começou a ficar disponível.

O modelo foi concebido para interagir por texto com perguntas científicas, explicações de derivações e respostas estruturadas a problemas de pesquisa em aberto. A ficha menciona demonstrações em computação científica, exploração de redes de reação, análise de estruturas por NMR e planejamento experimental. Esses exemplos combinam ferramentas externas e ambientes de pesquisa específicos; por si só, não demonstram desempenho geral nem resultados científicos verificados.

A publicação oferece uma opção de implantação com pesos menores que os da distribuição BF16, em troca de requisitos de compatibilidade e possíveis efeitos da quantização. Reduzir o uso de memória não garante maior velocidade ou precisão. A ficha afirma expressamente que não se espera que esta variante seja mais rápida que a BF16.

02

Acesso, tamanho e disponibilidade

O repositório oferece os pesos INT8 e os arquivos de configuração necessários para download e execução em um ambiente compatível. O checkpoint ocupa aproximadamente 793 GB, equivalentes a 739 GiB, ante cerca de 1,5 TB da variante BF16 mencionada na ficha. A economia de espaço pode ser relevante no planejamento de armazenamento e memória, embora a implantação ainda exija recursos consideráveis.

A publicação dos pesos não confirma uma API pública hospedada nem uma tarifa de uso na nuvem. Quem quiser testar o modelo precisa de infraestrutura própria ou de um provedor compatível com este checkpoint; os custos de computação e armazenamento dependerão desse ambiente. A ficha não publica preços de entrada ou saída para uma API hospedada.

A documentação declara um contexto de até 1 milhão de tokens e uma saída máxima de até 128 mil tokens, mas ressalva que os limites efetivos dependem da estrutura de inferência, da configuração do serviço e dos recursos disponíveis. O comando de exemplo para implantação define o contexto em 262.144 tokens, abaixo do máximo declarado para o modelo. Portanto, os limites máximos não devem ser confundidos com o que cada instalação permitirá.

A presença dos arquivos de pesos no repositório confirma a existência de uma distribuição para download na revisão identificada. Isso não estabelece, por si só, que haja um serviço gerenciado, que qualquer usuário possa executar o modelo em seu computador ou que todos os provedores ofereçam o mesmo limite de contexto.

O que os dados de disponibilidade significam

A ficha distingue o checkpoint para download dos limites definidos em cada implantação.

DadoO que permite concluirO que não confirma
Pesos INT8 no repositórioHá uma distribuição de pesos disponível na revisão identificada.Uma API hospedada ou a data original de publicação.
Contexto declarado de até 1 milhão de tokensO modelo e a ficha descrevem esse valor como capacidade prevista.Que qualquer runtime ou servidor consiga habilitá-lo.
Exemplo de implantação com 262.144 tokensEssa configuração específica estabelece um limite menor.Que todas as instalações precisem usar esse limite.
Preço de API não publicadoA ficha não confirma uma tarifa para serviço hospedado.Que o uso de infraestrutura própria seja gratuito.
03

O que muda com a quantização INT8

INT8 descreve o armazenamento de determinados pesos do modelo como inteiros de 8 bits. Nesta distribuição, a Deep Principle informa que quantizou os especialistas roteados das camadas 3 a 77 e as redes MLP densas das camadas 0 a 2, com pesos simétricos e uma escala por grupo de 128 pesos. As ativações e vários componentes compartilhados — entre eles a atenção, o roteador e as incorporações — permanecem em BF16.

O escopo parcial é importante: INT8 não significa que todos os componentes do modelo usem inteiros de 8 bits. A ficha descreve uma quantização apenas dos pesos, aplicada diretamente aos pesos BF16 sem dados de calibração. Também identifica o formato do checkpoint como compressed-tensors pack-quantized; portanto, o runtime compatível precisa reconhecer esse formato e a rota de pesos inteiros para modelos MoE.

A vantagem prática apontada pela empresa é reduzir o espaço ocupado pelos pesos em comparação com BF16. Em contrapartida, o usuário precisa manter os arquivos de configuração e contar com um mecanismo de inferência que aceite a combinação de componentes INT8 e BF16. O formato não está vinculado a uma marca específica de GPU, mas essa portabilidade não comprova compatibilidade testada com qualquer hardware.

A documentação alerta que a quantização pode afetar as saídas e recomenda validar o modelo para a tarefa pretendida. Não há uma medição numérica de precisão própria desta variante INT8, portanto não é possível quantificar quanto a qualidade muda em relação à BF16.

04

Requisitos e escopo dos testes

A Deep Principle informa que testou o checkpoint com SGLang 0.5.20 e oito GPUs NVIDIA B300. A própria ficha limita essa afirmação a esse ambiente: não há registro de testes em outros equipamentos ou runtimes. O resultado serve como referência de configuração, não como garantia de que a instalação funcionará em qualquer servidor.

O exemplo de inicialização exige desativar a fusão de especialistas compartilhados. A razão indicada é que os especialistas compartilhados usam BF16, enquanto os especialistas roteados usam INT8; o runtime não consegue fundir esses pesos em um único tensor de especialistas. Segundo a documentação, sem essa opção o SGLang não posiciona corretamente os pesos dos especialistas compartilhados.

A implantação também precisa manter os arquivos de configuração do checkpoint, incluindo config.json, junto com o tokenizador, o template de conversa, generation_config.json e o índice de pesos. Esses arquivos permitem que o runtime use as configurações de quantização e as convenções de geração correspondentes a esta distribuição. Substituí-los por arquivos de outra variante pode alterar a configuração efetiva ou impedir o carregamento correto.

A ficha também recomenda revisar o código remoto antes de executá-lo. Compatibilidade de formato, memória disponível e configuração de contexto são condições distintas: atender a uma delas não garante as demais. Em particular, aumentar o contexto em relação ao exemplo exige suporte compatível do runtime e memória suficiente.

Verificações antes da implantação

Use estas etapas para avaliar se um ambiente pode executar o checkpoint; elas não substituem testes de funcionamento.

  1. 01Verifique se o runtime aceita o formato compressed-tensors pack-quantized e uma rota compatível com modelos MoE de pesos inteiros.
  2. 02Confirme que a memória disponível comporta os pesos, o contexto solicitado e os recursos adicionais do serviço.
  3. 03Mantenha juntos os pesos, config.json, o tokenizador, o template de conversa, generation_config.json e o índice de pesos da mesma distribuição.
  4. 04Configure o tratamento dos especialistas compartilhados exigido pelo checkpoint; o exemplo com SGLang inclui --disable-shared-experts-fusion.
  5. 05Comece com um limite de contexto compatível com a memória e o runtime; aumente-o apenas se o ambiente permitir.
  6. 06Teste respostas nas tarefas reais e verifique as conclusões científicas de forma independente.
05

Para que serve e o que não demonstra

O Hydrogen-1.0 foi concebido para exploração educacional e apoio a tarefas científicas: explicar equações, desenvolver derivações com pressupostos explícitos e preparar rascunhos estruturados para revisão especializada. A ficha não apresenta suas respostas como resultados experimentais confirmados. Uma explicação detalhada ou expressa com segurança não comprova que esteja correta.

O modelo pode produzir erros em fatos, cálculos, equações, referências ou explicações. Seu desempenho também pode variar conforme a disciplina, o idioma, o formato da tarefa e o tamanho da entrada. Um contexto longo não garante que ele recupere, compreenda ou use corretamente todos os detalhes fornecidos.

A ficha informa que a avaliação se concentra em perguntas científicas de múltipla escolha e problemas abertos de pesquisa. Ela não apresenta resultados numéricos específicos desta quantização INT8. As demonstrações do modelo original tampouco devem ser automaticamente atribuídas a esta distribuição ou interpretadas como replicações independentes.

Para avaliar o modelo em uma tarefa específica, prepare exemplos representativos, confira os cálculos por métodos independentes e verifique citações e afirmações na literatura primária. Em aplicações com consequências para a saúde, a segurança ou outras decisões importantes, as respostas não são base suficiente para decidir sem revisão competente.

06

Licença e materiais incluídos

Os pesos quantizados do Hydrogen-1.0 INT8 são distribuídos sob a licença MIT incluída no repositório. A licença exige que os avisos de copyright e permissão sejam mantidos ao usar ou redistribuir os pesos. O documento de escopo atribui o modelo-base GLM-5.3 à Z.AI e esclarece que a licença do Hydrogen não altera a licença aplicável a um checkpoint original do GLM-5.3 obtido separadamente.

A documentação e os exemplos originais escritos pela Deep Principle têm um escopo diferente e são identificados sob a Apache License 2.0. Arquivos de terceiros, como configurações, tokenizadores, templates ou código, mantêm as licenças e os avisos que se aplicam a eles. A licença MIT dos pesos não torna automaticamente todos os componentes relacionados materiais MIT.

O repositório não inclui os conjuntos completos de dados nem as receitas completas de treinamento. A licença dos arquivos publicados também não concede acesso ou direitos de redistribuição sobre materiais de treinamento que não façam parte da distribuição.

Em resumo, o fato verificável é a publicação de uma variante INT8 para download, com pesos menores que os da BF16 e requisitos específicos de execução. A data original de publicação e a existência de um serviço hospedado seguem sem confirmação; também não há uma avaliação numérica publicada que meça o efeito desta quantização na qualidade.

07

Continue a explorar

Fontes consultadas

03

Correções e transparência

Se encontrar informação incorreta ou desatualizada, envie-nos a página e a fonte que devemos rever.

Propor uma correção