Infraestrutura, chips, inferência e modelos executados nos seus dispositivos.
28 artigos
O benchmark avalia agentes que tentam reconstruir resultados de artigos de aprendizagem automática com os recursos publicados e um orçamento de GPU predefinido. As taxas de sucesso revelam uma dificuldade crescente, mas não determinam se as conclusões científicas dos artigos são válidas.
Um preprint descreve um sistema que consulta definições de informação sensível específicas de cada domínio durante a inferência. Os resultados iniciais favorecem sua capacidade de detecção em relação a um classificador de referência na maioria das combinações testadas, embora as informações disponíveis não permitam avaliar todos os erros nem sua preparação para uso real.
A proposta busca dar acesso a modelos mais exigentes sem concentrar todo o processamento a bordo. As fontes descrevem vantagens potenciais, mas não apresentam aqui métricas nem detalhes suficientes para quantificar os resultados.
A OpenAI anuncia diagnósticos e pontos de ruptura explícitos para o cache do GPT‑6. O impacto na latência e nos custos dependerá do padrão das solicitações e deverá ser verificado com medições próprias.