Infrastructure, puces, inférence et modèles exécutés sur vos appareils.
27 articles
Après une pause de 11 jours suite à des incidents de sécurité, OpenAI a décidé de supprimer l'accès à Internet en temps réel pour ses modèles les plus avancés, le remplaçant par un environnement simulé avec du contenu web mis en cache.
Recursive a lancé Flint, un modèle MoE de 40B paramètres pour la programmation agentique exécutable en local. Son développement a été piloté par Eureka Machine, un système de recherche automatisée qui a optimisé l'architecture, l'entraînement et l'inférence en moins de quatre mois.
Le 21 octobre 2026, Anthropic a lancé l'aperçu de recherche de Claude Duet, une application dans laquelle le modèle agit comme agent proactif. Nous analysons sa disponibilité initiale, son lien avec l'infrastructure d'agents gérés et les limites des éléments confirmés sur ses capacités spécifiques.
Quatre modèles de NVIDIA sont devenus publics le 20 octobre 2026 : deux systèmes d'embeddings, un reranker multimodal et un modèle d'édition d'image pour l'inspection de cartes. Tous fonctionnent sous la licence OpenMDW 1.1 et nécessitent une infrastructure propre.
DeepSeek a publié son framework interne d'inférence, qu'il utilise déjà en production avec V4.1-Flash. Cette ouverture peut faciliter les déploiements autonomes, mais les sources fournies ne permettent pas de confirmer indépendamment ses avantages en matière de performance, l'étendue du support matériel ou une réduction effective de la dépendance à NVIDIA.
AWS lance TorchNeuron, un backend natif open source permettant d'exécuter les modèles PyTorch sur les puces Trainium2 et Trainium3. L'outil vise à réduire la dépendance à CUDA, bien que la première version présente des limites de compatibilité et omette des milliers de tests du framework.
Inception Labs a dévoilé Mercury 3, un modèle de langage fondé sur la diffusion promettant une vitesse d'inférence de 1 068 jetons par seconde et un contexte d'un million de jetons. Nous analysons son architecture, les comparaisons avec les modèles autorégressifs et les limites actuelles des preuves indépendantes.
L'architecture d'inférence découplée de vLLM intègre un mécanisme de transfert bidirectionnel du cache KV permettant de réutiliser le contexte entre les tours, améliorant significativement le temps jusqu'au premier jeton (TTFT) pour les charges de travail agentiques.
Nemotron 3.5 Super VL est conçu pour interpréter des documents, graphiques, images et vidéos, et pour accompagner des tâches longues faisant appel à des outils. Les informations disponibles confirment le lancement et la taille du modèle, mais ne suffisent pas à établir ses performances de manière indépendante ni les besoins matériels de chaque déploiement.
Le nouveau modèle associe raisonnement, utilisation d’outils et compréhension du texte, des images, des documents et de la vidéo. NVIDIA annonce 12 milliards de paramètres actifs par jeton et des gains d’efficacité, mais les résultats publiés ne suffisent pas à établir une comparaison indépendante ni un coût d’inférence universel.
Des chercheurs présentent une méthode pour projeter les sorties de modèles de diffusion biomoléculaires, corrigeant les défauts physiques tels que les chevauchements de chaînes ou les liaisons déformées, sans nécessiter de réentraînement du modèle.
Un préprint récent propose un système qui ajuste dynamiquement la distribution des travailleurs entre les phases de préfill et de décodage pour éviter les violations de SLO sans nécessiter d'ajout de GPU supplémentaires.