Infraestructura, chips, inferencia y modelos que se ejecutan en tus dispositivos.
27 publicaciones
Tras una pausa de 11 días por incidentes de seguridad, OpenAI ha decidido eliminar el acceso a internet en tiempo real para sus modelos más avanzados, sustituyéndolo por un entorno simulado con contenido web cacheado.
Recursive lanzó Flint, un modelo MoE de 40B parámetros para programación agéntica que se ejecuta en hardware local. Su desarrollo estuvo liderado por Eureka Machine, un sistema de investigación automatizada que optimizó la arquitectura, el entrenamiento y la inferencia en menos de cuatro meses.
El 21 de octubre de 2026, Anthropic lanzó la vista previa de investigación de Claude Duet, una aplicación donde el modelo actúa como agente proactivo. Analizamos su disponibilidad inicial, su relación con la infraestructura de agentes gestionados y las limitaciones de la evidencia actual sobre sus capacidades específicas.
Cuatro modelos de NVIDIA se han hecho públicos el 20 de octubre de 2026: dos sistemas de embeddings, un reranker multimodal y un modelo de edición de imagen para inspección de placas. Todos operan bajo la licencia OpenMDW 1.1 y requieren infraestructura propia.
DeepSeek ha publicado su framework interno de inferencia, que ya utiliza en producción con V4.1-Flash. La apertura puede facilitar despliegues propios, pero las fuentes aportadas no permiten confirmar de forma independiente sus ventajas de rendimiento, el alcance del soporte para hardware ni una reducción efectiva de la dependencia de NVIDIA.
AWS lanza TorchNeuron, un backend nativo de código abierto que permite ejecutar modelos de PyTorch en chips Trainium2 y Trainium3. La herramienta busca reducir la dependencia de CUDA, aunque su primera versión presenta limitaciones de compatibilidad y omite miles de pruebas del framework.
Inception Labs ha lanzado Mercury 3, un modelo de lenguaje basado en difusión que promete una velocidad de inferencia de 1.068 tokens por segundo y un contexto de 1 millón de tokens. Analizamos su arquitectura, las comparaciones con modelos autoregresivos y las limitaciones actuales de la evidencia independiente.
La arquitectura de inferencia desacoplada en vLLM incorpora un mecanismo de transferencia bidireccional de caché KV que permite reutilizar contexto entre turnos, mejorando significativamente el tiempo de primer token en cargas de trabajo agénticas.
Nemotron 3.5 Super VL se plantea para interpretar documentos, gráficos, imágenes y vídeo y apoyar tareas prolongadas con herramientas. La información disponible confirma el lanzamiento y la escala del modelo, pero no basta para establecer su rendimiento independiente ni cuánto hardware NVIDIA requiere cada despliegue.
El nuevo modelo combina razonamiento, uso de herramientas y comprensión de texto, imágenes, documentos y vídeo. NVIDIA declara 12.000 millones de parámetros activos por token y mejoras de eficiencia, pero los resultados publicados no bastan para establecer una comparación independiente ni un coste universal de inferencia.
Investigadores presentan un método para proyectar las salidas de modelos de difusión biomolecular, corrigiendo defectos físicos como choques entre cadenas o enlaces deformados sin necesidad de reentrenar el modelo.
Un preprint reciente propone un sistema que ajusta dinámicamente la distribución de trabajadores entre las fases de prefill y decode para evitar violaciones de SLO sin necesidad de añadir GPUs adicionales.