Últimas noticias

27 publicaciones

RSS ↗
Nvidia combina aislamiento por software y vigilancia en hardware para contener agentes de IA

Nvidia combina aislamiento por software y vigilancia en hardware para contener agentes de IA

Open Agent Safety Platform reúne OpenShell, que aplica límites durante la ejecución, y Sentry, diseñado para supervisar agentes desde una DPU BlueField-4. Nvidia afirma que Sentry puede aislarlos en milisegundos, pero esa capacidad no equivale a una defensa demostrada frente a cualquier ataque: la detección, las configuraciones y los escenarios de fallo siguen siendo decisivos.

Un LLM diseña un controlador que después actúa sin consultarlo en cada movimiento

Un LLM diseña un controlador que después actúa sin consultarlo en cada movimiento

Code to Control separa la generación de la estructura de un controlador del ajuste de sus parámetros. El preprint afirma que, una vez aprendido, el controlador puede actuar sin inferencia del LLM ni planificación en cada paso; la evidencia disponible no basta para evaluar cifras, reproducibilidad ni preparación para robots reales.

Limitar la memoria de los agentes por familia de tareas reduce interferencias en una prueba de reparación de código

Limitar la memoria de los agentes por familia de tareas reduce interferencias en una prueba de reparación de código

Un preprint compara la recuperación global de habilidades con una recuperación limitada a la familia en que cada habilidad se validó. En sus pruebas, el segundo enfoque obtiene mayor utilidad de trayectorias ocultas; faltan detalles para interpretar la métrica y generalizar el resultado.