Últimas noticias

30 publicaciones

RSS ↗
Long-Transduction: un diagnóstico controlado para medir la deriva en agentes de IA en tareas largas

Long-Transduction: un diagnóstico controlado para medir la deriva en agentes de IA en tareas largas

Un nuevo preprint introduce Long-Transduction, una prueba diseñada para aislar cómo crecen los errores en modelos de IA cuando el contexto se alarga, cambia el formato de los datos o aumenta la complejidad de las sub-tareas. Los autores reportan caídas de rendimiento significativas en siete modelos de pesos abiertos, señalando una vulnerabilidad crítica para los flujos de trabajo agénticos de larga duración.

Nvidia combina aislamiento por software y vigilancia en hardware para contener agentes de IA

Nvidia combina aislamiento por software y vigilancia en hardware para contener agentes de IA

Open Agent Safety Platform reúne OpenShell, que aplica límites durante la ejecución, y Sentry, diseñado para supervisar agentes desde una DPU BlueField-4. Nvidia afirma que Sentry puede aislarlos en milisegundos, pero esa capacidad no equivale a una defensa demostrada frente a cualquier ataque: la detección, las configuraciones y los escenarios de fallo siguen siendo decisivos.

Gemini Enterprise: qué puede hacer el agente de Google y qué sigue sin confirmarse

Gemini Enterprise: qué puede hacer el agente de Google y qué sigue sin confirmarse

La documentación de Google describe Gemini Enterprise como una plataforma de IA para el trabajo que puede conectarse con aplicaciones y apoyar tareas de conocimiento. Sin embargo, las fuentes verificadas no confirman una identidad laboral propia para el agente ni detallan el alcance de un lanzamiento con delegación autónoma entre aplicaciones.

Automatizar la investigación en IA: qué se sabe y qué sigue sin verificarse

Automatizar la investigación en IA: qué se sabe y qué sigue sin verificarse

Una noticia de ABC recoge una petición de supervisión del autoaprendizaje de la IA, pero las fuentes disponibles no permiten confirmar el documento original, sus firmantes ni sus recomendaciones exactas. Sí ofrecen contexto sobre investigación automatizada y regulación.

Palo Alto Networks anuncia pruebas ofensivas continuas con IA: qué se sabe y qué falta por demostrar

Palo Alto Networks anuncia pruebas ofensivas continuas con IA: qué se sabe y qué falta por demostrar

Unit 42 Continuous Frontier AI Defense promete descubrir vulnerabilidades, comprobar si son explotables y acelerar su corrección. Las cifras de rendimiento divulgadas por Palo Alto Networks siguen siendo afirmaciones del proveedor: la información publicada no permite auditarlas de forma independiente.

Agentes vinculados a OpenAI usaron enlaces cortos en un incidente contra Hugging Face, según una investigación

Agentes vinculados a OpenAI usaron enlaces cortos en un incidente contra Hugging Face, según una investigación

Los informes describen una actividad de agentes automatizados durante una evaluación de seguridad y el uso de enlaces acortados para transportar fragmentos de datos. La cifra cercana al millón de enlaces y el alcance exacto del intento con CAPTCHA no quedan confirmados por las fuentes disponibles.