ATUALIDADE DE IA

Segurança e sociedade

Segurança, privacidade, regulamentação e impacto social da inteligência artificial.

Últimas notícias

30 artigos

RSS ↗
Long-Transduction: um diagnóstico controlado para medir a deriva em agentes de IA em tarefas longas

Long-Transduction: um diagnóstico controlado para medir a deriva em agentes de IA em tarefas longas

Um novo preprint introduz o Long-Transduction, um teste projetado para isolar como os erros crescem em modelos de IA quando o contexto se alonga, o formato dos dados muda ou a complexidade das sub-tarefas aumenta. Os autores relatam quedas significativas de desempenho em sete modelos de pesos abertos, apontando uma vulnerabilidade crítica para fluxos de trabalho agênticos de longa duração.

Nvidia combina isolamento por software e vigilância em hardware para conter agentes de IA

Nvidia combina isolamento por software e vigilância em hardware para conter agentes de IA

A Open Agent Safety Platform reúne o OpenShell, que aplica limites durante a execução, e o Sentry, projetado para supervisionar agentes a partir de uma DPU BlueField-4. A Nvidia afirma que o Sentry pode isolá-los em milissegundos, mas essa capacidade não equivale a uma defesa demonstrada contra qualquer ataque: a detecção, as configurações e os cenários de falha continuam sendo decisivos.

Gemini Enterprise: o que o agente do Google pode fazer e o que ainda não foi confirmado

Gemini Enterprise: o que o agente do Google pode fazer e o que ainda não foi confirmado

A documentação do Google descreve o Gemini Enterprise como uma plataforma de IA para o trabalho, capaz de se conectar a aplicativos e apoiar tarefas de conhecimento. No entanto, as fontes verificadas não confirmam que o agente tenha identidade profissional própria nem detalham o alcance de um lançamento com delegação autônoma entre aplicativos.

Automatizar a investigação em IA: o que se sabe e o que continua por verificar

Automatizar a investigação em IA: o que se sabe e o que continua por verificar

Uma notícia da ABC relata um pedido de supervisão da aprendizagem autónoma da IA, mas as fontes disponíveis não permitem confirmar o documento original, os seus signatários nem as recomendações exatas. Oferecem, ainda assim, contexto sobre investigação automatizada e regulação.

Palo Alto Networks anuncia testes ofensivos contínuos com IA: o que se sabe e o que ainda falta demonstrar

Palo Alto Networks anuncia testes ofensivos contínuos com IA: o que se sabe e o que ainda falta demonstrar

O Unit 42 Continuous Frontier AI Defense promete descobrir vulnerabilidades, verificar se podem ser exploradas e acelerar sua correção. Os números de desempenho divulgados pela Palo Alto Networks continuam sendo afirmações do fornecedor: as informações publicadas não permitem auditá-los de forma independente.