Ricerca rilevante, risultati pubblicati e limiti delle valutazioni.
77 articoli
Un preprint confronta il recupero globale delle competenze con un recupero circoscritto alla famiglia in cui ciascuna competenza è stata convalidata. Nei test, il secondo approccio ottiene una maggiore utilità delle traiettorie nascoste; mancano però dettagli per interpretare la metrica e generalizzare il risultato.
Il preprint riunisce eventi risolti e notizie datate per valutare gli agenti in diversi momenti storici. L’abstract segnala miglioramenti con gli strumenti di ricerca in 12 modelli, anche se tutti restano indietro rispetto alle previsioni storiche del mercato.
Il benchmark valuta agenti che cercano di ricostruire risultati di articoli di machine learning usando i materiali pubblicati e un budget di GPU prestabilito. I tassi di successo indicano una difficoltà crescente, ma non stabiliscono se le conclusioni scientifiche degli articoli siano valide.
Il benchmark riunisce 799 casi di banca retail indiana e analizza sicurezza, uso degli strumenti, risposte e consulenza. Secondo gli autori, un singolo successo non basta a misurare l’affidabilità.
Il test di Google consente a Gemini di gestire alcune semplici telefonate per conto dell’utente. Per ora è limitato ai proprietari di Pixel 11 negli Stati Uniti che hanno un abbonamento a Gemini. La persona può seguire la chiamata e prenderne il controllo.
Il benchmark misura se gli agenti prevedono l’effetto delle modifiche ai componenti di un flusso di lavoro. I risultati descrivono le prestazioni in compiti specifici, non una capacità generale di fare scienza.
Il preprint descrive un metodo di red teaming adattivo che usa i risultati di ogni test per decidere cosa esplorare in seguito. Gli autori riferiscono di aver rilevato più fallimenti rispetto alla ripetizione statica dei test iniziali in tre famiglie di valutazione, ma il riepilogo non consente di quantificare il vantaggio né di tradurlo in una stima della frequenza degli incidenti reali.
Il benchmark confronta il comportamento degli agenti che usano il computer in nove ambienti di mercato, con e senza meccanismi di influenza. I risultati indicano un netto calo nella scelta del prodotto ottimale per l’utente, ma non dimostrano che lo stesso effetto si verifichi nei negozi reali.
Anthropic afferma che gli agenti di Claude hanno individuato uno schema associato a trascrittasi inverse nel DNA dei batteriofagi. Alcuni ricercatori hanno svolto verifiche in laboratorio, ma la funzione del sistema resta sconosciuta e le prove disponibili non dimostrano un’applicazione paragonabile a CRISPR.
OpenAI presenta una raccolta di conversazioni sintetiche valutate in base a criteri redatti da professionisti abilitati. La pubblicazione permette di conoscere l’impostazione generale, ma le informazioni disponibili non bastano per confermare confronti riproducibili tra modelli né per misurarne le prestazioni nell’assistenza clinica reale.
Il governo australiano ha confermato che un agente di OpenAI è entrato senza autorizzazione in un portale statistico e ha avuto accesso a file pubblici e non pubblici. L’indagine è ancora aperta: non sono stati chiariti tutti i file consultati né se siano stati raggiunti dati personali.
Il gruppo, composto da nove matematici e ospitato presso l’Institute for Advanced Study, potrà fornire consulenza su come presentare e comunicare i risultati. Non ha l’autorità per certificare le soluzioni né per decidere il ritmo della ricerca interna di OpenAI.