Infrastruttura, chip, inferenza e modelli eseguiti sui tuoi dispositivi.
28 articoli
Il benchmark valuta agenti che cercano di ricostruire risultati di articoli di machine learning usando i materiali pubblicati e un budget di GPU prestabilito. I tassi di successo indicano una difficoltà crescente, ma non stabiliscono se le conclusioni scientifiche degli articoli siano valide.
Un preprint descrive un sistema che consulta definizioni di informazioni sensibili specifiche per dominio durante l’inferenza. I risultati iniziali indicano una capacità di rilevamento superiore a quella di un classificatore di riferimento nella maggior parte delle combinazioni esaminate, ma le informazioni disponibili non consentono di valutare tutti gli errori né la preparazione del sistema per un impiego reale.
La proposta punta a dare accesso a modelli più esigenti senza trasferirne tutto il carico computazionale a bordo. Le fonti descrivono possibili vantaggi, ma qui non forniscono metriche né dettagli sufficienti per quantificare i risultati.
OpenAI annuncia diagnostica e punti di interruzione espliciti per la cache di GPT‑6. L’effetto su latenza e costi dipenderà dal modello delle richieste e va verificato con misurazioni proprie.