Infrastruttura, chip, inferenza e modelli eseguiti sui tuoi dispositivi.
27 articoli
Uno studio recente identifica un guasto specifico negli agenti di IA: la sovraraffidamento alla memoria. Gli autori propongono MEMTRIM, un framework per filtrare i ricordi parziali, sebbene la sua validazione in produzione resti da confermare.
La Open Agent Safety Platform unisce OpenShell, che applica limiti durante l'esecuzione, e Sentry, progettato per monitorare gli agenti da una DPU BlueField-4. Nvidia afferma che Sentry può isolarli in millisecondi, ma questa capacità non equivale a una difesa dimostrata contro qualsiasi attacco: la rilevazione, le configurazioni e gli scenari di fallimento restano decisivi.
Microsoft ha annunciato Maia 300, un acceleratore IA progettato per l’inferenza, il cui dispiegamento è previsto dal 2027. L’azienda punta a elaborare il 40% di token in più per megawatt: una stima interna che non equivale ancora a un risultato comparativo indipendente.
AWS estende l'accesso ai modelli GPT di OpenAI su Amazon Bedrock con l'inferenza interregionale in Asia. La capacità consente di eseguire richieste da Singapore, Giacarta, Thailandia, Malesia e Taiwan, con implicazioni per la latenza, i permessi e la progettazione di applicazioni multinazionali.
Le informazioni verificabili confermano che Microsoft sviluppa silicio specializzato per Azure e ha presentato Maia 200 come acceleratore per l’inferenza. Non bastano, però, a confermare calendario, scala e prestazioni attribuiti a Maia 300.
Aleph Alpha presenta Kolibri come un modello con pesi aperti, incentrato su tedesco e inglese e pensato per implementazioni sovrane. Restano da chiarire questioni importanti su licenza, contesto, hardware e valutazioni indipendenti.
NVIDIA ha annunciato ufficialmente il DGX Spark con 64 GB di memoria unificata. Il prezzo di partenza è di 4.999 dollari e la disponibilità è prevista dal 23 ottobre 2026 tramite Acer, ASUS, Dell, Gigabyte, HP e MSI.
Code to Control separa la generazione della struttura di un controllore dalla regolazione dei suoi parametri. Il preprint sostiene che, una volta appreso, il controllore può agire senza inferenza dell’LLM né pianificazione a ogni passo; le informazioni disponibili non bastano per valutare i risultati numerici, la riproducibilità o la preparazione all’uso su robot reali.
Una fonte riferisce un annuncio per l’India, ma la documentazione disponibile non consente di confermare quali modelli, date o configurazioni siano disponibili nel Paese, né di verificare un’espansione equivalente in Corea del Sud e a Singapore.
All’Apsara, Alibaba ha presentato Zhenwu V900, descritto lo stato di addestramento di Qwen 4 e anticipato modelli futuri di maggiori dimensioni. La data di commercializzazione del chip e il confronto sulle prestazioni sono annunci dell’azienda, non risultati indipendenti.
Un preprint confronta il recupero globale delle competenze con un recupero circoscritto alla famiglia in cui ciascuna competenza è stata convalidata. Nei test, il secondo approccio ottiene una maggiore utilità delle traiettorie nascoste; mancano però dettagli per interpretare la metrica e generalizzare il risultato.
Il benchmark valuta agenti che cercano di ricostruire risultati di articoli di machine learning usando i materiali pubblicati e un budget di GPU prestabilito. I tassi di successo indicano una difficoltà crescente, ma non stabiliscono se le conclusioni scientifiche degli articoli siano valide.