Téma

Inferencia

2 publikovaných článkov s dohľadateľnými zdrojmi a revíziami.

AI systémy a vývoj
AI systémy a vývoj

DiffuSpace uviedol Clover-35B-A3B-Preview a tvrdí vyššiu rýchlosť aj silnejšie výsledky než podobne veľké autoregresívne modely

DiffuSpace oznámil prvú verziu modelovej línie Clover. Podľa firmy ide o 35B MoE difúzny jazykový model s 3B aktivovanými parametrami, otvorený pod licenciou Apache, pričom výrobca pripisuje jeho rýchlosť a výsledky prepracovanej architektúre Bidirectional Gated DeltaNet a uvádza vlastné benchmarky aj nameranú priepustnosť inferencie.

Odborný rozbor·3 min
AI systémy a vývoj

ONNX Runtime 1.30.1 opravuje validáciu modelov a prenosy Plugin EP bez sľubov o výkone

Microsoft vydal ONNX Runtime 1.30.1 ako patch release nad verziou 1.30.0. Poznámky k vydaniu uvádzajú cielené opravy validácie modelov a memory-safety, konkrétne prevenciu out-of-bounds čítaní, heap buffer overflow a odmietanie neplatných grafov namiesto pádu; zároveň sa mení správanie Plugin EP tak, že pri single-tensor prenosoch zachová execution stream volajúceho pre asynchrónne kópie, pričom synchronné správanie ostáva zachované. Dodaný zdroj však neobsahuje nezávislé testy ani kvantifikáciu dopadu.

Odborný rozbor·3 min