AI systémy a vývoj 30. októbra 2026·4 minOdborný rozbor

NVIDIA pridáva Nemotron 3.5 pre vyhľadávanie dôkazov v textoch, obrázkoch aj PDF

NVIDIA predstavila nové modely Nemotron 3.5 pre tri časti retrieval pipeline: Embed na vyhľadávanie v texte a dokumentových obrázkoch, Rerank na presnejšie zoradenie nájdených kandidátov a Parse na prevod dokumentových obrázkov do štruktúrovaného strojovo čitateľného obsahu. Firma zároveň tvrdí, že lepší reranking môže znížiť spotrebu agentických tokenov asi o 13 až 14 % a že nové modely vedú vo vybraných benchmarkoch, no tieto čísla pochádzajú z jej vlastného materiálu.

Ilustračný titulný obrázok k oznámeniu kolekcie Nemotron 3.5 pre embedding, reranking a parsovanie dokumentov. Source: https://huggingface.co/blog/nvidia/nemotron-retriever-world-class-agentic-retrieval

NVIDIA rozširuje kolekciu Nemotron Retriever o päť nových modelov: Embed 8B BF16, Embed 1B BF16, Embed 1B NVFP4, Rerank 8B BF16 a Parse s 631 miliónmi parametrov. Spolu cielia na bežný problém agentických systémov: ak agent nenájde správne podklady, opakuje hľadanie, míňa viac inferenčných tokenov a odpoveď sa predražuje aj zhoršuje.

Praktická novinka je v tom, že Embed nemá hľadať len v čistom texte, ale aj v obrázkoch dokumentov, ako sú tabuľky, grafy, infografiky, datasheety či schémy. Na to nadväzuje Rerank, ktorý po prvom výbere kandidátov znova posudzuje dvojice dopyt–dokument a má posunúť dopredu tie dôkazy, ktoré otázku skutočne zodpovedajú, nie iba tematicky pripomínajú.

Tretí diel skladačky, Nemotron 3.5 Parse, je určený pre PDF a obrazové dokumenty, kde samotná textová vrstva často chýba alebo stráca poradie čítania, väzby v tabuľkách a informácie ukryté v grafoch. Podľa NVIDIA model prevádza stránky na strojovo čitateľný obsah so zachovaním štruktúry, vrátane Markdownu, HTML tabuliek a blokov vhodných na indexovanie a ďalšie spracovanie.

Firma k tomu pridáva aj výkonové tvrdenia. Vo vlastných testoch uvádza, že pridanie Nemotron 3.5 Rerank znížilo agentické tokenové náklady na dopyt približne o 14 % s Embed 8B a o 13 % s Embed 1B, pričom sa zároveň zlepšila presnosť retrievalu. Rovnako tvrdí prvé miesta vo vybraných benchmarkoch pre Embed, Rerank aj Parse. Keďže však v dodaných podkladoch ide o primárny materiál od autora riešenia, tieto čísla treba čítať ako tvrdenia výrobcu, nie ako nezávisle potvrdený verdict trhu.

Ilustračný graf z podkladu k výkonu Nemotron 3.5 Rerank v agentickom retrievale. — Graf z podkladu ilustrujúci tvrdenia NVIDIA o výkone rerankingu v retrieval pipeline pre agentov. Source: https://huggingface.co/blog/nvidia/nemotron-retriever-world-class-agentic-retrieval

Podrobnosti a podklady

Čo presne NVIDIA oznámila

Základ oznámenia je vydanie piatich modelov v rámci rozšírenia Nemotron Retriever. Zdroj ich menuje explicitne: Nemotron 3.5 Embed 8B BF16, 1B BF16, 1B NVFP4, Nemotron 3.5 Rerank 8B BF16 a Nemotron 3.5 Parse s 631 miliónmi parametrov. Článok ich rámcuje ako otvorené a komerčne dostupné modely pre embedding, reranking a extrakciu dokumentov.

Ako má fungovať Embed a Rerank

Mechanizmus je rozdelený na tri vrstvy retrieval pipeline. Embed vytvára reprezentácie pre vyhľadávanie naprieč textom aj obrazovým obsahom dokumentov, vrátane tabuliek, grafov, infografík, datasheetov a schém. Rerank nastupuje až po prvom výbere kandidátov: v režime cross-encoder spoločne hodnotí pár dopyt–dokument a spresňuje poradie relevantnosti naprieč textovými aj obrazovými vstupmi. Zdroj to vysvetľuje ako spôsob, ako oddeliť iba voľne súvisiaci obsah od dôkazov, ktoré priamo odpovedajú na otázku, a tým efektívnejšie využiť kontextové okno agenta.

Čo má robiť Parse pri PDF a skenoch

Nemotron 3.5 Parse rieši opačný koniec toku dát: prevod PDF a dokumentových obrázkov do štruktúrovaného obsahu. Zdroj upozorňuje, že bežný extrahovaný text môže strácať poradie čítania, väzby medzi hlavičkami a hodnotami v tabuľkách alebo informácie z grafov; pri skenoch nemusí existovať použiteľná textová vrstva vôbec. Parse preto podľa NVIDIA identifikuje prvky dokumentu, ich pozície a reading order a extrahuje tabuľky aj grafy do štruktúrovaných reprezentácií. Výstupom majú byť Markdown, HTML tabuľky a štruktúrované bloky vhodnejšie na indexovanie, vyhľadávanie a ďalšie workflowy.

Aké výsledky firma tvrdí

Výkonové tvrdenia sú v zdroji podrobné, ale treba ich držať v atribúcii. NVIDIA uvádza, že pridanie Nemotron 3.5 Rerank znižovalo agentické tokenové náklady približne o 14 % s Embed 8B a o 13 % s Embed 1B, pričom zároveň zlepšovalo retrieval accuracy. Pre multimodálne dense retrieval firma uvádza pre Nemotron 3.5 Embed 8B BF16 na ViDoRe v3.1 hodnotu 61.17 nDCG@10 a prvé miesto medzi dense retrieval modelmi. Pre reranking uvádza Nemotron 3.5 Rerank 8B BF16 s výsledkom 60.49 nDCG@10 oproti 59.17 pre Qwen-3-VL-Reranker-8B. Pre Parse zas píše, že na ParseBench medzi modelmi pod 1 miliardu parametrov dosiahol 75.20 pri rýchlosti 10.5 strany za sekundu na jednom NVIDIA H100.

Nasadenie, kvantizácia a serving

Zdroj opisuje aj varianty nasadenia. Embed 1B NVFP4 má podľa NVIDIA priniesť vyšší throughput pri multimodálnom retrievale; na NVIDIA GB200 firma uvádza 27.1 % vyšší výkon oproti 1B BF16, z 101.3 na 128.8 dokumentu za sekundu, pri zachovaní 99.85 % retrieval accuracy na ViDoRe v3 s kombinovanými obrazovo-textovými vstupmi. Ďalšia časť sa týka serving stacku NVIDIA NIM: v testoch na NVIDIA RTX PRO 6000 Blackwell Server Edition mal dosiahnuť 6 031 query requestov za sekundu oproti 2 099 pri porovnateľnej konfigurácii vLLM, teda približne 2.9-násobok. Aj tieto údaje však v dodanom súbore zostávajú tvrdeniami autora článku.

Ako sú modely podľa zdroja postavené

Materiál zároveň vysvetľuje tréningové pozadie. Nemotron 3.5 Embed 8B stavia na Ministral-3-8B-Instruct a jeho jazyková časť je inicializovaná z Nemotron-3-Embed-8B-BF16; 1B Embed modely sú destilované z 8B verzie. Pri embedding tréningu zostáva jazyková časť zmrazená, takže text-only embeddingy majú podľa zdroja zostať zhodné s príslušnými modelmi Nemotron 3 Embed, čo má umožniť znovupoužitie existujúcich textových embeddingov a vektorových indexov. Rerank používa rovnaký backbone ako Embed 8B, ale v cross-encoder konfigurácii s finálnou MLP hlavou pre skalárny logit relevantnosti.

Hranice toho, čo možno z podkladov tvrdiť

Najdôležitejšie obmedzenie článku je zdrojové. K dispozícii je jeden primárny materiál publikovaný na Hugging Face ako community article od autorov z NVIDIA. To stačí na presný opis vydania a mechanizmu, ale nie na nezávislé potvrdenie benchmarkových rozdielov, throughputu ani partnerských evaluácií. Preto je korektné písať, že NVIDIA tieto výsledky uvádza, nie že ich trh alebo nezávislá komunita definitívne potvrdili na základe dodaných podkladov.