Umělá inteligence v podnicích se posouvá od jednoduchých chatbotů k agentům, kteří mají vyhledávat informace, pracovat s nástroji, vyhodnocovat podklady a pomáhat s konkrétními pracovními úkoly. Za hlavní zprávu považuji to, že pro takové agenty nestačí jeden univerzální jazykový model. Různé úkoly totiž vyžadují odlišné schopnosti: někdy je rozhodující hluboké uvažování, jindy rychlost, nízká cena provozu, znalost interního prostředí nebo silnější kontrola nad citlivými daty.
NVIDIA popisuje přístup nazývaný systém modelů, v němž spolupracují výkonné frontierové modely a specializované otevřené modely. Agent tak nemusí řešit každou otázku stejně náročným a nákladným způsobem. Místo toho může nejprve pochopit požadavek, dohledat správný kontext a následně vybrat model, který danou práci zvládne nejlépe.
Tento princip je prakticky ukázán na platformě Glean, která pomáhá firmám vyhledávat ve vlastních datech a podnikat nad nimi konkrétní kroky. V centru příkladu stojí Waldo, specializovaný model posttrénovaný na NVIDIA Nemotron 3 Nano. Jeho úkolem není pouze sestavit odpověď. Nejprve shromáždí souvislosti napříč podnikovými zdroji, vyhodnotí složitost dotazu a rozhodne, zda postačí rychlá odpověď, nebo je namístě předat úlohu výkonnějšímu modelu s hlubším uvažováním.
Obsah
- 🧠 Inteligence nemá jedinou podobu
- ⚙️ Frontierové a otevřené modely mají rozdílné role
- 🔎 Glean ukazuje modelové směrování v praxi
- 🚦 Jak probíhá rozhodnutí mezi rychlou odpovědí a hlubokou analýzou
- 📈 Rychlejší podnikové vyhledávání s menší spotřebou tokenů
- 🔐 Data, soukromí a provoz přímo ve firmě
- 🛠️ AI agent není jen model, ale celý pracovní postup
- 🌐 Co tento přístup znamená pro enterprise AI
🧠 Inteligence nemá jedinou podobu
Za důležité považuji opustit představu, že „nejlepší model“ musí být automaticky nejlepší pro každý proces. Modely se liší silnými stránkami i nároky na provoz. Jeden může dobře analyzovat složité otázky a vytvářet strukturované závěry. Jiný může rychleji vyhledávat relevantní informace, zpracovat velké množství běžných požadavků nebo pracovat v prostředí, kde firma potřebuje mít data pod vlastní kontrolou.
Právě proto se do popředí dostává architektura s více modely. Nejde jen o technickou volbu, ale o způsob, jak sladit kvalitu odpovědí s provozními požadavky. Agent může být užitečný jen tehdy, když dokáže pracovat dostatečně přesně, ale zároveň nezdržuje pracovní postupy a nezatěžuje systém zbytečně nákladnými voláními.
V podnikové praxi může jeden dotaz znamenat několik velmi odlišných druhů práce:
- najít relevantní informace ve firemních dokumentech,
- propojit údaje z různých interních systémů,
- rozhodnout, zda jsou nalezené podklady dostatečné,
- zformulovat stručnou přímou odpověď,
- nebo vytvořit detailnější analýzu s tématy, důkazy a rozdělením do segmentů.
Každý z těchto kroků má jinou míru složitosti. Pokud by se i jednoduché vyhledání odpovědi pokaždé posílalo do nejvýkonnějšího modelu, podnik by mohl zbytečně prodlužovat dobu odezvy a spotřebovávat více výpočetních zdrojů. Pokud by se naopak složitý problém svěřil příliš jednoduchému modelu, odpověď by nemusela být dostatečně promyšlená.
Z mého pohledu je systém modelů snahou vyhnout se oběma extrémům. Agent má používat sílu tam, kde přináší skutečný užitek, a rychlost tam, kde je důležitější okamžitý výsledek.
⚙️ Frontierové a otevřené modely mají rozdílné role
Modely na hranici současných možností, často označované jako frontierové modely, jsou určené pro nejnáročnější úlohy vyžadující silné schopnosti uvažování. Mohou být vhodné ve chvíli, kdy je nutné spojit více podkladů, rozpoznat širší souvislosti a připravit uspořádaný rozbor místo jednoduché věty.
Otevřené modely naproti tomu přinášejí jiný druh flexibility. Firma je může doladit na vlastních datech tak, aby zvládaly specializovanou práci v konkrétní doméně. Zásadní je také možnost provozovat je přímo v podnikovém prostředí. To může pomoci se zabezpečením citlivých dat, zkrátit odezvu a podpořit úlohy s vysokým objemem požadavků.
Nejde tedy o souboj mezi dvěma kategoriemi modelů. Jde o spolupráci, v níž každý typ řeší část problému, pro kterou se hodí nejlépe.
Frontierové modely pro hlubší analýzu
Frontierový model má podle popsaného přístupu nastupovat především u komplexních dotazů. Takový požadavek nemusí mít jedinou jasnou odpověď. Může vyžadovat porovnání informací z různých zdrojů, rozlišení témat, práci s doklady a rozdělení závěrů podle určitých segmentů.
Podstatné je, že výkonný model nemá začínat bez podkladů. Waldo mu předává už shromážděný a relevantní kontext. Díky tomu se frontierový model může soustředit na samotné uvažování a vytvoření užitečného výstupu, místo aby trávil čas hledáním základních informací ve firemních zdrojích.
Tento detail považuji za klíčový. Výkon modelu není jen otázkou jeho schopností, ale i toho, jak dobře je úloha připravená. Správné podklady na vstupu mohou rozhodnout o tom, zda výsledkem bude obecná odpověď, nebo přehledná analýza opřená o relevantní důkazy.
Otevřené modely pro specializaci, rychlost a kontrolu
Otevřené modely mohou být upraveny pro konkrétní firemní práci. Pokud organizace opakovaně řeší podobné typy požadavků, potřebuje pracovat se specifickou terminologií nebo obsluhuje velký objem dotazů, specializovaný model může být praktickou součástí architektury.
Významnou roli hraje také provoz přímo v infrastruktuře firmy. Tento způsob může zlepšit kontrolu nad citlivými informacemi a snížit latenci, tedy dobu mezi zadáním požadavku a doručením výsledku. To je důležité zejména u úloh, které se opakují často a kde je rychlá odezva součástí uživatelské zkušenosti.
Více informací o přístupu společnosti Glean k podnikové AI lze najít na oficiálním webu Glean. Kontext k rodině modelů Nemotron nabízí také stránka NVIDIA věnovaná modelům Nemotron.
🔎 Glean ukazuje modelové směrování v praxi
Platforma Glean pracuje s podnikovým kontextem, který bývá rozptýlený napříč množstvím zdrojů. Zmíněny jsou například tikety zákaznické podpory, komunikace ve Slacku a data z průzkumů. Každý z těchto zdrojů může obsahovat část potřebné odpovědi, ale samostatně nemusí poskytovat úplný obraz.
Právě zde vstupuje do hry Waldo. Tento specializovaný model shromažďuje kontext z dostupných zdrojů a vytváří základ, na němž může agent dále stavět. Nejde pouze o vyhledání několika slov nebo dokumentů. Smyslem je spojit relevantní souvislosti tak, aby následující model dostal informace potřebné pro kvalitní odpověď.
Waldo zároveň posuzuje, jaký způsob zpracování je pro konkrétní otázku vhodný. Má v zásadě dvě hlavní cesty:
- U jednoduchého požadavku doručí potřebný kontext modelu, který dokáže odpovědět přímo a v jediném kroku.
- U složitého požadavku předá úlohu frontierovému modelu, jenž provede hlubší uvažování a připraví rozsáhlejší analýzu.
Toto rozhodování se označuje jako routing, česky směrování úloh. V praxi jde o mechanismus, který propojuje kvalitu, rychlost a náklady. Místo jednotného postupu pro každý dotaz agent vybírá cestu podle toho, co otázka skutečně vyžaduje.
Za nejzajímavější na tomto příkladu považuji to, že model pro směrování není pouhou technickou přepážkou. Waldo aktivně pracuje s kontextem a jeho rozhodnutí ovlivňuje, jaký typ odpovědi agent vytvoří. Představuje tak vrstvu mezi interními daty firmy a modely, které s nimi dále pracují.
🚦 Jak probíhá rozhodnutí mezi rychlou odpovědí a hlubokou analýzou
Jednoduché otázky mají obvykle jasný cíl a lze je zodpovědět na základě konkrétního kontextu. Pokud Waldo shromáždí relevantní informace, může je předat modelu, který vrátí odpověď přímo. Výsledkem má být rychlý proces bez zbytečného zapojení náročnějšího uvažování.
Komplexnější otázky vyžadují jiný postup. Mohou obsahovat více témat, potřebovat vyhodnotit rozporuplné podklady nebo vyžadovat rozdělení výsledků do jednotlivých kategorií. V takovém případě Waldo úlohu eskaluje k frontierovému modelu.
Frontierový model přitom nedostává neurčitý požadavek bez informací. Dostává správný kontext už na začátku. Díky tomu může efektivněji vytvářet strukturovaný výstup, který zahrnuje:
- hlavní témata, která se v podkladech opakují,
- důkazy, jež tyto závěry podporují,
- segmentové rozdělení, pokud je třeba výsledky členit podle odlišných skupin nebo oblastí.
Taková struktura je pro podnikové použití důležitá. Samotná odpověď nemusí stačit, pokud není jasné, z jakých podkladů vychází nebo jak se liší mezi jednotlivými částmi dat. Předání relevantního kontextu proto není vedlejší krok. Je to základ pro to, aby hlubší analýza dávala praktický smysl.
Z mého pohledu je zde patrná jednoduchá, ale důležitá zásada: náročné uvažování má největší hodnotu tehdy, když není plýtváno na dohledávání základních informací. Specializovaný model připraví pracovní plochu a frontierový model se může soustředit na komplexní interpretaci.
📈 Rychlejší podnikové vyhledávání s menší spotřebou tokenů
NVIDIA uvádí, že směrování modelů umožňuje platformě Glean prohledávat podnikový kontext desetkrát rychleji. Současně má tento přístup přinášet o 50 procent nižší latenci a o 25 procent méně tokenů, aniž by se snížila kvalita odpovědí.
Tyto hodnoty ukazují, proč se volba správného modelu stává důležitou součástí návrhu AI agentů. Tokeny představují jednotky textu, které model při práci zpracovává nebo vytváří. Nižší spotřeba tokenů zde znamená efektivnější práci s kontextem. Agent nepředává každému modelu více informací, než je skutečně potřeba, a nevyužívá nejsložitější cestu pro každý požadavek.
Latence je zase praktická míra rychlosti reakce. V podnikovém prostředí může rozhodovat o tom, zda AI zapadne do běžného pracovního procesu, nebo se stane zdržujícím mezikrokem. Pokud agent dokáže rychle zpracovat jednodušší dotazy a hlubší analýzu využít jen tam, kde je opodstatněná, může být užitečnější pro každodenní práci.
Je však dobré rozumět tomu, co tato čísla vyjadřují. Neznamenají, že rychlost vzniká jen použitím menšího modelu. Hlavním principem je vhodné rozdělení práce:
- specializovaný model vyhledá a sjednotí relevantní kontext,
- jednoduché úlohy se vyřeší přímo,
- složité úlohy se odešlou k hlubšímu uvažování,
- výkonný model dostane jen ty informace, které potřebuje.
Výsledkem má být efektivnější využití modelů bez kompromisu v kvalitě odpovědi. Právě kombinace těchto cílů je pro enterprise AI podstatná. Podniky obvykle nehodnotí systém jen podle toho, zda umí vytvořit působivou odpověď. Záleží také na tom, zda pracuje dostatečně rychle, rozumně využívá zdroje a respektuje požadavky na správu dat.
🔐 Data, soukromí a provoz přímo ve firmě
Jedním z argumentů pro otevřené modely je možnost jejich provozu on premises, tedy přímo v infrastruktuře organizace. Tento model nasazení může být cenný tam, kde firma pracuje s citlivými daty a chce mít silnější kontrolu nad tím, kde se informace zpracovávají.
Podniková data nejsou jen databáze a dokumenty. Mohou zahrnovat záznamy podpory, interní komunikaci, výsledky průzkumů, pracovní postupy a další zdroje, které dohromady tvoří firemní kontext. Pokud má AI agent nad takovými daty pomáhat, musí být architektura navržena s ohledem na to, jak se informace vyhledávají, předávají modelům a používají při tvorbě odpovědí.
Otevřený model umožňuje přizpůsobení konkrétním firemním potřebám. NVIDIA zdůrazňuje, že jej lze doladit na podnikových datech pro specializovanou práci. V kombinaci s možností lokálního provozu to vytváří cestu pro úlohy, kde jsou důležité nízká latence, vysoký objem zpracování a větší datová kontrola.
Neznamená to, že otevřený model má nahradit frontierový model ve všech situacích. Význam tohoto přístupu spočívá právě v kombinaci. Citlivé nebo opakované části pracovního toku mohou využívat specializovanou vrstvu, zatímco výjimečně složité analýzy mohou získat podporu od modelu s rozsáhlejšími schopnostmi uvažování.
🛠️ AI agent není jen model, ale celý pracovní postup
Popisovaný přístup rozšiřuje pohled na AI agenta. Agent není pouze rozhraní, do něhož člověk napíše otázku a získá odpověď. Je to systém, který musí určit, co je potřeba udělat, najít související informace, zvolit vhodný model a případně zapojit další nástroje nebo kontrolní kroky.
NVIDIA uvádí, že výkonné modely mohou plánovat složité pracovní postupy, zatímco specializované modely dokážou efektivně vyhledávat podniková data, volat nástroje, revidovat kód a ověřovat výsledky. Tento rozdělený přístup odpovídá tomu, že AI agent může vykonávat více druhů úloh v rámci jednoho zadání.
Já v tom vidím posun od otázky „který model je nejlepší?“ k praktičtější otázce: „který model má dělat kterou část práce?“ Druhá otázka je pro reálné nasazení užitečnější, protože bere v úvahu celý proces, nikoli pouze kvalitu jediné generované odpovědi.
Čtyři principy efektivního systému modelů
Z uvedeného přístupu vyplývají čtyři principy, které dobře shrnují fungování více modelů v jednom agentovi:
- Rozdělit práci podle povahy úkolu. Rychlé a rutinní úlohy nepotřebují stejný typ modelu jako složité analytické požadavky.
- Najít relevantní kontext před samotným uvažováním. Model pracuje lépe, pokud má k dispozici podklady, které se přímo vztahují k položené otázce.
- Směrovat úlohy podle náročnosti. Routing rozhoduje, zda stačí přímá odpověď, nebo zda má být aktivován frontierový model.
- Vyvažovat kvalitu, efektivitu, přizpůsobení a kontrolu. Podniková AI musí spojit přesnost odpovědí s rychlostí, náklady a požadavky na práci s daty.
Tato pravidla nejsou prezentována jako univerzální šablona pro každý systém. Ukazují ale, proč se architektura s více modely stává důležitou tam, kde agent pracuje s rozsáhlým podnikových kontextem a musí zvládat jednoduché i vysoce komplexní požadavky.
🌐 Co tento přístup znamená pro enterprise AI
Směr, který NVIDIA popisuje, ukazuje, že budoucnost podnikových AI agentů nemusí patřit jedinému všemocnému modelu. Pravděpodobnější je spolupráce modelů s různou specializací. Jeden bude rychle vyhledávat a připravovat kontext. Další bude zvládat specializované úlohy uvnitř firmy. Nejsilnější model se zapojí tehdy, když je potřeba hluboké uvažování a strukturovaná analýza.
Takové uspořádání přináší srozumitelnou výhodu: každý model je využit pro práci, v níž má největší přínos. Specializované modely mohou podpořit rychlost, objem zpracování a kontrolu nad daty. Frontierové modely mohou přinést analytickou sílu při nejobtížnějších úkolech. Směrovací vrstva mezi nimi určuje, která cesta je v konkrétní situaci nejvhodnější.
Příklad Glean a modelu Waldo zároveň ukazuje, že kvalitní AI odpověď nezačíná až v okamžiku generování textu. Začíná už při práci s kontextem. Když agent dokáže správně spojit data z podpory, interní komunikace a průzkumů, může lépe rozhodnout, zda problém vyžaduje okamžitou odpověď, nebo detailní rozbor.
Za nejpraktičtější závěr považuji následující: inteligentní agent nemusí dělat všechno jedním modelem. Může být chytřejší právě proto, že ví, kdy má být rychlý, kdy specializovaný a kdy má požádat o hlubší analýzu. Systém modelů tak spojuje výkon, efektivitu, přizpůsobení i kontrolu do jedné architektury, která odpovídá skutečným potřebám podnikové práce.
V době, kdy firmy hledají způsoby, jak bezpečně a užitečně využít vlastní data, je to významný posun. Nejde pouze o výkon jednotlivých modelů. Jde o to, jak dobře spolu dokážou spolupracovat.
