Podniková AI nové generace: Jak Infosys a NVIDIA urychlují bezpečné nasazení generativní AI

Abstraktní vizuální znázornění podnikové generativní AI s bezpečnostním „štítem“ a oběhem životního cyklu v datovém centru, bez textu.

Infosys a NVIDIA prohlubují spolupráci v oblasti podnikové generativní AI. Cílem je pomoci organizacím rychleji nasazovat výkonná, škálovatelná a bezpečná AI řešení do reálného provozu, včetně prostředí s vysokými požadavky na regulaci, správu dat a spolehlivost.

Za důležitý považuji především důraz na celý životní cyklus AI. Nejde jen o vytvoření modelu nebo působivého prototypu. Podniková AI musí umět pracovat s interními znalostmi, poskytovat přesné odpovědi, respektovat bezpečnostní pravidla, škálovat s rostoucím využitím a zároveň zůstat ekonomicky rozumná. Právě tyto oblasti stojí ve středu společné strategie Infosys a NVIDIA.

Infosys, globální poskytovatel digitálních služeb a poradenství působící v 69 zemích, staví svou AI strategii na dvou pilířích. Prvním jsou služby rozšířené o AI, druhým služby navržené od začátku s AI jako hlavním prvkem. NVIDIA do této spolupráce přináší technologický základ pro tvorbu, ladění, správu a provoz generativních modelů.

Obsah

🤝 Dvě strategie pro podnikovou umělou inteligenci

Infosys rozděluje svůj přístup k umělé inteligenci do dvou vzájemně propojených směrů: AI Augmented Services a AI First Services. Toto rozlišení je užitečné, protože odráží dvě odlišné potřeby organizací.

První směr, AI Augmented Services, znamená doplnění existujících služeb o schopnosti AI. Organizace nemusí nutně měnit celý provozní model. Mohou však využít umělou inteligenci k urychlení práce, zlepšení kvality výstupů, zpracování informací nebo podpoře specialistů v každodenních procesech.

Druhý směr, AI First Services, míří dál. Nejde pouze o přidání inteligentní funkce k již existujícímu procesu. AI se stává základním stavebním prvkem nové podoby služeb, pracovních postupů a digitálních produktů. Podnik pak řeší, jak se pomocí AI proměnit, nikoli pouze jak automatizovat část dosavadní práce.

Tento rozdíl se může zdát jemný, ale v praxi je zásadní. Rozšíření existujících služeb o AI obvykle vyžaduje bezpečné propojení se současnými systémy a jasně vymezené případy použití. Transformace řízená AI naproti tomu otevírá širší otázky:

  • Jaké znalosti má AI používat a kdo za jejich kvalitu odpovídá?
  • Které procesy je vhodné přestavět, místo aby se pouze zrychlily?
  • Jak bude organizace řídit bezpečnost, schvalování a audit výstupů?
  • Jaká infrastruktura je potřeba pro spolehlivý provoz ve velkém měřítku?
  • Jak zachovat kontrolu nad náklady na trénování i inferenci?

Infosys spojuje oba směry se svou širší ambicí rozvíjet lidský potenciál prostřednictvím technologií a vytvářet nové příležitosti pro lidi, podniky i komunity. Z mého pohledu je to připomínka, že podniková AI nemá být izolovaným technologickým projektem. Její hodnota se ukáže teprve tehdy, když podporuje lidi při konkrétní práci a pomáhá organizaci řešit skutečné provozní potřeby.

⚙️ Spolupráce postavená na platformě NVIDIA

Spolupráce Infosys a NVIDIA začala již v roce 2021, kdy Infosys vytvořil centrum excelence pro technologie NVIDIA. Takový krok má praktický význam: odborné týmy mohou systematicky rozvíjet znalosti, ověřovat architektury a připravovat opakovatelný způsob nasazování AI pro různé zákazníky a obory.

V centru technického přístupu stojí platforma NVIDIA pro generativní AI. Infosys ji využívá při tvorbě malých jazykových modelů, známých jako SLM, tedy small language models. Tyto modely jsou oproti největším univerzálním jazykovým modelům menší a mohou být upraveny pro konkrétní podnikové potřeby.

Menší model není automaticky lepší ani horší. Jeho přínos závisí na daném úkolu. Pokud organizace potřebuje AI pro jasně vymezený proces, konkrétní typ dokumentů nebo vybranou firemní doménu, může specializovaný model nabídnout vhodnou rovnováhu mezi výkonem, rychlostí, náklady a kontrolou.

Právě zde je důležité rozlišovat mezi experimentem a produkčním řešením. Prototyp může během krátké doby ukázat, že model umí vytvářet text nebo odpovídat na dotazy. Produkční systém však potřebuje mnohem víc: kvalitní data, bezpečné chování, konzistentní výkon, jasná pravidla správy a možnost provozu v požadovaném rozsahu.

Technologické portfolio NVIDIA, které Infosys využívá, zahrnuje několik vzájemně se doplňujících částí. Každá řeší jinou fázi cesty od dat až po nasazení modelu.

  • NVIDIA NeMo Curator pro práci s daty a zrychlení životního cyklu modelů.
  • NVIDIA NeMo Guardrails pro bezpečnost, správu a dodržování pravidel.
  • NeMo Retriever a Enterprise RAG pro odpovědi ukotvené v podnikových znalostech.
  • NVIDIA NIM microservices pro přenositelnou a škálovatelnou inferenci.

Tato skladba ukazuje, že podniková generativní AI není jeden produkt. Je to soustava schopností, které musí společně fungovat od přípravy dat až po doručení odpovědi uživateli nebo jinému podnikovému systému.

🧹 NeMo Curator a rychlejší práce s daty

Kvalita jazykového modelu začíná u dat. Pokud jsou data neuspořádaná, opakují se, obsahují nevhodný obsah nebo nejsou pro řešený úkol dostatečně relevantní, samotný model tento problém spolehlivě nevyřeší. Může naopak vytvářet nepřesné či nekonzistentní výstupy.

Infosys využívá NVIDIA NeMo Curator ke zrychlení životního cyklu malých jazykových modelů. Z praktického hlediska jde o důležitou část cesty k vlastnímu nebo přizpůsobenému modelu. Organizace obvykle nepracují s jednou dokonale připravenou databází znalostí. Data bývají rozptýlená mezi dokumenty, interními systémy, odbornými materiály a dalšími zdroji.

Příprava dat proto není jen technický krok. Je to proces, při kterém je nutné rozhodnout, co je relevantní, co smí být použito, jak se budou zdroje aktualizovat a jak se ověří jejich spolehlivost. V regulovaných prostředích je navíc důležité, aby byla pravidla práce s daty dohledatelná a opakovatelná.

Za klíčové považuji, že rychlost životního cyklu modelu neznamená zkratku kolem správy dat. Znamená schopnost pracovat systematičtěji. Pokud tým dokáže efektivněji čistit, vybírat a připravovat data, může rychleji iterovat na modelu a zároveň si zachovat potřebnou kontrolu.

Proč mají specializované modely své místo

Velké univerzální modely přitahují pozornost svou šíří schopností. Podnikové prostředí ale často potřebuje přesnost v úzce vymezené oblasti. Malý jazykový model upravený pro konkrétní doménu může být vhodným základem pro aplikace, kde záleží na předvídatelném chování a efektivním provozu.

Infosys se proto zaměřuje na vytváření přizpůsobených modelů pro různá odvětví. Tento směr odpovídá realitě podniků: slovník, procesy, pravidla, dokumentace i citlivost dat se mezi sektory výrazně liší. Model pro obecné dotazy nemůže automaticky převzít odborné znalosti a provozní omezení konkrétního průmyslu.

Specializace ovšem neznamená jen změnit několik instrukcí v zadání. Vyžaduje promyšlené rozhodnutí o datech, metodě přizpůsobení, způsobu vyhodnocování a pravidlech pro provoz. Smyslem je vytvořit model, který je pro konkrétní účel užitečný, a ne pouze obecně působivý.

🛡️ Bezpečnost, správa a NeMo Guardrails

Generativní AI v podniku musí plnit více požadavků než běžný konverzační nástroj. Výstupy mohou ovlivňovat práci zaměstnanců, interní rozhodování, komunikaci se zákazníky nebo nakládání s důvěrnými informacemi. Proto Infosys využívá NVIDIA NeMo Guardrails pro posílení bezpečnosti a řízení AI.

Guardrails, tedy ochranná pravidla, pomáhají určit hranice, v nichž má AI systém fungovat. Mohou podporovat kontrolu nad tím, jaké otázky systém přijme, jaké zdroje může použít, jaká témata mají být omezená a kdy má být odpověď odmítnuta nebo předána člověku.

Nejde o jednorázové nastavení. Bezpečnost AI je průběžná disciplína. Podnik potřebuje sledovat, zda se model chová očekávaným způsobem, zda pravidla stále odpovídají provozu a zda nové případy použití nepřinášejí nové riziko.

V evropském prostředí získává správa AI ještě větší význam. Organizace mohou sledovat vývoj pravidel kolem evropského rámce pro umělou inteligenci, který zdůrazňuje odpovědnost a řízení rizik. Pro praktickou práci s riziky je užitečným zdrojem také rámec NIST pro řízení rizik AI.

Tyto rámce samy o sobě nenahrazují technickou implementaci. Ukazují však, proč nestačí řešit pouze výkon modelu. Podnikové AI systémy vyžadují kombinaci technologií, jasných odpovědností, provozních postupů a kontrolních mechanismů.

Co znamená bezpečná AI v každodenním provozu

Bezpečnostní a správní vrstva má hodnotu tehdy, když se stane součástí běžného provozu. Při nasazování generativní AI je vhodné průběžně řešit například tyto otázky:

  • Jaké datové zdroje může systém využívat?
  • Jak bude organizace chránit citlivé informace?
  • Kdo schvaluje nové případy použití a změny pravidel?
  • Jak se bude ověřovat kvalita a bezpečnost odpovědí?
  • Jaký postup nastane, pokud AI nedokáže odpovědět spolehlivě?
  • Jak lze doložit, že systém respektuje stanovené zásady?

NVIDIA NeMo Guardrails představuje v přístupu Infosys technickou složku, která má tyto požadavky podpořit. Důležité je, že bezpečnost zde není přidaná až na konci. Je zahrnuta do návrhu řešení společně s vývojem modelu, prací s daty a inferencí.

📚 Enterprise RAG pro odpovědi založené na firemních znalostech

Jedním z největších problémů generativní AI je přesnost. Jazykový model může formulovat odpověď přesvědčivě, aniž by byla podložena aktuálními a správnými informacemi. V podniku je takové chování obzvlášť problematické, protože chybná odpověď může vést ke ztrátě času, nesprávnému rozhodnutí nebo narušení důvěry.

Infosys proto využívá NVIDIA NeMo Retriever společně s přístupem Enterprise RAG. Zkratka RAG znamená retrieval-augmented generation, tedy generování doplněné o vyhledávání relevantních informací. Princip je přímočarý: před sestavením odpovědi systém vyhledá související obsah v dostupné znalostní základně a následně jej využije jako podklad.

RAG nepředstavuje kouzelné řešení každého problému s přesností. Jeho kvalita závisí na tom, zda jsou zdroje správné, aktuální, relevantní a dobře spravované. Přesto je pro podnikové použití zásadní, protože posouvá AI od obecné odpovědi k odpovědi ukotvené v konkrétních organizačních znalostech.

Pod pojmem grounded accuracy se zde rozumí přesnost opřená o dohledatelné podklady. AI by neměla pouze vytvářet pravděpodobně znějící text. Měla by pracovat s relevantním firemním kontextem. To je zvlášť cenné tam, kde se informace pravidelně mění nebo kde je nutné odpovídat v souladu s interními pravidly.

RAG je více než vyhledávací pole s chatbotem

Úspěšný podnikový RAG systém musí propojit několik vrstev. Nestačí vložit dokumenty do úložiště a připojit jazykový model. Je nutné řešit kvalitu dokumentů, strukturu obsahu, přístupová oprávnění, způsob vyhledávání, aktuálnost informací a testování odpovědí.

Proto je spojení NeMo Retriever a Enterprise RAG relevantní i z provozního hlediska. Organizace potřebují, aby AI pracovala s podnikovými znalostmi způsobem, který lze spravovat a rozšiřovat. Pokud se změní dokumentace nebo pravidla, nemělo by být nutné pokaždé znovu vytvářet celý model. Aktualizace znalostní vrstvy může být rychlejší a praktičtější cestou.

Z mého pohledu je právě schopnost ukotvit odpovědi v důvěryhodných datech jedním z nejdůležitějších rozdílů mezi běžnou experimentální AI a systémem připraveným pro podnikové použití.

🚀 NIM microservices a škálovatelná inference

Po trénování a přizpůsobení modelu přichází fáze, která rozhoduje o skutečné použitelnosti: inference. Jde o okamžik, kdy nasazený model přijímá požadavky a vytváří odpovědi. Pro uživatele je to jednoduše reakce AI systému. Pro podnik je to komplexní provozní úloha zahrnující výkon, odezvu, dostupnost, zabezpečení a náklady.

Infosys používá NVIDIA NIM microservices k vytváření přenositelné a škálovatelné inference. Mikroservisní přístup je důležitý proto, že může usnadnit provoz AI napříč různými podnikovými prostředími. Organizace často potřebují zachovat flexibilitu v tom, kde a jak budou své modely provozovat.

Škálovatelná inference je potřebná ve chvíli, kdy se AI přestane používat jen omezeně a stane se součástí širšího pracovního toku. S rostoucím počtem požadavků se mění požadavky na infrastrukturu. Model musí odpovídat dostatečně rychle a spolehlivě, aniž by se provozní náklady vymkly kontrole.

NIM microservices v tomto přístupu podporují nasazení AI modelů v podobě, která je připravena pro provoz. Infosys uvádí, že kombinace technologií NVIDIA pomáhá zlepšit výkon a celkové náklady na vlastnictví, mimo jiné díky kratší době trénování a inference a nižšímu integračnímu úsilí.

To je podstatné zejména pro specializované a regulované pracovní zátěže. V takových případech nebývá hlavní otázkou pouze to, zda model funguje. Podnik zároveň potřebuje vědět, jak jej integrovat, zabezpečit, řídit a dlouhodobě udržovat.

💰 Výkon a celkové náklady na vlastnictví

Diskuse o podnikové AI se často soustředí na schopnosti modelů. V reálném nasazení však stejně důležitou roli hrají náklady. Celkové náklady na vlastnictví, často označované zkratkou TCO, zahrnují více než cenu výpočetní infrastruktury.

Patří sem čas potřebný pro přípravu a údržbu řešení, integrační práce, vývoj, monitorování, bezpečnostní opatření i samotný provoz inference. Jestliže AI systém vyžaduje příliš složitou integraci nebo neúměrně dlouhou dobu odezvy, jeho podniková hodnota rychle klesá.

Infosys spojuje využití platformy NVIDIA se snížením času potřebného pro trénování a inferenci i s omezením integračního úsilí. Toto propojení výkonu a TCO je podle mě správným způsobem, jak hodnotit připravenost AI pro praxi. Nejúspěšnější řešení není nutně to s největším modelem. Je to řešení, které dokáže dlouhodobě poskytovat požadovanou kvalitu za přijatelných provozních podmínek.

Pro podnikové týmy z toho vyplývá jednoduchá lekce: při plánování generativní AI je vhodné měřit nejen kvalitu odpovědí, ale také rychlost, stabilitu, náročnost integrace a budoucí provozní náklady. Tyto faktory by měly být součástí rozhodování již od prvních návrhů architektury.

🏭 AI továrny, AI cloudy a fyzická AI

Spolupráce Infosys a NVIDIA se neomezuje na jazykové modely a RAG systémy. Další oblastí jsou AI továrny a AI cloudy vytvářené pro zákazníky. Tento směr ukazuje, že podniková AI vyžaduje stále vyspělejší infrastrukturu pro vývoj, trénování, přizpůsobování a provoz modelů.

Termín AI továrna zde vystihuje prostředí, kde lze AI systematicky vytvářet a provozovat ve velkém měřítku. Nejde o jednorázový experiment, ale o schopnost opakovaně dodávat modely a AI služby s předvídatelnými postupy, bezpečností a výkonem.

Infosys také označuje fyzickou AI za další významnou vlnu. Tento pojem naznačuje propojení AI s fyzickým světem a provozními prostředími. Přestože detailní scénáře nasazení nejsou konkretizovány, strategický význam je zřejmý: umělá inteligence se posouvá od práce pouze s digitálním obsahem k širší interakci s reálnými procesy a systémy.

Takový posun zvyšuje nároky na přesnost, bezpečnost a spolehlivost. Pokud AI ovlivňuje fyzické procesy, nestačí, aby odpověď zněla rozumně. Musí být správně navržena celá architektura, včetně kontrolních mechanismů a jasně definovaných hranic autonomního jednání.

🧠 Agentic Foundry a modely Nemotron

Další společnou oblastí je integrace Infosys Agentic Foundry s modely NVIDIA Nemotron 3. Agentic Foundry představuje součást širší snahy vytvářet AI systémy, které mohou pracovat v rámci více kroků, využívat nástroje a pomáhat s komplexnějšími pracovními postupy.

Rozdíl mezi běžným chatbotem a agentním přístupem je v rozsahu úkolu. Chatbot typicky odpovídá na jednotlivý dotaz. Agentní systém může být navržen tak, aby postupoval podle definovaného procesu, vyhodnocoval dostupné informace a koordinoval jednotlivé kroky. Právě proto je v tomto typu řešení ještě důležitější správa pravidel, dat a oprávnění.

Integrace s modely Nemotron 3 zapadá do cíle vytvářet specializovaná řešení pro podnikové použití. Agentní AI může být užitečná tam, kde je třeba propojit znalosti, opakující se procesy a konkrétní nástroje. Je však potřeba postupovat opatrně. Čím více kroků systém vykonává, tím důležitější je mít jasně definované mantinely, dohled a možnost kontroly.

V této souvislosti se znovu ukazuje význam kombinace několika technologických vrstev. Model poskytuje jazykové a logické schopnosti. RAG přináší relevantní znalosti. Guardrails podporují bezpečné chování. Mikroservisy umožňují provoz ve velkém měřítku. Teprve společně mohou tyto části vytvořit základ pro podnikovou agentní AI.

🌐 Co tato spolupráce znamená pro podniky

Partnerství Infosys a NVIDIA ukazuje praktickou podobu trendu, který dnes formuje podnikovou technologii: generativní AI se posouvá z jednotlivých ukázek do provozních řešení. Organizace už nehledají pouze zajímavý model. Hledají cestu, jak AI bezpečně začlenit do vlastní infrastruktury, znalostí, procesů a pravidel.

Za nejsilnější bod tohoto přístupu považuji důraz na propojení čtyř oblastí:

  • Přizpůsobené modely pro konkrétní obory a potřeby organizací.
  • Kvalitní znalostní vrstva pro přesnější odpovědi založené na relevantních datech.
  • Bezpečnost a správa jako součást návrhu, nikoli až dodatečné opatření.
  • Škálovatelný provoz s ohledem na výkon, přenositelnost a náklady.

Firmy, které chtějí vyhodnotit svou připravenost na generativní AI, mohou začít několika konkrétními kroky. Nejprve je vhodné vybrat případ použití s jasnou hodnotou a definovanými hranicemi. Následně je třeba zjistit, jaká data jsou k dispozici, kdo za ně odpovídá a zda jsou pro daný účel dostatečně kvalitní.

Další krok spočívá v návrhu bezpečnostních pravidel a způsobu ověřování odpovědí. Teprve poté dává smysl řešit škálování, integraci a dlouhodobý provoz. Tento postup může působit méně efektně než okamžité nasazení obecného chatbota, ale vede k řešením, která mají vyšší šanci obstát v každodenní práci.

Technologické možnosti pro tento směr nabízí podniková AI platforma NVIDIA. Širší informace o digitálních službách a strategii společnosti lze najít také na stránkách Infosys.

✅ Závěr: Od experimentů k důvěryhodné podnikové AI

Budoucnost podnikové generativní AI nebude určována pouze velikostí modelů. Rozhodovat bude schopnost spojit modely, data, bezpečnostní pravidla, infrastrukturu a provozní procesy do jednoho funkčního celku.

Infosys a NVIDIA tento směr staví na malých a přizpůsobených jazykových modelech, nástrojích NeMo pro data, bezpečnost a RAG, mikroservisách NIM pro inferenci a na širší vizi AI továren, AI cloudů a fyzické AI. Výsledkem má být rychlejší cesta k řešením, která jsou nejen výkonná, ale také přenositelná, škálovatelná a připravená na požadavky podnikové správy.

Já v této spolupráci vidím především praktickou zprávu pro organizace: skutečná hodnota AI nevzniká v izolaci. Vzniká tehdy, když je umělá inteligence bezpečně ukotvena ve firemních znalostech, navržena pro konkrétní práci a provozována s odpovědností, kterou podnikové prostředí vyžaduje.

Share this post

AI World Vision

AI and Technology News