Lokální AI nebo cloud: jak na bezpečné nasazení AI ve firmě

Firmy stále častěji používají umělou inteligenci při práci se smlouvami, klientskými spisy a interními dokumenty. Tyto dokumenty často obsahují důvěrné informace, a proto je nutné předem rozhodnout, kde bude AI běžet a kdo bude mít k datům přístup. Na výběr je provoz v cloudu nebo na vlastním hardwaru ve firmě. V tomto článku popisujeme jednotlivé možnosti, jejich cenu a úroveň zabezpečení dat.

Většina firem, které chtějí AI nad citlivými dokumenty, skončí u jedné ze dvou možností: privátní API na B2B cloudu, jako je Azure AI Foundry, nebo vlastní hardware s grafickými kartami, pokud data nesmí opustit budovu. Čím přísnější jsou požadavky na data, tím vyšší je cena i náročnost.

S touto otázkou se setkáváme často. Firmy mají zájem využívat AI k zefektivnění své práce, ale nahrát všechny své údaje a firemní tajemství do ChatGPT je pro ně často nemyslitelné. Jak tuto situaci řešit tak, aby byly splněny všechny zákonné i interní požadavky na ochranu dat?

Bezpečnost, cena

Data zůstávají pod vaší kontrolou

Vlastní hardware

DGX Spark, RTX 6000 Pro

200 tis. – 3 mil. Kč

Pronájem GPU serveru

Datové centrum v Praze

od 250 tis. Kč ročně

Data opouštějí perimetr

Privátní API

Azure, AWS, Baseten, Zoner Cloud

podle spotřeby

Standardní API

OpenAI, Anthropic, Mistral

podle spotřeby

Standardní API od OpenAI, Anthropic nebo Mistral

První a nejjednodušší možností, jak nasadit AI, je standardní API od některého ze známých poskytovatelů. Model běží na serverech poskytovatele a platíte za tokeny, zhruba 1–20 $ za milion tokenů. Nasazení nic nestojí a máte vždy přístup k nejnovějším modelům, jako je třeba GPT-6 nebo Claude Opus 5.

Nevýhodou je, že data opouštějí váš perimetr. Někteří poskytovatelé za příplatek zpracují data v EU (data residency). Můžete také uzavřít smlouvu o zpracování (Data Processing Addendum, DPA), podle které poskytovatel data po každém požadavku smaže a netrénuje na nich. Na testování a úlohy, které nejsou citlivé, tento model bohatě stačí. Pro citlivá data jsou vhodnější další možnosti, které popisujeme níže.

Privátní API - model as a service

Technicky funguje privátní API stejně jako standardní, rozdíl je hlavně v B2B smlouvě, kterou máte s poskytovatelem. Poskytovatelem je firma působící v EU a služba je určena firemním zákazníkům, u nichž je standardem, že se data neuchovávají. Microsoft Azure, Google Cloud a AWS přeprodávají modely jako GPT-6 a Claude v rámci B2B smlouvy, která zaručuje zpracování v konkrétním regionu, například v EU. Pokud vaše firma už běží na Azure, je Azure AI Foundry přirozená volba. Platí se za tokeny jako výše. Potřebujete firemní účet u poskytovatele a přidělenou kvótu.

Čeští poskytovatelé jako České Radiokomunikace nebo Zoner AI cloud nabízejí stejné API s modely v českých datových centrech. To se hodí regulovaným firmám, jejichž data musí zůstat v České republice. Poskytovatelé k těmto službám dávají i záruky. České Radiokomunikace například garantují uložení dat v České republice, datová centra Tier III, certifikaci ISO 27001, soulad s GDPR a připojení přes VPN. Jsou také součástí kritické infrastruktury České republiky.

Model as a service je tedy dobrým kompromisem mezi bezpečností a cenou.

Vlastní provoz otevřených modelů

V případě, že data nesmí opustit vaši infrastrukturu ani na základě smlouvy s poskytovatelem, nezbývá nic jiného než provozovat jazykový model sami. Když model provozujete sami, nepoužíváte uzavřené modely jako GPT-6 nebo Claude Opus. Spouštíte otevřený model na vlastní infrastruktuře: na fyzickém serveru ve vaší budově, nebo na pronajatém serveru v datovém centru. Představte si to jako program, který si nainstalujete na vlastní počítač s grafickou kartou.

Otevřené modely bývají o několik měsíců pozadu za nejnovějším GPT. Pokud vám stačilo GPT-5.1, uživatelé rozdíl nemusí poznat. Navíc se každých pár měsíců zlepšují, takže stejný hardware dnes dává znatelně lepší výsledky než před půl rokem. Hardware určuje, jak výkonný model můžete spustit.

Pronájem GPU serveru

Pronajatý server s grafickými kartami drží data pod vaší kontrolou, aniž byste museli kupovat, instalovat a udržovat vlastní hardware. Server stojí v datovém centru poskytovatele, ale přístup k němu máte jen vy a poskytovatel vaše data nepřečte. V tabulce níže uvádíme ceny hostingu GPU u vybraných poskytovatelů v Evropě. AWS, Azure a RunPod nabízejí servery v různých lokalitách, poslední dva poskytovatelé mají datová centra v České republice.

Cena roste s počtem grafických karet. Dnes nasazujeme AI model NVIDIA Nemotron 3.5 Flash, který vyžaduje 1–2 GPU, a Beam 1.0, který vyžaduje 4–5. Pro nejnáročnější uživatele se hodí model Mistral Large 4, kvůli ceně ho ale nedoporučujeme (porovnání viz níže). V praxi pronájem začíná zhruba na 250 000 Kč ročně.

Nákup vlastního hardwaru

Pokud data nesmí opustit vaši budovu, musíte si koupit vlastní hardware. Jaký hardware potřebujete, závisí na velikosti modelu a počtu uživatelů. Pro jednoduché úlohy a 1–10 uživatelů je vhodný kompaktní AI počítač NVIDIA DGX Spark. Agentní úlohy potřebují zhruba čtyři karty RTX 6000 Pro. Lokálně jde provozovat i modely na úrovni GPT-5.x (Mistral Large 4, cca 1 000 miliard parametrů), ale hardware pro ně je velmi drahý (min. 8× RTX 6000 Pro).

Orientační nákupní ceny za kus:

• NVIDIA DGX Spark: 200 000 Kč
• NVIDIA RTX 6000 Pro: 300 000–600 000 Kč za kartu
• NVIDIA H200: 1 000 000 Kč

Kvůli situaci na trhu mohou ceny kolísat. Pokud zvolíte DGX Spark, můžeme vám ho první rok pronajmout za příplatek k licenci PactusAI, takže ho nemusíte kupovat hned.

Co čekat od lokálních modelů

Artificial Analysis Progress Index měří schopnosti jazykových modelů na jedné škále bez ohledu na datum vydání. Díky tomu lze otevřené modely porovnat se staršími verzemi GPT a Claude. Otevřené modely, které lze provozovat lokálně, jsou v tabulce tučně.

Vidíme, že v tomto porovnání je Mistral Large 4 na úrovni GPT-5.4 z března 2026 a Claude Opus 4.7 z dubna 2026. Beam 1.0 odpovídá GPT-5.2 z prosince 2025. Nemotron 3.5 Super je mezi GPT-5.1 a GPT-5.2 a Nemotron 3 Ultra odpovídá GPT-5 ze srpna 2025.

Je potřeba říct, že Progress Index je jen jedno porovnání. Porovnání existuje víc a často dávají jiné výsledky. Jediný spolehlivý způsob, jak zjistit, jestli vám daný model stačí, je vyzkoušet si ho na vlastní úloze. Pro úplnost uvádíme výsledky dalších porovnání z Intelligence Index v5, který se skládá z devíti testů v angličtině. Níže uvádíme tři z těchto testů a celkové skóre indexu. Test AA-Briefcase měří znalostní práci na projektech s tisíci vstupních souborů (skóre Elo). Test GDP.pdf měří odpovědi na otázky nad dlouhými PDF dokumenty. Test AA-Omniscience ukazuje, jak často model přizná, že odpověď nezná, místo aby si ji vymyslel.

V AA-Briefcase je Mistral Large 4 mezi GPT-5.5 a GPT-5.6 Sol a na úrovni GPT-6 Luna. Nemotron 3.5 Super, Beam 1.0 a Nemotron 3 Ultra jsou pod GPT-5.5. Všechny čtyři lokální modely si v AA-Omniscience vymýšlejí méně než Claude Opus 5.5, Claude Sonnet 5.5 a GPT-6.1 Sol.

Poznámka: Skóre závisí na tom, jak dlouho model před odpovědí přemýšlí (reasoning level). V první tabulce uvádíme u každého modelu úroveň s nejvyšším naměřeným skóre. U modelů GPT a Claude je to většinou xhigh nebo max. Tyto úrovně jsou pomalejší a dražší, proto se v běžném provozu používají zřídka. Bez přemýšlení (non-reasoning) má Claude Opus 4.7 skóre 288, GPT-5.6 Sol 284, GPT-5.5 271, GPT-5.4 244, GPT-5.2 225 a GPT-5.1 206.

Pozor na levné on-premise AI

Pokud vám někdo nabízí on-premise AI levněji, než stojí hardware, který k tomu potřebuje, nemluví pravdu. Nejspíš jen pod svým jménem přeprodává cloudové služby OpenAI. Ceny hardwaru se navíc rychle mění, berte proto všechna čísla jako odhad.

Probereme to s vámi

Správná volba nasazení závisí na vašich datech, uživatelích a práci, kterou chcete automatizovat. Rád to s vámi proberu osobně a navrhnu vám nasazení na míru. Napište mi na matus@pactus.ai.