Diktujete asistentovi celú knihu – a on si na konci pamätá iba poslednú vetu.
Presne to sa deje, keď pracujete s umelou inteligenciou, ktorej dochádza miesto v kontextovom okne. Tento zdanlivo technický detail rozhoduje o tom, či vám AI napíše súvislý článok, alebo začne od polovice blúzniť.
Čo je kontextové okno
Kontextové okno (context window) je maximálny počet tokenov (slov, častí slov alebo znakov), ktoré si jazykový model dokáže naraz „zapamätať“ pri spracúvaní jedného dotazu. Ak prekročíte túto hranicu, model jednoducho „zabudne“ staršiu časť konverzácie. Nejde o pamäť v ľudskom zmysle – model si neukladá nič, čo sa do okna nezmestí.
Ako to funguje – analógia s kuchárom
Predstavte si kuchára, ktorý varí podľa receptu. Jeho pracovný stôl je kontextové okno. Ak je stôl malý, zmestí sa naň len päť surovín. Keď prinesiete ďalšie, staré musí odložiť. Recept, ktorý vyžaduje dvadsať ingrediencií, jednoducho neuvarí – alebo ho uvarí zle, lebo polovicu zabudol.
Presne to isté platí pre AI: čím dlhší je váš dokument alebo história konverzácie, tým viac miesta zaberá. Keď sa minie kapacita, model „zabúda“ začiatok.
Reálne čísla, ktoré vás môžu zaskočiť
Dnešné modely majú výrazne odlišné veľkosti kontextového okna:
- GPT-6 Astra (OpenAI): približne 1 000 000 tokenov (rádovo stovky tisíc slov)
- Claude Opus 5.5 a Sonnet 5.5 (Anthropic): 1 000 000 tokenov
- Gemini 4 Argon (Google): približne 1 000 000 tokenov
- Grok 4.7 (xAI): 500 000 tokenov
Jeden token predstavuje približne 0,75 slova v angličtine, v slovenčine o niečo menej. Cena za vstup aj výstup rastie priamo úmerne s dĺžkou – účtuje sa za každý spracovaný token a aktuálny cenník nájdete u poskytovateľa. Pri dlhých dokumentoch a častejšom používaní sa náklady rýchlo nahromadia.
Prečo na ňom záleží – konkrétny príklad z praxe
Pracujete na analýze 50-stranovej zmluvy. Bez dostatočného kontextového okna model: 1. Prečíta prvých 20 strán a na 21. „zabudne“ začiatok. 2. Na otázku „Čo hovorí bod 3.2 o zodpovednosti?“ odpovie nepresne, lebo si pamätá len posledné strany. 3. Výsledok: musíte rozdeliť dokument na časti a manuálne spájať odpovede.
S modelom s kontextom 1 milión tokenov (napr. Claude Sonnet 5.5) vložíte celú zmluvu naraz a dostanete súvislú odpoveď. Rozdiel nie je v kvalite modelu, ale v kapacite jeho „stola“.
Časté omyly a na čo si dať pozor
Omyl 1: „Väčšie okno = vždy lepšie“ Nie vždy. Dlhší kontext znamená vyššiu cenu a pomalšie spracovanie. Pre bežné úlohy (krátke e-maily, jednoduché otázky) stačí 8 000 tokenov. Pre analýzu kníh alebo audit zmlúv potrebujete 100 000+.
Omyl 2: „Model si pamätá všetko z okna“ Modely môžu mať problém s informáciami umiestnenými v strede dlhého kontextu – hovorí sa tomu efekt „strateného stredu“. Dôležité dáta radšej umiestnite na začiatok alebo koniec okna.
Omyl 3: „Kontextové okno je to isté ako pamäť“ Nie je. Po skončení konverzácie model všetko zabudne. Ak potrebujete dlhodobú pamäť, musíte použiť externé úložisko (databázu, RAG systém).
Skryté náklady, ktoré vás môžu prekvapiť
Pri súčasných veľkých jazykových modeloch platíte za každý token, ktorý model spracuje. Ak máte model s kontextom 1 000 000 tokenov a vložíte doň 10 000 tokenov, zaplatíte len za 10 000. Ale ak model pri generovaní spracuje stovky tisíc tokenov, cena sa násobí.
Cena za spracovanie 50-stranovej zmluvy závisí od zvoleného modelu a počtu spracovaných tokenov. Účtuje sa za každý token vstupu aj výstupu, aktuálny cenník nájdete u poskytovateľa.
Čo si vybrať – jednoznačný verdikt
Pre bežnú prácu s AI (písanie textov, odpovedanie na otázky, sumarizácia krátkych dokumentov) vám postačí model s 8 000 – 32 000 tokenmi. Pre profesionálne použitie – právne analýzy, vedecké práce, vývoj softvéru s rozsiahlou dokumentáciou – siahnite po modeli s minimálne 100 000 tokenmi.
Odporúčame: Ak pracujete s dlhými textami, začnite s modelom s kontextom okolo 1 milióna tokenov, napríklad Claude Sonnet 5.5 alebo Gemini 4 Argon. Pre krátke úlohy postačia lacnejšie a rýchlejšie varianty (napr. Claude Haiku 5.5 alebo Gemini 3.5 Flash-Lite) – ušetríte peniaze aj čas.
Kontextové okno nie je technický detail, ale kľúčový parameter, ktorý určuje, či vám AI bude rozumieť od začiatku do konca, alebo sa stratí v polovici vety. Vyberajte podľa svojich potrieb, nie podľa humbuku.
Súvisiace pojmy
- Token: Základná jednotka, ktorú model spracúva – približne 0,75 slova
- RAG (Retrieval-Augmented Generation): Technika, ktorá rozširuje kontextové okno o externú databázu
- Pozornosť (attention): Mechanizmus, ktorý modelu umožňuje „sústrediť sa“ na rôzne časti kontextu
- LLM (Large Language Model): Veľký jazykový model – samotný „mozog“ AI
Podrobnejšie články a návody nájdete na aiporadca.sk.
