Kúpite si prémiový švajčiarsky nožík za 200 €.
Je skvelý – otvára konzervy, reže drevo, má vývrtku. Lenže vy potrebujete len jediné: každé ráno natenko nakrájať tri citróny do čaju. Nožík to síce zvládne, ale nikdy to nebude dokonalé – je príliš hrubý a citrónová šťava sa vám lepí na čepeľ. Presne to isté sa deje, keď použijete všeobecnú AI (napríklad GPT-4 alebo Llama 3) na špecializovanú úlohu vo vašej firme. Fine-tuning (doladenie) je proces, ktorým z tohto univerzálneho „nožíka" urobíte presný nástroj na mieru vašim potrebám.
Definícia: Čo je fine-tuning jednoducho povedané
Fine-tuning je technika, pri ktorej vezmete už hotový, natrénovaný jazykový model (LLM) a ďalej ho cvičíte na menšej, vysoko špecializovanej množine dát. Výsledkom je model, ktorý rozumie vášmu odboru, vašej terminológii a štýlu komunikácie – bez toho, aby ste ho museli učiť od nuly. Zatiaľ čo trénovanie vlastného modelu od základov stojí státisíce eur a mesiace práce, fine-tuning vás vyjde na stovky až tisíce eur a trvá hodiny až dni.
Ako to funguje: Od generickej odpovede k expertovi
Predstavte si, že máte model, ktorý ovláda „všeobecnú angličtinu" – rozumie tisíckam slov, gramatike, ale nevie nič o medicíne. Fine-tuning je ako intenzívny kurz lekárskej terminológie pre tohto „absolventa". Dodáte mu 10 000 párov otázka-odpoveď z oblasti rádiológie, model si upraví svoje vnútorné váhy (parametre) a po pár hodinách tréningu na grafickej karte (GPU) vám bude vedieť interpretovať CT snímky so špecializovaným jazykom.
Technicky to vyzerá takto: pôvodný model (napr. Llama 3 70B) má 70 miliárd parametrov. Počas fine-tuningu neupravujete všetky – to by bolo príliš drahé. Namiesto toho používate techniky ako LoRA (Low-Rank Adaptation) , ktorá upraví len zlomok parametrov (napr. 0,1 %). Vďaka tomu je fine-tuning až 100-krát lacnejší a rýchlejší než plné doladenie.
Kedy sa fine-tuning skutočne oplatí (a kedy nie)
Tu prichádza kľúčová časť – realita. Fine-tuning nie je všeliek. Mnoho firiem doň investuje tisíce eur a výsledok je sklamaním. Preto si dajte pozor na tieto situácie:
Fine-tuning sa oplatí, keď: - Potrebujete, aby model používal presnú firemnú terminológiu (napr. názvy produktov, interné skratky) - Máte aspoň 500 – 1 000 kvalitných príkladov (párov otázka-odpoveď) – menej a model sa nenaučí vzorce - Vaša úloha je stabilná – nemeníte procesy každý mesiac - Potrebujete znížiť počet chýb z 15 % na 2 % v špecializovanej oblasti
Fine-tuning sa NEOPLATÍ, keď: - Potrebujete, aby model odpovedal na základe aktuálnych firemných dokumentov – vtedy použite RAG (Retrieval-Augmented Generation) , ktorý je lacnejší a flexibilnejší - Máte menej ako 50 príkladov – model sa iba „preučí" a bude zlyhávať na nových situáciách - Vaša úloha sa mení každý týždeň – doladenie modelu každý týždeň stojí majland
Reálne čísla: Koľko to naozaj stojí
Ceny za fine-tuning v roku 2025 sú výrazne nižšie ako pred dvoma rokmi, no stále treba počítať:
- API služby (OpenAI, Anthropic): Fine-tuning modelu GPT-4o stojí okolo 25 € za 1 milión tréningových tokenov (cca 750 000 slov). Pre 10 000 príkladov zaplatíte približne 150 – 300 € za tréning, plus mesačné náklady na beh modelu (50 – 200 €).
- Vlastný hardvér (open-source modely): Ak si doladíte Llama 3.1 8B na jednej GPU (napr. RTX 4090), tréning trvá 4 – 8 hodín a stojí vás len elektrina (cca 5 – 10 €). Model potom beží na vašom serveri bez mesačných poplatkov.
- Skryté náklady: Príprava kvalitných dát (označovanie, čistenie) tvorí 60 – 80 % celkovej ceny. Ak si najmete firmu na prípravu dát, počítajte s 500 – 2 000 €.
Časté omyly: Na čo si dať pozor
Omyl č. 1: „Fine-tuning vyrieši všetky problémy s presnosťou." Pravda je, že fine-tuning zlepšuje štylistiku a terminológiu, ale nepridáva modelu nové fakty. Ak model nevie, že váš produkt stojí 49 €, fine-tuning mu to nepovie – na to potrebujete RAG.
Omyl č. 2: „Čím viac dát, tým lepšie." Kvalita poráža kvantitu. 500 starostlivo vybraných príkladov je lepších ako 50 000 nekonzistentných, plných chýb. Model sa učí vzorce – ak mu dáte protichodné príklady, bude zmätený.
Omyl č. 3: „Po fine-tuningu model zabudne, čo vedel." Toto je čiastočne pravda – nazýva sa to catastrophic forgetting (katastrofické zabúdanie) . Model môže stratiť časť všeobecných znalostí. Riešením je zmiešať tréningové dáta s malým množstvom všeobecných textov.
Praktický príklad: Ako vyzeral fine-tuning v reálnej firme
Slovenská právnická kancelária potrebovala AI, ktorá by odpovedala na otázky klientov v oblasti pracovného práva. Vyskúšali GPT-4 – odpovede boli príliš všeobecné a používali „môže byť" namiesto presných paragrafov. Rozhodli sa pre fine-tuning modelu Mistral 7B na 2 000 právnych otázok a odpovedí. Tréning trval 6 hodín na jednej GPU, celkové náklady: 1 200 € (z toho 800 € za prípravu dát právnikom). Výsledok: presnosť odpovedí stúpla z 62 % na 91 %, model začal používať presné paragrafy a skratky („§ 1 ZP" namiesto „zákonník práce"). Mesačné náklady na beh: 30 € za cloudový server.
Verdikt: Čo si vybrať?
Ak máte špecializovanú, stabilnú úlohu a aspoň 500 kvalitných príkladov, fine-tuning je investícia, ktorá sa vráti v podobe oveľa presnejšej a dôveryhodnejšej AI. Ak potrebujete flexibilitu a aktuálne informácie, siahnite po RAG. A ak máte oboje? Kombinujte – RAG dodá fakty, fine-tuning zabezpečí štýl a terminológiu.
Nepodceňujte prípravu dát. Kvalitný fine-tuning nie je o technike, ale o tom, či máte poruke správne príklady. Bez nich je to len drahé cvičenie v márnosti.
