Kúpite si notebook s „AI procesorom“ za 2 500 € a pri prvom spustení generovania obrázkov zistíte, že jedna fotka trvá 45 sekúnd.
Pritom kolega s herným notebookom z roku 2022 ju má za 8 sekúnd. Kde nastala chyba? V tom, že ste si kúpili NPU tam, kde ste mali siahnuť po GPU. A to nie je jediná pasca, ktorá na vás číha.
Definícia: Čo je GPU a čo je NPU
GPU (grafický procesor) je pôvodne herný čip, ktorý vďaka tisíckam paralelných jadier exceluje v náročných výpočtoch – trénovanie AI modelov, renderovanie videa, vedecké simulácie. Dnešné GPU (NVIDIA RTX 4090, AMD Radeon) zvládajú desiatky biliónov operácií za sekundu (TFLOPS).
NPU (neurónový procesor) je špecializovaný čip navrhnutý výhradne pre beh už natrénovaných AI modelov – nie na ich trénovanie. Nájdete ho v moderných procesoroch Intel Core Ultra, AMD Ryzen AI alebo Apple Neural Engine. Je extrémne efektívny, ale výkonnostne obmedzený. Typický NPU v notebooku dosahuje 10 – 40 TOPS (biliónov operácií za sekundu), zatiaľ čo GPU bežne 100 – 1 600 TOPS.
Ako to funguje a prečo vznikli NPU
Predstavte si GPU ako profesionálnu kuchyňu s piatimi kuchármi, ktorí vedia pripraviť päťchodové menu pre stovku hostí. NPU je automatický kávovar – urobí len jednu vec, ale urobí ju s minimom energie a takmer okamžite.
NPU vznikli z jediného dôvodu: spotreba. GPU pri plnom zaťažení žerie 200 – 600 wattov. NPU si vystačí s 5 – 30 wattmi. Pre notebooky, tablety a smartfóny je to zásadný rozdiel. Kým GPU dokáže model „natrénovať“ (naučiť ho rozpoznávať mačky), NPU ho vie len „spúšťať“ (povedať, či je na fotke mačka).
Konkrétny príklad z praxe
Scenár 1: Chcete generovať obrázky (Stable Diffusion, Midjourney)
- GPU (NVIDIA RTX 3060, 12 GB VRAM): jeden obrázok za 6 – 12 sekúnd. Kvalita: profesionálna, rozlíšenie 1024 × 1024.
- NPU (Intel Core Ultra 7): jeden obrázok za 40 – 90 sekúnd. Kvalita: výrazne nižšia, často artefakty, maximálne 512 × 512.
- Verdikt: GPU je 5 – 10× rýchlejšie. NPU je na generovanie takmer nepoužiteľný.
Scenár 2: Chcete lokálne spúšťať chatbot (Llama 3, Mistral)
- GPU so 6+ GB VRAM: odpoveď do 1 – 3 sekúnd, kontext až 32 000 slov.
- NPU: odpoveď za 5 – 20 sekúnd, limitovaný kontext, časté „zabúdanie“.
- Verdikt: GPU je pohodlné, NPU je frustrujúce.
Scenár 3: Automatické úpravy fotiek v pozadí (Windows Studio Effects, AI denoise)
- NPU: spracovanie videa v reálnom čase, spotreba 3 W, žiadne spomalenie systému.
- GPU: tiež v reálnom čase, ale pri batériovom režime vybije notebook o 40 % rýchlejšie.
- Verdikt: Tu je NPU kráľ. GPU je zbytočne výkonný a neefektívny.
Časté omyly a pasce
Omyl č. 1: „NPU je nová generácia, GPU je zastarané“ NPU nie je náhrada GPU. Sú to komplementárne čipy. NPU rieši ľahké, časté úlohy (rozmazanie pozadia, potlačenie šumu). GPU rieši ťažké, občasné úlohy (generovanie, trénovanie). Kúpiť notebook len s NPU je ako kúpiť si auto len s ekonomickým režimom bez motora.
Omyl č. 2: „TOPS je jediné, na čom záleží“ Výrobcovia radi uvádzajú TOPS (bilión operácií za sekundu). Ale NPU so 40 TOPS v reáli spracuje model 3 – 5× pomalšie ako GPU s 80 TOPS, pretože GPU má lepšiu pamäťovú priepustnosť a softvérovú optimalizáciu. Číslo TOPS na papieri nie je výkon v praxi.
Pasca č. 3: „AI notebook je hotový za 1 000 €“ Notebooky s NPU (napr. Lenovo ThinkPad X1 Carbon Gen 11) stoja 1 800 – 2 500 €, no ich GPU je integrované a slabé. Za rovnakú cenu kúpite herný notebook s RTX 4070, ktorý zvládne AI úlohy 10× rýchlejšie. NPU notebooky sú predražené pre ľahké úlohy, ktoré zvládne aj smartfón.
Čo si reálne vybrať – jednoznačný verdikt
Pre prácu s AI (generovanie, lokálne chatboty, úprava videa, trénovanie modelov): - Kúpte GPU s aspoň 8 GB VRAM (NVIDIA RTX 4060 a vyššie, prípadne AMD Radeon RX 7800 XT). - NPU ignorujte. Je to len príjemný bonus, nie rozhodujúci faktor. - Rozpočet: 1 200 – 2 500 € za stolný počítač alebo herný notebook.
Pre kancelársku prácu s občasnými AI vylepšeniami (Windows Studio Effects, automatický prepis, denoise videa): - Postačí aj notebook s NPU (Intel Core Ultra, AMD Ryzen AI). - GPU nemusí byť samostatné, integrované stačí. - Rozpočet: 900 – 1 500 €, ale uvedomte si, že za AI generovanie si priplatíte časom.
Kategorické odporúčanie: Ak dnes kupujete zariadenie na AI a neviete, čo budete robiť o rok – vezmite GPU. NPU je ako investícia do solárneho panelu na balkóne: ušetrí pár eur mesačne, ale neutiahne vám celú domácnosť. GPU je ako plnohodnotná elektráreň. A ceny GPU klesajú – RTX 4060 dnes kúpite za 320 €, čo je menej ako polovica ceny „AI notebooku“ s NPU.
Súvisiace pojmy
- VRAM (video pamäť) – pamäť GPU rozhodujúca pre veľkosť modelov, ktoré viete spustiť
- TOPS (bilión operácií za sekundu) – metrika výkonu AI čipov, no v praxi klamlivá
- LLM (veľký jazykový model) – typ AI modelu, ktorý GPU zvláda, NPU len obmedzene
- Cloudové GPU – alternatíva, ak nechcete investovať do vlastného hardvéru
Podrobnejšie články a návody nájdete na ai.ezin.sk.
