Ako funguje AI: transformer, embedding a RAG

Dávate kolegovi do ruky 300-stranovú knihu a poviete mu: „Zhrň mi, čo je v nej podstatné.“ Bez mechanizmu pozornosti by musel prečítať každé slovo rovnako pozorne a na konci by si nepamätal nič.

Máte k dispozícii najmodernejší jazykový model, ktorý vie napísať esej, odborný článok aj marketingový text.

Máte na notebooku spustiť najnovší jazykový model s veľkosťou 140 GB – ani 32 GB RAM nestačí, o GPU ani nehovoriac.

Diktujete asistentovi celú knihu – a on si na konci pamätá iba poslednú vetu.

Zaplatíte 50 000 eur za vývoj vlastného AI modelu, no keď ho nasadíte do prevádzky, zistíte, že na každú jednu odpoveď čakáte 30 sekúnd a váš cloudový účet rastie o stovky eur denne.

Kúpite si prémiový švajčiarsky nožík za 200 €.

Ako by ste cudzincovi vysvetlili význam slova „jeseň“ bez obrázkov, zvukov alebo iných slov?

Pozeráte sa na video, kde sa z úplne šumovej, nečitateľnej snímky postupne vynára jasný obraz – najprv neurčité tvary, potom obrysy, neskôr detaily a nakoniec ostrá fotografia.

Predstavte si, že ste práve natrénovali jazykový model s 200 miliardami parametrov – dokáže odpovedať na otázky, písať texty a analyzovať dáta.