Spýtate sa právnika na konkrétny paragraf a on vám s presvedčivým výrazom odrecituje celý text – ktorý v zákone vôbec neexistuje.
Presne to sa deje, keď AI halucinuje. Model vám podá dokonale znejúcu odpoveď, ktorá je úplne vymyslená.
Definícia – čo to vlastne je
Halucinácia AI (AI hallucination) je jav, pri ktorom jazykový model generuje informácie, ktoré sú fakticky nesprávne, zavádzajúce alebo úplne vymyslené, no podáva ich s rovnakou istotou ako pravdivé údaje. Nejde o chybu v preklade alebo preklep – ide o systematické vytváranie nepravdivého obsahu, ktorý vyzerá vierohodne.
Ako k halucináciám dochádza
Predstavte si, že učíte cudzinca rozprávať po slovensky tak, že mu dáte miliardy kníh a článkov. On si zapamätá, ako vyzerá správna veta, aké slová sa k sebe hodia, aký je typický štýl odpovede. Keď sa ho potom spýtate na niečo, čo v tých knihách nebolo, neurobí to, čo by ste čakali – nepovie „neviem“. Namiesto toho použije svoju štatistickú pamäť a poskladá odpoveď, ktorá je jazykovo dokonalá, ale fakticky prázdna.
Hlavné príčiny halucinácií sú tri: 1. Medzery v tréningových dátach – model nevie, čo nevie, a preto si doplní chýbajúce miesto najpravdepodobnejšou kombináciou slov. 2. Prílišná snaha vyhovieť – model je natrénovaný, aby vždy odpovedal, nikdy nepovedal „neviem“ a bol čo najužitočnejší. 3. Kompresia informácií – model si nezapamätá fakty ako encyklopédia, ale ako pravdepodobnostné vzťahy medzi slovami.
Konkrétny príklad z praxe
V roku 2023 právnik Steven Schwartz použil ChatGPT na prípravu súdneho podania. AI mu vygenerovala šesť prípadov vrátane presných citácií a paragrafov. Problém? Všetky prípady boli vymyslené. Sudca to odhalil, právnik čelil disciplinárnemu konaniu a celý prípad sa stal varovným príkladom slepej dôvery v AI.
Ďalší bežný príklad: spýtate sa AI na vedeckú štúdiu o vplyve kávy na spánok. Model vám vygeneruje autora, rok, názov časopisu aj abstrakt – všetko znie presvedčivo, ale štúdia nikdy neexistovala. Overenie v Google Scholar odhalí, že ste dostali dokonale vyzerajúci výmysel.
Časté omyly a na čo si dať pozor
Mýtus č. 1: Halucinácie sú len pri slabších modeloch. Pravda je, že aj najlepšie modely ako GPT-4 alebo Claude 3 halucinujú. Rozdiel je v miere – kvalitnejšie modely halucinujú menej, no nikdy nie na nulu.
Mýtus č. 2: Halucinácie zmiznú s lepším tréningom. Nie je to pravda. Halucinácie sú priamym dôsledkom architektúry jazykových modelov. Kým model nebude vedieť povedať „neviem“ alebo sa nebude vedieť spoľahlivo odvolať na externé zdroje, halucinácie budú existovať.
Na čo si dať pozor: Halucinácie sú najnebezpečnejšie tam, kde vyzerajú najpresvedčivejšie – pri číslach, dátumoch, menách a citáciách. Práve tam model najčastejšie kombinuje reálne prvky s vymyslenými.
Ako sa pred halucináciami chrániť
Prvým krokom je uvedomenie, že AI nie je vyhľadávač ani databáza faktov. Je to generátor textu, ktorý sa snaží vyzerať čo najprirodzenejšie.
Praktické odporúčania: - Vždy overujte fakty – najmä čísla, mená, dátumy a citácie konfrontujte s overenými zdrojmi. - Pýtajte sa na zdroje – požiadajte model, aby uviedol, odkiaľ informáciu čerpá (niektoré modely vedia aspoň naznačiť). - Používajte RAG systémy – technológia Retrieval-Augmented Generation (generovanie rozšírené o vyhľadávanie) pripája k modelu databázu overených dokumentov, čím výrazne znižuje halucinácie. - Krížová kontrola – tú istú otázku položte viackrát alebo rôznym modelom; ak sa odpovede líšia, je to varovný signál.
Verdikt
Halucinácie nie sú chyba, ktorú by vývojári „opravili“ v ďalšej aktualizácii. Sú prirodzenou vlastnosťou súčasnej generácie umelej inteligencie. Pochopenie tohto faktu je kľúčové pre bezpečné a efektívne používanie AI. Model je výborný asistent na tvorbu textov, brainstorming alebo sumarizáciu – no nikdy by ste mu nemali slepo veriť pri faktických tvrdeniach, najmä ak ide o právne, lekárske alebo finančné informácie.
Pristupujte k AI ako k veľmi presvedčivému rozprávačovi, ktorý občas zabúda, že rozprávka nie je pravda. S týmto vedomím dokážete z AI vyťažiť maximum a vyhnúť sa nástrahám, ktoré by vás mohli stáť čas, peniaze alebo dôveryhodnosť.
Súvisiace pojmy
- RAG (Retrieval-Augmented Generation) – technika, ktorá znižuje halucinácie pripájaním overených zdrojov.
- LLM (Large Language Model) – typ modelu, u ktorého sa halucinácie najčastejšie vyskytujú.
- Prompt engineering – umenie formulovať otázky tak, aby sa minimalizoval priestor na halucinácie.
- Grounding – proces ukotvenia odpovedí AI v overených faktoch.
Podrobnejšie články a návody nájdete na ai.ezin.sk.
