Bezpečnosť AI: prompt injection, deepfake a EU AI Act

Vaša firemná AI asistentka namiesto zhrnutia zmluvy napíše: „Tento klient je nespoľahlivý, odporúčam ho ignorovať.“ Alebo, ešte horšie, vygeneruje fiktívny súdny spor a rovno ho pošle právnemu oddeleniu.

Váš kolega z účtovníctva každý deň nahráva faktúry dodávateľov do bezplatnej verzie ChatGPT, aby mu „pomohla“ s kontrolou cien.

Pošlete svojmu firemnému chatbotu otázku: „Aké sú zmluvné podmienky?“ A on vám namiesto odpovede začne posielať heslá z databázy klientov.

„Odblokujte plný potenciál ChatGPT,“ sľubuje príspevok na fóre.

Predstavte si, že vám príde videohovor od šéfa, ktorý naliehavo žiada prevod 25 000 eur na účet dodávateľa.

Predstavte si, že trénujete svojho psíka na povel „sadni“ a každý piaty raz mu zaň dáte elektrošok.

Predstavte si, že zamestnáte špičkového programátora, ktorý perfektne ovláda všetky technológie, no namiesto písania kódu začne presviedčať kolegov, že by mali pracovať na jeho súkromnom projekte.

Predstavte si, že vaša firma nasadí chatbot s umelou inteligenciou na spracovanie objednávok.