AI přináší nová rizika, školám pomáháme připravit na ně žáky

Deepfake jsou falešná videa, audia nebo obrázky vytvořené pomocí umělé inteligence tak, že vypadají jako skutečné. Mohou zobrazovat události, které se nikdy nestaly, nebo upravovat tvář, hlas či chování konkrétního člověka.

Téma umělé inteligence a mediální výchovy je zahrnuto do probíhající širší proměny obsahu vzdělávání. V revidovaných rámcových vzdělávacích programech (RVP) se promítá do rozvoje digitálních kompetencí, informatického a kritického myšlení žáků a schopnosti posuzovat důvěryhodnost informací. Školy mají k dispozici metodiky i konkrétní materiály, které pomáhají žákům orientovat se v digitálním prostředí a rozpoznat manipulativní obsah.

Cestu k zavádění těchto změn do škol MŠMT podpořilo prostřednictvím konkrétních výzev. V letech 2022 až 2025, respektive 2024 a 2025, realizoval Národní pedagogický institut ČR (NPI ČR) projekty DIGI a AIDIG. Cílem bylo pomoci školám lépe využívat digitální technologie ve výuce a zorientovat se v aktuálních trendech, jako je generativní umělá inteligence, mediální výchova, kritické myšlení, dezinformace nebo kyberbezpečnost.

NPI ČR dále připravil pro školy konkrétní metodické materiály, které pomáhají rozpoznat manipulativní obsah a pracovat s informacemi v digitálním prostředí, například: projekt FactCzech: Fotky Nelžou? a Rozpoznat manipulativní komunikaci naučí odhalovat obrazové hoaxy. Materiály Fotografie versus AI nebo Ve světě obrazu vysvětlují, jak poznat digitálně upravenou realitu. Dokument Jak na AI ve škole doporučuje školám dbát na posilování AI gramotnosti v souvislosti s dezinformacemi a mediální výchovou.

NPI ČR a MŠMT také dlouhodobě spolupracuje s neziskovými organizacemi a projekty, které se tématu umělé inteligence a jejím rizikům i přínosům věnují a poskytují školám metodickou podporu. Jedná se například o organizaci AI dětem nebo projekt E-Bezpečí, viz rozcestník.

Zneužití umělé inteligence již dnes není pouze otázkou etiky, ale představuje konkrétní riziko s reálnými dopady na společnost i vzdělávací prostředí. Nově ho řeší i trestní právo, například v případech zneužití identity nebo vydírání. Novela trestního zákoníku, účinná od 1. 1. 2026, totiž zavádí trestný čin zneužití identity k výrobě pornografie a její šíření a současně doplňuje postih i pro vybrané případy nepornografických „deepfake“ materiálů v souladu s § 181 trestního zákonu (poškození cizích práv). Podle dat Safer Internet Centrum (SIC ČR) ve spolupráci s Univerzitou Palackého v Olomouci se s tímto problémem setkávají i děti – více než 7 % žáků uvedlo, že někdo zneužil umělou inteligenci k vytvoření jejich vlastní intimní fotografie, a více než dvě třetiny z nich se následně staly terčem vydírání.

Hlavní doporučení a kroky k rozpoznávání uměle vygenerované fotografie:

1. Nejdůležitější nástroj? Kritické myšlení: Uměle vygenerované obrázky často cílí na emoce – snaží se vyvolat hněv, strach, ale i senzaci nebo ohromení. Pokud v nás obsah vyvolává silnou okamžitou reakci, může to být varovný signál. Nebojme se proto být kritičtí a nedůvěřiví i vůči sobě samotným.
2. Kde se (dez)informace objevila? Objevila se informace na důvěryhodném zpravodajském webu, nebo na anonymním profilu na sociální síti? Píšou o ní i další média? Důležité je také zkontrolovat si zdroj. Zásadní zprávy se téměř nikdy neobjevují jen na jednom místě. Ověřujme si proto informace z více nezávislých zdrojů na sobě.
3. V jakém kontextu je fotografie prezentována? Dává zachycená situace smysl? Nejsou na obrázku nesrovnalosti, neobvyklé proporce nebo chybějící části? S vývojem umělé inteligence se vygenerované obrázky postupně zlepšují a zdokonalují. Jsou stále obtížněji rozeznatelné od reality. I když jsou v současné době tyto obrázky velmi přesvědčivé, drobné nesrovnalosti je stejně často prozradí. Všímejme si proto i detailů na fotografiích a zajímejme se o kontext zachycené situace.
4. Pozvěme si na pomoc technologie. Pravdivost fotografie je možné v dnešní době ověřit prostřednictvím aplikací a nástrojů, které pomohou s reverzním vyhledáváním původu informace, odhalit skryté digitální stopy a úpravy informací nebo provedou analýzu podezřelých screenshotů a obrázků ze sociálních sítí. Tyto nástroje ale berme jen jako podpůrný doplněk – hlavním nástrojem zůstává vždy kritické myšlení každého z nás
   a schopnost ověřovat si informace z více zdrojů.

Umělá inteligence může být přínosným nástrojem, ale v rukou manipulátorů také nebezpečná. Klíčem k bezpečí v digitálním prostředí není technologie ignorovat, ale naučit se je správně používat a umět rozpoznávat jejich přínosy i rizika. Vždy to totiž nakonec budeme právě my, kdo ponese odpovědnost za vytvářené i sdílené informace, nikoliv umělá inteligence.