Právo a AI, čemu se dá dnes ještě věřit? Článek prvačky z práv vyhrál v odborné soutěži
Kateřina Sedláčková, teprve v prvním ročníku Právnické fakulty Západočeské univerzity v Plzni, získala v soutěži Ukaž svou kreativitu první místo za odborný článek o právu a důvěře v realitu, zaměřený na deepfake a manipulaci s obsahem. V úvodu zpochybňuje, že „vidět znamená věřit“, a uvádí, že deepfake technologie mohou být natolik přesvědčivé, že ovlivňují naše vnímání reality. Podstatou problému podle ní není samotná technologie, ale nekritické vnímání obsahu publikem, a současná právní úprava řeší převážně důsledky, nikoli podstatu problému. Závěrem upozorňuje na nutnost propojení práva s filozofií a morálkou a vyzývá studenty, aby byli aktivní už od prvního ročníku.
Falešná videa, obrázky nebo zvukové nahrávky vytvořené pomocí umělé inteligence už mnohdy na první pohled odhalí jen málokdo. Jak velký problém pro právo jsou takzvané deepfakes? Právě nad tím se zamýšlela i studentka FPR ZČU, její odborný text zaujal porotu právnické soutěže.
Kateřina Sedláčková je teprve v prvním ročníku Právnické fakulty Západočeské univerzity v Plzni, přesto její text o právu a důvěře v realitu zaujal porotu právnické soutěže Ukaž svou kreativitu natolik, že studentce udělila rovnou první místo. Sedláčková se ve svém odborném článku věnovala deepfake technologiím a manipulaci s obsahem. Deepfakes, tedy pomocí AI vytvořená falešná videa, obrázky nebo audio, věrně napodobují skutečné lidi. Používají se pro zábavu, ale mnohdy i třeba k šíření dezinformací nebo poškození něčí pověsti. S Kateřinou Sedláčkovou jsme se sešli na konci dubna po slavnostním vyhlášení vítězů soutěže na galavečeru kongresu Právní prostor 2026. Pro INFO.zcu popsala, proč vůbec článek napsala a jak se sama k problematice staví.
Hned v úvodu svého vítězného článku zpochybňujete, že „vidět znamená věřit“. Kdy jste si uvědomila, že tohle už v dnešní době přestává platit? A bylo to to, co vás k tématu přivedlo?
Ten pocit přicházel postupně, v souvislosti s tím, jak se deepfake technologie vyvíjela a jak se její výstupy stávaly stále přesvědčivější. Právě v kontextu toho jsem si uvědomila, že všechno, co vidím, nemusí být rovnou skutečné a že obraz se nerovná realitě. Takže ano, byla to jedna z věcí, proč jsem si toto téma vybrala.
Píšete, že deepfakes nejsou jen o manipulaci s obrazem, ale i o manipulaci s důvěrou. Co je podle vás větší problém – ta samotná technologie nebo to, jak lidé její produkty vnímají?
Za větší problém považuji to, jak lidé obsah vnímají. Myslím si, že hlavním problémem není technologie jako taková, ale spíše nekritické vnímaní publika. Technologie jako taková může být používána v pozitivní rovině, například v oblasti kinematografie. V souvislosti s umělou inteligencí platí známé přísloví „dobrý sluha, ale zlý pán“ dvojnásobně.
V článku jste zmínila, že současné zákony na deepfake úplně nestačí. V čem?
Současná právní úprava řeší převážně až následky, ne samotnou podstatu problému. S novými technologiemi přicházejí i nové situace, které nejsou vždy jednoznačně a jasně pokryté, například odpovědnost za vytvoření digitálního obsahu.
Zmiňujete i hranici svobody projevu. Co už by mělo být jasně za hranou?
Za hranou by podle mě mělo být úmyslné vytváření a šíření deepfake obsahu, který zasahuje do práv jiných osob, ať už do důstojnosti, soukromí či pověsti. Svoboda projevu, která je zásadní hodnotou našeho státu, by neměla sloužit jako nástroj k manipulaci či k poškozování jiných osob.
Článek se pohybuje mezi právem a filozofií. Je to záměr?
Ano, byl to záměr. U umělé inteligence podle mě nestačí řešit jen právní rovinu, tedy jen to, co je dovolené nebo zakázané. V souvislosti s AI by se měly řešit i hlubší otázky, například co je morální, jaké hodnoty chceme chránit nebo jak technologie mění naše vnímání reality. Právě filozofie tyto otázky otevírá a řeší v širším kontextu. To je důvod, proč propojení těchto dvou oblastí považuji za důležité.
Jste v prvním ročníku a už máte oceněný odborný text. Jak byste podpořila ostatní studentky a studenty, aby byli aktivní už od prváku?
No, asi se nebát začít a využít možností a příležitostí, které přicházejí. Navíc právě v prváku má člověk prostor zkoušet nové věci a rychle se posouvat.
Západočeská galerie v Plzni
