Umělá inteligence vytváří texty, obrázky i videa, odpovídá zákazníkům v chatovacích oknech a dokáže napodobit hlas konkrétní osoby nebo její vzhled. Pro spotřebitele však může být stále obtížnější poznat, kdy mají před sebou skutečného člověka či autentický obsah a kdy výsledek vytvořila umělá inteligence. Od 2. srpna 2026 proto v Evropské unii platí nová pravidla transparentnosti podle nařízení o umělé inteligenci, známého jako AI Act.
Ne každý obrázek, text nebo video vytvořené pomocí umělé inteligence musí být na první pohled jasně označeno. Článek 50 AI Actu stanovuje několik rozdílných povinností podle toho, o jaký systém a způsob jeho použití jde.
Jedna z povinností dopadá přímo na poskytovatele systémů, které vytvářejí nebo upravují text, obraz, zvuk či video. „Ti musí zajistit, aby bylo možné výstup vytvořený pomocí AI rozpoznat ve strojově čitelném formátu. Může jít například o digitální vodoznak, údaje uložené v souboru nebo jiný technický prvek. Spotřebitel tedy nemusí označení vždy vidět pouhým okem,“ vysvětluje ředitelka spotřebitelské organizace dTest Eduarda Hekšová.
Přísnější požadavky se vztahují na takzvané deepfakes. Jde například o realisticky vypadající video politika pronášejícího výrok, který ve skutečnosti nikdy neřekl, nebo fotografii zobrazující událost, která se nestala.
Pokud někdo při své profesní činnosti vytvoří nebo upraví pomocí AI obrazový, zvukový či audiovizuální obsah, který se podobá skutečným osobám, místům, objektům nebo událostem a může být mylně považován za autentický, musí jeho umělý původ jasně uvést. Může-li takový obsah někoho uvést v omyl, byť i neúmyslně, pak osoba, která ho pomocí AI vytvořila, musí jasně informovat o jeho původu. Postačí k tomu např. zmíněná ikona „AI“ či krátké sdělení na začátku audionahrávky. „U uměleckých, satirických či fiktivních děl však pravidla připouštějí citlivější způsob označení, aby zbytečně nenarušovalo samotný zážitek,“ dodává Hekšová.
Další pravidlo se týká chatbotů a dalších systémů určených k přímé komunikaci s lidmi. Pokud například spotřebitel zahájí konverzaci se zákaznickou podporou e-shopu, měl by být informován, že na druhé straně komunikuje s umělou inteligencí a nikoliv s pracovníkem společnosti. Výjimkou mohou být případy, kdy je už ze samotných okolností zcela zřejmé, že člověk komunikuje s AI systémem. Odlišná situace může nastat také tehdy, pokud jsou výstupy před předáním uživateli skutečně kontrolovány člověkem.
AI Act pamatuje rovněž na systémy, které rozpoznávají emoce nebo kategorizují osoby na základě biometrických údajů. Může jít například o práci s podobou obličeje, hlasem nebo dalšími charakteristikami člověka. Pokud jsou lidé takovému systému vystaveni, provozovatel je o tom musí informovat.
Zvláštní pravidlo platí také pro texty určené k informování o záležitostech veřejného zájmu. Pokud byly vytvořeny nebo upraveny pomocí AI, má být jejich původ za stanovených podmínek jasně označen. Výjimkou mohou být zejména případy, kdy text prošel lidskou redakční kontrolou a za jeho zveřejnění nese konkrétní osoba nebo subjekt redakční odpovědnost.
Nová pravidla se přitom netýkají běžného soukromého používání umělé inteligence. Pokud si spotřebitel nechá pomocí AI například upravit soukromou fotografii nebo sestavit text pro vlastní potřebu, povinnosti podle článku 50 se na něj zpravidla nevztahují. „Především profesionální poskytovatelé a uživatelé AI však budou muset nově počítat s tím, že spotřebitel má mít podstatně lepší možnost poznat, kdy do obsahu nebo komunikace zasáhla umělá inteligence,“ uzavírá Hekšová z dTestu.
Kontakt pro média:
Lucie Korbeliusová, media@dtest.cz, tel.: +420 604 556 874
dTest, o.p.s. je největší českou spotřebitelskou organizací, která v ČR působí již od roku 1992. Je vydavatelem spotřebitelského časopisu dTest, na jehož stránkách jsou publikovány výsledky nezávislých a objektivních testů produktů, varování před nebezpečnými a zdravotně závadnými výrobky, informace o spotřebitelských právech a rady, jak tato práva účinně uplatňovat. dTest je součástí mezinárodní organizace International Consumer Research and Testing (ICRT) a evropské spotřebitelské organizace BEUC.
Poradenská linka časopisu dTest – 299 149 009 – je v provozu každý pracovní den od 9 do 17 hodin a spotřebitelé na ní mohou konzultovat s právními poradci dTestu nejrůznější spotřebitelské problémy, a to za cenu běžného tarifu volání. Od spuštění v roce 2010 této možnosti využily již desetitisíce spotřebitelů a poradenská linka časopisu dTest se tak stala první a nejvyhledávanější cestou k řešení potíží, se kterými se zákazníci na trhu setkávají.