EDPB a EDPS podporují zefektivnění provádění aktu o umělé inteligenci. Vyzývají k posílení záruk na ochranu základních práv
Evropský sbor pro ochranu osobních údajů (EDPB) a evropský inspektor ochrany údajů (EDPS) přijali společné stanovisko k návrhu Evropské komise týkajícímu se souhrnného digitálního balíčku o umělé inteligenci. Cílem návrhu je zjednodušit provádění některých harmonizovaných pravidel podle aktu o umělé inteligenci, aby bylo zajištěno jejich účinné uplatňování.
EDPB a EDPS podporují cíl řešit praktické výzvy související s prováděním aktu o umělé inteligenci. Administrativní zjednodušení však nesmí snížit ochranu základních práv. Společné stanovisko uznává složitost prostředí umělé inteligence a vítá úsilí o zmírnění zátěže pro organizace. Některé navrhované změny by však mohly oslabit ochranu jednotlivců v souvislosti s umělou inteligencí.
„Inovace a účinnost mají zásadní význam a mohou existovat souběžně se zachováním odpovědnosti poskytovatelů umělé inteligence. Vítáme regulační prostor na úrovni EU a zjednodušené postupy na podporu inovací a malých a středních podniků v Evropě. Orgány pro ochranu údajů si však musí zachovat ústřední úlohu, pokud jde o zpracování osobních údajů fyzických osob. Spolupráce mezi orgány pro ochranu údajů, Úřadem pro umělou inteligenci (AI Office) a orgány dozoru nad trhem má zásadní význam pro zajištění právní jistoty pro organizace a podporu inovací při současném dodržování základních práv jednotlivců,“ vyjádřila se předsedkyně EDPB Anu Talusová.
Evropský inspektor ochrany údajů Wojciech Wiewiórowski dodal následující:
„Zjednodušení je vítáno, pokud vyjasňuje povinnosti, posiluje postavení jednotlivců a posiluje důvěru. Je třeba zachovat obezřetnou rovnováhu snížením administrativní zátěže tam, kde je to možné, aniž by byla narušena ochrana základních práv. Kromě toho musíme zajistit, aby byla úloha úřadu pro umělou inteligenci jasně definována a neovlivnila nezávislý dohled nad tím, jak orgány Evropské unie systémy umělé inteligence používají.“
Návrh by rozšířil možnost zpracovávat zvláštní kategorie osobních údajů (jako jsou údaje o etnickém původu nebo zdravotním stavu) pro odhalování a opravu předpojatosti na poskytovatele a subjekty zavádějící jakékoli systémy a modely AI, s výhradou vhodných záruk. EDPB a EDPS doporučují upřesnit, že tyto údaje mohou být použity pro odhalování a opravu zkreslení pouze v přesně vymezených situacích, kdy je riziko nepříznivých účinků takového zkreslení považováno za dostatečně závažné.
EDPB a EDPS nedoporučují navrhované zrušení povinnosti registrace systémů AI, pokud spadají do kategorií uvedených jako vysoce rizikové, a to i v případě, že poskytovatelé považují své systémy za systémy, které „nejsou vysoce rizikové“. EDPB a EDPS se domnívají, že tato změna by výrazně oslabila odpovědnost a vytvořila nežádoucí pobídku pro poskytovatele, aby neoprávněně žádali o výjimky s cílem vyhnout se veřejné kontrole.
EDPB a EDPS vítají vytvoření regulačních pískovišť (AI regulatory sandboxes ) na úrovni EU na podporu inovací. V zájmu zajištění právní jistoty společné stanovisko doporučuje přímé zapojení příslušných orgánů pro ochranu údajů do dohledu nad zpracováním údajů v rámci pískovišť. Kromě toho by EDPB měla být svěřena poradní úloha a status pozorovatele v Evropské radě pro umělou inteligenci, aby byla zajištěna soudržnost ve vztahu k pískovištím na úrovni EU. Kromě toho by dozorčí úloha úřadu pro AI, pokud jde o systémy AI založené na obecném modelu AI, měla být jasně vymezena v normativní části a neměla by se překrývat s nezávislým dohledem EDPS nad systémy AI vyvinutými nebo používanými orgány, institucemi nebo jinými subjekty EU.
EDPB a EDPS podporují cíl zefektivnit spolupráci mezi orgány nebo subjekty pro základní práva a orgány dozoru nad trhem a spoléhání se na ústřední kontaktní místo za účelem zvýšení účinnosti. Doporučují však vyjasnit úlohu orgánů dozoru nad trhem jako správních kontaktních míst pro vyřizování a předávání žádostí poskytovatelům a zavádějícím subjektům a zajistit, aby nebyla dotčena nezávislost a pravomoci orgánů pro ochranu údajů.
EDPB a EDPS rovněž doporučují zachovat povinnost poskytovatelů a zavádějících subjektů umělé inteligence zajistit gramotnost svých zaměstnanců v oblasti umělé inteligence. Jakákoli nová povinnost podporovat gramotnost v oblasti umělé inteligence uložená Komisi nebo členským státům by měla doplňovat, nikoli nahrazovat odpovědnost organizací, které tyto systémy skutečně vyvíjejí a používají.
V neposlední řadě EDPB a EDPS vyjadřují obavy ohledně navrhovaného odkladu základních ustanovení pro vysoce rizikové systémy AI. Vzhledem k rychlému vývoji prostředí umělé inteligence vyzývají spolunormotvůrce, aby zvážili, zda lze u některých povinností (požadavky na transparentnost atd.) zachovat původní harmonogram, a aby zpoždění co nejvíce minimalizovali.
Anglickou verzi stanoviska EDPB a EDPS najdete zde.
Úřad pro ochranu osobních údajů
