S bakalářskou prací až na světovou konferenci: Student FEL ČVUT vyvinul nástroj pro vizualizaci chování agentů umělé inteligence
Bc. Erol Medenčević, student 1. ročníku magisterského programu Otevřená informatika na FEL ČVUT, uspěl se svou prací na téma vizualizace chování agentů umělé inteligence na mezinárodní konferenci AAAI (Association for the Advancement of Artificial Intelligence), která se konala od 20. do 27. ledna 2026 v Singapuru. Výsledný projekt PANSim byl prezentován v rámci demo tracku této prestižní konference, která je jednou z nejlépe hodnocených v oblasti umělé inteligence.
Umělá inteligence může v mnohém lidem ulehčovat život. Jak se však takový agent umělé inteligence rozhoduje, může být pro veřejnost poněkud složité si představit. Kolikrát i pro samotné AI vývojáře není lehké tyto rozhodovací procesy vyčíst pouze z dostupných logů. Proto vznikl projekt PANSim, který vizualizuje chování agentů AI při plánování v nedeterministickém prostředí, tedy v takovém prostředí, kde působí vnější faktory, které agent nemůže ovlivnit, ale musí s nimi počítat. Tyto “zásahy přírody” jsou dnes totiž jednou z hlavních výzev v robotice a automatizaci. Projekt PANSim tak pomáhá pochopit, jaké “myšlenkové procesy” se skrývají za rozhodováním a plánováním umělé inteligence, a to jak laikům, tak samotným vývojářům, kteří díky této vizualizaci mohou snadněji odhalit chyby a následně své agenty lépe ladit.
V současnosti PANSim zobrazuje dva scénáře; simulaci inspirovanou klasickou hrou Perestroika a operace podmořských dronů mezi loděmi. V obou případech musí agent najít garantovaně bezpečnou cestu k cíli i přes překážky způsobené vnějšími faktory. Pro nalezení takové cesty agent využívá právě ty techniky, které jsou vyvíjeny v týmu doc. Lukáše Chrpy na Oddělení průmyslové informatiky na CIIRC ČVUT, kde na projektu student FEL ČVUT začal pracovat. V současnosti je tak kromě laiků nástroj přínosem hlavně pro výzkumníky, kteří pracují s jedním z těchto dvou scénářů. Bc. Erol Medenčević však zamýšlí projekt rozšířit i o další scénáře.
„Do budoucna bych si přál, aby se PANSim stal doménově nezávislým, tedy aby fungoval jako univerzální nástroj, ve kterém si výzkumníci nasimulují jakýkoliv vlastní vymyšlený scénář,” popisuje Bc. Medenčević. Zároveň však přiznává, že se zatím jedná o velmi ambiciózní plán. V blízké budoucnosti se tak zaměří spíše na zinteraktivnění programu, aby se stal atraktivním i pro zájemce mimo obor a vzbudil větší zájem veřejnosti o to, jak umělá inteligence funguje. “Uživatelé by si mohli v PANSimu sami vyzkoušet vyřešit konkrétní problém a pak své výsledky porovnat s tím, jak si v dané situaci vedl počítač,” nastiňuje Bc. Medenčević.
V současnosti působí Bc. Erol Medenčević na Oddělení průmyslové informatiky na CIIRC ČVUT, konkrétně v týmu doc. Lukáše Chrpy, kde na projektu dále pracuje i během svého studia na FEL ČVUT. Další vývoj nástroje PANSim by chtěl Bc. Medenčević propojit i se svou magisterskou diplomovou prací, jako se mu to podařilo i u své bakalářské práce, v rámci které PANSim vznikl.
Ve svém nitru projekt integruje herní engine Unity, který se stará o plynulou grafickou simulaci, a netriviální počet programů, kde probíhají veškeré výpočty a logické plánování, přičemž každý z těchto programů je zcela odlišný a napsaný v jiném programovacím jazyce. „Zaujala mě možnost propojit můj studijní obor, tedy grafiku, s oblastí umělé inteligence. Do té doby jsem se s plánováním příliš nesetkal, a tak jsem se ze začátku věnoval hlavně jeho pochopení, zatímco grafická část šla trochu stranou. První vizualizace tak byla poměrně jednoduchá, ale i na té se mi líbilo, že i přes svou jednoduchost poskytovala mnohem větší vhled do simulace a chování agentů než běžný výpis z příkazové řádky,” popisuje Bc. Medenčević.
Bakalářskou práci vedl Ing. Jakub Med, se kterým Bc. Medenčević na PANSimu intenzivně spolupracuje i nadále. „Projekt je primárně komplikovaný tím, že integruje mnoho algoritmů z vědecké komunity, které nejsou zralé k nasazení v praxi, jak to u vědeckých prototypů přeci jen bývá. Erol se často potýkal s problémy, že přístupy nebyly zcela kompatibilní a bylo třeba je do sebe řádně zaintegrovat. I přesto proaktivně přicházel s nápady, jak nástroj zlepšit a kam ho posunout,” říká Ing. Med, který působí jako doktorand na FEL ČVUT a zároveň jako výzkumný pracovník na Oddělení průmyslové informatiky CIIRC ČVUT.
Na začátku roku se mezi 20. a 27. lednem 2026 v Singapuru konal 40. ročník prestižní mezinárodní konference AAAI, která se věnuje umělé inteligenci a kterou pořádá Association for the Advancement of Artificial Intelligence. Jedná se o jednu z nejlépe hodnocených konferencí v oblasti AI na světě. V rámci tzv. demo tracku, tedy sekce praktických ukázek, byl na konferenci přijat i nástroj PANSim, přičemž do této sekce bylo na letošní konferenci přijato pouze 28 % z podaných příspěvků. „Mám z toho nesmírnou radost a upřímně to pro mě bylo velké překvapení. Ukázalo mi to, že jsem si projektem nejen splnil studijní povinnosti, ale že má i širší přesah a ta práce je skutečně užitečná, což mě motivuje na nástroji dále pracovat,” hodnotí Bc. Medenčević.
Ohlasy na PANSim během konference byly velmi pozitivní. O stánek, kde praktická prezentace projektu probíhala, byl nepřetržitý zájem. „Zdálo se mi, že projekt zajímá lidi převážně z komunity zpětnovazebního učení a z komunity plánování. S některými jsme si vyměnili kontakty. Doufáme, že se nám povede na prezentaci navázat nějakou spoluprací,” komentuje Ing. Med, který projekt na místě prezentoval.
Z důvodu souběhu konference se zkouškovým obdobím se totiž první autor, Bc. Medenčević, konference fyzicky zúčastnit nemohl. I tak ale přijetí projektu na konferenci AAAI vidí jako velký úspěch. „Dodalo mi to chuť dozvídat se o plánování mnohem víc. Tento semestr jsem si předmět o tomto tématu zapsal, takže do budoucna bych se mohl zabývat nejen tou grafickou stránkou věci, ale třeba i samotným chováním agentů,” dodává Bc. Medenčević.
Více o PANSimu, včetně vědeckého článku, se lze dozvědět v projektovém repozitáři na adrese https://gitlab.com/automated-planning/tools/pansim.
Fakulta elektrotechnická ČVUT v Praze
