Jak vlastně umělá inteligence přemýšlí? Proč se v konkrétní situaci rozhodne právě tak, jak se rozhodne? Odpověď na tyto otázky pomáhá hledat nástroj PANSim, který vznikl jako bakalářská práce studenta Fakulty elektrotechnické ČVUT Bc. Erola Medenčeviće pod vedením Ing. Jakuba Meda ve spolupráci s týmem doc. Lukáše Chrpy z Oddělení průmyslové informatiky Českého institutu informatiky, robotiky a kybernetiky ČVUT (CIIRC ČVUT). Projekt získal ocenění Best Demonstration Award 1. července 2026 na konferenci ICAPS 2026 v irském Dublinu – nejprestižnějším světovém setkání odborníků na automatizované plánování.
S tím, jak umělá inteligence proniká do stále více oblastí života, roste i potřeba rozumět tomu, proč se rozhoduje právě určitým způsobem. Ocenění je o to cennější, že o vítězi nerozhodovala předem určená porota, ale samotní účastníci konference – světová komunita výzkumníků zabývajících se automatizovaným plánováním a rozhodováním umělé inteligence. Mezi dvanácti vybranými demonstračními projekty z předních světových univerzit a výzkumných institucí získal nejvíce hlasů právě PANSim.
„Je to pro nás mimořádně cenné ocenění, protože ICAPS je hlavní světová konference věnovaná automatizovanému plánování. Na rozdíl od velkých konferencí zaměřených na umělou inteligenci se zde schází prakticky celá odborná komunita našeho oboru. O to více si vážíme, že právě její účastníci ocenili náš nástroj jako nejlepší demonstraci letošního ročníku,“ říká doc. Lukáš Chrpa z Oddělení průmyslové informatiky Českého institutu informatiky, robotiky a kybernetiky ČVUT.
Umělá inteligence dnes pomáhá řídit roboty, autonomní vozidla nebo průmyslové systémy. Mnohem složitější než ověřit správnost výsledku ale často bývá pochopit, proč se algoritmus rozhodl právě tímto způsobem. Ani samotní vývojáři nedokážou složité rozhodovací procesy vždy vyčíst pouze z textových logů nebo výpisů programu.
PANSim převádí rozhodování umělé inteligence do interaktivní grafické simulace. Zaměřuje se přitom na oblast tzv. symbolické umělé inteligence, která místo statistického učení pracuje s explicitním modelováním prostředí a plánováním jednotlivých kroků. Uživatel může krok za krokem sledovat, jak agent vyhodnocuje situaci, reaguje na změny okolního prostředí a hledá bezpečnou cestu k cíli. Díky tomu lze mnohem snadněji odhalit chyby algoritmu, porozumět jeho úvahám a celý systém dále vylepšovat.
„Nejde jen o samotnou grafiku. Vizuální podoba umožňuje mnohem lépe pochopit, co se během rozhodování skutečně odehrává. Vývojář díky tomu rychle pozná, proč se agent zachoval určitým způsobem a kde je potřeba algoritmus upravit,“ vysvětluje Ing. Jakub Med, vedoucí bakalářské práce Erola Medenčeviće a doktorand FEL ČVUT, který rovněž působí v Oddělení průmyslové informatiky CIIRC ČVUT.
Jak ukázat složité rozhodování umělé inteligence co nejsrozumitelněji? Autoři zvolili jednoduchou situaci. Žába se musí dostat přes jezírko a posbírat všechny mince. Nestačí ale najít nejkratší cestu – některé lekníny mohou každou chvíli zmizet pod hladinou. Agent proto musí průběžně přehodnocovat své možnosti a reagovat na náhodné změny prostředí. Druhý scénář simuluje autonomní podmořské prostředky, které při plnění mise musejí bezpečně reagovat na pohyb lodí nad hladinou. Tým navíc od agenta vyžaduje, aby měl garanci úspěchu, čímž se techniky vyvíjené týmem odlišují od těch tradičních využívajících algoritmy strojového učení.
Projekt PANSim není prvním mezinárodním úspěchem studenta FEL ČVUT Erola Medenčeviće, který na jeho vývoji pokračuje i během navazujícího magisterského studia. Už začátkem letošního roku byl představen na prestižní konferenci AAAI v Singapuru. Zatímco AAAI patří mezi největší světové konference zaměřené na umělou inteligenci s tisíci účastníků, ICAPS představuje hlavní světové fórum specialistů na automatizované plánování.
„Po přijetí na první světovou konferenci jsem pochopil, že projekt má skutečný dopad. Když mi ale kolegové poslali z Dublinu fotografii diplomu za nejlepší demonstraci, opravdu mě to překvapilo. Je to velká motivace pokračovat dál,“ říká Bc. Erol Medenčević.
V další fázi vývoje chtějí autoři ještě více zpřehlednit rozhodování agentů. Přibýt má například možnost vracet simulaci o několik kroků zpět, lépe zobrazovat aktuální záměry umělé inteligence nebo rozšířit nástroj o další scénáře. Dlouhodobou ambicí je vytvořit univerzální prostředí, které umožní vizualizovat širokou škálu plánovacích úloh.
Přestože PANSim zatím slouží především výzkumníkům, principy, které využívá, nacházejí uplatnění například při řízení autonomních robotů nebo v oblasti kybernetické bezpečnosti, kde systémy musejí reagovat na nepředvídatelné změny okolního prostředí. Právě lepší porozumění tomu, jak umělá inteligence uvažuje a proč se rozhoduje určitým způsobem, bude s rostoucím počtem autonomních systémů stále důležitější.