AI nám vrací obraz nás samých, říká Petr Koňas

Poznámka na úvod: Rozhovor dalece přesahuje obvyklý rozsah textů na webu VUT, to proto, že téma je tak široké a odpovědi tak zajímavé, že by byla škoda jej násilně krátit. Předem upozorňujeme, že jde o delší text. Pokud vás zajímá zejména role ambasadora pro AI na VUT, přeskočte na poslední třetinu.

Když jsem se chystala na náš rozhovor, zeptala jsem se na vás rešeršního nástroje Perplexity. Jaký je váš oblíbený nástroj, který denně používáte a usnadňuje vám život a práci?

Těch nástrojů je celá řada, záleží, na co se aktuálně soustředím. Perplexity je zrovna jeden z nich. Potom třeba LibreChat, což je takový koncentrátor, který sdružuje většinu komerčních i open source jazykových modelů a dává možnost přecházet v nich podle toho, co zrovna potřebuji – od specializovaného modelu do obecnějšího. V rámci LibreChatu je i velice užitečná možnost takzvaných agentů, což jsou nástroje, které umožňují řešit úzce specializované oblasti: například když hledám nějakou literární rešerši, povolám příslušného agenta a mám práci velice zjednodušenou. V poslední době využívám pro ekonomické a administrativní úkoly v rámci rektorátu nástroj RAGFlow, s kolegy z rektorátu nyní spolupracujeme na možnosti využít AI v oblasti akreditací.

A potom obecně je to Python, protože řada nástrojů je ve velmi surovém stavu a pokud chci skutečně využívat jejich high-end možnosti, nezbývá nic jiného, než si je upravit. V tomto Python hraje skutečně nezastupitelnou roli.

Většina z nás se zajímá o AI od chvíle, kdy jsme poprvé rozklikli ChatGPT, což jsou maximálně jednotky let nazpět. Vy se ale oblasti umělé inteligence věnujete už 30 let. O jakou AI tehdy šlo a jak velký kus cesty urazila, než se dostala do běžného slovníku dnešní populace?

Je to obrovská změna. První okamžiky s AI pro mě byly poměrně nevýrazné, AI byla jednou z mnoha statistických metod, které se používaly pro analýzu, aproximaci, různé klasifikace a podobně. Mně třeba velice pomáhala už před 30 lety v obrazové analýze, protože dokázala mnohem efektivněji provádět například segmentaci obrazu. Nicméně tehdy jsme naráželi na to, že chyběl dostatečný výpočetní výkon. Každá analýza, ačkoliv vyhodnocení třeba kvalitativně posouvala, trvala extrémně dlouho a člověk si rozmyslel, jestli na tom nechá stroj pracovat měsíc nebo i déle. Ale s tím, jak se změnily možnosti hardwaru a výpočetní výkon rostl, rostl i vliv AI, ať už v oblasti strojového učení, následně hlubokého učení až po současné jazykové modely.

Zejména využívání jazykových modelů ve spojení se strojovým učením a všemi dalšími možnostmi, které se dnes en bloc nabízí, je naprosto nezastupitelné a bude hrát do budoucna ohromnou roli. Protože nejenom nám vědcům, ale v podstatě celému lidstvu nabízí jedinečnou a fantastickou možnost, kdy vás na základě relativně vágní informace dokáže dovést k relevantním datům a najít řešení, které jsme doteď buď nemohli najít, anebo to trvalo tak dlouho, že jsme na něj rezignovali. Jsem strašně rád, že jsem se současné podoby AI dožil a že nás v této oblasti čekají ještě další, nepředstavitelné změny.

V mnoha oborech už narážíme na lidské možnosti. V podstatě nejsme schopni vytvářet synergické poznání, které by nás skutečně dále posouvalo, nemluvě o konsolidaci poznání napříč různými obory...

Vidím, že jste technooptimista, tak se musím zeptat, zda nám podle vás AI přinese nové a skutečně přelomové objevy v oborech, kde na ně léta marně čekáme, namátkou třeba v astrofyzice nebo částicové fyzice. Vidíte v tom jednu z rolí AI?

Je to přesně tak. Uvědomme si, že v mnoha oborech už narážíme na lidské možnosti, nejen kognitivní, ale narážíme i na to, jak vůbec zpracovat množství informací, které se objevují. Vezměme si jenom naši instituci – jaké množství článků a poznání generuje VUT každý rok! Nenajde se člověk, který by byl schopen data zpracovat takovým způsobem, aby zhodnotil celé toto poznání. Je to vždycky jenom střípek. V podstatě nejsme schopni vytvářet synergické poznání, které by nás skutečně dále posouvalo, nemluvě o konsolidaci poznání napříč různými obory. Obávám se, že na to už lidský mozek skutečně nemá a potřebujeme to změnit, potřebujeme nástroje, které nám v tomto pomohou. AI na to má, může jít nejenom do veliké hloubky, ale také napříč obory a objevovat spojitosti a vazby, kterých si člověk nemá šanci všimnout.

Nedávno se Tomáš Mikolov podle mě poměrně nešťastně vyjádřil o “autismu“ některých vědců. Musíme si ale přiznat, že jako výzkumníci se skutečně dostáváme do rolí, kdy zbytek populace nemá šanci porozumět nejenom významu toho, co sdělujeme, ale také uplatnění našich výsledků. V tomto směru může AI opět hrát nezastupitelnou roli, protože může zprostředkovávat naše poznání veřejnosti.

Potvrzuji, protože když jdu dělat rozhovor například s kolegy z fyziky, využívám AI, aby mi pomohla pochopit odborné texty, o který se bavíme. A opravdu už je umí krásně popularizačně „přeložit“.

Máte pravdu, ale je to zároveň i její velké nebezpečí, totiž abychom nezůstali jen „na povrchu“. Musíme se zabývat tím, jak posunout člověka v kontextu poznání dále. A to je ohromná příležitost pro nás jako vzdělávací instituci: jakým způsobem můžeme posunout naše studenty, aby i s omezeními, která mají a která má každý z nás, dokázali zvládnout látku v určitém čase a kvalitě. I zde nám může AI pomoci, protože má kapacitu věnovat se individuálně každému studentovi, což živý učitel často nemá.

Fakulta strojního inženýrství budoucnosti podle AI. | Autor: ChatGPT

Lidská nedokonalost

Nechci se zde příliš zaobírat obavami, které AI vyvolává, protože jich je hodně. Zeptám se ale na jednu: Co nám podle vás zůstane vlastní jako lidem, pokud řadu svých úkolů a dovedností předáme AI?

To je velice těžká otázka. Myslím si, že člověk, stejně jako zbytek přírody podléhá vývoji. A nyní narážíme na řadu svých limitů i proto, jak obrovský skok lidstvo za posledních sto let udělalo. Ten posun je tak extrémní, že nás naše fyziologické podmínky strašně limitují, táhnou nás dolů. A já si kladu otázku, jakým způsobem můžeme tento handicap překonat a myslím si, že AI je v tomto opět přirozeným krokem, jak se posunout dál.

Hrozí, že vytvoříme v zásadě pokročilejší formu naší nedokonalosti, a to rozhodně není pozitivní výhled. Jako vědec jsem ale optimista...

Ale máte pravdu, kolikrát si říkám, jestli vývoj není příliš rychlý, jestli jsme na něj dostatečně připraveni. A z reakcí obecné populace je vidět, že leckdy připraveni nejsme. My si neuvědomujeme, že to, co nám AI vrací, je v podstatě obraz nás samých. A co považujeme za chybu, jsou chyby lidstva. Neměli bychom pracovat jen na přizpůsobování AI, ale také hledat prapříčiny našich problémů. Pokud na tom nebudeme pracovat, hrozí, že vytvoříme v zásadě pokročilejší formu naší nedokonalosti, a to rozhodně není pozitivní výhled. Jako vědec jsem ale optimista a věřím, že díky AI budeme schopni odhalit rozpory, které jako lidstvo máme a zatím jsme je přehlíželi. Možná, že to umožní jakousi katarzi, uvědomění, co je to lidství a co nás jako člověka definuje.

Když jste zmínil překotný vývoj, zeptám se ještě na obavy některých odborníků, že s rostoucím množstvím generického obsahu může začít AI degenerovat. Jinými slovy, že ji může poškozovat, když se trénuje na svých vlastních výstupech. Zároveň je jasné, že závislost lidstva na této technologii poroste…

Chápu obavy všech datových analytiků, kteří na to upozorňují. Na druhou stranu bych dodal, že i řada vědeckých článků nese jisté rysy kopírování a redundance. A přesto jsme se s tím vypořádali a použili jsme je jako tréninková data, jako základní etalon. A nemáme s tím problém. Zde vnímám jakýsi vnitřní rozpor, ale samozřejmě, že čím více těchto redundantních dat bude, tím méně se bude AI posouvat. Je to přirozený vývoj, kdy se v různých fázích střídá kvantita s kvalitou. A už i v rámci neuronových sítí pozorujeme, že někde potřebujeme velké množství dat a jinde přelomový objev, který změní způsob jejich zpracování nebo interpretace. To nás posune dál.

V současné době se bavíme zatím „jen“ o AI, tedy umělé inteligenci, nikoliv o tzv. AGI (obecná umělá inteligence, která má za cíl replikovat kognitivní schopnosti člověka, pozn. red.). Kdy odhadujete, že se ji podaří vyvinout? Nebo budeme dál spíš využívat dílčí AI nástroje pro konkrétní účely?

Velice záhy po tom, co se uvolnily jazykové modely, se ukázalo, že jejich omezenost spočívá právě ve způsobu, jakým nazírají na svět. V případě textových jazykových modelů je jejich modalitou textový vstup. Následně přišlo zpracování řeči, poté zpracování obrazu a počet modalit, které nám popisují okolní svět, neustále narůstá. Čím více se zvětšuje a čím více se propojují navzájem, tím více dochází k odhalování nových vztahů a nového druhu poznání. A tím více se blížíme i nějakém univerzální AI, která nás může reprezentovat po stránce vnímání světa tak, jak ho vnímáme my. Pokud tento předpoklad bude splněn, pokud se nám zároveň podaří vytvořit něco jako je společná motivace, věřím tomu, že AGI bude v relativně dohledné době vytvořena. Ovšem dohlednou dobou míním spíš 20 let a více.

Cesťák řeší každý

Když se od velkých otázek vrátíme nohama na zem, zeptám se: Co pro vás osobně AI znamená? A jak si k ní hledáte vztah?

Pro mě je to ohromný pomocník, protože mi zjednodušuje tu práci. Co dříve trvalo měsíce, poté týdny, to jsou dnes minuty, v rámci kterých jsem schopen například zmíněnou literární rešerši provádět na kliknutí. Díky tomu mi zbývá čas na věci, které jsem dlouho odkládal. A myslím si, že to je velká výzva pro univerzitu i o pro výzkum obecně – tím, že odbouráte byrokracii a další činnosti, které jsou vůči tvůrčí činnosti zbytné, můžeme se pak skutečně soustředit na samotnou tvůrčí činnost, což já považuji za hlavní rys našeho lidství.

Podívejme se teď na vaši pozici koordinátora AI na VUT. Jak jste se k ní – samozřejmě s ohledem na vaši expertízu – vlastně dostal?

Přišel jsem k tomu skoro jak slepý k houslím. (smích) Pomáhal jsem kolegům na ústavu, pak se to rozšířilo na fakultu a najednou se mi ozval prorektor Vítězslav Máša, že o mně slyšel a zrovna řeší otázku strategie a rozvoje AI v rámci univerzity. Má na to velice zajímavý, rozumný pohled, kéž by se podařilo všechno, o čem jsme se bavili, implementovat. Každopádně slovo dalo slovo a nastoupil jsem.

Jaká by měla být vaše role?

Hlavní myšlenka je zajistit koordinaci, protože každý má dnes na AI svůj náhled, používá svoje nástroje a postupy. Bohužel to vede k tomu, že se spousta věcí duplikuje a ztrácíme čas tím, co už někdo dávno vyřešil. Moje role bude sjednotit informace, vytvořit znalostní databázi k AI, být kontaktní osobou. Měli bychom akcelerovat vývoj v této oblasti, protože, nenalhávejme si, české univerzity v tom mají oproti Západu trošku skluz. Primárně svoji roli chápu tak, že se budu setkávat s lidmi, vytvářet týmy zaměřené na konkrétní oblasti AI, pomáhat jim v přechodu na AI. Aby umělá inteligence byla skutečně pomocníkem, a ne spíš problémem, se kterým se musí vypořádat.

Je na stole třeba i tvorba AI asistenta pro VUT? Kterého se například zeptám, jak se vyplňuje cestovní příkaz, a on mi poradí?

Když jsme se s kolegy začali bavit o AI, myslel jsem si, že hlavním problémem, který budou vnímat, bude využití AI ve výzkumu. Ale nemohl jsem se mýlit víc! Největší problém, který všechny trápí, je administrativa. A cesťák zmínil snad úplně každý. Jsou to skutečně věci, která nás brzdí a bylo by dobré, pokud by se je podařilo nějakým způsobem automatizovat. Takže ano, je to jedna z věcí, která hraje prim. Nejsem si ale úplně jistý, jestli má jednoduché a rychlé řešení, protože když se člověk začne pročítat veškerou normativou, která je s tím spojená, má problém to pojmout.

Ale máte pravdu a také firmy, které mne oslovují, se nejčastěji dotazují na to, jak zpracovat a zpřístupnit velké množství informací a firemního know-how tak, aby s odchodem zaměstnanců nemizelo. AI je na to ideální, protože může informace posbírat, utřídit a na dotaz vás snadno zavést k cíli.

S čím se na vás mohou zaměstnanci VUT v současné době obracet?

Určitě s poptávkou na školení, ta už dělám a budu v tom pokračovat. Obecně ale takto: pokud řešíte AI, ozvěte se. Je jedno, jestli je ten problém malý nebo velký, leckdy i z malého problému může vzniknout velice zajímavá věc. Velice rád pomůžu komukoliv, seč my síly stačí.

Zároveň si vůbec nenárokuji patent na rozum a určitě nevím o všem, co se v rámci AI šustne, ačkoli se snažím být neustále in. Takže budu velice rád za sdílení zkušeností i s dalšími lidmi.

Působíte nadšeně – co vás na AI vlastně baví?

Měl jsem v životě vzácnou možnost, že jsem byl u několika revolucí a změn, které ovlivnily lidstvo. Zažil jsem příchod počítačů, internetu, teď také AI. V mé oblasti numerických simulací došlo k neuvěřitelnému rozvoji. Baví mě sledovat tu změnu a také být neustále ve styku s lidmi, kteří jsou skutečně zajímavý, mají tah na branku a přinášejí nové myšlenky. To je vždycky fantasticky obohacující. Když se člověk uzavře do ulity, neprospívá to ani jemu, ani jeho okolí. Ale pokud máte možnost komunikovat – a třeba i s těmi nejlepšími – je to věc, kterou všem doporučuji.

Zdroj: Fakulta strojního inženýrství VUT