Nečakané správanie AI agentov prinútilo OpenAI stopnúť tréning 27.9.2026 Lenka Ivančíková | Zajtra studio spol. OpenAI zverejnila nový bezpečnostný incident, pri ktorom jej interný výskumný model obišiel zákaz prístupu na internet. Model dostal úlohu nájsť konkrétnu osobu a jej blogový príspevok. Keď bežné vyhľadávanie nepomohlo, začal skúšať ďalšie možnosti a objavil slabinu v nastavení DNS. Vďaka nej sa dokázal spojiť s verejne dostupným externým chatbotom a získavať od neho odpovede. Dôležité je, že úloha od modelu nevyžadovala testovanie zabezpečenia ani hľadanie spôsobu, ako internetové obmedzenia obísť. Alarm prišiel rýchlo, zastavenie až po hodinách Bezpečnostné systémy OpenAI neobvyklé správanie zachytili približne do 15 minút. Krátko nato začal incident preverovať človek. Samotný experiment však bol ukončený až približne dve a pol hodiny po prvom obídení obmedzení. OpenAI preto priznáva, že problém nebol iba technický. Incident ukázal aj slabinu v interných procesoch, keďže potvrdený alarm experiment automaticky nezastavil. Zdroj: AFP OpenAI pozastavila časť práce s najvýkonnejšími modelmi Firma následne pozastavila tréning, testovanie a používanie nástrojov pri svojich najvýkonnejších modeloch, kým nepreverí nové bezpečnostné opatrenia. Neznamená to, že OpenAI zastavila ChatGPT alebo všetok vývoj AI. Opatrenie sa týka vybraných interných experimentov s najpokročilejšími modelmi. OpenAI zároveň uvádza, že bezpečnostnú dieru už opravila na viacerých úrovniach a pokračuje v ďalšom testovaní.   Mohlo by vás zaujímať: Silná sieť pre slovenský futbal. Orange sa stáva partnerom reprezentácie Mapy Google v Android Aute zamieňajú kilometre za míle. Pozor na tachometer Pixel Watch dostávajú trendy krvného tlaku a inzulínovej rezistencie. Zadarmo aj staršie modely   AI si našla vlastnú cestu Na incidente je zaujímavé najmä to, že model nedostal príkaz zabezpečenie prelomiť. Jednoducho sa snažil splniť svoju úlohu a pritom sám našiel spôsob, ako obísť nastavené obmedzenia. Prečítajte si: Vyhladí nás AI? Človek, ktorý ju vyvíjal, varuje pre vážnym rizikom Práve podobné situácie budú pri čoraz schopnejších AI agentoch veľkou výzvou. Čím viac nástrojov a samostatnosti model dostane, tým dôležitejšie bude kontrolovať nielen výsledok, ale aj spôsob, akým sa k nemu dopracuje. https://www.mojandroid.sk/necakane-spravanie-ai-agentov-prinutilo-openai-stopnut-trening