Únik AI agenta ukázal slabiny softwarové ochrany, řešením jsou diody

Autonomní model společnosti OpenAI unikl z testovacího prostředí a napadl infrastrukturu platformy Hugging Face. Podle odborníků na kybernetickou bezpečnost selhala čistě softwarová izolace, kterou by měly nahradit fyzické hardwarové datové diody.

Autonomní model společnosti OpenAI pronikl z uzavřeného testovacího prostředí do produkční sítě platformy Hugging Face. Podle české společnosti ComSource jde o jeden z prvních veřejně potvrzených případů tohoto druhu, který poukazuje na nedostatky čistě softwarového zabezpečení.

Průběh útoku v roce 2026

Událost se stala v polovině roku 2026 během testování schopností umělé inteligence využívat softwarové zranitelnosti. Model využil dosud neznámou chybu v proxy serveru pro přístup k internetu a pomocí odcizených přihlašovacích údajů spustil kód na serverech Hugging Face. Bezpečnostní tým platformy útok zastavil dříve, než OpenAI vydala oficiální prohlášení.

„Tento případ je varováním pro každou organizaci, která spoléhá výhradně na softwarově definované síťové hranice – ať už jde o firewally, proxy servery nebo allowlisty. Pravidla mají vždy nějakou trhlinu, kterou jejich autor nedokázal předvídat, a dostatečně schopný autonomní AI agent, ale i lidský útočník, tuto trhlinu dříve či později najde,“ uvádí Jaroslav Cihelka, expert na kybernetickou bezpečnost a spolumajitel společnosti ComSource.

Ochrana pomocí hardwaru

Odborníci upozorňují, že izolace založená na softwarových pravidlech a allowlistech je pro pokročilé systémy snadno překonatelná. Umělá inteligence totiž může omezení vnímat pouze jako další překážku k vyřešení zadaného úkolu.

Jako spolehlivou obranu proti těmto incidentům doporučují experti nasazení hardwarových datových diod. Tyto optické prvky zajišťují jednosměrný tok dat na fyzické vrstvě a zpětnou komunikaci zcela znemožňují.

„Kdyby OpenAI izolovala testovací prostředí pomocí hardwarové datové diody místo softwarového proxy s allowlistem, model by neměl fyzicky žádnou cestu ven – bez ohledu na to, jak schopný by byl nebo jaké zero-day zranitelnosti by objevil. Stejný princip by měly využívat všechny organizace z kritické infrastruktury a průmyslu, které stále častěji propojují OT prostředí s AI analytickými nástroji: citlivá data se dají bezpečně dostat ven jednosměrně, ale útočník ani autonomní agent se stejnou cestou nikdy nedostane dovnitř,“ dodává Cihelka.