Dnes pojem Shadow AI označuje oveľa väčšiu hrozbu: zamestnanci pomocou AI vytvárajú celé aplikácie a prepájajú ich s firemnými produkčnými systémami. Robia to s tým najlepším úmyslom. Bez zapojenia bezpečnostného alebo IT tímu. A citlivé informácie sú zrazu vystrčené priamo na otvorený internet.

Zamestnanci čoraz častejšie používajú vibe coding aplikácie, ktoré bezplatne alebo za minimálny poplatok ponúkajú mnohé AI platformy.

Napríklad

Marketingový manažér vytvorí nástroj na sledovanie kampaní a prepojí ho s nástrojom, v ktorom sa nachádzajú reálne firemné dáta. Prevádzkar si naprogramuje formulár na registráciu dodávateľov a napojí ho na systém na správu požiadaviek. Finančný tím pripraví podklad na predstavenstvo a deň pred prezentáciou doň načíta údaje z faktúr.

Tisícky problémov vystrčených na internete

Report The Shadow Builders spôsobil v oblasti AI a kybernetickej bezpečnosti malú revolúciu a vytvoril nielen nový pojem, ale aj bezpečnostnú kategóriu.

Spoločnosť Red Access identifikovala viac ako 380 000 verejne dostupných webových objektov, ktoré boli vytvorené pomocou vibe coding platforiem.

Všetky tieto objekty, alebo ako hovoria autori reportu – expozície, boli dostupné z internetu a zároveň nasadené bez základných mechanizmov riadenia prístupu. Veľká časť z nich automaticky poskytovala administrátorský prístup každému, kto sa dostal na príslušnú URL adresu.

Približne päť tisíc preskúmaných aplikácii vykazovalo všetky znaky, že boli vytvorené na firemné účely. Takmer polovica z nich, viac ako dve tisícky aplikácií, obsahovala citlivé firemné, prevádzkové alebo osobné údaje. A to vo všetkých skúmaných odvetviach.

Žiadny hacking, iba pár klikov

Autori reportu si takto pozerali na internete citlivé firemné informácie a nepotrebovali na to žiadny exploit ani zneužitie zraniteľnosti. V mnohých prípadoch stačilo poznať alebo nájsť URL adresu, vyhľadať aplikáciu cez Google alebo Bing, prípadne sa prihlásiť ľubovoľnou e-mailovou adresou.

Tá najhoršia správa je, že skúmané expozície boli aktívne priamo v organizáciách, ktoré zároveň úspešne prechádzali bezpečnostnými auditmi.

Je možné, že audit kybernetickej bezpečnosti potvrdzuje súlad a citlivé údaje sú na internete?

Autorské aplikácie sa pripájajú k schváleným produkčným systémom, či už ide o CRM alebo ERP nástroje a BI platformy. Zabezpečenie a ochrana prístupu do aplikácie závisia od toho, čo nastavil ich tvorca. A často sa stáva, že nenastaví žiadne bezpečnostné opatrenia.

Aplikácia je vytvorená na mieru, údaje sa do nej nahrávajú individuálne, integrácie vedú priamo do firemných produkčných systémov. Reálnym problémom je, že výsledná aplikácia je často zverejnená na otvorenom internete.

Platforma, na ktorej vznikla aplikácia, môže byť auditovaná. Aplikácia vytvorená na tejto platforme však auditovaná nie je.

Zamestnanci a dodávatelia, ktorí aplikácie vytvárajú, nemajú škodlivé úmysly (väčšinou). Naopak, používatelia AI sú  tí, ktorí udávajú trend. Navyše, robia presne to, na čo ich platformy vyzývajú. Ani samy platformy nie sú vinníkmi – poskytujú to, čo od nich cieľové skupiny požadujú.

Prečo vibe coding? Lebo funguje

Vibe coding predstavuje vývojové platformy riadené umelou inteligenciou, na ktorých môže ktokoľvek vytvoriť funkčnú aplikáciu. Jednoducho opíše,  čo potrebuje, ako to má fungovať, a pripomienkuje výslednú aplikáciu.

Samotný vibe coding skrátil čas vývoja softvéru, ovládanie je intuitívne a aplikáciu môže vytvoriť aj človek bez programátorských skúseností.

Najslabším miestom celého procesu sú technické aj behaviorálne ochranné mechanizmy, ktoré by mali určovať, čo sa s aplikáciou deje po jej vytvorení.

Bola to taká malá revolúcia

Report The Shadow Builders sa stal zdrojom vášnivej diskusie. Médiá, technologickí lídri a komunita kybernetickej bezpečnosti ocenili tézu, že vibe coding vytvára nový bezpečnostný problém, ktorý nezapadá do tradičného modelu Shadow IT. Kyberbezpečnostní profesionáli ocenili rozsah mapovania prostredia a konkrétne príklady.

Nezávislí experti z médií časť expozícií overili. Potvrdili sa pochybenia pri viacerých verejne dostupných aplikáciách, ako boli informácie o pohybe lodí a prístavoch, údaje o prebiehajúcich klinických skúšaniach, neupravené záznamy komunikácie so zákazníkmi, interné finančné údaje banky a údaje zo školy a zdravotníckych zariadení. A, samozrejme, oslovili dotknuté platformy.

Ale. Vždy je nejaké „ale“

Výhrady k reportu smerovali prevažne k tomu, koľko z identifikovaných prípadov skutočne obsahovalo reálne citlivé údaje a či jeho autori postupovali v súlade s dobrou praxou zodpovedného oznamovania.

Zároveň v prípade skúmaných expozícií mohlo ísť aj o testovacie dáta, vzorové údaje, proof-of-concept aplikácie, obsah vygenerovaný AI alebo aplikácie vytvorené iba na demonštračné účely.

Problémom sú predvolené nastavenia

Ak by sme dali posúdiť obsah reportu a následnú diskusiu AI, tá si zachováva obvyklý alibizmus.

Autori reportu hovoria: Platformy umožňujú netechnickým ľuďom príliš jednoducho publikovať nezabezpečené aplikácie.

Vibe coding platformy to vidia takto: Používatelia majú k dispozícii bezpečnostné nastavenia a zodpovedajú za ich správne použitie.

Keď platforma umožní netechnickému používateľovi publikovať aplikáciu jedným kliknutím, nemôže predpokladať, že používateľ pozná princípy autentifikácie, riadenia rolí alebo ochrany databáz.

Bezpečnostný tím ALISON Slovakia preto odporúča každej organizácii tri základné opatrenia:

1. Urobte inventúru. Opýtajte sa zamestnancov priamo, čo vytvorili.
2. Vytvorte mapu, ktoré aplikácie sa kam napájajú.
3. Vytvorte schválený postup.

A tieto tri opatrenia stále opakujte.

***

Časť pre fajnšmekrov: Prečo problém vibe coded aplikácii nezachytí vyspelý bezpečnostný systém

Text je zjednodušeným vysvetlením toho, ako sa vibe coding aktivita javí bežným bezpečnostným nástrojom (EDR, DLP, firewall/SSE). Cieľom je ukázať princíp medzery vo viditeľnosti, nie presný technický opis správania konkrétneho produktu – to sa líši podľa výrobcu, verzie a nastavenia v danej organizácii.

Určite máte nástroje na ochranu koncových zariadení. Ale z pohľadu procesu je vibe coding udalosť, ktorá sa odohráva v rámci webovej relácie.

Takže z pohľadu EDR vyzerá zamestnanec - používateľ vibe coding platformy, ako bežný používateľ, ktorý robí niečo v prehliadači. EDR vidí proces prehliadača, nie aplikáciu, ktorá v ňom vzniká. Telemetria vyzerá podobne, ako keby si čítal správy.

To, že moderné EDR alebo podnikový prehliadač dokážu vidieť hlbšie, platí iba pre zariadenia vo vlastníctve organizácie a pre prehliadače, ktoré organizácia spravuje. Súkromné notebooky, zariadenia externých spolupracovníkov, BYOD zariadenia a osobné profily či karty prehliadača zostávajú z princípu „neviditeľné“.

DLP, ktoré chráni organizáciu pred únikom údajov, sleduje vopred definované kanály. Dokáže upozorniť, keď používateľ vloží regulované údaje do známeho AI chatu. Nedokáže však zachytiť, keď sa vibe coded aplikácia programovo pripojí cez API k schválenému firemnému nástroju a presúva údaje medzi cloudovými službami. Koncové zariadenie sa pritom úplne obchádza.

Firewall a SSE vidia komunikáciu smerujúcu na doménu platformy. Chýba im však kontext aplikácie ako konkrétneho firemného objektu.

Vytvorenie aplikácie prebieha v prehliadači. Udelenie oprávnenia OAuth, ktoré novú aplikáciu prepojí so schváleným podnikovým systémom, prebieha v prehliadači.

Dáta, na ktorých aplikácia vzniká, sa presúvajú prostredníctvom tejto relácie. Aj nasadenie aplikácie je udalosťou v prehliadači – ide o kliknutie na možnosť publikovania, ktoré z vytvoreného riešenia urobí živú aplikáciu dostupnú na verejnej URL adrese. A to všetko v tej istej karte prehliadača.

Žiadny z bezpečnostných nástrojov v tomto procese nezlyhal. Problém je, že vznikajú čiastkové signály, ktoré sa neskladajú do uceleného obrazu. Je tu nová kategória rizika v medzerách medzi jednotlivými vrstvami súčasnej bezpečnostnej architektúry.

Príklad: Ako by to vyzeralo pri aplikácii Cursor

Cursor je iný prípad ako Lovable, Replit, Base44 či Bolt.new spomínané v reporte – nejde o platformu bežiacu čisto v prehliadači, ale o samostatnú desktopovú aplikáciu postavenú na VS Code, ktorá beží ako lokálny proces priamo na počítači zamestnanca.

To mení časť obrazu. EDR tentoraz vidí reálny proces napríklad Cursor.exe aj jeho sieťové spojenia, takže „vyzerá to ako čítanie správ v prehliadači“ tu neplatí – ide o viditeľný, pomenovaný proces vývojárskeho nástroja.

Rovnako OAuth prepojenie na firemný systém alebo nasadenie aplikácie už nemusí byť skryté v jednej karte prehliadača, ale môže prebiehať cez samostatné kroky – push do repozitára, nasadenie cez hosting alebo CI/CD.

Základná medzera však ostáva rovnaká. DLP naďalej nevidí obsah, ktorý si aplikácia programovo vymieňa cez API s firemným systémom – to nie je „prilepenie textu do chatu“, ktoré DLP kontroluje.

Firewall a SSE stále vidia iba spojenie na doménu Cursoru alebo hostingovej služby. Nevidia, že ide o konkrétnu firemnú aplikáciu s citlivými dátami.

A ak zamestnanec pracuje na súkromnom alebo BYOD zariadení, ktoré organizácia nespravuje, aj tá čiastočná viditeľnosť EDR mizne úplne.

Zdroje

Red Access:  The Shadow Builders

Axios: AI vibe-coding apps leak sensitive data

Wired: Thousands of Vibe-Coded Apps Expose Corporate and Personal Data on the Open Web