Když AI píše kód bez bezpečnosti: Katastrofa v zdravotnictví

AI nástroje na generování kódu slibují zázrak. Každý si může vytvořit appku. Stačí popsat nápad a hotovo. Žádné složité znalosti.

Co se stane, když to zkusí někdo s citlivými daty pacientů?

Počátek problému: Rychlost místo odbornosti

Zdravotník se podívá na video o AI vývoji. Vidí, jak snadno nahradit drahý systém vlastním. V poledne to má hotové.

Spustí AI agent, vygeneruje celou appku pro správu pacientů. Nahraje stará data, nasadí na web. Navíc přidá nahrávání hovorů a transkripci přes externí API.

Bez papíru. Moderně. Automaticky.

A zároveň: bomba s časovačem.

Odhalení: 30 minut do totálního průniku

Bezpečnostní expert Tobias Brunner se podíval blíž. Za půl hodiny měl plný přístup ke všem záznamům. Čtení i zápis.

Žádné šifrování. Žádné kontroly přístupu. Nic.

Celá appka? Jeden HTML soubor s JavaScriptem, CSS a logikou uvnitř. Databáze bez autentizace. Bez row-level security. Bez řízení oprávnění. Kontroly byly v prohlížeči – curl příkazem to obešel kdokoli.

Chceš data? Zavolej API. Chceš měnit záznamy? Stejně. Jen štěstí, že to nikdo nehledal dřív.

Horší než špatný design: Porušení zákonů

Není to jen o kódu. Je to potenciálně trestné.

Nahrávky šly rovnou do amerických AI služeb. Bez smlouvy o zpracování dat. Uložené na US serverech bez souladu. Ve Švýcarsku to porušuje pravidla o lékařském tajemství.

Tvůrce neměl tušení. Když mu to řekli, odpověděl AI vygenerovanou zprávou. Děkoval a přidal základní autentizaci.

To nebyl fix. To byl náplast na otevřenou ránu.

Problém s "vibe kódováním"

Příběh ukazuje klíčový rozdíl. Mezi AI asistencí a lenošením s AI.

AI agenti jsou super. Zrychlí práci, napíšou šablony, zvládnou rutinu. Fungují nejlépe u těch, kdo zná architekturu, bezpečnost a pravidla oboru.

AI skvěle píše funkční kód. Nezajímá ho, jestli by ten kód vůbec měl existovat. Nebo jaké GDPR platí.

Co je "vibe kódování" ve skutečnosti

Popíšeš nápad slovy, AI to udělá, nečteš to, nasadíš. Hotovo.

Pro hobby? Možná OK. Pro finance, zdraví, osobní data? Šílenství.

AI není problém. Problém je, když ho bereš za náhradu za mozek.

Jak dělat to správně

Používáš AI? Super. Ale takto:

Kód si přečti. Chápej architekturu, tok dat, bezpečnost. Nic nesmí být černá skříňka.

Znávej obor. Zdraví? HIPAA, GDPR. Platby? PCI DSS. AI ti to nenavýškuje.

Rozděl logiku. Autentizace na serveru, ne v JS. Data zašifruj. API prověř a smluvně zařiď.

Vycházej z osvědčeného. Standardní frameworky, ne AI výtvory od nuly. Nuda funguje.

Bezpečnost na prvním místě. Není to příslušenství. Je to základ. Nevíš to? Nestavěj.

Budoucnost, kterou chceme

AI nástroje mění hru. Zrychlují profíky. Demokratizují tvorbu.

Ale zodpovědnost nedemokratizují.

AI jako turbo pro znalce? Výborné. AI místo znalostí? Cesta k únikům dat a pokutám.

Správná budoucnost patří těm, kdo AI používá chytře. S otevřenýma očima.

Používáš AI ve vývoji? Tvůj hosting musí stíhat tempo i bezpečnost. NameOcean Vibe Hosting a cloud platforma jsou pro týmy, co chtějí rychlost bez rizik.