Dlaczego kod generowany przez AI wymaga ludzkiego nadzoru

Obietnica szybszego tworzenia stron przy pomocy AI brzmi kusząco. Wystarczy podać prompt, a model sam napisze powtarzalny kod i zastosuje sprawdzone wzorce. Google spróbowało wesprzeć ten proces, tworząc Modern Web Guidance – zestaw wytycznych dla agentów kodujących.

Efekt? Mniej imponujący, niż zakładano.

Dostępność nie wybacza zaniedbań

Jeśli aplikacja ma być gotowa do użycia przez realnych użytkowników, dostępność musi być w niej od początku. Nie da się jej dodać później jako „poprawkę”.

Google pokazało przykład: „stwórz komponent statystyk w formie accordion z animacją”. Wyglądało prosto. Wygenerowany kod jednak nie działał poprawnie w Firefoxie i nie spełniał wymogów WCAG AA. Pomimo obietnic „Progressive Enhancement”, model zignorował własne wytyczne.

To nie przypadek. To cecha działania dużych modeli językowych.

Modele nie działają deterministycznie

W dokumentacji MWG pojawiła się ważna uwaga: nawet przy starannie przygotowanych instrukcjach nie ma pewności, że model je zastosuje. LLM-y nie egzekwują reguł – tylko je sugerują. W przeciwieństwie do linterów czy systemów typów, nie gwarantują zgodności.

Brakujące wzorce pogarszają sprawę

Nie wszystkie komponenty otrzymały dedykowane wytyczne. Przykładowo, powiadomienia toast – mimo wcześniejszych problemów Google z ich dostępnością – nie doczekały się osobnego opisu. Model musiał polegać na ogólnych wskazówkach, co zwiększa ryzyko błędów.

Im bardziej rozproszone są reguły, tym trudniej AI je poprawnie połączyć.

Co to oznacza dla Twoich projektów

Jeśli używasz AI do generowania kodu produkcyjnego, musisz założyć, że:

• Model to asystent, nie tester. Każda linia wymaga przeglądu.
• Dostępność (WCAG AA) musi być sprawdzona ręcznie.
• Testy w różnych przeglądarkach nie mogą opierać się wyłącznie na deklaracjach modelu.
• Bezpieczeństwo i wydajność również wymagają weryfikacji.

Jak pracować z AI efektywnie

Nie oznacza to rezygnacji z AI. Warto jednak:

1. Traktować wygenerowany kod jak pierwszą wersję, a nie gotowy produkt.
2. Tworzyć pętle informacji zwrotnej – poprawki powinny wracać do modelu.
3. Wymagać jasnych informacji o ograniczeniach od twórców narzędzi.
4. Włączyć automatyczne testy dostępności (axe, WAVE, Lighthouse) do pipeline'u CI/CD.

W NameOcean uważamy, że AI świetnie sprawdza się przy szkieletach i redukcji powtarzalnego kodu. Nie zastąpi jednak człowieka przy kwestiach standardów i doświadczenia użytkownika.

Umiejętność, która zyskuje na znaczeniu, to nie pisanie kodu, ale jego przeglądanie i branie odpowiedzialności za to, co trafia do użytkowników. Na razie nadal wymaga to człowieka.