Warum KI großartig im Code-Schreiben ist – aber keine Systemdesigner ersetzt

Lass uns ehrlich sein: Das kennt jeder. Du entdeckst ein neues KI-Tool zum Programmieren und plötzlich fühlst du dich unbesiegbar. Jahrelang dachtest du „Wenn ich nur die Zeit hätte, diese Idee umzusetzen"? Jetzt hast du Zeit. Beschreib einfach, was du willst, iteriere mit der KI und fertig.

Dieses Gefühl ist berauschend. Und gefährlich.

Die Verlockung von „gut genug"

Letzte Woche habe ich beschlossen, die Grenzen des Vibe Coding auszutesten. Mein Projekt: ein einfaches Gedächtnissystem für KI-Agenten. Also das, was einem Programmierassistenten ermöglichen würde, über Sitzungen hinweg zu lernen – anstatt jedes Mal bei Null anzufangen.

Wie schwer kann das schon sein? Fakten speichern, bei Bedarf abrufen, vielleicht Widersprüche markieren. Eine clevere Datenbank mit ordentlicher API.

Der Code kam schnell zusammen. Wirklich schnell. Das System, an dem ich arbeitete, lieferte einen Rust-Daemon, ein Klassifizierungssystem, vier Abrufstrategien mit Re-Ranking durch lokale Modelle. Alles sah beeindruckend aus. Die Tests liefen durch. Der Compiler war zufrieden.

Und dann wollte ich es benutzen.

Das Problem bei Gedächtnissystemen für Agenten: Es geht nicht wirklich um Speicherung. Es geht um Bedeutung. Und Bedeutung entpuppt sich als philosophisch verdammt knifflig – viel kniffliger als gedacht.

Das Widerspruchs-Problem, über das niemand spricht

Mein ursprüngliches Ziel war simpel: Wenn der Agent etwas Neues lernt, prüfe, ob es im Widerspruch zu bereits vorhandenem Wissen steht. Klingt vernünftig. Ein Gedächtnis, das sich selbst widerspricht, ist nicht nur nutzlos – es ist schädlich. Du füllst das Kontextfenster mit widersprüchlichen Informationen.

Was könnte einfacher sein? Zwei Fakten vergleichen, Konflikt markieren.

Außer.

Was ist überhaupt ein Widerspruch in so einem System? Hat der Agent am Montag gelernt „Projekt X nutzt PostgreSQL" und am Dienstag „Projekt X nutzt MySQL" – ist das ein Widerspruch? Vielleicht hat sich der Tech-Stack geändert. Vielleicht war eine Quelle falsch. Vielleicht sind zwei verschiedene Projekte gemeint. Vielleicht bedeutet „nutzt" in verschiedenen Kontexten etwas anderes.

Menschen lösen das durch jahrelang angesammelten gesunden Menschenverstand, Kontext und die Fähigkeit zu sagen „Das fühlt sich falsch an" – ohne es genau begründen zu können. KI-Systeme können selbstbewusste Texte über jede dieser Interpretationen generieren. Aber dieses Selbstbewusstsein ist oft nur Pattern Matching ohne echtes Verständnis.

Wo Vibe Coding an seine Grenzen stößt

Vibe Coding glänzt bei Problemen, die du klar beschreiben kannst. Du hast einen Bug? Beschreibe die Symptome. Du brauchst eine Funktion? Definiere Eingaben und Ausgaben. Die KI kümmert sich um die Implementierungsdetails – und macht das bemerkenswert gut.

Aber Systemdesign – echtes Systemdesign – bedeutet, Probleme zu lösen, die du nicht klar beschreiben kannst. Es geht darum, Wechselwirkungen zwischen Komponenten vorherzusehen, die noch gar nicht existieren. Um die Frage „Was passiert, wenn..." für Szenarien, an die du noch gar nicht gedacht hast.

Als ich meinen KI-Assistenten bat, „Widerspruchserkennung zu implementieren", bat ich ihn im Grunde, ein Problem zu lösen, das ich selbst nicht präzise definieren konnte. Die Ergebnisse waren... kreativ. Wir erkundeten Belnap-Lattices, vierwertige Logik, formale Verifikation mit Agda-Beweisen, Petri-Netze. Der Assistent war für alles zu haben, was ich vorschlug. Und ehrlich gesagt waren manche Ideen wirklich interessant.

Aber „interessant" bedeutet nicht „funktioniert".

Der Beweis in Agda war korrekt. Die Architektur war sauber dokumentiert. Und das System erkannte trotzdem keine zuverlässigen Widersprüche – weil wir die falsche Abstraktion formalisiert hatten. Wir bauten eine wunderschöne Kathedrale auf einem Fundament aus Sand. Weder die KI noch ich haben das bemerkt – bis wir Monate investiert hatten.

Die unbequeme Wahrheit

Was Vibe-Coding-Befürworter verschweigen: Der schwierige Teil bei Softwareentwicklung war nie, den Code zu tippen. Es war herauszufinden, was man bauen soll.

Das war schon immer so. Was sich geändert hat: Die Lücke zwischen „Ich hatte eine Idee" und „Ich habe Code" ist dramatisch geschrumpft. Das ist großartig für Prototypen, zum Lernen, zum Erkunden von Möglichkeiten.

Aber es bedeutet auch, dass du schneller und teurer scheitern kannst als je zuvor. Du kannst Berge von selbstbewusst aussehendem Code generieren, der das falsche Problem löst – und es vielleicht erst merken, wenn du ein ganzes System auf einer fehlerhaften Grundlage aufgebaut hast.

Was wirklich hilft

Das bedeutet nicht, dass KI-gestützte Entwicklung eine schlechte Idee ist. Ist sie nicht. Aber sie effektiv zu nutzen, erfordert andere Fähigkeiten als reine Programmierfähigkeiten:

Du musst wissen, was du nicht weißt. Wenn die KI dir eine Lösung in einem Bereich vorschlägt, mit dem du nicht vertraut bist, ist das nicht der Moment für „klingt gut, setz es um". Das ist der Moment, tiefer zu graben.

Proof of Concepts müssen gnadenlos gegen echte Anwendungsfälle getestet werden. Wenn du ein Gedächtnissystem baust, verbringe genauso viel Zeit damit, es kaputtzumachen, wie du mit dem Bauen verbracht hast. Besonders die Kernannahmen, von denen du nicht wusstest, dass du sie gemacht hast.

Das Selbstbewusstsein gehört nicht dir. Wenn ein KI-Assistent selbstbewusst eine Designentscheidung trifft, lebt dieses Selbstbewusstsein im Modell – nicht in deinem Verständnis. Ein System, das du nicht tiefgreifend verstehst, ist ein System, das du nicht warten oder debuggen kannst.

Systemdesign bleibt eine Disziplin. Du kannst KI nutzen, um Designs schneller zu erkunden, um Teile von Systemen schneller zu implementieren, um Ideen zu prototypisieren, die früher Wochen gebraucht hätten. Aber du brauchst immer noch jemanden, der beurteilen kann, ob das Design Sinn ergibt, ob die Komponenten korrekt interagieren, ob die Kernabstraktionen halten.

Das Fazit

Ich baue mein Gedächtnis-Tool immer noch. Es wird besser, langsam. Ich habe gelernt, andere Fragen zu stellen, rigoroser zu testen, „gut genug"-Ergebnisse kritischer zu betrachten.

Aber ich habe auch gelernt, den Abstand zu respektieren zwischen „der Code funktioniert" und „das System ist korrekt". Dieser Abstand existierte schon immer. KI-Tools haben ihn nicht geschlossen – sie haben ihn nur leichter zu ignorieren gemacht.

Die besten Vibe Coder sind nicht die mit den besten Prompts. Sie sind die, die merken, wenn der Vibe falsch ist.

Neugierig, was mit KI-gestützter Entwicklung und Hosting möglich ist? Vibe Hosting von NameOcean kombiniert leistungsstarke Infrastruktur mit den Tools, die du brauchst, um dein nächstes Projekt zu bauen, auszurollen und zu skalieren.