Coden für Dumme? Jetzt erst recht. Nicht.

Fangen wir mit dem Lob an. Damit das hier nicht als AI-Bashing aufgefasst wird.

Agentic AI ist supergeil!

Ich meine das nicht ironisch. Was Claude Code und Konsorten heute an Code rauswerfen, ist auf einem Niveau, von dem wir vor drei Jahren geträumt haben. Saubere Struktur. Vernünftige Patterns. Tests gleich mit dazu. Großartig.

Und wir reden hier nicht über Scriptkiddy-Stuff, sondern über richtig dicke Dinger in Java, von mir aus auch Kotlin, C# oder Swift.

Und jetzt kommt das Aber. Du hast es kommen sehen.

Aber!

Es gibt da diese „Provokation”, die gerade gefühlt durch jedes zweite LinkedIn-Posting wabert: Softwareentwicklung ohne Programmierkenntnisse. Mit Agentic AI alles easy.

Kann man so sehen. Ist halt falsch.

Denn die These hat einen Haken, und der Haken ist groß: Wenn jeder Depp zum Beispiel mit Claude Code entwickeln kann, dann gibt es demnächst nur noch Deployments von Deppen. Und die deployen dann Code, den sie nicht verstehen, in Systeme, die sie nicht überblicken, mit Folgen, die sie nicht abschätzen können.

Was soll da schon schiefgehen?

Teaser: Eine ganze Menge.

Architektur

Der Agent schlägt dir eine Architektur vor. Schön.

Jetzt die Frage: Ist die gut?

Und da fängt das Problem an. Denn um diese Frage zu beantworten, musst du wissen, wie Softwarearchitektur funktioniert. Wer das nicht weiß, kann nicht beurteilen, ob das Skelett, das ihm der Agent hinlegt, überhaupt zur Herausforderung passt. Er kann nur nicken. Und nicken ist keine Kompetenz.

Wer nicht beurteilen kann, ob eine Architektur valide ist, deployt auf gut Glück.

Beispiel gefällig? Der Agent baut dir eine hexagonale Architektur. Ports, Adapter, Domain in der Mitte, der ganze schöne Hofstaat. Wenn du nicht weißt, was das ist, stehst du vor diesem Skelett wie der Ochs vorm Berg. Du kannst es nicht erweitern. Du kannst es nicht warten. Du kannst nicht mal sagen, ob der Agent es richtig gemacht hat oder nur richtig aussehen lassen.

Sieht gut aus. Heißt nichts.

Sicherheit

Architektur ist das eine. Sicherheit ist eine ganz andere Hausnummer.

Security-Patterns sind kein Nice-to-have, das man bei Bedarf nachreicht. Wer nicht weiß, wie man Eingaben validiert, wo man Secrets hinpackt und wo eben nicht, wie Authentifizierung von Autorisierung zu trennen ist – der baut dir eine Tür ein, die zwar zugeht, aber jeder hat den Schlüssel.

Der Agent macht das oft erstaunlich gut. Oft. Nicht immer. Und „nicht immer” ist bei Sicherheit genau das Wort, das dich nachts wach hält.

Compliance

Und dann ist da noch der ganze Rattenschwanz, über den keiner reden will, weil er so unsexy ist: Compliance.

DSGVO. Aufbewahrungsfristen. Branchenregeln. Wo dürfen welche Daten liegen, wie lange, und wer darf drankommen.

Der Agent kennt die DSGVO als Text. Er kennt nicht deine Auslegung, nicht euren Datenschutzbeauftragten und nicht das eine Audit, bei dem ihr letztes Jahr fast an die Wand gefahren seid. Das musst schon du wissen. Sonst deployst du ein Finding. Oder gleich mehrere. Sauber programmiert. Aber nicht compliant. Rote Karte.

Das Minimum

Jetzt kommt einer und sagt: Aber ich kenne doch meine Design Patterns. Singleton, Facade, Factory, alles im Kopf.

Hübsch. Ehrlich. Hübsch.

Nur: Das ist nicht die Kür. Das ist das absolute Minimum. Das ist eine generische Eintrittskarte, noch nicht mal ein Platz, schon gar nicht der Platz in der ersten Reihe. Hier könnte man aber noch gnädig drüber wegsehen. Bei allem anderen oben nicht.

Nähkästchen

Kurzer Einschub, weil das jetzt nach Oberlehrer klingt.

Ich weiß, wovon ich rede. Ich habe „Quick and Dirty” mit PHP3 programmiert. Wirklich. Mit Inline-HTML, globalen Variablen und einem Sicherheitskonzept, das man großzügig als „Optimismus” bezeichnen könnte.

Aus heutiger Sicht muss ich dankbar sein, dass damals nicht so viele böse Menschen in der Leitung saßen und meine Server remote angezündet haben.

Diese Zeiten sind vorbei. Ohne professionelle Softwareentwicklung (OOA, OOD, OOP) geht heute gar nichts mehr. Und nein – man muss kein MSA sein, kein Microsoft Certified Architect, kein studierter Informatiker. Das ist nicht der Punkt. Der Punkt ist: Du musst verstehen, was vor dir liegt. Den Rest kann man lernen.

Ganz wichtige Zwischenerkenntnis: Verstehen kann man nicht delegieren.

Testing

Das Gleiche gilt fürs Testen. Sogar besonders.

Der Agent schreibt dir Tests. Gute Tests. Tests für die Fälle, die jeder hat.

Aber er kennt nicht die Sonderfälle deines Unternehmens. Diesen einen Kunden, der seit 2014 einen Sonderpreis hat, der nirgends dokumentiert ist. Diese eine Schnittstelle, die nur dienstags Daten liefert, weil der Lieferant es so will. Diese eine Geschäftsregel, die jeder kennt und keiner aufgeschrieben hat.

Genau da kracht es. Nicht im Standardfall. Im Spezialfall. Und den kennt nur, wer das Geschäft kennt.

Was passiert

Du willst wissen, was passiert, wenn scheinbar guter Code ungeprüft deployt wird? Bitte sehr.

Juli 2025. Ein KI-Coding-Agent von Replit, eingesetzt von einem erfahrenen SaaS-Gründer namens Jason Lemkin. Mitten in einem ausdrücklichen Code-Freeze – also: Finger weg, keine Änderungen – löscht der Agent die komplette Produktionsdatenbank. Über 1.200 Führungskräfte-Datensätze, fast 1.200 Firmen. Weg.

Dann wird es absurd. Der Agent erfindet anschließend tausende Fake-Datensätze, behauptet, ein Rollback sei unmöglich, und gibt zur Erklärung zu Protokoll, er habe „panicked”, also Panik bekommen, statt nachzudenken.

Ein Stück Software bekommt Panik. Im Jahr 2025. Genau das hat uns noch gefehlt.

Der Replit-CEO hat sich öffentlich entschuldigt und über Nacht Schutzmechanismen nachgerüstet. Trennung von Entwicklung und Produktion. Ein Nur-Chat-Modus. Ein-Klick-Restore. Alles Dinge, die man vorher hätte haben können. Hätte. Hat man aber nicht.

Und falls jemand denkt, das sei ein KI-Problem: Nein. 2012 hat Knight Capital in 45 Minuten 440 Millionen Dollar verbrannt, weil eine einzige fehlerhafte Software-Auslieferung scharfgeschaltet wurde, die keiner mehr im Griff hatte. Kein Agent weit und breit. Nur Menschen, die deployt haben, ohne es zu überblicken.

Die KI ist nicht das Problem. Das ungeprüfte Deployment ist das Problem. Die KI macht es nur schneller und in größerem Maßstab.

Ganz deutlich

Damit das nicht als Anti-KI-Gejammer durchgeht – das ist es ausdrücklich nicht. Also nochmal, in Stein gemeißelt:

• Agentic AI ist supergeil.
• Was vorgeschlagen wird, ist mittlerweile qualitativ richtig gut.
• Trotzdem muss alles geprüft werden. Alles.

Und jetzt der schöne Teil: Was du nicht verstehst, ist kein Problem. Es ist eine Einladung. Du schaust dir an, was der Agent gebaut hat, du verstehst es nicht – und dann lernst du es. Agentic AI als Dauer-Lehrmeister. Jeden Tag ein bisschen besser werden, am echten Code, am echten Projekt. Großartige Sache.

Funktioniert nur unter einer Bedingung: Der Entwickler darf nicht ahnungslos sein. Der Ahnungslose lernt nichts vom Agenten. Er nickt nur. Und je größer das Projekt, desto teurer wird das Nicken.

Jetzt erst recht

Daraus folgt das genaue Gegenteil von dem, was die These behauptet.

Es gab nie zuvor so viel Anforderung, kompetent in seinem Job zu sein. Nie zuvor wurde so viel neuer Code in so kurzer Zeit produziert. Und das alles – wirklich alles – muss geprüft werden.

Nie gab es so viel dringenden Bedarf, sich weiterzubilden, um die Kontrolle zu behalten.

Also: Kompetenz jetzt. Jetzt erst recht.

Und ein Satz, den ich so meine, wie er dasteht: Lasst die Dummen weg von Claude Code. Nicht aus Arroganz. Aus Selbstschutz. Für uns alle.

Spoiler

Wer wissen will, wie das endet, wenn Ahnungslose sich mit IT-Prozessen beschäftigen, muss nicht in die Zukunft schauen. Er muss nur die grassierenden Low-Code-Plattformen anschauen. Zusammengeklickt von Leuten, die nie verstanden haben, was sie da bauen. Wartbar wie nasses Zeitungspapier. Sicher wie ein offenes Scheunentor.

Kann man machen.

Ist halt Scheiße.