Ahmad Shadid von O.XYZ über die Versprechen und Fallstricke KI-gestützter Codierungstools: Innovation mit Sicherheit und Komplexität in Einklang brin

Kürzlich sagte Sebastian Siemiatkowski, CEO von Klarna, einem globalen Unternehmen für Zahlungslösungen, das „Jetzt kaufen, später bezahlen“-Dienste anbietet, von Locals geführtes wie KI-Tools wie Cursor die Prototypenentwicklung revolutioniert haben. Er hob den wachsenden Trend des Vibe-Codings hervor, bei dem KI die Codegenerierung durch natürliche Spracheingabe unterstützt, Arbeitsabläufe optimiert und die Abhängigkeit von technischen Teams reduziert. Dieser Ansatz entwickelt sich zu einer Schlüsselkompetenz für Entwickler, da große Unternehmen zunehmend nach Kenntnissen in KI-gestützten Coding-Tools suchen.

In einem Gespräch mit Mpost, Ahmad Shadid , Vorstandsvorsitzende des O.XYZ – ein agentenbasiertes Full-Stack-Ökosystem zur KI-Entwicklung – teilte seine Erkenntnisse und sein Fachwissen zur Entwicklung dieses Trends.

Der Aufstieg des KI-gesteuerten Programmierens: Nicht-technische Führungskräfte stärken, Risiken mindern und die Zukunft der Softwareentwicklung gestalten

Ahmad Shadid wies darauf hin, dass auch nicht-technische Führungskräfte dank KI-gestützter Tools nun die Möglichkeit haben, Ideen innerhalb weniger Stunden in klickbare Demos umzusetzen. Dies beschleunigt die Produktfindung und verringert die Lücke zwischen Geschäftsabsicht und technischer Umsetzung. Zu den Risiken gehört jedoch ein falsches Gefühl der Machbarkeit, da Prototypen grundlegende Probleme wie Machbarkeit, Sicherheit und technische Schulden verbergen können. Darüber hinaus könnten sich Führungskräfte zu sehr auf die Ergebnisse des Tools konzentrieren und dabei übersehen, was aus strategischer oder technischer Sicht realisierbar ist.

Er erläuterte außerdem die häufigsten Fallstricke, mit denen Teams bei der Verwendung von KI-generiertem Code konfrontiert werden, und gab Einblicke, wie diese Risiken gemindert werden können.

„Unsichere Eingabeverarbeitung und schwache Authentifizierungsmuster gehören zu den größten Problemen. Diese Sicherheitsbedenken können durch die Durchsetzung von SAST/DAST in CI, Sicherheits-Linter, Abhängigkeits-Scanning und Bedrohungsmodellierung für KI-Funktionen gemildert werden. Datenlecks in Eingabeaufforderungen können durch die Weiterleitung über zugelassene Anbieter, die Geheimnisse redigieren und schützen, und die Verwendung datenschutzfreundlicher Eingabeaufforderungs-Gateways reduziert werden“, sagte Ahmad Shadid gegenüber Mpost.

„Es geht nicht nur um den KI-generierten Code. Wenn jemand kein Ingenieur oder Programmierer ist, fehlt ihm oft ein umfassendes Verständnis davon, wie Software aufgebaut ist und wie die Systemarchitektur aussieht. Die KI ist nur so gut wie die Eingabeaufforderung, oder? Daher sind sie nicht in der Lage, die KI richtig zu bedienen, was zu Sicherheitsbedrohungen und Problemen wie APIs im Frontend und öffentlichen Datenbanken führen kann“, fuhr er fort.

Der Experte fügte hinzu, dass sich viele Ingenieure darüber beschweren, dass die KI zu halluzinieren beginnt, wenn der Kontext zu groß oder die Komplexität zu groß wird. Sie beginnt, unnötige oder nicht explizit angeforderte Codeänderungen vorzunehmen. KI generiert außerdem Tausende von Codezeilen. Stellen Sie sich vor, Sie versuchen, mit zufälligen Codeänderungen über Tausende von Zeilen hinweg Schritt zu halten.

„Letztendlich sind regelmäßige, zeitlich begrenzte Überprüfungen ohne KI unerlässlich, um die Grundlagen aktuell zu halten und dem Verlust von Fähigkeiten entgegenzuwirken“, sagte er.

Auf die Frage, ob KI-gestütztes Programmieren die Wertschätzung und Einstellung von Softwareentwicklern branchenübergreifend verändern könnte, da „Vibe Coding“ mittlerweile sogar in Stellenanzeigen zu einer gefragten Fähigkeit geworden sei, sagte Ahmad Shadid: „Je weniger reines Tippen, desto mehr Systemdesign, Code-Review, Debugging, Sicherheit und Daten-/KI-Orchestrierung machen ein Produkt sinnvoll. Wir beobachten außerdem einen Wandel von ‚X von Grund auf implementieren‘ hin zu ‚KI-produziertem Code kritisieren, härten und erweitern‘ sowie Architektur- und Vorfallübungen. Die zunehmende Zahl von ‚KI-Paarprogrammier-Leitern‘, ‚Code-Verwaltern‘ und Plattformentwicklern, die Sicherheitsvorkehrungen für KI-generierte Software treffen, zeigt die zunehmende Akzeptanz von KI-gestütztem Programmieren.“

„Anfänger überspringen oft die Grundlagen und stürzen sich direkt in die Entwicklung, ohne zu wissen, was sie erreichen wollen. Erfahrene Ingenieure hingegen gewinnen an Einfluss und haben mehr Zeit für Architektur, Zuverlässigkeit und passende Produktergebnisse. Klare Lernpfade, eine „Lesen vor dem Schreiben“-Kultur und regelmäßige Übungen im manuellen Modus können dazu beitragen, einen effizienten und ethischen Einsatz von KI beim Schreiben von Code sicherzustellen“, bemerkte er.

Vibe-Codierungstools sind nützlich, aber zu einfach, um traditionelle Entwicklungsabläufe zu ersetzen

Eine der Bedenken besteht darin, dass Vibe-Coding-Tools traditionelle Codierungs-Workflows irgendwann ersetzen könnten. Der Experte merkte jedoch an, dass Vibe-Coding-Tools einfach zu einfach seien, um vollständige Codierungs-Workflows zu ersetzen.

„Wird es von nun an Teil der Programmier-Workflows sein? Sicher, Produktteams profitieren davon, schnell ein Frontend zu erstellen und verschiedene UX-Designs zu testen. Freiberufliche Entwickler und Hobbyentwickler können zwar schnell etwas zusammenstellen, aber es kann den gesamten Workflow nicht ersetzen. Tatsächlich steht die Entwicklung derzeit vor einigen Herausforderungen, insbesondere da KI immer leistungsfähiger wird“, sagte er gegenüber Mpost.

„Wir kommen einfach nicht hinterher, die Tools kommen nicht hinterher, und wir stehen vor einer Tool-Fragmentierungskrise, bei der Entwickler mittlerweile vier oder fünf Tools für ihren Workflow benötigen. Bei jedem Wechsel geht der Kontext verloren, man kommt einfach nicht hinterher, und die KI kommt nicht hinterher; man kann nicht alle Änderungen in einem Tool und im anderen umsetzen usw.“, so Ahmad Shadid weiter.

Kurz gesagt: Die aktuellen Vibe-Coding-Tools und -Plattformen haben noch einen langen Weg vor sich, bevor sie herkömmliche Coding-Workflows ersetzen können. Diese Tools sind noch unvollständig.

Ahmad Shadid diskutiert die Zukunft der KI in der Softwareentwicklung: Vorteile, Risiken und die Notwendigkeit sicherer, skalierbarer Lösungen

Ahmad Shadid betonte, dass aktuelle Entwicklungstools und -umgebungen für die sichere Integration von KI-gestütztem Code vorbereitet seien: „IDE-Integrationen, starke Code-Vervollständigung, anständige Refactorings und Repo-fähige Assistenten spielen alle eine wichtige Rolle bei der Erstellung von KI-generiertem Code“, sagte er zu Mpost„Es gibt jedoch Lücken auf Unternehmensebene. Eine einheitliche Überprüfbarkeit von KI-Vorschlägen, eine robuste Richtliniendurchsetzung mit Kostenkontrolle und nahtlose On-Premise-/Privatmodelloptionen könnten möglicherweise große Lücken auf Unternehmensebene schaffen“, fügte der Experte hinzu. 

Wenn immer mehr Führungskräfte KI-Tools für schnelles Prototyping nutzen, könnte dies dazu beitragen, Innovationen in Unternehmen zu demokratisieren. Allerdings birgt dies auch das Risiko, die Komplexität der Softwareentwicklung zu stark zu vereinfachen.

Ahmad Shadid ist überzeugt, dass Unternehmen Ideen schneller validieren und die funktionsübergreifende Zusammenarbeit verbessern können, wenn mehr Menschen in den Ideenfindungsprozess eingebunden sind. Dadurch können mehr Ideen entwickelt und zu stabilen Lösungen verfeinert werden, was den Entwicklern die Freiheit gibt, ihre Konzepte mithilfe von Software zum Leben zu erwecken.

„Der Einsatz von KI-Tools für die Prototypenentwicklung unterschätzt die Komplexität von Zuverlässigkeit, Bedienbarkeit und Skalierbarkeit und führt zu Demo-basierten Entscheidungen, die, wenn sie nicht kontrolliert werden, zum Scheitern führen können. Die Tools erleichtern zwar die Prototypenentwicklung, erschweren aber die Auslieferung ohne technische Qualitätssicherung“, betonte der Experte.

Darüber hinaus sollten Unternehmen Nicht-Ingenieuren die Möglichkeit geben, in isolierten Umgebungen zu arbeiten, in denen die Anwendungen leise und privat ausgeführt werden. Die Verwendung von Dummy-/synthetischen Daten sowie die Verwendung von Null-Produktionsberechtigungen kann dazu beitragen, das Risiko von Datenlecks zu minimieren.

„Klare Systemidentifikationsstrategien, wie z. B. Wegwerf-Repos und separate Namespaces, helfen dabei, die KI-Programme isoliert zu nutzen. Genehmigte Stacks, gesicherte Scaffolds, integrierte Tests und Linting bieten eine sichere Plattform für die Skalierbarkeit und Belastbarkeit der Anwendung“, sagte Ahmad Shadid gegenüber Mpost.