KI in der Entwicklung: Produktivitätssteigerung oder kognitive Schulden?

Wie messen wir den Erfolg? Wie begrenzen wir die Risiken?

Ein einführender Artikel zur Panel-Diskussion / Fishbowl auf dem ESE-Kongress 2026.

KI-Werkzeuge sind in der Softwareentwicklung angekommen – von Anforderungs-Engineering über Codegenerierung bis zu Test und Dokumentation. Das Panel betrachtet diese Entwicklung aus zwei Blickwinkeln, die sich gegenseitig bedingen: Wie messen wir den Nutzen, und welche Risiken entstehen durch die Nutzung? Die Quellenlage dazu ist insgesamt jung, fast alles stammt aus 2025/2026, und methodisch bunt gemischt: Marktanalysen und Anbieterdaten stehen neben Umfragen, einer qualitativen Tagebuchstudie und einer EEG-Laborstudie. Belastbarkeit und Reichweite der einzelnen Quellen unterscheiden sich entsprechend, die Richtung der Befunde ist aber auffällig konsistent. Und immer die Frage: Ist es tatsächlicher Nutzen oder „AI Theater“? [13]

Metriken: Nutzen und Kosten messen

Produktivitätsversprechen sind allgegenwärtig, zielen aber oft auf die falsche Kennzahl: „80% des Codes ist KI-generiert“ sagt über Produktivität zunächst wenig aus: mehr Code ist kein Wert an sich, sondern bestenfalls ein Mittel zum Zweck. Entscheidend sind gelöste Probleme, Wartbarkeit und tatsächlich gelieferter Kundennutzen, nicht Zeilen oder Commits. Bevor Wirkung seriös gemessen werden kann, muss zudem die tatsächliche Nutzung verstanden werden – Adoption, Tiefe und Art der Nutzung variieren stark zwischen Teams und Personen [1]; erst darauf aufbauend lassen sich belastbare Aussagen zu Zeitersparnis, Codequalität und Kosten treffen[2]. Vertrauen in die Genauigkeit von KI-Ausgaben sinkt zudem trotz steigender Nutzung [3] – ein Hinweis darauf, dass Adoption und tatsächlicher Nutzen auseinanderfallen können.

Auf der Kostenseite zeichnen Marktdaten und Analystenprognosen ein Bild rasant steigender, schlecht kontrollierter Ausgaben: Token-basierte Abrechnung macht Budgets volatil, Einzelbeispiele reichen von 100 bis über 2.000 US-Dollar pro Entwickler und Monat, und ein Anbieter von Spend-Tracking-Software beziffert seinen eigenen Markt entsprechend optimistisch – ein Interessenkonflikt, der bei der Einordnung mitzudenken ist, auch wenn unabhängigere Zahlen (Marktanalysten, Zahlungsdienstleister-Indizes) in dieselbe Richtung weisen. [3–5] Analysten warnen entsprechend, dass KI-Kosten bis 2028 das Durchschnittsgehalt von Entwicklern übersteigen könnten, wenn Token-Konsum nicht gesteuert wird [4]. Gleichzeitig zeigen Befragungen und Feldexperimente, dass eingesparte Zeit beim Individuum kaum ankommt: Je nach Studiendesign schwanken die gemessenen Zeitgewinne zwischen deutlich (Selbstauskünfte) und gering (randomisierte Studien), und Langzeit-Zeittagebücher legen nahe, dass die gewonnene Zeit durch steigende Erwartungen und längere Arbeitstage wieder aufgezehrt wird, statt als Produktivitätsgewinn bei Teams oder Unternehmen anzukommen. [6]

Risiken: Cognitive Debt und Intent Debt

Wenn Problemanalyse und Lösungsfindung zunehmend an KI delegiert werden, entsteht ein zweites, subtileres Risiko, für das sich in der aktuellen Debatte der Begriff Cognitive Debt (kognitive Schuld) etabliert: die schleichende Anhäufung von Verständnislücken, wenn Menschen wiederholt kognitive Arbeit, Denken, Verifizieren, Einordnen,  an KI auslagern, ohne das Ergebnis selbst zu durchdringen [7]. Geprägt wurde der Begriff in einer EEG-Studie zu KI-gestütztem Schreiben, in der die stärkste neuronale Beteiligung bei eigenständiger Arbeit und die schwächste bei KI-Nutzung gemessen wurde [7]; seither wird er auf Softwareentwicklungsteams übertragen und um die Team- und Organisationsebene erweitert – als Verlust von geteiltem Verständnis im Code (kognitive Schuld im engeren Sinn) und von explizit gemachter Absicht/Rationale („Intent Debt“), zusätzlich zur klassischen technischen Schuld im Code selbst [8].

Konkrete Hinweise liefern eine Tagebuchstudie unter Studierenden in Softwareprojekten (Muster wie Black-Box-Akzeptanz von KI-Code oder Verzicht auf eigene Verifikation) [9] sowie eine Befragung von Wissensarbeitern, in der höheres Vertrauen in KI mit weniger kritischem Denken einhergeht [10]. Gemeinsam ist diesen Studien, dass sie noch nicht aus professionellen, industriellen Softwareentwicklungsteams stammen, sondern aus Bildungskontexten oder allgemeiner Wissensarbeit; die Übertragung auf Safety- und Security-kritische Entwicklungsumgebungen ist plausibel, aber bislang nicht eigens untersucht. Für Embedded-, Safety- und Security-kritische Systeme ist das nicht nur ein Qualitäts-, sondern ein Compliance-Thema (funktionale Sicherheit, Nachvollziehbarkeit, Automotive SPICE). [11]

Ausgangslage für die Diskussion: Produktivitätsgewinne sind real, aber wohl kleiner, teurer und unsicherer belegt als es Marketing-Narrative suggerieren; kognitive und organisatorische Risiken sind ebenfalls real, aber empirisch noch kaum in industriellen Entwicklungsteams statt in Studierenden- oder Laborsettings nachgewiesen. Genau diese Lücke macht die Praxiserfahrung aus Industrie und Forschung, die das Panel einbringen wird, besonders wertvoll.

Panelisten und Moderation

Jan Kipping ist Embedded-Ingenieur bei der Mercedes-Benz AG, aktuell verantwortlich für Effizienzthemen im elektrischen Antriebsstrang. In über 25 Jahren Steuergeräte-Entwicklung (Antriebsstrang, Batteriesysteme, CAN/LIN) ist er Erfinder in über 20 Patentanmeldungen zu Batteriemanagement und Antriebsstrang. Seit Mai 2025 integriert er KI-Agenten regelbasiert in seinen Entwicklungsprozess – von der Anforderung über den Test bis zur Traceability – und bezeichnet diesen Ansatz als Efficient Agentic Engineering. Seine Erfahrungen dokumentiert er im frei verfügbaren AI Engineering Handbook. [12] Für das Panel bringt er die Innensicht eines Praktikers ein, der KI-Agenten in einem sicherheitskritischen Embedded-Umfeld diszipliniert und nachvollziehbar einsetzt und zukünftig als Freelancer auf kipp.ing auch dazu berät.

Stefan Betzold ist seit 2010 bei der Burger Engineering GmbH & Co. KG tätig, seit Januar 2025 als Mitglied der Geschäftsleitung; zuvor leitete er dort u. a. das Project Management Office. Geprägt durch Ausbildung und Studium im Bereich Elektronik-Hardware, übernahm er früh Verantwortung für komplexe Kundenprojekte – vom Startup-Produkt bis zum hochoptimierten Serienprodukt mit funktionaler Sicherheit (FuSi) und Automotive-SPICE-Konformität. Sein Credo „Projekte mit Methode und Struktur statt Schablonendenken zum Erfolg zu führen“ macht ihn zu einem Diskussionsteilnehmer, der die Perspektive von Engineering-Dienstleistung und Projektsteuerung einbringt.

Dr.-Ing. Thomas Kuhn forscht seit 2008 beim Fraunhofer IESE im Bereich Software- und Systemarchitekturen und leitet seit 2014 die Abteilung für eingebettete Systeme. Seine Forschungsschwerpunkte sind die virtuelle Entwicklung eingebetteter Systeme und die Untermauerung von Architekturentscheidungen durch Architekturprototypen.

Dr. Joachim Schlosser leitet und moderiert das Panel. Bei IGEL Technology GmbH unterstützt er als Director Product & Engineering Operations die Produktorganisation dabei, Software wirksamer zu entwickeln und zuverlässig zu liefern. IGEL entwickelt ein sicheres Betriebssystem für Arbeitsplatzrechner, mit dem Unternehmen ihre IT zentral schützen und verwalten können. Seine Schwerpunkte sind operative Exzellenz, Führung, Entwicklerproduktivität und skalierbare Softwarearchitektur. Dabei verbindet er Erfahrung aus Engineering und Führung mit Perspektiven aus Kundenbetreuung, Vertrieb und Marketing. Zuvor war er in der Automobilbranche, der Softwareentwicklung und der Wissenschaft tätig. Über Engineering Leadership, Architektur und wirksame Zusammenarbeit schreibt er auf www.schlosser.info und in vielen Publikationen.

Offenlegung

Ich moderiere das Panel als in meiner Funktion als Director Product & Engineering Operations und als Mitarbeiter von IGEL Technology.

Literatur

1. Baletska, Z.: Measuring AI Adoption: What to Track Before You Code, https://agileanalytics.cloud/blog/measuring-ai-adoption-and-tool-usage-what-to-track-before-you-code, last accessed 2026/10/09.
2. Bruneaux, T.: How to measure AI’s impact on developer productivity, https://getdx.com/blog/ai-measurement-hub/, last accessed 2026/10/09.
3. The State of AI-Coding Spend 2026, https://cerver.ai/report, last accessed 2026/10/09.
4. Choubey, S.: Gartner Predicts AI Coding Costs Will Surpass Average Developer’s Salary by 2028 as Token Consumption Surges, https://www.gartner.com/en/newsroom/press-releases/2026-06-24-gartner-predicts-ai-coding-costs-will-surpass-average-developer-salary-by-2028-as-token-consumption-surges, last accessed 2026/10/09.
5. How Much Companies Spend on AI Tokens in 2026, https://greyjournal.net/hustle/work-tech/how-much-companies-spend-ai-tokens-2026/, last accessed 2026/10/09.
6. Dubbel, D.: Beschleunigst du dein Team mit KI gegen die Wand?, https://www.inspectandadapt.de/beschleunigst-du-dein-team-mit-ki-gegen-die-wand/, last accessed 2026/06/25.
7. Kosmyna, N., Hauptmann, E., Yuan, Y.T., Situ, J., Liao, X.-H., Beresnitzky, A.V., Braunstein, I., Maes, P.: Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task, https://arxiv.org/abs/2506.08872, (2025). https://doi.org/10.48550/ARXIV.2506.08872.
8. Storey, M.-A.: From Technical Debt to Cognitive and Intent Debt: Rethinking Software Health in the Age of AI, https://arxiv.org/abs/2603.22106, (2026). https://doi.org/10.48550/ARXIV.2603.22106.
9. Ahmad, M.O.: Comprehension Debt in GenAI-Assisted Software Engineering Projects, http://arxiv.org/abs/2604.13277, (2026). https://doi.org/10.48550/arXiv.2604.13277.
10. Lee, H.-P. (Hank), Sarkar, A., Tankelevitch, L., Drosos, I., Rintel, S., Banks, R., Wilson, N.: The Impact of Generative AI on Critical Thinking: Self-Reported Reductions in Cognitive Effort and Confidence Effects From a Survey of Knowledge Workers. In: Proceedings of the 2025 CHI Conference on Human Factors in Computing Systems. pp. 1–22. ACM, Yokohama Japan (2025). https://doi.org/10.1145/3706598.3713778.
11. Schlosser, J.: Functional Safety Software Engineering – Das Problem ist nicht FuSi, sondern Defizite in Prozess & Qualität. In: Embedded Software Engineering ESE Kongress. Vogel Communications Group, Sindelfingen (2018).
12. Kipping, J.: AI Engineering Handbook. Efficient Agentic Coding. self (2026). https://kipp.ing/de/
13. Fishburne, T.: AI Theater and Measuring What Matters cartoon, https://marketoonist.com/2026/11/ai-theater.html, last accessed 2026/11/04.