KI im Maschinenbau: Woran Projekte wirklich scheitern

Frau Prof. Dr. Aschenbrenner, viele KI-Projekte im Maschinenbau funktionieren im Pilotmaßstab, scheitern aber beim Übergang in den produktiven Betrieb. Welche technischen, organisatorischen und datenbezogenen Voraussetzungen entscheiden darüber, ob aus einem Experiment eine robuste und beherrschbare Anwendung wird?

Prof. Dr. Doris Aschenbrenner

Prof. Dr. Doris Aschenbrenner ist Carl-Zeiss-Stiftungsprofessorin (W3) für Digitale Methoden in der Produktion an der Hochschule Aalen – Technik und Wirtschaft im Bereich Maschinenbau. Dort leitet sie die Forschungsgruppe „Human in Command“. Im Mittelpunkt ihrer Arbeit stehen die Gestaltung und der Einsatz von KI-Systemen im industriellen Umfeld, insbesondere menschliche Steuerungs- und Kontrollmöglichkeiten sowie nutzerzentrierte Ansätze.

Im vom Bundesministerium für Arbeit und Soziales geförderten Projekt „KI-Cockpit“ arbeitet sie an Konzepten, mit denen Menschen KI-Systeme planen, anlernen, überwachen und bei Bedarf korrigieren oder stoppen können. Zuvor war Aschenbrenner an der TU Delft tätig und beschäftigte sich dort unter anderem im EU-Projekt COALA mit kognitiver Assistenz in der Produktion.

Prof. Dr. Doris Aschenbrenner: Ich sehe zunächst einmal eine große Chance darin, dass KI momentan in vielen Unternehmen sehr stark bottom-up eingeführt wird. Unternehmen stellen beispielsweise Copilot- oder vergleichbare Werkzeuge bereit, und engagierte Mitarbeiterinnen und Mitarbeiter beginnen selbstständig, Anwendungen für konkrete Prozessprobleme zu entwickeln. Das kann der Digitalisierung einen enormen Schub geben, weil die Ideen direkt aus der betrieblichen Praxis entstehen. Die Schwierigkeit besteht allerdings darin, aus diesen individuellen Experimenten institutionell tragfähige Anwendungen zu machen. Viele KI-Lösungen ähneln momentan einer persönlichen Excel-Datei mit sehr guten Funktionen: Sie löst für eine einzelne Person ein Problem, ist aber nicht ausreichend dokumentiert, nicht integriert, nicht abgesichert und häufig auch nicht auf andere Bereiche übertragbar. Spätestens beim Ausscheiden der Person oder bei einer Änderung des Prozesses wird diese Abhängigkeit sichtbar.

Deshalb müssen Bottom-up-Innovation und Top-down-Steuerung parallel erfolgen. Die Beschäftigten benötigen einen einfachen Zugang zu geeigneten Werkzeugen und geschützten Experimentierumgebungen. Je nach Schutzbedarf können selbst gehostete Lösungen oder europäische beziehungsweise deutsche Cloud-Angebote sinnvoll sein. Gleichzeitig braucht es ein klares Commitment des Managements: KI-Transformation darf nicht einfach an die IT-Abteilung delegiert werden. Sie betrifft Prozesse, Verantwortlichkeiten, Qualifizierung, Investitionsentscheidungen und letztlich das Geschäftsmodell.

Technisch müssen Anwendungen in die bestehende Systemlandschaft integrierbar sein. Dazu gehören Schnittstellen, Rollen- und Rechtekonzepte, Versionierung, Monitoring, Fallback-Mechanismen und ein geregelter Lebenszyklus. Auf der Datenseite braucht es nicht nur große Datenmengen, sondern verlässliche Datenqualität, eine verständliche Semantik, nachvollziehbare Herkunft und klare Verantwortlichkeiten für die Daten. Diese als „Data-Engineering“ zusammenfassbaren Kompetenzen sind in Maschinenbau-Unternehmen bislang eher unterrepräsentiert vorhanden.

An dieser Stelle holen viele Unternehmen ihre nicht erledigten Digitalisierungshausaufgaben ein. KI kann keine fehlenden Schnittstellen, unklare Prozesse oder schlecht gepflegte Stammdaten wegzaubern. Wenn diese Grundlagen fehlen, entstehen lediglich neue intelligente Einzellösungen auf einem großen Berg technischer und organisatorischer Schulden. Der entscheidende Schritt besteht deshalb darin, aus einem persönlichen Experiment ein gemeinsam verantwortetes, integriertes und über seinen gesamten Lebenszyklus beherrschtes System zu machen. Das entspricht auch etablierten Risikomanagementansätzen, die Governance, Kontextanalyse, Messung und kontinuierliches Management nicht als nachträgliche Kontrolle, sondern als Bestandteile des gesamten KI-Lebenszyklus verstehen.  Bereits beim Übergang in den Betrieb muss geklärt werden, wer das System überwacht, welche Informationen diese Person erhält, anhand welcher Grenzwerte eingegriffen wird und was bei einer Abweichung konkret geschehen kann. Der Schritt vom Piloten zum Produktivsystem ist damit nicht nur eine Frage der Skalierung, sondern auch der institutionell verankerten Beobachtungs-, Steuerungs- und Eingriffsfähigkeit.

Deutscher Maschinenbau-Gipfel 2026

Der 16. Deutsche Maschinenbau-Gipfel findet am 10. und 11. November 2026 in Berlin statt. Veranstaltungsort ist das Vienna House Andel’s Berlin, Landsberger Allee 106, 10369 Berlin.

Wann: 10. und 11. November 2026

Wo: Vienna House Andel’s Berlin, Landsberger Allee 106, 10369 Berlin

Anmeldung: Tickets und Anmeldung zum Maschinenbau-Gipfel 2026

Programm: Programm des Maschinenbau-Gipfels 2026 – Tag 1 sowie Programm – Tag 2.

Prof. Dr. Doris Aschenbrenner spricht am 10. November um 11:10 Uhr in der Session „Digitalisierung & KI-Praxis: Was bringt es wirklich?“ zum Thema „KI in der Praxis: Vom Experiment zur beherrschbaren Anwendung im Maschinenbau“.

In Produktion, Engineering und Service wirken sich Fehler einer KI unmittelbar auf Qualität, Verfügbarkeit oder Sicherheit aus. Wie müssen Unternehmen Validierung, menschliche Kontrolle und Verantwortlichkeiten gestalten, damit KI-Systeme nicht nur leistungsfähig, sondern auch nachvollziehbar und zuverlässig einsetzbar sind?

Aschenbrenner: Unternehmen sollten zunächst nicht fragen: „Kann die KI diesen gesamten Prozess übernehmen?“ Sinnvoller ist ein Systems-Engineering-Ansatz, bei dem der Prozess in einzelne Funktionen zerlegt wird, zumindest in die Funktionen Datenerfassung, Analyse, Entscheidung und Handlung. Für jede Stufe muss dann festgelegt werde, welcher Automatisierungsgrad sinnvoll und verantwortbar ist. Dabei können deterministische Regeln, klassische lernende Verfahren, generative KI und menschliche Entscheidungen bewusst miteinander kombiniert werden. Für jede Funktion muss also entschieden werden: Brauchen wir dort tatsächlich KI? Reicht eine deterministische Regel? Benötigen wir ein lernendes System, oder muss die Entscheidung beim Menschen verbleiben?

Ich halte insbesondere die Kombination deterministischer und nichtdeterministischer Komponenten für sehr wichtig. Wo Fehler gravierende Folgen für Qualität, Verfügbarkeit oder Sicherheit haben können, sind deterministische Regeln, Grenzwerte, Plausibilitätsprüfungen und sichere Rückfallzustände häufig die bessere Grundlage. Lernende oder generative KI kann dort eingesetzt werden, wo es um Mustererkennung, Interpretation, Vorschläge oder den Umgang mit unstrukturierten Informationen geht. Man muss also nicht sämtliche Daten und Prozessschritte in ein einziges großes Modell oder einen Transformer geben. Eine robuste Architektur kann beispielsweise aus einer Kette bestehen: Eine KI analysiert Informationen oder erzeugt einen Vorschlag, deterministische Komponenten prüfen definierte Bedingungen, und ein Mensch entscheidet bei kritischen oder uneindeutigen Fällen. Umgekehrt kann KI auch dabei helfen, aus Daten zunächst Regeln oder Prozessmuster abzuleiten, die anschließend in einem kontrollierbaren System umgesetzt werden. Entscheidend ist, dass die Architektur zur Kritikalität der jeweiligen Funktion passt.

Wie die Industrie ihre Entwicklungsprozesse beschleunigen kann

KI in der Produktentwicklung wird zum Wettbewerbsfaktor. Maschinenbauer müssen Entwicklungszeiten verkürzen, Daten besser nutzen und komplexe Produkte zunehmend modellbasiert entwickeln.

In unserem Projekt KI-Cockpit (gefördert vom Bundesministerium für Arbeit und Soziales) haben wir dafür eine übergeordnete Kontroll- und Steuerungsebene entwickelt, über die Menschen KI-Systeme planen, anlernen, überwachen und bei Bedarf korrigieren oder stoppen können. Die Automatisierungsgrade lassen sich für die einzelnen Funktionen getrennt und auch dynamisch anpassen, etwa abhängig von der Systemkonfidenz, der Komplexität der Situation oder der Arbeitsbelastung des Menschen. So kann eine unkritische Handlung automatisiert erfolgen, während eine sicherheits- oder qualitätsrelevante Entscheidung weiterhin bestätigt werden muss. Human Oversight darf nicht bedeuten, dass ein Mensch formal in einem Prozessdiagramm auftaucht und am Ende lediglich die Verantwortung für eine nicht nachvollziehbare Systementscheidung trägt. Die verantwortliche Person benötigt ausreichende Informationen, Kompetenz, Zeit und tatsächliche Entscheidungsbefugnis. Sie muss Ausgaben einordnen, ignorieren oder übersteuern und das System gegebenenfalls stoppen können. Genau diese Aspekte greift auch Artikel 14 des EU AI Acts für Hochrisiko-KI-Systeme auf. Der Begriff „Human in Command“, dem ich meiner Forschungsgruppe gegeben habe, geht aber noch über das reine „Überwachen“ hinaus. Er bedeutet, dass menschliche Steuerungs- und Kontrollbedürfnisse bereits in der Designphase berücksichtigt werden. Im Projekt haben wir dafür einen partizipativen Ansatz verfolgt, bei dem unter anderem Akzeptanz, Kontrollempfinden und Belastung empirisch untersucht und über Feedbackschleifen wieder in das Design eingebracht wurden. Menschliche Kontrolle ist damit keine Stopptaste, die nachträglich an ein technisches System gebaut wird, sondern eine Eigenschaft des gesamten soziotechnischen Systems.

Der Nutzen von KI wird häufig mit allgemeinen Effizienzversprechen begründet. An welchen konkreten Kennzahlen lässt sich im Maschinenbau erkennen, ob eine Anwendung tatsächlich Produktivität, Geschwindigkeit oder Qualität verbessert – und wann sollte ein Unternehmen ein KI-Projekt konsequent beenden?

Aschenbrenner: Bei den allgemeinen Effizienzversprechen rund um KI bin ich zunächst vorsichtig. Aus der Forschung zu früheren Digitalisierungsschüben kennen wir das sogenannte Productivity Paradox: Obwohl eine neue Technologie grundsätzlich große Potenziale besitzt, werden diese nicht sofort in den Produktivitätskennzahlen sichtbar. Zunächst entstehen Aufwände für Datenaufbereitung, Integration, Qualifizierung, Prozessanpassung und organisatorische Veränderungen. Es gibt auch den Effekt, dass die messbare Produktivität anfangs sogar sinken kann, bevor die ergänzenden Investitionen langfristig wirksam werden.

Gerade in der angespannten wirtschaftlichen Situation des Maschinen- und Anlagenbaus ist der Wunsch nach einem schnellen und unmittelbar zurechenbaren Return on Investment verständlich. Das kann aber dazu führen, dass sinnvolle Projekte zu früh beendet werden. Neben dem kurzfristigen Nutzen muss deshalb auch betrachtet werden, was eine Investition mittel- und langfristig mit dem Unternehmen macht: Verbessert sie die Datenbasis? Werden Prozesse transparenter? Entsteht wiederverwendbare Infrastruktur? Wird Wissen systematisch verfügbar? Und entwickelt das Unternehmen Fähigkeiten, auf denen weitere Anwendungen aufbauen können?

Welche Rolle das MES künftig spielt

Die Dark Factory gewinnt mit KI an Dynamik. Nach Einschätzung von iTAC bleibt dabei das MES zentral: Es liefert den Produktionskontext für intelligente und zunehmend autonome Prozesse.

Trotzdem darf ein KI-Projekt nicht mit einem allgemeinen strategischen Versprechen auf unbegrenzte Zeit weitergeführt werden. Bereits vor Projektbeginn müssen Ausgangswert, Zielgrößen, Messmethode und Abbruchkriterien definiert werden. Welche Kennzahlen relevant sind, hängt vom Anwendungsfall ab. In der Produktion können das beispielsweise Durchsatz, Taktzeit, Anlagenverfügbarkeit, Stillstandszeiten, Ausschuss, Nacharbeit, oder die Zahl qualitätskritischer Abweichungen sein. In Engineering und Service sind häufig Bearbeitungszeit, Fehlerquote, Durchlaufzeit, First-Time-Fix-Rate, Reaktionszeit oder die Zeit bis zur richtigen Information aussagekräftiger. Das können die Unternehmen alles bereits ganz gut selbst im Blick behalten.

Gerade bei Assistenz- und Wissensmanagementsystemen sollten Unternehmen aber nicht nur klassische Produktionskennzahlen betrachten. Bei einem RAG-System würde ich beispielsweise messen: Finden Beschäftigte häufiger die richtige Information? Wie lange benötigen sie dafür? Wie vollständig und korrekt wird eine Aufgabe erledigt? Wie viele Vorschläge müssen korrigiert werden? Und wie zufrieden sind die Nutzerinnen und Nutzer mit dem System? Hier können die klassischen Usability-Dimensionen Effektivität, Effizienz und Zufriedenheit sehr gut quantifiziert werden, hierzu muss sich der Maschinenbau aber in das Neuland der nutzerzentrierten Gestaltung begeben, aus anderen Anwendungsbereichen gibt es aber für Usability Engineering sehr gute Messinstrumente. Man kann also quantitativ untersuchen, ob Beschäftigte ihre Aufgabe vollständiger und fehlerfreier erfüllen, wie viel Zeit oder Aufwand sie dafür benötigen und wie sie die Interaktion bewerten. Aber auch die qualitativen Methoden haben eine große Bedeutung, weil sie uns helfen zu verstehen, was konkret besser werden muss. Meiner Erfahrung nach können Unternehmen aus dem Wissen aus dem Design Engineering massiv profitieren, zum Thema kognitive Assistenz in der Produktion hatten wir zum Beispiel ein groß angelegtes EU-Projekt COALA als ich noch an der TU Delft war. Das war noch vor dem großen Chat-GPT Hype, hilft uns natürlich jetzt aber Unternehmen zu beraten.

Gerade bei Wissensmanagementanwendungen sind relativ schnelle Verbesserungen möglich. Allerdings entstehen diese Quick Wins häufig auch deshalb, weil zuvor Informationen schlecht strukturiert, schwer auffindbar oder über verschiedene Systeme verteilt waren. Die KI löst dann zunächst einen bereits lange aufgelaufenen Digitalisierungsschmerz, ist aber eher mit einer Brücke aus Tesafilm zwischen gewachsenen Software-Strukturen zu verstehen. Die größeren architektonischen Veränderungen – gemeinsame Datenräume, durchgängige Schnittstellen und neue Prozessstrukturen – kosten dagegen zunächst Geld, schaffen aber die Grundlage für weitere Anwendungen.

In die Bewertung gehören außerdem sämtliche Folgekosten: Datenpflege, Integration, menschliche Prüfung, Monitoring, Modellwechsel, Nachtraining, Lizenzkosten, Informationssicherheit und regulatorische Absicherung. Ein System, das eine Tätigkeit um zehn Prozent beschleunigt, aber eine nahezu vollständige menschliche Nachkontrolle erfordert, hat möglicherweise keinen positiven Gesamtnutzen.

Konsequent beendet oder grundsätzlich neu aufgesetzt werden sollte ein Projekt, wenn nach einer vorher festgelegten Lern- und Erprobungsphase gegenüber einer belastbaren Baseline keine relevante Verbesserung sichtbar ist; wenn Qualität, Sicherheit oder Nachvollziehbarkeit nicht ausreichend beherrscht werden können; wenn die Kosten der menschlichen Kontrolle den Nutzen aufzehren; wenn die notwendigen Daten- und Prozessvoraussetzungen wirtschaftlich nicht hergestellt werden können; oder wenn es im Unternehmen weder einen verantwortlichen Prozess-Owner noch eine realistische Perspektive für Nutzung und Skalierung gibt.

Ich würde KI dabei grundsätzlich eher als Werkzeug zur Unterstützung und Erweiterung menschlicher Fähigkeiten verstehen und nicht als einfachen Ersatz für Arbeitskräfte. Empirische Studien zeigen durchaus Produktivitätsgewinne, zugleich aber große Unterschiede zwischen Tätigkeiten und Beschäftigtengruppen. Besonders weniger erfahrene Beschäftigte können von einer guten Assistenz profitieren.

Wenn Unternehmen jedoch im Vertrauen auf KI ihre Einstiegsstellen nicht mehr besetzen, entsteht eine neue Form von Qualifizierungsschuld: Es fehlen später die Menschen, die berufliche Erfahrung aufbauen, Verantwortung übernehmen und die Systeme fachlich beurteilen können. Genau dieser Faktor Mensch wird im Maschinenbau meines Erachtens noch zu häufig unterschätzt. Deshalb sollte die Entscheidung über Fortführung oder Abbruch eines KI-Projekts nicht allein an einem kurzfristigen Effizienzprozentsatz hängen, sondern an einem ausgewogenen Bild aus betrieblicher Leistung, Qualität, Usability, Risiken, Kompetenzentwicklung und langfristiger Skalierbarkeit.