Physical AI und Maschinensicherheit

Physical AI: Simulation ersetzt keine Prüfungen

Physical AI stellt neue Anforderungen an die Maschinensicherheit. Experten von TÜV SÜD und Accenture erklären, was Simulationen leisten, warum reale Prüfungen notwendig bleiben und wie sich Inbetriebnahmen beschleunigen lassen.

Digitale Zwillinge und Simulationen ermöglichen es, potenzielle Sicherheitsrisiken von KI-gesteuerten Robotern frühzeitig zu erkennen. Die abschließende Prüfung am realen System bleibt jedoch unverzichtbar.
Digitale Zwillinge und Simulationen ermöglichen es, potenzielle Sicherheitsrisiken von KI-gesteuerten Robotern frühzeitig zu erkennen. Die abschließende Prüfung am realen System bleibt jedoch unverzichtbar.

  • Virtuelle Validierung: Simulationen mit NVIDIA Omniverse und Isaac Sim können Sicherheitsrisiken frühzeitig identifizieren, ersetzen aber keine abschließenden physischen Prüfungen.

  • Funktionale Sicherheit: TÜV SÜD setzt bei Physical AI auf unabhängige, deterministische Sicherheitsmechanismen und eine nachvollziehbare Bewertung.

  • Schnellere Inbetriebnahme: Accenture erwartet durch frühzeitige Sicherheitsbewertungen eine Beschleunigung der Inbetriebnahme um bis zu 30 %.

  • Continuous Safety: Hersteller, KI-Anbieter und Betreiber müssen Sicherheit, Änderungen und Verantwortlichkeiten über den gesamten Lebenszyklus berücksichtigen.

Inwiefern ermöglichen die im NVIDIA-Ökosystem (etwa via Omniverse/Isaac) erzeugten synthetischen Trainingsdaten und Simulationen bereits eine normenkonforme, nachweisbare Validierung gemäß den Anforderungen der EU-Maschinenverordnung sowie der ISO 10218, und wo verlaufen aktuell noch die Grenzen zwischen virtueller Vorzertifizierung und physischer Abnahme vor Ort?

Patrick Vollmer, Vorsitzender des Vorstands, TÜV Süd AG
Patrick Vollmer, Vorsitzender des Vorstands, TÜV Süd AG

Patrick Vollmer: „Eine vollständig virtuelle Validierung reicht heute noch nicht aus, um die physische Prüfung und Konformitätsbewertung einer Maschine nach der EU-Maschinenverordnung oder einschlägigen Normen wie ISO 10218 vollständig zu ersetzen.

Simulationsumgebungen wie NVIDIA Omniverse und Isaac Sim bieten jedoch bereits einen erheblichen Mehrwert bei Entwicklung und Vorvalidierung. Mithilfe synthetischer Daten und realistischer digitaler Zwillinge lassen sich potenzielle Gefährdungen frühzeitig identifizieren, Worst-Case-Szenarien systematisch untersuchen und seltene Grenzfälle abbilden, die physisch nur schwer oder mit hohem Aufwand reproduzierbar wären. Das erweitert insbesondere bei KI-basierten Funktionen die Testabdeckung und hilft uns, risikobasiert festzulegen, welche Szenarien anschließend zwingend am realen System geprüft werden müssen.

Die Grenze ist dort erreicht, wo das tatsächliche Verhalten der Maschine nachgewiesen werden muss. Reale Sensoren, Hardwaretoleranzen, Umwelteinflüsse, Verschleiß, Kommunikationslatenzen oder elektromagnetische Effekte lassen sich in der Simulation bislang nur annähern. Simulation schafft deshalb eine effizientere und belastbarere Evidenzbasis, ersetzt aber nicht die abschließende physische Verifikation und gegebenenfalls die Prüfung vor Ort.“

Klassische Sicherheitsarchitekturen im Maschinenbau basieren auf determinierten Funktionalitäten und fest definierten Performance Levels (PL r nach ISO 13849). Wie adressiert Ihr gemeinsamer Ansatz das stochastische Verhalten neuronaler Netze in der physischen KI, um auch bei kontinuierlich lernenden oder adaptiven Robotereinheiten eine durchgängige und prüffähige funktionale Sicherheit zu garantieren?

Patrick Vollmer: „Die grundlegenden Prinzipien der funktionalen Sicherheit ändern sich durch Physical AI nicht. Sicherheitskritische Funktionen müssen weiterhin über geeignete Architekturen, definierte Performance Level und nachvollziehbare Schutzmaßnahmen abgesichert werden. Eine stochastisch arbeitende KI darf dabei nicht die einzige Sicherheitsmaßnahme sein.

Unser Ansatz besteht deshalb darin, die Fähigkeiten der KI klar zu begrenzen und sie durch unabhängige, deterministische Sicherheitsmechanismen zu überwachen. Konzepte wie NVIDIAs ‚Outside-In Safety‘ können hierzu zusätzliche Informationen aus der Betriebsumgebung bereitstellen. Die sicherheitsrelevante Bewertung muss jedoch auf definierten Systemgrenzen, überprüfbaren Regeln und einer belastbaren Evidenzkette beruhen.

Bei lernenden oder adaptiven Systemen kommt ein konsequentes Änderungsmanagement hinzu: Relevante Veränderungen des Modells oder seines Verhaltens müssen erkannt, dokumentiert und hinsichtlich ihrer Auswirkungen auf die Sicherheit neu bewertet werden. Ziel ist daher nicht, klassische funktionale Sicherheit durch KI zu ersetzen, sondern sie um KI-spezifische Überwachung, Validierung und Governance zu ergänzen.

Der besondere Wert einer vorgelagerten Prüfung besteht darin, dass wir Sicherheitsgrenzen und kritische Szenarien bereits erkennen können, bevor das System physisch aufgebaut und in Betrieb genommen wird. Simulationen und digitale Zwillinge helfen dabei, das spätere physische Prüfprogramm gezielt auf die relevanten Risiken auszurichten. So können notwendige Designänderungen früher und mit deutlich geringerem Aufwand umgesetzt werden: ohne die Anforderungen an die funktionale Sicherheit aufzuweichen.

Nur so lassen sich flexiblere und autonomere Systeme entwickeln, ohne Kompromisse bei der Sicherheit einzugehen.“

Für viele KMU im Maschinenbau und in der Intralogistik stellen langwierige Compliance-Prozesse einen erheblichen Engpass dar. Um welchen Faktor lässt sich die Time-to-Market von autonomen Systemen durch die frühzeitige („Shift-Left“-)Integration von TÜV SÜD-Zertifizierungsroutinen in die Accenture-Implementierungsarchitektur real verkürzen, und ab welcher Flottengröße amortisiert sich dieser integrierte Ansatz?

Sarat Maitin leitet den Bereich Supply Chain & Engineering in Zentral- und Osteuropa bei Accenture
Sarat Maitin leitet den Bereich Supply Chain & Engineering in Zentral- und Osteuropa bei Accenture

Sarat Maitin: „Den Engpass, den Sie für den Mittelstand beschreiben, sehen wir auch. Normen wie die ISO 3691-4 für fahrerlose Flurförderzeuge bilden die Grundlage für den sicheren Betrieb. Doch die iterative Abstimmung, Validierung und Abnahme von Sicherheitskonzepten kann schon bei einem mittelgroßen Werk mehrere Wochen dauern, weil viele Fragen erst geklärt werden, wenn die Anlage steht. Dazu kommt, dass in der Praxis Fahrzeuge und Assets verschiedener Hersteller mit unterschiedlichem Autonomiegrad neben Menschen und manuellen Prozessen arbeiten. Sicherheit lässt sich dann nicht mehr Maschine für Maschine hinter einem Zaun nachweisen, sie muss das Gesamtsystem betrachten.

Hier setzt das Shift-left-Prinzip an. Wir verlagern wesentliche Schritte der Sicherheitsbewertung in die frühe Engineering-Phase und strukturieren die erforderlichen Nachweise so, dass Rückfragen und Prüfschleifen später deutlich reduziert werden. Das macht Zertifizierungsprozesse planbarer und verbessert die Time-to-Market. Wir gehen davon aus, dass sich die Inbetriebnahme so um bis zu 30 Prozent beschleunigen lässt. Die Unabhängigkeit bleibt dabei gewahrt: Wir tragen zu einer früheren, simulationsbasierten Evidenzbasis bei, die Bewertung und Zertifizierung liegen bei TÜV SÜD.

Zu Ihrer Frage nach Faktor und Flottengröße: Eine konkrete Zahl und der Effekt hängt von Ausgangslage und Systemlandschaft ab. Die Flottengröße sollte dabei künftig gar nicht mehr die entscheidende Rolle spielen. Heute rechnet sich ein Deployment oft erst ab einer gewissen Größe, weil der Sicherheitsaufwand pro Asset sonst zu hoch wäre. Diese Hürde wollen wir senken. Wenn Sicherheitsfragen früh und wiederverwendbar in der Simulation geklärt werden, wird die Skalierung breiter, einfacher und schneller, auch dort, wo nur wenige Assets im Spiel sind. Bei großen Flotten ist der Mehrwert natürlich ebenfalls gegeben. Entscheidend wird eher die Häufigkeit von Veränderungen wie einem neuen Layout, einem neuen Fahrzeugtyp, einem Software-Update oder einem weiteren Standort. Jede davon löst heute eine neue Prüfschleife aus, die sich früher und mit weniger Aufwand durchlaufen lässt. 

Für uns ist das kein Zielkonflikt. Es geht nicht um Sicherheit oder Effizienz. Wir können schneller und planbarer in den Betrieb gehen, gerade weil wir Sicherheit von Anfang an mitdenken und in das Gesamtsystem integrieren.“

Wenn Roboter durch physische KI ein höheres Maß an Autonomie in hochdynamischen Mischarbeitsplätzen (Mensch-Roboter-Kollaboration) übernehmen: Wie verändert sich die haftungs- und sicherheitsrechtliche Abgrenzung zwischen dem OEM als Systemintegrator, dem Software-/KI-Anbieter und dem Betreiber der Anlage im Falle eines unvorhergesehenen Systemverhaltens?

Sarat Maitin: „Wir konzentrieren uns hier auf die technischen und organisatorischen Aspekte, bei denen wir Unternehmen gern unterstützen und beraten.

Erstens verändert sich der Charakter des Nachweises. Eine klassische Maschine verhält sich deterministisch, und eine einmalige Abnahme genügt. Physical AI dagegen reagiert auf ihre Umwelt und passt ihr Verhalten an die Situation an. Deshalb braucht es ein neu gedachtes Paradigma: Continuous Safety. Sicherheit wird nicht einmal bei der Abnahme festgestellt, sondern begleitet das System über seinen gesamten Lebenszyklus. Es muss jederzeit nachvollziehbar sein, was ein System tun darf, auf welcher Evidenz das beruht und was sich seit der letzten Bewertung verändert hat. Für die Rollenverteilung bedeutet das: Der Hersteller (OEM) verantwortet sichere Basisfunktionalitäten seiner Produkte in definierten Einsatzgrenzen, der Software- bzw. KI-Anbieter die Transparenz und Beherrschung von Änderungen seiner KI-Modelle und der Betreiber das anwendungsbezogene Training und den bestimmungsgemäßen Betrieb sowie die laufende Überwachung und Änderungen im Feld.

Zweitens müssen diese Pflichten vertraglich und technisch anschlussfähig sein. Dazu gehören klar definierte Schnittstellen, freigegebene Softwarestände, belastbare Betriebsgrenzen, eine revisionsfähige Ereignisprotokollierung sowie eindeutige Eskalations- und Freigabeprozesse. So lässt sich im Ereignisfall nachvollziehen, ob die Ursache in der Integration, im KI-Modell oder im Betrieb lag.

Ich bin überzeugt: Je früher Nachvollziehbarkeit eingebaut ist, desto zuversichtlicher können Unternehmen automatisieren.“

Was Sie zum Thema Physical AI wissen müssen

Was bedeutet Physical AI für die Maschinensicherheit? - Physical AI ermöglicht Robotern und Maschinen, auf ihre Umgebung zu reagieren und ihr Verhalten anzupassen. Sicherheitskritische Funktionen müssen dabei weiterhin durch geeignete Architekturen, definierte Performance Levels und nachvollziehbare Schutzmaßnahmen abgesichert werden.

Kann Physical AI mithilfe digitaler Zwillinge vollständig validiert werden? - Nein. Simulationen ermöglichen eine frühzeitige Risikoanalyse und die Untersuchung kritischer Szenarien. Reale Einflüsse wie Sensorverhalten, Verschleiß und Hardwaretoleranzen erfordern weiterhin physische Prüfungen.

Wie kann Physical AI die Inbetriebnahme beschleunigen? - Durch die frühzeitige Integration von Sicherheitsbewertungen in die Entwicklung lassen sich spätere Prüfschleifen reduzieren. Accenture erwartet dadurch eine Beschleunigung der Inbetriebnahme um bis zu 30 %.

Welche Rolle spielt Continuous Safety bei Physical AI? - Continuous Safety beschreibt die fortlaufende Sicherheitsbewertung über den gesamten Lebenszyklus. Änderungen an KI-Modellen, Software und Betriebsbedingungen müssen nachvollziehbar dokumentiert und hinsichtlich ihrer Auswirkungen auf die Sicherheit bewertet werden.

Wer trägt bei Physical AI die Verantwortung für die Sicherheit? - Nach der von Accenture beschriebenen technischen und organisatorischen Rollenverteilung verantwortet der Hersteller sichere Basisfunktionen, der KI-Anbieter die Beherrschung seiner Modelländerungen und der Betreiber den bestimmungsgemäßen Betrieb sowie die laufende Überwachung. Eine abschließende rechtliche Haftungsverteilung wird damit nicht festgelegt.