EU AI Act: Mehr Zeit für Unternehmen bei Hochrisiko-KI
Der EU AI Act gewährt Unternehmen mehr Zeit für bestimmte Vorgaben zu Hochrisiko-KI. Doch die Fristverlängerung entbindet nicht von der Vorbereitung. Vier Prioritäten zeigen, worauf es bei KI-Governance und nachvollziehbaren Entscheidungen ankommt.
Nick PayneNickPayneDirector, Solutions Engineering, Confluent
Der EU AI Act bleibt trotz längerer Fristen relevant. Vier Prioritäten zeigen, wie Unternehmen KI-Systeme kontrollieren und dokumentieren.Symbolbild - KI-generiert
Anzeige
EU verlängert mit dem „AI Omnibus“ bestimmte Umsetzungsfristen des EU AI Acts für Hochrisiko-KI.
Unternehmen sollten sämtliche KI-Anwendungen erfassen, einschließlich integrierter Funktionen externer Softwareanbieter.
Die Nachvollziehbarkeit einzelner KI-Entscheidungen und die laufende Überwachung eingesetzter Systeme sind zentrale Aufgaben.
KI-Governance sollte in bestehende Prozesse für Datenmanagement, IT-Sicherheit und Risikokontrolle integriert werden.
Das KI-Gesetz der EU gilt, doch für bestimmte Vorgaben zu Hochrisiko-KI bekommen Unternehmen mehr Zeit für die Umsetzung. Mit dem sogenannten „AI Omnibus“, einem Änderungspaket zum Gesetz, hat die EU die entsprechenden Fristen verlängert. Betroffen sind unter anderem KI-Systeme, die in Bereichen wie Beschäftigung, Bildung, kritischer Infrastruktur oder beim Zugang zu wesentlichen Dienstleistungen eingesetzt werden.
Für Unternehmen ist die Fristverlängerung eine Entlastung. Sie bekommen mehr Zeit, die Anforderungen des AI Acts in der Praxis umzusetzen. Denn bei einigen Vorgaben wird noch konkretisiert, wie sie umgesetzt und ihre Einhaltung nachgewiesen werden soll. Die zusätzliche Zeit sollte jedoch nicht zum Abwarten verleiten. Unternehmen müssen sich schon heute mit praktischen Fragen beschäftigen: Wo wird KI überhaupt eingesetzt? Lässt sich nachvollziehen, wie eine KI-gestützte Entscheidung zustande kam? Und was passiert mit einem System, nachdem es eingeführt wurde? Vier Bereiche sind dabei besonders wichtig.
Priorität 1: Einen Überblick über alle KI-Systeme schaffen
Anzeige
Der erste Schritt ist zu wissen, wo KI im Unternehmen überhaupt eingesetzt wird. Das ist nicht immer offensichtlich. KI steckt heute häufig in Software, die Unternehmen bereits nutzen – etwa in Recruiting-Plattformen, Systemen zur Betrugserkennung oder im Kundenservice. Auch Anwendungen externer Anbieter können KI enthalten oder durch ein Update neue KI-Funktionen bekommen. Unternehmen sollten deshalb erfassen, wo KI Entscheidungen beeinflusst, Aufgaben priorisiert oder Empfehlungen gibt. Erst wenn dieser Überblick besteht, können sie beurteilen, welche Systeme besondere Aufmerksamkeit benötigen.
Sie wollen mehr zum Industrial Cyber Resilience Summit erfahren? Klicken Sie hier!mi-connect
Sobald klar ist, wo KI eingesetzt wird, geht es um die einzelnen Entscheidungen. Unternehmen sollten bei wichtigen KI-gestützten Entscheidungen nachvollziehen können:
Anzeige
Welches System war beteiligt?
Welche Daten lagen ihm zu diesem Zeitpunkt vor?
Woher kamen sie und wie aktuell waren sie?
Das kann beispielsweise relevant sein, wenn eine Bank einen Kreditantrag bewertet, ein Versicherer ein Risiko berechnet oder ein Unternehmen Bewerbungen vorsortiert. Das Ergebnis allein reicht nicht aus. Entscheidend ist auch, auf welcher Datengrundlage es zustande kam. Die Dokumentation eines KI-Modells kann zeigen, wie ein System entwickelt und getestet wurde. Sie zeigt aber nicht automatisch, welche Informationen ihm bei einer konkreten Entscheidung tatsächlich vorlagen.
Priorität 3: KI auch nach der Einführung im Blick behalten
Anzeige
Nachvollziehbarkeit ist nicht nur bei einzelnen Entscheidungen wichtig. Ein KI-System kann in Tests gut funktionieren und sich im täglichen Einsatz trotzdem anders verhalten. Deshalb endet KI-Governance nicht mit der Einführung. Das KI-Gesetz stellt bei Hochrisiko-KI unter anderem Anforderungen an Datenqualität, Protokollierung, technische Dokumentation, menschliche Aufsicht, Robustheit, Cybersicherheit und Genauigkeit. Unternehmen müssen festlegen, welche Vorgänge dokumentiert werden, welche Auffälligkeiten untersucht werden müssen und wie sich im Problemfall die notwendigen Informationen zusammenbringen lassen.
Priorität 4: KI-Governance mit bestehenden Prozessen verbinden
Dafür müssen Unternehmen nicht alles neu aufbauen. Sie haben bereits Prozesse und Regeln für Daten, Sicherheit, Beschaffung und operative Risiken. KI-Governance sollte daran anknüpfen, statt daneben ein separates System zu schaffen. Siemens nutzt beispielsweise eine zentrale Daten-Streaming-Plattform von Confluent, um Daten zwischen operativen Systemen, Unternehmensanwendungen, Data Warehouses sowie KI- und Machine-Learning-Plattformen bereitzustellen. Dadurch können Teams über verschiedene Systeme hinweg konsistenter auf Daten zugreifen und diese verwalten.
Anzeige
Mehr Zeit bedeutet nicht weniger Handlungsbedarf
Die verlängerten Fristen verschaffen Unternehmen mehr Zeit. Sie ändern aber nichts an den grundlegenden Aufgaben: Unternehmen müssen wissen, wo KI eingesetzt wird, konkrete Entscheidungen nachvollziehen können und ihre Systeme auch nach der Einführung im Blick behalten. Wenn die entsprechenden Vorgaben greifen, reicht es nicht, die Regeln zu kennen. Unternehmen müssen auch belegen können, wie ihre KI-Systeme tatsächlich arbeiten. Genau dafür sollten sie die zusätzliche Zeit jetzt nutzen.
Quelle: Mit Material von Confluent
Anzeige
Was Sie zum EU AI Act wissen müssen
1. Welche Fristen des EU AI Acts wurden verlängert?
Mit dem „AI Omnibus“ verlängert die EU bestimmte Umsetzungsfristen für Hochrisiko-KI. Betroffen sind unter anderem Anwendungen in Beschäftigung, Bildung, kritischer Infrastruktur und beim Zugang zu wesentlichen Dienstleistungen.
2. Welche Anforderungen stellt der EU AI Act an Hochrisiko-KI?
Der EU AI Act sieht unter anderem Anforderungen an Datenqualität, Protokollierung, technische Dokumentation, menschliche Aufsicht, Robustheit, Cybersicherheit und Genauigkeit vor.
3. Warum müssen Unternehmen beim EU AI Act ihre KI-Systeme erfassen?
Nur mit einem vollständigen Überblick über eingesetzte KI-Anwendungen können Unternehmen beurteilen, welche Systeme besondere Aufmerksamkeit benötigen. Dazu gehören auch KI-Funktionen in Software externer Anbieter.
4. Welche Rolle spielt die Nachvollziehbarkeit beim EU AI Act?
Unternehmen sollten dokumentieren können, welche KI-Systeme an Entscheidungen beteiligt waren und welche Daten ihnen zum jeweiligen Zeitpunkt vorlagen. Die reine Dokumentation eines KI-Modells reicht dafür nicht automatisch aus.
5. Wie können Unternehmen die Umsetzung des EU AI Acts vorbereiten?
Entscheidend sind die systematische Erfassung aller KI-Anwendungen, die Dokumentation konkreter Entscheidungen, die laufende Überwachung der Systeme und die Integration der KI-Governance in bestehende Unternehmensprozesse.
