KI-Agenten stellen Unternehmen vor Sicherheitsfragen

KI-Agenten übernehmen zunehmend komplexe Aufgaben, bearbeiten Prozesse eigenständig und greifen über Schnittstellen auf andere IT-Systeme zu. Doch genau diese Fähigkeiten sorgen in deutschen Unternehmen für erhebliche Sicherheitsbedenken.

Laut einer repräsentativen Befragung vom TÜV-Verband und des Bundesamts für Sicherheit in der Informationstechnik (BSI) befürchten 84 Prozent der Unternehmen Fehlentscheidungen aufgrund falscher oder erfundener Informationen.

Jeweils 78 Prozent sehen Gefahren durch neue Sicherheitslücken, den Abfluss sensibler Daten oder Geschäftsgeheimnisse sowie ungewollte Aktionen. Unklare Haftungsfragen bewerten 74 Prozent als hohes Risiko, externe Manipulationen 65 Prozent. Die zunehmende Eigenständigkeit von KI-Agenten stellt Unternehmen vor neue Herausforderungen bei Kontrolle und IT-Sicherheit. In den vergangenen Monaten sind entsprechende Systeme laut TÜV-Verband wiederholt unkontrolliert aus Testumgebungen ausgebrochen.

Warum gelten KI-Agenten
als Sicherheitsrisiko?

„Sicherheitsbedenken bremsen den KI-Einsatz, so lange Unternehmen nicht beurteilen können, ob eine KI im Betrieb sicher und kontrollierbar arbeitet“, erläutert Dr. Joachim Bühler, Geschäftsführer des TÜV-Verbands. Herstellerversprechen reichen aus seiner Sicht nicht aus. „Diese Bedenken lassen sich jedoch nicht mit Versprechen der Hersteller ausräumen, sondern nur mit verlässlichen Nachweisen. Unabhängige Prüfungen liefern diese Nachweise und schaffen damit die Vertrauensgrundlage für KI-Innovationen.“

Prüfpflicht für leistungsfähige KI-Modelle
vom TÜV-Verband gefordert

Der TÜV-Verband fordert verbindliche Sicherheitsprüfungen für besonders leistungsfähige KI-Modelle, sogenannte Frontier-Modelle. Die Prüfungen sollen vor der Markteinführung erfolgen, unabhängig von den Herstellern und im öffentlichen Auftrag. Dafür fordert der Verband internationale Standards. „Frontier-Modelle sind die Basistechnologie für tausende Anwendungen“, erklärt Bühler. „Ein Sicherheitsmangel im Modell setzt sich in jedem Produkt fort, das darauf aufbaut. Deshalb brauchen wir international verbindliche Prüfungen vor der Markteinführung – nach gemeinsamen Standards und durch unabhängige Stellen.“

TÜV-Verband warnt vor einem Flickenteppich
bei KI-Regeln

Neben verbindlichen Prüfungen fordert der TÜV-Verband eine einheitliche Anwendung des europäischen AI Acts. Hintergrund sind mögliche Sonderregelungen für KI in Medizinprodukten. „Datenqualität, Robustheit, Cybersicherheit und menschliche Aufsicht sind keine branchenspezifischen Fragen“, betont Bühler. „Verteilt man die KI-Anforderungen auf einzelne Sektoren, entsteht ein Flickenteppich. Zudem fallen viele Produkte unter mehrere Regelwerke zugleich: Ein OP-Roboter ist Medizinprodukt und Maschine.“

AI Act europaweit einheitlich anwenden

Auch die schnelle technologische Entwicklung spreche für einheitliche Vorgaben. „Es ist perspektivisch einfacher, an einer Stellschraube im AI Act zu drehen, als ständig mehrere Einzelgesetze parallel anzupassen“, verdeutlicht Bühler. Der TÜV-Verband fordert daher, den AI Act europaweit einheitlich anzuwenden und konsequent durchzusetzen.

Quelle: Mit Material vom TÜV-Verband