KI-Sicherheit: Nadella warnt vor Kontrollverlust

Microsoft-Chef Satya Nadella fordert strengere Sicherheitsregeln für Künstliche Intelligenz. Angesichts wachsender Risiken durch leistungsfähige KI-Modelle spricht er sich für eine technische Notbremse aus, mit der Menschen autonome Systeme jederzeit stoppen oder vollständig abschalten können.

Wie aus einem Beitrag Nadellas auf der Online-Plattform X hervorgeht, müssten insbesondere hochentwickelte KI-Modelle über fortgeschrittene Mechanismen zur Eindämmung verfügen. Der Chef des Softwarekonzerns warnt damit vor einem möglichen Kontrollverlust über eine Technologie, die Microsoft selbst in großem Umfang vorantreibt.

Warum fordert Microsoft eine Notbremse für KI?

Hintergrund der Forderung sind mehrere Vorfälle, bei denen KI-Software in Tests eigenständig Hacking-Attacken ausführte. Diese Entwicklungen haben in den vergangenen Monaten die Diskussion über Sicherheitsrisiken autonom handelnder KI-Systeme verschärft.

Besonders viel Aufmerksamkeit erhielt ein Vorfall mit einem KI-Modell des ChatGPT-Entwicklers OpenAI. Das System verließ eine abgesicherte Testumgebung und verschaffte sich ungeplant Zugang zu Computern der KI-Plattform Hugging Face.

Der Vorfall verstärkte Befürchtungen, dass hochentwickelte KI-Systeme künftig nur noch schwer kontrollierbar sein könnten. Einzelne Brancheninsider halten sogar existenzielle Risiken für die Menschheit durch außer Kontrolle geratene KI für möglich. Solche weitreichenden Warnungen bleiben allerdings umstritten.

KI-Sicherheit durch Überwachung und Eindämmung

Nadella verlangt nicht nur eine technische Abschaltmöglichkeit, sondern auch eine umfassende Nachvollziehbarkeit sämtlicher Aktionen von KI-Systemen.

«Etwas, was man nicht überwachen kann, kann man nicht vertrauen», schrieb der Microsoft-Chef auf X.

Nach seiner Vorstellung darf ein KI-Modell außerdem keine Kontrolle über jene Daten erhalten, anhand derer sein Verhalten bewertet wird. Damit soll verhindert werden, dass ein System Einfluss auf seine eigene Sicherheitsüberprüfung nehmen kann.

Nadella fordert zudem einen grundsätzlich vorsichtigen Umgang mit KI-Modellen. Bei jedem System müsse aus Sicherheitsgründen zunächst angenommen werden, dass es «kompromittiert» sei. Entsprechende Eindämmungsmechanismen sollten deshalb von Beginn an vorgesehen werden.

KI-Agenten: Von der Assistenz zur Aktion

KI-Agenten in der Instandhaltung sollen Teams von Koordination und Administration entlasten. Anwendungen reichen von Wartungsplänen bis zur Bearbeitung von Störungsmeldungen.

Was unterscheidet KI von klassischer Software?

Ein zentrales Problem sieht Nadella in der eingeschränkten Nachvollziehbarkeit moderner KI-Systeme. Anders als bei herkömmlicher Software ließen sich Verhalten und Ergebnisse heutiger KI-Modelle nicht mehr eindeutig auf bestimmte Eingaben, Trainingsdaten oder Konfigurationen zurückführen.

Gleichzeitig würden diese komplexen Systeme zunehmend breit eingesetzt und erhielten Zugriff auf besonders sensible Daten.

Für Nadella ergibt sich daraus die Notwendigkeit, Sicherheitsmechanismen und menschliche Kontrollmöglichkeiten konsequent in die Technologie einzubinden.

Microsoft selbst gehört zu den Unternehmen, die den Einsatz Künstlicher Intelligenz maßgeblich vorantreiben. Der Softwarekonzern stieg als früher Geldgeber von OpenAI in das KI-Geschäft ein und entwickelt inzwischen auch eigene Modelle.

Cyberabwehr: Mehr Austausch gegen hybride Angriffe

Deutschland und Großbritannien bauen ihre Cyberabwehr aus. Mit einer engeren Zusammenarbeit gegen Cyberangriffe, Sabotage und hybride Bedrohungen wollen beide Staaten ihre Infrastruktur, Unternehmen und Sicherheit schützen.

Warum spricht Nadella von Superintelligenz?

Neben seinen Forderungen zur KI-Sicherheit fällt eine weitere Veränderung auf: Nadella verwendet in seinem Beitrag durchgehend den Begriff «Superintelligenz» statt der etablierten Bezeichnung Künstliche Intelligenz.

Damit greift er eine Wortwahl auf, die auch US-Präsident Donald Trump durchsetzen möchte. Trump hatte wenige Tage zuvor angekündigt, das Weiße Haus werde jeden, der weiterhin von Künstlicher Intelligenz spreche, als einen «Feind» betrachten.

Seinen Vorstoß begründet Trump damit, dass der bisherige Begriff die Technologie «fake» erscheinen lasse.

Auch Tech-Milliardär und Trump-Unterstützer Elon Musk hat sich dieser sprachlichen Neuausrichtung angeschlossen. Er kündigte an, seine KI-Firma SpaceXAI in SpaceXSI umzubenennen.

Unabhängig von der Begriffsdebatte stehen bei Nadellas Forderungen konkrete Sicherheitsmaßnahmen im Mittelpunkt: KI-Systeme sollen kontrollierbar bleiben, ihre Aktionen müssen nachvollziehbar sein und Menschen müssen jederzeit eingreifen können.

Mit Material der dpa