Wie KI-Cyberangriffe Unternehmen bedrohen

Künstliche Intelligenz hat sich zum zentralen Werkzeug in Unternehmen entwickelt. Gleichzeitig nutzen Cyberkriminelle die Technologie gezielt für Angriffe. So ermöglicht insbesondere GenAI die Erstellung täuschend echter Phishingmails oder Deepfakes. Parallel dazu geraten KI-Modelle selbst in den Fokus von Angriffen. Methoden wie Data Poisoning oder Prompt Injection zeigen, dass nicht nur Anwendungen, sondern auch die zugrunde liegenden Systeme verwundbar sind. Wie funktionieren KI-Cyberangriffe? NTT Data zeigt Methoden, Risiken und Schutzmaßnahmen gegen Manipulation durch Künstliche Intelligenz.

Wie funktioniert Data Poisoning?

Data Poisoning zählt laut NTT Data zu den subtilsten Angriffsmethoden. Dabei manipulieren Angreifer gezielt Trainings- oder Validierungsdaten, um Modelle zu verfälschen. Die Folgen können gravierend sein: Spamfilter erkennen schädliche Inhalte nicht mehr oder Systeme zur Anomalieerkennung klassifizieren ungewöhnliche Vorgänge als normal. Hinweise liefern plötzliche Qualitätsverluste oder statistische Auffälligkeiten. Als Gegenmaßnahmen nennt NTT Data eine strikte Kontrolle der Datenherkunft, Versionierung sowie regelmäßige Validierung der Modelle.

Warum ist Prompt Injection besonders kritisch?

Prompt Injection zielt auf KI-Systeme in Anwendungen wie Chatbots oder digitalen Assistenten. Angreifer versuchen, durch manipulierte Eingaben Sicherheitsmechanismen zu umgehen. Die Konsequenzen reichen von ungewollten Systemreaktionen bis hin zu Datenabflüssen. Schutz bieten laut NTT Data mehrstufige Sicherheitsansätze, darunter Eingabevalidierung, klare Zugriffsrechte sowie kontrollierte Ausgabeprozesse.

KI-Cyberangriffe durch Social Engineering und Deepfakes

Moderne Angriffe kombinieren KI mit klassischen Social-Engineering-Methoden. Text-, Sprach- und Bildgeneratoren ermöglichen hochgradig personalisierte Täuschungen. Beim Pretexting geben sich Angreifer etwa als interne IT-Mitarbeiter aus, um Zugangsdaten zu erhalten. Scareware setzt Nutzer gezielt unter Druck. Dadurch steigen die Erfolgschancen für CEO-Fraud oder unautorisierte Zahlungen. Auffällig ist laut NTT Data die hohe Qualität der Inhalte: Texte wirken stilistisch einwandfrei, während bei Audio- oder Videomaterial nur minimale Unstimmigkeiten erkennbar sind. Unternehmen begegnen diesen Risiken durch Identitätsprüfungen, Schulungen und Technologien zur Deepfake-Erkennung.

Welche Rolle spielen Adversarial Examples?

Adversarial Examples greifen KI-Modelle auf technischer Ebene an. Bereits minimale Veränderungen an Daten können zu Fehlklassifikationen führen. Das betrifft insbesondere Bildverarbeitungssysteme oder industrielle Sensorik. Inkonsistenzen zwischen Modellprognosen und realen Beobachtungen gelten als Warnsignal. Zur Absicherung empfiehlt NTT Data unter anderem gezieltes Nachtraining mit manipulierten Daten sowie zusätzliche Validierungsschichten.

Wie verändert KI die Entwicklung von Malware?

Auch die Malware-Entwicklung profitiert von KI. Schadsoftware kann schneller angepasst, gezielt auf Systeme zugeschnitten und vorab getestet werden. Dadurch steigt die Anzahl schwer erkennbarer Varianten. Klassische signaturbasierte Sicherheitsansätze stoßen an ihre Grenzen. Stattdessen gewinnen verhaltensbasierte Analysen, Sandboxing und automatisierte Threat-Intelligence-Prozesse an Bedeutung.

Ganzheitliche Sicherheitsstrategie als Schlüssel

Die zunehmende Komplexität von KI-Cyberangriffen erfordert umfassende Sicherheitskonzepte. „KI ist ein Werkzeug – und wie jedes Werkzeug kann es sinnvoll genutzt oder eben missbraucht werden. Entscheidend ist, dass Unternehmen ihre Modelle, Datenpipelines und Betriebsprozesse genauso gut absichern wie klassische IT-Komponenten“, betont Christian Koch, Senior Vice President Cybersecurity IT/OT, Innovations & Business Development bei NTT Data DACH. „Nur mit einem ganzheitlichen Ansatz aus Governance, technischen Maßnahmen und Prozessen lässt sich verhindern, dass KI zum Einfallstor wird.“

Quelle: NTT Data