KI in der Cybersecurity: Wohin geht die Reise?

Künstliche Intelligenz und maschinelles Lernen kommen in der Cybersicherheit schon lange zum Einsatz – etwa bei der Anomalieerkennung, bei der Filterung von Spam- und Phishing-Mails oder auch zur Verhinderung von Business-E-Mail-Compromise­(BEC)-­Angriffen mittels Schreibstilanalyse. Die nächste Evolu­tionsstufe waren generative KI-Assistenten, die als User-Interface die Bedienung von Cybersecurity-Lösungen in natürlicher Sprache ermöglichen.

Aktuell stehen wir vor dem nächsten Schritt der technologischen Entwicklung im Bereich KI für die Cybersecurity: KI-Agenten, die in der Lage sind, Cyberangriffe zu verhindern, bevor diese geschehen. Basierend auf speziellen Large Language Models (LLMs) werden diese sowohl mit allgemeinem Cybersecurity-Wissen trainiert als auch mit spezifischen Daten aus dem Unternehmen, das sie einsetzt. Daher kennen sie die IT-Infrastruktur und typische Verhaltensmuster und sind mit der Umgebung ähnlich vertraut wie ein menschlicher Security-Mitarbeiter. Die KI kann somit eigenständig Aufgaben im Risikomanagement übernehmen und sowohl Empfehlungen zur Risikominderung geben als auch Schwachstellen automatisch beheben, sofern dies gewünscht ist.

Mit KI Cyberangriffe vorhersagen

Eine besonders wegweisende KI-Anwendung ist die Vorhersage von Angriffswegen: Trainiert man die KI mit Threat-Intelligence-Daten, kennt sie nicht nur die eigene IT-Umgebung, sondern auch die üblichen Vorgehensweisen von Cyberkriminellen. Der KI-Agent kann dann nicht nur Schwachstellen innerhalb der Umgebung finden, sondern auch erkennen, über welchen Eintrittsvektor ein möglicher Cyberangreifer – etwa ein Ransomware-Akteur – in die Systeme eindringen, wie er sich darin weiter fortbewegen und auf welche Assets er zugreifen würde. Basierend auf diesen Informationen kann der Agent Massnahmen ergreifen, um eben dies zu verhindern. 

Das stellt einen echten Paradigmenwechsel dar: Bisher wurde KI in der Cybersicherheit eingesetzt, um bereits bekannte Informationen über Bedrohungen zu sammeln, zu kategorisieren und wiederzukäuen. Jetzt sind wir erstmalig an dem Punkt angelangt, dass das LLM Angriffswege vorhersagen kann, bevor diese ausgenutzt werden. Somit ermöglicht die Technologie einen Wandel hin zu proaktiver Cybersicherheit. Durch weitgehende Automatisierungsmöglichkeiten entlasten KI-Agenten zudem die vorhandenen Security-Teams. Indem diese mit weniger Alarmen konfrontiert sind, können sie besser priorisieren, sich auf die wirklich wichtigen Vorfälle konzentrieren und diese bestmöglich bearbeiten. 

Das SIEM der Zukunft ist KI-gestützt

Grosses Potenzial bietet KI auch im Bereich SIEM (Security Information and Event Management) und SOAR (Security Orchestration Automation and Response). KI-gestützte SIEM-Systeme sind in der Lage, automatisiert Daten aus verschiedenen Quellen wie Endpoint-Lösungen, Event-Logs oder Clouds zu sammeln und zu bereinigen. Diese aufbereiteten und transformierten Daten lassen sich dann nahtlos in einheitliche Schemata integrieren, auf Bedrohungen analysieren und übersichtlich darstellen. 

Nicht zuletzt ermöglicht KI bei der Reaktion auf Vorfälle weitreichende Unterstützung und Automatisierung. So lässt sich etwa das Security Operations Center (SOC) mit automatisierten KI-Vorschlägen zur Detection und Response erweitern. Damit verschwindet die Grenze zwischen SIEM, SOAR und Extended Detection and Response (XDR).

"Herausforderungen sind die Manipulierbarkeit und fehlende Transparenz"

KI-Agenten finden vermehrt Einzug in Unternehmen. Sie können die Cybersecurity verbessern, aber auch zahlreiche andere Aufgaben übernehmen. Was man bei ­intelligenten Assistenten ­beachten sollte und wie zuverlässig diese sein können, erklärt Richard Werner, Cybersecurity Platform Lead Europe bei Trend Micro. Interview: Tanja Mettauer

Mit welchen Massnahmen können Unternehmen dafür sorgen, dass Cyberkriminelle KI-Agenten nicht manipulieren oder deren Wissen zur IT-Infrastruktur ausnutzen?

Richard Werner: Unternehmen müssen die unterschiedlichen Einsatzzwecke und Wirkungsweisen von KI-Agenten sorgfältig analysieren und potenzielle Gefahren verstehen. Die Dateneingabe und -ausgabe spielen eine entscheidende Rolle, wobei extern zugängliche KI-Systeme andere Massnahmen erfordern als interne Lösungen. Grundlegend ist eine strikte Kontrolle der Dateneingaben. Unternehmen müssen präzise festlegen, wer Eingaben tätigen darf, mit besonderem Fokus auf die Verhinderung von Manipulationsversuchen wie Prompt Injection und die Einhaltung datenschutzrechtlicher Beschränkungen. 

Welche Herausforderungen bringen KI-Agenten mit sich, die weitgehend autonom Sicherheitsentscheidungen treffen können? 

Die zentralen Herausforderungen liegen in der Manipulierbarkeit und fehlenden Transparenz solcher Systeme. Angreifer können gezielt ungewöhnliche Szenarien konstruieren oder Trainings­daten infiltrieren, um die Entscheidungsfindung zu kompromittieren. Aus diesem Grund haben wir bei der Entwicklung und beim Training unserer eigenen KI auch höchste Sicherheits- und Qualitätsstandards angelegt. Besonders neuralgisch sind nicht-transparente neuronale Netze, bei denen eingebrachte Manipulationen kaum mehr rückgängig zu machen sind. Die Autonomie solcher Systeme erfordert daher höchste Wachsamkeit: Während KI schnelle und datenbasierte Entscheidungen treffen kann, bleibt das Rest­risiko einer Fehleinschätzung stets präsent. Die Kunst liegt in der Balance zwischen KI-Effizienz und menschlicher Kontrolle.

Wie zuverlässig sind KI-Agenten mit ihren Einschätzungen und wie lassen sich Fehlalarme vermeiden? 

Die Zuverlässigkeit von KI-Agenten korreliert direkt mit der Menge der relevanten Trainingsdaten. Je besser trainiert, desto geringer die Fehlerquote – eine vollständige Fehlervermeidung bleibt jedoch unrealistisch. Herausforderungen wie beim autonomen Fahren betreffen nicht nur die technische Präzision, sondern auch die Verantwortungsfrage bei Fehlern. Um Risiken zu minimieren, sind kontinuierliche Modelloptimierungen und Anomalie-Erkennungssysteme entscheidend. Die Schnittstelle zum Menschen bleibt kritisch: Nur wenn Leistungsgrenzen bekannt sind, kann KI gezielt und optimiert eingesetzt werden, um zuverlässigere Entscheidungen treffen zu können.

Wie stellen Unternehmen sicher, dass die von der KI verarbeiteten und aggregierten Daten zuverlässig und konsistent sind? 

Unternehmen gewährleisten die Zuverlässigkeit von KI-Daten durch einen mehrstufigen Ansatz mit sorgfältiger Datenaufbereitung, kontinuierlichen Qualitätskontrollen und regelmässigen Technologie-Audits. Ein wirksamer Schutz erfordert strenge Zugangskontrollen und präzise Eingabeprüfungen. Diese verhindern sowohl unbeabsichtigte Compliance-Verstösse, wie die Eingabe sensibler Daten, als auch Manipulationsversuche. Speziell formulierte Anfragen könnten sonst die Sicherheitsbarrieren umgehen – Stichwort Prompt Injection. Zur Überprüfung der Systemresilienz empfehlen sich proaktive Massnahmen wie Red Teaming, die Angriffsmuster und Schwachstellen frühzeitig offenlegen.

Wie verändert die zunehmende Automatisierung die Rolle von Cybersecurity-Expertinnen und -Experten? 

Die Stärke kontextbewusster KI liegt in ihrer Fähigkeit, massive Datenmengen blitzschnell zu analysieren. Durch den direkten Abgleich von Threat Intelligence mit vorhandener IT-Infrastruktur lassen sich Systemvulnerabilitäten und Cyberrisiken nun präziser denn je transparent und kalkulierbar machen. Für Sicherheitsexperten bedeutet dies eine Transformation ihrer Rolle: weg vom reinen Brandlöscher, hin zum strategischen Risikomanager. Die Kommunikation mit dem Management vereinfacht sich, Risiken können systematischer und stressfreier bearbeitet werden.

Weiterführende Informationen zum Zusammenspiel von KI und Cybersecurity finden Sie hier.