Gefahr durch GenAI-Inhalte steigt

Die Swisscom hat den Cyber Security Threat Radar 2024 veröffentlicht. Darin beleuchtet der Telko eine Reihe von aktuellen und kommenden Cyberbedrohungen. Der Bericht zeige die Wichtigkeit von Cybersecurity in Unternehmen aller Grössen und rufe Firmen auf, ihre Cyberresilienz zu stärken, schreibt der Konzern.

"Der vorliegende Cyber Security Threat Radar verdeutlicht, dass der Schutz vor Cybergefahren und die Risikominderung keine einseitigen Prozesse sind und auch nicht ausschliesslich in der Verantwortung der IT liegen", sagt Marco Wyrsch, Head of Group Security bei Swisscom im Bericht, "Cybersicherheit ist Chefsache und erfordert die Beteiligung der gesamten Unternehmensführung."

Drei Brennpunkte

Der Threat Radar identifiziert aktuell drei Themen als besondere Brennpunkte. Dazu gehört die unverändert hohe Bedrohung durch Ransomware.

Der Swisscom Cyber Security Threat Radar 2024 (Source: zVg)

Auch der Arbeitsmarkt sei nach wie vor ein Brennpunkt. Der Bedarf an Cybersecurity-Spezialisten sei enorm gross und lasse sich nur sehr schwer decken. Das führe zu einem abnehmenden Know-how im Kampf gegen immer komplexere und intelligentere Angriffe.

Der dritte Brennpunkt sei die Integrität der IT-Infrastruktur. In wesentliche Komponenten kritischer Infrastrukturen können fahrlässig oder bewusst Schwachstellen eingebaut worden sein, welche die Systemsicherheit gefährden.

Die Swisscom prognostiziert zudem einen Anstieg an Supply-Chain-Angriffen. Diese könnten ebenfalls zu einem Brennpunktthema werden. Namentlich nennt Swisscom insbesondere die Gefahr, dass KI-Systeme Opfer von Lieferkettenangriffen werden könnten. Dies könnte  durch das Einschleusen von Schadcode in Open-Source-Bibliotheken geschehen, welche in einem KI-Modell verwendet werden.

Gefahr durch Realitätsverlust

Im KI-Bereich sieht die Swisscom allgemein ein erhöhtes Risiko. Manipulierte, generative KI soll laut Security Radar in den kommenden Jahren zu einem Hauptthema im Cyberspace werden.

"Wegen der probabilistischen Eigenschaften von GenAI und LLMs stehen wir vor neuen Security-Herausforderungen und -Risiken. Ein tiefgründiges Verständnis, wie LLMs funktionieren, ist Voraussetzung, um die richtigen Security-Massnahmen zu definieren und umzusetzen", sagt Beni Eugster, Cloud Operation Manager beim Swisscom Outpost im Silicon Valley.

Trotz der bedeutenden Fortschritte, die KI und maschinelles Lernen gemacht haben, seien diese Technologien anfällig für Angriffe. Konkret gebe es drei Aspekte bei denen KI-Systeme im Kontext von Cybersicherheit sichtbar sind:

• Verwendung von KI-Systemen für Angriffe: Bekannte Beispiele sind hier die Verfeinerung bekannter Angriffe wie CEO Fraud und Business Email Compromise (BEC) mittels AI-generierter Videos anstelle von einfachen E-Mails; realistischere Phishingmails AI-based Attacks.
  • Einsatz von AI zur Erkennung und zur Abwehr von Angriffen (z. B. bei Spam- und Phishingfiltern), in der Anomalieerkennung im Netzwerkverkehr, der Workflow-Unterstützung in der Cyber Defence (z. B. als Copilot), bei der Automatisierung von Analyseschritten, der Erstellung von Incident Timelines oder der Kommunikation mit Benutzern. Insgesamt ist hier mit weiteren intelligenten und automatisierten Security-Lösungen zu rechnen.
• Sicherheitslücken in eingesetzten AI-Systemen - zu finden etwa in den OWASP Top 10 for LLM oder dem MITRE ATLAS. Es geht hier also um AI Security Risks und nicht um Risiken durch die Nutzung von KI-Systemen.

Auch im Bereich "Desinformation & Destabilisation" beobachtet die Swisscom zunehmende Aktivität. Hier setzten Cyberkriminelle ebefalls auf KI, um die Realität zu verzerren und Unsicherheit und Unwissen zu verbreiten.

Der Wettlauf zwischen KI und Cybersecurity war auch Thema eines Webinars von Netzmedien und Mimecast. Hier lesen Sie, was Experten dazu zu sagen haben.

Dass KI eine Gefahr für die Demokratie werden kann - besonders im globalen Superwahljahr 2024 -zeigt auch ein Bericht von Check Point, welchen Sie hier nachlesen können.

Wenn Sie mehr zu Cybercrime und Cybersecurity lesen möchten, melden Sie sich hier für den Newsletter von Swisscybersecurity.net an. Auf dem Portal lesen Sie täglich News über aktuelle Bedrohungen und neue Abwehrstrategien.