Für die Studie „Neue Abwehrmechanismen, neue Bedrohungen: Was KI und generative KI für die Cybersicherheit bedeuten“ hat das Capgemini Research Institute 1.000 Unternehmen aus zwölf Branchen und 13 Ländern im asiatisch-pazifischen Raum, Europa und Nordamerika befragt. Diese Unternehmen erwägen bereits den Einsatz von künstlicher Intelligenz für die Cyber-Sicherheit oder setzen sie bereits ein. Ein Ergebnis der Studie zeigt: Gen AI vergrößert einerseits Schwachstellen. Es entstehen neue Cyber-Sicherheitsrisiken. Andererseits erwartet mehr als jedes zweite Unternehmen, durch die Technologie Bedrohungslagen schneller zu erkennen und Fehler zu vermeiden. Die starke Verbreitung von KI und generativer KI (Gen AI) erfordert eine Transformation der Cyber-Abwehrstrategien, um Bedrohungen zu prognostizieren, zu erkennen und darauf zu reagieren. Zwei Drittel der Organisationen räumen derzeit dem Einsatz von KI in ihren Cyber Security Operations Priorität ein.
Die Studie ergab, dass Organisationen KI zwar als eine Technologie mit strategischer Bedeutung für die Stärkung ihrer Cyber-Sicherheitsstrategien betrachten. Die breite Einführung von generativer KI in verschiedenen Branchen führt jedoch zu einer erhöhten Gefährdung.
Generative KI bringt für Organisationen drei große Risikobereiche mit sich:
- ausgefeiltere Angriffe durch eine größere Anzahl von Akteuren
- eine wachsende Angriffsfläche
- die Zunahme von Schwachstellen während des gesamten Lebenszyklus einzelner Lösungen der generativen KI.
Der Missbrauch von KI und generativer KI durch Mitarbeitende verschärft die Situation und kann das Risiko von Datenlecks deutlich erhöhen.
Intelligente Tools unterstützen die Cyber-Sicherheit, um Angriffe abzuwehren. „Der Einsatz von KI und Gen AI ist ein zweischneidiges Schwert: Einerseits bringt er zuvor ungekannte Risiken hervor; andererseits erkennen Organisationen Cyber-Sicherheitsvorfälle durch KI schneller und präziser. Intelligente Tools helfen Teams der in IT-Sicherheit dabei, Angriffe abzuwenden, ihre Strategien weiterzuentwickeln und die Sicherheitslandschaft in der steten Bedrohungslage konstant zu überwachen. Entscheidend sind dabei die richtige Infrastruktur für Datenmanagement, geeignete Frameworks und ethische Richtlinien zur Integration von KI sowie der Faktor Mensch. Trainings und Sensibilisierungsprogramme für Mitarbeitende gehören in den Alltag“, so Mete Boz, Cyber-Security-Experte bei Capgemini in Deutschland.
Zwei Drittel der Organisationen befürchten erhöhte Risiken durch generative KI
Mit 97 Prozent berichten fast alle befragten Organisationen von Sicherheitsverletzungen oder -problemen im Zusammenhang mit dem Einsatz von Gen AI im vergangenen Jahr. Die Technologie birgt auch neue Risiken wie die Erzeugung voreingenommener, schädlicher oder unangemessener Inhalte sowie Prompt Injection-Angriffe. Zwei von drei Organisationen befürchten Data Poisoning und den Verlust sensibler Daten aus Datensätzen, die zum Training von Gen AI-Modellen verwendet werden.
Auch die Fähigkeit generativer KI, hochrealistische synthetische Inhalte zu erzeugen, birgt neue Risiken. Mehr als zwei von fünf der befragten Unternehmen (43 Prozent) geben an, durch einen Deepfake-Angriff finanzielle Verluste erlitten zu haben. Fast sechs von zehn Unternehmen halten es für notwendig, ihr Cyber-Sicherheitsbudget zu erhöhen, um ihre Abwehrkräfte entsprechend zu stärken.
KI und generative KI unverzichtbar für Angriffserkennung und -abwehr
Die Befragung von 1.000 Organisationen, die KI für ihre Cyber-Sicherheit erwägen oder bereits einsetzen, zeigt, dass die meisten dies tun, um ihre Daten-, Anwendungs- und Cloud-Sicherheit zu verbessern. Diese Technologie ermöglicht es ihnen, riesige Datenmengen in kürzester Zeit zu analysieren, Muster zu erkennen und potenzielle Sicherheitsverletzungen vorherzusagen.
Seit der Integration von KI in ihre Security Operations Centers (SOCs) konnten mehr als 60 Prozent der Befragten die Zeit bis zur Erkennung von Angriffen um mindestens fünf Prozent verkürzen. Fast 40 Prozent stellten eine um mindestens fünf Prozent verkürzte Zeit zur Behebung von Sicherheitsvorfällen fest. Drei von fünf der befragten Organisationen halten KI für unverzichtbar, um effektiv auf Bedrohungen reagieren zu können, da sie die Umsetzung proaktiver Sicherheitsstrategien gegen immer versiertere Angreifer ermöglicht. Darüber hinaus erwartet derselbe Anteil der Befragten, dass Gen AI es ihnen langfristig ermöglichen wird, proaktive Abwehrstrategien zu entwickeln und Bedrohungen schneller zu erkennen. Mehr als die Hälfte der Befragten ist außerdem der Ansicht, dass diese Technologie es Cyber-Sicherheitsanalysten ermöglichen wird, sich stärker auf Strategien zur Bekämpfung komplexer Bedrohungen zu konzentrieren.
Die vollständige Studie (in englischer Sprache) kann hier heruntergeladen werden.
Hintergrund zur Methodik der Studie
Die Umfrage wurde im Mai 2024 durchgeführt. Die befragten Unternehmen stammen aus den Branchen Automobil, Konsumgüter, Einzelhandel, Banken, Versicherungen, Telekommunikation, Energie und Versorgung, Luftfahrt und Verteidigung, Hightech, Maschinen- und Anlagenbau, Pharma und Gesundheit sowie aus dem öffentlichen Sektor.
