KI in der Cybersecurity

KI in der Cybersecurity soll Angriffe schneller erkennen und Sicherheitsteams entlasten. Doch auch Cyberkriminelle nutzen künstliche Intelligenz für Phishing, Deepfakes und automatisierte Angriffe.

Wir zeigen, wie Unternehmen künstliche Intelligenz zur Cyberabwehr nutzen, welche Gefahren dabei entstehen und worauf es bei modernen IT-Sicherheitslösungen ankommt.

Was bedeutet KI in der Cybersecurity?

KI in der Cybersecurity bezeichnet den Einsatz künstlicher Intelligenz zur Erkennung, Bewertung und Abwehr digitaler Bedrohungen. Systeme analysieren dafür Anmeldevorgänge, Netzwerkverbindungen, E-Mails, Dateien und Aktivitäten auf Endgeräten.

Sie suchen nach Auffälligkeiten, die auf einen Angriff oder den Missbrauch eines Benutzerkontos hindeuten. Bei ungewöhnlichen Anmeldungen können sie Warnungen auslösen oder Zugriffe blockieren. Dennoch ersetzt KI keine grundlegenden Schutzmaßnahmen. Sichere Passwörter, Mehrfaktor-Authentifizierung, regelmäßige Updates, Datensicherungen und klar geregelte Zugriffsrechte bleiben notwendig.

Fehlen Protokolldaten oder sind Systeme falsch konfiguriert, kann KI Bedrohungen übersehen. Unternehmen sollten sie deshalb als Ergänzung verstehen und wichtige Entscheidungen weiterhin vor einer Umsetzung sorgfältig durch verantwortliche Beschäftigte prüfen lassen.

Wie Cyberkriminelle künstliche Intelligenz einsetzen

Nicht nur Unternehmen und Sicherheitsanbieter profitieren von künstlicher Intelligenz. Auch Cyberkriminelle können KI verwenden, um Angriffe schneller vorzubereiten, besser zu skalieren und glaubwürdiger zu gestalten.

Generative KI erstellt innerhalb kurzer Zeit professionell formulierte Texte in unterschiedlichen Sprachen. Dadurch lassen sich Phishing-Nachrichten genauer an bestimmte Personen, Abteilungen oder Branchen anpassen. Rechtschreibfehler und ungewöhnliche Formulierungen, die früher häufig auf Betrugsversuche hingewiesen haben, treten seltener auf.

Angreifer können außerdem öffentliche Informationen aus Unternehmenswebseiten, sozialen Netzwerken oder Stellenanzeigen sammeln und daraus Nachrichten mit Bezug zu Kollegen, Projekten oder eingesetzter Software erstellen.

KI-Phishing, Deepfakes und automatisierte Angriffe

Besonders deutlich zeigt sich der Einfluss von künstlicher Intelligenz beim Social Engineering. Angreifer versuchen dabei, Menschen zur Preisgabe von Zugangsdaten, zum Öffnen von Anhängen oder zur Freigabe von Zahlungen zu bewegen.

KI-gestützte Phishing-Nachrichten können den Schreibstil bekannter Personen nachahmen und reale Unternehmensvorgänge aufgreifen. Auch künstlich erzeugte Stimmen und Videos erhöhen das Risiko. Mithilfe von Deepfakes imitieren Täter beispielsweise Führungskräfte in Telefonaten oder Videokonferenzen. Unternehmen sollten sensible Entscheidungen deshalb nie allein auf digitale Nachrichten stützen.

Überweisungen, geänderte Bankverbindungen und vertrauliche Anfragen müssen über einen zweiten, bekannten Kommunikationsweg bestätigt werden. Verbindliche Freigabeprozesse helfen zusätzlich, ungewöhnliche Anfragen frühzeitig zu erkennen und wirksam abzuwehren.

Wie KI Unternehmen bei der Cyberabwehr unterstützt

Moderne IT-Umgebungen erzeugen täglich große Mengen an Protokolldaten, Warnmeldungen und Sicherheitsereignissen. Eine vollständige manuelle Prüfung ist deshalb oft nicht möglich. KI-Systeme führen Informationen aus Endgeräten, Benutzerkonten, Cloud-Diensten, Anwendungen, E-Mail-Systemen und Netzwerken zusammen.

Sie bewerten verdächtige Ereignisse, priorisieren Warnmeldungen und entlasten Sicherheitsteams bei der Analyse. So lassen sich Schadsoftware, auffällige E-Mails und ungewöhnliche Kontobewegungen schneller erkennen. Eine KI kann beispielsweise ungewöhnlich viele Downloads oder Zugriffe auf sensible Daten feststellen.

Ihr Nutzen hängt jedoch von vollständigen Daten und einer korrekten Konfiguration ab. Fehlen Informationen oder sind Sicherheitsregeln falsch eingerichtet, kann auch ein leistungsfähiges System Bedrohungen übersehen. Auch Fehlalarme können dadurch häufiger auftreten.

KI-Agenten erkennen Schwachstellen und Sicherheitsrisiken

KI-Agenten werten nicht nur Daten aus, sondern können je nach Konfiguration selbstständig Untersuchungen durchführen und Schutzmaßnahmen vorbereiten. Sie prüfen beispielsweise verdächtige Anmeldungen, analysieren Kontobewegungen, isolieren Geräte oder sperren Benutzerkonten vorübergehend.

Dadurch sollen Sicherheitsteams entlastet und Reaktionszeiten verkürzt werden. Unternehmen müssen jedoch klar festlegen, welche Entscheidungen automatisiert erfolgen dürfen. Microsoft entwickelt dafür spezialisierte KI-Modelle und agentenbasierte Systeme, die Angriffswege suchen, Risiken bewerten und Gegenmaßnahmen vorbereiten. Auch Schwachstellen im Programmcode lassen sich damit analysieren und priorisieren.

Automatisierte Maßnahmen sollten zunächst kontrolliert getestet werden, da Fehlentscheidungen wichtige Systeme beeinträchtigen oder den laufenden Geschäftsbetrieb unnötig unterbrechen können. Klare Freigaben und Protokolle bleiben daher unverzichtbar.

Risiken beim Einsatz von KI-Sicherheitssystemen

Wir sehen also: Der Einsatz von künstlicher Intelligenz bringt ganz neue Risiken mit sich. KI-Systeme können Bedrohungen übersehen, Zusammenhänge falsch bewerten oder unzutreffende Empfehlungen geben. Vertrauliche Daten wie Quellcode, Kundendaten oder Verträge dürfen deshalb nicht unkontrolliert in frei verfügbare Dienste eingegeben werden.

Unternehmen benötigen klare Regeln für zugelassene Anwendungen, erlaubte Daten und notwendige Freigaben. Auch die Systeme selbst müssen geschützt werden, etwa vor manipulierten Eingaben, kompromittierten Konten oder zu weitreichenden Berechtigungen. Protokollierung, Zugriffskontrollen und regelmäßige Prüfungen bleiben unverzichtbar.

KI sollte Sicherheitsexperten unterstützen, aber nicht ersetzen. Die endgültige Bewertung geschäftskritischer Vorgänge muss weiterhin bei verantwortlichen Beschäftigten liegen und nachvollziehbar dokumentiert werden.

Risiken entstehen unter anderem durch falsche Bewertungen, unkontrollierte Automatisierung und den Umgang mit vertraulichen Daten. Bild: Pexels

IT-Dienstleister unterstützen bei KI in der Cybersecurity

Wirksame Cybersecurity mit KI verbindet technische Schutzmaßnahmen, klare Prozesse und geschulte Beschäftigte. Unternehmen sollten prüfen, welche Systeme, Daten und Konten besonders geschützt werden müssen und wo KI sinnvoll eingesetzt werden kann.

Datenschutz, Zugriffsrechte, Protokollierung und menschliche Freigaben bleiben dabei entscheidend. KI-Systeme benötigen außerdem aktuelle Daten, sichere Konfigurationen und regelmäßige Kontrollen. Die Experten aus dem IT-SERVICE.NETWORK unterstützen und beraten bei der Auswahl und Einführung geeigneter Sicherheitslösungen. Sie helfen, Benutzerkonten, Endgeräte, E-Mail-Systeme, Netzwerke und Cloud-Dienste abzusichern.

Zudem entwickeln sie klare Abläufe für Warnmeldungen, verdächtige Anmeldungen und mögliche Cyberangriffe. So bleibt der Einsatz von KI sicher und kontrollierbar. So können Unternehmen die Risiken beim Einsatz von KI besser begrenzen und Sicherheitsmaßnahmen gezielt unterstützen.

---

Weiterführende Informationen:
digitalbusiness-magazin, heise, microsoft blog, BSI
Zur besseren Lesbarkeit verwenden wir im Text die männliche Form. Gemeint sind jedoch immer alle Geschlechter und Geschlechtsidentitäten.