Dass KI-Tools nützlich sind, haben auch Cyberkriminelle entdeckt: Sie nutzen die praktischen Helfer gezielt für ihre Betrugstechniken. Für Unternehmen sind die KI-Angriffe eine weitere große Gefahr.
Wir erklären, wie Cyberkriminelle KI-Tools für sich nutzen und welche KI-Attacken Unternehmen auf dem Schirm haben müssen.
Auch Hacker nutzen KI-Tools
Anwendungen, die mit Künstlicher Intelligenz arbeiten, haben sich in der jüngsten Zeit als äußerst nützlich erwiesen. Der große Erfolg der KI-Tools zeigt sich in Nutzerzahlen, die teilweise Rekorde brechen – und er scheint die KI-Entwicklung noch einmal mächtig anzutreiben. Denn: Jeden Tag kommen weitere Tools auf den Markt, die die Art, wie wir arbeiten, revolutionieren sollen.
Die Einsatzmöglichkeiten sind schier unendlich: Texte und Präsentationen lassen sich mit KI-Chatbots wie ChatGPT oder Google Bard erstellen; Microsoft 365 Copilot und Windows 11 Copilot sollen den Arbeitsalltag erleichtern; Bilder für Präsentationen oder Webseiten lassen sich per KI-Tool in Sekundenschnelle generieren; und bei komplizierteren Tätigkeiten wie der Programmierung können KI-Chatbots ebenfalls unterstützen.
Das Problem: Cyberkriminelle erkennen das Potenzial von KI genauso wie der Rest der Welt. Längst nutzen sie verschiedene Einsatzmöglichkeiten, um ihre Attacken auf ein neues Level zu bringen. Das bedeutet für Unternehmen: KI-Angriffe sind eine neue Gefahr!
Cyberkriminelle haben KI-Tools wie ChatGPT für KI-Angriffe entdeckt. Bild: Pexels/Matheus Bertelli
Was sind KI-Angriffe?
Unter den Begriff KI-Angriff fällt jede Art von Cyberangriff, bei der Cyberkriminelle auf Künstliche Intelligenz zurückgreifen, um Attacken noch schneller und häufiger durchzuführen sowie die Angriffe qualitativ zu verbessern. Die Bandbreite möglicher Einsatzgebiete reicht dabei von Phishing-Attacken über Deepfakes bis hin zu Malware-Angriffen.
Besonders KI-Chatbots wie ChatGPT eröffnen den Cyberkriminellen ganz neue und für die Opfer gefährliche Möglichkeiten, die bereits vielfach genutzt werden. Bereits jetzt zeichnet sich ab, dass KI-Angriffe eine zunehmende Häufigkeiten aufweisen und zu einer höheren Erfolgsquote führen. Experten warnen davor, dass Hackerangriffe zukünftig direkt an den Fortschritt der KI-Entwicklung gekoppelt sind, und fordern, dass KI in gleichem Maße zur KI-Abwehr eingesetzt werden muss.
So nutzen Cyberkriminelle KI für Attacken
Es ist nichts Neues, dass Cyberkriminelle äußerst erfinderisch sind, wenn es darum geht, immer wieder neue Angriffsmethoden zu ersinnen – und jetzt bekommen sie dabei auch noch Unterstützung durch Künstliche Intelligenz.
Sie ist sozusagen der beste Komplize: Sie lernt schnell, ist mindestens genauso erfinderisch wie die Cybergangster selbst, hat keine moralischen oder ethischen Bedenken und leistet mühelos das, was klassisch als Beihilfe zu einer Straftat oder auch als Herstellung von Tatwaffen bekannt ist. Das Schadenspotenzial von KI-Angriffen ist dementsprechend riesig.
Das bestätigt ein Blick auf die verschiedenen Arten, wie Cyberkriminelle KI bereits erfolgreich für ihre Zwecke nutzen. Nachfolgend stellen wir vier gängige Methoden vor – einen Anspruch auf Vollständigkeit können wir bei dieser Thematik definitiv nicht erheben.
Textroboter werden auf verschiedene Weise für KI-Angriffe genutzt. Bild: Pexels/Matheus Bertelli
Methode Nr. 1: Hacker nutzen Hype um ChatGPT für Phishing
Phishing ist der Begriff dafür, dass Cyberkriminelle über betrügerische E-Mails, Textnachrichten, Telefonanrufe oder Webseiten versuchen, an vertrauliche Daten ihrer Opfer zu gelangen – das können Bankdaten, Anmeldedaten oder auch Sozialversicherungsnummern sein. In einem zweiten Schritt werden diese Daten dann für Identitätsdiebstahl, Kreditkartenbetrug oder Ransomware-Angriffe genutzt. Besonders im Fall von Unternehmen sind erfolgreiche Phishing-Attacken oft mit (hohen) finanziellen Verlusten und Datenschutzverletzungen verbunden und daher ein großes Problem.
Für ihre Attacken wählen die Angreifenden meist Aufhänger, die potenziell eine große Nähe zum Opfer haben (zum Beispiel mit einem E-Mail-Betreff wie „Sie haben Ihr DHL-Paket verpasst“) oder die ein aktuelles, brisantes Thema aufgreifen – zum Beispiel Künstliche Intelligenz. Dabei wird in jüngster Zeit auch gern ChatGPT als Köder genutzt. Bei Facebook beispielsweise gibt es vermeintliche Chat-GPT-Gruppen, über die Cyberkriminelle den Fobo-Trojaner verbreiten. Und auch in E-Mail-Betreffzeilen wird gern ein Bezug zum derzeit bekanntesten KI-Chatbot hergestellt – in der Hoffnung, dass Adressaten und Adressatinnen neugierig sind und der Masche zum Opfer fallen.
Methode Nr. 2: KI-Chatbots helfen bei Phishing-Attacken
Es besteht aber noch ein zweiter Zusammenhang zwischen Phishing und KI-Chatbots wie ChatGPT: Cyberkriminelle nutzen die Textroboter, um sich Texte für ihre Phishing-E-Mails und Webseiten schreiben zu lassen – mit dem Ziel, den Erfolg ihrer Phishing-Kampagnen zu verbessern.
Denn: Bisher galten sprachliche Ungenauigkeiten als Indiz dafür, dass es sich bei E-Mails, Nachrichten oder Webseiten um einen Betrugsversuch handeln könnte – oftmals stammen die Hinterleute nämlich aus dem Ausland, sodass sie die deutsche Sprache selbst nicht beherrschen. In Zeiten von ChatGPT wird dieses Indiz hinfällig: Der Textroboter erstellt zum gewünschten Phishing-Thema so perfekte Texte, dass der Empfänger oder die Empfängerin tatsächlich glauben könnte, die E-Mail oder die Webseite stamme von einem vertrauenswürdigen Absender.
Noch perfekter wird so ein ChatGPT-Phishing übrigens dann, wenn die Cyberkriminellen zusätzlich auf KI-Tools zurückgreifen, die täuschend echte Kopien von Webseiten erstellen. Über einen Link in den betrügerischen E-Mails gelangen die Opfer direkt auf ebenfalls perfekt gefälschte Webseiten, wo dann beispielsweise Anmeldedaten abgefragt oder per Drive-by-Downloads Malware-Varianten ausgeliefert werden.
Manche KI-Angriffe zielen auf Kreditkartenbetrug ab. Bild: Pexels/Anna Shvets
Methode Nr. 3: Malware geschaffen durch KI-Chatbots
Und dann wäre da eine dritte Variante, mit der Cybergangster das Potenzial der KI-Chatbots ausnutzen können: Die Tools sind in der Lage, Malware zu erstellen. Das spielt natürlich Kriminellen in die Hände, die keine Programmierkenntnisse haben. Häufig kommen dabei zwar keine raffinierten Schadprogramme heraus; das könnte sich perspektivisch aber ändern, denn KI ist lernfähig, sodass die Raffinesse der KI-generierten Malware zunehmen kann.
In diversen Darknet-Foren werden die Möglichkeiten der Schadcodegenerierung jedenfalls ausgiebig diskutiert. Die Forscher von Checkpoint Research haben dabei von ChatGPT generierten Code entdeckt, der auf PCs Dateien mit bestimmten Dateiendungen sammeln und ins Internet laden kann – ein sogenannter Infostealer. Auch ein Code, der Dateien verschlüsseln und somit als Ransomware eingesetzt werden kann, fand sich in den Untergrund-Chats.
In Kombination mit anderen KI-Tools können Cyberkriminelle laut Checkpoint Research sogar ganze Angriffsketten kreieren. Bei einem Test gelang es den Sicherheitsforschern mit den Tools ChatGPT und Codex eine Phishing-E-Mail und eine bösartige Excel-Datei erstellen, die mit der Unterstützung von Makros weiteren Schadcode auf Computer laden kann.
Methode Nr. 4: Deepfakes täuschen per Sprache, Bild & Video
Eine weitere Form von KI-Angriffen sind Deepfakes. Dabei werden KI-Technologien eingesetzt, um gefälschte Bilder, Videos und Sprachdateien zu erstellen. Die Möglichkeiten, damit weit mehr als Schabernack zu treiben, sind schier grenzenlos. Angreifende könnten beispielsweise frei erfundene Geschichten durch Fotofälschungen glaubwürdig erscheinen lassen – und in Zeiten von viralen Posts in den Social-Media-Netzwerken könnten sich die Fake News in rasantem Tempo verbreiten.
Dasselbe gilt für Videos. KI-Funktionen machen es möglich, dass anhand von Fotos Gesichter in Bewegtbilder eingefügt werden, sodass der Eindruck entsteht, sie seien tatsächlich in den gezeigten Szenen zu sehen. Solche Deepfake-Videos lassen sich bereits im Darknet für wenige hundert Euro in Auftrag geben und können das oder die Opfer nachhaltig schaden.
Derartige Deepfakes gibt es jetzt auch bei Sprachnachrichten. Alles, was es dafür braucht, ist ein entsprechendes KI-Tool sowie echte Sprachaufnahmen einer Person. Mit etwas Training ist das Tool bald in der Lage, die Stimme dieser Person nachzubilden und gefälschte Sprachnachrichten zu erstellen – beste Voraussetzungen beispielsweise für einen erfolgreichen CEO-Fraud!
Künstliche Intelligenz kann auch eingesetzt werden, um Menschen bzw. Unternehmen zu helfen. Bild: Pexels/Tara Winstead
Unternehmen besonders bedroht
Die Liste an Methoden von KI-Angriffen ließe sich weiter ausführen – und mit der Zeit werden sicherlich weitere Methoden hinzukommen. Unternehmen sind wieder besonders gefordert: Sie verfügen über umfangreiche Datenbestände und sind für Cyberkriminelle ein lukratives Ziel. Mit den folgenden sieben Tipps lässt sich das Risiko durch KI-Angriffe zumindest minimieren:
- Moderne Sicherheitslösungen einsetzen:
Die Hersteller von Sicherheitslösungen haben die Gefahr von KI-Attacken auf dem Schirm und passen ihre Software an. Unternehmen sollten hier auf leistungsstarke und moderne Lösungen setzen! - KI mit KI bekämpfen:
Manche Angriffe lassen sich nur mit den eigenen Mitteln bekämpfen – auch im Fall von KI-Angriffen. Mit Hilfe von speziellen KI-Systemen lassen sich anomale Verhaltensmuster identifizieren und Maßnahmen ergreifen. - Mitarbeiter schulen:
Mitarbeiter sollten über die Risiken und Auswirkungen von KI-Angriffen informiert sein, damit sie verdächtige Aktivitäten und Phishing-Versuche erkennen und angemessen reagieren können. Security-Awareness-Schulungen sind ideal. - Mehrstufige Authentifizierung nutzen:
Ob KI oder nicht – vor vielen Cyberangriffen schützt eine mehrstufige Authentifizierung. Sie stellt sicher, dass nur autorisierte Personen auf sensible Daten zugreifen können. Es gibt aber schon Wege, mit denen Angreifende diese Sicherheitsmaßnahme aushebeln. - Regelmäßige Updates durchführen:
Regelmäßig Updates durchzuführen und dadurch Sicherheitslücken zu schließen, ist extrem wichtig. KI könnte nämlich auch eingesetzt werden, um Sicherheitslücken in Software aufzuspüren. - Drittanbieter-Software überprüfen:
Unternehmen sollten auch die Software ihrer Lieferanten oder Partner darauf prüfen, dass sie keine Schwachstellen enthalten. Das Stichwort dazu: Supply-Chain-Angriff. Es empfiehlt sich, IT-News und Warnungen diesbezüglich zu verfolgen. - VPN-Dienste verwenden:
Ein Virtual Private Network (VPN) zu verwenden, ist für Unternehmen grundsätzlich sinnvoll. Es erhöht die Netzwerksicherheit, indem es verschlüsselte Verbindungen zwischen dem Unternehmenssitz und den Nutzergeräten herstellt.
Durch die Umsetzung dieser Maßnahmen können Unternehmen ihr Risiko minimieren und sich besser vor potenziellen Schäden durch einen KI-Angriff schützen. Fakt ist: KI-Technologien helfen Cyberkriminellen, noch gezielter vorzugehen und Schwachstellen schneller zu entdecken.
IT-Experten bieten Hilfe gegen KI-Angriffe
Dass sich sowohl Sicherheitsexperten als auch Unternehmen mit dem Thema KI-Angriffe auseinandersetzen müssen, lässt sich nicht abwenden. Es gilt, die Bedrohungslage stets im Auge zu behalten und auf den böswilligen Einsatz von KI-Technologien mit entsprechenden Gegenmaßnahmen zu reagieren. Zum Glück stehen Unternehmen nicht völlig allein vor dieser Aufgabe!
Es gibt nämlich externe IT-Fachleute, die ihr Wissen und ihre Erfahrung nutzen, um Unternehmen bei der Abwehr von (KI-)Angriffen zu unterstützen. Sie entwickeln Strategien, um Unternehmenssysteme sicherer zu machen und setzen dabei auch auf Sicherheitslösungen, die für eine schnellere Erkennung von Anomalien ebenfalls KI-Algorithmen nutzen. Auch Awareness-Schulungen für Mitarbeiter gehören zum Angebot der IT-Experten, denn oft sind es gerade menschliche Fehler, die den Angreifern Tür und Tor öffnen.
Wer sich also vor Cyberattacken im Allgemeinen und K-Angriffen im Besonderen schützen möchte, sollte nicht zögern und sich beispielsweise an einen erfahrenen IT-Experten aus dem IT-SERVICE.NETWORK wenden. Die IT-Profis in unseren Netzwerk helfen dabei, Unternehmen vor den Gefahren durch Cyberkriminalität zu schützen. Nehmen Sie Kontakt auf und lassen Sie sich beraten!
Weiterführende Links:
PC-Welt, BSI, BSI, infosperber, t3n, BSI
Geschrieben von
Seit Anfang 2019 ist Janina Kröger für den Blog des IT-SERVICE.NETWORK verantwortlich – anfangs in der Position der Online-Redakteurin und inzwischen als Content Marketing Managerin. Die studierte Germanistin/Anglistin und ausgebildete Redakteurin behält das Geschehen auf dem IT-Markt im Blick, verfolgt gespannt neue Trends und Technologien und beobachtet aktuelle Bedrohungen im Bereich des Cybercrime. Die relevantesten… Weiterlesen
Schreiben Sie einen Kommentar
* = Pflichtfelder
Bitte beachten Sie unsere Datenschutzerklärung