Der Aufstieg von KI-gestützten Phishing-Angriffen und wie Unternehmen zurückschlagen können

Wie Unternehmen sich gegen den Anstieg von KI-gestützten Phishing-Angriffen wehren können

Die Welt des Phishings hat sich verändert, und ebenso die Methoden, mit denen Cyberkriminelle ahnungslose Arbeiter und Systeme ausnutzen. Je zugänglicher künstliche Intelligenz (KI) wird, desto mehr Menschen missbrauchen sie. Bedrohungsakteure können jetzt Phishing-Nachrichten verfassen, die dank einer neuen Welle von KI-gestützten Angriffen gezielter, glaubwürdiger und gefährlicher sind als je zuvor.

Diese Veränderung setzt Unternehmen einem großen Risiko aus, da ihre digitalen Vermögenswerte, Cloud-Systeme und hybride Belegschaft anfälliger für Social Engineering sind als je zuvor. Während Angreifer intelligenter werden, müssen Verteidiger intelligenter, proaktiver und flexibler werden.

Wie KI Phishing-Kampagnen mächtiger gemacht hat

Phishing hat schon immer auf Täuschung gesetzt, aber KI hat die Funktionsweise und die Anzahl der betroffenen Personen verändert. Anstatt generische Spam-E-Mails voller Fehler zu versenden, können heutige Angreifer große Sprachmodelle (LLMs) nutzen, um personalisierte Nachrichten zu erstellen, die kontextbewusst sind und wie interne Unternehmenskommunikation aussehen. Diese Modelle können Folgendes tun:

• Perfekte Geschäftsemails in jeder Sprache erstellen.
• Echte Projekte, Namen und Geschäftsjargon verwenden, die in öffentlichen Aufzeichnungen oder durchgesickerten Daten gefunden wurden.
• Mit KI-gesteuertem Voice-Cloning können Sie ganze Gespräche über E-Mail, Chat-Apps und sogar Telefonanrufe simulieren.

Was ist passiert? Phishing-Angriffe, die echt aussehen und sich echt anfühlen und normale Filter umgehen, weil sie keine typischen Spam-Anzeichen aufweisen.

Warum KI-gesteuertes Phishing so gefährlich ist

KI-verbessertes Phishing ist präzise und dynamisch, im Gegensatz zu regulärem Phishing, das oft auf Quantität statt Qualität setzte. Das ist der Grund, warum es wichtig ist:

• Hyper-gezielte Angriffe: Cyberkriminelle nutzen KI, um LinkedIn-Profile, Unternehmensblogs und vergangene Datenlecks zu analysieren, um personalisierte Nachrichten für bestimmte Mitarbeiter zu schreiben.

• Deepfake-Audio und -Video: Eine einfache Sprachnachricht, die aus online gefundenen Proben erstellt wurde, kann einen Finanzvorstand dazu verleiten, eine gefälschte Transaktion zu genehmigen.

• Schnelle Skalierbarkeit: KI ermöglicht es Hackern, schnell Tausende von einzigartigen Phishing-E-Mails zu erstellen, die jeweils für eine andere Person oder Abteilung angepasst sind.

Angebote, die harmlos erscheinen, können in Waffen verwandelt werden. Zum Beispiel könnten Angreifer beliebte Suchbegriffe wie “5 Euro Bonus für Online-Spiele” verwenden, um Phishing-Seiten zu erstellen, die wie echte Angebote aussehen. Diese gefälschten Seiten stehlen dann persönliche und Zahlungsinformationen. Dies zeigt, dass Phishing nicht nur ein Problem in der Geschäftswelt ist; es passiert auch häufig in Konsumentenbereichen, in denen Menschen dem Design vertrauen.

Angriffe in der realen Welt passieren bereits

KI-gestütztes Phishing hat bereits Unternehmen in vielen Bereichen geschadet:

Ein Mitarbeiter eines europäischen multinationalen Unternehmens verlor fast 250.000 €, nachdem er einer “CEO-Direktive” gefolgt war, die über WhatsApp gesendet wurde. Es stellte sich heraus, dass die Nachricht von KI erstellt und gesprochen wurde.

In den USA gelangten Phishing-E-Mails, die interne Softwareplattformen und Patientensysteme ansprachen, in mehrere Gesundheitsorganisationen. Die Hacker haben diese Details wahrscheinlich aus früheren Verstößen und KI-gestütztem Scraping gelernt.

Diese Ereignisse zeigen, wie Angreifer immer besser darin werden, vorzugeben, Insiderwissen zu haben, was jede Interaktion zu einer potenziellen Bedrohung macht.

Warum alte Abwehrmaßnahmen nicht funktionieren

E-Mail-Filter, Antivirensoftware und grundlegende Schulungen für Mitarbeiter reichen nicht mehr aus. Von KI erstellte Phishing-Nachrichten sind:

• Es gibt keine Rechtschreib- oder Grammatikfehler darin.
• Zeitnah, mit Bezug auf Ereignisse oder Kampagnen, die noch laufen.
• Vertrauenswürdig und oft mit bekannten Namen und der Struktur des Unternehmens.

Angreifer verwenden auch adaptives Testen, ähnlich wie A/B-Tests, um ihre Nachrichten ansprechender zu gestalten, genau wie echte Vermarkter. Das bedeutet, dass Phishing-E-Mails in Echtzeit immer besser werden.

Wie Unternehmen sich gut schützen können

Unternehmen müssen eine mehrschichtige, intelligenzgetriebene Sicherheitsstrategie verwenden, um mit diesen neuen, komplexer werdenden Bedrohungen umzugehen. So sieht es aus:

1. Verwenden Sie verhaltensbasierte KI, um die E-Mail-Sicherheit zu verbessern

Next-Gen-E-Mail-Sicherheitsgateways (SEGs) verwenden maschinelles Lernen, um das Verhalten und die Interaktionen von Personen zu analysieren. Diese Tools betrachten nicht nur die Betreffzeilen, sondern auch den Ton, die Dringlichkeit, Metadaten und ungewöhnliche Kommunikationsmuster. Dies erschwert es Angreifern, durch die Ritzen zu schlüpfen.

Abnormal Security, Barracuda Sentinel und Microsoft Defender sind einige der Plattformen, die KI-Bedrohungserkennung hinzugefügt haben, um neue, sich ändernde Bedrohungen zu erkennen.

Ein Zero-Trust-Ansatz geht davon aus, dass jeder Benutzer, jedes Gerät und jede Verbindung gehackt werden könnte. Es verringert den möglichen Schaden eines einzigen Anmeldeinformationsverstoßes, indem es ständige Authentifizierung und Validierung erfordert.

2. Verwenden Sie Zero Trust Architecture (ZTA)

ZTA ist wichtig, weil es die seitliche Bewegung stoppt, was bedeutet, dass selbst wenn ein Phishing-Angriff erfolgreich ist, er sich nicht weit verbreiten kann.

3. Erhöhen Sie das Bewusstsein der Mitarbeiter durch aktive Schulung.

KI-gestütztes Phishing ist schwerer zu erkennen, daher ist es wichtiger denn je, Ihre Mitarbeiter zu schulen. Aber einmal im Jahr stattfindende Seminare werden nicht ausreichen.

Dies sind einige der Dinge, die moderne Programme tun:

• Viele Phishing-Tests.
• Feedback-Schleifen, die sich im Laufe der Zeit ändern.
• Schulung vor Ort, wenn riskantes Verhalten festgestellt wird.

Das Ziel ist es, eine Kultur zu schaffen, in der es zur zweiten Natur wird, eine Anfrage zu überprüfen, egal wie real sie erscheint.

4. Achten Sie auf Datenlecks und Erwähnungen von externen Quellen.

Viele der Informationen, die KI-gestütztes Phishing antreiben, sind öffentlich oder durchgesickert. Unternehmen sollten Folgendes im Auge behalten:

• Foren und Paste-Sites im Dark Web.
• Öffentliche GitHub-Repositories, die Anmeldeinformationen enthalten.
• Social-Media-Posts von Mitarbeitern, die interne Systeme erwähnen.

Angreifer haben es schwerer, Legitimität vorzutäuschen, wenn sie nicht so viele Daten haben, um ihr Phishing zu “trainieren”.

5. Verwenden Sie defensive KI

Unternehmen sollten Feuer mit Feuer bekämpfen. KI-Tools zur Verteidigung können:

• Ungewöhnliche Muster im Benutzerverhalten suchen.
• Die Schritte zur Reaktion auf Bedrohungen automatisieren.
• Mustererkennung verwenden, um frühe Anzeichen von Phishing zu erkennen.

Unternehmen wie Vectra AI, CrowdStrike und SentinelOne verkaufen Plattformen, die KI verwenden, um Bedrohungen sofort zu erkennen, zu isolieren und zu bewältigen.

Phishing in der Konsumentenwelt: Eine Warnung für Unternehmen

Es ist wichtig zu bedenken, dass KI-generiertes Phishing auch Verbraucher angreift, insbesondere in Bereichen, in denen auffälliges Design, Boni und Werbeaktionen üblich sind.

Zum Beispiel beim Online-Glücksspiel. Lizenzierte Casinos verwenden echte Marketing-Tools wie den Online-Casino 5 Euro Bonus. Aber Angreifer erstellen gefälschte Landingpages, die wie diese Art von Werbung aussehen und klingen, um Benutzerdaten zu stehlen.

Was bedeutet das für Unternehmen? Menschen können auch Ihre Marke auf die gleiche Weise fälschen. Wenn Hacker gefälschte Spiele echt aussehen lassen können, können sie definitiv auch Ihre HR-, Finanz- oder IT-Teams echt aussehen lassen.

Letzte Gedanken

Das Schlachtfeld für Phishing hat sich verändert. Was früher ein einfacher Betrug war, ist jetzt eine KI-gestützte Operation, die Menschen, Prozesse und ganze Geschäftssysteme kopieren kann. Unternehmen haben sehr wenig Spielraum für Fehler, und die Kosten für ein Scheitern steigen rasant.

Aber die Abwehrmaßnahmen werden stärker, selbst wenn sich die Werkzeuge der Cyberkriminellen ändern. Organisationen können nicht nur überleben, sondern auch die KI-gestützte Bedrohungslandschaft überlisten, indem sie intelligente Sicherheitssysteme einsetzen, eine Kultur der Wachsamkeit fördern und sowohl in technische als auch menschliche Resilienz investieren.