Auf Wiedersehen „offensichtlicher Betrug“, hallo „scheint seriös“: Der Aufstieg des KI-Phishing

Die meisten Menschen erkennen herkömmliches Phishing, weil es ihnen seit Jahren vertraut ist. Ihre persönlichen E-Mail-Postfächer und Handys sind voll von gefälschten Lieferbenachrichtigungen, E-Mails mit dem Hinweis „Ihr Bankkonto ist gesperrt“ und natürlich von der „dringenden Bitte eines Diplomaten“, der um Hilfe beim Transfer einer absurd hohen Summe Geld aus dem Land bittet. Diese dreisten und oft lächerlichen Betrugsversuche sind weder schockierend noch überraschend oder berichtenswert. Sie gehören zum Alltag.

Was sich geändert hat, ist jedoch die Geschwindigkeit und Qualität der Täuschung. Social-Engineering, das früher ungeschickt wirkte und leicht zu durchschauen war, wird heute mithilfe generativer KI massenhaft produziert. Das Ergebnis sind sauberere Texte, weniger offensichtliche Warnsignale und Nachrichten, die eher von echten Kollegen oder Lieferanten zu stammen scheinen. Microsofts Digital Defense Report 2025 zeigt, dass KI-gesteuertes Phishing deutlich effektiver sein kann als herkömmliche Kampagnen, und Verizons 2025 Data Breach Investigations Report stellt fest, dass sich der Anteil KI-generierter Texte in schädlichen E-Mails in den letzten zwei Jahren verdoppelt hat.

Für IT-Experten kommt diese Entwicklung nicht überraschend. Viele haben sie vorhergesehen, kennen die Muster und wissen, wie sie sich schützen können. Das größere Problem ist, dass viele Mitarbeiter und Kunden ohne IT-Kenntnisse immer noch eine veraltete Vorstellung von Phishing haben: verdächtig aussehende E-Mails und SMS, die leicht zu erkennen sind. Die heutigen KI-gestützten Köder wirken nicht immer verdächtig und zielen zunehmend auf die Bereiche ab, in denen der Schaden am größten ist: Corporate-Identity-Systeme, interne Kommunikation und Finanzprozesse.

KI-Phishing: Warum es mittlerweile nicht mehr nur ein persönliches, sondern ein großes Problem am Arbeitsplatz ist

Herkömmliches Phishing, das auf private Konten abzielt, strebt in der Regel den Diebstahl von Anmeldedaten, Kreditkartenbetrug oder die Übernahme von Konten an. KI-Phishing am Arbeitsplatz fügt nun zwei weitere entscheidende Faktoren hinzu:

• Die Corporate Identity (Unternehmensidentität) ist ein entscheidender Faktor. Ein kompromittiertes Postfach oder eine fehlerhafte Single-Sign-On-Sitzung können zu internem Phishing, Datendiebstahl, Lieferantenbetrug und dauerhaften Sicherheitslücken führen. Laut Daten von Microsoft zur Reaktion auf Sicherheitsvorfälle wurden 28 % der Sicherheitsverletzungen durch Phishing oder Social-Engineering ausgelöst. Daher ist die Formulierung „Es ist nur ein Klick“ keine harmlose Darstellung. Oft ist dies der erste Dominostein.
• Geschäftsprozesse bewegen Geld. Rechnungsänderungen, Gehaltsumleitungen, Gutscheinbetrug und die Einbindung neuer Lieferanten sind auf Schnelligkeit ausgelegt, nicht auf forensische Genauigkeit. Daten des FBI IC3 verdeutlichen das Ausmaß: Im Jahr 2024 gingen beim IC3 insgesamt 21.442 Beschwerden über Betrug mit geschäftlichen E-Mails mit einem bereinigten Schaden von über 2,7 Milliarden US-Dollar ein.

Beispiele für KI-Phishing

Hier sind einige Beispiele, die IT-Experten mit technisch nicht versierten Kollegen und Kunden teilen können, um ihnen zu verdeutlichen, wie modernes KI-Phishing am Arbeitsplatz aussieht. Beachten Sie bitte, dass dies keine vollständige Liste ist, sondern nur einige der häufigsten Fallen aufzeigt:

• Die Falle der „dringenden Nachrichten für Führungskräfte“: Eine Nachricht, die scheinbar vom CEO stammt, weist einen Mitarbeiter des Finanzteams an, vor einer Aufsichtsratssitzung (oder einem anderen wichtigen Ereignis) dringend Geld zu überweisen. Oft versucht der Angreifer anschließend schnell, das Gespräch auf eine private Nummer zu verlagern, da er angeblich „auf Reisen“ ist.
• Der Personaldokumenten-Köder: In einer Nachricht wird vorgetäuscht, es handele sich um eine Beschwerde eines Bewerbers, eine Aktualisierung der Richtlinien oder Unterlagen zu einer Kündigung, und der Empfänger wird auf eine gefälschte Anmeldeseite für Microsoft 365 weitergeleitet.
• Der Rechnungsbetrug: Ein echter Lieferanten-Thread wird gekapert oder überzeugend gefälscht, und der Angreifer fügt „aktualisierte Bankdaten“ ein (oft mit plausiblen Begründungen für die Änderung).
• Der MFA-Reset-/Helpdesk-Vorwand: Ein Angreifer, der sich als Mitarbeiter ausgibt, gibt vor, sein Smartphone verloren zu haben, bittet die IT-Abteilung um einen MFA-Reset und drängt auf schnelle Ausnahmegenehmigung, um „die Arbeit am Laufen zu halten“.
• Der „Scan-to-View“-QR-Code: Eine E-Mail oder eine PDF-Datei enthält einen QR-Code, der vorgibt, dass der Empfänger ihn scannen muss, um ein sicheres Dokument anzuzeigen, was zum Diebstahl von Anmeldedaten und Token führt.
• Domain-Imitation im großen Ausmaß: Gefälschte Domains werden schnell registriert und dazu genutzt, sich im Rahmen groß angelegter Kampagnen als Marken, Anbieter und interne Dienste auszugeben.

Die Kernaussage lautet hier: „Diese Nachricht sieht offensichtlich gefälscht aus!“ ist kein verlässlicher Schutz mehr. Angreifer benötigen weder makellose Formulierungen noch fundierte Kenntnisse der Arbeitsabläufe ihrer Opfer. KI füllt diese Lücken.

Im Wesentlichen ist KI-Phishing dann erfolgreich, wenn Geschwindigkeit die Überprüfung übertrumpft. Die wirksamsten Abwehrmaßnahmen verbinden zwei Aspekte: einfache Gewohnheiten der Nutzer, die den Impuls zum „sofortigen Handeln“ unterbinden, und organisatorische Kontrollen, die den Schaden begrenzen, falls jemand doch einmal ins Straucheln gerät. Beginnen wir mit dem ersten Punkt, denn die Nutzer waren, sind und werden immer das schwächste Glied in der IT-Sicherheitskette sein.

Nutzerschulung: 4 wichtige Überprüfungen

Wie bereits erwähnt, sind Schulungen zum Thema KI-Phishing, die sich darauf konzentrieren, „offensichtliche Betrugsversuche zu erkennen“, weitaus weniger wirksam, da viele bösartige Nachrichten mittlerweile professionell, glaubwürdig und vertraut wirken. Stattdessen ist es sinnvoll und effektiv, den Nutzern eine Reihe von wiederholbaren Überprüfungen beizubringen, die sie in Sekundenschnelle durchführen können. Vier davon sind besonders wichtig: Prozessprüfung, Identitätsprüfung, Überprüfung von Verknüpfungen und Anhängen sowie die Informations- und Verifizierungsprüfung.

1. Prozessprüfung

Bevor Nutzer überprüfen, von wem eine Nachricht stammt, sollten sie zunächst darauf achten, was in der Nachricht von ihnen verlangt wird. KI-Phishing ist oft erfolgreich, weil es Geschäftsprozesse ausnutzt, und nicht, weil es offensichtlich verdächtig ist. Die Prozessprüfung ist eine schnelle Methode, um Anfragen zu erkennen, die nicht in normale Arbeitsabläufe passen, insbesondere wenn die Nachricht dringend ist oder versucht, Standardkontrollen zu umgehen.

Nutzer sollten sich fragen: „Entspricht diese Aufforderung einem normalen Arbeitsablauf?“ Insbesondere sollten sie auf Folgendes achten:

• Dringlichkeit in Verbindung mit Geheimhaltung („Sagen Sie es niemandem“, „Ich brauche das vor dem Meeting“)
• Ungewöhnliche Zahlungs- oder Kontoänderungsanfragen (Bankdaten, Änderungen bei Lieferantenüberweisungen, Aktualisierungen der Gehaltsabrechnungen)
• Aufforderungen zur erneuten Eingabe von Anmeldedaten (unerwartete Anmeldeseiten, Links mit dem Hinweis „Sitzung abgelaufen“, QR-Codes mit der Aufforderung „Sicheres Dokument“)
• Kanalwechsel mitten im Arbeitsablauf (E-Mail zu SMS, Teams zu privatem WhatsApp, „Verwende diese neue Nummer“)
• Aufforderungen, Genehmigungen zu umgehen („Nur dieses eine Mal“, „Ich genehmige es später“)

2. Identitätsprüfung

Bevor Nutzer auf eine verdächtige Nachricht antworten, sollten sie den Absender über einen als sicher bekannten Kanal prüfen. Dies kann bedeuten, den Absender unter einer gespeicherten Telefonnummer anzurufen, eine neue E-Mail an eine vertrauenswürdige Adresse zu senden (nicht auf die ursprüngliche zu antworten!) oder die Identität persönlich zu bestätigen, sofern dies praktikabel und effizient ist.

Durch diese Überprüfungen verlagert sich die Entscheidungsfindung von der Frage „Sieht das gefälscht aus?“ hin zu „Ist das sinnvoll?“ und „Bin ich mir der Identität sicher?“

3. Überprüfung von Verknüpfungen und Anhängen

Selbst wenn eine Nachricht seriös wirkt, sollten Nutzer Verknüpfungen, Anhänge und QR-Codes als risikoreich einstufen, insbesondere wenn diese unerwartet, dringend oder mit Anmeldungen verbunden sind. Die Ratschläge in diesem Bereich umfassen:

• Verwenden Sie keine Verknüpfungen in der Nachricht, um sich anzumelden. Öffnen Sie den Dienst auf dem üblichen Weg (Lesezeichen, manuell eingegebene URL, offizielle App) und navigieren Sie von dort aus weiter.
• Seien Sie vorsichtig bei Anhängen mit der Aufforderung „Dokument anzeigen“ und bei QR-Codes, insbesondere wenn diese eine unerwartete Anmeldeseite oder eine Aufforderung zur Eingabe von Anmeldedaten auslösen.
• Wenn eine Verknüpfung oder eine Datei Druck ausübt, schnell zu handeln, halten Sie inne und führen Sie zuerst die Prozess- und Identitätsprüfung durch.

4. Informations- und Verifizierungsprüfung

KI-Phishing wird überzeugender, wenn den Angreifern mehr Kontext zur Verfügung steht. Nutzer sollten davon ausgehen, dass selbst kleine, versehentlich preisgegebene Informationen missbraucht werden können. Zu den Regeln in diesem Bereich gehören:

• Vermeiden Sie es, sensible betriebliche Details in öffentlichen Kanälen zu teilen (z. B. Bankdaten an Lieferanten, Zahlungsprozesse, Namen von Genehmigern, interne Screenshots, Reisepläne, Projektdetails).
• Geben Sie niemals Einmal-Passwörter, MFA-Anfragen oder „Verifizierungsdaten“ an Dritte weiter. Nutzer sollten wissen, dass die IT-Abteilung niemals danach fragen wird.
• Überprüfen Sie über einen sicheren, bekannten Kanal, ob jemand sensible Daten anfordert, um „die Identität zu bestätigen“ oder „eine dringende Aufgabe freizugeben“.

Insgesamt erfordern diese vier Überprüfungen nicht, dass nicht-technisches Personal zu Sicherheitsexperten wird. Vielmehr schaffen sie konsistente Gewohnheiten, die KI-Phishing-Versuche vereiteln und Identitätsdiebstahl sowie Sicherheitsverletzungen verhindern können.

Unternehmen stärken: 4 kritische Kontrollbereiche

Zwar sind gute Gewohnheiten der Nutzer in diesem Kampf unerlässlich, doch können sie nicht die gesamte Last tragen, insbesondere wenn KI die Phishing-Angriffe immer überzeugender und skalierbarer macht. Daher ist die nächste Ebene die organisatorische: Kontrollmechanismen, die die Erfolgsquote von Angriffen senken, die Möglichkeiten eines Angreifers mit gestohlenen Anmeldedaten oder Sitzungen einschränken und Verifizierungsschritte in die Arbeitsabläufe integrieren, die den Zugriff regeln und Geldtransfers steuern. Hier sind einige Empfehlungen, die für alle Unternehmen gelten, einschließlich kleiner und mittlerer Betriebe mit kleinen IT-Teams und begrenzten Budgets:

1. Phishing-resistente Authentifizierung zum Standard machen, nicht zur Ausnahme

Gehen Sie davon aus, dass Passwörter durch Phishing abgefangen, wiederverwendet oder gestohlen werden. Die entscheidende Frage lautet daher nicht: „Können wir jeden Phishing-Angriff verhindern?“, sondern: „Was passiert, wenn ein Passwort aufgedeckt wird?“ Zu den empfohlenen Kontrollmaßnahmen gehören:

• Phishing-resistente MFA, wo möglich (FIDO2/Passkeys/Sicherheitsschlüssel), und starke MFA in allen anderen Fällen.
• Obligatorische MFA für privilegierte Rollen und risikoreiche Aktionen (Admin-Portale, Zahlungsänderungen, Erstellung von Postfachregeln, Lieferantenverwaltung).
• Schutz vor MFA-Ermüdung (Nummernabgleich, Gerätebindung und Kontrollen, die die Akzeptanz von Push-Spam verringern).

Eine starke Authentifizierung verhindert zwar nicht Social-Engineering, aber sie führt dazu, dass viele Versuche, Anmeldedaten zu stehlen, ins Leere laufen.

2. Den Nutzen gestohlener Sitzungen oder Token reduzieren

KI-Phishing zielt zunehmend auf Sitzungstoken und OAuth-Zustimmungen ab und nicht mehr nur auf Passwörter. Legen Sie den Schwerpunkt auf Kontrollmaßnahmen, die die Persistenz und die laterale Bewegung einschränken. Dazu gehören:

• Zugriffsbeschränkungen und risikobasierte Richtlinien für unmögliche Reisen, unbekannte Geräte und ungewöhnliche Anmeldungen.
• Strenge Kontrollen für E-Mail-Postfächer (automatische Weiterleitung, Regeln für verdächtige E-Mails im Posteingang, neu eingerichtete Stellvertreter).
• OAuth und Verwaltung von Drittanbieter-Apps (Einschränkung der Nutzerzustimmung, Einholung der Administratorengenehmigung für riskante Bereiche, Überprüfung neuer App-Berechtigungen).
• Standardmäßiges Prinzip der geringsten Rechte (dauerhafte Administratorrechte werden selten, zeitlich begrenzt und nachvollziehbar vergeben).

Diese Kontrollmaßnahmen entscheiden oft darüber, ob ein Vorfall eingedämmt bleibt oder sich zu einer internen Phishing-Plattform und einem Vorfall mit Datenexfiltration entwickelt.

3. Die von Angreifern am häufigsten angegriffenen Arbeitsabläufe schützen

Viele schwerwiegende Vorfälle entstehen durch die Ausnutzung legitimer Geschäftsprozesse. Stärken Sie risikoreiche Arbeitsabläufe durch integrierte Überprüfungen, indem Sie Folgendes umsetzen:

• Außerhalb des regulären Meldeverfahrens erfolgende Bestätigung für Änderungen im Bank- und Gehaltswesen unter Verwendung der bereits hinterlegten vertrauenswürdigen Kontaktdaten.
• Genehmigung durch zwei Personen für dringende Zahlungen und die Einrichtung neuer Lieferanten.
• Überprüfte Kommunikation mit Lieferanten (zugelassene Domains, Kontaktlisten, Kontrollen bei Änderungen der Zahlungsdaten).
• Eindeutige „Verbotsregeln“ (niemals MFA-Codes weitergeben, niemals unerwartete MFA-Aufforderungen bestätigen, niemals aufgrund unaufgeforderter Anfragen Tools für den Fernzugriff installieren).

Wenn der Prozess selbst eine Überprüfung erfordert, verlassen sich Unternehmen nicht mehr auf das Urteilsvermögen einzelner Personen, die unter Druck stehen.

4. Schnelle, sichere und aussagekräftige Berichterstattung ermöglichen

Je schneller ein vermuteter Phishing-Versuch gemeldet wird, desto geringer ist der Schaden. Daher sollten Unternehmen Folgendes ermöglichen:

• Meldungen mit nur einem Klick in E-Mails und Kollaborationstools.
• Schnelle Rückmeldungen („Das war bösartig, gut gemacht“ oder „Das war harmlos und hier ist der Grund dafür“).
• Eine Kultur, in der niemand beschämt wird und in der jede Meldung belohnt wird, selbst Fehlalarme.

Einblicke & Ratschläge von unserem Chief Security Officer Patrick Pilotte

Was ich an diesem Artikel besonders relevant finde, ist der darin vorgeschlagene Paradigmenwechsel: Wir sollten uns nicht mehr darauf verlassen, „was verdächtig erscheint“, sondern darauf, „was nicht dem normalen Ablauf entspricht“.

Eine Nuance möchte ich noch hinzufügen: KI hat kein ausgeklügeltes Phishing geschaffen, sondern es in großem Maßstab zugänglich gemacht. Was früher gezielten Angriffen vorbehalten war (BEC, CEO-Betrug), lässt sich nun mit geringem Aufwand massenhaft reproduzieren. Meiner Meinung nach ist das eigentliche Problem daher nicht nur die Qualität der Nachrichten, sondern ihre Industrialisierung.

Ich möchte noch hinzufügen, dass Angriffe längst nicht mehr nur per E-Mail erfolgen. Wir beobachten immer häufiger hybride Szenarien, bei denen E-Mails, interne Messaging-Plattformen (Teams, Slack) und sogar Voice-Phishing mit Stimmklonen kombiniert werden, was die Glaubwürdigkeit erheblich erhöht.

Letztendlich ist es zutreffender zu sagen, dass unsere Geschäftsprozesse oft eher auf Geschwindigkeit als auf Überprüfung ausgelegt sind, anstatt den Nutzer als das schwächste Glied zu betrachten – und genau diese Lücke nutzen Angreifer aus.

Ein abschließendes Wort

KI-Phishing funktioniert, wenn Menschen unter Zeitdruck stehen und Systeme zu nachlässig sind. Die Lösung besteht nicht darin, von den Nutzern absolute Wachsamkeit zu erwarten. Vielmehr geht es darum, ein stabiles Sicherheitsnetz aufzubauen, das auf Überprüfungsgewohnheiten basiert, die sich auch unter Druck leicht umsetzen lassen, und diese durch strenge organisatorische Kontrollen zu untermauern, die die Auswirkungen von Fehlern begrenzen.