Eine Nachricht der Geschäftsführung verlangt eine dringende Überweisung, ein Lieferant meldet eine neue Bankverbindung oder die Personalabteilung bittet um sensible Daten. Solche E-Mails wirken oft glaubwürdig, weil Tonfall, Namen und laufende Projekte stimmen. Generative KI macht es Angreifern leichter, fehlerfreie und passende Texte zu formulieren. Dieselbe Technik kann Beschäftigten helfen, Warnsignale zu sortieren. Sie darf die Entscheidung aber nicht übernehmen. Der wirksamste Schutz bleibt ein klarer Prozess, der Identitäten über einen zweiten Kanal prüft und Zeitdruck aus der Situation nimmt.
Dieser Leitfaden zeigt, wie österreichische Betriebe KI als vorsichtige Analysehilfe einsetzen können, ohne vertrauliche Nachrichten in fremde Systeme zu kopieren. Im Mittelpunkt stehen Business E-Mail Compromise, kurz BEC, und jene Entscheidungen, die Menschen selbst treffen müssen. Das Ziel ist nicht, jede ungewöhnliche Nachricht automatisch zu blockieren. Es geht darum, riskante Zahlungs- und Datenanforderungen zuverlässig zu erkennen, zu stoppen und nachvollziehbar zu bearbeiten.
Warum Business E-Mail Compromise so überzeugend wirkt
BEC ist keine einzelne Schadsoftware, sondern eine Familie von Täuschungen. Kriminelle geben sich als bekannte Führungskraft, Lieferant, Kollegin oder Kollege aus. Manchmal wird nur eine Absenderadresse nachgeahmt. In anderen Fällen ist ein echtes Postfach kompromittiert. Dann passen Signatur, frühere Gesprächsfäden und interne Formulierungen besonders gut. Laut CERT.at häuften sich zuletzt entsprechende Berichte aus österreichischen Organisationen.
Der Angriff nutzt weniger eine technische Lücke als menschliche Routinen. Typische Hebel sind Dringlichkeit, Vertraulichkeit, Autorität und eine scheinbar kleine Abweichung vom normalen Ablauf. Eine neue IBAN, eine ungewöhnliche Geschenkkartenbestellung oder die Bitte, den Vorgang niemandem zu zeigen, soll Beschäftigte zum schnellen Handeln bringen. Generative KI kann glaubwürdige Varianten in gutem Deutsch erstellen und öffentlich auffindbare Informationen zu Rollen oder Projekten einbauen. Perfekte Grammatik ist deshalb kein Entwarnungssignal mehr.
Was eine KI-Prüfung leisten kann – und was nicht
Ein intern freigegebenes KI-System kann den Inhalt einer Nachricht anhand definierter Muster strukturieren: Wird eine Zahlung verlangt? Ändert sich eine Bankverbindung? Entsteht künstlicher Zeitdruck? Soll ein etablierter Freigabeweg verlassen werden? Gibt es eine Bitte um Passwörter, Personaldaten oder Geheimhaltung? Eine solche Analyse ist nützlich, wenn sie als Hinweis erscheint und nicht als endgültiges Urteil. Auch legitime E-Mails können ungewöhnlich sein, und raffinierte Angriffe können unauffällig formuliert sein.
Beschäftigte sollten niemals vollständige verdächtige E-Mails samt Namen, Adressen, Rechnungsdaten oder Anhängen in ein frei zugängliches KI-Tool kopieren. Das kann Betriebsgeheimnisse und personenbezogene Daten offenlegen. Zulässig ist nur ein vom Betrieb geprüfter Dienst mit geklärten Verträgen, Speicherregeln und Zugriffen. Oft genügt sogar eine lokale Checkliste ohne KI. Die WKO-Guideline zu rechtlichen Rahmenbedingungen betont Datenschutz, Rechte Dritter und die rasche Meldung schwerer Fehler.
Der sichere Prüfweg in sieben Schritten
- Handlung stoppen: Noch nicht antworten, keinen Link öffnen, keinen Anhang starten und keine Zahlung vorbereiten.
- Anforderung benennen: Geht es um Geld, Zugangsdaten, neue Stammdaten, vertrauliche Dokumente oder eine Umgehung des normalen Prozesses?
- Absender technisch prüfen: Tatsächliche Adresse, Antwortadresse und Domain genau lesen. Anzeigename oder Firmenlogo sind kein Identitätsnachweis.
- Kontext abgleichen: Passt die Bitte zu Bestellung, Vertrag, Betrag, Termin und üblicher Rolle? Abweichungen schriftlich festhalten.
- Zweiten Kanal nutzen: Die angeblich anweisende Person über eine bereits bekannte Telefonnummer oder einen internen Kanal kontaktieren – nie über Kontaktdaten aus der verdächtigen Nachricht.
- Vier-Augen-Prinzip anwenden: Finanztransaktionen und Stammdatenänderungen werden von zwei getrennten Personen geprüft. Eine Person soll nicht zugleich anlegen, freigeben und ausführen.
- Vorfall melden: Die Nachricht an die interne IT- oder Sicherheitsstelle weitergeben, damit ähnliche Mails, Regeln und betroffene Konten geprüft werden.
Dieser Ablauf folgt den praktischen Empfehlungen von CERT.at. Er verhindert, dass ein KI-Score als bequemer Ersatz für Identitätsprüfung verstanden wird. Ein Modell darf etwa „hohes Risiko“ anzeigen und Gründe nennen. Freigabe oder Ablehnung bleiben bei benannten Personen, die den Geschäftskontext kennen.
Ein konkretes Beispiel aus der Buchhaltung
Eine Mitarbeiterin in einem Salzburger Betrieb erhält am Freitagnachmittag eine E-Mail eines vertrauten Lieferanten. Die Rechnung wirkt bekannt, doch die Bankverbindung sei wegen einer „Systemumstellung“ sofort zu ändern. Ein internes Prüfwerkzeug markiert drei Merkmale: neue Zahlungsdaten, ungewöhnliche Dringlichkeit und eine Abweichung vom bisherigen Kommunikationsweg. Das ist noch kein Beweis für Betrug. Die Mitarbeiterin ruft die hinterlegte Nummer aus dem Stammdatensystem an und erfährt, dass keine Änderung beauftragt wurde.
Der entscheidende Schutz war nicht die KI, sondern das Zusammenspiel aus Hinweis, bekanntem Rückrufkanal und gesperrter Stammdatenänderung. Wäre das Modell ausgefallen oder hätte es die Mail als unauffällig eingestuft, müsste derselbe Prozess greifen. Deshalb gehören Kontrollschritte in die Arbeitsanweisung und nicht nur in ein technisches Produkt.
Prompts ohne vertrauliche Daten gestalten
Wenn ein freigegebenes System für Textanalyse eingesetzt wird, sollte die Aufgabe eng formuliert sein. Statt „Ist diese Mail echt?“ ist eine prüfbare Anweisung sinnvoller: „Ordne den anonymisierten Text nach den Kategorien Zahlungsanforderung, Stammdatenänderung, Zeitdruck, Geheimhaltung, Zugangsdaten und Prozessabweichung. Nenne nur Textstellen, die deine Einstufung begründen. Triff keine Zahlungsentscheidung.“ Namen, Kontonummern, Telefonnummern, Signaturen und Projektdetails werden vorher entfernt, sofern sie für die Analyse nicht benötigt werden.
Das Ergebnis gehört nicht ungeprüft in einen Personalakt oder eine Leistungsbewertung. Wer verdächtige Nachrichten meldet, handelt sicherheitsbewusst und darf nicht wegen eines Fehlalarms benachteiligt werden. Schulungen sollten zeigen, dass auch erfahrene Beschäftigte getäuscht werden können. Eine gute Meldekultur belohnt frühes Stoppen und Nachfragen.
Technische Maßnahmen, die den Arbeitsprozess stützen
Die beste Textanalyse hilft wenig, wenn Konten ohne Mehrfaktor-Authentifizierung erreichbar sind oder externe Weiterleitungen unbemerkt bleiben. CERT.at empfiehlt moderne MFA, Regeln gegen ungewöhnliche Zugriffe sowie SPF, DKIM und DMARC für die eigenen Domains. Automatische Weiterleitungen an externe Adressen sollten eingeschränkt und überwacht werden. Der aktuelle Überblick der WKO zur IT-Sicherheit bündelt weitere Schutzmaßnahmen für österreichische Unternehmen.
Auch Berechtigungen müssen zur Rolle passen. Nicht jede Person, die eine Rechnung empfängt, sollte Lieferantenstammdaten ändern können. Zahlungsvorbereitung und Zahlungsfreigabe sollten getrennt sein. Protokolle müssen erkennen lassen, wer eine Änderung angestoßen, geprüft und freigegeben hat. Diese organisatorischen Kontrollen sind robust gegen neue Textvarianten, während rein sprachbasierte Filter immer umgangen werden können.
So trainieren Teams realistische Situationen
Awareness-Schulungen werden wirksam, wenn sie reale Rollen und Abläufe abbilden. Buchhaltung übt eine geänderte IBAN, Assistenz eine angeblich vertrauliche Anweisung, HR eine dringende Bitte um Beschäftigtendaten und Einkauf eine neue Lieferadresse. Jede Übung endet mit derselben Frage: Welcher bekannte zweite Kanal bestätigt die Identität? Die WKO-Hinweise zu Phishing erinnern daran, keine vertraulichen Daten über unerwartete Nachrichten preiszugeben und gewohnte Login-Wege zu nutzen.
KI kann Varianten für interne Übungen erstellen, aber nur mit erfundenen Personen, Beträgen und Unternehmen. Reale Kundendaten oder echte Zugangsinformationen gehören nicht in Trainingsprompts. Außerdem muss klar sein, dass es sich um eine Übung handelt und wie Ergebnisse verwendet werden. Ziel ist Verhaltenssicherheit, nicht die heimliche Bewertung einzelner Beschäftigter.
Was nach einem Klick oder einer Zahlung zu tun ist
Ein Fehler darf nicht vertuscht werden. Nach einem Klick, einer Kennworteingabe oder einer Überweisung zählt Geschwindigkeit. Betroffene melden sofort den Vorfall, trennen bei Bedarf das Gerät vom Netz, ändern Zugangsdaten über einen sauberen Weg und informieren Bank sowie interne Verantwortliche. Die IT prüft Sitzungen, Weiterleitungen, MFA-Registrierungen und weitere Empfänger. Beweise werden gesichert, ohne verdächtige Dateien erneut zu öffnen.
Sind personenbezogene Daten betroffen, muss der Betrieb das Risiko bewerten. Die Austrian Data Protection Authority beschreibt, wann eine Meldung erforderlich ist und welche Angaben sie enthalten muss. Eine mögliche Frist läuft nicht erst dann, wenn alle Details bekannt sind. Deshalb gehören Datenschutz, IT-Sicherheit, Rechtsberatung und Geschäftsführung in einen vorab definierten Eskalationsweg. Ergänzend hilft der bestehende JobSpot-Leitfaden zum Umgang mit KI-Vorfällen im Unternehmen.
Wie ein KI-Hinweis nachvollziehbar bleibt
Ein brauchbarer Hinweis zeigt nicht nur eine Ampelfarbe. Er nennt die erkannten Merkmale, den betreffenden Textausschnitt und die Grenze der Aussage. „Hohe Dringlichkeit und Bitte um geänderte Zahlungsdaten erkannt“ ist überprüfbar. „Betrug mit 96 Prozent Wahrscheinlichkeit“ wirkt präzise, obwohl die Zahl ohne passende Testdaten wenig bedeutet. Teams sollten daher festlegen, welche konkreten Merkmale immer eine manuelle Prüfung auslösen. Dazu zählen neue Bankdaten, ungewöhnliche Empfänger, abweichende Domainnamen, vertrauliche Sonderwege und die Aufforderung, Kontrollen zu umgehen.
Vor einer Einführung wird das System mit erfundenen Beispielen aus den eigenen Prozessen getestet. Der Test enthält echte Geschäftssituationen ohne reale Personen- oder Kontodaten: legitime Eilbestellung, angekündigter Lieferantenwechsel, gefälschte Geschäftsführungsanweisung und kompromittierter Gesprächsfaden. Gemessen wird nicht nur, wie viele Angriffe erkannt werden. Wichtig ist auch, wie viele normale Vorgänge unnötig gestoppt werden und ob Mitarbeitende die Begründungen verstehen. Schwellenwerte werden danach angepasst, dokumentiert und regelmäßig neu geprüft.
Änderungen am Modell, an Regeln oder Datenquellen benötigen eine Versionsangabe. Wenn ein Hinweis später untersucht wird, muss erkennbar sein, welche Konfiguration galt. Gleichzeitig sollte das Unternehmen so wenig Mailinhalt wie möglich protokollieren. Meist reichen Ereignisart, Zeitpunkt, erkannte Risikomerkmale und die getroffene Prozessentscheidung. Vollständige Nachrichten gehören nur dann in ein geschütztes Fallarchiv, wenn sie für Untersuchung oder rechtliche Pflichten erforderlich sind.
Rollen und Eskalation im österreichischen KMU
Auch kleine Betriebe brauchen keine komplizierte Leitstelle, aber eindeutige Rollen. Beschäftigte melden verdächtige Anforderungen an eine bekannte Adresse oder Telefonnummer. Eine benannte Person prüft Mailkonto und technische Indikatoren. Die Buchhaltung stoppt Zahlungen, der Einkauf sperrt Stammdatenänderungen und die Geschäftsführung entscheidet über externe Kommunikation. Datenschutzverantwortliche bewerten mögliche Personenbezüge. Wenn externe IT-Dienstleister beteiligt sind, müssen Erreichbarkeit, Zuständigkeit und sichere Übergabewege vor dem Vorfall vereinbart sein.
Eine einfache Eskalationsmatrix kann drei Stufen unterscheiden. Stufe eins umfasst eine verdächtige, noch nicht ausgeführte Anfrage: melden, prüfen, Absender bestätigen. Stufe zwei liegt vor, wenn Zugangsdaten eingegeben oder ein Anhang ausgeführt wurde: Konto sichern, Gerät isolieren, Protokolle prüfen. Stufe drei betrifft Zahlung, Datenabfluss oder ein kompromittiertes Administrationskonto: Notfallteam aktivieren, Bank und gegebenenfalls Behörden kontaktieren, Datenschutzrisiko bewerten und Entscheidungen laufend dokumentieren.
Für Schicht- und Teilzeitteams muss der Prozess auch außerhalb der üblichen Bürozeiten funktionieren. Eine Anweisung der Geschäftsführung am Abend darf nicht deshalb ungeprüft bleiben, weil die normale Freigabeperson nicht erreichbar ist. Die sichere Regel lautet dann: warten oder an eine definierte Vertretung eskalieren. Kein echter Geschäftsvorgang sollte verlangen, dass Mitarbeitende eine zentrale Kontrolle heimlich umgehen.
Fünf Fragen vor jeder Zahlung oder Datenänderung
Eine kurze Karte am Arbeitsplatz ist oft wirksamer als ein langer Leitfaden. Erstens: Passt die Anforderung zum bekannten Auftrag? Zweitens: Wurde eine Bankverbindung, Adresse oder Rolle überraschend geändert? Drittens: Soll ich ungewöhnlich schnell oder vertraulich handeln? Viertens: Kann ich die Identität über einen bereits bekannten Kanal bestätigen? Fünftens: Hat eine zweite berechtigte Person den Vorgang geprüft? Schon ein einziges ungeklärtes Nein oder Warnsignal reicht für einen Stopp.
KI kann diese Fragen im Mailprogramm anzeigen und vorhandene Informationen vorsortieren. Sie sollte jedoch keine Antwort erfinden, wenn Daten fehlen. „Nicht bekannt“ ist ein wertvolles Ergebnis. Das System darf auch keinen Anruf simulieren oder eigenständig neue Kontaktdaten aus der verdächtigen Mail übernehmen. Verifikation bedeutet, eine unabhängige Quelle zu verwenden: freigegebenes Lieferantenverzeichnis, bestehender Vertrag oder internes Adressbuch.
Checkliste für einen belastbaren BEC-Prozess
- Für Zahlungs- und Stammdatenänderungen existiert ein dokumentierter Rückrufweg mit bereits hinterlegten Kontaktdaten.
- Vier-Augen-Prinzip und Funktionstrennung sind technisch und organisatorisch umgesetzt.
- MFA, Mail-Domain-Schutz und Regeln für Weiterleitungen werden regelmäßig kontrolliert.
- KI-Analyse nutzt nur freigegebene Systeme und möglichst anonymisierte Inhalte.
- Das Modell liefert Gründe und Unsicherheit, aber keine automatische Freigabe.
- Beschäftigte kennen eine einfache Meldestelle und werden für Fehlalarme nicht sanktioniert.
- Für Kontokompromittierung, Zahlung, Datenabfluss und Datenschutzmeldung gibt es getrennte Notfallkarten.
Fazit: Vertrauen braucht einen zweiten Kanal
KI kann verdächtige Muster sichtbar machen, Formulierungen erklären und die Erstprüfung strukturieren. Sie kann aber weder die Identität einer Führungskraft bestätigen noch den Geschäftskontext vollständig kennen. Österreichische Betriebe gewinnen Sicherheit, wenn sie technische Hinweise mit Rückruf, Vier-Augen-Prinzip, klaren Berechtigungen und einer offenen Meldekultur verbinden. Wer bei Zeitdruck stoppt und über einen bekannten Kanal nachfragt, handelt professionell – auch wenn sich die Nachricht später als echt erweist.
KI-Hinweis: Dieser Beitrag wurde mit KI als strukturierender Entwurfshilfe erstellt und redaktionell geprüft. Für konkrete Sicherheits-, Datenschutz- oder Rechtsfragen sind die zuständigen Fachstellen einzubeziehen.
