Was genau ist ein Deepfake?
Die Bezeichnung Deepfake leitet sich aus den Begriffen Deep Learning (eine Spezialisierung des maschinellen Lernens) und Fake (Fälschung) ab. Bei Deepfakes handelt es sich um manipulierte Medieninhalte, die mit Hilfe künstlicher Intelligenz erstellt werden.
Dabei gibt es verschiedene Arten: Während bei sogenannten „face swaps“ das Gesicht einer Person mit dem Gesicht einer anderen Person versehen wird, gibt es heute auch die Möglichkeit der Lippensynchronisation. Hierbei werden die Mundbewegungen einer sprechenden Person so verändert, dass sie etwas anderes äußert als noch im Originalvideo. In Kombination mit dem sogenannten „voice cloning“, dem authentisch wirkenden Nachahmen einer Stimme, lassen sich so praktisch jeder Person beliebige Aussagen – im wahrsten Sinne des Wortes – in den Mund legen. Neben dem Risiko der gezielten Desinformation – wie es aktuell insbesondere im Kontext des Informationskrieges zwischen Russland und der Ukraine der Fall ist – kommen Deepfakes aber auch immer häufiger bei Angriffen auf Unternehmen zum Einsatz.
Wie werden Deepfakes für Angriffe auf Unternehmen genutzt?
Die neue Technologie lässt sich für viele Formen des Betrugs einsetzen. Kriminelle verfolgen dabei häufig das Ziel, Geld zu erbeuten oder Zugang zu sensiblen Firmendaten zu erhalten. Betroffen von solchen Angriffen sind hier nicht nur große Konzerne, sondern immer häufiger auch kleine und mittlere Unternehmen (KMU). Mit Hilfe von gefälschten Aufnahmen imitieren sie die Stimmen von Führungskräften und weisen Mitarbeitende beispielsweise an, Geld auf falsche Konten zu überweisen. Es handelt sich also um eine hochprofessionalisierte Form des sogenannten „CEO-Fraud“ – dem Betrug dadurch, dass jemand vorgibt, jemandes Vorgesetzter bzw. Chefin zu sein.
In der Vergangenheit wurde für solche Angriffe vor allem der Schreibstil von Geschäftsführenden imitiert. Dazu gehören beispielsweise Phishing-E-Mails, die Mitarbeitende dazu verleiten sollen, betrügerischen Links zu folgen, Passwörter offenzulegen oder sensible Daten zu versenden. Durch den Einsatz künstlicher Intelligenz erhalten Kriminelle nun zusätzliche Möglichkeiten: mit Hilfe des genauen Klonens von Stimmen (z.B. der Unternehmensleitung), können Sprach- und Videoanrufe in Echtzeit durchgeführt werden, so dass es für Mitarbeitende schwierig ist, die Bedrohung zu erkennen.
Wie können Sie Angriffen über Deepfakes vorbeugen?
Bei Attacken mit Hilfe von Deep Fakes werden menschliche und organisatorische Schwachstellen innerhalb des Unternehmens ausgenutzt. Zwar hängt der richtige Umgang mit Deepfakes von der jeweiligen Situation ab, dennoch gibt es einige Punkte, die Sie beachten können, um das Risiko eines Schadens zu minimieren:
Führen Sie mehrstufige Authentifizierungsverfahren für Überweisungen und die Weitergabe von Daten ein. Der Prozess sollte in firmeninternen Richtlinien festgehalten und an die Mitarbeitenden übergeben werden.
Klären Sie Ihre Mitarbeitenden regelmäßig über potenzielle Risiken aus der Cyberwelt auf. Das gilt nicht nur für Deepfakes, sondern für jegliche Art von Angriffen, bei denen Kriminelle menschliche Schwachstellen innerhalb ihres Unternehmens ausnutzen – auch Social Engineering genannt. Dazu gehört beispielsweise auch das Versenden von Phishing Mails oder das Verteilen infizierter USB-Sticks.
Wie Sie Deepfakes erkennen:
Deep Fakes werden so konzipiert, dass sie möglichst echt aussehen. Deshalb ist es manchmal gar nicht so einfach, eine Fälschung zu identifizieren. Die folgenden Punkte geben Ihnen allerdings ein paar Anhaltspunkte, worauf Sie achten können.
Allgemein gilt:
Seien Sie wachsam. Vertrauen Sie nicht per se auf die Echtheit von Medieninhalten, sondern hinterfragen Sie die Plausibilität von Video- und Audiodateien kritisch.
Bei Videos:
- Achten Sie auf Fehler in der Logik des Bildes. Dadurch, dass Deepfakes maschinell erstellt werden, kann es vorkommen, dass das fertige Bild unlogische Elemente aufweist, die auf den ersten Blick nicht zu erkennen sind.
Wirken einzelne Bereiche des Bildes unnatürlich? Beim genaueren Hinsehen lassen sich Videofälschungen häufig daran erkennen, dass die Konturen verwaschen sind.
Wenn die Person innerhalb des Videos zu glatte und zu perfekte Gesichtszüge aufweist, könnte das ebenfalls für ein Deepfake sprechen. Durch die maschinelle Erzeugung kann es dazu nämlich kommen, dass manche Gesichtsausdrücke oder Beleuchtungssituationen nicht korrekt dargestellt werden.
Bei Audios:
Typische Anzeichen für Stimmfälschungen sind ein metallischer oder monotoner Klang.
Auch eine falsche Aussprache sowie eine unnatürliche Sprechweise können ein Indiz für eine gefälschte Audiodatei sein.
Fallen Ihnen unnatürliche Geräusche oder Verzögerungen auf? Diese Merkmale können ebenfalls auf ein Deepfake hinweisen.
Die Fähigkeit, gefälschte Audiodateien zu erkennen, können Sie mithilfe einer vom Fraunhofer AISEC konzipierten Anwendung trainieren.
Zusammenfassung
Deepfakes sind manipulierte Medieninhalte, die mit Hilfe künstlicher Intelligenz erstellt werden.
Cyberkriminelle setzen die neue Technologie für Angriffe auf Unternehmen ein, um Geld zu erbeuten oder sensible Geschäftsdaten abzugreifen.
Dabei greifen sie vor allem auf die Methode des „voice cloning“, also dem Imitieren von Stimmen zurück, mit dem sie Mitarbeitende als vermeintliche Vorgesetze auffordern, Überweisungen zu tätigen oder Daten zu versenden.
Um das Risiko vor einem erfolgreichen Angriff abzumildern, sollten Mitarbeitende regelmäßig über digitale Gefahren aufgeklärt und für mögliche Attacken sensibilisiert werden.
