Wenn der Chef anruft und seine Sekretärin um eine Überweisung bittet, aber ohne zu telefonieren am Schreibtisch gegenüber sitzt, dann stimmt etwas nicht. Es könnte sich um eine Betrugsmasche handeln, die sich gerade rasant ausbreitet: Deepfake. Das sind Medieninhalte, die mit Hilfe von künstlicher Intelligenz (KI) erzeugt werden und täuschend echt wirken. So befindet sich zum Beispiel eine Politikerin plötzlich in einem anrüchigen Film. Die CARMAO GmbH (http://www.carmao.de), Spezialist für Unternehmensresilienz, zeigt auf, wie man Deepfakes erkennen und Awareness für Datenschutz oder Informationssicherheit schaffen kann.
„Deepfakes sind eine perfide Masche, die eine immer größere Verbreitung findet. Die gefälschten Medien werden von Kriminellen unter anderem genutzt, um an Passwörter, Daten oder Geld zu gelangen. Die Technologie, die auf KI basiert, entwickelt sich rasant weiter und ermöglicht es Betrügern, Stimmen und bewegte Bilder nahezu bis zur Perfektion nachzubilden. Diese werden dann zum Beispiel einfach in bestehendes Material montiert“, erklärt Ulrich Heun, Geschäftsführer der CARMAO GmbH.
Eine Software wird dabei darauf trainiert, die charakteristischen Merkmale einer Person mithilfe von vorhandenem Bewegtbild, Foto- oder Tonmaterial zu erkennen und diese dann zum Beispiel in ein bereits existierendes Video zu übertragen.
Deepfakes erkennen: Auf das Detail kommt es an
Um das Endergebnis eines Deepfakes möglichst realistisch erscheinen zu lassen, benötigt die Software eine Vielzahl an Daten, die insbesondere bei Menschen, die in der Öffentlichkeit stehen, gegeben ist. Die Erstellung von Deepfakes gestaltete sich bislang als sehr aufwändig, jedoch gibt es auf Grund der zunehmenden Digitalisierung und Weiterentwicklung von KI-Technologien bereits kostenfreie Apps, mit denen auch Laien innerhalb kurzer Zeit Deepfakes erzeugen können. Auch, wenn Deepfakes heute immer professioneller werden, gibt es einige Tricks, die dabei unterstützen, derartige Videos und Audios als gefälscht zu entlarven.
Ulrich Heun sagt: „Es gilt, auf die Details im Video zu achten, insbesondere auf die Übergänge von Gesicht zu Hals und Haaren. Sind die Ränder verschwommen, so handelt es sich meistens um ein Deepfake. Bei entsprechenden Audio-Dateien klingt das gesprochene Wort teilweise zu perfekt. Da Menschen in der Regel Füllwörter verwenden, Pausen einlegen, das Tempo beim Sprechen variieren und vieles weitere, deutet Perfektion darauf hin, dass es sich um eine gefakte Audiodatei handelt.“
Prävention im Unternehmen mit Schulungen und Lernplatttform
Um Deepfakes und andere aktuelle Bedrohungen in den Fokus der Aufmerksamkeit von Unternehmen zu rücken, bietet CARMAO regelmäßig entsprechende Schulungen für Mitarbeitende an. Außerdem hat CARMAO eine Awareness-Online-Lernplattform entwickelt. Diese kann zum einen von Unternehmen dazu eingesetzt werden, Mitarbeitende in den angebotenen Themen online zu sensibilisieren. Zum anderen dient sie dazu, beispielsweise im Rahmen eines Datenschutz-Mandates die Mitarbeitenden eines Mandanten damit zu betreuen und unternehmensweit Awareness für Datenschutz oder Informationssicherheit zu schaffen.
CARMAO bietet darüber hinaus weitere Schulungen, Beratungen und Dienstleistungen rund um die Themen Informationssicherheit, Business Continuity Management und organisationale Resilienz.
„Deepfakes sind eine perfide Masche, die eine immer größere Verbreitung findet. Die gefälschten Medien werden von Kriminellen unter anderem genutzt, um an Passwörter, Daten oder Geld zu gelangen. Die Technologie, die auf KI basiert, entwickelt sich rasant weiter und ermöglicht es Betrügern, Stimmen und bewegte Bilder nahezu bis zur Perfektion nachzubilden. Diese werden dann zum Beispiel einfach in bestehendes Material montiert“, erklärt Ulrich Heun, Geschäftsführer der CARMAO GmbH.
Eine Software wird dabei darauf trainiert, die charakteristischen Merkmale einer Person mithilfe von vorhandenem Bewegtbild, Foto- oder Tonmaterial zu erkennen und diese dann zum Beispiel in ein bereits existierendes Video zu übertragen.
Deepfakes erkennen: Auf das Detail kommt es an
Um das Endergebnis eines Deepfakes möglichst realistisch erscheinen zu lassen, benötigt die Software eine Vielzahl an Daten, die insbesondere bei Menschen, die in der Öffentlichkeit stehen, gegeben ist. Die Erstellung von Deepfakes gestaltete sich bislang als sehr aufwändig, jedoch gibt es auf Grund der zunehmenden Digitalisierung und Weiterentwicklung von KI-Technologien bereits kostenfreie Apps, mit denen auch Laien innerhalb kurzer Zeit Deepfakes erzeugen können. Auch, wenn Deepfakes heute immer professioneller werden, gibt es einige Tricks, die dabei unterstützen, derartige Videos und Audios als gefälscht zu entlarven.
Ulrich Heun sagt: „Es gilt, auf die Details im Video zu achten, insbesondere auf die Übergänge von Gesicht zu Hals und Haaren. Sind die Ränder verschwommen, so handelt es sich meistens um ein Deepfake. Bei entsprechenden Audio-Dateien klingt das gesprochene Wort teilweise zu perfekt. Da Menschen in der Regel Füllwörter verwenden, Pausen einlegen, das Tempo beim Sprechen variieren und vieles weitere, deutet Perfektion darauf hin, dass es sich um eine gefakte Audiodatei handelt.“
Prävention im Unternehmen mit Schulungen und Lernplatttform
Um Deepfakes und andere aktuelle Bedrohungen in den Fokus der Aufmerksamkeit von Unternehmen zu rücken, bietet CARMAO regelmäßig entsprechende Schulungen für Mitarbeitende an. Außerdem hat CARMAO eine Awareness-Online-Lernplattform entwickelt. Diese kann zum einen von Unternehmen dazu eingesetzt werden, Mitarbeitende in den angebotenen Themen online zu sensibilisieren. Zum anderen dient sie dazu, beispielsweise im Rahmen eines Datenschutz-Mandates die Mitarbeitenden eines Mandanten damit zu betreuen und unternehmensweit Awareness für Datenschutz oder Informationssicherheit zu schaffen.
CARMAO bietet darüber hinaus weitere Schulungen, Beratungen und Dienstleistungen rund um die Themen Informationssicherheit, Business Continuity Management und organisationale Resilienz.
