Digitaler Donnerstag

Was sind Deepfakes und wie erkennt man sie?

Eine Frau die grübelnd am Laptop sitzt mit einem großen gelben Fragezeichen links von ihr
Nachdenkliche Frau mit Laptop, die ein großes Fragezeichen betrachtet
Freepik/jcomp

Sei es im Fernsehen, der Zeitung oder im Internet: Regelmäßig sehen wir Bilder und Videos, die uns zeigen, was gerade in der Welt passiert. Die aktuellsten politischen Debatten und die wichtigen gesellschaftlichen Entwicklungen können wir so nachverfolgen und verstehen.

Doch stellen Sie sich mal bitte folgende Situation vor: Sie sehen auf einer Webseite ein schier unglaubliches Video. Eine bekannte Politikerin sagt etwas völlig Abwegiges, macht sich lächerlich und diskreditiert sich selbst. Oder ein Video belegt Fakten, die Sie bisher als Verschwörungstheorien eingeschätzt haben. Am nächsten Tag erzählen Sie Ihren Kolleginnen und Kollegen davon. Doch die wiegeln ab. „Das ist doch Deepfake, das ist nicht echt.“

Sie sind beruhigt, dass es sich bei den Videos also nicht um die Wahrheit handelt. Doch gleichzeitig sind Sie besorgt. Denn vielleicht haben Sie womöglich schon öfter solchen Videos Glauben geschenkt. Sie fragen sich: „Was ist Deepfake eigentlich genau?“ und „Wie erkenne ich solche Bilder und Videos“?

Schon lange im Einsatz und immer überzeugender

Während der ähnlich klingende Begriff Fake News vor allem nachrichtenähnliche, manipulative Falschmeldungen bezeichnet, sind Deepfakes doch noch etwas anderes: Mit Hilfe von künstlicher Intelligenz werden Bilder, Videos und Audioaufnahmen verändert. Dies kann aus Unterhaltungsgründen geschehen, doch oft stecken andere Motive dahinter: Bestimmten Personen soll geschadet, öffentliche Meinungen beeinflusst werden.

Obwohl es technische Manipulationsmethoden schon vorher gab, verwendet man das Wort erst seit 2017. Es ist eine Zusammensetzung aus Deep Learning, was das maschinelle Lernen bezeichnet, und Fake, das übersetzt „Fälschung“ bedeutet. 

Bei diesen Fälschungen wurde zunächst vor allem sogenanntes Face Swapping betrieben. Hierbei werden Gesichter auf andere Körper montiert. Verbreitet ist die Methode zum Beispiel bei pornografischen Inhalten. Obwohl diese frühen Versuche oft noch nicht so realistisch wirkten und aus heutiger Sicht verhältnismäßig leicht zu erkennen waren, konnten sie bereits viel Schaden für die betroffenen Personen anrichten.

Mittlerweile sind die Deepfake-Methoden vielfältiger und vor allem deutlich realistischer. Dank künstlicher Intelligenz können nun Audioaufnahmen, Fotos und ganze Videos überzeugend gefälscht werden. So werden nicht nur Gesichter, sondern auch Stimmen und Körperbewegungen täuschend echt nachgeahmt. Damit können Menschen bestimmte Aussagen oder Handlungen angedichtet werden. Weil die Deepfakes dabei so realistisch wirken, ist es für die betroffenen Personen sehr schwierig, sich dagegen zu wehren. Doch auch für die Konsumierenden ist es immer herausfordernder, eine echte Aufnahme von einer Fälschung zu unterscheiden.

So erkennen Sie Deepfakes

Obwohl die Methoden immer ausgeklügelter werden, stehen Sie dem Deepfake-Phänomen nicht machtlos gegenüber. Denn es gibt einige Möglichkeiten, wie Sie die Fälschungen erkennen können.

Am wichtigsten ist dabei das Wissen um diese Problematik und eine gewisse Skepsis gegenüber unrealistischen Inhalten. Wenn Sie diese mitbringen, haben Sie bereits die entscheidende Voraussetzung erfüllt.

Wenn Sie also unsicher sind, ob ein Video echt ist, können Sie es sich genauer anschauen:

  • Gibt es technische Fehler, etwa unscharfe Stellen und Übergänge? Verändert sich ohne erkennbaren Grund die Beleuchtung oder die Hautfarbe?
  • Gibt es merkwürdige Elemente, sogenannte digitale Artefakte, die gar nicht in dieses Video passen?
  • Sind manche Aufnahmen zu perfekt und sehen etwa Gesichter viel zu glatt und nicht mehr natürlich aus?
  • Verhalten sich die Personen merkwürdig und blinzeln zum Beispiel nicht, machen sie ruckartige oder unnatürliche Körperbewegungen?
  • Sind die Inhalte glaubwürdig und nachvollziehbar? Oder handelt hier eine Person ganz im Gegensatz zu ihrem bisherigen Auftreten?
  • Woher stammt das Video, auf welcher Webseite schaue ich es mir an: Sind die Quellen seriös?

Wenn Sie bei mindestens einem dieser Punkte ins Zweifeln kommen, lohnt es sich, die Inhalte des Videos zu hinterfragen.

Sie können etwa prüfen, ob andere, seriöse Medien ebenfalls über die angeblichen Handlungen und Aussagen berichten. Oder Sie nutzen eine Suchmaschine Ihrer Wahl, und finden so heraus, ob das Video, das Bild oder die Audiodatei bereits als Deepfake bekannt ist. Denn häufig sieht man manche Inhalte erst, wenn sie eine gewisse Popularität erreicht haben. Dann existieren oft bereits Erklärungen oder Gegendarstelllungen dazu.

Ein Gesicht einer Frau, dass auf die Merkmale abgescannt wird vor einem blauen Hintergrund.
Das Gesicht einer Frau wird auf ihre Merkmale gescannt.
Freepik/vectorjuice

Zusätzlich gibt es einige Tools, die Sie nutzen können, um auf technische Weise überprüfen zu lassen, ob ein Deepfake vorliegt. Jedoch sind diese Softwares nicht immer zu 100 % zuverlässig.

Deepfakes wird es auch weiterhin geben

Da sich die Algorithmen und die technischen Möglichkeiten immer weiterentwickeln, wird es zukünftig vermutlich noch schwerer, Deepfakes tatsächlich zu erkennen. Deshalb ist es umso wichtiger, sich die oben erwähnte Skepsis gegenüber fragwürdigen Inhalten zu bewahren. Denn nicht immer hat man das Glück, dass man auf Kolleginnen und Kollegen, Nachbarn oder Bekannte trifft, die einem davor bewahren, auf ein Deepfake hereinzufallen.

Wenn Sie sich weiter über Deepfakes informieren wollen, können Sie die Webseite des Bundesamtes für Sicherheit in der Informationstechnik anschauen. Hier finden Sie zahlreiche Erläuterungen, wie die technischen Fälschungen erstellt werden, welche Bedrohungsszenarien es gibt und Sie können sich ein richtiges Deepfake-Video anschauen.

Ein guter Startpunkt für weitere Recherchen ist zudem die Webseite der Bundesregierung zum Umgang mit Desinformation.

 

Sie haben Fragen zu diesem oder einem anderen DigiDo-Beitrag? Nehmen Sie gerne Kontakt zu uns auf, wir freuen uns auf Ihr Feedback.