Detektion von Deepfakes - Wie sich KI-Fälschungen entlarven lassen

Identitätsdiebstahl, Betrug und Manipulation - Deepfakes machen zunehmend Probleme. Denn die digitalen Fälschungen werden immer besser und leichter herzustellen. Gesetze, Wachsamkeit und Künstliche Intelligenz helfen dagegen - aber nur in Grenzen. Carina Schroeder und Maximilian Brose verraten, warum das so ist und welche Möglichkeiten es im Kampf gegen Deepfakes noch gibt.


Das erwartet Euch in dieser Episode:

(00:00) Max bastelt sich einen Stimm-Klon
(04:40) Wo deutsche Deepfakes zum Problem werden
(08:08) Warum wir auf KI-generierte Fälschungen reinfallen
(10:51) Marco Rubio Deepfake und 25 Millionen Dollar Scam
(12:27) Gesetzesentwürfe gegen Deepfakes
(13:55) Wasserzeichen helfen nur begrenzt
(16:50) Deepfakes mit KI aufspüren - ein Katz und Maus Spiel
(23:17) Clevere Deepfakes haben einen Herzschlag
(27:58) Echtheitszertifikate für authentische Inhalte
(31:44) Fazit

Unsere Gesprächspartner in dieser Folge:

• Christina Lekati, Psychologin und Expertin für Deepfakes und Social Engineering
• Dr. Nicolas Müller, KI-Forscher und Experte für Audio-Deepfakes am Fraunhofer AISEC
• Prof. Peter Eisert, Forschungsgruppenleiter am Fraunhofer HHI

Mehr zum Thema in der Deutschlandfunk App:

Deepfake-Pornos - Digitale Gewalt, reale Demütigung von Frauen
Copyright auf Gesicht und Stimme - Wie Dänemark gegen Deepfakes vorgeht
Deepfakes - Chance für die historische Bildung

Weiterführende Links:

• Studie (englisch) vom Fraunhofer HHI: Deepfakes haben einen Herzschlag
• Studie (englisch) der University Waterloo: Warum Wasserzeichen keinen echten Schutz gegen Deepfakes bieten
• CNN-Bericht (englisch): Wie eine Firma durch einen Deepfake-Videocall 25 Millionen Dollar verloren hat
• Preprint-Studie (englisch): Warum Deepfake-Scanner in der Realität schlechter funktionieren
• Fraunhofer-Tool: Kostenloser Scanner um Audio-Deepfakes zu erkennen
• Verbraucherzentrale NRW: Wie Kriminelle mit deutschen Deepfakes Opfer auf Betrugsseiten locken

Wenn Euch diese Episode gefallen hat, abonniert uns und empfehlt uns gerne weiter. Für Kritik, Fragen und Anregungen aller Art schickt uns eine E-Mail an [email protected].

Noch mehr spannende Podcasts gibt’s in der