2611250

Deep Fake: App generiert Pornos in Sekunden

14.09.2021 | 14:45 Uhr | Denise Bergert

Eine neue App kann mit nur einem Foto einen Deep-Fake-Porno generieren. Forscher warnen vor den Auswirkungen der neuen Technik.

Das Wissenschaftsmagazin MIT Technology Review warnt in einem aktuellen Bericht vor den Auswirkungen einer neuen Deep-Fake-App. Entdeckt wurde die Software - welche das Magazin nicht namentlich nennt, um keinen weiteren Traffic zu dem Portal zu locken - von Deep-Fake-Forscher Henry Ajder. Er untersucht die Evolution synthetischer Medien online bereits seit mehreren Jahren und stuft die neue App als besorgniserregend ein.

Das Portal lockt Nutzer mit dem Slogan „Verwandeln Sie jeden in einen Porno-Star“. Ein harmloser blauer Button auf einer weißen Seite lädt ein, die Deep-Fake-Technik mit einem einfachen Bild-Upload zu testen. Mit Machine Learning und künstlicher Intelligenz soll es der Software gelingen, das Gesicht eines Darstellers oder einer Darstellerin in einem Porno mit dem Gesicht aus dem hochgeladenen Foto auszutauschen. Und das macht die Software sehr überzeugend. Die generierten Porno-Clips erwecken auf den ersten Blick tatsächlich den Eindruck, als wären sie echt.

Sollte eine App wie diese Bekanntheit und Beliebtheit erlangen, könnte das fatale Folgen haben, erklärt Technology Review. Sogenannte Face-Swapping-Apps, mit denen beispielsweise das eigene Gesicht per Deep-Fake-Technik in Film-Ausschnitte oder Musikvideos einfügt werden könnte, gab es in der Vergangenheit bereits. Noch nie haben Entwickler jedoch die ethische Grenze überschritten und einen Dienst angeboten, der Deep-Fake-Pornos ohne die Einwilligung der Betroffenen erstellt. Derzeit ist die App noch unbekannt und verfügt nur über einen kleinen Nutzerkreis, sollte sie sich jedoch zu einem Internet-Phänomen entwickeln, befürchten die Experten eine wahre Flut von gefälschten Rache-Pornos. Ähnliche Dienste wie etwa Deepnude , wo gefälschte Nacktfotos erstellt werden konnten, mussten in der Vergangenheit bereits eingestellt werden.

PC-WELT Marktplatz

2611250