Fiese Software erstellte Nacktfotos von über 100.000 Frauen

Die Sicherheitsfirma Sensitiv hat eine Software entdeckt, die mit Hilfe von KI aus harmlosen Bildern Nacktfotos macht, wie The Verge berichtet . Über 100.000 derart manipulierte Nacktfotos von Frauen haben die Sicherheitsexperten auf dem Messengerdienst Telegram bis Juli 2020 entdeckt: 104.852 Frauen sollen bis Juli 2020 betroffen sein. Davon stammen 70 Prozent der Frauenfotos aus sozialen Netzwerken. Die tatsächliche Zahl der umgewandelten Fotos dürfte aber deutlich höher sein. Die Sicherheitsexperten sprechen von einem “Deepfake-Ökosystem”. Manipulierte Fotos (oder auch Videos), die mithilfe von KI erstellt werden, bezeichnet man als “Deepfake”. Das Ganze funktioniert offensichtlich so: Man schickt in Telegram das Foto einer bekleideten Frau an einen Bot. Dieser akzeptiert nur Frauenfotos und leitet diese dann an die Umwandlungssoftware weiter. Die Software überarbeitet das Foto unter Einsatz von KI in ein Nacktfoto. Dafür analysiert die Software das Foto der bekleideten Person, damit das Nacktfoto möglichst realistisch aussieht. Dass also zum Beispiel die Körperhaltung passt oder die nackte Haut echt wirkt. Das Nacktfoto schickt der Bot dann bald darauf zurück an den Absender des Fotos mit der bekleideten Person. Die Ausgangsfotos stammten offensichtlich aus sozialen Netzwerken und wurden über Telegram ausgetauscht. Die dafür verwendete Software basiert auf DeepNude, wobei wie gesagt Bots, die Entgegennahme und den Rückversand der Fotos übernehmen. Die Qualität der von DeepNude erstellten Nacktfotos variiert. Einige lassen sich sofort als Fälschung erkennen, andere dagegen erscheinen realistisch, wie die Forscher schreiben. Solche Nacktfotos lassen sich beispielsweise dafür verwenden andere Menschen zu diskreditieren oder zu erpressen. Rund 70 Prozent der bisher entdeckten manipulierten Fotos stammen aus Russland oder benachbarten Staaten, wie Sensity erklärt. Die Bots der Bild-Umwandlungssoftware kann jeder Interessierte kostenlos via Telegram nutzen, allerdings versieht der Bot die umgewandelten Nacktfotos mit einem Wasserzeichen, solange man die Gratisvariante dieser Software verwendet. Teilweise erstellt die Gratisversion auch nur Fotos, die die betreffende Person nur teilweise nackt zeigen. Will man dagegen Nacktfotos ohne Wasserzeichen, dann muss man die kostenpflichtige Version der Software verwenden. Die teilweisen Nacktfotos lassen sich ebenfalls gegen eine geringe Summe von wenigen Cents in vollständige Nacktfotos verwandeln. Anscheinend kostet das Erstellen von 100 Fake-Nacktfotos ohne Wasserzeichen umgerechnet nur rund 1,28 US-Dollar.