Meta, das Unternehmen, dem Facebook und Instagram gehören, sagte, es habe schnell gehandelt, als Hunderte von sexuell anzüglichen Anzeigen mit den Gesichtern berühmter Schauspielerinnen auf seinen Seiten zu sehen waren.
Die Anzeigen für eine Deepfake-App zeigten künstlich hergestellte Bilder von Schauspielerinnen, hauptsächlich Scarlett Johansson und Emma Watson, die scheinbar sexuelle Handlungen initiierten. Sie wurden mit der FaceMega-App erstellt.
Deepfake-Videos beziehen sich auf kurze Clips, die mit „Deep Learning“-Algorithmen erstellt wurden und das Gesicht einer Person auf dem Körper einer anderen Person platzieren. Zuvor wurden Deepfakes verwendet, um falsche Aussagen von Politikern zu erstellen.
Die Anzeigen waren laut Angaben Teil einer neuen Kampagne des App-Entwicklers Ufoto Limited, der dem chinesischen Mutterkonzern Wondershare gehört ABC.
Sie wurden am Wochenende im Internet, einschließlich auf Facebook und Instagram, weithin gesehen. Die Anzeigen würden mit dem Bild einer Frau beginnen, das scheinbar am Anfang eines geskripteten pornografischen Videos steht, wobei der erkennbare Ton am Anfang jedes Videos auf der Website Pornhub abgespielt wird.
Innerhalb weniger Sekunden verwandelte sich das Gesicht der Frau in ein überzeugendes Deepfake einer berühmten Schauspielerin. Während viele Schauspielerinnen in den Anzeigen auftraten, zeigte die Mehrheit Schwarze Witwe‘s Johansson und Harry Potter Stern Watson.
„Ersetze das Gesicht durch irgendjemanden“, lautete die Überschrift der Anzeige der App. “Viel Spaß mit der AI-Swap-Face-Technologie.”
Die fragliche App wurde aufgrund von darin enthaltenen “sexuellen Anspielungen” als nur für Nutzer ab 12 Jahren geeignet eingestuft.
Die unabhängige Journalistin Lauren Barton bemerkte die Anzeigen, als sie eine Hintergrundlösch-App verwendete, und twitterte über ihre Erfahrungen. Dieser Tweet wurde mit mehr als 14,7 Millionen Aufrufen viral und andere berichteten, dass sie ihn auf ihren Facebook- und Instagram-Seiten gesehen hatten.
“Ich habe diese Anzeige gestern bekommen und wow, was soll’s”, Barton getwittert.
Hunderte von Menschen antworteten auf ihren Tweet und retweeteten und diskutierten die Auswirkungen einer solchen Technologie für Prominente und Laien gleichermaßen.
„Dies ist nur eine neue Art, Frauen sexuell zu belästigen. Es nimmt Ihnen Ihre körperliche Autonomie und zwingt Sie zu nicht einvernehmlichem sexuellem Material, das dann verwendet werden kann, um Sie zu demütigen und zu diskriminieren. Ganz zu schweigen von den psychologischen Auswirkungen“, schrieb NBC-Reporterin Kat Tenbarge.
Eine andere Benutzerin, Colleen, fügte hinzu: „Das ist so gefährlich für Frauen. Jemand mag dich nicht? Sie können buchstäblich gefälschte Rachepornos von dir erstellen, die möglicherweise dazu führen, dass du deinen Job, deinen Lebensunterhalt usw. verlierst. Die Regierung wird es nicht tun Gesetze dazu seit 10 Jahren, also viel Glück, wenn jemand das mit deinem Gesicht macht.”
Nach Bartons viralem Tweet entfernte Meta die Anzeigen von seinen Plattformen und Apple entfernte die App vollständig aus seinem App Store. FaceMega bleibt bei Google Pay, dem App Store für Android-Geräte.
Meta erzählt theaktuellenews es „schaltete die Anzeigen sofort ab und schränkte die Werbung ein.“
„Unsere Richtlinien verbieten Inhalte für Erwachsene, unabhängig davon, ob sie von KI generiert werden oder nicht, und wir haben diese Seite von der Werbung auf unserer Plattform ausgeschlossen“, sagte ein Meta-Sprecher.
Im Januar 2020 sagte Facebook, es beabsichtige, seine Politik gegen Deepfake-Videos zu verstärken. Es entfernt jetzt Videos, bei denen es „einer durchschnittlichen Person“ nicht klar wäre, dass der Inhalt jemanden „zu der Annahme verleiten würde, dass ein Subjekt des Videos Worte gesagt hat, die sie nicht wirklich gesagt haben“.
Es stellte auch klar, dass alle Videos, die gegen die Community-Richtlinien verstoßen, unabhängig davon, ob es sich um Deepfakes handelt oder nicht, von Facebook entfernt würden. Sie umfassten alles, was mit Nacktheit, drastischer Gewalt, Unterdrückung von Wählern und Hassreden zu tun hatte.
Die eigenen Nutzungsbedingungen von FaceMega verhindern die Erstellung von Inhalten, die sexuell explizit sind oder eine Transaktion sexueller Natur darstellen.
Benutzern ist es auch untersagt, die Rechte eines “Dritten” zu verletzen, unabhängig davon, ob es sich um Urheberrechte oder Datenschutz handelt, und es ist ihnen nicht gestattet, “betrügerisch zu handeln oder sich als eine Person oder Organisation auszugeben”.
theaktuellenews hat FaceMega per E-Mail um einen Kommentar gebeten.
Johansson hat zuvor Deepfake-Videos von sich selbst verurteilt, insbesondere solche mit pornografischem Charakter.
„Wenn eine Person mehr Ressourcen hat, kann sie natürlich verschiedene Kräfte einsetzen … Aber nichts kann jemanden davon abhalten, mein Bild oder das von jemand anderem auszuschneiden und auf einen anderen Körper zu kopieren und es so unheimlich realistisch wie gewünscht aussehen zu lassen. Es gibt im Grunde keine Regeln im Internet, weil es ein Abgrund ist, der praktisch gesetzlos bleibt und der US-Politik widersteht, die wiederum nur hier gilt”, sagte sie Die Post im Jahr 2019.
