Meta geht juristisch gegen „Nudify“-Anbieter vor – KI-Bilder ohne Einwilligung im Fokus
Meta hat Klage gegen ein Unternehmen eingereicht, das sogenannte „Nudify“-Apps über Facebook und Instagram bewirbt. Diese Anwendungen verwenden künstliche Intelligenz, um gefälschte Nacktbilder realer Personen ohne deren Einwilligung zu erzeugen.
Ziel ist es, die Betreiber der CrushAI-Apps dauerhaft von der Schaltung jeglicher Werbung auf den Plattformen auszuschließen. Diese Klage folgt auf einen monatelangen Versuch, die Anzeigen manuell zu entfernen, während die Anbieter mit technischen Tricks regelmäßig neue Werbekonten nutzten.
„Unsere rechtlichen Schritte zeigen, wie ernst wir diesen Missbrauch nehmen und wie stark wir unsere Community schützen wollen“, erklärte Meta in einem offiziellen Blogbeitrag.
Massive Werbewelle entlarvt – Experten drängen auf strengere Kontrolle
Der Journalist Alexios Mantzarlis, der den Blog Faked Up betreibt, berichtete von über 10.000 Werbeanzeigen für „Nudify“-Apps auf den Meta-Plattformen. Auch wenn er die Klage lobte, sieht er erheblichen Nachholbedarf.
„Trotz Metas Ankündigung fand ich weiterhin ein Dutzend aktive CrushAI-Werbeanzeigen – und hunderte anderer Anbieter“, erklärte Mantzarlis.
Er forderte andauernde öffentliche Kontrolle durch unabhängige Stellen, damit Plattformen stärker zur Verantwortung gezogen werden. Nur so lasse sich die Verbreitung dieser schädlichen Inhalte eindämmen.
Meta bekräftigte: „Wir werden weiterhin alle notwendigen Maßnahmen ergreifen – auch gerichtliche – gegen jeden Missbrauch unserer Plattformen.“
Kinderschützer schlagen Alarm: KI-Nacktbild-Apps müssen verboten werden
Mit der rasanten Entwicklung generativer KI ist auch die Zahl der „Nudify“-Apps deutlich gestiegen. Im April rief die Kinderbeauftragte für England die Regierung dazu auf, diese Anwendungen gesetzlich zu verbieten.
Das Erstellen oder Besitzen von KI-generierten sexuellen Darstellungen Minderjähriger ist bereits strafbar. Matthew Sowemimo von der Kinderschutzorganisation NSPCC warnte, dass Pädokriminelle gezielt solche Programme nutzen, um illegale Inhalte herzustellen.
„Der psychische Schaden für betroffene Kinder ist dramatisch“, sagte er. „Viele empfinden Machtlosigkeit, Scham und einen vollständigen Kontrollverlust über ihr eigenes Bild.“
Sowemimo forderte die Regierung auf, solche Apps vollständig zu verbieten und ihre Bewerbung strikt zu untersagen.
Meta gab bekannt, seit Ende März Informationen mit anderen Tech-Firmen auszutauschen.
„Wir haben bislang über 3.800 eindeutige URLs an unsere Partnerunternehmen weitergegeben“, teilte der Konzern mit. Viele Anbieter umgehen bestehende Regeln durch neue Domains – dagegen hat Meta nun ein System entwickelt, das auch unauffällige Anzeigen erkennt.
Deepfakes und Fake-Werbung: KI bringt Plattformen weltweit unter Druck
„Nudify“-Apps sind nicht die einzigen KI-Werkzeuge, die sozialen Netzwerken Probleme bereiten. Auch Deepfakes, also täuschend echte manipulierte Videos oder Bilder, gewinnen an Brisanz – häufig mit Prominenten im Fokus.
Ein aktueller Fall betraf ein KI-generiertes Video mit einer Person, die wie der brasilianische Fußballstar Ronaldo Nazário aussah. Metas Aufsichtsgremium kritisierte öffentlich, dass das Video nicht entfernt wurde.
Meta setzt bereits auf Gesichtserkennung zur Betrugsbekämpfung und verpflichtet politische Werbekunden zur Offenlegung von KI-Einsatz – insbesondere, um Wahlmanipulationen durch Deepfakes zu verhindern.
