Automatisierte Sperren führen zu psychischem Ausnahmezustand
Zahlreiche Nutzer berichten, dass Instagram ihre Konten ohne klare Begründung gesperrt hat. Der Vorwurf: Verstöße gegen Richtlinien zum Schutz vor Kindesmissbrauch. Diese Anschuldigungen entstanden offenbar durch Fehlentscheidungen der Plattform-KI. Erst nachdem Journalisten einschritten, wurden mehrere Konten wieder freigeschaltet.
Ein Betroffener sagte, die falschen Vorwürfe hätten ihm den Schlaf geraubt, ihn isoliert und emotional schwer belastet. Der Mutterkonzern äußerte sich nicht öffentlich zu den einzelnen Fällen.
Mehr als 100 weitere Personen meldeten sich bei einer Redaktion und schilderten ähnliche Erlebnisse. Viele beklagten finanzielle Einbußen, andere betrauerten den Verlust langjähriger digitaler Erinnerungen. Zahlreiche Nutzer erklärten, ihr psychisches Wohlbefinden habe massiv gelitten.
Eine Petition mit über 27.000 Unterschriften wirft dem Moderationssystem des Konzerns vor, falsche Sperren zu verhängen. Auf Reddit und anderen Plattformen wächst die Zahl der Betroffenen. Der Konzern räumt lediglich Probleme bei Facebook-Gruppen ein, bestreitet jedoch systematische Fehler auf Instagram.
Betroffene kämpfen gegen Stigmatisierung
David aus Aberdeen wurde am 4. Juni gesperrt. Ihm wurde vorgeworfen, gegen Richtlinien zu Kindesmissbrauch und Nacktheit verstoßen zu haben. Noch am selben Tag legte er Beschwerde ein – woraufhin auch seine Facebook- und Messenger-Konten deaktiviert wurden.
In einem Reddit-Forum entdeckte David viele Menschen mit ähnlichen Erfahrungen. Er verlor über zehn Jahre an Bildern, Nachrichten und Beiträgen. Die Anschuldigungen nannte er „niederträchtig und völlig unbegründet“. Der Kundenservice reagierte nur mit automatisierten Standardnachrichten. Erst nachdem sein Fall am 3. Juli durch Medien publik wurde, reaktivierte die Plattform sein Konto. Die Entschuldigung des Unternehmens wirkte formelhaft.
Auch Faisal, ein Kunststudent aus London, wurde am 6. Juni gesperrt. Er hatte über Instagram erste Einnahmen erzielt. Nach seinem Widerspruch erfolgte die endgültige Sperre. Er schilderte Isolation, Verzweiflung und psychischen Druck durch die falsche Anschuldigung. Am 3. Juli griffen Journalisten seinen Fall auf – wenige Stunden später war sein Konto wieder aktiv. Auch er erhielt die standardisierte Entschuldigung wie David. Trotz Entlastung bleibt die Angst, dass die Sperre künftig Konsequenzen haben könnte.
Salim, ein weiterer Nutzer, verlor ebenfalls seine Konten. Er kritisierte öffentlich, dass die KI gewöhnliche Menschen zu Tätern erkläre und Geschäftskonten blockiere. Eine Woche nach der Sperre wurden seine Profile freigegeben – nach Medienkontakt.
Keine Antworten vom Konzern – nur automatische Reaktionen
Der Konzern kommentierte die Einzelfälle nicht. In Südkorea hingegen erklärte eine Parlamentsabgeordnete, das Unternehmen habe zugegeben, dass es zu ungerechtfertigten Sperrungen kommen könne.
Dr. Carolina Are von der Northumbria University sieht ein grundsätzliches Transparenzproblem. Nutzer wüssten oft nicht, warum sie gesperrt würden. Sie nennt unklare Richtlinienänderungen und ein schwaches Beschwerdesystem als mögliche Ursachen.
In einer früheren Erklärung betonte der Konzern, dass gesperrte Nutzer Einspruch einlegen könnten. Doch viele erhalten laut Betroffenen nur nichtssagende Textbausteine.
Das Unternehmen setzt laut eigenen Angaben auf maschinelles Lernen und menschliche Kontrolle. Einen Anstieg fehlerhafter Sperren sehe man nicht. Die Richtlinien gelten auch für digital erzeugte oder fiktive Darstellungen mit menschlichem Aussehen.
Verdächtige Inhalte werden laut dem Konzern an das National Center for Missing and Exploited Children (NCMEC) in den USA weitergeleitet. Diese Einrichtung stellt die Daten weltweit Strafverfolgungsbehörden zur Verfügung.
