Der Algorithmus des sozialen Netzwerks hat wohl dabei geholfen, dass sich auf der Plattform Pädokriminelle vernetzen konnten. Nun droht die EU wegen mangelnden Kinderschutzes mit Strafen.
Instagram ließ offenbar Beiträge online, in denen sexualisierte Gewalt gegen Kinder beworben wurde. Die Postings mit eindeutigen Hashtags wurden genutzt, um Werbung für Aufnahmen von Kindesmissbrauch zu machen, die es dann offenbar außerhalb von Instagram zu kaufen und zu sehen geben sollte. Auch Aufträge für die Herstellung von Missbrauchsaufnahmen konnten offenbar eingereicht werden.
Das geht aus einem Bericht der US-Zeitung »Wall Street Journal« hervor , die für die Recherche auch mit renommierten US-Experten zusammengearbeitet hat. So konnte die Zeitung durch einen Testlauf aufdecken, dass Instagrams Algorithmen entsprechende Beiträge und Konten mit Bezug zu Kindesmissbrauch teilweise sogar neuen Nutzerinnen und Nutzern empfohlen haben.
Auf der Plattform gibt es demnach außerdem Netzwerke von Pädokriminellen, die offenbar relativ einfach auffindbar sind. Entsprechende Accounts konnten auch über die Suche nach bestimmten Schlagwörtern gefunden werden, teilweise trugen die Konten auch Begriffe wie »kleine Schlampe« im Namen. Einige der Hashtags wurden offenbar tausendfach für Beiträge genutzt.
An der Untersuchung beteiligt war auch die Forschergruppe Stanford Internet Observatory, die vom früheren Facebook-Sicherheitschef Alex Stamos angeführt wird. Er hoffe, dass Meta wieder stärker in menschliche Prüfer investieren werde, sagte Stamos der Zeitung. Dass ein Forscherteam aus drei Leuten mit eingeschränktem Zugang ein gewaltiges Netzwerk aufdecken konnte, müsse bei Meta die Alarmglocken läuten lassen, betonte er.
EU fordert Aufklärung
Konfrontiert mit den Rechercheergebnissen gestand der Konzern ein, dass man bestimmte problematische Inhalte nicht entdeckt habe. Das Unternehmen betonte aber auch, dass Täter fortlaufend ihre Taktiken änderten. Deshalb beschäftige man Teams von Spezialisten, um »ihr Verhalten zu verstehen und missbräuchliche Netzwerke auszuschalten«. Zwischen 2020 und 2022 seien 27 missbräuchliche Netzwerke aufgelöst und im Januar 2023 mehr als 490.000 Konten deaktiviert worden, die gegen Jugendschutzrichtlinien verstoßen hätten.
Die EU-Kommission fordert nach dem Bericht ein rasches Handeln vom Mutterkonzern Meta. »Die Selbstverpflichtungen des Konzerns zum Kinderschutz scheinen nicht zu funktionieren«, schrieb EU-Binnenmarktkommissar Thierry Breton am Donnerstag bei Twitter . Meta-Gründer und -Chef Mark Zuckerberg müsse nun Antworten geben und sofort reagieren. Nachdem das EU-Gesetzespaket Digital Services Act Ende August in Kraft tritt, drohe Meta ansonsten eine »harte Strafe«.
Breton schrieb außerdem, er wolle mit Zuckerberg bei einem Besuch in der Meta-Zentrale im kalifornischen Menlo Park am 23. Juni über das Thema sprechen. hpp/dpa
