Die Empfehlungsalgorithmen von Instagram übermitteln Millionen von Nutzern Inhalte für Magersucht und Essstörungen, einschließlich derer, deren Bios sie als unter 13 Jahre alt identifiziert, laut a neuer Bericht von Fairplay, einer Interessenvertretung, die sich auf das digitale Wohlbefinden von Kindern konzentriert.
Der Bericht besagt, dass fast 20 Millionen Instagram-Nutzer „mit Inhalten aus Instagrams Pro-Eating-Disorder-Blase gefüttert werden“, und dass viele von ihnen Teenager oder jünger sind.
Um die Reichweite von Inhalten für Essstörungen zu verstehen, identifizierten die Forscher 153 „Seed Accounts“, die öffentlich waren, über 1.000 Follower hatten und sich ausdrücklich für Essstörungen einsetzten. Sie berechneten, dass etwa 1,6 Millionen Instagram-Nutzer einem dieser Konten folgten und 88.655 drei oder mehr folgten. Die Forscher fanden heraus, dass fast 20 Millionen Instagram-Nutzer mindestens einem dieser 88.655 Konten folgten und möglicherweise aufgefordert wurden, den Seed-Konten zu folgen weil sie eine gegenseitige Verbindung hatten.
„Eines der Dinge, die mich beeindruckt haben, war, wie unglaublich einfach es war, diese Essstörungs-Blase zu identifizieren“, sagte Rys Farthing, Data Policy Director bei der Interessenvertretung Reset Australia und Leiter der Studie.
Farthing sagte, dass die Exposition gegenüber den Inhalten in erster Linie von den Vorschlägen von Instagram getrieben wurde, welchen Benutzern sie folgen sollten. Testkonten, die Interesse an Gewichtsverlust oder Essstörungen bekundeten, wurden schnell mit Empfehlungen der Plattform überschwemmt, anderen Benutzern mit diesen Interessen zu folgen, einschließlich solcher, die offen zu Essstörungen ermutigen.
„Alles, was Sie tun müssten, wäre, einige Leitplanken um diesen ‚Empfehlungen folgen‘-Algorithmus zu setzen, und Sie könnten diese Blase zum Platzen bringen“, sagte Farthing.
Als Antwort auf Fragen von BuzzFeed News zum Fairplay-Bericht sagte Liza Crenshaw, Sprecherin von Meta, in einer Erklärung: „Berichte wie dieser missverstehen oft, dass das vollständige Entfernen von Inhalten, die sich auf die Reise von Menschen mit oder Genesung von Essstörungen beziehen, schwierige Momente verschlimmern und Menschen abschneiden kann aus der Gemeinde. Experten und Sicherheitsorganisationen haben uns gesagt, dass es wichtig ist, ein Gleichgewicht zu finden und es den Menschen zu ermöglichen, ihre persönlichen Geschichten zu teilen, während alle Inhalte entfernt werden, die Essstörungen fördern oder fördern.“
Crenshaw teilte per E-Mail mit, dass das Unternehmen Organisationen hervorhebt, die Hilfe leisten können, wenn Benutzer nach Inhalten suchen oder darüber posten, die sich für Essstörungen einsetzen, und Benutzer die Möglichkeit haben, Inhalte im Zusammenhang mit Essstörungen speziell zu melden. Sie fügte hinzu, dass Konten, die selbstverletzende Inhalte teilen, nicht empfohlen werden und Instagram daran arbeitet, Suchergebnisse im Zusammenhang mit bekannten Selbstverletzungs-Hashtags oder Konten einzuschränken.
Forscher, Journalisten und Befürworter schlagen seit Jahren Alarm über ungeordnete Essinhalte auf Instagram, die im Herbst 2021 ihren Höhepunkt erreichten interne Facebook-Dokumente bereitgestellt von der Whistleblowerin Frances Haugen zeigte, dass Instagram dazu führte, dass Teenager-Mädchen sich schlechter über ihren Körper fühlten. Dieser neue Bericht zeigt, dass Metas Bemühungen zur Eindämmung dieser Art von Schaden noch andauern.
Aber Farthing und andere hoffen, dass Veränderungen vor der Tür stehen könnten: US-Sensen Richard Blumenthal und Marsha Blackburn stellten dies kürzlich vor Online-Sicherheitsgesetz für Kinder, die Plattformen dazu verpflichten würde, „im besten Interesse eines Minderjährigen zu handeln“, indem sie ihre Dienste nutzen. Der kalifornische Gesetzgeber erwägt a ähnliche Bestimmungdas dem britischen Age Appropriate Design Code nachempfunden ist und Unternehmen dazu verpflichten würde, bei der Entwicklung oder Änderung ihrer Algorithmen das „Wohl der Kinder“ zu berücksichtigen.
„Wenn wir den Mut aufbringen, Technologieunternehmen tatsächlich zur Rechenschaft zu ziehen, könnten wir einen Teil dieser Gesetzgebung durchbringen“, sagte Farthing. „Und vielleicht habe ich mich bei diesem Gespräch im nächsten Jahr tatsächlich aus dem Geschäft zurückgezogen.“