Ein hochrangiger Meta-Manager teilte einer britischen Untersuchung mit, dass das Unternehmen „grafische“ Bilder von Selbstverletzungen auf seiner Instagram-Site zu der Zeit zugelassen habe, als ein Teenager durch Selbstmord starb, weil es den Benutzern ermöglichen wollte, „um Hilfe zu schreien“.
Molly Russell aus Harrow, London, starb im November 2017, nachdem sie eine große Anzahl von Posts auf Websites wie Instagram und Pinterest im Besitz von Meta gesehen hatte, die sich mit Angstzuständen, Depressionen, Selbstmord und Selbstverletzung befassten.
Metas Leiterin für Gesundheits- und Wohlbefindenspolitik, Elizabeth Lagone, sagte am Freitag vor dem Gerichtsmediziner in Nord-London, dass grafische Bilder, die Instagram-Benutzer zum Zeitpunkt von Russells Tod teilen durften, „Hilferufe“ gewesen sein könnten und die Plattform wollte, dass die Menschen „suchen“. Gemeinschaft“.
„Grafische Werbung oder Ermutigung [of suicide or self-harm] war nie erlaubt“, sagte sie, fügte aber hinzu, dass „Schweigen zum Schweigen bringen [a poster’s] Kämpfe“ könnten „unglaublichen Schaden“ anrichten.
Sie sagte, die Probleme seien „kompliziert“ und das Expertenverständnis habe sich in den letzten Jahren entwickelt.
Dem Gericht wurde eine Reihe von Videoclips gezeigt, die Russell vor ihrem Tod auf Instagram gemocht oder gespeichert hatte, darunter Nahaufnahmen von Personen, die sich mit Rasierklingen in die Handgelenke schnitten, die laut Gerichtsmediziner Andrew Walker „fast unmöglich zu sehen“ waren.
Die Clips enthielten Nahaufnahmen von Menschen, die sich selbst verletzen, von Gebäuden stürzen und eine Handvoll Pillen schlucken, oft unterlegt mit lauter Musik und negativen Botschaften. Es war unklar, ob sie reale Begebenheiten zeigten oder aus Film und Fernsehen stammten.
Walker sagte, der Inhalt „scheint den Schaden für junge Menschen zu verherrlichen“ und sei „von äußerst beunruhigender Natur“.
Lagone sagte, Instagram habe seine Richtlinien im Jahr 2019 geändert, nachdem Experten darauf hingewiesen hatten, dass grafische Bilder von Selbstverletzungen Benutzer dazu ermutigen könnten, sich selbst zu verletzen. Das Unternehmen entfernte zuvor Posts, die Selbstverletzungen verherrlichten, ermutigten oder förderten, aber keine Posts, die es den Benutzern hätten ermöglichen können, ihre Kämpfe zuzugeben und sich gegenseitig zu unterstützen.
Nach Russells Tod rieten Experten dem Unternehmen, dass „einige grafische Bilder . . . könnte das Potenzial haben, Selbstverletzung zu fördern“, so ein Teil von Lagones Zeugenaussage, die vor Gericht verlesen wurde.
Auf die Frage, ob Meta Untersuchungen zu den Auswirkungen von Selbstverletzungsinhalten auf Benutzer durchgeführt habe, sagte Lagone, dass ihr keine bekannt seien und dass die Durchführung schwierig gewesen wäre. „Die Auswirkungen bestimmter Materialien können Menschen zu unterschiedlichen Zeiten auf unterschiedliche Weise beeinflussen . . . Es ist wirklich kompliziert“, sagte sie.
Molly Russells Vater, Ian Russell, sagte der Untersuchung diese Woche, dass Social-Media-Algorithmen seine Tochter zu beunruhigenden Posts gedrängt und zu ihrem Tod beigetragen hätten. Er sagte dem Gericht, dass „soziale Medien geholfen haben, meine Tochter zu töten“.
Instagram hatte Molly Russell Accounts empfohlen, die einige im Zusammenhang mit Depressionen und Selbstmordgedanken enthielten.
Molly Russell wurden auch Inhalte über Depressionen von Pinterest empfohlen, wie die Untersuchung diese Woche hörte, darunter „zehn Depressions-Pins, die Ihnen gefallen könnten“. Sie erhielt nach ihrem Tod weiterhin E-Mails von Pinterest, darunter eine mit dem Titel „Neue Ideen für Sie bei Depressionen“.
Am Donnerstag gab ein hochrangiger Pinterest-Manager bei der Untersuchung zu, dass die Website zum Zeitpunkt von Molly Russells Tod nicht sicher war und trotz Aktualisierungen ihrer Regeln immer noch „unvollkommen“ war.
Auf die Frage des Anwalts der Familie Russell, Oliver Sanders KC, ob die Richtlinien von Instagram „unangemessen“ gewesen seien, als Molly Russell starb, sagte Lagone: „Wir kamen zu dem Schluss, dass wir die Richtlinien erweitern mussten, und wir haben dies getan.“
Die Anhörung findet statt, da die Verabschiedung des Gesetzentwurfs zur Online-Sicherheit durch das Parlament, der darauf abzielt, Internetunternehmen dazu zu zwingen, ihre Plattformen sicher zu halten, ausgesetzt wurde. Liz Truss, die neue Premierministerin, soll erwägen, eine unter Tech-Lobbyisten umstrittene Klausel zu lockern, die Plattformen dafür verantwortlich machen würde, „legale, aber schädliche“ Inhalte wie Mobbing zu entfernen.