BuzzFeed News hat es geschafft, innerhalb einer Stunde, nachdem es auf der Plattform war, mehr als 20 Foopah-Herausforderungsvideos zu finden, nur um aufgrund dieses Engagements mehr auf der For You-Seite gezeigt zu werden. (BuzzFeed News wird keine Videos außer denen von Andrews verlinken oder einbetten, da wir nicht garantieren können, dass alle an der Challenge teilnehmenden Benutzer volljährig sind.) Noch heute, beim Öffnen der App, stieß BuzzFeed News auf Foopah-Challenge-Videos in vier der ersten fünf Videos, die es sah.
Es ist virales Gold, das Sex und das Gefühl, auf einer riesigen Technologieplattform mit einer leicht reproduzierbaren Einbildung fertig zu werden, kombiniert. Andrews stieß auf die Herausforderung, als sie von ihrem TikTok-Manager auf ihre Existenz hingewiesen wurde. Sie hat schnell eine Handvoll Videos produziert, die den Verkehr zu ihren OnlyFans gelenkt haben. „Ich habe in den letzten Tagen mehr Verkehr bekommen, nur weil ich diese neuen TikToks im Vergleich zu den normalen Trends gemacht habe“, sagte sie.
TikTok moderiert Inhalte, indem es Videos zunächst durch ein automatisiertes System laufen lässt, das Computer Vision verwendet, um zu sehen, ob sie möglicherweise Inhalte enthalten, die gegen sie verstoßen seine Richtlinien, die „auf unserer Plattform keine Nacktheit, Pornografie oder sexuell explizite Inhalte zulassen“. Alles, was als verdächtig gilt, wird dann von einem menschlichen Moderator untersucht, aber von Moderatoren wird erwartet, dass sie sich in einer einzigen Schicht tausend Videos ansehen, was bedeutet, dass sie den Inhalt eines Videos nicht im Detail untersuchen können.
Und außerdem, sagte Andrews, gibt es keine Möglichkeit, sicher zu wissen, ob die Leute in den Videos tatsächlich blitzen. „Beweise es“, sagte sie. Einige, die am Foopah-Trend teilnehmen, verwenden ganz klar ihren Ellbogen oder Daumen anstelle einer Brust oder Brustwarze, die um die Tür herum erscheinen. (Andrews schaffte es, sich tatsächlich auszuziehen. „Ja, sie sind echt“, sagte sie, als sie gefragt wurde, ob ihre Videos zeigten, wie sie ihre Brüste entblößte.)
„Dies ist ein weiterer Fall, in dem ein Content-Moderation-System gegen eine unternehmerische jüngere Zielgruppe antritt“, sagte Liam McLoughlin, Dozent an der University of Liverpool, der Content-Moderation studiert. „Diese Moderatoren haben oft Sekunden Zeit, um zu entscheiden, ob Inhalte gegen Regeln verstoßen, und bei den Foopah-Beispielen, die ich gesehen habe, habe ich Minuten gebraucht, um sie tatsächlich zu erkennen. Selbst wenn der Inhalt vom Filter gekennzeichnet wird, können menschliche Moderatoren möglicherweise nicht Schritt halten.“
Die Verbreitung der Foopah-Herausforderung zeigt die Leistungsfähigkeit der For You-Seite von TikTok und der verwendeten Algorithmen. „Es zeigt Videos, die von TikTok nicht vom Wort bestraft werden gehen kann wirklich irgendwohin führen“, sagte Carolina Are, eine Innovationsstipendiatin, die die Schnittstelle zwischen Online-Missbrauch und Zensur an der Northumbria University in Großbritannien untersucht. (Are selbst war die Opfer übermäßig zensierender Inhalte Moderation auf TikTok.)
TikTok hat den Zugriff auf eine Reihe von Hashtags blockiert, die zur Verbreitung der Videos verwendet wurden, aber Inhalte mit einem Hashtag, #foopahh_, wurden insgesamt mehr als 7 Millionen Mal gesehen, darunter 2 Millionen Aufrufe in der letzten Woche. Laut eigenen Angaben von TikTok sind zwei Drittel der Nutzer, die sich mit dem Hashtag beschäftigen, zwischen 18 und 24 Jahre alt.
Etwa die Hälfte der mehr als 20 Videos, die BuzzFeed News ursprünglich gefunden hatte, wurde innerhalb von 48 Stunden entfernt, wobei viele der dahinter stehenden Konten gekündigt wurden. Aber mehr Videos waren aufgetaucht, um sie zu ersetzen. Ein TikTok-Sprecher sagte gegenüber BuzzFeed News: „Nacktheit und sexuell explizite Inhalte sind auf TikTok nicht erlaubt. Wir ergreifen geeignete Maßnahmen gegen Inhalte dieser Art, einschließlich des Verbots verletzender Hashtags und des Entfernens von Videos. Wir investieren weiterhin in großem Umfang in unsere Trust and Safety-Aktivitäten.“
Wird untersucht, wie Social-Media-Plattformen einen übermäßig drakonischen Umgang mit Körpern verfolgen und wie Richtlinien zur Moderation von Inhalten oft von denen bewaffnet werden, die Frauen nicht mögen oder versuchen, Macht über sie zu erlangen? „Einer der Gründe, warum dies passieren könnte, und einer der Gründe, warum dieses seltsame Format im Trend liegt, ist, dass die Moderation von Körpern in sozialen Medien notorisch puritanisch ist“, sagte sie.
Dem stimmt Andrews zu, die gesehen hat, wie viele ihrer Konten auf TikTok zuvor gesperrt wurden. „Du wirst ohne Erklärung gesperrt“, sagte sie. „Kein Reim. Kein Grund. Es ist dumm.“
Zusätzlich zu seiner Besorgnis über die Verbreitung expliziter Inhalte an Menschen, die sich möglicherweise nicht dafür entscheiden, sie zu konsumieren, ist McLoughlin besorgt über die langfristigen Auswirkungen des Trends. „Andere Ersteller von Inhalten, die die Regeln nicht brechen, sehen sich möglicherweise sogar noch härteren Systemen ausgesetzt, die direkt auf sie abzielen“, sagte er. „Ich kann mir durchaus vorstellen, dass zum Beispiel diejenigen gezielt angesprochen werden, die über das Stillen sprechen.“
Das ist etwas, worüber Sexarbeiterinnen auf TikTok besorgt sind. Steph Oshiri, ein kanadischer Ersteller von Inhalten für Erwachsene, getwittert dass die Foopah-Herausforderung ein „schlechtes Aussehen für uns“ war und sich negativ auf die Fähigkeit der Ersteller von Inhalten für Erwachsene auswirken würde, in Zukunft arbeitssichere Inhalte auf TikTok zu posten. „Ich erwarte, dass in den nächsten zwei Wochen viele Accounts gesperrt werden oder Richtlinien aktualisiert werden“, fügte Oshiri hinzu.
Andere waren besorgt über die möglichen rechtlichen Folgen, wenn sich Entwickler angesichts der vergleichsweise jungen Nutzerbasis von TikTok Minderjährigen in der App aussetzen.
Are, die sagte, ihre „Haltung sei ‚Ich will überall Brüste'“, glaubt, dass die Kontroverse um die Herausforderung ein weiterer Beweis für die Doppelmoral ist, die in den sozialen Medien an Frauen angelegt wird. „Weil wir über Körper sprechen, und insbesondere über Frauenkörper“, sagte Are, „jeder sagt sich irgendwie: ‚Oh, nun, Körper sind schädlich – wird nicht jemand an die Kinder denken?’“