Letzte Woche tauchten in den sozialen Medien realistisch wirkende Fotos von Swift in allerlei expliziten Posen auf. Die Bilder wurden mit einer von Dutzenden Anwendungen erstellt, die künstliche Intelligenz nutzen, um aus vorhandenem Material neue Bilder zu erstellen.
Solche Fotomontagen waren jahrzehntelang mit Schere und Kleber und dann mit Photoshop möglich. Aber seit zwei Jahren ist es ihnen gelungen, es zu einem Kinderspiel zu machen, indem sie KI-Software mit einer Beschreibung des gewünschten Bildes versorgen („Machen Sie ein Foto des Papstes in einem weißen Daunenmantel“).
Die Bilder erschienen auf dem Nachrichtendienst X, der angab, den Schmutz so schnell wie möglich zu entfernen. Dennoch wurde mindestens ein Foto 47 Millionen Mal angesehen und erneut gepostet, bevor es X gelang, das Konto zu schließen, auf dem das Original veröffentlicht wurde.
Der Nachrichtendienst, der seit 2022 Tesla- und SpaceX-CEO Elon Musk gehört, versucht auch, die Verbreitung der Bilder zu stoppen, indem er die Suche nach Nachrichten mit dem Namen „Taylor Swift“ unmöglich macht. Damit sind auch legitime Inhalte auf X über den 34-jährigen Sänger nicht mehr auffindbar.
Scham
Sowohl das Weiße Haus als auch Mitglieder des US-Kongresses haben die gefälschten Bilder kritisiert. Regierung und Parlament sagen zwar schon länger, dass sie die Auswüchse der künstlichen Intelligenz bekämpfen wollen, konkrete Maßnahmen wurden jedoch nicht ergriffen. Da die neue, vielversprechende Technologie nun auf ein nationales Idol wie Taylor Swift abzielt, hat Washington genug.
„Das ist sehr besorgniserregend“, sagte ein Pressesprecher des Weißen Hauses an diesem Wochenende. Sie räumte ein, dass soziale Medien ihre eigenen Entscheidungen darüber treffen, welche Inhalte akzeptabel sind und welche nicht, aber „sie spielen auch eine wichtige Rolle bei der Durchsetzung ihrer eigenen Regeln, um die Verbreitung von Fehlinformationen und intimen Bildern von echten Menschen, die dort sind, zu verhindern.“ war damit nicht einverstanden.
Zehn der fünfzig US-Bundesstaaten haben bereits Gesetze erlassen, die die Erstellung und Verbreitung manipulierter Bilder (Deepfakes) wie das von Swift unter Strafe stellen, doch die Forderungen nach einer nationalen Gesetzgebung werden immer lauter.
Vorteilhaft
In dieser Hinsicht könnte es – unbeabsichtigt – von Vorteil sein, dass Bildkünstler Swift ins Visier genommen haben, sagte Ben Decker von Memetica, einer privaten digitalen Forschungsagentur, gegenüber CNN. „Wenn große Stars wie Taylor Swift ins Visier genommen werden, könnte das Gesetzgeber und Technologieunternehmen dazu veranlassen, Maßnahmen zu ergreifen, weil sie es sich nicht leisten können, dass Amerikas Lieblinge eine Kampagne gegen sie starten.“ Swift hat wahrscheinlich mehr Gewicht als jeder andere im Internet.“
Als sich Swift in den letzten Jahren über die Millionenbeträge beklagte, die der Vermittler mit Wucherpreisen für „gebrauchte“ Tickets für ihre Konzerte verdient, führte dies auch zu rechtlichen Vorschlägen, um diesen lukrativen Markt einzudämmen.
Die Sängerin selbst hat bisher nicht auf die Kontroverse reagiert. Anwälte halten es für möglich, dass die Urheber der expliziten Bilder strafrechtlich verfolgt werden. Laut Experten hat Swift jedoch bessere Chancen auf Wiedergutmachung, wenn sie sich gegen die sozialen Medien richtet, die zur Verbreitung von Bildern beitragen, und gegen die Unternehmen, die Anwendungen bereitstellen, die anstößige Fälschungen ermöglichen.
Microsoft
Der Swift-Fake-Porno nutzte unter anderem einen KI-Bildersteller von Microsoft. CEO Satya Nadella spürt die Stimmung offenbar bereits. In einem Interview mit dem amerikanischen Sender NBC News sagte Nadella, dass sein Unternehmen den Druck verspüre, „schnell“ gegen pornografische Deepfakes vorzugehen. Es liege in der Verantwortung von Microsoft, „Leitplanken“ rund um die Technologie zu errichten, sagte Nadella, „damit sicherere Inhalte produziert werden.“ Es muss noch viel getan werden, und es passiert bereits viel.“
Taylor Swift ist jetzt nicht allein. Die Angehörigen von George Carlin haben das Medienunternehmen Dudesey verklagt, weil es die Stimme des amerikanischen Komikers mit einem Computer nachgeahmt und einen Chatbot Texte „im Geiste von Carlin“ verfassen ließ, die auf Texten aus seinen Theater- und Fernsehsendungen basieren.
Die Tochter von Carlin, die 2008 starb, nennt die Kopie von Dudesey „eine schlecht ausgeführte Kopie, die von skrupellosen Personen gesammelt wurde, die von der besonderen Bindung profitieren wollen, die mein Vater zu seiner großen Gruppe von Bewunderern aufgebaut hat“.