Greg Marston, ein britischer Synchronsprecher mit mehr als 20 Jahren Erfahrung, ist kürzlich zufällig darauf gestoßen, dass seine eigene Stimme für eine Online-Demo verwendet wurde.
Marston war eine von mehreren Stimmen auf der Website Revoicerdas ein KI-Tool bietet, das Text in Sprache in 40 Sprachen mit unterschiedlichen Betonungen, Stimmungen und Stilen umwandelt.
Da er sich nicht erinnern konnte, dem Klonen seiner Stimme mittels KI zugestimmt zu haben, nahm er Kontakt mit dem Unternehmen auf. Revoicer teilte ihm mit, dass sie seine Stimme von IBM gekauft hätten.
Im Jahr 2005 hatte Marston einen Vertrag mit IBM für einen Auftrag unterzeichnet, den er für ein Navigationssystem aufgezeichnet hatte. In dem 18-Jahre-Vertrag, einem Industriestandard, hatte Marston seine Stimmrechte auf unbestimmte Zeit unterschrieben, zu einer Zeit, bevor generative KI überhaupt existierte. Jetzt hat IBM die Lizenz, seine Stimme an Dritte zu verkaufen, die sie mithilfe von KI klonen und für beliebige kommerzielle Zwecke verkaufen könnten. IBM sagte, es sei „sich der von Herrn Marston geäußerten Bedenken bewusst“ und bespreche es „direkt mit ihm“.
„[Marston] arbeitet auf demselben Markt, er verkauft immer noch seine Stimme, um seinen Lebensunterhalt zu verdienen, und er konkurriert jetzt mit sich selbst“, sagte Mathilde Pavis, die auf digitale Klontechnologien spezialisierte Anwältin des Künstlers. „Er hatte ein Dokument unterzeichnet, aber es gab keine Vereinbarung, dass er 20 Jahre später durch eine unvorhergesehene Technologie geklont werden sollte.“
Tausende andere Synchronsprecher und Performance-Künstler stehen vor dem gleichen Dilemma wie Marston, da Unternehmen um die Kommerzialisierung generativer KI kämpfen – Systeme der künstlichen Intelligenz, die schnell menschenähnliche Texte, Bilder und Inhalte ausgeben können.
Im vergangenen Jahr ist die Sprachsynthesetechnologie präziser, weit verbreiteter und einfacher herzustellen geworden, was zu neuen Geschäftsmodellen rund um das KI-Klonen geführt hat. Künstler, deren Arbeit auf ihren Stimmen und Gesichtern beruht, sehen sich durch potenziell ausbeuterische Verträge, Datenerfassungsmethoden und angebliche Betrügereien in ihrer Existenz bedroht, was zu einer raschen Erosion ihrer Arbeit und ihrer Rechte führt.
Pavis sagte, sie habe seit Januar mindestens 45 KI-bezogene Anfragen erhalten, darunter Fälle von Schauspielern, die ihre Stimmen bei Telefonbetrügereien wie gefälschten Versicherungsanrufen oder KI-generierten Anzeigen hörten. Equity, die Gewerkschaft der darstellenden Kunst- und Unterhaltungsindustrie im Vereinigten Königreich, arbeitet mit Pavis zusammen und sagt, auch sie habe in den letzten sechs Monaten mehrere Beschwerden über KI-Betrug und Ausbeutung erhalten.
„Wir sehen, dass immer mehr Mitglieder ihre Stimme, ihr Bild und ihr Abbild nutzen, um mithilfe von KI-Technologie völlig neue Darbietungen zu schaffen, entweder mit oder ohne Zustimmung“, sagte Liam Budd, Industrievertreter für neue Medien bei Equity. „Es gibt keinen Schutz, wenn Sie Teil eines Datensatzes von Tausenden oder Millionen von Menschen sind, deren Stimmen oder Konterfeis von KI-Entwicklern erfasst wurden.“
Auch Laurence Bouvard, ein in London ansässiger Synchronsprecher für Hörbücher, Werbung und Hörspiele, ist auf mehrere Fälle ausbeuterischen Verhaltens gestoßen. Sie erhielt kürzlich Facebook-Benachrichtigungen über gefälschte Castings, bei denen KI-Websites Schauspieler auffordern, Rezepte oder Kauderwelschzeilen vorzulesen, die eigentlich nur Mittel sind, um ihre Stimmdaten für KI-Modelle abzukratzen.
Einige werben mit regulären Synchronjobs, fügen aber Klauseln zur KI-Synthese in die Verträge ein, während andere im Voraus agieren, aber als Gegenleistung für dauerhafte Rechte an der Stimme des Schauspielers einen Hungerlohn anbieten. Eine aktuelle Stellenausschreibung auf dem Kreativjob-Marktplatz Mandy.com zum Beispiel: beschrieb einen halbtägigen Auftritt Aufnahme eines fünfminütigen Skripts auf Video zur Erstellung von KI-Präsentatoren durch das Technologieunternehmen D-ID.
„Diese Technologie wurde bereits eingesetzt, um Unternehmen wie Microsoft bei ihren Schulungsvideos zu unterstützen“, heißt es in der Stellenanzeige. „Der Dialog wird zensiert, sodass die Technologie nicht dazu genutzt werden kann, explizite oder beleidigende Dinge zu sagen“, hieß es weiter.
Als Gegenleistung für das Bild und die Ähnlichkeit des Schauspielers bot das Unternehmen Einzelpersonen eine Pauschalgebühr von 600 £ an. D-ID sagte, es habe „faire Marktpreise“ gezahlt. Es fügte hinzu, dass die jeweilige Anzeige zurückgezogen wurde und „nicht die endgültige Zahlung widerspiegelt“.
„Denken Sie daran, dass es ohne Trainingsdaten keine KI gäbe“, sagte Bouvard auf einer kürzlich vom Gewerkschaftsbund in Westminster organisierten Veranstaltung. „Und doch, ohne um Erlaubnis zu bitten oder eine angemessene Entschädigung zu leisten. . . Die KI-Unternehmen schnappen sich unsere Stimmen, unsere Auftritte und Ähnlichkeiten und trainieren ihre Algorithmen anhand unserer Daten, um ein Produkt zu produzieren, das uns ersetzen soll.“
Sie fügte hinzu: „Nach der aktuellen Gesetzgebung können wir Künstler nichts dagegen tun. Dabei geht es nicht nur um den Schutz von Arbeitsplätzen, sondern auch darum, das zu schützen, was es bedeutet, Künstler zu sein.“
Marcus Hutton, der seit drei Jahrzehnten als Synchronsprecher tätig ist, hat eine Liste von Leistungssynthese- oder KI-Unternehmen zusammengestellt und mehr als 60 gefunden, von denen viele über beträchtliche Risikokapitalfinanzierungen verfügen. Beispielsweise sammelte das in London ansässige Unternehmen ElevenLabs diesen Monat 19 Millionen US-Dollar in einer von Andreessen Horowitz gemeinsam geleiteten Runde, an der unter anderem Instagram-Mitbegründer Mike Krieger und Oculus-Mitbegründer Brendan Iribe teilnahmen.
„Man muss es so sehen, wie es ist: ein umfassender Finanztransfer vom Kreativsektor in den Technologiesektor. Das ist ganz klar: Geld fließt aus unserem Pot in ihren Pot“, sagte Hutton. „Jedes Mal, wenn ein Künstler an ein Mikrofon oder vor eine Kamera tritt, besteht die Gefahr, dass ihm seine KI-Rechte entzogen werden.“
ElevenLabs sagte, es arbeite mit Synchronsprechern und ihren Vertretern zusammen, um zu verstehen, wie Plattformen wie die ihre mehr kommerzielle Möglichkeiten für den Sektor schaffen könnten. Das Unternehmen sagte: „Wir glauben, dass KI-Unternehmen und kreative Gemeinschaften zusammenarbeiten können, um sicherzustellen, dass diese Technologien Neues schaffen.“ . . Wege zu Einnahmen und ermöglichen es den Erstellern von Inhalten, noch bessere und global zugänglichere Inhalte zu produzieren.“
Laut einer Umfrage von Equity verdienen rund 94 Prozent der Arbeitnehmer in der Kreativbranche weniger als 33.280 £ im Jahr, dem durchschnittlichen Vollzeitlohn im Vereinigten Königreich. Dieses Gehaltsniveau macht sie bei Verhandlungen angreifbar. In einer Branche, die bereits skrupellose Verträge gegen Künstler einsetzt, hat die Einführung von KI ihre Position weiter geschwächt, so Rechtsanwalt Pavis.
Revoicer, das KI-Sprachunternehmen, sagte, Marstons Stimme stamme vom Cloud-Text-to-Speech-Dienst von IBM. Das Start-up kaufte es „wie tausende andere Entwickler“ von IBM zu einem Preis von 20 US-Dollar für gesprochenes Audio im Wert von 1 Million Zeichen, also etwa 16 Stunden.
Rechtlich gesehen haben Künstler kaum Rückgriffsmöglichkeiten. Datenschutzgesetze sind die einzigen Gesetze, die KI abdecken, und die britische Regierung hat ihren Wunsch nach einer sanften IP-Regulierung zum Ausdruck gebracht, die das Gedeihen von KI-Innovationen ermöglicht.
„Der [UK] Das Urheberrechtsgesetz wurde seit mindestens 25 Jahren in keiner wesentlichen Weise angetastet. Es ist irgendwie älter als das Internet“, sagte Synchronsprecher Hutton. „Die einzigen Rechte, die Künstler derzeit haben, sind ihre Einwilligung. Aber in unserer Branche müssen Sie zustimmen. Wer nicht zustimmt, arbeitet nicht und isst nicht. Es handelt sich also um eine sehr asymmetrische Verhandlungsposition.“
Equity, dem Hutton und Bouvard angehören, fordert die gesetzliche Verankerung neuer Rechte, und zwar ausdrücklich in zeitlich begrenzten Verträgen, statt wie in der Branche üblich, Rechte auf unbestimmte Zeit zu übertragen. Es verlangt außerdem, dass das Gesetz die Notwendigkeit einer ausdrücklichen Zustimmung vorsieht, wenn die Stimme oder der Körper eines Künstlers durch KI geklont werden soll. Vor zwei Wochen hat die Gewerkschaft ein „Toolkit“ herausgegeben, das Musterklauseln und Verträge zum Einsatz von KI enthält, auf die sich Künstler und ihre Agenten beziehen können.
„Ich bin ein arbeitender, jobbender Schauspieler. . . „Wahrscheinlich gehört er zur letzten Generation alltäglicher Schauspieler, die es geschafft haben, ein Haus zu kaufen oder Kinder großzuziehen, ohne enorm berühmt zu werden“, sagte Hutton. „Es ist deprimierend, aber ich kann mir einfach nicht vorstellen, wie es noch nachhaltig sein soll.“