Ein hochrangiger Beamter in der Regierung von Narendra Modi hat gewarnt, dass Social-Media-Unternehmen für KI-generierte „Deepfakes“ zur Verantwortung gezogen werden, die auf ihren Plattformen unter Einhaltung „sehr klarer und expliziter Regeln“ veröffentlicht werden, während Indien sich auf die Parlamentswahlen in diesem Jahr vorbereitet.
Rajeev Chandrasekhar, Staatsminister für Elektronik und IT, sagte, dass Indien aufgrund der Größe seiner Online-Bevölkerung „früher aufgewacht“ sei als andere Länder hinsichtlich der Gefahr, die von Deepfakes ausgeht. Bei einer Gesamtbevölkerung von 1,4 Milliarden Menschen sind bis zu 870 Millionen Menschen mit dem Internet verbunden, während 600 Millionen Menschen soziale Medien nutzen.
„Wir sind die größte Demokratie der Welt [and] Wir sind offensichtlich zutiefst besorgt über die Auswirkungen grenzüberschreitender Akteure, die Desinformation, Fehlinformationen und Deepfakes nutzen, um Probleme in unserer Demokratie zu verursachen“, sagte Chandrasekhar der Financial Times. „Wir waren uns dessen früher bewusst als die meisten Länder, weil es uns viel stärker negativ beeinflusst als kleinere Länder.“
Die Warnung vor Fälschungen erfolgt, nachdem Modi, der in einer für April und Mai erwarteten Parlamentsumfrage eine Wiederwahl für eine dritte Amtszeit anstrebt, das Thema in jüngsten Äußerungen angesprochen hat und Indien seinen regulatorischen Einfluss auf Unternehmen ausübt, die einen der größten der Welt beliefern Populationen von Internetnutzern.
Forscher haben gewarnt, dass Deepfakes – Bilder, Videos und Audiodateien, die mit billigen Werkzeugen der künstlichen Intelligenz erstellt wurden und Menschen überzeugend nachbilden können – eine wachsende Bedrohung für Demokratien darstellen. Mit gefälschten Clips wurde bereits Einfluss auf Politik und Wahlen in Großbritannien, Bangladesch, Nigeria, Sudan und der Slowakei genommen.
Social-Media-Plattformen haben inzwischen Regeln zur Bekämpfung von Deepfakes aufgestellt. Meta, X und TikTok verlangen nun, dass irreführend manipulierte Medien entweder entfernt oder gekennzeichnet werden. Meta und Google haben kürzlich Richtlinien angekündigt, die Kampagnen dazu verpflichten, offenzulegen, ob ihre politischen Anzeigen digital verändert wurden.
Einige Länder prüfen beispielsweise die Bekämpfung von Deepfakes im Zusammenhang mit Pornografie und Politik. In den USA beispielsweise gibt es keine Bundesgesetze, die die Technologie explizit regeln. Allerdings sind es mehrere staatliche Gesetzgeber verfolgen Gesetzgebung zur Bekämpfung politischer Deepfakes.
Neu-Delhi forderte in einem am 26. Dezember veröffentlichten und an in Indien aktiven Social-Media- und Messaging-Plattformen, darunter YouTube, Machen Sie dies in ihren Nutzungsbedingungen und Nutzungsvereinbarungen deutlich.
Indiens IT-Regeln, die 2021 ausgearbeitet wurden, verbieten neben anderen Einschränkungen der freien Meinungsäußerung auch Inhalte, die als schädlich für Kinder gelten, die nationale Sicherheit gefährden oder Fehlinformationen verbreiten.
Die Richtlinie warnte Plattformen, „Fehlinformationen zu identifizieren und zu entfernen, die offensichtlich falsch, unwahr oder irreführend sind und sich als eine andere Person ausgeben, einschließlich solcher, die mithilfe von Deepfakes erstellt wurden“.
„Unser Ansatz in Bezug auf Deepfakes, nachdem der Premierminister darauf aufmerksam gemacht hat, besteht darin, die Vermittler darüber zu informieren und sie darauf aufmerksam zu machen, dass das Gesetz des Landes es jedem Benutzer auf seiner Plattform verbietet, Fehlinformationen, einschließlich Deepfakes, zu hosten und ihnen eine Verpflichtung aufzuerlegen.“ die Plattformen, dass, wenn ein Benutzer dies tun würde, dieser Benutzer gegen das Gesetz verstoßen würde“, sagte Chandrasekhar.
Er fügte hinzu: „Wenn die Plattform dem Nutzer erlaubt, diese Inhalte weiterhin zu veröffentlichen, verstößt sie gegen das Gesetz.“
Er sagte, dass die Menschen den Fehler gemacht hätten, die USA, wo die ersten Verfassungszusatzrechte „absolut und bedingungslos“ seien, mit dem Rest der Welt, einschließlich Indien, gleichzusetzen.
„Wir schaffen tatsächlich eine Form der Technologieregulierung, die zwischen den USA und Europa angesiedelt ist“, sagte der Beamte. „Die USA überlassen es vollständig den Märkten; Europa macht es völlig bürgerorientiert; und wir sagen im Grunde: „Wir lieben Innovationen, wir werden Innovationen fördern, aber wir wollen unsere kleinen Unternehmen und Benutzer schützen.“
Bei den jüngsten Wahlen in Indien, die 2014 und 2019 stattfanden, spielten soziale Medien eine wichtige Rolle im Wahlkampf, den die regierende Partei Bharatiya Janata führte und gewann. Es wird allgemein erwartet, dass Modis BJP die diesjährigen Wahlen angesichts einer schwachen und gespaltenen Opposition gewinnen wird.
Indien ist ein sensibler Markt für die Unternehmen aus dem Silicon Valley, da der Indische Nationalkongress Plattformen wie YouTube vorgeworfen hat, einige ihrer Inhalte, etwa die Reden des Abgeordneten Rahul Gandhi, „im Schatten zu verbieten“, während zivilgesellschaftliche Gruppen behaupteten, die Technologieunternehmen würden sich zu bereitwillig Modi beugen staatliche Abschaltbefehle. In den letzten Jahren wurden soziale Plattformen angewiesen, Beiträge zu entfernen, die beispielsweise den Umgang der indischen Regierung mit der Coronavirus-Pandemie kritisieren, und Kritiker von Modi wurden blockiert.
Indien ist einer der größten globalen Märkte für Meta-Plattformen wie WhatsApp und Facebook sowie für Google und seinen YouTube-Videokanal. Zivilgesellschaftliche Gruppen werfen der Modi-Regierung Übereifer bei der Überwachung des Internets vor, was ihrer Meinung nach Teil des umfassenderen Vorgehens Indiens gegen die Meinungsfreiheit ist.
In einem Brief, der diesen Monat an Chandrasekhar und andere Beamte geschickt wurde, die für die Festlegung der IT-Richtlinien der Regierung verantwortlich sind, behauptete die Internet Freedom Foundation, eine Nichtregierungsgruppe, dass sie „politisch unbequeme oder kontroverse Äußerungen unverhältnismäßig beeinflussen und möglicherweise zu willkürlicher Zensur führen könnten“.
Chandrasekhar wies Vorwürfe zurück, dass die Regierung zu weit gegangen sei, und sagte, dass „niemand behaupten kann, dass Material über sexuellen Kindesmissbrauch oder Deep Fakes oder pädophile oder patentverletzende Inhalte eine Verletzung der Rechte anderer darstellt“.
„Indien führt diesen Vorwurf an, wo von Plattformen verlangt wird, immer mehr Verantwortung zu übernehmen und mehr Verantwortung für alles Illegale zu übernehmen, das auf ihrer Plattform geschieht“, sagte er.