Erhalten Sie kostenlose Updates zu Technologievorschriften
Wir senden Ihnen eine myFT Daily Digest E-Mail mit den neuesten Informationen Technologieregulierung Neuigkeiten jeden Morgen.
China wird Regeln für generative KI erlassen, da Peking versucht, ein Gleichgewicht zwischen der Ermutigung lokaler Unternehmen zur Entwicklung der revolutionären Technologie und seinem Wunsch, Inhalte zu kontrollieren, herzustellen.
Die Cyberspace Administration of China, die mächtige Internet-Aufsichtsbehörde, strebt die Schaffung eines Systems an, das Unternehmen dazu zwingt, eine Lizenz zu erwerben, bevor sie generative KI-Systeme auf den Markt bringen können, sagten zwei Personen, die den Regulierungsbehörden nahe stehen.
Diese Anforderung verschärft die im April herausgegebenen Verordnungsentwürfe, die den Gruppen mehr Spielraum gegeben hatten, da die Gruppen nach der Markteinführung zehn Arbeitstage Zeit hatten, ihr Produkt bei den chinesischen Behörden zu registrieren.
Das neue Lizenzsystem, Teil der Vorschriften, die nach Angaben von Personen, die mit dem Schritt vertraut sind, bereits in diesem Monat fertiggestellt werden, signalisieren, wie Peking darum kämpft, den Ehrgeiz, weltbeste Technologien zu entwickeln, mit seinem langjährigen Zensurregime in Einklang zu bringen.
„Das ist das erste Mal [authorities in China] „Sie müssen einen Kompromiss“ zwischen den beiden „grundlegenden“ Zielen der Kommunistischen Partei eingehen, nämlich der Aufrechterhaltung der KI-Führung und der Kontrolle von Informationen, sagte Matt Sheehan, Fellow am Carnegie Endowment for International Peace.
„Wenn Peking beabsichtigt, die durch KI erzeugten Informationen vollständig zu kontrollieren und zu zensieren, wird es von allen Unternehmen verlangen, zuvor die Genehmigung der Behörden einzuholen“, sagte eine Person, die mit den Überlegungen des CAC vertraut ist.
„Aber die Regulierung muss verhindern, dass inländische Unternehmen im Technologiewettlauf erstickt werden“, fügte die Person hinzu. Die Behörden „schwanken“.
China versucht, auf den Aufstieg generativer KI-Systeme zu reagieren, die als Reaktion auf einfache Eingabeaufforderungen schnell menschenähnliche Texte, Bilder und andere Inhalte erstellen.
Inhalte sollten „grundlegende sozialistische Werte verkörpern“, heißt es im Regelentwurf vom April, und dürfen nichts enthalten, was „die Staatsmacht untergräbt, den Sturz des sozialistischen Systems befürwortet, zur Spaltung des Landes anstiftet oder die nationale Einheit untergräbt“.
Unternehmen wie Baidu und Alibaba, die in diesem Jahr generative KI-Anwendungen eingeführt haben, hätten in den letzten Monaten Kontakt mit den Regulierungsbehörden aufgenommen, um sicherzustellen, dass ihre KI nicht gegen die Regeln verstößt, sagten zwei weitere Personen, die den Regulierungsbehörden nahe stehen.
Das CAC müsse sicherstellen, dass die KI „zuverlässig und kontrollierbar“ sei, da Peking sich Sorgen um die verwendeten Daten mache, sagte sein Direktor Zhuang Rongwen kürzlich.
„Chinas Regulierungsmaßnahmen konzentrieren sich in erster Linie auf die Inhaltskontrolle“, sagte Angela Zhang, außerordentliche Professorin für Rechtswissenschaften an der Universität Hongkong.
Andere Regierungen und Behörden bemühen sich darum, Gesetze gegen möglichen Missbrauch der Technologie zu erlassen. Die EU hat einige der strengsten Regeln der Welt vorgeschlagen, was zu einem Aufschrei bei den Unternehmen und Führungskräften der Region geführt hat, während Washington über Maßnahmen zur Kontrolle von KI diskutiert und das Vereinigte Königreich eine Überprüfung einleitet.
Verordnungsentwurf vom April In China wurden Anforderungen an die Daten festgelegt, die die Technologieunternehmen zum Trainieren generativer KI-Modelle verwenden, mit der spezifischen Anforderung, „Wahrhaftigkeit, Genauigkeit, Objektivität und Vielfalt“ sicherzustellen.
Die Anforderung zeigt, dass China eine ähnliche Richtung einschlägt wie Europa, wo die Qualität der zum Trainieren von KI-Modellen verwendeten Daten ein zentraler Bereich der behördlichen Kontrolle ist, beispielsweise bei der Suche nach Problemen wie „Halluzinationen“ – wenn KI-Systeme Material herstellen.
Peking habe seine Anforderungen jedoch „so viel höher“ angesetzt, sagte Sheehan. Das bedeutet, dass chinesische Unternehmen mehr Aufwand in die Filterung der Daten investieren müssen, die zum „Training“ der KI verwendet werden.
Der Mangel an verfügbaren Daten, die diesen Anforderungen gerecht werden, ist jedoch zu einem Engpass geworden, der viele Unternehmen daran hindert, sogenannte große Sprachmodelle zu entwickeln und zu verbessern, die Technologie, die Chatbots wie ChatGPT von OpenAI und Bard von Google zugrunde liegt.
Unternehmen würden wahrscheinlich „vorsichtiger und konservativer sein, was das angeht“. [AI] Sie bauen“, weil die Folgen eines Verstoßes gegen die Regeln schwerwiegend sein könnten, sagte Helen Toner, Direktorin für Strategie und Grundlagenforschungsstipendien am Center for Security and Emerging Technology der Georgetown University.
Die chinesischen Behörden haben in ihren Verordnungsentwürfen impliziert, dass Technologiegruppen, die ein KI-Modell erstellen, fast die volle Verantwortung für alle erstellten Inhalte tragen werden, ein Schritt, der „die Bereitschaft der Unternehmen verringern würde, ihre Modelle zur Verfügung zu stellen, da sie möglicherweise für Probleme verantwortlich gemacht werden, die außerhalb ihrer Kontrolle liegen“. “, sagte Toner.
Die FT hat versucht, das CAC um eine Stellungnahme zu bitten.
Zusätzliche Berichterstattung von Ryan McMorrow in Peking