Bleiben Sie mit kostenlosen Updates auf dem Laufenden
Melden Sie sich einfach an Künstliche Intelligenz myFT Digest – direkt in Ihren Posteingang geliefert.
Chinesische Wissenschaftler für künstliche Intelligenz haben sich westlichen Wissenschaftlern angeschlossen und fordern strengere Kontrollen der Technologie als die von Großbritannien, den USA und der EU vorgeschlagenen, während die Nationen vor dem globalen KI-Sicherheitsgipfel diese Woche konkurrierende Positionen darlegen.
Mehrere chinesische akademische Teilnehmer des Gipfels im englischen Bletchley Park, der am Mittwoch beginnt, haben eine Erklärung unterzeichnet, in der sie warnen, dass fortschrittliche KI in den kommenden Jahrzehnten ein „existenzielles Risiko für die Menschheit“ darstellen wird.
Die Gruppe, zu der Andrew Yao gehört, einer der bekanntesten Informatiker Chinas, fordert die Schaffung einer internationalen Regulierungsbehörde, die obligatorische Registrierung und Prüfung fortschrittlicher KI-Systeme, die Aufnahme von Verfahren zur sofortigen „Abschaltung“ und fordert Entwickler auf, 30 US-Dollar auszugeben Prozent ihres Forschungsbudgets für KI-Sicherheit.
Die Vorschläge konzentrieren sich stärker auf existenzielle Risiken als die diese Woche erlassene Durchführungsverordnung von US-Präsident Joe Biden zu KI, die algorithmische Diskriminierung und Auswirkungen auf den Arbeitsmarkt umfasst, sowie das von der Europäischen Union vorgeschlagene KI-Gesetz, das sich auf den Schutz von Rechten wie der Privatsphäre konzentriert.
Die Erklärung geht auch über den Entwurf eines Kommuniques zur KI-Sicherheit hinaus, den der britische Premierminister Rishi Sunak für den wegweisenden Gipfel erarbeitet hat und der die Regierungen nicht dazu auffordert, konkrete Vorschriften zu erlassen.
Die Maßnahmen sind ein erster Hinweis auf Chinas wahrscheinliche Haltung zur globalen KI-Regulierung in einer Zeit erhöhter Spannungen zwischen Peking und Washington um die weltweite Führungsrolle bei Schlüsseltechnologien.
Die gemeinsame Erklärung unterscheidet sich im Schwerpunkt von Chinas inländischen KI-Vorschriften, die sich auf Inhaltskontrolle und Zensur konzentrieren. Peking hat kürzlich seine eigene globale KI-Governance-Initiative angekündigt, die die Ungerechtigkeit der Hindernisse für die KI-Einführung hervorhebt, die durch US-Chip-Exportkontrollen gegenüber China verursacht werden – eine Haltung, die von Washington und seinen Verbündeten heftig angefochten werden wird.
Die Wissenschaftler hinter der gemeinsamen Erklärung, die auch von westlichen Experten wie Yoshua Bengio von der Université de Montréal unterzeichnet wurde, versammelten sich im Oktober im Landhaus Ditchley Park in der Nähe von Oxford. Sie trafen sich, um vor dem Gipfel in Bletchley Park, einem Landsitz, auf dem während des Zweiten Weltkriegs Codeknacker lebten, eine Position zu vereinbaren.
„Nachdem wir aus der Bewältigung von Umweltschäden Lehren gezogen haben, sollten wir als globale Gemeinschaft zusammenarbeiten, um den sicheren Fortschritt der KI zu gewährleisten“, sagte Yao, einer der Organisatoren der Erklärung.
Ya-Qin Zhang, Dekan der Tsinghua-Universität und ehemaliger Präsident des Technologieriesen Baidu, sagte, es bestehe die Notwendigkeit, sicherzustellen, dass die künstliche allgemeine Intelligenz der Zukunft „sicher und vertrauenswürdig“ sei.
Während Peking am ersten Tag des Gipfels nicht auf der Teilnehmerliste steht, sagten Quellen, die mit der chinesischen Regierung vertraut sind, dass das Ministerium für Wissenschaft und Technologie teilnehmen würde. Das Außenministerium antwortete nicht auf eine Bitte um Stellungnahme.
Der von der Financial Times eingesehene Entwurf des britischen Kommuniqués geht davon aus, keine Regulierungen vorzuschlagen, warnt aber vor dem „Potenzial schwerwiegender, sogar katastrophaler Schäden“, die von fortschrittlichen oder „bahnbrechenden“ KI-Modellen ausgehen.
Sunak möchte, dass das Kommunique auf dem Gipfel von Politikern unterzeichnet wird, darunter aus Kanada, Indien, Südkorea, Japan, Singapur, Spanien, den USA und der EU. Tech-Führungskräfte wie OpenAI-Chef Sam Altman und Elon Musk, Leiter von X, ehemals Twitter, werden ebenfalls erwartet.
In einer Rede, die sie am Mittwoch in London halten wird, wird US-Vizepräsidentin Kamala Harris argumentieren, dass „KI zwar das Potenzial hat, tiefgreifende Gutes zu bewirken, aber auch das Potenzial hat, durch KI-gestützte Cyberangriffe tiefgreifenden Schaden anzurichten.“ ein Ausmaß, das alles übertrifft, was wir bisher gesehen haben, bis hin zu KI-formulierten Biowaffen, die das Leben von Millionen gefährden könnten.“
Solche Risiken „könnten die Existenz der Menschheit gefährden“, wird Harris laut Auszügen ihrer Rede, die der Financial Times vorliegen, sagen. „Diese Bedrohungen sind ohne Frage tiefgreifend und erfordern globales Handeln.“
Um der Veranstaltung Schwung zu verleihen und ein frühes Erbe zu hinterlassen, ist das Vereinigte Königreich bereit, Südkorea als Gastgeber des nächsten KI-Sicherheitsgipfels im Jahr 2024 bekannt zu geben, so zwei über die Entscheidung informierte Personen.
Paul Triolo, leitender Mitarbeiter der Denkfabrik Center for Strategic and International Studies in Washington, sagte, die Wahl Südkoreas sei eine „kluge Entscheidung“ gewesen, da das Land auf der internationalen Bühne als relativ neutral angesehen werde.
Zusätzliche Berichterstattung von Stefania Palma in Washington