Der Autor ist Gründer von Gesiebteine von FT unterstützte Website über europäische Start-ups
Seit die alten Griechen den Prometheus-Mythos erdachten, streitet die Menschheit über die Doppelnatur der Technologie. Das Feuer, das Prometheus den Göttern stahl, konnte Menschen wärmen, aber auch uns verbrennen. So ist es heute mit dem weit verbreiteten Einsatz von Systemen der künstlichen Intelligenz. Die Verfechter der KI haben lange argumentiert, dass diese Allzwecktechnologie einen beispiellosen Schub an Produktivität und Kreativität hervorrufen wird; seine Kritiker befürchten, dass es alarmierende heutige Risiken birgt und in Zukunft sogar eine existenzielle Bedrohung für die Menschheit darstellen könnte.
Die Veröffentlichung leistungsstarker generativer KI-Modelle im vergangenen Jahr wie ChatGPT und Dall-E 2, die von OpenAI entwickelt wurden, hat diese schwelende Debatte neu entfacht. Mehr als 100 Millionen Benutzer haben bereits die seltsamen und wundersamen Dinge erlebt, die diese Art von generativen Modellen bewirken können: Erzielen Sie ein nahezu menschliches Maß an Erkennung und Replikation von Text und Bildern, erstellen Sie gemeinsam Computercode und gefälschte virale Fotos des Papstes zu produzieren in einer weißen Daunenjacke.
In einem kürzlich veröffentlichten Beitrag sagte Bill Gates, der Mitbegründer von Microsoft, der zum Philanthropen wurde, dass er im vergangenen September mit „Ehrfurcht“ zusah, wie das Modell von OpenAI eine fortgeschrittene Biologieprüfung bestand, und sagte voraus, dass die Technologie enorme Vorteile für die Bereiche Gesundheitswesen und Bildung bringen könnte. Ein Forschungsbericht von Goldman Sachsdie diese Woche veröffentlicht wurde, prognostiziert, dass die weit verbreitete Einführung von KI die Arbeitsproduktivität erheblich steigern und das globale jährliche Bruttoinlandsprodukt um 7 Prozent steigern könnte.
Aber auch die rasante Entwicklung und zunehmende Verbreitung generativer KI-Systeme hat viele alarmiert. Einige von Googles eigenen Forschern, wie Timnit Gebru und Margaret Mitchell, gehörten zu den ersten, die auf die Gefahren der generativen KI-Modelle des Unternehmens hinwiesen, die in bestehende gesellschaftliche Vorurteile einbrennen, wurden aber später entlassen. Diese Woche verstärkten in einem offenen Brief des Future of Life Institute mehr als 1.100 Unterzeichner, darunter mehrere prominente KI-Forscher, den Alarm. Sie forderten ein sechsmonatiges Moratorium für die Entwicklung von Spitzenmodellen, bis bessere Regierungssysteme eingeführt werden könnten. Unkontrolliert könnten diese Maschinen das Internet mit Unwahrheiten überfluten, sinnvolle Jobs automatisieren und sogar die Zivilisation bedrohen. „Solche Entscheidungen sollten nicht an nicht gewählte Technologieführer delegiert werden.“ sagten die Briefschreiber.
Mindestens drei Fäden müssen inmitten der Kontroverse aufgetrennt werden. Die erste und am einfachsten zu verwerfende ist die moralische Panik, die fast jede neue Technologie begleitet, seien es Dampfzüge, Elektrizität, Autos oder Computer. Sogar Benjamin Franklins Erfindung des scheinbar harmlosen Blitzableiters wurde zunächst von Kirchenältesten abgelehnt, die befürchteten, dass es die „Artillerie des Himmels“ stören würde. In der Regel ist es besser, über den angemessenen Einsatz kommerziell wertvoller Technologien zu diskutieren, als ihre Ankunft zu verfluchen.
Das zweite ist, wie kommerzielle Interessen dazu neigen, mit moralischen Haltungen zusammenzufallen. OpenAI begann 2015 als gemeinnütziges Forschungslabor und versprach, mit externen Partnern zusammenzuarbeiten, um die sichere Entwicklung von KI zu gewährleisten. Aber im Jahr 2019 wechselte OpenAI zu einem gewinnorientierten Modell mit Obergrenze, das es ihm ermöglichte, Risikokapital zu beschaffen und Aktienoptionen auszugeben, um Spitzen-KI-Forscher anzuziehen. Seitdem hat es große Investitionen von Microsoft angezogen und sich mehr zu einer geschlossenen, kommerziellen Einheit entwickelt. Allerdings kommt zumindest ein Teil der Kritik von Konkurrenten, die daran interessiert sind, die Entwicklung von OpenAI zu verlangsamen.
Aber der dritte und wichtigste Faden ist, dass viele seriöse KI-Experten, die mit den neuesten Durchbrüchen gut vertraut sind, ernsthafte Bedenken hinsichtlich der Geschwindigkeit und Richtung der Fortbewegung haben. Ihre Bedenken werden durch den Trend einiger großer Technologieunternehmen wie Microsoft, Meta, Google und Amazon verstärkt, ihre Ethikteams zu verkleinern.
Wie Gates in seinem Beitrag schrieb, werden die Marktkräfte allein gesellschaftliche Ungerechtigkeiten nicht angehen. Organisationen der Zivilgesellschaft mobilisieren schnell und einige Regierungen streben eine klarere Regulierung an. Diese Woche veröffentlichte das Vereinigte Königreich einen Entwurf für innovationsfreundliche Vorschriften zu KI, während die EU eine strengere Richtlinie zur Kontrolle des Einsatzes der Technologie in Bereichen mit hohem Risiko ausarbeitet. Aber im Moment scheinen diese Bemühungen kaum mehr zu sein, als ein kleines rotes Fähnchen an einem beschleunigenden Zug zu schwenken.
Wenn die Unternehmen, die die KI-Revolution anführen, nicht glaubhaft beweisen können, dass ihre Modelle auf die Interessen der Menschheit ausgerichtet sind, müssen sie mit einer weitaus heftigeren öffentlichen Gegenreaktion rechnen. Als nächstes sollten sachverständige unabhängige Institutionen mit der Befugnis, die Algorithmen von KI-Unternehmen zu prüfen und ihre Verwendung einzuschränken, auf der Tagesordnung stehen.