Angenommen, ein Pharmaunternehmen sagt: Wir haben ein neues, sehr wirksames Medikament. Wir haben es getestet, verraten aber nicht wie. Wir sagen auch nicht, wie es funktioniert. Wir selbst verstehen das nicht ganz. Jetzt werden wir der Weltbevölkerung dieses Zeug injizieren, denn nur dann werden wir die Vor- und Nachteile klar erkennen. Gemeinsam machen wir daraus ein Medikament, von dem alle profitieren!
Undenkbar. Doch genau das akzeptieren wir von Technologiegiganten. Wieder einmal, während sie die neueste Generation von KI-Produkten auf uns loslassen.
Die Rezeption unterscheidet sich von früheren technischen Revolutionen. Wir schwelgen nicht nur vor den sanften Vorboten einer glorreichen Zukunft. Wir kennen die Schattenseiten all dieser bisherigen neuen Möglichkeiten: Datenschutzverletzungen, Datendiebstahl, Lügen, Erpressung, Sucht, Diskriminierung, Massenüberwachung und Unterdrückung.
Schon jetzt gab es diese Phase: Schauen Sie, wie klug dieser Chatbot antwortet! Sehen Sie, wie echt dieses Bild aussieht! Doch bald verlagerte sich der Fokus auf die Risiken. Am bemerkenswertesten: intensivere Cyber-Angriffe, hinterhältigere groß angelegte Betrügereien usw ein Boom äußerst überzeugender Desinformation. Glücklicherweise wird derzeit ein europäisches Gesetz verabschiedet, das KI einschränkt, Grundrechte schützt und Anforderungen an die Aufsicht festlegt. Aber die Skrupellosigkeit, mit der Gesetze erlassen werden, bleibt hinter der sorglosen Leichtigkeit zurück, mit der Technologieunternehmen uns mit Prototypen überschütten. Obwohl wir unsere Unschuld verloren haben, scheint die Rollenverteilung unvermeidlich: Big Tech überschwemmt uns mit Produkten, wir haben Mühe, uns über Wasser zu halten.
OpenAI, das kürzlich die bahnbrechendsten Produkte veröffentlicht hat, testet diese zunächst. Das Unternehmen fügt jedoch hinzu, dass man in einem Labor nur eine begrenzte Menge lernen könne. Um wirklich herauszufinden, was Menschen mit der Technologie machen können und wie sie sie missbrauchen können, muss sie in die Welt hinaus. Und OpenAI, eigentlich eine Erweiterung von Microsoft, verspricht feierlich, bei Bedarf einzugreifen. „Gemeinsam werden wir dafür sorgen, dass KI der gesamten Menschheit zugute kommt“, sinniert CEO Greg Brockman.
Aus Entwicklersicht ist das sinnvoll: Je mehr Nutzen, desto mehr Informationen und desto besser Ihr Produkt. Ein Neuanfang mit einer lustigen neuen App sollte das auf jeden Fall so machen. Aber in diesem Ausmaß und mit diesen enormen Folgen ist es unverantwortlich.
Computerprogramme wählen häufig Lösungen mit unerwünschten Ergebnissen, mit denen die Erfinder nicht gerechnet haben. Bei diesen selbstlernenden Programmen, die selbstständig neue Programme schreiben und Verbindungen zu Menschen und anderen Maschinen aufbauen können, ist das Problem um ein Vielfaches größer. Es gibt bereits ein Beispiel, bei dem KI einen Menschen getäuscht hat eine Aufgabe ausführen.
Mit seiner utopischen Sprache dämpft Brockman auch das harte kommerzielle Rennen. Wenn Microsoft die Führung übernimmt, sieht sich Google gezwungen, seine KI-Produkte überstürzt auf den Markt zu bringen, wenn nötig auch etwas weniger getestet. Laut Geoffrey Hinton, der Pionierarbeit bei der heutigen Technologie geleistet hat und kürzlich seinen Job bei Google gekündigt hat, um frei zu sein warnen vor KI-Gefahrenstecken Unternehmen 99 Prozent ihrer Ressourcen in die Entwicklung und 1 Prozent in die Sicherheit, wobei es sich dabei um ein Fünftel handeln sollte.
Die Selbstüberschätzung eines solchen Brockmans auch: Warum glaubt jemand, der zufällig ein innovatives Technologieunternehmen leiten kann, dass er für die Bewältigung sozialer Auswirkungen geeignet ist? Die Frage, die wir uns über KI und jede neue Technologie stellen sollten schreibt in Roger McNamee Zeit, „ist die Frage, ob es Unternehmen erlaubt sein sollte, unkontrollierte Experimente an der gesamten Bevölkerung durchzuführen, ohne Absperrungen oder Sicherheitsnetze.“ McNamee war einer der ersten Facebook-Investoren und wurde zu heftigen Kritikern. „Sollte es für Unternehmen legal sein, Produkte der breiten Masse zugänglich zu machen, ohne nachweisen zu müssen, dass diese Produkte sicher sind?“
Doch von einem gründlichen Genehmigungsverfahren im Vorfeld sind die USA sicherlich noch in weiter Ferne.
Unterdessen schüren einige Entwickler und ehemalige KI-Befürworter die Unruhen. Sie erwarten in absehbarer Zeit eine KI, die intelligenter ist als der Mensch. Der amerikanische KI-Forscher Eliezer Yudkowsky warnt vor nichts Geringerem als die Vernichtung der Menschheit und bekommt viel Unterstützung. Aber irgendetwas daran ist seltsam. Die meisten unabhängigen Experten betrachten dies als Science-Fiction, die lediglich von den tatsächlichen Gefahren ablenkt. Und wenn man jemanden wie Yudkowsky reden hört, scheint ihn die Apokalypse, die er selbst skizziert hat, nicht allzu sehr zu belasten.
Die Tatsache, dass KI möglicherweise unsere Endzeit ankündigt, ist daher keine plötzlich schockierende Erkenntnis. Es ist seit Jahren die Faszination dieser Art von Menschen. Shane Legg, Googles Top-Wissenschaftler auf diesem Gebiet, sagte bereits 2011, dass KI ganz oben auf der Liste der existenziellen Bedrohungen stand für die Menschheit. Dann bastelte er weiter. Sam Altman, CEO von OpenAI, lässt beiläufig darauf schließen, dass KI „das Licht für uns alle ausschalten kann“ und appelliert Die New York Times dann kühl zu Robert Oppenheimer, dem „Vater der Atombombe“, der meinte, dass die Diskussion nach dem technischen Erfolg etwas für die Zukunft sei. „Technologie entsteht, weil sie möglich ist“, sagte Altman.
Ebenso sind diese Horrorszenarien vor allem ein Symptom des Kernproblems: Kaum kontrollierte weltverändernde Entwicklungen werden von nihilistischen Erfindern durchgeführt, die von profitgierigen Unternehmen mit schier endlosen Ressourcen angestellt werden.
De Volkskrant über KI
Künstliche Intelligenz, KI, verändert die Welt in rasantem Tempo. Diese Woche hat de Volkskrant die Bereiche aufgezeigt, in denen KI einen großen Einfluss hat. Diese und weitere Geschichten sind gebündelt auf volkskrant.nl/ai