Ein ehemaliger Facebook-Manager, ein KI-Forscher, ein Technologieunternehmer und ein Informatiker sind die vier Königsmacher von OpenAI, die das Start-up letzte Woche mit der Entlassung seines Geschäftsführers in die Krise stürzten.
Die abrupte Entscheidung der Vorstandsmitglieder Adam D’Angelo, Helen Toner, Tasha McCauley und Ilya Sutskever, Sam Altman zu verdrängen, löste eine dramatische Kette von Ereignissen aus und hat Spekulationen über ihre Motive und ihre Kompetenz angeheizt, das zu leiten, was mittlerweile zu den bekanntesten Unternehmen der Welt geworden ist KI-Start-up.
OpenAI ist unkonventionell als Partnerschaft zwischen einer gemeinnützigen Forschungsorganisation und einer gewinnorientierten Tochtergesellschaft strukturiert. Der Vorstand überwacht beides, aber sein Hauptauftrag besteht darin, künstliche Intelligenz zu verfolgen, „die sicher ist und der gesamten Menschheit zugute kommt“, anstatt sich um die Interessen der Anleger zu kümmern.
Wie es dazu kam, dass die vier die Schlüssel zur künftigen Ausrichtung des führenden KI-Unternehmens innehatten, bleibt unklar. Weder Investoren noch Mitarbeiter konnten erklären, wie der verkleinerte Vorstand, der halb so groß ist wie im Jahr 2021, besetzt wird.
Unter den OpenAI-Mitarbeitern hat sich der Schock über Altmans dramatische Entlassung in Frustration verwandelt, und der Vorstand nannte keinen konkreten Grund für ihre Entscheidung, außer dass er sagte, er sei nicht „kontinuierlich offen“ gewesen.
Elon Musk, der ausgesprochene Besitzer von „Das Versprechen künstlicher Intelligenz zurückwerfen“, heißt es in einem Meinungsbeitrag in The Information am Montag.
Einige Leute, die die Vorstandsmitglieder kennen, sagten, sie seien intelligent, rücksichtsvoll und gut aufgestellt, um ihren Auftrag, der Menschheit zu dienen, zu erfüllen. Andere haben auf ihren relativen Mangel an Unternehmenserfahrung, den schlechten Umgang mit der Ankündigung vom Freitag und die daraus resultierenden Folgen hingewiesen.
Eine Person, die mit D’Angelo auf der von ihm als Geschäftsführer geleiteten Frage-und-Antwort-Seite Quora zusammengearbeitet hat, sagte, er sei ein schlechter Kommunikator und die mangelnde Kommunikation des Vorstands sei „nicht überraschend“.
D’Angelo hat in der Vergangenheit Bedenken hinsichtlich der Gefahren neuer Technologien geäußert. Als er 2018 dem OpenAI-Vorstand beitrat, sagte er, die Arbeit an KI „unter Berücksichtigung der Sicherheit“ sei „sowohl wichtig als auch unterschätzt“.
Altman schrieb 2017 bei Y Combinator, das in Quora investierte, und sagte, D’Angelo sei „einer der wenigen Namen, die die Leute immer wieder erwähnen, wenn es um die klügsten CEOs im Silicon Valley geht“, während Yishan Wong, der ehemalige Chef von Reddit, sagte D’Angelo war „lächerlich rational“.
Jeffrey Ding, ein KI-Forscher an der George Washington University, sagte, Toner, den er seit 2018 kennt, sei sich der Risiken und Chancen generativer KI bewusst.
Sie verfüge über ein „wirklich gutes Urteilsvermögen“ und die „seltene Fähigkeit, mit beiden Seiten der Debatten über KI und KI-Governance zu sprechen“, sagte er und fügte hinzu, dass Toner „sehr klar im Kopf“ und offen für „neue Ideen“ sei, ihre Meinungen revidiere und für Feedback empfänglich sein“.
Toner und Ding haben im Juni gemeinsam ein Papier verfasst, in dem sie sagten, es sei „kein gutes Argument“, die Regulierung von KI zu vermeiden, weil strengere Regeln „China die Nase vorn lassen würden“.
Toner warnte im Mai davor, sich zu sehr auf KI-Chatbots zu verlassen, und sagte, es gebe „immer noch viel Unwissen“ über sie. Im Oktober sagte er, dass die US-Regierung „Maßnahmen ergreifen sollte, um die Bürger vor den Schäden und Risiken der KI zu schützen.“ Außerdem fördern wir Innovationen und nutzen die Vorteile der Technologie.“
Über den unauffälligen McCauley ist weniger bekannt, der wie Toner ein Befürworter des effektiven Altruismus ist – einer intellektuellen Bewegung, die vor den Risiken warnt, die KI für die Menschheit darstellen könnte.
Toby Ord, der neben Toner und McCauley im Beirat der Forschungsgruppe „Center for the Governance of AI“ sitzt, sagte, beide seien „hochintelligent, nachdenklich und moralisch seriös, mit einem tiefen Wissen über KI-Risiko und -Governance“.
Sie seien „genau die Art von Leuten, die man im Vorstand einer gemeinnützigen Organisation haben möchte, deren Aufgabe es ist, eine gewinnorientierte Tochtergesellschaft zu beaufsichtigen, die versucht, künstliche allgemeine Intelligenz zu entwickeln“, fügte er hinzu.
McCauley war „einer der nachdenklichsten Menschen, mit denen ich je zusammengearbeitet habe. Selbst in einer Krise ist sie bemerkenswert besonnen und ruhig“, sagte eine Person, die eng mit ihr zusammengearbeitet hat. „Es fällt mir sehr schwer, mir vorzustellen, wie sie voreilig oder rücksichtslos handelt.“
Über Sutskever, einen Mitbegründer von OpenAI und Mitautor des prägenden Papiers, das die Deep-Learning-Ära einläutete, gehen die Meinungen auseinander.
Kritiker kritisierten den Informatiker wegen seiner Rolle beim Putsch gegen Altman. Andere verwiesen auf Sutskevers Fokus auf KI-Sicherheit als Leiter eines Teams, das sich der Kontrolle immer fortschrittlicherer KI widmet. Dies widersprach der von Altman verkörperten Kultur der rastlosen Innovation, sagen mit der Angelegenheit vertraute Personen.
„Wenn du Intelligenz über alle anderen menschlichen Qualitäten schätzt, wirst du eine schlechte Zeit haben“, schrieb Sutskever im Oktober in einem X-Beitrag.
Musk schrieb auf Sutskever hat sich seitdem wieder mit Altman verbündet und sagte, er sei „zutiefst [regretted] meine Beteiligung an den Vorstandstätigkeiten“.
Einige Großinvestoren des gewinnorientierten Unternehmens haben versucht, den Vorstand zu einer Wiedereinstellung von Altman zu drängen, wobei laut mehreren mit der Angelegenheit vertrauten Personen möglicherweise rechtliche Schritte eingeleitet wurden.
Da Sutskever nun hinter Altman steht, überlegen sie, welcher der verbleibenden drei Direktoren am wahrscheinlichsten wechseln wird. Mehrere Investoren und Mitarbeiter haben den Quora-Gründer D’Angelo als den wahrscheinlichsten angesehen.
„Adam D’Angelo ist am sinnvollsten, wenn man zuerst nach Adam D’Angelo sucht“, sagte eine Person eines in OpenAI investierten Risikofonds. „Er hat im Silicon Valley einen guten Ruf, das braucht er nicht.“