Als Geoffrey Hinton 2018 einen ethischen Einwand gegen die Zusammenarbeit seines Arbeitgebers Google mit dem US-Militär hatte, beteiligte er sich nicht an öffentlichen Protesten oder setzte seinen Namen auf den offenen Beschwerdebrief, der von mehr als 4.000 seiner Kollegen unterzeichnet wurde.
Stattdessen sprach er nur mit Sergey Brin, dem Mitbegründer von Google. „Er sagte, er sei auch ein bisschen verärgert darüber. Und deshalb verfolgen sie es nicht“, sagte Hinton damals in einem Interview.
Der Vorfall ist symbolisch für Hintons stillen Einfluss in der Welt der künstlichen Intelligenz. Der 75-jährige Professor wird wegen seiner prägenden Arbeit zum Thema Deep Learning als einer der „Pate“ der KI verehrt – ein Bereich der KI, der die enormen Fortschritte in diesem Sektor vorangetrieben hat.
Aber die Anekdote spiegelt laut denen, die ihn gut kennen, auch Hintons Loyalität wider. Grundsätzlich äußerte er nie öffentliche Missstände, ob ethisch oder anderweitig.
Es war diese Überzeugung, die ihn letzte Woche dazu veranlasste, seine Position als Vizepräsident und technischer Mitarbeiter bei Google aufzugeben, damit er freier über seine wachsenden Ängste vor den Risiken der KI für die Menschheit sprechen konnte.
Yoshua Bengio, sein langjähriger Mitarbeiter und Freund, der 2018 zusammen mit Hinton und Yann LeCun den Turing-Preis gewann, sagte, er habe den Rücktritt kommen sehen. „Er hätte bei Google bleiben und sich aussprechen können, aber sein Loyalitätsgefühl ist so groß, dass er es nicht tun würde“, sagte Bengio.
Hintons Rücktritt folgt auf eine Reihe bahnbrechender KI-Starts in den letzten sechs Monaten, beginnend mit dem von Microsoft unterstützten OpenAI ChatGPT im November und Googles eigenem Chatbot Bard im März.
Hinton äußerte Bedenken, dass der Wettlauf zwischen Microsoft und Google die Entwicklung von KI ohne angemessene Leitplanken und Vorschriften vorantreiben würde.
„Ich denke, Google war von Anfang an sehr verantwortungsbewusst“, sagte er am Mittwoch in einer Rede auf einer Veranstaltung von EmTech Digital, nachdem sein Rücktritt öffentlich gemacht worden war. „Einmal hatte OpenAI ähnliche Dinge mit . . . Geld von Microsoft, und Microsoft beschloss, es zu veröffentlichen, dann hatte Google keine große Wahl. Wenn Sie in einem kapitalistischen System leben, können Sie Google nicht daran hindern, mit Microsoft zu konkurrieren.“
Seit den 1970er Jahren leistet Hinton Pionierarbeit bei der Entwicklung „neuronaler Netze“, einer Technologie, die versucht, die Funktionsweise des Gehirns nachzuahmen. Es unterstützt jetzt die meisten KI-Tools und -Produkte, die wir heute verwenden, von Google Translate und Bard bis hin zu ChatGPT und autonomen Autos.
Aber diese Woche räumte er Befürchtungen über seine schnelle Entwicklung ein, die dazu führen könnte, dass Fehlinformationen die Öffentlichkeit überfluten und KI mehr menschliche Arbeitsplätze an sich reißt als vorhergesagt.
„Meine Sorge ist, dass es passieren wird [make] die Reichen reicher und die Armen ärmer. Wie Sie das tun. . . Die Gesellschaft wird gewalttätiger“, sagte Hinton. „Diese Technologie, die wunderbar sein sollte . . . wird in einer Gesellschaft entwickelt, die nicht darauf ausgelegt ist, sie zum Wohle aller zu nutzen.“
Hinton läutete auch eine Alarmglocke über die längerfristigen Bedrohungen, die von KI-Systemen für den Menschen ausgehen, wenn der Technologie zu viel Autonomie eingeräumt wird. Er hatte immer geglaubt, dass dieses existenzielle Risiko in weiter Ferne liege, aber kürzlich seine Überlegungen hinsichtlich seiner Dringlichkeit neu kalibriert.
„Es ist durchaus vorstellbar, dass die Menschheit eine vorübergehende Phase in der Evolution der Intelligenz ist“, sagte er. Hintons Entscheidung, Google nach einem Jahrzehnt zu verlassen, wurde von einem akademischen Kollegen vorangetrieben, der ihn überzeugte, darüber zu sprechen, fügte er hinzu.
Hinton wurde in London geboren und stammt aus einer illustren Familie von Wissenschaftlern. Er ist der Ururenkel der britischen Mathematiker Mary und George Boole, von denen letzterer die Boolesche Logik erfand, die Theorie, die der modernen Computertechnik zugrunde liegt.
Als kognitiver Psychologe zielte Hintons Arbeit auf dem Gebiet der KI darauf ab, sich der menschlichen Intelligenz anzunähern – nicht nur, um KI-Technologie zu entwickeln, sondern um die Funktionsweise unseres eigenen Gehirns zu beleuchten.
Stuart Russell, ein KI-Professor an der University of California, Berkeley, ein akademischer Kollege von Hinton, sagte, sein Hintergrund bedeute, dass er „nicht der mathematischste Mensch ist, den man in der Community für maschinelles Lernen findet“.
Er wies auf Hintons großen Durchbruch im Jahr 1986 hin, als er einen Artikel über eine Technik namens „Backpropagation“ veröffentlichte, die zeigte, wie Computersoftware im Laufe der Zeit lernen konnte.
„Es war eindeutig ein wegweisendes Papier“, sagte Russell. „Aber er hat die . . . herrschen wie ein Mathematiker. Er nutzte seine Intuition, um eine Methode zu finden, die funktionieren würde.“
Hinton hat sich nicht immer öffentlich zu seinen ethischen Ansichten geäußert, aber privat hat er sie deutlich gemacht.
1987, als er außerordentlicher Professor an der Carnegie Mellon University in den USA war, beschloss er, seine Position aufzugeben und nach Kanada auszuwandern.
Einer der Gründe, die er laut Bengio angab, war ethischer Natur – er war besorgt über den Einsatz von Technologie, insbesondere von KI, im Krieg, und ein Großteil seiner Finanzierung kam vom US-Militär.
„Er wollte sich mit der Finanzierung und der Arbeit, die er leistete, wohlfühlen“, sagte Bengio. „Er und ich teilen Werte über die Gesellschaft. Dass Menschen wichtig sind, dass die Würde aller Menschen wesentlich ist. Und alle sollen von den Fortschritten profitieren, die die Wissenschaft schafft.“
Im Jahr 2012 erzielten Hinton und seine beiden Doktoranden an der University of Toronto – darunter Ilya Sutskever, jetzt Mitbegründer von OpenAI – einen großen Durchbruch im Bereich Computer Vision. Sie bauten neuronale Netze, die Objekte in Bildern um Größenordnungen genauer erkennen konnten, als dies jemals zuvor möglich war. Basierend auf dieser Arbeit gründeten sie ihr erstes Start-up, DNNresearch.
Ihr Unternehmen – das keine Produkte herstellte – wurde 2013 für 44 Millionen US-Dollar an Google verkauft, nach einer kompetitiven Auktion, die dazu führte, dass Chinas Baidu, Microsoft und DeepMind boten, um das Know-how des Trios zu erwerben.
Seitdem hat Hinton die Hälfte seiner Zeit bei Google und die andere Hälfte als Professor an der University of Toronto verbracht.
Laut Russell kommt Hinton ständig auf neue Ideen und probiert neue Dinge aus. „Jedes Mal, wenn er eine neue Idee hatte, sagte er am Ende seines Vortrags: ‚Und Das So funktioniert das Gehirn!’“
Als Hinton auf der Bühne gefragt wurde, ob er sein Lebenswerk bedauere, da es zu den unzähligen Schäden beitragen könnte, die er skizziert hatte, sagte Hinton, er habe darüber nachgedacht.
„Diese Phase von [AI] war nicht absehbar. Und bis vor kurzem dachte ich, diese existenzielle Krise sei in weiter Ferne“, sagte er. „Also bereue ich nicht wirklich, was ich tue.“