Geoffrey Hinton, der KI-Pionier, der seine Erfindung nach seiner Pensionierung bereut

Als 75-Jähriger können Sie sich natürlich ruhig und bescheiden verabschieden und die freundlichen Worte Ihres Chefs mit einem Lächeln entgegennehmen, während Ihre Kollegen und Liebsten einen Block elastischen Käse mit lauwarmem Bier herunterspülen. Das ist nicht das, was Geoffrey Hinton gewählt hat.

In einem Interview von Die New York TimesAnfang dieses Monats äußert Hinton Bedenken hinsichtlich der Geschwindigkeit und Richtung, in die sich die KI derzeit entwickelt. „Es ist schwer vorstellbar, wie man böse Mächte davon abhalten kann, es für schlechte Dinge zu missbrauchen“, sagte der Rentner. Seine Botschaft schlägt ein wie eine Bombe.

Hintons Timing ist perfekt: Im März veröffentlichte das Future of Life Institute einen offenen Brief, in dem Experten vor den Risiken von KI warnen. Von da an wird die KI-Debatte von der Frage dominiert, ob die KI tatsächlich kurz davor steht, die menschliche Kontrolle zu verlieren. Hilton hat diesen Brief nicht unterschrieben, da er zu diesem Zeitpunkt noch mit Google verbunden war. Aber jetzt kann er frei sprechen.

Hinton gilt als einer der drei Paten der KI. Zusammen mit dem viel bekannteren Yann LeCun (dem KI-Chef bei Meta) und Yoshua Bengio gewann 2018 den Turing Award für seine grundlegende Arbeit über neuronale Netze.

Dieser „Nobelpreis für Informatik“ ist der krönende Abschluss seiner Pionierarbeit, die bis in die 1970er Jahre zurückreicht. Das sind die dunklen Jahre der KI: Nach den hoffnungsvollen 1950er Jahren, in denen der britische Mathematiker Alan Turing (nach dem der Preis benannt ist) den Grundstein für die KI legte, folgte ein langer KI-Winter mit rückläufigen Investitionen und geringen Fortschritten.

In diesen Jahren studiert Hinton KI in Edinburgh, nachdem er zuvor in Cambridge ein Psychologiestudium abgeschlossen hatte. Hinton wird die Idee (künstlicher) neuronaler Netze nie loslassen. Ein solches Netzwerk, lose angelehnt an das menschliche Gehirn, besteht aus mehreren Punkten, die miteinander verbunden sind. Das Netzwerk trainiert sich selbst, indem es diese Verbindungen stärkt, schwächt oder gar nicht nutzt.

Später, in den 1980er Jahren, zieht er in die USA, doch in der Reagan-Ära kehrt er seiner zweiten Heimat desillusioniert den Rücken. Die damals übliche Finanzierung der KI-Forschung durch das Verteidigungsministerium missfällt ihm. KI hat auf dem Schlachtfeld keinen Platz, ist Hintons Überzeugung.

Er reist nach Kanada, um an einem neuronalen Netzwerk zu arbeiten, das mit Bildern trainiert wird und dann Objekte auf Fotos erkennen kann. Heutzutage denken alle, dass es völlig normal ist, wenn eine Foto-App das macht, aber vor zehn Jahren war das noch ein Novum.

Google findet es so vielversprechend, dass es 44 Millionen US-Dollar hat, um DNNresearch zu kaufen, das von Hinton mitbegründete Unternehmen. Neben seiner Arbeit beim Technologieriesen arbeitet er weiterhin an der Universität in Toronto. Wenn Der Telegraph Als er ihn 2017 besuchte, trug er laut der Zeitung immer noch alle Merkmale des typischen britischen Akademikers: „zerzaustes Haar; „Ein zerknittertes Hemd mit einer Flut von Kugelschreibern in der oberen Tasche und flankiert von einem riesigen, schmutzigen Whiteboard voller unverständlicher Gleichungen.“

Diese für die Außenwelt rätselhaften mathematischen Formulierungen sind heute die Grundlage mächtiger Anwendungen wie ChatGPT und Bard (Googles Chatbot, der mit ChatGPT vergleichbar ist). Gerade die Ankunft dieser Art von KI hat Hinton nun zu neuen Erkenntnissen geführt.

Kurzfristig ist er besorgt über die Flut an Desinformation, die dank Programmen wie ChatGPT über die ganze Welt strömen wird. Diese weit verbreitete Sorge wird überschattet von den etwas überschwänglicher formulierten Aussichten, die Hinton ebenfalls skizziert, teilweise ausgelöst durch seine jüngste Verwunderung, dass Googles Sprachmodell PaLM könnte einen Witz von ihm erklären.

Früher dachte er, es würde Jahrzehnte dauern, bis die KI den Punkt erreicht, an dem sie intelligenter als der Mensch wird, doch jetzt hat er seine Vorhersage revidiert: Es wird viel früher passieren. Und das kann letztendlich auch zu anderen Gefahren führen, bis hin zum Verschwinden der Menschheit.

Letzteres macht ihn auf einen Schlag umstrittener als je zuvor. Diese langfristige Perspektive ordnet ihn in das Science-Fiction-Lager ein, sagen einige seiner Kritiker. Und noch schlimmer: Als seine KI-Kollegen bei Google Timnit Gebru und Meg Mitchell vor Jahren vor den großen Gefahren von KI warnten (nämlich: KI, die in den Händen großer multinationaler Konzerne verantwortungslos eingesetzt wird und Minderheiten aufgrund nicht neutraler Daten benachteiligt). ), Hinton war nirgends zu sehen, erinnert sich eine weitere prominente Ex-Googlerin, Meredith Whittaker.

Sowohl Gebru als auch Mitchell wurde gefeuert von Google, und Hinton ist es immer noch nicht beeindruckt ihrer Warnungen. Whittaker nennt seine Abschiedstournee daher enttäuschend, doch sowohl die Medien als auch das Publikum lieben seine Geschichte.