Ein menschlicher Spieler hat ein hochrangiges KI-System beim Brettspiel Go umfassend besiegt, in einer überraschenden Umkehrung des Computersiegs von 2016, der als Meilenstein im Aufstieg der künstlichen Intelligenz angesehen wurde.
Kellin Pelrine, ein amerikanischer Spieler, der eine Stufe unter der besten Amateurrangliste steht, schlug die Maschine, indem er einen zuvor unbekannten Fehler ausnutzte, der von einem anderen Computer identifiziert worden war. Doch das Kopf-an-Kopf-Rennen, in dem er 14 von 15 Spielen gewann, fand ohne direkte Computerunterstützung statt.
Der bisher nicht gemeldete Triumph zeigte eine Schwäche der besten Go-Computerprogramme auf, die von den meisten der heute weit verbreiteten KI-Systeme geteilt wird, einschließlich des Chatbots ChatGPT, der von der in San Francisco ansässigen OpenAI entwickelt wurde.
Die Taktik, die einen Menschen wieder an die Spitze des Go-Bretts brachte, wurde von einem Computerprogramm vorgeschlagen, das die KI-Systeme auf der Suche nach Schwachstellen untersucht hatte. Der vorgeschlagene Plan wurde dann rücksichtslos von Pelrine geliefert.
„Es war überraschend einfach für uns, dieses System auszunutzen“, sagte Adam Gleave, Geschäftsführer von FAR AI, dem kalifornischen Forschungsunternehmen, das das Programm entwickelt hat. Die Software spielte mehr als 1 Million Spiele gegen KataGo, eines der besten Go-Spielsysteme, um einen „blinden Fleck“ zu finden, den ein menschlicher Spieler ausnutzen könnte, fügte er hinzu.
Die von der Software offenbarte Gewinnstrategie „ist nicht ganz trivial, aber nicht superschwierig“ für einen Menschen zu lernen und könnte von einem fortgeschrittenen Spieler verwendet werden, um die Maschinen zu schlagen, sagte Pelrine. Er nutzte die Methode auch, um gegen ein anderes Top-Go-System, Leela Zero, zu gewinnen.
Kellin Pelrine, der Mensch, der dem hochrangigen KI-System beim Spielen des Brettspiels Go © Kellin Pelrine eine entscheidende Niederlage zufügte
Der entscheidender Siegwenn auch mit Hilfe von Taktiken, die von einem Computer vorgeschlagen werden, kommt sieben Jahre, nachdem die KI bei dem, was oft als das komplexeste aller Brettspiele angesehen wird, scheinbar einen unangreifbaren Vorsprung vor den Menschen übernommen hat.
AlphaGo, ein von Googles Forschungsunternehmen DeepMind entwickeltes System, besiegte 2016 den Go-Weltmeister Lee Sedol mit vier zu einem Spiel Rücktritt von Go drei Jahre später zum Aufstieg der KI und sagte, es sei „eine Entität, die nicht besiegt werden kann“. AlphaGo ist nicht öffentlich verfügbar, aber die Systeme, gegen die sich Pelrine durchgesetzt hat, werden als gleichwertig angesehen.
In einem Go-Spiel platzieren zwei Spieler abwechselnd schwarze und weiße Steine auf einem Brett, das mit einem 19×19-Raster markiert ist, und versuchen, die Steine ihres Gegners einzukreisen und den größten Raum einzuschließen. Aufgrund der großen Anzahl an Kombinationen ist es für einen Computer unmöglich, alle möglichen zukünftigen Züge einzuschätzen.
Die von Pelrine angewandte Taktik bestand darin, langsam eine große „Schleife“ aus Steinen aneinander zu reihen, um eine der eigenen Gruppen seines Gegners einzukreisen, während er die KI mit Zügen in anderen Ecken des Bretts ablenkte. Der Go-spielende Bot bemerkte seine Schwachstelle nicht, selbst als die Einkreisung fast abgeschlossen war, sagte Pelrine.
„Als Mensch wäre es ziemlich leicht zu erkennen“, fügte er hinzu.
Die Entdeckung einer Schwachstelle in einigen der fortschrittlichsten Go-Spielautomaten weist auf einen grundlegenden Fehler in den Deep-Learning-Systemen hin, die der fortschrittlichsten KI von heute zugrunde liegen, sagte Stuart Russell, Informatikprofessor an der University of California, Berkeley.
Die Systeme können nur bestimmte Situationen „verstehen“, denen sie in der Vergangenheit ausgesetzt waren, und können nicht auf eine Weise verallgemeinern, die Menschen leicht finden, fügte er hinzu.
„Das zeigt einmal mehr, dass wir viel zu voreilig waren, um Maschinen übermenschliche Intelligenz zuzuschreiben“, sagte Russell.
Die genaue Ursache für den Ausfall der Go-Spielsysteme ist laut den Forschern eine Frage der Vermutung. Ein wahrscheinlicher Grund ist, dass die von Pelrine ausgenutzte Taktik selten angewendet wird, was bedeutet, dass die KI-Systeme nicht auf genügend ähnliche Spiele trainiert wurden, um zu erkennen, dass sie anfällig sind, sagte Gleave.
Es ist üblich, Fehler in KI-Systemen zu finden, wenn sie der Art von „gegnerischem Angriff“ ausgesetzt sind, der gegen die Go-spielenden Computer eingesetzt wird, fügte er hinzu. Trotzdem „sehen wir sehr groß [AI] Systeme, die mit wenig Überprüfung in großem Maßstab bereitgestellt werden“.