Schalten Sie den Editor’s Digest kostenlos frei
Roula Khalaf, Herausgeberin der FT, wählt in diesem wöchentlichen Newsletter ihre Lieblingsgeschichten aus.
Nordkoreanische Cyberkriminelle greifen auf künstliche Intelligenz zurück, um Pjöngjang dabei zu helfen, Spitzentechnologien zu stehlen und Gelder für sein illegales Atomwaffenprogramm zu sichern.
Die Hacker zielen seit langem auf Mitarbeiter globaler Verteidigungs-, Cybersicherheits- und Krypto-Unternehmen ab und verleiten Benutzer auf LinkedIn und anderen Netzwerkplattformen dazu, vertrauliche Informationen preiszugeben oder Zugang zu Computernetzwerken oder Krypto-Wallets zu gewähren.
Zu ihren berüchtigtsten Hacking-Operationen zählen der Diebstahl von 951 Millionen US-Dollar bei der Zentralbank von Bangladesch und der Ransomware-Angriff WannaCry auf den britischen National Health Service im Jahr 2017.
Der ChatGPT-Entwickler OpenAI und sein Investor Microsoft bestätigten letzte Woche, dass Hacker, die im Auftrag Nordkoreas sowie Chinas, Russlands und Irans arbeiten, die KI-Dienste des Unternehmens „zur Unterstützung böswilliger Cyberaktivitäten“ nutzen.
Südkorea habe zuvor nordkoreanische Hacker entdeckt, die generative KI nutzten, um Sicherheitsbeamte anzugreifen, sagte ein südkoreanischer Geheimdienstmitarbeiter. „Wir beobachten die damit verbundenen Bewegungen Nordkoreas genau und berücksichtigen dabei die Möglichkeit, dass Nordkorea generative KI missbraucht“, fügte der Beamte hinzu.
Von den 1,62 Millionen Hackerversuchen gegen südkoreanische Unternehmen und öffentliche Einrichtungen im vergangenen Jahr wurden mehr als 80 Prozent auf Nordkorea zurückgeführt, informierte der südkoreanische Geheimdienst Reporter letzten Monat.
Doch Pjöngjangs Phishing- und Social-Engineering-Operationen wurden oft dadurch untergraben, dass nordkoreanische Hacker die umgangssprachliche Sprache Englisch oder Koreanisch nicht beherrschten, die sie brauchten, um das Vertrauen ihrer Ziele zu gewinnen.
Die Einführung generativer KI durch die Nordkoreaner – Software, die menschliche Fähigkeiten nachahmt – stelle eine gewaltige neue Herausforderung dar, sagte Erin Plante, Vizepräsidentin für Untersuchungen beim kryptofokussierten Cybersicherheitsunternehmen Chainalysis.
„Nordkoreanische Hackergruppen haben nachweislich glaubwürdige Personalvermittlerprofile auf professionellen Netzwerkseiten wie LinkedIn erstellt“, sagte Plante. „Generative KI hilft beim Chatten, Senden von Nachrichten, Erstellen von Bildern und neuen Identitäten – alles, was Sie brauchen, um eine enge Beziehung zu Ihrem Ziel aufzubauen.“
Sie beschrieb einen Fall, in dem nordkoreanische Hacker generative KI-Tools nutzten, um einen leitenden Ingenieur einer japanischen Kryptowährungsbörse ins Visier zu nehmen, indem sie sich auf LinkedIn als Personalvermittler für eine Börse in Singapur ausgaben. Die gefälschten Personalvermittler forderten den Ingenieur auf, eine „technische Übung“ durchzuführen, bei der es darum ging, Software herunterzuladen. Dies ermöglichte es ihnen, es mit nordkoreanischer Spyware zu infizieren.
„Die Angriffe werden immer ausgefeilter – wir sprechen hier nicht von einer schlecht formulierten E-Mail mit der Aufschrift ‚Klicken Sie auf diesen Link‘“, sagte Plante. „Das sind detaillierte Profile auf LinkedIn und anderen Social-Media-Plattformen, mit denen sie über Wochen und Monate Beziehungen aufbauen.“
Shreyas Reddy, Analyst beim in Seoul ansässigen Informationsdienst NK Pro, sagte, dass LinkedIn zwar ein „besonders nützliches Jagdrevier“ für gefälschte nordkoreanische Personalvermittler sei, „sie aber auch andere Plattformen wie Facebook, WhatsApp, Telegram und Discord nutzen, um potenzielle Interessenten anzusprechen.“ Phishing-Opfer“.
Reddy sagte, dass KI-Dienste wie ChatGPT den Nordkoreanern auch dabei helfen könnten, ausgefeiltere Formen schädlicher Software oder Malware zu entwickeln, mit denen sie die Computernetzwerke ihrer Opfer infiltrieren könnten.
„Es gibt Sicherheitsvorkehrungen in diesen Diensten, um ihre Nutzung für böswillige Zwecke zu verhindern, aber die Menschen haben es geschafft, sich darin zurechtzufinden“, sagte Reddy und wies darauf hin, dass Nordkoreaner auch vom Zugang zu chinesischen KI-Diensten profitieren.
Pjöngjang hat Jahrzehnte damit verbracht, seine Cyber-Fähigkeiten auszubauen, ein Projekt, das bis in die späten 1980er und frühen 1990er Jahre zurückreicht, als die regierende Kim-Dynastie mit der Entwicklung eines damals aufkommenden Atomwaffenprogramms begann.
Nach Angaben eines UN-Expertengremiums, das die Umsetzung internationaler Sanktionen überwacht, tragen die durch Nordkoreas kriminelle Cyberoperationen gesammelten Gelder zur Finanzierung der ballistischen Raketen- und Atomprogramme des Landes bei.
Hyuk Kim, wissenschaftlicher Mitarbeiter am James Martin Center for Nonproliferation Studies in Monterey, stellt fest, dass nordkoreanische Forscher in den letzten zwei Jahrzehnten Hunderte von KI-bezogenen Studien veröffentlicht haben. Nordkorea gründete 2013 ein Forschungsinstitut für künstliche Intelligenz und mehrere nordkoreanische Universitäten haben KI-fokussierte Programme eingeführt.
In nordkoreanischen wissenschaftlichen Fachzeitschriften veröffentlichte wissenschaftliche Arbeiten, von denen einige gemeinsam mit chinesischen Wissenschaftlern verfasst wurden, die mit chinesischen Militärinstitutionen verbunden sind, geben einen Einblick in Pjöngjangs Überlegungen zu möglichen zukünftigen Anwendungen für KI-Programme.
In einem Artikel aus dem Jahr 2022 verweisen nordkoreanische Wissenschaftler auf eine Studie, die den Einsatz einer maschinellen Lernmethode namens „Reinforcement Learning“ in einer Kriegsspielsimulation untersucht. In einem anderen Artikel aus demselben Jahr wird untersucht, wie eine andere Technik des maschinellen Lernens dazu beitragen könnte, einen großen Kernreaktor sicher zu betreiben.
„Soweit wir das beurteilen können, steckt die Ausgereiftheit der nordkoreanischen KI-Systeme noch in den Kinderschuhen“, sagte Kim. „Aber es kann auch sein, dass sie ihre Fähigkeiten einfach nicht preisgeben wollen.“
Zusätzliche Berichterstattung von Kang Buseong