Außenminister Wopke Hoekstra hat kürzlich bei einem Besuch bei den Vereinten Nationen den Einsatz künstlicher Intelligenz (KI) im militärischen Bereich als eine der „größten Herausforderungen der Zukunft im Bereich der internationalen Sicherheit und Rüstungskontrolle“ bezeichnet. Wenn wir die Verantwortung für die Entwicklung und den Einsatz jetzt nicht übernehmen, „werden wir es später bereuen“, so der Minister. Diese Haltung ist zu begrüßen, aber es besteht noch Handlungsbedarf, auch seitens der Niederlande. Hoffentlich wird das Repräsentantenhaus, in dem der Verteidigungsausschuss diese Woche dieses Thema diskutieren wird, darauf bestehen.
Über die Autoren:
Daan Kayser ist Projektleiter für autonome Waffen und Jip van Dort ist politischer Berater, beide bei PAX.
Der Trend ist eindeutig: Armeen verleihen Waffensystemen immer mehr Autonomie. Eine neue, schreckliche Ära – in der wir die Auswahl und den Angriff von Zielen ohne menschliches Eingreifen Sensoren und Algorithmen überlassen – steht uns bevor. Wir müssen uns beeilen, Grenzen zu setzen und die Dinge richtig zu machen, solange wir noch können.
Verbote und Gewährleistungen
Zunächst einmal ist ein Verbot vollautonomer Waffen, sogenannter Killerroboter, dringend notwendig. Dies sind inakzeptable Waffen, die nicht von Menschen kontrolliert werden können. Außerdem muss die Regierung den Einsatz teilautonomer Waffen regulieren.
Zwei Regierungsbeiräte, der Beirat für Internationale Angelegenheiten (AIV) und der Beirat für Internationale Angelegenheiten (CAVV), haben bereits Ende letzten Jahres erklärt, dass vollautonome Waffen kriegsrechtlich nicht eingesetzt werden können. Die internationale Gemeinschaft sollte daher seine Verwendung verbieten. Beide Gremien sind außerdem der Meinung, dass beim Einsatz teilautonomer Waffen menschliches Urteilsvermögen gewährleistet sein sollte.
Denn das Kriegsrecht verpflichtet denjenigen, der einen Anschlag plant, entscheidet oder durchführt, zum Waffeneinsatz. Daher wird der Regierung empfohlen, am Konzept der sinnvollen menschlichen Kontrolle als Ausgangspunkt für die Regulierung teilautonomer Waffensysteme festzuhalten. Als Reaktion auf den Bericht der beratenden Ausschüsse hat die Regierung beide Empfehlungen vollständig übernommen. Die Regierung hat angedeutet, dass sich die Niederlande im internationalen Kontext für diese Grundsätze einsetzen werden.
böser Weg
Soweit alles gut, würde man meinen. Aber es gibt einen Haken. Um die oben erwähnte Politik umzusetzen, scheinen sich die Niederlande hauptsächlich auf das Übereinkommen über bestimmte konventionelle Waffen (CCW) zu konzentrieren. Dies ist eine ständige Konsultation der Vereinten Nationen mit dem Ziel, Waffensysteme einzudämmen, die unverhältnismäßige Verletzungen verursachen können. Das große Problem ist jedoch, dass mit dem CCW ein einzelnes Land (z. B. Russland, Indien oder Israel) den Willen der Mehrheit blockieren kann. Diese Route ist daher eine tödliche Straße.
Angesichts der großen Risiken, die mit dem unregulierten Einsatz autonomer Waffen verbunden sind, dürfen die Niederlande keine Zeit verlieren und müssen an einem separaten Abkommen außerhalb des CCW arbeiten. Dies ist zusammen mit der großen Anzahl von Ländern möglich, die ebenfalls neue internationale Regeln wollen, darunter Belgien, die Schweiz, Irland, Brasilien, Mexiko und Neuseeland.
Zivile Not verhindern
Es ist ermutigend, dass es der Welt in der Vergangenheit gelungen ist, Hindernisse beim CCW zu umgehen, indem sie wichtige, normgebende Verträge auf einem anderen Weg ausgearbeitet hat. Zuvor wurden Verbote des Einsatzes von Landminen und Streubomben vereinbart – zwei Verträge, die die Niederlande unterzeichnet haben und die viel ziviles Leid verhindert haben.
Wichtig ist auch, dass ein Vertrag über autonome Waffen besagt, dass Menschen nicht Ziel sein dürfen. Dies ist ein grundlegendes ethisches Prinzip, das auch vom Roten Kreuz unterstützt wird. Es ist unethisch, die Entscheidung, einen Menschen zu töten, auf Nullen und Einsen zu reduzieren. Das Töten von Robotern untergräbt die Menschenwürde.
Das Kriegsrecht regelt, dass Zivilisten niemals Ziel von Kriegshandlungen sein dürfen. Soldaten können angegriffen werden, aber nicht, wenn sie außer Gefecht gesetzt wurden. Dieser sich ändernde Rechtsstatus von Menschen in einem Konfliktgebiet ist ein weiterer Grund, die Entscheidung über Tod oder Leben nicht Maschinen zu überlassen.
Warnung
Auffallend ist, dass auch das AIRCW, ein Beratungsgremium des Verteidigungsministeriums, das den Waffeneinsatz völkerrechtswidrig bewertet, den Einsatz autonomer Waffen gegen menschliche Ziele kritisch sieht. Es sei fraglich, ob autonome Waffen in der Lage sein werden, selbstständig zwischen Zivilisten und Militärangehörigen sowie zwischen Militärangehörigen und gelöschten Militärangehörigen zu unterscheiden. Es ist eine klare Warnung.
Abschließend noch ein Hinweis zur Investition in diese Waffen. Die Niederlande, die den Verteidigungshaushalt um beispiellose fünf Milliarden Euro pro Jahr erhöhen, scheinen sehr an der Anwendung autonomer Waffen interessiert zu sein. Aber ohne Regulierung ist das Investieren problematisch.
Davor warnen auch der Beirat für Internationale Angelegenheiten (AIV) und der Beirat für Internationale Angelegenheiten (CAVV). Durch die Fokussierung auf Forschung und Entwicklung, die andere Nato-Staaten, aber beispielsweise auch China derzeit betreiben, wird einem neuen Wettrüsten freien Lauf gelassen, Regierungen tragen zur Verbreitung von Massenwaffen bei und die Schwelle zur Kriegsführung wird gesenkt.
Die Dringlichkeit und die Risiken sind klar. Umso mehr, als die Niederlande im Februar nächsten Jahres eine Konferenz über militärische KI organisieren, ist es von entscheidender Bedeutung, dass Minister Hoekstra jetzt die Verantwortung dafür übernimmt, den unregulierten Einsatz autonomer Waffen zu verhindern.