Das vorgeschlagene Verbot betrifft KI-Programme, die Texte, Fotos, Audio oder Video generieren können. Erwägen Sie Chatbots wie ChatGPT und Bard oder Image Maker wie Dall-E und Midjourney.
Der Vorschlagsentwurf liegt in den Händen von de Volkskrant, wurde auf der Grundlage von Untersuchungen der Staatsanwaltschaft Pels Rijcken und der niederländischen Datenschutzbehörde (AP) erstellt. Sie kommen zu dem Schluss: „Nicht vertraglich vereinbarte generative KI-Anwendungen entsprechen im Allgemeinen nicht nachweislich den niederländischen Datenschutz- und Urheberrechtsgesetzen.“
Über den Autor
Laurens Verhagen verschreibt de Volkskrant über Technologie, Internet und künstliche Intelligenz. Peter Olsthoorn ist freiberuflicher Journalist und schreibt seit vielen Jahren über Technologie.
KI-Anwendungen, für die der Staat einen Vertrag mit einem Anbieter abschließt, sollten nicht unter dieses umfassende Verbot fallen.
Staatssekretär Van Huffelen schreibt, es sei „unklar“, ob Anbieter wie Google oder OpenAI die Rechte von Autoren ausreichend berücksichtigen. Die Sprachmodelle hinter Programmen wie ChatGPT und Bard wurden mit großen Textmengen trainiert, unter anderem aus Zeitungsarchiven und Büchern, die noch dem Urheberrecht unterliegen. Das gleiche Prinzip gilt für Bild-KI.
„Nicht transparent“
Viele Anbieter seien nicht transparent darüber, welche Werke sie nutzen, schreibt Van Huffelen. Auch dazu, ob die Nutzung öffentlicher Internetquellen zu diesem Zweck zulässig ist, gibt es aus der Rechtsprechung keine eindeutige Regelung.
Ein weiterer heikler Punkt ist der Datenschutz: „Eine generative KI-Anwendung kann aus der Interaktion mit dem Nutzer auch sehr sensible Informationen ableiten.“ Abschließend erwähnt der Staatssekretär eine weitere grundsätzliche Gefahr, die mit dem Einsatz von KI verbunden ist: Die Antworten eines Programms wie ChatGPT „können dazu genutzt werden, eine Entscheidung über eine Person zu treffen“.
Das Memorandum wird demnächst im Ministerrat besprochen. Wenn sie zustimmen, gilt das Verbot nicht nur für staatliche Dienstleistungen, sondern auch für deren Zulieferer.
Sicher und verantwortungsbewusst
Gleichzeitig sieht Van Huffelen auch Möglichkeiten für einen sinnvollen Einsatz generativer KI innerhalb der Regierung, allerdings auf sichere Weise. Dies muss durch verschiedene Experimente erfolgen. Diese Pilotprojekte sollen bis Mitte nächsten Jahres fertig sein, danach soll es „Leitlinien“ für den verantwortungsvollen Einsatz von KI durch Regierungsorganisationen geben.
Außerdem wird es ein Schulungsprogramm für Beamte und eine umfassendere „Vision“ zum Thema KI geben. Experten warnen schon seit Längerem, dass Organisationen oft zu leichtfertig über den Einsatz von Programmen wie ChatGPT nachdenken. Beispielsweise geben Profis vertrauliche Dokumente ein, um sie zusammenfassen oder übersetzen zu lassen, ohne dass immer klar ist, was genau das Technologieunternehmen mit diesen Informationen macht.
Bei Diensten wie ChatGPT besteht ein zusätzliches Problem darin, dass sich Beamte mit ihrer E-Mail-Adresse anmelden müssen, wodurch leicht erkennbar ist, wer die Fragen an die Maschinen stellt.
„Die Niederlande hinken hinterher“
Sander Klous, Professor für Big-Data-Ökosysteme an der Universität Amsterdam und Partner bei KPMG, erkennt die in dem Memorandum genannten Risiken an, glaubt jedoch, dass ein Verbot zu weit gehen würde: „Es gibt so viele Nuancen bei KI-Anwendungen, die man besser festlegen sollte.“ „Wenn man die Verwendung aufgrund realer Risiken einschränkt, dann sofort alles verbietet.“ Ein umfassendes Verbot könnte die Niederlande auch im Vergleich zu Ländern benachteiligen, die generative KI in größerem Umfang nutzen, warnt der Professor.
Ein Sprecher des Innenministeriums, zu dem auch Digitale Angelegenheiten gehören, sagt, dass das Ministerium die Entwicklungen rund um die generative KI genau beobachte, sich jedoch nicht inhaltlich zu dem Konzept äußern möchte und nicht sagen kann, wann dies möglicherweise im Ministerrat diskutiert wird.