Es scheint eine einfache und wirksame Maßnahme zu sein, die Verbreitung von kinderpornografischem Material zu verhindern: Scannen Sie jedes mit dem Smartphone gesendete Bild auf mögliche Kinderpornografie. Es ist der Kern eines Vorschlags der Europäischen Kommission gegen Online-Kindesmissbrauch. Doch die Folgen sind so weitreichend, dass Wissenschaftler, Datenschützer und andere Kritiker zunehmend warnen: Fangen Sie gar nicht erst damit an.
Der Plan der Europäischen Kommission sieht vor, dass bald jeder Text und jedes Bild in einer Chat-Nachricht gescannt wird. Ab August 2024 soll diese Verpflichtung für Anbieter sicherer Kommunikation wie WhatsApp, Facebook und iMessage gelten. Sie nutzen mittlerweile eine Ende-zu-Ende-Verschlüsselung: Nachrichten werden verschlüsselt und können nur vom Absender und vom Empfänger gelesen werden. Ein grundlegender Ausgangspunkt für vertrauliche Gespräche.
Über den Autor
Huib Modderkolk ist investigativer Journalist bei de Volkskrant mit besonderem Schwerpunkt auf Cybersicherheit und Nachrichtendiensten. Er hat mehrere Journalistenpreise gewonnen und ist Autor des Buches „Es ist Krieg, aber niemand sieht ihn“. Zuvor arbeitete er bei NRC.
Obwohl nicht klar ist, wie viel Kinderpornografie auf diesem Weg versendet wird, will die Europäische Kommission diese Vertraulichkeit nun anfechten. Das „Client-Scanning“, wie es im Fachjargon genannt wird, muss vor der Verschlüsselung einer Nachricht erfolgen. Tatsächlich wird der Kommunikation zwischen Sender und Empfänger ein Dritter hinzugefügt.
Digitaler Fingerabdruck
Dem nun vorliegenden Vorschlag zufolge vergleichen Messaging-Dienste künftig den digitalen Fingerabdruck der versendeten Fotos mit einer Datenbank mit Fingerabdrücken von Millionen bekannter kinderpornografischer Bilder. Bei einer Übereinstimmung erfolgt eine Meldung an ein spezielles EU-Zentrum, das das betreffende Foto auswertet und bei Bedarf Europol oder nationale Polizeibehörden alarmieren kann. Diese Datenbank mit Fingerabdrücken wird von Anbietern wie WhatsApp auf dem Smartphone von EU-Bürgern abgelegt. Eine Datei von wahrscheinlich ein paar Megabyte.
Die Folgen dieser Methode seien enorm, schrieben 400 Wissenschaftler und Forscher im Bereich Informationssicherheit und Datenschutz Anfang dieses Monats in einem offenen Brief. Sie wiesen die Europäische Kommission darauf hin, dass es noch weitere zehn bis zwanzig Jahre dauern könnte, bis eine akzeptable Technologie entwickelt sei, die Bilder ohne allzu große Fehlermargen scannen könne.
Die aktuelle Technologie ist anfällig für Manipulationen: Eine kleine Änderung an einem vorhandenen kinderpornografischen Foto sorgt dafür, dass es nicht mehr denselben Fingerabdruck hat und daher aus der Datenbank verschwindet. Böswillige Personen können das System auch missbrauchen, um ein legitimes Foto als Kinderpornografie kennzeichnen zu lassen.
Äußerst komplex
Darüber hinaus ist es äußerst komplex, ein Computermodell zwischen einem privaten Foto eines zweijährigen Kindes in einem Pool im Garten und einem böswilligen kinderpornografischen Bild unterscheiden zu lassen, wie die Erfahrung im Vereinigten Königreich zeigt, wo künstliche Intelligenz bereits im Einsatz ist eingesetzt hat, hat sich gezeigt, dass es äußerst komplex ist. Computer achten nicht auf die Absicht des Schöpfers.
Sie überprüfen auch nicht die Beziehung zwischen dem Absender des Fotos und dem darauf abgebildeten Kind, so dass private Fotos bei einer europäischen Behörde landen könnten, die prüft, ob sie anständig sind. Experten gehen davon aus, dass die von der EU-Kommission vorgesehene Methode so viele Fehler produzieren wird, dass die Zahl der Falschmeldungen in die zweistellige Millionenhöhe pro Tag gehen wird.
Doch die Hauptkritik an den EU-Vorschlägen berührt einen grundlegenderen Punkt. Wie Jaap-Henk Hoepman, außerordentlicher Professor für Datenschutz und Technologie an der Radboud-Universität, es ausdrückt: „Dieser Vorschlag setzt eine Brechstange in das Privatleben aller Bürger.“ „Wir gehen einen Weg, den man eigentlich nicht gehen möchte.“
Die Auswirkungen seien enorm, sagt er. „Das Endergebnis ist, dass den Behörden die Möglichkeit gegeben wird, Einblick in unser Privatleben zu nehmen, in das, was wir auf unserem Telefon tun und sagen“, sagt er. Hoepman vergleicht es mit der Installation einer Überwachungskamera in allen Häusern der Niederlande. „Eine Regierungskamera, die einen Livestream aktiviert und einrichtet, wenn sie ein verdächtiges Geräusch aufnimmt.“
Ständige Überwachung
Siebzig britische Kryptographen und Sicherheitsexperten warnten letzte Woche auch die britische Regierung, die an ähnlichen Plänen arbeitet, dass es bald „einen Polizisten in jedermanns Tasche“ geben werde. Die Bürger würden ständig überwacht, hieß es. WhatsApp und Signal drohen damit, das Vereinigte Königreich zu verlassen, wenn diese Pläne umgesetzt werden.
Experten befürchten zwei Szenarien. Erstens: Das Scannen beschränkt sich nicht auf kinderpornografisches Material, sondern wird heimtückisch auf Texte und Bilder ausgeweitet, die beispielsweise Terrorismus, Gewalt oder Desinformation enthalten. Hoepman: „Das ist eine bekannte Dynamik: Sobald die Chance da ist, ist es verlockend, sie breiter zu nutzen.“
Eine weitere Befürchtung besteht darin, dass autoritäre Regime die Option für andere Zwecke nutzen werden, wie es zuvor bei israelischer Spionagesoftware der Fall war. Es sollte Terroristen aufspüren, wurde aber von Ländern wie Ungarn, Polen und Spanien gegen Journalisten, Menschenrechtsaktivisten und Oppositionelle eingesetzt. Hoepman: „Die Schwelle für das Hinzufügen dieser Funktionalität wird gesenkt.“
Ein bisschen Hoffnung
Der Vorschlag der Europäischen Kommission wird demnächst im Europäischen Parlament und im EU-Rat diskutiert. Es liegt an Spanien, das derzeit den Vorsitz in der Europäischen Union innehat, eine Position festzulegen. Gegner der Pläne haben vorerst wenig Hoffnung. Ein früherer schwedischer Vorschlag, die Ende-zu-Ende-Verschlüsselung zu schützen und das Scannen von Clients nicht zuzulassen, wurde von Spanien abgelehnt.
Auch das nun scheidende niederländische Kabinett befürwortet das Scannen. Ein im April vom Repräsentantenhaus angenommener Antrag, einer „verschlüsselungsgefährdenden Chat-Kontrolle“ nicht zuzustimmen, wurde vom Kabinett ignoriert. Kurz vor dem Sturz des Kabinetts wiederholte Justiz- und Sicherheitsministerin Dilan Yesilgöz auf Fragen des CDA, dass sie „unter bestimmten Umständen“ Zugang zum „Nachrichtenverkehr“ haben möchte.