Als im vergangenen Juni der Oberste Gerichtshof der USA Roe gegen Wade aufhob, begannen Frauen damit, Apps zur Periodenverfolgung von ihren Handys zu löschen. Da die Abtreibung in bestimmten Staaten illegal werden sollte, befürchteten sie, dass die Daten verwendet werden könnten, um diejenigen zu verfolgen, die eine Abtreibung anstreben. War das eine Überreaktion oder einfach die Erkenntnis, dass wir in das Zeitalter der Orwellschen Elektronik eingetreten sind?
Viele von uns haben das vage, schleichende Gefühl, dass unsere Geräte gegen uns arbeiten könnten. Im Jahr 2016 wurde ein Mann beschuldigt, sein Haus in Ohio niedergebrannt zu haben, nachdem sein Herzschrittmacher Zweifel an seinem Versicherungsanspruch wegen eines versehentlichen Feuers aufkommen ließ. Zwei Jahre später wurde festgestellt, dass US-Militärangehörige versehentlich geheime Militärstützpunkte über ihre Strava-Fitness-Apps preisgaben.
Solche Geschichten haben uns jedoch nicht davon abgehalten, unsere Daten preiszugeben. Wir erlauben Apps unbekümmert den Zugriff auf unseren Standort, Anruflisten und andere Informationen, weil wir ungeduldig darauf warten, zu jeder flüchtigen neuen Funktion zu gelangen, die wir uns wünschen. Aber wir müssen schlauer werden, denn eine neue Herausforderung kommt: Wie können wir unsere Gehirndaten schützen?
Investitionen fließen in „Neurotechnologie“, die elektrische Impulse des Nervensystems aufzeichnen und analysieren kann. Gehirn-Computer-Schnittstellen bieten enorme Vorteile, wie z. B. die Unterstützung der Genesung von Schlaganfallpatienten und die Verringerung von Epilepsie-Episoden. EEG-Headsets, die Gehirnwellen verfolgen, werden von Spielern verwendet, um Charaktere auf dem Bildschirm zu steuern. Sie können auch erkennen, wenn ein Lkw-Fahrer die Konzentration verliert. Mehr als 5.000 Unternehmen in der Bergbau-, Bau- und anderen Branchen von Australien bis Südafrika nutzen diese Technologie, um sicherzustellen, dass ihre Mitarbeiter aufmerksam und wach sind.
Hier werde ich zimperlich. Indem Unternehmen Fahrer dazu bringen, solche Headsets zu tragen, können sie Leben retten. Aber es fühlt sich auch wie ein potenzielles Unterdrückungsinstrument an – eines, das leicht auf jeden anderen Mitarbeiter angewendet werden könnte, dessen Chef wissen möchte, wann seine Gedanken abschweifen.
Die Neurowissenschaftlerin Nita Farahany, Professorin für Recht und Philosophie an der Duke University, stimmt zu. In einem neuen Buch The Battle for Your Brain: Verteidigung des Rechts auf freie Meinungsäußerung im Zeitalter der Neurotechnologie, Sie sagt eine Welt voraus, in der KI und Neurowissenschaften kombiniert werden, um in unsere geistige Privatsphäre einzudringen. Es gibt Befürchtungen, dass die Kommunistische Partei Chinas mithilfe von KI Gesichtsausdrücke und Gehirnsignale analysieren könnte, um die Loyalität von Parteimitgliedern zu beurteilen. Die aufkommende Fähigkeit, zu verfolgen und zu entschlüsseln, was im menschlichen Gehirn vor sich geht, erfordert eine ernsthafte Diskussion darüber, wie wir es nutzen.
Farahany glaubt, dass Neurotech zu einem „universellen Controller“ all unserer Interaktionen mit Technologie werden wird. Ein New Yorker Start-up namens CTRL-Labs, das von Meta gekauft wurde, hat ein neuronales Armband entwickelt, mit dem der Träger einen Computer zunächst durch winzige Bewegungen der Finger bedienen und dann die Absicht erkennen kann, sich zu bewegen. Next Sense, erstellt von Alphabet, stellt Ohrhörer her, die neuronale Daten erkennen können.
Das ist noch kein Gedankenlesen. Die elektrischen Impulse des Gehirns sind nicht dasselbe wie Gedanken, und Gehirn-Computer-Schnittstellen können nicht als Lügendetektoren fungieren. Farahany warnt jedoch davor, dass „Algorithmen immer besser darin werden, Gehirnaktivitäten in das zu übersetzen, was wir fühlen, sehen, uns vorstellen oder denken“.
Es gibt einige Echos davon in einem neuen Artikel von Chatham House. Es wird argumentiert, dass KI zwar enorme Vorteile bietet, zu ihren Risiken gehören jedoch „die Erosion individueller Freiheiten durch allgegenwärtige Überwachung; und der Ersatz von unabhängigem Denken und Urteilen durch automatisierte Kontrolle“. Der Bericht sagt auch, dass nur wenige der vielen KI-Strategien und Governance-Prinzipien, die entwickelt werden, Menschenrechte überhaupt erwähnen. Doch das Recht auf Gedankenfreiheit schließt das Recht ein, unsere Gedanken privat zu halten und nicht dafür bestraft zu werden.
Die Debatte über die Regulierung der Neurotechnologie steckt noch in den Kinderschuhen. Aber eine Reihe von Wissenschaftlern drängen auf „Neuro-Rechte“. Der Neurobiologe Rafael Yuste plädiert für ein Recht auf geistige Privatsphäre, „damit der Inhalt unserer geistigen Aktivität nicht ohne unsere Zustimmung entschlüsselt wird“. Chile hat kürzlich als erstes Land der Welt Neurorechte in seine Verfassung aufgenommen und wird bald Gesetze erlassen, um Technologien zu regulieren, die die Gehirnaktivität aufzeichnen oder verändern.
Angesichts seiner jüngsten Erinnerungen an den Autoritarismus ist Santiago den Risiken möglicherweise bewusster als Washington oder London. Ältere Demokratien neigen dazu, über jede neue Technologie das gleiche Gespräch zu führen. Experten loben die Vorteile; Investoren steigen ein; und ethische Erwägungen werden schwerfälligen Komitees und Regierungen überlassen, die nicht Schritt halten können.
Die Folgen einer so langen Passivität gegenüber sozialen Medien haben dazu geführt, dass unsere Gesellschaften mit zutiefst beunruhigenden Verhaltensweisen zu kämpfen haben, von der Besessenheit von Körperbildern bis hin zu Radikalisierung, Selbstmord und extremer Pornografie. Wir dürfen nicht den gleichen Fehler mit Gehirndaten machen. Technologien mögen neutral sein, aber die Menschheit ist es sicherlich nicht. Das sage ich nicht oft, aber im Fall von Neurotech: Her mit den Anwälten.