„Dies ist das Ende der Zeit, nicht wahr? So fühlt es sich wirklich an.“ Irgendwann in der Mitte des Interviews steigert Felienne Hermans (39) ihr ohnehin schon hohes Sprechtempo noch ein bisschen. Während sie überall Hallelujah-Geschichten über die Entwicklungen der künstlichen Intelligenz (KI) hört, fühlt sie sich selbst wie in einen Science-Fiction-Film der dystopischen Art hineingezogen.
Nein, Hermans gehört nicht zu der Gruppe der unverbesserlichen Tech-Optimisten, die gespannt auf die Ankunft der Art von KI warten, die den Menschen in allen Bereichen übertreffen und die Welt zu einem besseren Ort machen wird. Der Professor für Informatik an der VU-Universität in Amsterdam und Lehrer für Computerpädagogik an einer weiterführenden Schule in Kralingen glaubt an keine der beiden Annahmen.
Über den Autor
Laurens Verhagen hat Philosophie studiert und schreibt über Technologie, Internet und künstliche Intelligenz. Davor war er Chefredakteur von nu.nl.
Die Gefahren liegen in einem anderen Bereich: dem gigantischen Energieverbrauch und CO2Emissionen der hämmernden KI-Computer, die Flut von Desinformationen, die auf uns zukommt, und das Verschwinden zwischenmenschlicher Kontakte.
Aus ihrem Arbeitszimmer im zehnten Stock eines modernen Universitätsgebäudes außerhalb der Ringstraße von Amsterdam beschreibt sie den schlechten Film mit Sam Altman, in dem sie gelandet zu sein scheint. Altman ist CEO und Gründer von OpenAI, dem Schöpfer des am meisten diskutierten KI-Tools der Geschichte: ChatGPT.
„Am Anfang des Films sagt er, dass er mit seiner Software die Welt retten wird. Alle finden das großartig, außer einer schwarzen Programmiererin, die ihre Zweifel äußert. Aber Altman will keine Einwände hören und drückt auf einen roten Knopf. Und dann Schnellvorlauf bis fünf Jahre später, wenn Sie uns wie Zombies in einer Höhle leben sehen.‘
Hermans kontinuierlicher Redefluss wird von einem Strickstück auf seinem Schoß begleitet: „Das hilft mir ein bisschen, mich zu konzentrieren, ich lasse mich leicht ablenken.“ Ihre Gedanken gehen viel schneller als die Stricknadeln.
Diese schwarze Ingenieurin aus Hermans‘ Zombie-Apokalypse-Fantasie kommt nicht aus heiterem Himmel. Die Welt der Informatik wird immer noch von Männern dominiert. Weiße Männer, während viel Kritik an KI-Entwicklungen laut Hermans vor allem von den wenigen Frauen kommt, die in diesem Bereich arbeiten, wie Timnit Gebru, der von Google gefeuert wurde und seit einiger Zeit vor den gefährlichen Seiten von KI warnt .
Warum ist Diversität unter Informatikern und KI-Wissenschaftlern besonders wichtig?
„Software wird heute oft von Weißen gemacht. Sie betrachten das Endprodukt logischerweise aus ihrer eigenen Perspektive. Nehmen Sie Apps mit, die verfolgen, wohin Sie gehen. Für Frauen, die von einem Stalker belästigt werden könnten, ist das auf eine ganz andere Art unangenehm, als dass man es einfach nicht mag, wenn man weiß, wo man wohnt.“
Kritiker warnen schon länger davor, dass sich Präferenzen unbewusst in KI-Systeme einschleichen, weil sie mit nicht neutralen Daten trainiert wurden. Kürzlich wurde dies noch einmal schmerzhaft durch ChatGPT veranschaulicht, das mit dem geliefert wird „Trolley-Problem“ einer klaren Vorliebe dafür Männer über Frauen retten zeigte. Dabei handelt es sich um ein ethisches Gedankenexperiment, bei dem ein System entscheiden muss, wen es im Falle einer drohenden Katastrophe retten soll: die Insassen einer Straßenbahn oder die gefährdeten Fußgänger.
„Frauen müssen von Anfang an mitdenken. Gleiches gilt für Farbige. Die wenigen Frauen sind weiße Frauen aus der Mittelschicht, die andere Probleme haben als schwarze Frauen. Hier an der VU gab es eine interessante Klage von einer schwarzen Studentin, die feststellte, dass die obligatorische Anti-Cheat-Software, die sie hier während der Prüfungen in der Koronazeit verwendeten, sie nicht richtig erkannte.
Wie stehen die Niederlande in diesem Bereich im Vergleich zu anderen Ländern?
‚Schlecht. Die Niederlande baumeln ausnahmslos am Ende der Liste der Beteiligung von Frauen an der Technologie. Und der bundesweite Mädchenanteil in Informatik-Studiengängen liegt hier immer noch bei 9 Prozent. Die meisten Mädchen, die wir hier haben, kommen aus Osteuropa und Asien.“
Warum entscheiden sich niederländische Mädchen immer noch nicht für IKT?
„Es kommen viele Dinge zusammen. Erstens haben Jungen signifikant häufiger Vorkenntnisse. Ich bekomme E-Mails von Vätern eines 3-jährigen Kindes: Ich möchte meinem Sohn das Programmieren beibringen, was soll ich tun? Geh auf den Spielplatz, denke ich. Darüber hinaus müssen sich Mädchen mit Rollenbildern und Stereotypen und einem Umfeld auseinandersetzen, das auf subtile Weise von einer Karriere in der IKT abhält. Kommen sie in der Schule zum ersten Mal mit Computerunterricht in Berührung, beginnen sie benachteiligt. Die Unterrichtsmethode erscheint neutral, ist es aber nicht. Ein Großteil der Programmierausbildung ist nur Ausprobieren. Kinder bekommen einen Lötkolben und ein paar Leiterplatten und vage Anweisungen: Machen Sie einfach ein Spiel. Mädchen finden das spannender als Jungen, gerade weil sie schon hinterherhinken.“
Neben ihrer Tätigkeit an der Universität, wo sie als Professorin tätig ist Informatikausbildung forscht, wie Menschen Programmieren lernen können, außerdem unterrichtet sie seit 2013 einen Tag pro Woche an einem Gymnasium in Kralingen. Angesichts ihrer Recherchen an der Universität scheint das ein bewusster Schritt zu sein, ist es aber nicht: „In diesem Moment wusste ich nicht so recht, was ich eigentlich mit meinem Leben wollte. Will ich in der Wissenschaft arbeiten?‘ Lacht: „Eigentlich weiß ich es immer noch nicht. Jedenfalls steckte ich damals ein bisschen in meinen Recherchen fest. Und meine Beziehung endete auch. Also dachte ich, na ja, was soll ich mit meinem Leben anfangen? Und dann ging ich zur Arbeit in eine Schule.‘
Diese Schule in Kralingen ist einzigartig in den Niederlanden, weil sie die einzige offizielle ist Codasium Ist. Der Kurs Programmieren und Modellieren ist hier ein Prüfungskurs. Hermans hofft sogar, dass das Programmieren in der Grundschule zur Pflicht wird. Sie ist Mitglied eines Gremiums, das Bildungsministerin Wiersma zu neuen Lernzielen im Bereich der digitalen Kompetenz berät.
Hermans selbst ist eine Ausnahme. Anfang der Neunziger taucht zu Hause plötzlich ein glänzender Commodore 64 auf, dem Vater wurde gesagt, dass so etwas für seine Arbeit nützlich sei, aber es ist die kleine Felienne, die abends ins Arbeitszimmer rennt und sich an den Computer setzt. „Da war nichts drauf und du hattest damals überhaupt kein Internet. Wenn man also ein Spiel spielen wollte, musste man es selbst tippen.“ So fängt es an. Durch Bibliotheksbücher mit Code und begeisterten Mathelehrern wird es immer ernster. Sie ist das einzige Mädchen in einer Jungenwelt.
Warum ist es so wichtig, dass jeder Programmieren lernt?
„Weil wir dieses Wissen nicht einer kleinen Gruppe überlassen können. Wenn Sie die Welt um sich herum verstehen wollen, müssen Sie auch verstehen, wie Code funktioniert. Das gilt für die Bürger, aber auch für die Regierung. Und schauen Sie sich ChatGPT an. Wenn man selbst nicht ein bisschen programmieren kann, dann versteht man nicht, wie so ein Programm funktioniert. Und dann gibt es Leute, die denken, dass so ein Programm Gefühle hat oder wirklich schlau ist.‘
Ist das schlecht?
‚Ja. Es ist gefährlich, wenn Menschen zu hohe Erwartungen an solche Programme haben und blind alles glauben. Wir haben bereits ein massives Desinformationsproblem, aber es ist nichts im Vergleich zu dem, was auf uns zukommt. Diese KI-Modelle werden Bullshit ausspucken und das wird von anderen Modellen neu verpackt, bis niemand mehr weiß, was real ist. Böswillige Personen können jetzt leicht wissenschaftlich aussehende Papiere erstellen, einschließlich Quellen und Namen echter Wissenschaftler, aber mit manipulierten Tabellen und Daten. Die Verwirrung wird groß. Es weckt mich wirklich auf.’
Aber es werden auch schöne Dinge vorausgesagt. Sam Altman spricht über KI-medizinische Hilfe für Menschen, die sich keinen richtigen Arzt leisten können.
Springt von ihrem Stuhl auf: „Ist das nicht ein Schreckensszenario? Denn das wird passieren: Sie und ich werden bald das Geld für menschliche Kontakte haben. Aber andere nicht und müssen sich mit einem Chatbot auseinandersetzen. Wollen Sie für einen Menschen 50 Euro extra zahlen? Schlüssel 1.‘
Man kann sich auch fragen: Ist das schlimm? Was wäre, wenn die Informationen des medizinischen Roboters genauso genau sind und die Menschen zufrieden sind?
„Whoa, das ist etwas Grundlegendes. Überall und immer haben Menschen das Bedürfnis, miteinander zu kommunizieren. Das ist das Menschlichste, was es gibt. Das ist ein Baby, das Mama sagt, dass es Hunger hat. Wenn wir das auslagern, können wir genauso gut direkt ins Bett gehen. Jedoch? Ich bin nicht so positiv, nein.“
Können wir noch zurück?
‚Schwierig. Manchmal denke ich: Programme wie ChatGPT sollten verboten werden, was natürlich, wie ich weiß, unmöglich ist. Ich wünschte, wir könnten die Zeit zurückdrehen und trotzdem den Stoppknopf drücken. Warum arbeiten Programmierer überhaupt daran? Ich verstehe das nicht. Genauso wie ich das Problem nicht verstehe, das diese Art von Programmen lösen. Anscheinend stellen sich zu wenige Leute diese Frage.“
Und das Frauenproblem in der IKT? Auch da ist Hermans heute skeptisch: „Früher dachte ich, das wäre gelöst, wenn ich 40 bin. Jetzt, wo ich fast 40 bin, denke ich: Das werde ich nicht noch einmal erleben, bevor ich in Rente gehe.“ Aber vielleicht leben wir bis dahin wie Zombies in Höhlen und starren Chatbots an, die miteinander reden.