Während Googles großem I/O-Showcase-Event für Entwickler – einem langwierigen, glitzernden Einsatz der neuen KI-Muskeln des Unternehmens – ging einer der Hauptredner auf die Risiken ein, die von „schlechten Akteuren“ ausgehen.
Der Satz war im Kontext eines ansonsten selbstbewusst optimistischen Ereignisses mit einer Balance aus realer und abstrakter Bedrohung verbunden. In der Verwendung des Begriffs „schlechter Akteur“ lag genug Bedrohung, um dem Publikum zu versichern, dass Googles menschliches Gehirn die Gefahren einer sehr schnellen Ausbreitung der KI über den Punkt realistischer Kontrolle hinaus gebührend berücksichtigt hat, jedoch ohne genügend Spezifizierung der Bedrohungen, um den Partygeist zu trüben.
Das Mainstreaming der generativen KI könnte in der Tat immer mächtigere Waffen des Unheils in die Hände von Betrügern, Desinformationshändlern und anderen eindeutig schlechten Akteuren legen. Wir haben Recht, wenn wir das befürchten, und Google hatte Recht, als es damit aufhörte und die Spannung anerkennt, die bei einem Unternehmen dieser Bedeutung zwischen dem, was es auf den Markt bringen kann und sollte, besteht.
Doch der Tonfall von Google ließ es zumindest vorerst wahrscheinlich erscheinen, dass das Unternehmen auf der Grundlage vorgehen wird, dass man den einfachen Menschen ziemlich viel generative KI anvertrauen kann. Allerdings unterschätzt man vielleicht die banale Schurkerei des bösen Schauspielers: derjenigen, die nicht aktiv nach dem dunklen Potenzial der Technologie suchen, es aber auf jeden Fall nutzen werden, wenn es nur bereit liegt, es auszunutzen.
Das Problem bestand darin, dass sich die Risiken weniger abstrakt und realer anfühlten, je mehr die neuen KI-Angebote von Google auf den Bildschirmen auftauchten. Die Tatsache, dass Google, Microsoft und andere Tech-Giganten die KI für Verbraucher und Unternehmen zum Schlachtfeld machen, bedeutet, dass die kommerzielle Konkurrenz nun tatsächlich angewiesen und frei gemacht wurde, das zu tun, was sie am besten kann: so viel wie möglich in unsere Hände zu legen, so schnell wie möglich wie möglich. Das bedeutet, dass die Werkzeuge, die man braucht, um ein gelegentlicher (aber auch sehr effizienter) Bösewicht zu werden, immer besser verfügbar sein werden.
Es gab zwei Momente, die herausragten. In einem Fall stellten die Führungskräfte von Google eine KI-gestützte Übersetzungssoftware vor, die das Unternehmen derzeit testete und die – nach eigenen Angaben des Unternehmens – stark wie ein benutzerfreundlicher, äußerst leistungsstarker Generator für Deepfake-Filmmaterial aussieht. Der Leiter der Google-Abteilung gab dies zu und beschrieb die Notwendigkeit von Leitplanken, Wasserzeichen und anderen Sicherheitsmaßnahmen, die sich in Wirklichkeit als schwer durchzusetzen erweisen könnten.
Es wird ein Video abgespielt, in dem ein Sprecher in einer Sprache spricht. Ihre Wörter werden transkribiert, übersetzt und von der KI als Audio in einer anderen Sprache wiedergegeben. Der Ton und die Stimmlage der übersetzten Stimme werden angepasst, um die des Sprechers besser nachzuahmen, und die Software überspielt sie dann erneut mit dem Originalvideo. Auf unheimliche Weise – wenn auch noch nicht perfekt – manipuliert die KI dann die Tonbänder so, dass die neuen Wörter mit den Lippen des Sprechers synchronisiert werden. Bemerkenswertes Zeug – aber es ist auch nicht besonders schwer, sich vorzustellen, wie die Fähigkeit, Menschen sehr schnell so aussehen zu lassen, als würden sie etwas sagen, was sie nie getan haben, sowohl für unsere schlechten als auch für unsere bösen Schauspieler nützlich sein könnte.
In einer anderen Demo stellten Google-Führungskräfte den KI-gestützten Magic Editor des Unternehmens vor – im Grunde ein sehr schnelles und benutzerfreundliches Photoshop-ähnliches Tool, das scheinbar sogar dem Nicht-Technikfreak das Bearbeiten von Fotos und damit auch den Verlauf ermöglicht eines Ereignisses oder einer Begegnung mit ein paar Fingerbewegungen.
Das Szenario des Unternehmens war zwangsläufig harmlos und begann mit einem Foto eines Touristen vor einem Wasserfall. Schöne Erinnerungen, aber – ups! – ein auffälliger Handtaschenriemen, den sie lieber entfernen würde. Jab! Es verschwand sofort. Sie wünschte, das Wetter wäre auf dieser Reise besser gewesen. Jab! Der Himmel war nicht mehr granitbedeckt, sondern herrlich blau. Wenn sie nur näher am Wasserfall gewesen wäre und ihren Arm in einem anderen Winkel gehabt hätte. Jab! Sie war umgezogen.
Niemand könnte diesem fiktiven Touristen das Recht verwehren, die Realität ein wenig umzuschreiben. Aber der Nutzen, den ein schlechter Schauspieler daraus ziehen könnte, wirft alles in ein zweifelhafteres Licht. Nicht jeder wird sofort erkennen, wie er von diesen sofortigen Möglichkeiten der nachträglichen Manipulation der visuellen Aufzeichnung profitieren kann, aber allein die Tatsache, dass er diese Fähigkeit in der Tasche hat, wird viele Menschen neugierig auf Airbrush machen.
Seit der Einführung von ChatGPT haben Google und andere keine andere Wahl, als sich an diesem frühen experimentellen Dreierkonflikt zwischen Menschheit, KI und Billionen-Dollar-Unternehmen zu beteiligen. Das Leitprinzip von Google dabei sei eine „mutige und verantwortungsvolle“ Haltung, sagte CEO Sundar Pichai letzte Woche. Das ist in Ordnung, aber es fühlt sich wie ein Platzhalter an, bis die Welt ein klares Gefühl dafür bekommt, wie viele schlechte Schauspieler es da draußen gibt.