Rachepornos, Sextortion und Deepnude, das sind die Formen digitaler Gewalt gegen Frauen, die mit künstlicher Intelligenz zugänglicher gemacht werden. Die Erstellung falscher pornografischer Inhalte beispielsweise hat in der KI ein Werkzeug für eine schnelle und gefährliche Produktion gefunden. Wo liegen die Einsatzgrenzen von KI und wie kann man sie gegen geschlechtsspezifische Gewalt einsetzen? Chatbots und Apps, Handbücher und Online-Dienste zum Datenschutz sind nur die ersten Werkzeuge für den Aufbau einer langfristigen Best Practice.
Cyber-Gewalt
Einige Phänomene der Cybergewalt erscheinen als Verbrechen, andere werden darauf zurückgeführt, und hier stößt die KI auf ihr erstes Hindernis. Rachepornografie ist seit 2009 gemäß Art. 612 ter des italienischen Strafgesetzbuchs eine Straftat. Die nicht einvernehmliche Verbreitung intimer Inhalte online und in Telegram-/WhatsApp-Gruppen nimmt zu und betrifft auch Minderjährige. Darüber hinaus können explizite Inhalte auch zu Erpressungszwecken missbraucht werden, daher der Name Sextorsion.
Der gemeinnützige Verein Permetto Negato, der sich auf die Unterstützung von Opfern nicht einvernehmlicher Pornografie spezialisiert hat, meldet die steigenden Fälle auf Telegram: 147 Gruppen und Kanäle überwacht, 16.883.722 Nutzer und über 6.704.050 Inhalte geteilt. Die letzte Analyse Ende 2023 umfasste einen Fokus auf 7 Gruppen mit 331.837 beteiligten Nachrichten. Die Bevölkerungsgruppe ist überwiegend männlich (11-60 Jahre). In den ersten elf Monaten des Jahres 2023 verzeichnete die Postpolizei 259 Fälle (davon 183 von Frauen). Wie kann man sich verteidigen? Der Privacy Guarantor stellt ein Handbuch zum Thema Sicherheit zur Verfügung und bietet die Möglichkeit, online einen präventiven Bericht zu erstellen. Im Februar startete Meta anlässlich des Safer Internet Day den Dienst „Take it down“, um die Verbreitung privaten Materials zu blockieren oder zu verhindern.
Der Missbrauch von KI
Was ist, wenn der explizite Inhalt uns betrifft, aber gefälscht ist? Dort Manipulation zu pornografischen Zwecken, oder Deepnude, macht 90–95 % aller gefälschten Inhalte aus und 90 % sind Pornos, die Frauen schikanieren (Sensity AI). Beim Warten auf Aktualisierungen des KI-Gesetzes kann auf weitere Straftaten wie Verleumdung oder Erpressung sowie auf die Regelungen der beteiligten sozialen Netzwerke verwiesen werden. Zusammen mit Videos erleichtert KI die Schaffung falscher Identitäten (Catfishing) und begünstigt so die Liebesbetrug: Fake-Profile, die eine enge Beziehung zum Betrugsopfer aufbauen. Nach den neuesten Daten von Cyber Guru, einer Schulungsplattform für Sicherheitsbewusstsein, unterscheiden 52 % echte Profile nicht von gefälschten Profilen und 13 % haben Material mit Fremden ausgetauscht. Die Gefahr besteht darin, auf einen Cyberkriminellen zu stoßen, der die Installation durchführen kann Schadsoftware auf Ihrem Mobiltelefon, indem Sie Ihre persönlichen Daten in Besitz nehmen.
Die Postpolizei hat aufgenommen ein Anstieg der Fälle um 118 % Liebesbetrug im Jahr 2021 im Vergleich zu 2020 (Rekordjahr) mit gestohlenen Beträgen in Höhe von 4.500.000; während in den ersten elf Monaten des Jahres 2023 die Fälle von Sextorsion Sie stiegen auf 1.384, was einem Anstieg von 29 % gegenüber 2022 entspricht Welsfischen Es handelt sich nicht um eine Straftat, sondern kann auf das in Art. 494 des Strafgesetzbuches. Im Februar veröffentlichte die Dating-App Bumble die ersten Daten von Deception Detecotor, einem System, das gefälschte Profile mithilfe von KI verfolgt: In den ersten zwei Monaten wurden die Meldungen um 45 % reduziert, 95 % wurden automatisch blockiert.