Am 8. Oktober diskutierten wir in den Räumen des Superrr Labs das Thema „Schutz vor digitaler Gewalt möglich machen“ mit Jacqueline Sittig und Theresia Crone. Durch den Abend führte Grit Marti Lange mit ihrer großartigen Moderation.
Den Einstieg machte Jacqueline, die Erkenntnisse ihrer Forschung zu neuen Erscheinungsformen digitaler geschlechtsspezifischer Gewalt mit uns teilte. Das machte sie anhand von fünf Thesen:
- Internetbasierte Formen geschlechtsspezifischer Gewalt erfinden das Rad nicht neu: Auch hier setzen sich Machtstrukturen der analogen Welt fort.
- Es trifft uns alle, aber nicht alle gleich: Bezeichnend ist beispielsweise der Silencing-Effekt bei weiblichen Personen. In einer Studie gaben zwei Drittel der weiblichen Befragten an, ihr eigenes Internetverhalten angepasst zu haben. Auslöser für diese Anpassung war nicht zwingend, was die Personen selbst erlebt hatten. Vielmehr reichte es aus, mitzubekommen, wie mit anderen Frauen umgegangen wurde.
- Auch das Internet ist für uns alle etwas anders: Einer von vielen Faktoren ist das Alter. Personen unterschiedlicher Altersgruppen besuchen andere Seiten, ihnen werden aber auch andere Inhalte angezeigt. Gerade junge Nutzer*innen sind sexualisierten Darstellungen in hohem Maße ausgesetzt.
- Zugleich entstehen durch technische Entwicklungen auch neue Dimensionen: Sogenannte künstliche Intelligenz ist mittlerweile in der Lage, Bildmaterial und Videos zu erstellen, die kaum noch als unecht identifiziert werden können. Der nächste Schritt wird dann der Einsatz von sogenannten KI-Agenten sein, die selbstständig Deepfakes erstellen. Bei dieser Technologie gilt aber: Nuancen sind wichtig, denn das Erstellen von Deepfakes kann auch positive Effekte haben, beispielsweise wenn Creator*innen sich selbst dazu entscheiden, diese Technologie beim Erstellen ihrer Inhalte ethisch einzusetzen.
- Wie können wir dem Einsatz von Deepfakes im Bereich sexualisierter Gewalt begegnen? Ein Wundermittel existiert nicht. Stattdessen bedarf es eines Zusammenspiels von Recht, technischen Entwicklungen und gesamtgesellschaftlichen Veränderungen.
Anschließend berichtete uns Theresia von ihren Erfahrungen und ihren eigenen Nachforschungen. Sie war selbst von sexualisierten Deepfakes betroffen und kämpft seither für eine effektive Regulierung. Derzeit arbeitet sie an einem Buchprojekt zu dem Thema und teilte die dafür gewonnenen Erkenntnisse mit uns.
Dazu gehörte insbesondere die Herkunft des Namens „Deepfake“: Dahinter steckt nämlich der Name eines Reddit-Nutzers, der als einer der Ersten angefangen hat, maschinelles Lernen zur Erstellung von sexualisiertem Bildmaterial zu verwenden. Dieses hat er dann über Subreddits geteilt. So entstanden ganze Communitys, die derartiges Bildmaterial miteinander austauschten. Zugleich wurden aber auch allgemeine Erkenntnisse über maschinelles Lernen miteinander geteilt. In einem Interview gab der Nutzer „deepfakes“ an, aus technischer Neugier zu handeln – obwohl die dort geteilten Bilder allesamt sexualisierter Natur waren und der Begriff „Deepfakes“ erst einige Zeit später auch für nicht sexualisierte Darstellungen verwendet wurde.
Bei den Beiträgen der beiden sowie der anschließenden Diskussion stachen für mich zwei Aspekte besonders heraus: Fehlvorstellungen und Handlungsbedarf.
Fehlvorstellungen betreffen zunächst die Dimension des Problems. Wir alle kennen die Technologie, aber wie häufig wird sie wirklich zum Erstellen nicht konsensualer sexualisierter Darstellungen verwendet? Die Zahlen sind erschreckend:
Von allen hergestellten Deepfakes sind mindestens 93 % pornografischen Inhalts – andere Studien kommen zu noch höheren Werten. Die allermeisten davon sind nicht konsensual. Abgebildet werden in 99 % aller Fälle weibliche Personen. Es geht also gerade nicht um eine allseits verwendete Technologie, die in wenigen Fällen missbraucht wird, sondern um das genaue Gegenteil: Angemessene Verwendungen der Technologie sind der Ausnahmefall. Auch die öffentliche Diskussion und die Forschung im Bereich Deepfakes betreffen in aller Regel nicht pornografische Darstellungen, also den geringsten Teil der Fälle. Sucht man nach Abhandlungen oder Studien, findet man zwar bis zu 80.000, aber nur etwa 10 % davon enthalten überhaupt Wörter wie „pornografisch“ oder „sexualisiert“.
Ebenfalls wenig diskutiert wird, dass besonders Personen mit Migrationshintergrund und queere Personen betroffen sind. Weltweit betrachtet werden 60 % der Deepfakes in Südkorea erstellt, was dort zu erheblichen Regulierungsbestrebungen geführt hat.
Daneben bestehen Fehlvorstellungen hinsichtlich der Täter. Ja, es geht in aller Regel um männliche Personen. Aber es geht gerade nicht um irgendwelche anonymen alten Männer im Internet. In der Regel kommen die Täter aus dem Nahbereich. Und sie sind nicht alt, sondern eher 16 oder 17 Jahre alt. Auslöser sind häufig Ablehnungserfahrungen. Das bedeutet, dass das wohl am häufigsten betroffene Umfeld das schulische ist. Aber gerade hierüber wird kaum geredet. Auch Untersuchungen fehlen. Dabei wissen wir allgemein: Zu Tätern werden häufig auch diejenigen, für die derartiges Verhalten normalisiert ist und die selbst schon davon betroffen waren.
Was wissen wir sonst noch über die Motivation der Täter? Neben Neugier und kommerziellen Gründen spielen vor allem Kontrolle und Macht sowie homosoziale Anerkennung eine Rolle, also der Wunsch, dazuzugehören. Auch hier gilt also: Wir sollten nicht nur auf diejenigen schauen, die Deepfakes erstellen und teilen, sondern auch auf die, die das bejubeln.
Diesem Handlungsbedarf wird auf rechtlicher Ebene langsam begegnet: Mit dem Kabinettsentwurf für ein Gesetz gegen digitale Gewalt gibt es derzeit Bewegung. Die ist auch dringend notwendig. Erstens bestehen Lücken im materiellen Schutz. Zweitens scheitert häufig die rechtliche Durchsetzung. Das schärfste Schwert ist derzeit das Kunsturhebergesetz, das das Recht am eigenen Bild schützt und den Erniedrigungen durch sexualisierte Deepfakes kaum gerecht wird.
Auch wenn es Verbesserungen geben mag, sollten wir nicht vergessen, was der wahre Anlass für die Gesetzgebung ist: nicht die zahlreichen Skandale oder empirischen Befunde, sondern der Umstand, dass die europäische Gewaltschutzrichtlinie Verbesserungen auch in Deutschland fordert.
Aber was soll sich konkret ändern?
Beim Upskirting besteht derzeit eine Strafbarkeitslücke. Gerade Fotos in bspw. Umkleidekabinen sind häufig nicht erfasst, weil man dort regelmäßig unbekleidet ist. Diese Lücke wird geschlossen.
Daneben wird die Herstellung von sexualisierten Deepfakes kriminalisiert – und nicht nur die Verbreitung, wie von der Richtlinie gefordert. Auch entsteht eine Regelung zu Vergewaltigungsvideos. Aber: Es handelt sich um Privatklagedelikte, was bereits jetzt Zweifel hinsichtlich der Durchsetzung in der Praxis aufwirft.
Daneben gibt es Auskunftsrechte und Accountsperren. Wird das alle Probleme lösen? Wohl kaum. Positiv wurde aber hervorgehoben, dass es vor einiger Zeit noch kaum vorstellbar war, so weit zu kommen, wie wir jetzt sind. Vor nicht allzu langer Zeit hat beispielsweise die Bundesrechtsanwaltskammer in einer Stellungnahme davon gesprochen, dass es gar keinen Änderungsbedarf gäbe.
Aber was sollten wir noch machen? In anderen Ländern sehen wir, dass Fortbildungen und spezialisierte Personen oder Abteilungen bei Staatsanwaltschaften einen großen Unterschied machen. Kanada hat einen einfachen Weg zu Löschungen und Schadensersatz eingeführt. Gerade dieser einfache Weg zur Löschung ist den Betroffenen häufig besonders wichtig. Und das ist eine weitere Sache, die sich ändern sollte: Wir sollten mehr auf Betroffene hören. Die Strafrechtsdebatte ist eine sehr männliche Debatte. Betroffene legen ihren Fokus eher auf andere Aspekte.
Schließlich spiegeln derartige Probleme häufig auch gesellschaftliche Verhältnisse wider. Das bedeutet, dass die Regulierung von Deepfakes letztlich nur ein Symptom bekämpft. Wollen wir verhindern, dass auch die nächste Technologie einfach nur als Werkzeug für sexualisierte Gewalt gesehen wird, müssen wir auch die dahinterstehenden gesellschaftlichen Machtstrukturen angehen.
Zum Schluss möchte ich noch eine letzte Beobachtung teilen. Theresia ist gerade auch deshalb betroffen, weil sie sich für Dinge einsetzt. Ich finde es bemerkenswert, dass sie sich davon nicht hat klein kriegen und „silencen“ lassen. Daher möchte ich an dieser Stelle für ihre Organisation EndEndoSilence werben, die sich für eine bessere Versorgung der Betroffenen von Endometriose einsetzt. Unterstützt sie gerne: durch eine Spende, durch das Teilen von Inhalten oder auch nur dadurch, dass ihr euch selbst über das Thema informiert.
D64 gibt seinen Mitgliedern in unregelmäßigen Abständen die Möglichkeit, über Veranstaltungen und gesellschaftliche Ereignisse Blogposts zu verfassen. Die hier drin geäußerten Positionen sind persönliche Ansichten unserer Mitglieder und spiegeln nicht zwingend eine offizielle D64-Position wieder.
