Skip to content

Interview mit Dr. Theresa Züger zum Thema “Künstliche Intelligenz und Frauen”

Die AG Künstliche Intelligenz hat mit Dr. Theresa Züger zum Thema Künstliche Intelligenz und Frauen gesprochen. Die Forscherin erzählt in dem Gespräch, dass das Überwinden von Stereotypen schon in der frühen Bildung beginnen muss und wir mehr...

Die AG Künstliche Intelligenz hat mit Dr. Theresa Züger zum Thema Künstliche Intelligenz und Frauen gesprochen. Die Forscherin erzählt in dem Gespräch, dass das Überwinden von Stereotypen schon in der frühen Bildung beginnen muss und wir mehr Offenheit und Wertschätzung für unterschiedliche Lebensgeschichten sowie disziplinäre Kompetenzen brauchen. Ob KI den Anforderungen von Diskriminierungsfreiheit, sozialer Gerechtigkeit und Nachhaltigkeit genügt, sollte nicht den Unternehmen überlassen werden. Am Ende stellt Theresa Züger noch klar, welche Prioritäten die neue Regierung bei diesem Thema setzen sollte.

Dr. Theresa Züger ist Leiterin der vom Bundesministerium für Bildung und Forschung (BMBF) geförderten Nachwuchsforscher:innengruppe “Public Interest AI” des Alexander von Humboldt Instituts für Internet und Gesellschaft (HIIG). Die Gruppe beschäftigt sich mit der Frage, wie KI dem Gemeinwohl dienen kann und welche technischen wie gesellschaftlichen Kriterien dafür erfüllt sein müssen. Sie ist ebenfalls Co-Leiterin des AI & Society Labs. Das Lab wurde 2020 vom HIIG ins Leben gerufen und ist ein inter- und transdisziplinäres Forschungslabor an der Schnittstelle zwischen Wissenschaft, Industrie und Zivilgesellschaft. In ihrer Forschung beschäftigt sich Theresa Züger mit politischen Dimensionen digitaler Technologien und Kulturen, wobei sie dabei besonders demokratietheoretische Fragestellungen interessieren. 2017 wurde Theresa Züger an der Humboldt Universität zu Berlin promoviert. Ihre Promotion „Reload Disobedience“ beschäftigt sich mit digitalen Formen zivilen Ungehorsams.

D64 AG KI: Im Dezember 2020 veröffentlichte das AI & Society Lab des Alexander von Humboldt Instituts für Internet und Gesellschaft (HIIG) ein Positionspapier zum Thema “KI und Frauen*”. In welchem Kontext entstand dieses Papier?

Dr. Theresa Züger: Das Positionspapier ist ein kollaboratives Ergebnis. Es entstand aus den Positionen der Teilnehmenden bei einem Roundtable, den das AI & Society Lab des HIIG zusammen mit der Deutschen Vertretung der Europäischen Kommission veranstaltet hat. Generell war der Hintergrund unserer Roundtable-Reihe das Whitepaper der EU-Kommission zur Regulierung von KI. Konkret in diesem Roundtable diskutierten die Teilnehmenden, wie Frauen in der Entwicklung und beim Einsatz von KI mehr Einfluss bekommen können. Als Gastgeber:innen waren wir begeistert von den Ideen und Positionen, die zur Sprache kamen und wollten, dass diese nicht verloren gehen, sondern einen möglichst großen Impact haben. Das Positionspapier hält diese Positionen nun fest und formuliert zentrale Forderungen mit dem Ziel, dass Frauen im Bereich der Technologieentwicklung gleichberechtigt repräsentiert sind.

D64 AG KI: Studien zeigen regelmäßig, dass Frauen in Deutschland im KI-Bereich unterrepräsentiert sind – sowohl in der Forschung als auch in der Anwendungsentwicklung. Gibt es Best-Practice-Beispiele, die wir uns aus anderen Ländern abschauen können, um das zu ändern?

Dr. Theresa Züger: Die gibt es bestimmt. In anderen Ländern ist der Gender-Gap wesentlich geringer und da können wir sicher auch von einzelnen Maßnahmen lernen.

Ich glaube aber, dass ein zentraler Best-Practice, der uns in Deutschland fehlt, im Kopf beginnt.

Frauen und Mädchen sind nach wie vor mit Stereotypen und Diskriminierungen konfrontiert, die sie davon abhalten, sich selbst in der Rolle der Technologie-Entwicklerin und -Entscheiderin wohl zu fühlen. Die Veränderung, die nötig ist, um dieses Stereotyp zu ändern, muss in der frühen Bildung anfangen und sich in beruflichen Entwicklungswegen fortsetzen.

D64 AG KI: Welche Argumente für diverse Teams gibt es neben Gerechtigkeitserwägungen?

Dr. Theresa Züger: Studien zeigen, dass diverse Teams häufig zu besseren Lösungen und Produkten kommen. Das macht natürlich letztlich auch wirtschaftlich Sinn. Es ist aber problematisch, dies als vornehmlichen Anreiz für Diversität zu verstehen. Damit setzt man nämlich die vermeintlich “diversen” Teammitglieder implizit unter Druck für den besseren Output zu sorgen und versteht Menschen im schlimmsten Fall nicht als Individuum, sondern als Stellvertreter:in einer bestimmten Gruppe. Stattdessen wäre es wichtig eine Kultur zu entwickeln, in der generell eine höhere Offenheit und Wertschätzung für unterschiedliche Lebensgeschichten und disziplinäre Kompetenzen herrscht.

Gerade im Bereich der Technologieentwicklung, im dem häufig Menschen mit ähnlichen Lebenserfahrungen und Bildungshintergründen arbeiten, wäre es zentral, die Vielfalt von Perspektiven als Stärke und Gewinn an sich zu sehen – und nicht per se als Profitfaktor.

Perspektivenvielfalt bedeutet nämlich mitunter auch, dass eine Entwicklung dadurch länger dauert oder komplexer wird. Nur wenn man diesen Prozess an sich zu schätzen weiß, kann er auch dann stattfinden, wenn er nicht direkt in Profite übersetzbar ist, sondern auf einen langfristigen gesellschaftlichen Mehrwert abzielt.

D64 AG KI: Große Wellen schlug zum Zeitpunkt der Veröffentlichung Ihres Positionspapiers der Abgang der Informatikerin und Tech-Ethikerin Timnit Gebru bei Google. Haben Sie den Eindruck, dass in Unternehmen und Behörden ein Mentalitätswandel in Bezug auf Diversität in der KI-Entwicklung stattfindet oder handelt es sich bei den Bemühungen eher um Marketing?

Dr. Theresa Züger: Das ist schwer umfassend zu beurteilen. Ich habe derzeit den Eindruck, dass die Probleme so tiefgreifend verwurzelt sind, dass ein ernst gemeinter Wandel nicht in wenigen Monaten oder Modellprojekten zu vollziehen ist. Eine allgemeine Beobachtung ist, dass sich häufig auf kommunikationswirksame Projekte konzentriert wird, wie Awards oder Erfolgsgeschichten einzelner Frauen. Diese Projekte sind an sich nicht verkehrt, aber sie reichen nicht aus, um strukturelle Probleme zu beheben und können auch den Eindruck vermitteln, dass Gleichberechtigung etwas ist, was Frauen sich einzeln durch ihre herausragenden Leistungen erkämpfen müssen. Im Gegenteil sollte es eine Grundvoraussetzung sein, für die keine besondere Leistung mehr erforderlich ist. Für die Breite der Frauen sind es strukturelle Hürden, denen sie im Alltag gegenüberstehen: ein technisches Studium, in dem sich Frauen einfach nicht willkommen und gewollt fühlen; ein Unternehmen, das für zentrale Positionen familienunfreundliche Arbeitszeiten fordert (was übrigens auch für gleichberechtigte Väter ein Hindernis ist) und eine Kultur, in der immer noch angenommen wird, dass Frauen in technischen Kompetenzen nicht ebenbürtig sind. Daran kann sich nur etwas ändern, wenn Gleichberechtigung Chef:innensache wird und wenn strukturelle Veränderungen initiiert werden, die die erfahrenen Hürden ernst nehmen, ein tiefgreifendes Verstehen ermöglichen, um dann wirksame strukturelle Gegenmaßnahmen zu entwickeln.

D64 AG KI: Sehen Sie im Bildungsbereich strukturelle Probleme, die den Zugang für Frauen zum KI-Arbeitsmarkt erschweren? Liegen die Herausforderungen eher in der Ausbildung oder später im beruflichen Umfeld?

Dr. Theresa Züger: Die Herausforderungen liegen auf beiden Ebenen. Selbst hochqualifizierte Frauen mit technischen Ausbildungen erleben in der Berufspraxis Benachteiligungen. Ein viel diskutiertes grundlegendes Problem ist natürlich, dass Frauen in technischen Studiengängen unterrepräsentiert sind.

Ich finde die Erprobung von technischen Studiengängen allein für Frauen eine gute Idee, um einen Übergang zu einer gleichberechtigten Verteilung in diesen Fächern zu erreichen und besser zu verstehen, welche Faktoren wichtig sind, um einen technischen Studiengang für Frauen attraktiv zu machen.

Darüber hinaus ist in vielen akademischen Disziplinen Sexismus leider noch weit verbreitet. In technischen Fächern, in denen männliche Lehrkräfte und Studierende in der großen Überzahl sind, ist die Wahrscheinlichkeit unangenehme Erfahrungen zu machen so groß, dass Frauen sich möglicherweise nicht gegen ein Fach entscheiden, sondern gegen einen Ausbildungsweg, auf dem diese Erfahrungen für sie persönlich wahrscheinlich sind.

D64 AG KI: Der aktuelle Verordnungsentwurf der Europäischen Kommission zur Regulierung von KI setzt bei der Förderung von nachhaltiger, diverser und barrierefreier KI auf die Freiwilligkeit der Unternehmen. Bedarf es hier stärkerer Anreize, um das positive Potenzial von KI für eine inklusive und nachhaltige Gesellschaft zu nutzen?

Dr. Theresa Züger: Diskriminierungsfreiheit und soziale Gerechtigkeit sind zentrale Werte unserer Gesellschaft und sollen es auch in Zukunft bleiben. Nachhaltigkeit ist ein zentrales Ziel, das über die Zukunftsfähigkeit unserer Gesellschaft entscheidet. Es allein Unternehmen zu überlassen diese Werte zu sichern, legt sehr große politische Verantwortung allein in ihre Hände. Unternehmen können sicher selbst innovative Ideen vorlegen, wie sie diesen Zielen gerecht werden, aber es wäre aus meiner Sicht eine zentrale Rolle der Politik – also hier der EU-Kommission und ihrer Mitgliedstaaten – sicherzustellen, dass diese Ziele auch umgesetzt werden und im Zweifelsfall Sanktionen drohen, wenn KI-Systeme diesen zentralen Werten widerstreben.

D64 AG KI: Die meisten Menschen haben Berührungspunkte mit KI im Alltag aus einer Konsument:innenperspektive, beschäftigen sich aber nicht mit den dahinter stehenden Annahmen. Wie schaffen wir es, die Zivilgesellschaft und insbesondere Gruppen, die bislang im KI-Bereich unterrepräsentiert sind, stärker in einen Austausch über KI einzubeziehen?

Dr. Theresa Züger: Dazu fallen mir ganz verschiedene Ansatzpunkte ein: Erstens muss Wissen über KI und digitale Technologien und auch die politische Reflektion über beides stärker in die Schulen kommen, z.B. als Pflichtfach. Zweitens brauchen wir Erklärungsmodelle für KI, die Bürger:innen in ihren Berührungspunkten mit KI im Alltag adressiert (daran arbeiten wir z.B. gerade in unserer Forschung), statt sich weiterhin hauptsächlich auf Erklärungen für KI-Entwickler:innen und Expert:innen zu konzentrieren. Darüber hinaus glaube ich, dass es ein Potential gibt, Menschen durch beruflichen Quereinstieg und leicht zugängliche Fortbildungen im KI-Bereich zu schulen und damit eine größere und informiertere Beteiligung in der öffentlichen Auseinandersetzung zu erreichen.

D64 AG KI: Die Bundestagswahl hat gerade stattgefunden. Welche Wünsche an die neue Regierung befinden sich ganz oben auf Ihrer Liste, damit mehr Frauen in diesem zukunftsweisenden Feld arbeiten?

Dr. Theresa Züger: Eine erprobte Möglichkeit ist natürlich, Unternehmen zu sanktionieren, die nicht in der Lage sind, eine gleichberechtigte Beteiligung von Frauen über alle Ebenen ihrer Unternehmensstruktur (also auch die Führungsebene) nachzuweisen. Das kann eine Maßnahme sein, um deutlich zu machen, dass Gleichberechtigung kein “Nice to have”, sondern ein grundlegender Wert unserer Wirtschaftspolitik ist.

Um das jedoch glaubwürdig zu vertreten, müssen Frauen auch in einer kommenden Regierung gleichberechtigt vertreten sein.

Gerade wenn wir uns den Kampf um gleiche Anerkennung von Frauen in der Politik ansehen, wird deutlich, dass Gleichberechtigung kein Thema ist, was sich auf eine Industrie isolieren lässt. Es ist nach wie vor ein zentrales Entwicklungsthema unserer Gesellschaft.

AG Künstliche Intelligenz

Die AG Künstliche Intelligenz unterstützt den interdisziplinären Austausch zwischen unterschiedlichen Fachrichtungen auf diesem Gebiet. Wir betrachten dieses faszinierende Thema aus verschiedenen Perspektiven. Dabei ist es uns wichtig, sowohl über mögliche Risiken beim Einsatz von KI zu diskutieren als auch konstruktiv das Potenzial von KI für die Gesellschaft hervorzuheben. Aktuell befassen wir uns mit dem Thema Diversität und KI in Forschung, Wirtschaft und Gesellschaft.

Koordination:

Ramona Greiner ,
Maximilian Gahntz

Auch Interessant

D64-Mitglieder sitzen in einem Tagungsraum auf Stühlen (im Kreis angeordnet). Vorne referiert ein Mitglied vor einer Leinwand mit Projektion.

Big Brother made in Germany: Neues Online-Tracking über Mobilfunk-Kennung

2023 genehmigte die Europäische Kommission das Ad-Tech-Joint-Venture "Utiq". Der Dienst bietet eine Ad-ID-Lösung als Ergänzung zu herkömmlichen Tracking-Mechanismen und verspricht Datenschutzfreundlichkeit. Unsere ausführliche Analyse untersucht die Chancen und Risiken dieses Ansatzes.
weiterlesen
Gruppenfoto der Teilnehmer:innen des D64-Meetups auf der re:publica 23. Foto: D64/Johann Lensing

Triff uns auf der re:publica 2024

Die re:publica 2024 steht vor der Tür und D64 ist mit zwei Meetups, einem Stand und zwei inhaltlichen Sessions vertreten. Insgesamt bieten 30 D64-Mitglieder 26 Sessions an. Alle Sessions mit D64-Beteiligung findet ihr in unserem Kalender....
weiterlesen