Von Chatbots über Gesichtserkennung bis hin zu KI-Chips – Künstliche Intelligenz (KI) ist überall. Damit wächst auch die Notwendigkeit, klare Regeln für ihren Einsatz zu schaffen. Dies betrifft auch ganz zentral den Einsatz von KI-Anwendungen durch die Zivilgesellschaft.
Zivilgesellschaftliche Organisationen haben deutliche Kritik an Schwächen in der Regulierung von KI-Anwendungen geübt und auch ihre eigenen Perspektiven eingebracht. Initiativen wie das Civil Society Manifesto for Ethical AI oder der EU Artificial Intelligence Act for Fundamental Rights machen auf die Potenziale für Machtmissbrauch, Diskriminierung und die fehlende Berücksichtigung von Nachhaltigkeit aufmerksam. Sie fordern verbindliche Regelungen und die Stärkung von Menschenrechten. Der Einsatz von KI-Anwendungen durch die Zivilgesellschaft selbst stand jedoch bisher wenig im Fokus, ist aber eine drängende Frage, die viele zivilgesellschaftliche Akteure beschäftigt.
KI-Anwendungen bieten auch für zivilgesellschaftliche Organisationen enorme Chancen. Sie können dabei helfen, zeitintensive Routineaufgaben schneller zu erledigen, komplexe Gesetzestexte in einfacher Sprache zusammenfassen oder bei der Planung von Projekten helfen. Dennoch bringen KI-Anwendungen zahlreiche Herausforderungen mit sich. Was passiert mit sensiblen Daten? Welche Risiken ergeben sich für vulnerable Gruppen? Und wie können wir sicherstellen, KI gemeinwohlorientiert einzusetzen?
In unserem Projekt Code of Conduct Demokratische KI diskutieren wir diese vielfältigen Herausforderungen gemeinsam mit über 30 Organisationen der Zivilgesellschaft und entwickeln eine Selbstverpflichtung, um sicherstellen, dass KI gemeinwohlorientiert und im Einklang mit Freiheit, Gerechtigkeit und Solidarität eingesetzt wird. Die dabei wahrgenommen Herausforderungen sind vielfältig.
1. Ethische Herausforderungen
KI-Anwendungen stellen zivilgesellschaftliche Organisationen, die sich gegen Ungleichheit, Diskriminierung und Machtmissbrauch einsetzen, vor zahlreiche ethische Herausforderungen. Nur wenige zivilgesellschaftliche Organisationen sind in der Lage KI-Anwendungen selbst zu entwickeln oder Open-Source-Lösungen effektiv zu nutzen und sind daher auf die Lösungen großer Konzerne angewiesen, deren Trainingsdaten für sie nicht zugänglich sind. Es besteht die Gefahr, dass der Einsatz von KI daher genau diese Ungerechtigkeiten quasi durch die Hintertür verstärkt.
- Voreingenommenheit und Stereotypen: KI-Modelle neigen dazu, bestehende Vorurteile zu reproduzieren. Beispielsweise können generative KI-Anwendungen stereotype Altersbilder verwenden.
- Verstärkung von Ungleichheiten: Es besteht die Gefahr, dass KI dadurch soziale Ungleichheiten und Diskriminierung verstärkt, anstatt sie abzubauen, etwa durch fehlerhafte automatisierte Entscheidungen oder Datenmissbrauch.
2. Gesellschaftliche Verantwortung
Die Zivilgesellschaft hat eine gesellschaftliche Vorbildfunktion und stellt einen Resonanzraum für gesellschaftliche Debatten dar. Damit haben zivilgesellschaftliche Organisationen eine besondere Verantwortung, KI im Sinne des Gemeinwohls einzusetzen und Inklusion, Gerechtigkeit und Diversität zu stärken.
- Transparenz und Nachvollziehbarkeit: Ein vertrauenswürdiger Einsatz von KI erfordert transparente Entscheidungswege und die Offenlegung der verwendeten Anwendungen, Datengrundlagen und Weiterverarbeitungen von Input-Daten. Dies ist jedoch oft schwierig umzusetzen und wird von kommerziellen Anbietern nicht immer geleistet.
- Demokratische Partizipation und Kontrolle: Zivilgesellschaftliche Organisationen müssen sicherstellen, dass KI-Systeme, die sie entwickeln, machtkritisch und gemeinsam mit Betroffenen gestaltet werden.
- KI-Hype: KI-Anwendungen sollten weder als Lösung gesellschaftlicher Probleme noch als alternativlos angesehen werden. Nur mit einem Bewusstsein für Stärken und Schwächen kann KI sinnvoll eingesetzt werden.
- Nachhaltigkeit: KI-Anwendungen sind sehr ressourcenintensiv und ihr Einsatz sollte immer sorgfältig abgewogen werden.
3. Herausforderungen für die Mitarbeitenden
Auch wenn es wünschenswert wäre, jedes eingesetzte Tool gründlich zu prüfen, ist dies in der Realität insbesondere für kleinere zivilgesellschaftliche Organisationen kaum leistbar. Es fehlt schlicht an technischer Expertise, um die Vorteile von KI effektiv zu nutzen.
- Fehlende Mitarbeitende und Ansprechpersonen: Organisationen benötigen interne Expertise. Data Scientists oder KI-Expert:innen sind momentan jedoch sehr gefragt und häufig nicht in den ohnehin schmalen Budgets vieler zivilgesellschaftlicher Organisationen unterzubringen.
- Fehlende technologische Kompetenzen: Die Schulung von Mitarbeitenden aber auch von Ehrenamtlichen in digitalen und KI-Kompetenzen ist entscheidend, um KI verantwortungsvoll und effektiv einzusetzen. Dies erfordert jedoch Zeit und oft auch Geld.
- Geschwindigkeit der technologischen Entwicklung: KI-Anwendungen entwickeln sich mit hoher Geschwindigkeit weiter, damit eröffnen sich neue Chancen, aber auch neue Risiken. Um einen angemessenen Umgang damit zu finden, erfordert der Einsatz von KI-Anwendungen kontinuierliches Lernen.
4. Finanzielle und organisatorische Herausforderungen
Auch auf finanzieller Ebenestehen Organisationen vor Herausforderungen, da sie häufig auf zeitlich begrenzte Finanzierungsmodelle angewiesen sind.
- Finanzierung und Ressourcen: Nachhaltige Finanzierung und ausreichende personelle Ressourcen sind notwendig, um KI-Projekte langfristig betreuen zu können.
- Integration in bestehende Strukturen: KI muss in bestehende Systeme integriert werden können, um echte Entlastung und keine zusätzliche Belastung zu schaffen. Beispielsweise sollten KI-Systeme den Verwaltungsaufwand reduzieren, sodass mehr Zeit für die direkte Arbeit mit den Menschen bleibt.
- Abhängigkeiten: Durch die Nutzung von KI-Anwendungen können Abhängigkeiten von bestimmten Anbietern oder Technologien entstehen. Dies schränkt die Wahlfreiheit für Organisationen stark ein.
- Datenschutz und Sicherheit: Der Schutz sensibler Daten von vulnerablen Gruppen hat höchste Priorität. Organisationen, die mit diesen sensiblen Daten arbeiten, müssen Strukturen entwickeln, um diese zu schützen.
Wie können wir KI gemeinwohlorientiert nutzen?
Workshopteilnehmer:innen diskutieren Chancen und Risiken von KI. Foto: D64/Johann Lensing
Um die Potenziale von KI zu nutzen und gleichzeitig ethische Grundsätze zu wahren und unserer gesellschaftlichen Verantwortung gerecht zu werden, müssen wir in der Zivilgesellschaft KI zielgerichtet einsetzen und über Chancen und Risiken reflektieren. Beispiele für gemeinwohlorientierte KI-Projekte hat das Innovationsnetzwerk Civic Coding in einer Projektlandkarte zusammengestellt.
In unserem Projekt Code of Conduct Demokratische KI erarbeiten wir mit anderen Organisationen aus der Zivilgesellschaft eine Selbstverpflichtung, um KI im Einklang mit Freiheit, Gerechtigkeit und Solidarität einsetzen – schaut vorbei und diskutiert mit uns!