Skip to content

Der Einsatz von KI stellt die Zivilgesellschaft vor Herausforderungen

Von Chatbots über Gesichtserkennung bis hin zu KI-Chips – Künstliche Intelligenz (KI) ist überall. Damit wächst auch die Notwendigkeit, klare Regeln für ihren Einsatz zu schaffen. Dies betrifft auch ganz zentral den Einsatz von KI-Anwendungen durch die...
Workshopteilnehmer:innen diskutieren Bedarfe im Bereich KI D64/Johann Lensing
Foto: D64/Johann Lensing

Von Chatbots über Gesichtserkennung bis hin zu KI-Chips – Künstliche Intelligenz (KI) ist überall. Damit wächst auch die Notwendigkeit, klare Regeln für ihren Einsatz zu schaffen. Dies betrifft auch ganz zentral den Einsatz von KI-Anwendungen durch die Zivilgesellschaft. 

Zivilgesellschaftliche Organisationen haben deutliche Kritik an Schwächen in der Regulierung von KI-Anwendungen geübt und auch ihre eigenen Perspektiven eingebracht. Initiativen wie das Civil Society Manifesto for Ethical AI oder der EU Artificial Intelligence Act for Fundamental Rights machen auf die Potenziale für Machtmissbrauch, Diskriminierung und die fehlende Berücksichtigung von Nachhaltigkeit aufmerksam. Sie fordern verbindliche Regelungen und die Stärkung von Menschenrechten. Der Einsatz von KI-Anwendungen durch die Zivilgesellschaft selbst stand jedoch bisher wenig im Fokus, ist aber eine drängende Frage, die viele zivilgesellschaftliche Akteure beschäftigt.

Wordcloud zu den wahrgenommenen Herausforderungen

KI-Anwendungen bieten auch für zivilgesellschaftliche Organisationen enorme Chancen. Sie können dabei helfen, zeitintensive Routineaufgaben schneller zu erledigen, komplexe Gesetzestexte in einfacher Sprache zusammenfassen oder bei der Planung von Projekten helfen. Dennoch bringen KI-Anwendungen zahlreiche Herausforderungen mit sich. Was passiert mit sensiblen Daten? Welche Risiken ergeben sich für vulnerable Gruppen? Und wie können wir sicherstellen, KI gemeinwohlorientiert einzusetzen? 

In unserem Projekt Code of Conduct Demokratische KI diskutieren wir diese vielfältigen Herausforderungen gemeinsam mit über 30 Organisationen der Zivilgesellschaft und entwickeln eine Selbstverpflichtung, um sicherstellen, dass KI gemeinwohlorientiert und im Einklang mit Freiheit, Gerechtigkeit und Solidarität eingesetzt wird. Die dabei wahrgenommen Herausforderungen sind vielfältig.

1. Ethische Herausforderungen

KI-Anwendungen stellen zivilgesellschaftliche Organisationen, die sich gegen Ungleichheit, Diskriminierung und Machtmissbrauch einsetzen, vor zahlreiche ethische Herausforderungen. Nur wenige zivilgesellschaftliche Organisationen sind in der Lage KI-Anwendungen selbst zu entwickeln oder Open-Source-Lösungen effektiv zu nutzen und sind daher auf die Lösungen großer Konzerne angewiesen, deren Trainingsdaten für sie nicht zugänglich sind. Es besteht die Gefahr, dass der Einsatz von KI daher genau diese Ungerechtigkeiten quasi durch die Hintertür verstärkt.

2. Gesellschaftliche Verantwortung

Die Zivilgesellschaft hat eine gesellschaftliche Vorbildfunktion und stellt einen Resonanzraum für gesellschaftliche Debatten dar. Damit haben zivilgesellschaftliche Organisationen eine besondere Verantwortung, KI im Sinne des Gemeinwohls einzusetzen und Inklusion, Gerechtigkeit und Diversität zu stärken. 

  • Transparenz und Nachvollziehbarkeit: Ein vertrauenswürdiger Einsatz von KI erfordert transparente Entscheidungswege und die Offenlegung der verwendeten Anwendungen, Datengrundlagen und Weiterverarbeitungen von Input-Daten. Dies ist jedoch oft schwierig umzusetzen und wird von kommerziellen Anbietern nicht immer geleistet.
  • Demokratische Partizipation und Kontrolle: Zivilgesellschaftliche Organisationen müssen sicherstellen, dass KI-Systeme, die sie entwickeln, machtkritisch und gemeinsam mit Betroffenen gestaltet werden. 
  • KI-Hype: KI-Anwendungen sollten weder als Lösung gesellschaftlicher Probleme noch als alternativlos angesehen werden. Nur mit einem Bewusstsein für Stärken und Schwächen kann KI sinnvoll eingesetzt werden. 
  • Nachhaltigkeit: KI-Anwendungen sind sehr ressourcenintensiv und ihr Einsatz sollte immer sorgfältig abgewogen werden. 

3. Herausforderungen für die Mitarbeitenden

Auch wenn es wünschenswert wäre, jedes eingesetzte Tool gründlich zu prüfen, ist dies in der Realität insbesondere für kleinere zivilgesellschaftliche Organisationen kaum leistbar. Es fehlt schlicht an technischer Expertise, um die Vorteile von KI effektiv zu nutzen.

  • Fehlende Mitarbeitende und Ansprechpersonen: Organisationen benötigen interne Expertise. Data Scientists oder KI-Expert:innen sind momentan jedoch sehr gefragt und häufig nicht in den ohnehin schmalen Budgets vieler zivilgesellschaftlicher Organisationen unterzubringen. 
  • Fehlende technologische Kompetenzen: Die Schulung von Mitarbeitenden aber auch von Ehrenamtlichen in digitalen und KI-Kompetenzen ist entscheidend, um KI verantwortungsvoll und effektiv einzusetzen. Dies erfordert jedoch Zeit und oft auch Geld.
  • Geschwindigkeit der technologischen Entwicklung: KI-Anwendungen entwickeln sich mit hoher Geschwindigkeit weiter, damit eröffnen sich neue Chancen, aber auch neue Risiken. Um einen angemessenen Umgang damit zu finden, erfordert der Einsatz von KI-Anwendungen kontinuierliches Lernen. 

4. Finanzielle und organisatorische Herausforderungen

Auch auf finanzieller Ebenestehen Organisationen vor Herausforderungen, da sie häufig auf zeitlich begrenzte Finanzierungsmodelle angewiesen sind.  

  • Finanzierung und Ressourcen: Nachhaltige Finanzierung und ausreichende personelle Ressourcen sind notwendig, um KI-Projekte langfristig betreuen zu können. 
  • Integration in bestehende Strukturen: KI muss in bestehende Systeme integriert werden können, um echte Entlastung und keine zusätzliche Belastung zu schaffen. Beispielsweise sollten KI-Systeme den Verwaltungsaufwand reduzieren, sodass mehr Zeit für die direkte Arbeit mit den Menschen bleibt.
  • Abhängigkeiten: Durch die Nutzung von KI-Anwendungen können Abhängigkeiten von bestimmten Anbietern oder Technologien entstehen. Dies schränkt die Wahlfreiheit für Organisationen stark ein. 
  • Datenschutz und Sicherheit: Der Schutz sensibler Daten von vulnerablen Gruppen hat höchste Priorität. Organisationen, die mit diesen sensiblen Daten arbeiten, müssen Strukturen entwickeln, um diese zu schützen.

Wie können wir KI gemeinwohlorientiert nutzen?

Workshopteilnehmer:innen diskutieren Chancen und Risiken von KI

Workshopteilnehmer:innen diskutieren Chancen und Risiken von KI. Foto: D64/Johann Lensing

Um die Potenziale von KI zu nutzen und gleichzeitig ethische Grundsätze zu wahren und unserer gesellschaftlichen Verantwortung gerecht zu werden, müssen wir in der Zivilgesellschaft KI zielgerichtet einsetzen und über Chancen und Risiken reflektieren. Beispiele für gemeinwohlorientierte KI-Projekte hat das Innovationsnetzwerk Civic Coding in einer Projektlandkarte zusammengestellt

In unserem Projekt Code of Conduct Demokratische KI erarbeiten wir mit anderen Organisationen aus der Zivilgesellschaft eine Selbstverpflichtung, um KI im Einklang mit Freiheit, Gerechtigkeit und Solidarität einsetzen – schaut vorbei und diskutiert mit uns! 

D64-Logo_RGB-Cyberschwarz_Quadrat

D64 – Zentrum für Digitalen Fortschritt

Informationen rund um den Verein werden durch den D64 Vorstand freigegeben und von der Geschäftsstelle publiziert.

Mitwirkende

Anke Obendiek, PhD

Auch Interessant

Eine Gruppe an sitzenden Menschen diskutiert in einem hellen, offenen Raum auf der re:publica 2023 mit drei D64-Mitgliedern, die vor einem Präsentationsmonitor stehen.

Offener Brief: Im Haushalt 2025 die richtigen digitalpolitischen Weichen stellen!

Die digitale Souveränität Deutschlands und die Innovationskraft unserer Wirtschaft hängen entscheidend davon ab, wie schnell und entschlossen sich die öffentlichen Verwaltungen aus den Abhängigkeiten von proprietärer Software lösen kann. Deshalb hat sich die Open Source Business...
weiterlesen

Fünf gute Gründe für HumHub: Begegnung und Interaktion im Digitalen Raum

Gemeinwohlorientierte Organisationen und Kommunen stehen vor der Herausforderung, den digitalen Raum so zu gestalten, dass Begegnung und Zusammenarbeit gefördert werden. Gruppen bei Messengern wie bei Signal werden schnell unübersichtlich, insbesondere wenn es um die Organisation größerer Gruppen...
weiterlesen