Zweieinhalb Jahre ist es her, dass die Europäische Kommission den ersten Entwurf für den sogenannten AI Act (zu Deutsch: KI-Verordnung) vorgestellt hat. Seitdem ist in der Technologiewelt viel passiert – und der AI Act ist von einem von vielen Brüsseler Digitalvorhaben zum Fokus einer breiten Öffentlichkeit geworden. Nun kommen die Verhandlungen jedoch auf der Zielgeraden ins Straucheln. Der Grund: Die Verwässerung wesentlicher Regelungen bis zur Unkenntlichkeit, vorangetrieben unter anderem durch die Bundesregierung.

Denn gemeinsam mit Frankreich und Italien stellt sich Deutschland aktuell quer, wenn es um die Frage geht, wie sogenannte KI-Basismodelle – auch Foundation Models genannt – reguliert werden sollen. Dabei handelt es sich um die Technologien, die hinter Anwendungen wie bspw. ChatGPT steht. Entwickelt werden sie vor allem von Tech-Riesen wie Microsoft und Google sowie von aufstrebenden Unternehmen wie OpenAI, die sich gegen Regeln für KI-Basismodelle einsetzen. Doch auch in Deutschland und Frankreich gibt es zwei Unternehmen, Aleph Alpha und Mistral, die in dieser Liga mitspielen möchten. Deren Lobbyarbeit hat dazu geführt, dass Deutschland, Frankreich und Italien verbindliche Regeln für solche Modelle im AI Act vehement ablehnen – und stattdessen etwas fordern, was sie „verpflichtende Selbstregulierung“ nennen.

Risiken bei Basismodellen

Doch von vorne: Wieso braucht es überhaupt Regeln für Basismodelle? Bei Basismodellen handelt es sich um sehr große KI-Modelle, die in einem ersten Schritt unter enormem Ressourcenaufwand und mit großen Datenmengen entwickelt und für ein weites Spektrum verschiedener Zwecke genutzt werden können. In einem zweiten Schritt können diese für bestimmte Zwecke angepasst und in Anwendungen integriert werden – etwa als Grundlage für einen Chatbot bei einem Finanzdienstleister, um Softwarecode zu schreiben oder um Lebensläufe zu analysieren. Sie können somit das Fundament für ganz verschiedene KI-Anwendungen stellen.

Weiterlesen

Seit der Förderung durch das Programm 100xdigital der Deutschen Stiftung für Engagement und Ehrenamt arbeitet D64 kontinuierlich an der Verbesserung der Software HumHub. Mit einem Projektbudget von 7.000 € haben wir es uns zum Ziel gesetzt, bis Ende des Jahres wichtige Verbesserungen an dieser Social-Network-Software vorzunehmen. Ein Ansatz, der nicht nur D64, sondern auch anderen mitgliederorientierten Organisationen zugutekommen wird. Weiterlesen

Berlin, 06.11.2023: Am 28. Oktober 2023 wählten die Mitglieder des progressiven, digitalpolitischen Vereins D64 – Zentrum für digitalen Fortschritt e. V. auf einer Mitgliederversammlung in Steinbach (Taunus) die Politikwissenschaftlerin Svea Windwehr zur neuen D64 Co-Vorsitzenden. Svea Windwehr folgt auf Anne Schwarz, die aus persönlichen Gründen zurücktrat. Neu im Vorstand ist zudem Yannick Müller, der auf Verena Holtz als Beisitzer nachfolgt.

Erik Tuchtfeld, Co-Vorsitzender von D64, betont: „Mit Svea Windwehr gewinnt der Verein eine Expertin für Digitalpolitik mit Erfahrung aus Zivilgesellschaft, Verwaltung und Wirtschaft. Gemeinsam werden wir als Co-Vorsitzende mit unseren 800 Mitglieder die digitale Transformation progressiv gestalten und die Professionalisierung des Vereins weiter vorantreiben.“ Weiterlesen

Ob Kürzungen bei der politischen Bildung im geplanten Haushalt, Streichungen bei digitalen Projekten wie Firewall oder Hateaid oder der Rückzug der Open Society Foundation aus Westeuropa: Die aktuellen Entwicklungen zeigen einmal mehr, dass Nonprofit-Organisationen ihre Finanzierung diversifizieren müssen. Das ist natürlich leichter gesagt als getan. Als Verein, der sich in einer Phase der Professionalisierung und Neuorientierung befindet, beschäftigen wir uns derzeit intensiv mit diesem Thema. Mit diesem Blogbeitrag möchten wir unsere Gedanken mit der Community teilen, unseren Mitgliedern unser Vorgehen transparent machen und (möglichen) Unterstützer:innen einen Einblick in unsere Pläne geben.

Unser Ziel ist eine Mischfinanzierung aus Mitgliedsbeiträgen, Struktur- und Projektförderung von Stiftungen und staatlichen Stellen sowie Spenden, um unsere 2022 eingerichtete Geschäftsstelle erhalten und ausbauen zu können. Was die Vor- und Nachteile der einzelnen Finanzierungsarten sind und wie wir zu ihnen stehen, haben wir unten genauer aufgeschrieben.

Weiterlesen

D64 ist es ein Anliegen, den bestmöglichen Kinderschutz zu ermöglichen. Datenschutz und Kinderschutz sind für uns keine Gegensätze, im Gegenteil, denn auch Kinder und insbesondere Jugendliche haben ein Recht auf Privatsphäre. Wirksamer Kinderschutz kann in einem Rechtsstaat nur im Einklang mit allen Grundrechten erfolgen – ist dies nicht der Fall, werden Gesetze von Gerichten für nichtig erklärt und es wird unnötig viel Zeit und Energie vergeudet, in der man Kinder vor Übergriffen hätte schützen können.

Das war bei der Vorratsdatenspeicherung so und wird bei der Chatkontrolle nicht anders sein. Denn das Briefgeheimnis gilt auch im digitalen Raum.

Es besteht – mit Ausnahme der Europäischen Kommission – absolute Einigkeit darüber, dass die Aufdeckungsanordnungen nicht mit der Rechtsprechung des Europäischen Gerichtshofs vereinbar sind, so sehen das zum Beispiel die ehemalige deutsche EuGH-Richterin Ninon Colneric, der Bundesbeauftragter für den Datenschutz und die Informationsfreiheit, der Europäische Datenschutzausschuss sowie die Wissenschaftliche/Juristische Dienste des Bundestages, des EU-Parlaments und des Rates.

Deshalb ist es uns wichtig, über Alternativen zu sprechen, die einen effektiven und grundrechtskonformen Kinderschutz ermöglichen:

1. Hilfe muss dort sein, wo Menschen Hilfe brauchen. Deshalb muss es in den Apps und Plattformen eine einfache und kindgerechte Möglichkeit geben, sich an Beratungsstellen und/oder die Polizei zu wenden.
2. „Scheinkinder“, also verdeckte Ermittler:innen, die sich als Kinder ausgeben und als „Honeypots“ auf Plattformen darauf warten, von Erwachsenen angesprochen zu werden, können wichtige Ermittlungsarbeit leisten.
3. Aufklärungskampagnen durch Plattformen und Onlinespiele, z. B. durch sogenannte Splash Screens vor dem Start oder Tutorials, die nicht nur das Spielprinzip, sondern auch den Schutz der Spielenden in den Mittelpunkt stellen.
4. Kindgerechte Gestaltung von Apps, z. B. durch Voreinstellungen für bestimmte Altersstufen, die von den Eltern gesetzt werden können, um z. B. die Chatfunktion zu deaktivieren oder auf bekannte Kontakte zu beschränken.
5. Ausbau von Initiativen wie „Kein Täter werden“, die verhindern, dass Pädophile zu Tätern werden.
6. Login-Falle als eine Alternative zur anlasslosen Vorratsdatenspeicherung von IP-Adressen.

Der Beitrag basiert auf einem Input, den D64 bei einem parlamentarischen Frühstück zum Thema „Kinderschutz im Internet“ im Juni 2023 gegeben hat.