Skip to content

Offener Brief zum AI Act: EU policymakers, regulate police technology!

Gemeinsam mit 120 zivilgesellschaftlichen Organisationen und Expert:innen fordert D64 einen menschenrechtsbasierten Ansatz für KI in der Strafverfolgung.
15 D64-Mitglieder sitzen in einem Stuhlkreis in einem klassenzimmerartigen Raum. Sie verfolgen aufmerksam, wie ihnen ein weiteres Mitglied stehend etwas mithilfe einer Grafik, die auf einer Tafel skizziert ist, erklärt.
Foto: D64/Fionn Große

Wir fordern dabei insbesondere die Bundesregierung auf, sich dafür einzusetzen, dass im AI Act, dem Einsatz von Überwachungstechnologien im Zusammenhang mit Strafverfolgung, Sicherheit und Migrationskontrolle klare Grenzen gesetzt werden.

Zum offenen Brief (Englisch)

Als Anpassungen schlagen wir vor, dass:

  1. Rechtliche Beschränkungen eingeführt werden, um den Einsatz von KI zu Zwecken zu verhindern, die ein inakzeptables Risiko für die Grundrechte darstellen. Dazu gehört ein gesetzliches Verbot verschiedener Formen der biometrischen Überwachung, des Predictive Policing und des schädlichen Einsatzes von KI im Zusammenhang mit Migration.
  2. Transparenz und öffentliche Kontrolle beim Einsatz „risikoreicher“ Arten von KI durch Sicherheitsbehörden gewährleistet werden, indem auch für diese Behörden die Verpflichtung zur Registrierung risikoreicher Anwendungen in der EU-Datenbank beibehalten wird.
  3. Der AI Act den Einsatz von KI in den Bereichen Strafverfolgung, Sicherheit und Migrationskontrolle regelt, die ein Risiko für die Menschenrechte darstellen, insbesondere Anwendungen im Bereich der Migrationskontrolle, und dass die nationale Sicherheit nicht vom Anwendungsbereich der Verordnung ausgenommen wird.

AG Künstliche Intelligenz

Die AG Künstliche Intelligenz unterstützt den interdisziplinären Austausch zwischen unterschiedlichen Fachrichtungen auf diesem Gebiet. Wir betrachten dieses faszinierende Thema aus verschiedenen Perspektiven. Dabei ist es uns wichtig, sowohl über mögliche Risiken beim Einsatz von KI zu diskutieren als auch konstruktiv das Potenzial von KI für die Gesellschaft hervorzuheben. Aktuell befassen wir uns mit dem Thema Diversität und KI in Forschung, Wirtschaft und Gesellschaft.

Koordination:

Ramona Greiner ,
Maximilian Gahntz