Im letzten Jahr startete D64 die Themenreihe zur Künstlichen Intelligenz. Bei dem ersten Workshop Künstliche Intelligenz: Technik, Ethik, Recht diskutierten wir unterschiedliche Aspekte der KI und wie mögliche politische Strategien zur Förderung, Gestaltung aber auch Regulierung von KI aussehen könnten. D64 wird im Frühjahr 2018 in einer weiteren Veranstaltungen Thesen und Handlungsempfehlungen für die Politik entwickeln. Der folgende Entwurf soll Grundlage für die Diskussion sein. Datum und Ort der Veranstaltung stehen noch nicht fest und werden im D64-Ticker angekündigt.
Das Thesenpapier in der aktuellen Entwurfsfassung von Februar 2018:
Grundwerte für Künstliche Intelligenz
Künstliche Intelligenz (KI) ist ein exponentieller Treiber für die fortschreitende Digitalisierung und stellt gleichzeitig einen umfassenden Paradigmenwechsel dar.
Während durch klassische Software deterministisch Abläufe programmiert sind, entstehen durch Deep Learning nicht-vorhersagbare, selbstlernende Produkte und Dienste, die nicht nur aus dem verwendeten Algorithmus resultieren. Vielmehr gewinnen Daten, insbesondere im Zusammenhang mit der Beschreibung ihres Inhaltes („labeled data“), an Relevanz und entscheiden mittel- und langfristig über die Ergebnisse von Systemen mit künstlicher Intelligenz. Insbesondere bei KI, deren Entscheidungskriterien und -prozesse für Anwender nicht transparent nachvollzogen werden können, sind klare Regelungen notwendig. Parallel dazu ist es erforderlich, die datenverarbeitenden Prozesse selbst von Anfang an transparenter zu gestalten, auch in dem Sinne, dass Anbieter verpflichtet werden die algorithmischen Entscheidungswege nachvollziehbar zu machen.
D64 hat sich zum Ziel gesetzt, diese Entwicklung aktiv und konstruktiv mitzugestalten. Als Kompass für die inhaltliche Ausrichtung fungieren dabei die Grundwerte Freiheit, Gerechtigkeit und Solidarität, die es vor dem Hintergrund der Digitalisierung – und eben auch der Künstlichen Intelligenz – zu bekräftigen gilt.
Freiheit: Recht auf Transparenz und persönliche Entscheidungsfreiheit im Kernbereich.
Wie kann die Freiheit des Einzelnen sichergestellt werden, wenn KI-Systeme in alle Lebensbereiche vorgedrungen sind: vom autonom fahrendem Auto bis hin zu intelligenten Haushaltsgeräten, Implantaten oder Strafverfolgungsmechanismen? Es muss für Bürgerinnen und Bürger erkennbar sein, ob algorithmische Entscheidungen zum Einsatz kommen (Kennzeichnungspflicht) und welche Daten wie verwendet werden; insbesondere, wenn es sich dabei um personenbezogene Daten handelt (Transparenz-Pflicht).
Ferner muss jedem und jeder Einzelnen das Recht eingeräumt werden, wichtige Entscheidungen selbst zu treffen. Gerade wenn das Dasein eines Individuums betroffen ist, kann KI zwar als Entscheidungshilfe dienen, darf aber nicht als letzte Instanz für Entscheidungen vorgeschrieben werden (Kontrollmöglichkeit).
Gerechtigkeit: Es muss sichergestellt werden, dass Algorithmen alle Mitglieder der Gesellschaft gleich behandeln.
Am Beispiel der Gesichtserkennnungssoftware wird es deutlich: Wenn ein System nur mit Gesichtern mit heller Haut trainiert wird, wird es größere Probleme bei der Erkennung von Gesichtern mit dunkler Haut haben. Wir brauchen eine Kontrolle darüber, dass ein Algorithmus, auf den man sich verlassen können muss (bspw. weil er staatlich oder im Bereich obligatorischer Versicherungen eingesetzt wird), diskriminierungsfreie Trainingsdaten verwendet und dies nachprüfbar ist. Bei staatlichem Einsatz muss darüberhinaus sichergestellt werden, dass es zu keinen Benachteiligungen unterrepräsentierter Personenkreise kommt.
Solidarität: Fortschritt durch Open Data als Grundprinzip – Daten nutzbar machen.
Der Fortschritt der KI muss zu einem Fortschritt der Gesellschaft führen. Qualität und Quantität der Datenbestände werden der Schlüssel zur Weiterentwicklung der Technologie. (Anonymisierte) Rohdaten sollen daher so weit wie möglich öffentlich und für Wissenschaft und Forschung sowie für Unternehmen nutzbar gemacht werden. Hiervon können Anbieter von innovativen Diensten profitieren. Open Data sollte aber in beide Richtungen verstanden werden: Neben dem Staat sollen auch Unternehmen, die Daten erfassen und verarbeiten, die der öffentlichen Daseinsvorsorge dienen können, diese der Allgemeinheit zur Verfügung stellen.
D64 Thesen zur Künstlichen Intelligenz (Entwurf Februar 2018) als PDF
