Künstliche Intelligenz in der Schule: Was ist wichtig?

Die Zukunft der Schule wird jetzt entschieden. Die AG Bildung von D64 hat bei den bildungspolitischen Sprecher:innen der demokratischen Parteien in allen 16 Landtagen nachgefragt, wie die Bundesländer die Handlungsempfehlungen der Kultusministerkonferenz (KMK) zu Künstlicher Intelligenz (KI) in schulischen Bildungsprozessen umsetzen. Das Ergebnis: Die Herausforderungen sind erkannt, die strukturellen Voraussetzungen fehlen aber fast überall. Ob KI ein demokratisierendes Werkzeug wird oder ein Verstärker sozialer Ungleichheit, das ist kein technologisches Schicksal, sondern eine politische Entscheidung.

Digitaler Fortschritt im Klassenzimmer entsteht nicht durch Lizenzverträge mit Big Tech, sondern durch die Befähigung von Menschen. Wir müssen Lehrkräften und Lernenden die Werkzeuge für einen souveränen und kritischen Umgang mit KI an die Hand geben.

Das fordern wir

• Partizipative Bildungsstrategie: Eine bundesweite Strategie mit verbindlicher Zeitschiene, die Planungssicherheit gibt und echte Mitsprache aller ermöglicht, nicht nur für Ministerien und Expertengremien, sondern auch für Lehrkräfte, Schüler:innen und Eltern.
• Digitale Souveränität statt Konzernabhängigkeit: Gezielter Anschluss an föderale Projekte wie Adaptives Intelligentes System (AIS), um Abhängigkeiten von US-Konzernen zu vermeiden und europäische Werte sowie Open-Source-Lösungen zu stärken.
• Unabhängige Fortbildungen: Bundesweit niederschwellig zugängliche Fortbildungen für Lehrkräfte, die nicht nur Technik, sondern auch Pädagogik und Ethik einbeziehen, und nicht von KI-Anbietern durchgeführt werden.
• Inklusion als Kernprinzip: Die konsequente Einbindung kultureller Bildung und demokratiefördernder Ansätze, damit KI gesellschaftliche Teilhabe und kritisches Denken stärkt, nicht nur rationalisiert.
• Entlastung der Schulen: Unterstützung bei Technik, Wartung und Organisation, damit Schulleitungen und Lehrpersonen sich wieder auf pädagogische und didaktische Themen fokussieren können.
• Kein LLM-Einsatz in der Prüfungsentwicklung: Die aktuellen Systeme garantieren weder Objektivität noch Konsistenz. Wir widersprechen den entsprechenden Schlüssen des aktuellen Gutachtens der Ständigen Wissenschaftliche Kommission (SWK).

Was die KMK fordert, und was die Länder daraus machen

Der Begriff der „KI“ umfasst in der Empfehlung der KMK nicht nur den Bereich der generativen Modelle, sondern auch adaptive Lernumgebungen. KI-Anwendungen sollen demnach Lehrkräfte unterstützen, eine personalisierte Lernumgebung zu schaffen, die auf die jeweiligen Bedürfnisse der Schüler:innen eingeht, und das ausdrücklich für alle Schulformen. Ebenfalls sollen den Lehrkräften durch entsprechende Fortbildungen die notwendigen Kenntnisse vermittelt werden, um Chancen und Risiken dieser Technologien ausreichend einschätzen zu können. Darüber hinaus werden Regulierung und rechtliche Rahmenbedingungen adressiert, und das Thema Chancengerechtigkeit für Lernende wird thematisiert.

D64 begrüßt diese Entwicklungen, denn KI spielt in der Lebenswelt der Lernenden und Lehrenden eine immer größere Rolle, wie eine repräsentative Umfrage des Digitalverbands Bitkom schon im Herbst 2024 zeigte. Bereits jede zweite Lehrkraft der Sekundarstufen I und II in Deutschland hatte Erfahrungen mit KI gesammelt. 80 Prozent wollten, dass alle Schüler:innen den Umgang mit KI erlernen. Dennoch fühlten sich viele unsicher: 72 Prozent forderten mehr Fortbildungen für einen sinnvollen didaktischen Einsatz.

Etwas anders sah es bei den Lernenden aus. Eine Studie der Vodafone-Stiftung aus dem Frühjahr 2024 zeigte, dass Lernende KI in hohem Maße als Chance für ihr Lernen und ihre beruflichen Möglichkeiten bewerteten. Über zwei Drittel (69 Prozent) hielten gute KI-Kompetenzen für ihre berufliche Zukunft für wichtig oder unverzichtbar. Allerdings erlebten zum Zeitpunkt der Studie nur 17 Prozent klare Regeln für den KI-Einsatz, während ein generelles Verbot noch selten war (7 Prozent).

Diese Gegenüberstellung zeigt deutlich voneinander abweichende Perspektiven von Lehrkräften und Schüler:innen. Beide Gruppen erkennen die Bedeutung von KI an, formulieren aber unterschiedliche Schwerpunkte und Bedürfnisse. Diese Diskrepanzen müssen in einer KI-Bildungsstrategie aufgegriffen werden.

Wir haben bei den bildungspolitischen Sprecher:innen der demokratischen Parteien in allen 16 Landtagen nachgefragt, wie die Bundesländer die Handlungsempfehlungen der Kultusministerkonferenz (KMK) zu Künstlicher Intelligenz (KI) in schulischen Bildungsprozessen umsetzen. Die Hälfte der Sprecher:innen hat geantwortet, teilweise wurde unser Fragenkatalog für parlamentarische Anfragen genutzt. Auf uns wirken die Antworten der bildungspolitischen Sprecher:innen zielführend und durchdacht. Die Herausforderungen scheinen erkannt worden zu sein. Allerdings dominiert meist eine grundlegende Ausrichtung; konkrete Maßnahmen beschränken sich etwa auf die Einführung von „Telli“ oder die Planung von Fortbildungsangeboten.

Warum herstellergebundene LLMs im Bildungsbereich problematisch sind

In modernen Lernkonzepten steht der Lernende als aktives Mitglied der Gesellschaft im Mittelpunkt. Wissensvermittlung muss demokratische Prinzipien vermitteln und jedem Lernenden individuelle Lernwege aufzeigen. Kann künstliche Intelligenz eine Entwicklung in diese Richtung unterstützen? Auf den ersten Blick ja, auf den zweiten gibt es erhebliche Einschränkungen.

Hinter den meisten Produkten für künstliche Intelligenz im Bildungsbereich stecken große herstellerabhängige Sprachmodelle (LLMs). Diese liefern auf Basis von Trainingsdaten die statistisch wahrscheinlichste Antwort auf einen Prompt. Das bedeutet: Die Ergebnisse müssen nicht korrekt sein und können Vorurteile und Diskriminierung reproduzieren. Wie die KI zu Ergebnissen kommt, ist in den meisten Fällen eine „Blackbox“.

Der Leitfaden Schule und Künstliche Intelligenz stellt zum Beispiel fest: „Eine geeignete Datenqualität für das Training selbstlernender Systeme und die Vermeidung systematischer Verzerrungen (Bias) muss sichergestellt werden“. Ergebnisse sind zudem abhängig von der Art der Fragestellung.

Da die Ergebnisse von LLMs durch die Systemlogik nicht wiederholbar sind und bei jeder Anfrage geringfügig anders ausfallen, besteht die Gefahr, dass Faktenwissen und Quellenkompetenz an Wert verlieren. Akteur:innen der Wissensvermittlung sollten verpflichtet sein, bestehende Ungleichheiten transparent aufzuzeigen, um den demokratischen Grundprinzipien des Bildungskanons gerecht zu werden. Mit herstellergebundenen, nicht transparenten generativen Systemen ist dieses Ziel schwer erreichbar.

Nicht ohne Grund sind viele im Bildungsbereich eingesetzte KI-Systeme durch den EU AI-Act als Hochrisiko-Anwendungen eingestuft, insbesondere dann, wenn sie Entscheidungen über den Zugang zu Bildung, die Bewertung von Leistungen oder individuelle Lernwege beeinflussen. LLMs fallen zwar nicht darunter, aber auch sie haben einen direkten Einfluss auf Sprache und Handlung und erfordern im Bildungskontext besondere Aufmerksamkeit.

LLMs in der Prüfungserstellung: Warum wir dem SWK-Gutachten widersprechen

In dem im März erschienenen Gutachten der Ständigen Wissenschaftlichen Kommission der Kultusministerkonferenz „Datengestützte Entwicklung und Steuerung in Schulen und frühkindlicher Bildung“ wird in Abschnitt 5.1.13 ausgeführt: „LLM ermöglichen es zunehmend besser, Items mit den angestrebten psychometrischen Eigenschaften zu generieren.“

Hier ist es wichtig zu verstehen, was „psychometrische Eigenschaften“ im Kontext der Prüfungserstellung bedeuten: Unabhängigkeit, Zuverlässigkeit und Validität müssen nachweisbar gesichert sein. Schon bei der Unabhängigkeit treten bei LLMs Widersprüche auf, denn LLMs sind nicht objektiv, sondern abhängig von den Trainingsdaten. Im Bereich der Zuverlässigkeit ist die interne Konsistenz kritisch. Konsistenz bedeutet, dass Ergebnisse bei allen Bewertungen und Erstellungen stabil sind. Genau das stellt die größte Herausforderung dar: „The current study’s adoption of repeated sampling reveals profound variability at higher correctness thresholds.“

Daher kann momentan nicht garantiert werden, dass Bewertungskriterien bei größeren Datensätzen stabil angewendet werden. Auch bei der Aufgabenerstellung ist nicht garantiert, dass der Erwartungshorizont stabil eingehalten wird. Wir widersprechen den Schlüssen des Gutachtens und weisen darauf hin, dass die aktuellen LLM-Benchmarks noch keine Validität garantieren können, die dem Einsatz zur Prüfungserstellung gerecht werden würde.

Chancengleichheit und Inklusion dürfen kein Lippenbekenntnis bleiben

In der Praxis muss klar sein, dass die Anwendung von KI im Bildungskontext kein Selbstzweck ist. Der Einsatz muss darauf ausgerichtet sein, kritische KI-Kompetenzen zu vermitteln. Die Lernenden sollen Kompetenzen im Bereich gesellschaftlicher Teilhabe, in Bezug auf das demokratische Miteinander und für ihren Einstieg in die Berufswelt erwerben.

Zudem sollte beachtet werden, dass Lernende mit ressourcenstärkerem Hintergrund oft schon im außerschulischen Kontext mehr Kontakt zu generativen Systemen haben als Lernende mit ressourcenschwächerem Hintergrund. Weil die Nutzung von KI durch Lernende derzeit vor allem noch über private Ressourcen erfolgt, droht die Schere immer weiter auseinanderzuklaffen. Dieser Aspekt muss in der Konzeption aller Bildungsangebote stärker beachtet werden.

Potenziell könnte künstliche Intelligenz dabei unterstützen, Barrieren zu beseitigen und Bildung inklusiver zu machen. In der Praxis jedoch zeigt sich, dass Inklusion häufig auf der Strecke bleibt und verbindliche Standards fehlen. Assistive Technologien wie Live-Transkription, automatische Bildbeschreibung, Übersetzungen in verschiedene Sprachen oder adaptive Lernsoftware sind vorhanden, werden aber kaum genutzt und nicht verpflichtend verankert. Stattdessen bleibt Inklusion ein Randthema, während die Politik von „Technikoffenheit“ spricht. Offenheit ohne Standards aber bedeutet: Einige profitieren, viele nicht.

Der sinnvolle Einsatz von KI braucht entsprechende Ressourcen

Um KI-Systeme sinnvoll in Bildungseinrichtungen nutzen zu können, braucht es kompetente Lehrende. Bisher finden Fortbildungen jedoch oft nur digital statt und werden häufig von KI-Anbietern durchgeführt. Dies erschwert eine kritische Auseinandersetzung und trägt den Zeitbudgets ohnehin schon überlasteter Lehrkräfte nur wenig Rechnung, da Fortbildungen meist am Nachmittag oder Abend und asynchron stattfinden.

Hinzu kommt die mangelhafte technische Ausstattung der Schulen. Tablets und WLAN reichen nicht. Ohne dauerhafte IT-Betreuung, flächendeckende Ausstattung, medienpädagogische Konzepte und echte personelle, langfristig angelegte Ressourcen wird auch die Vermittlung von KI-Kompetenzen scheitern.

Auch die organisatorischen Maßnahmen dürfen Schulleitungen und Kollegien nicht weiter belasten. Wenn Schulen selbst Anwendungen prüfen und beschaffen, Datenschutzfolgeabschätzungen erstellen und AV-Verträge abschließen müssen, überlastet dies die Schulleitungen und lenkt die Aufmerksamkeit weg von pädagogischen und didaktischen Fragestellungen. Schulen sollten von den Bundesländern geprüfte Anwendungen zur Verfügung gestellt bekommen, die keinen nennenswerten administrativen Aufwand vor Ort erfordern.

Gerade im Bildungsbereich benötigt der Einsatz von KI klare Leitlinien und Nachvollziehbarkeit, kontinuierliche Aufsicht, Evaluation (z.B. Diversitäts-Audits) und partizipative Gestaltung. Potenziell von Diskriminierung betroffene Gruppen sollten aktiv in die Entwicklung, Implementierung und Evaluierung von KI einbezogen werden. Um Ressourcen zu sparen, sollten die Bundesländer dabei länderübergreifend oder gemeinsam mit anderen europäischen Ländern tätig werden.

Was jetzt geschehen muss

Nationale Initiativen wie das AIS-Projekt (Adaptives Intelligentes System) der Bundesländer in Verantwortung des FWU-Medieninstituts der Länder, das eine gemeinsame Bildungsplattform aufbauen will, müssen stärker berücksichtigt und gefördert werden. Denn nur in einer maßgeschneiderten, adaptiven Lernumgebung können auch LLMs verantwortungsvoll entwickelt und eingesetzt werden. Für eine demokratische und digitale Zukunft dürfen wir den Bildungsbereich nicht den Konzernen überlassen. Wir müssen die Entwicklung von Open Educational Resources (OER) verstärkt ermöglichen, die dann in Verbundprojekten geteilt werden können.

Denn obwohl immer wieder betont wird, dass das Ziel die Stärkung digitaler Souveränität ist, setzen die Länder massiv auf Kooperationen mit US-Konzernen. Das bedeutet: Kommerzielle Interessen bestimmen, welche Kompetenzen vermittelt werden, und nicht europäische Werte oder Open-Source-Lösungen. Wie schnell US-Techkonzerne sich und ihre Produkte an politische Strömungen anpassen, haben wir gerade erst gesehen.

Strategien werden in Ministerien und Expert:innen-Gremien gestrickt, ohne Beteiligung von Lehrkräften, Schüler:innen und Eltern und abseits öffentlicher Kontrolle. Zu den Grundaufgaben von Schule gehören Demokratiebildung und ‑stärkung. Das beinhaltet zwingend auch die tatsächliche Beteiligung derjenigen, die von (politischen) Entscheidungen betroffen sind. Für eine Technologie, die das Fundament der Bildung neu definieren wird, muss das selbstverständlich sein.

Fazit

Die Zukunft der Schule wird jetzt entschieden. Ob KI ein demokratisierendes Werkzeug wird oder ein Verstärker sozialer Ungleichheit, das ist kein technologisches Schicksal, sondern eine politische Entscheidung. Die Länder betonen ihre Fortschritte. Ohne die strukturellen Leitplanken, die wir oben fordern, bleibt KI aber ein Privileg für wenige.