KI in der Schule und die KI-Verordnung: Welche Bildungssoftware ist hochriskant (Anhang III, Nummer 3)

Schulen nutzen KI heute jeden Tag. Ein Teil dieser Software fällt unter die EU-KI-Verordnung. Vier schulische Anwendungen sind per Gesetz hochriskant: über Zulassungen entscheiden, Lernergebnisse bewerten, das Bildungsniveau zuweisen und Prüfungen überwachen. Eine Anwendung ist ganz verboten: die Emotionen von Schülern abzuleiten.

Dieser Leitfaden erklärt jeden Fall in einfacher Sprache. Er zeigt, was heute schon gilt, was am 2. Dezember 2027 beginnt und was Schulen und Anbieter jetzt tun sollten.

Die vier Hochrisiko-Anwendungen in der Schule (Anhang III, Nummer 3)

Anhang III der KI-Verordnung führt allgemeine und berufliche Bildung als Hochrisiko-Bereich auf. Er nennt vier Anwendungen. Ein System, das für eine davon bestimmt ist, gilt standardmäßig als hochriskant:

• Zugang und Zulassung (Nummer 3 Buchstabe a) — Systeme, die über Zugang oder Zulassung entscheiden oder Personen Bildungs- und Berufsbildungseinrichtungen zuweisen.
• Bewertung von Lernergebnissen (Nummer 3 Buchstabe b) — Systeme, die bewerten, was jemand gelernt hat, auch wenn diese Ergebnisse den Lernprozess steuern.
• Zuweisung des Bildungsniveaus (Nummer 3 Buchstabe c) — Systeme, die bewerten, welches Bildungsniveau eine Person erhalten oder erreichen kann.
• Prüfungsüberwachung (Nummer 3 Buchstabe d) — Systeme, die verbotenes Verhalten von Schülern während Prüfungen überwachen und aufdecken.

Die Liste gilt für Einrichtungen aller Stufen: Schulen, Hochschulen und Berufsbildung.

Die harte Grenze: Emotionen von Schülern abzuleiten ist verboten

Artikel 5 Absatz 1 Buchstabe f verbietet KI, die die Emotionen von Personen in Bildungseinrichtungen ableitet. Das ist kein Hochrisiko-Fall, sondern eine verbotene Praktik. Das Verbot gilt seit dem 2. Februar 2025; Geldbußen können 35 Millionen Euro oder 7 % des weltweiten Umsatzes erreichen.

Es gibt eine einzige, enge Ausnahme: Systeme, die aus medizinischen oder Sicherheitsgründen eingeführt werden. Allgemeines Aufmerksamkeits-Scoring oder Stress-Tracking von Schülern fällt nicht darunter.

Proctoring: hochriskant oder verboten? Es kommt darauf an, was es liest

Ein Proctoring-Tool, das verbotenes Verhalten meldet — eine zweite Person im Raum, ein Telefon, einen Tab-Wechsel — ist nach Nummer 3 Buchstabe d hochriskant. Es ist erlaubt, mit Pflichten.

Ein Proctoring-Tool, das den emotionalen Zustand ableitet — Stress, Nervosität, eine "verdächtige Stimmung" — fällt unter das Verbot des Artikels 5 Absatz 1 Buchstabe f. Diese Funktion darf im Bildungsbereich nicht eingesetzt werden, Punkt.

Wann Schulsoftware NICHT hochriskant ist (Artikel 6 Absatz 3)

Nicht jedes Tool in diesen Bereichen ist hochriskant. Artikel 6 Absatz 3 nimmt Systeme aus, die kein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte darstellen — aber nur, wenn mindestens eine von vier Bedingungen erfüllt ist: Das System übernimmt eine eng gefasste Verfahrensaufgabe; es verbessert das Ergebnis einer abgeschlossenen menschlichen Tätigkeit; es erkennt Entscheidungsmuster, ohne die menschliche Bewertung zu ersetzen; oder es übernimmt eine vorbereitende Aufgabe.

Beispiel: Ein Stundenplan-Tool übernimmt eine eng gefasste Verfahrensaufgabe und bleibt in der Regel außen vor. Eine automatische Benotung, die eine Endnote erzeugt, bewertet Lernergebnisse und fällt hinein.

Zwei Grenzen zählen. Ein System, das ein Profiling natürlicher Personen vornimmt, ist immer hochriskant. Und der Filter ist kein Freibrief: Der Anbieter muss die Bewertung dokumentieren und das System in der EU-Datenbank registrieren (Artikel 6 Absatz 4, Artikel 49 Absatz 2).

Die echten Fristen nach dem Digital Omnibus

Die Verordnung (EU) 2026/1744 (der Digital Omnibus, in Kraft seit dem 27. Juli 2026) hat die Hochrisiko-Fristen verschoben. Die Daten, die für die Bildung zählen:

• 2. Februar 2025 — das Verbot der Emotionserkennung und die KI-Kompetenz-Pflicht. Bereits in Kraft.
• 2. August 2026 — die Transparenz nach Artikel 50. Ein Chatbot für Schüler muss sagen, dass er eine Maschine ist. Bereits in Kraft.
• 2. Dezember 2027 — die vollen Hochrisiko-Pflichten für Anhang-III-Systeme, die vier schulischen Anwendungen eingeschlossen.
• 2. August 2028 — Hochrisiko-Systeme, die in Produkte nach Anhang I eingebettet sind.

Ein kursierender Fehler, richtiggestellt: Mehrere Artikel nennen als neues Datum den "2. August 2027". Das ist falsch. Das beschlossene Datum für Anhang-III-Systeme ist der 2. Dezember 2027.

Was Schulen jetzt tun sollten (als Betreiber)

Eine Schule, die KI nutzt, die sie nicht gebaut hat, ist Betreiber. Fünf Schritte decken den Großteil der Pflicht ab:

1. Listen Sie jedes KI-Tool im Einsatz auf — auch Funktionen in größeren Plattformen. Ein "Wohlbefinden"-Modul kann eine Emotionserkennungs-Funktion verbergen.
2. Schalten Sie alles ab, was Emotionen ableitet. Dieses Verbot gilt heute schon.
3. Stellen Sie jedem Anbieter zwei Fragen: Ist dieses System nach Anhang III Nummer 3 hochriskant? Und wo ist seine technische Dokumentation?
4. Planen Sie eine Grundrechte-Folgenabschätzung (FRIA, Artikel 27). Sie gilt für öffentliche Stellen und private Einrichtungen, die öffentliche Dienste erbringen — das umfasst die meisten Schulen.
5. Legen Sie Hausregeln für den KI-Einsatz fest und schulen Sie das Personal. Die KI-Kompetenz-Pflicht (Artikel 4) gilt bereits.

Was Edtech-Anbieter jetzt tun sollten

Ein Unternehmen, das Schul-KI baut oder verkauft, ist Anbieter. Die Uhr Richtung 2. Dezember 2027 läuft:

1. Klassifizieren Sie jedes Produkt gegen die vier Anwendungen der Nummer 3 — und dokumentieren Sie jede "nicht hochriskant"-Entscheidung nach Artikel 6 Absatz 4.
2. Beginnen Sie jetzt mit der technischen Dokumentation nach Anhang IV. Sie braucht Monate, nicht Tage.
3. Entfernen oder deaktivieren Sie jede Emotionserkennungs-Funktion für Bildungskunden in der EU.
4. Bereiten Sie die Registrierung in der EU-Datenbank (Artikel 49) und eine Konformitätsbewertung vor Fristablauf vor.

Häufige Fragen

Welche Schulsoftware ist nach der KI-Verordnung hochriskant?

Vier Arten: Systeme, die über Zugang oder Zulassung entscheiden, Systeme, die Lernergebnisse bewerten, Systeme, die das Bildungsniveau zuweisen, und Prüfungsüberwachungs-Systeme, die verbotenes Verhalten aufdecken. Anhang III Nummer 3 listet sie auf, für Einrichtungen aller Stufen.

Ist Emotionserkennung in der Schule hochriskant?

Nein — sie ist verboten. Artikel 5 Absatz 1 Buchstabe f untersagt KI, die Emotionen in Bildungseinrichtungen ableitet, mit einer engen Ausnahme aus medizinischen oder Sicherheitsgründen. Das Verbot gilt seit dem 2. Februar 2025. Außerhalb von Arbeit und Bildung ist Emotionserkennung stattdessen hochriskant.

Wann gelten die Hochrisiko-Regeln für Schul-KI?

Ab dem 2. Dezember 2027, nachdem der Digital Omnibus (Verordnung (EU) 2026/1744) das Datum verschoben hat. Das Emotions-Verbot (seit Februar 2025) und die Chatbot-Transparenzpflicht nach Artikel 50 (seit August 2026) gelten bereits.

Ist automatische Benotung immer hochriskant?

Benotung, die Lernergebnisse bewertet, fällt unter Nummer 3 Buchstabe b und ist damit standardmäßig hochriskant. Der Filter des Artikels 6 Absatz 3 kann eng gefasste Hilfstools abdecken, die eine Lehrkraft vollständig prüft — nie aber ein System, das Schüler profiliert. Und der Anbieter muss die Entscheidung dokumentieren und registrieren.

Womit sollte eine Schule anfangen?

Erstellen Sie ein Inventar jeder KI-Funktion im Einsatz, schalten Sie Emotionserkennung ab und fragen Sie jeden Anbieter nach seiner Anhang-III-Einstufung und seiner Dokumentation. Planen Sie dann die FRIA und die Schulung des Personals.

Verwandte Ressourcen

• Die Risikoeinstufung nach Anhang III, Kategorie für Kategorie
• Die Transparenzpflichten nach Artikel 50 erklärt
• Kostenlose KI-Verordnungs-Selbsteinschätzung — mit teilbarem Bereitschaftsbericht

Dieser Leitfaden ist Information, keine Rechtsberatung. Für Entscheidungen über ein konkretes System bestätigen Sie die Analyse mit juristischem Rat.