Nachdem der Entwurf des AI Acts im Mai von den zuständigen Ausschüssen im EU-Parlament grünes Licht bekommen hat, geht das wegweisende Gesetzesvorhaben nun in die nächste Runde. Viel ist darüber diskutiert worden, was unter KI zu verstehen ist, welche Anwendungen vereinbar oder eben unvereinbar mit europäischen Werten sind – und in der Schlusskurve der Beratungen betrat generative KI als Massenanwendung in Gestalt von ChatGPT die Szene und warf noch einmal einiges über den Haufen.

In neu anberaumten Anhörungen – auch im Digitalausschuss des Deutschen Bundestags – wurde die Frage gestellt, ob die neuartigen großen Sprachmodelle die Herausforderungen für die Regulierung grundlegend verändern. Verunsicherung herrscht dabei weniger bei der Bewertung des Ist-Zustands der KI-Entwicklung als vielmehr mit Blick auf die Zukunft der Technik. Die Fortschritte der Modelle sind rasend schnell und als Regulierer will man natürlich weder die Dynamik ausbremsen noch unbeabsichtigte Folgen riskanter KI-Technologien in Kauf nehmen.

Die Regulierung von KI ist also ein Drahtseilakt mit vielen Unbekannten, bei dem es am Ende darum gehen muss, den Rahmen dessen zu definieren, was alles nicht passieren darf, um gleichzeitig genügend Spielraum für Experimente und Geschäftsmodelle zu lassen, die helfen, unseren Alltag und unser Arbeitsleben qualitativ zu verbessern. Das EU-Parlament hat dafür einen risikobasierten Ansatz gewählt, bei dem bestimmte Verpflichtungen und Beschränkungen je nach dem Grad des Risikos, das sich aus der Nutzung von KI ergibt, zur Geltung kommen. Vier Risikostufen wurden festgelegt: inakzeptabel, hoch, begrenzt und minimal.

Biometrische Erkennung ist beispielsweise inakzeptabel, KI-unterstützte Games beinhalten dagegen nur ein minimales Risiko. Besonders im Fokus stehen Hochrisikoanwendungen, weil damit hohe Auflagen (und Strafen) verbunden sind. Der Anwendungsbereich Bildung wurde als hochriskant klassifiziert: Das betrifft sowohl die allgemeine Bildung als auch die berufliche Bildung. Im Entwurf des AI Acts geht es zum einen um Zugänge zu Bildung, die durch KI-Systeme (teil-)autonom erteilt werden könnten und damit den Gleichbehandlungsgrundsatz verletzen könnten. Zum anderen geht es um automatisierte Bewertungen von Lernergebnissen.

Zugänge zu Bildungsmöglichkeiten sind offensichtlich vielfältig und nicht nur der Weiterbildungsmarkt ist von einer großen Unübersichtlichkeit geprägt. Insofern stellt sich die Frage, ob die entsprechende Einstufung im AI Act möglicherweise zu grobschlächtig ist und einer weiteren Differenzierung bedarf. Es ist sinnvoll, dass die Zulassung zu einer Bildungseinrichtung, z. B. einer Hochschule, nicht allein KI-basiert vonstatten gehen darf. Die Gefahr der Diskriminierung einzelner Bewerbungen wäre ungeprüft zu groß.

Andererseits gibt es auch KI-gestützte Bildungstechnologien mit geringerem Risiko, insbesondere solche, die Anwender:innen Empfehlungen und Feedback bereitstellen, aber nicht automatisch den Zugang regulieren oder bewerten. Solche Empfehlungs- und Feedbackwerkzeuge können dabei helfen, mit der hohen Dynamik und Individualisierung der jetzigen und zukünftigen Arbeitswelt besser zurecht zu kommen und diejenigen Lerninhalte zu identifizieren (oder sogar neu zu generieren), die genau auf die jeweilige Situation der Lernenden passen. Unglücklicherweise könnten auch solche Werkzeuge durch den AI Act als hochriskant eingestuft werden, wenn auch ein individualisiert empfohlener Bildungsverlauf als „Entscheidung über den Verlauf der Ausbildung und des Berufslebens einer Person“ verstanden wird.

Im weiteren Verlauf des Prozesses zur Umsetzung des AI Acts wäre es insofern wünschenswert, Nutzen und Gefahren im Bildungsbereich genauer zu erfassen. Letztlich sollten KI-Methoden dabei helfen, die menschliche Autonomie in der Bildung zu fördern, statt zu mindern. KI-Technologien sollten als Werkzeuge dienen, um Emanzipation durch Bildung zu erreichen – der aufklärerische Wert Europas.
 

Ergänzender Hinweis: Der KI-Campus setzt sich in seinen digitalen Lernformaten, Publikationen und Veranstaltungen mit KI im Bildungsbereich auseinander. Beispiele sind die Kursreihe „AI VET“ (KI in der beruflichen Bildung), das Diskussionspapier „Künstliche Intelligenz in der Bildung“, das Forschungskolleg KI-Kompetenzen und das „KI-ExpertLab Hochschullehre“. Zuletzt wurden Expert:innen in Interviews beim University:Future Festival (U:FF) zu ihrer Einschätzung der Bedeutung von KI im Bildungskontext befragt.