Blog

EU AI Act: Wie wird Deutschland KI-kompetent?

Dr. Till Klein, Florian Rampelt, Mike Bernd — Tue, 19 Nov 2024 09:00:00 +0000

Ziel des AI Acts ist die Einführung von menschenzentrierter und vertrauenswürdiger Künstlicher Intelligenz. KI-Systeme sollen sicher, transparent und ethisch eingesetzt werden. Der AI Act unterscheidet dabei zwischen verschiedenen Risikostufen von KI-Systemen und legt für jede Stufe spezifische Anforderungen fest. Des Weiteren befasst er sich mit Aspekten der Transparenzpflicht sowie auch mit KI-Kompetenzen und Schulungen, die einen kompetenten Umgang mit KI-Systemen sicherstellen sollen.

Grundsätzlich verfolgt der AI Act einen Risiko-basierten Ansatz, das heißt „je höher das Risiko eines KI-Systems, desto umfassender die Anforderungen”. Der wesentliche Faktor ist dabei die so genannte Risikoklasse eines jeden KI-Systems, mit den vier Abstufungen (inakzeptables Risiko, hohes Risiko, mittleres Risiko, geringes Risiko).

Je nach Risikoklasse hat der AI Act Auswirkungen auf die Entwicklung und den Betrieb von KI-Systemen. Egal ob Unternehmen oder Bildungseinrichtung, wer KI-Systeme anbietet oder betreibt muss die Regelungen künftig berücksichtigen.¹

Übergreifend enthält der AI Act in Artikel 4 darüber hinaus auch eine allgemeine Anforderung an alle Anbieter und Betreiber von KI-Systemen zum Aufbau von KI-Kompetenz oder „AI Literacy“.

Dieser Beitrag adressiert folgende Fragen zu KI-Kompetenzen im AI Act:

Warum ist KI-Kompetenz im AI Act wichtig?
Was bedeutet KI-Kompetenz (engl. AI Literacy)?
Wer soll „kompetent” sein?
Was machen wir jetzt?

AI Act / KI-Verordnung, Artikel 4
KI-Kompetenz
Die Anbieter und Betreiber von KI-Systemen ergreifen Maßnahmen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen, wobei ihre technischen Kenntnisse, ihre Erfahrung, ihre Ausbildung und Schulung und der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, zu berücksichtigen sind.

Warum ist KI-Kompetenz im AI Act wichtig?

Im Sinne des AI Acts soll in der EU ein menschenzentriertes KI-Ökosystem basierend auf Vertrauen und Exzellenz entstehen, in dem die unterschiedlichen Akteure entlang des Lebenszyklus von KI-Systemen zusammenarbeiten und Informationen austauschen.

Dazu zählen zum Beispiel, Anbieter und Nutzer von KI-Systemen, aber auch Personen, die durch den Einsatz von KI betroffen sind. Die verschiedenen Rollen haben durch die Regelungen des AI Acts spezifische Pflichten und Rechte, wodurch bestimmte Maßnahmen, Entscheidungen oder Informationsbedarfe entstehen, die insbesondere dann effektiv erfüllt werden können, wenn die jeweiligen Personen entsprechend kompetent sind.

In der einführenden Begründung des AI Acts (Erwägungsgrund 20) ist KI-Kompetenz aus drei zentralen Gründen wichtig:

Fundierte Entscheidungen über KI-Systeme treffen:

„Um den größtmöglichen Nutzen aus KI-Systemen zu ziehen und gleichzeitig die Grundrechte, Gesundheit und Sicherheit zu wahren und eine demokratische Kontrolle zu ermöglichen, sollte die KI-Kompetenz Anbieter, Betreiber und betroffene Personen mit den notwendigen Konzepten ausstatten, um fundierte Entscheidungen über KI-Systeme zu treffen.”

Einhaltung der Verordnung sicherstellen:

„Im Zusammenhang mit der Anwendung dieser Verordnung sollte die KI-Kompetenz allen einschlägigen Akteuren der KI-Wertschöpfungskette die Kenntnisse vermitteln, die erforderlich sind, um die angemessene Einhaltung und die ordnungsgemäße Durchsetzung der Verordnung sicherzustellen.”

Arbeitsbedingungen verbessern & Innovation unterstützen:

„Darüber hinaus könnten die umfassende Umsetzung von KI-Kompetenzmaßnahmen und die Einführung geeigneter Folgemaßnahmen dazu beitragen, die Arbeitsbedingungen zu verbessern und letztlich die Konsolidierung und den Innovationspfad vertrauenswürdiger KI in der Union unterstützen.”

Was bedeutet KI-Kompetenz (engl. AI Literacy)?

Im AI Act ist der Begriff “KI-Kompetenz” wie folgendermaßen definiert:

AI Act / KI-Verordnung, Artikel 3 (56)
KI-Kompetenz
Die Fähigkeiten, die Kenntnisse und das Verständnis, die es Anbietern, Betreibern und Betroffenen unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung ermöglichen, KI-Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden.

Liest man diese Definition im Kontext der Intention von Artikel 4, lassen sich daraus generische Lernziele ableiten. Eine “kompetente Person” ist in der Lage,

1. sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden.

2. KI-Systeme sachkundig einzusetzen.

3. fundierte Entscheidungen über KI-Systeme zu treffen.

Allgemein zusammengefasst lässt sich dies in Anlehnung an Laupichler et al. (2023) in drei Dimensionen einordnen:

1. Grundverständnis von KI
Ein Verständnis der grundlegenden Funktionsweisen von KI. Dieses Grundwissen zu KI ist notwendige Grundlage für den sachkundigen Einsatz und eine kritische Einordnung von KI-Systemen, um eine fundierte Entscheidung für und gegen ihre Anwendung und auch für ihre souveräne, praktische Anwendung zu treffen.

2. Kritische Einordnung von KI
Die kritische Einordnung von KI-Systemen und ihren Outputs inklusive Chancen, Risiken und möglicher Schäden. Im Kontext der Zielsetzungen der EU könnte dies auch eine Berücksichtigung ethischer Fragestellungen beinhalten – auch wenn dies in Artikel 4 nicht explizit erwähnt wird.

3. Praktische Anwendung von KI
Konkrete, praktische Anwendungskompetenzen im Einsatz von KI-Systemen. Diese sind abhängig vom jeweiligen Kontext und unterscheiden sich entsprechend auch je nach Anwendungsfall. Sachkundigkeit betrifft dabei sowohl das notwendige Grundverständnis der KI-Systeme als auch ihres jeweiligen anwendungsspezifischen Kontextes.

Wer soll „kompetent” sein?

Die Anforderungen zu KI-Kompetenz richten sich an verschiedene, zum Teil überlappende Gruppen:

Im Kern (Art. 4):

1. Anbieter und Betreiber von KI-Systemen, und insbesondere „ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind”

Zusätzlich (Erwägungsgrund 20):

2. Betroffene Personen (...) um zu verstehen, wie sich mithilfe von KI getroffene Entscheidungen auf sie auswirken werden
3. Alle einschlägigen Akteure der KI-Wertschöpfungskette

Wichtig ist dabei: Die Anforderung zu KI-Kompetenz gilt für alle KI-Systeme, unabhängig von der Risikogruppe.

Im Folgenden werden die drei Zielgruppen genauer betrachtet.

1. Anbieter und Betreiber und deren Personal

Wer ist ein Anbieter oder Betreiber?

Anbieter sind Organisationen oder Personen, die KI-Systeme entwickeln oder entwickeln lassen, dabei den Verwendungszweck des KI-Systems festlegen oder KI-Systeme unter ihrem Namen in Verkehr bringen, ob gegen Bezahlung oder ohne.

AI Act / KI-Verordnung, Artikel 3 (3)
Anbieter
„Anbieter“ [ist] eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System oder ein KI-Modell mit allgemeinem Verwendungszweck entwickelt oder entwickeln lässt und es unter ihrem eigenen Namen oder ihrer Handelsmarke in Verkehr bringt oder das KI-System unter ihrem eigenen Namen oder ihrer Handelsmarke in Betrieb nimmt, sei es entgeltlich oder unentgeltlich;

Betreiber sind Organisationen oder Personen, die KI-Systeme in eigener Verantwortung nutzen, außer wenn es sich um eine persönliche, nicht berufliche Tätigkeit handelt.

AI Act / KI-Verordnung, Artikel 3 (4)
Betreiber
„Betreiber“ [ist] eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System in eigener Verantwortung verwendet, es sei denn, das KI-System wird im Rahmen einer persönlichen und nicht beruflichen Tätigkeit verwendet;

Wer zählt zum Personal und Personen, die mit KI befasst sind?

Kompetenz entsteht auf der Ebene von Personen, die im Zusammenhang mit KI-Tätigkeiten ausüben oder Entscheidungen treffen. Daher bezieht sich Artikel 4 auf KI-Kompetenzen des „Personal(s) und andere(r) Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind”. Dies kann Unternehmen umfassen genauso wie Behörden oder – auch öffentliche - Bildungseinrichtungen.

Beispiele:

Personal von Anbietern (Software-Entwickler:innen und Data Scientists; weitere technische Rollen des ML-Lebenszyklus; Projektmanager:innen, Product Owner, Geschäftsführung)
Personal von Betreibern (Personen die für die Einführung von KI verantwortlich sind, z. B. Führungskräfte; Personen, die KI operativ für einen konkreten Use Case nutzen, z. B. Mitarbeitende in der Verwaltung, in der industriellen Anwendung oder Lehrende an Hochschulen oder Schulen)
Personen, die mit dem KI-System befasst sind (z. B. IT-Abteilungen, die das KI-System hosten und warten; IT-Administrator:innen, die das KI-System mit anderen Systemen verbinden; Beschäftigte, die das KI-System beschaffen; Beschäftigte im Qualitätsmanagement, die interne Richtlinien zu KI erstellen und überwachen; Rechtsabteilung, die die Konformität zum AI Act und zu anderen Regularien verantwortet)

2. Betroffene Personen

Wer könnte eine betroffene Person sein?

Der AI Act fordert auch KI-Kompetenzen für sogenannte betroffene Personen, jedoch nicht über den Artikel 4 an sich, sondern im einleitenden Erwägungsgrund 20. Demnach sollen betroffene Personen die notwendigen Kompetenzen haben, um zu verstehen, wie sich mithilfe von KI getroffene Entscheidungen auf sie auswirken werden.

Der Begriff „betroffene Person” (engl. affected person) ist im AI Act nicht definiert. Nach dem Verständnis der Autoren handelt es sich im Sinne des AI Act dabei um natürliche Personen in der EU, die das KI-System nicht rein privat nutzen und durch die Nutzung von KI-Systemen betroffen sind. Das ist insbesondere der Fall, wenn die Ergebnisse von einem KI-System Entscheidungen oder Maßnahmen unterstützen oder gar autonom durchführen, die Menschen betreffen.

Mögliche Beispiele:

Patient:innen: Bei der Nutzung von KI im Rahmen des Gesundheitssystems, z. B. im Krankenhaus oder bei Ärzt:innen zur Diagnose, sind Patient:innen ggf. betroffene Personen.
Student:innen: Bei der Nutzung eines KI-Tools, das durch die Hochschule für das Studium zur Verfügung gestellt wird oder einer Lernumgebung, die z. B. KI-basiert Lernempfehlungen gibt, sind sie ggf. betroffene Personen.
Schüler:innen: Bei der Nutzung von KI-Tools im Schulunterricht sind sie ggf. betroffene Personen.
Kund:innen: Bei der Nutzung von KI im kommerziellen Sektor, z. B. im (Online-) Handel oder bei Dienstleistungen etwa im Finanzsektor, sind Kund:innen ggf. betroffene Personen.
Bürger:innen: Bei der Nutzung von KI im öffentlichen Sektor, z. B. auf Ämtern oder in Kommunen, sind Bürgerinnen ggf. betroffene Personen.
Mitarbeiter:innen: Bei der Nutzung von KI in Unternehmen, z. B. in der Produktion, Administration oder Logistik, sind Mitarbeitende ggf. betroffene Personen.

3. Akteure der KI-Wertschöpfungskette

Der Begriff der KI-Wertschöpfungskette ist im AI Act nicht definiert. Behelfsweise dient das “verwandte” Konzept des KI-Lebenszyklus, das zwar auch nicht im AI Act definiert ist, aber zu dem es ein zunehmend etabliertes Verständnis in der Praxis gibt (siehe dazu z. B. die Konzepte von appliedAI oder von der International Organization for Standardization).

appliedAI Institute for Europe gGmbh

Dieser iterative und komplexe Prozess (hier vereinfacht dargestellt) wird zunehmend von unterschiedlichen Akteuren umgesetzt, die sich auf bestimmte Aspekte spezialisieren. Dadurch wird ein einzelnes KI-System nicht mehr von einen oder wenigen Akteuren entwickelt und betrieben, sondern von einem “Collaboration Network”, das Informationen austauschen muss, damit jeder seinen Anforderungen aus dem AI Act nachkommen kann.

appliedAI Institute for Europe gGmbh

Zum Beispiel: Wenn ein Datenhändler die Trainingsdaten zur Verfügung stellt, übernimmt er ggfs. wichtige Aktivitäten, die für die Konformität mit Artikel 10 zu Data Governance relevant sind. In diesem Fall müsste der Datenhändler entsprechende Kompetenzen aufbauen.

Rollen in der KI-Wertschöpfungskette (Beispiele):

Phase im KI-Lebenszyklus	Akteure in der KI-Wertschöpfungskette
Scoping	SW-Dienstleister, IT-Integrator
Data Engineering	Datenhändler, Annotation-Dienstleister
Modeling	Model-Anbieter, inkl. Basismodelle
Deployment	Cloud-Anbieter, Betreiber von Rechenzentrum, Speicher-Betreiber, Netzwerk-Betreiber

Was machen wir jetzt?

Timeline

Die Anforderungen zu KI-Kompetenz gelten laut Artikel 113 ab dem 2. Februar 2025.

Ab diesem Datum müssen KI-Anbieter und -Betreiber “nach besten Kräften” sicherstellen, dass die oben genannten Zielgruppen mit Blick auf die jeweiligen KI-Systeme “kompetent” sind. Die Missachtung dieser Anforderung ist insbesondere im Schadensfall problematisch, also wenn durch den Einsatz eines KI-Systems durch nicht-kompetente Personen ein Schaden entsteht.

Es gilt daher zu klären, wie ein ausreichendes Maß an KI-Kompetenz gestärkt und schrittweise bzw. anwendungsspezifisch vertieft werden kann.

Vorgehensweise

1. Grundverständnis von KI bei allen Mitarbeitenden stärken:

Es gibt sehr niedrigschwellige, teils auch kostenlose Möglichkeiten, Mitarbeitenden allgemeine Grundlagen von KI zu vermitteln. Dies kann über Materialsammlungen für unterschiedliche Bedarfe (Informationsmaterialien, Videos, Podcasts, Kurse) erfolgen und erfüllt ggf. erste Mindestanforderungen an KI-kompetente Mitarbeitende.

Auf dieser Grundlage sollte dann, besonders beim Einsatz von KI-Systemen in höheren Risikokategorien, schrittweise mit Partnern ein zielgruppenspezifisches Angebot aufgebaut werden.

2. Zielgruppenspezifisch KI-Kompetenzen stärken:

Maßnahme	Beschreibung
Bedarf an KI-Kompetenz ermitteln	Der konkrete Bildungsbedarf ist abhängig von dem Zweck und dem Kontext des KI-Systems, inkl. Risikoklasse, z. B. bei Hochrisiko-KI-Systemen ist der mögliche Schaden größer dem Vorwissen und den Fähigkeiten der jeweiligen Personen, z. B. manche Personen verfügen über Vorwissen im Bereich KI-Technologie und/oder in der Domain der jeweiligen Anwendung Der Bedarf sollte sich also einerseits aus den konkreten Use Cases in der Organisation ergeben und andererseits aus übergreifenden Abfragen des Kompetenzstandes.
Bildungsmaßnahmen definieren und Inhalte bereitstellen	Mögliche Bildungsmaßnahmen ableiten, z. B. asynchrone Online-Kurse, synchrone / angeleitete Präsenz- oder Online-Trainings, Demonstrationen, Praxisworkshops, … Hierbei kann die Zusammenarbeit mit erfahrenen Partnern und/oder Dienstleistern helfen, um Ressourcen zu sparen und Synergien zu heben.
Bewusstsein und Interesse schaffen	Vor den eigentlichen Maßnahmen gilt es Mitarbeitende niedrigschwellig abzuholen und ihr Interesse am Kompetenzaufbau zu wecken. Die Relevanz von KI-Kompetenz gerade bei Betreibern bzw. Nutzern von KI-Systemen sollte dabei aus dem unmittelbaren Praxisbezug heraus vermittelt werden.
Schulungen durchführen und dokumentieren	Basierend auf dem Bildungsbedarf werden die entsprechenden Maßnahmen (pro Zielgruppe) durchgeführt. Zum Beispiel erhalten im Fall von “KI in der Hochschule” Lehrende ein anderes Training als die IT-Abteilung oder Verwaltungsmitarbeitende. Relevant für den AI Act: Eine gute Dokumentation der Trainings bietet für einen Schadensfall einen wichtigen Nachweis.
Governance-Prozesse	Die Organisation stellt sicher, dass ein KI-System nur von nachweislich kompetenten Personen genutzt wird und dokumentiert dies in einer übergreifenden Strategie. Zum Beispiel könnte der Zugang zu einem KI-System (Login und Passwort) mit einem erfolgreichen Training verknüpft sein.
Kompetenz erhalten und ausbauen	Wann ist ein erneuter Wissens- oder Kompetenzaufbau und entsprechende Angebote oder Schulungen nötig? Mögliche Auslöser dafür sind z. B.: eine Änderung des KI-Systems, z. B. der Nutzeroberfläche oder der Leistung Beteiligung zusätzlicher oder neuer Personen, etwas wenn ein weiterer Mitarbeitender ein KI-System nutzt oder wenn eine neue Personengruppe betroffen ist. Hierfür ist eine KI-Kompetenzstrategie mit regelmäßigen Überarbeitungszyklen wünschenswert.

Insgesamt ist zu begrüßen, dass die neuen Anforderungen an KI-Systeme die Bedeutung von KI-Kompetenzen so deutlich betonen. Unternehmen, Bildungseinrichtungen und andere Akteure sollten dies als einen hilfreichen Anstoß dafür nutzen, übergreifend notwendige technologische Kompetenzen in der eigenen Organisation zu stärken und attraktive Bildungsangebote für ihre Mitarbeitenden zur Verfügung zu stellen.

Dabei gibt es zahlreiche passende Inhalte und gute Anbieter sowohl auf dem privatwirtschaftlichen Markt als auch im Non-Profit-Bereich. Organisationen sollten hier gezielt das zu ihren Kompetenzanforderungen passende Angebot suchen und schrittweise ausbauen.

Das appliedAI Institute for Europe und der KI-Campus setzen sich aktiv zur Stärkung von KI-Kompetenzen in Deutschland und Europa ein!

¹Hilfreiche Unterstützung bieten zum Beispiel der Umsetzungsleitfaden der Bitkom und die Compliance Journey des appliedAI Institute for Europe

Referenzen

KI-Servicestelle Österreich: https://www.rtr.at/rtr/service/ki-servicestelle/ai-act/ki-kompetenz.de.html

https://www.rdv-online.com/shop/1349/merkblatt-ki-kompetenz

https://www.rdv-online.com/print/ausgabe-5-2024/konzepte-umsetzung-ki-kompetenz-unternehmen-zwischen-ki-vo-ds-gvo/

Spannende Kurse auf dem KI-Campus für deinen Einstieg in die Welt der KI

Einführung in die KI von appliedAI

KI für Alle 1: Einführung in die Künstliche Intelligenz von der Heinrich Heine Universität Düsseldorf

KI für Alle 2: Verstehen, Bewerten, Reflektieren von der Heinrich Heine Universität Düsseldorf

Schule macht KI von den Jungen Tüftlern und dem Fraunhofer IAIS

Dr. med. KI - Basics von der Charité Universitätsmedizin Berlin und dem Stifterverband

Prompt-Labor Hochschullehre 2.0 von der RWTH Aachen, dem KI-Campus und dem Hochschulforum Digitalisierung

Dr. Till Klein

Head of AI Regulation

Applied AI Institute for Europe

Dr. Till Klein ist verantwortlich für das Thema KI-Regulierung bei der gemeinnützigen appliedAI Institute for Europe gGmbH und verfolgt das Ziel, vertrauenswürdige KI im großen Maßstab zu beschleunigen. Bei appliedAI setzt er sich für die praxisorientierte Entwicklung von Schulungen, Methoden und Tools für die Operationalisierung neuer KI-Regularien und Standards ein. Die Erkenntnisse aus der praktischen Anwendung dieser Angebote bringt er in den Gesetzgebungsprozess auf europäischer und nationaler, europäischer und internationaler Ebene ein. Till hat mehrere Jahre Industrieerfahrung in hoch-regulierten High-Tech Sektoren, insbesondere Medizinprodukte und Drohnen, wo er stets an der Schnittstelle zwischen Innovation und Regulierung tätig war. Im Rahmen seiner Promotion an der Swinburne University of Technology in Melbourne, Australien, untersuchte er die Evolution von "collaboration networks" im Kontext des Wissenstransfers zwischen Forschung und Industrie. Zu seinen Forschungsinteressen gehören neben KI Regulierung auch Wirtschaftsgeografie, soziale Netzwerke und Innovationsmanagement.

Florian Rampelt

Leiter der Geschäftsstelle

Stifterverband

Florian Rampelt ist Programmleiter Digitale Bildung & Future Skills sowie Geschäftsstellenleiter des KI-Campus beim Stifterverband in Berlin. Zuvor war er stellvertretender Geschäftsstellenleiter des Hochschulforums Digitalisierung, Director of Education bei dem gemeinnützigen Start-up Kiron Open Higher Education und wissenschaftlicher Mitarbeiter am Zentrum für Lehrerbildung an der Universität Passau. Florian Rampelt hat Staatswissenschaften (B. A.), Lehramt an Mittelschulen (1. Staatsexamen) und Bildungs- und Erziehungswissenschaften (M. Ed.) studiert. Der Bildungs- und Erziehungswissenschaftler arbeitet an einer zukunftsfähigen Aus- und Weiterbildung für die digitale Transformation. Seine Forschung fokussiert sich derzeit auf Wissen, Kompetenzen und Qualifikationen zu Künstlicher Intelligenz und Fragen der Anerkennung.

Mike Bernd

Teamleitung Lernangebote

Stifterverband

Mike Bernd koordiniert beim KI-Campus den Bereich Lernangebote und Ideenwettbewerbe. Zuvor war er als Manager für Qualitätssicherung bei Kiron Open Higher Education sowie als Instructional Designer an der HAW Hamburg tätig. Während seiner Zeit als Stellvertretender Projektleiter an der University of Shanghai for Science & Technology entwickelte er hybride Kursformate im Kontext der digitalisierten Lehre. Mike Bernd studierte u.a. Sozial- und Kulturanthropologie an der Freien Universität Berlin und Sinologie an der Humboldt Universität zu Berlin.

Keeping up with AI – TikTok als Wissensquelle für die KI-Generation?

Johanna Thietje, Kristina Laube — Thu, 31 Oct 2024 12:13:25 +0000

TikTok als Wissensplattform? Ja, unbedingt!

TikTok hat sich längst über Tanzvideos und Kurzclips hinaus als Plattform etabliert, auf der sich täglich Millionen Menschen informieren. Hier setzen der Bundeswettbewerb Künstliche Intelligenz und der KI-Campus des Stifterverbandes an, um Jugendliche direkt dort anzusprechen, wo sie sich online bewegen. Mit dem neuen Kanal „@keepingupwith_ai“ wollen wir DEN deutschsprachigen Kanal zum Thema KI etablieren – frisch, modern und nah an der Lebenswelt der Jugendlichen. Fragen wie „Wie kann ich KI beim Lernen nutzen?“, „Wie beeinflusst KI demokratische Prozesse?“ oder „Wie erkenne ich Fake News?“ werden in wöchentlichen Updates aufgegriffen und einfach erklärt.

Das Team hinter „@keepingupwith_ai“ setzt sich zusammen aus den Hosts des Kanals, Linos Ullmann, Johanna Thietje und Chiara Obermüller, sowie Vincent Schläger und Kristina Laube.

Niedrigschwelliger Zugang zu KI-Themen

Der Kanal „@keepingupwith_ai“ wird zu einer vertrauenswürdigen Informationsquelle rund um Künstliche Intelligenz. Hier soll KI-Wissen so aufbereitet werden, dass es Spaß macht und Neugier weckt. Auf einfache und verständliche Weise vermittelt der Kanal Anwendungsbeispiele, Tools und spannende News aus der Welt der KI. Für Schüler:innen, Studierende und alle anderen Interessierten bietet er einen Einstieg auf Augenhöhe und beantwortet praxisnahe Fragen zu KI im eigenen Leben – immer mit einem klaren Ziel: Die Nutzenden fit für die Zukunft zu machen, ohne dass sie sich „k. o.“ fühlen. „Lieber KI als k. o.“ lautet daher das Motto des neuen Kanals.

@keepingupwith_ai So sieht Ski Aggu ohne Brille aus?! KI macht es möglich 🤖 #SkiAggu #Friesenjung #Deutschland #LernenMitTikTok #KünstlicheIntelligenz #ArtificialIntelligence #Photoshop #SkiAgguOhneBrille #GenerativeAI #KICampus ♬ Originalton - Keeping up with AI

Warum solltet ihr „@keepingupwith_ai“ folgen?

Für alle, die bei den neusten Entwicklungen in Sachen KI am Ball bleiben wollen oder einfach neugierig sind, was KI mit ihrem Alltag zu tun hat, ist „@keepingupwith_ai“ genau das Richtige. Unser Kanal verbindet Wissensvermittlung mit einem frischen Look. Künstliche Intelligenz betrifft uns alle und mit „@keepingupwith_ai“ könnt ihr sicher sein, dass ihr nicht nur mitreden, sondern auch von den Möglichkeiten profitieren könnt, die KI bietet. Also besser schnell folgen und weitersagen! Wir freuen uns über euer Feedback und Vorschläge für zukünftige Inhalte!

Über den Bundeswettbewerb Künstliche Intelligenz (BWKI)
Mit dem jährlich stattfindenden BWKI sollen Schüler:innen motiviert werden, eigene Ideen mithilfe von Künstlicher Intelligenz umzusetzen. Der Wettbewerb wurde 2018 am Tübingen AI Center - einer Forschungseinrichtung der Universität Tübingen und des Max-Planck-Instituts für Intelligente Systeme – ins Leben gerufen und ist Mitglied der AG Bundesweite Schülerwettbewerbe. Die Carl-Zeiss-Stiftung ist seit 2020 Hauptförderer des BWKI. Damit fördert sie auch Projekte der Wissenschaftskommunikation für eine junge Zielgruppe, darunter diesen TikTok-Kanal.

Johanna Thietje

Junior Communications Managerin

Stifterverband

Johanna Thietje arbeitet im Kommunikationsteam des KI-Campus beim Stifterverband und unterstützt bei der Öffentlichkeitsarbeit. Sie studierte Kulturwissenschaften und Wirtschaftspsychologie an der Leuphana Universität Lüneburg (B.A.).

Kristina Laube

Wissenschaftskommunikatorin Tübingen AI Center / BWKI

Kristina Laube ist gelernte Journalistin und als Wissenschaftskommunikatorin am Tübingen AI Center rund um den Bundeswettbewerb Künstliche Intelligenz für eine junge Zielgruppe tätig. Zuvor war sie in Berlin als Redakteurin und Reporterin für den Auslandsrundfunk Deutsche Welle und das Arte-Wissensmagazin Xenius im Einsatz.

Ute Schmid im Interview: Was KI-Systeme leisten können und was nicht

Lucas Laux — Thu, 19 Sep 2024 12:57:28 +0000

Liebe Ute, welche Chancen bietet uns Künstliche Intelligenz? Und welche Risiken sind beim Einsatz von KI zu beachten?

Die vielen in den letzten Jahren entstandenen neuen und leistungsstarken Methoden, insbesondere Deep Learning und generative KI, bieten Chancen in vielen Bereichen – von Bildung über Medizin, Produktion und Verwaltung bis Umwelt- und Klimaschutz. Beispielsweise können KI-Anwendungen helfen, Nutzpflanzen gezielt zu überwachen und mögliche Gefährdungen durch Trockenstress oder Schädlinge frühzeitig zu identifizieren. Im Bildungsbereich können Anwendungen großer Sprachmodelle in Kombination mit intelligenten Tutorsystemen gezielt Lernen im Problemlösekontext unterstützen. Bildbasierte Diagnostik kann in der Medizin, aber auch in der industriellen Qualitätskontrolle eingesetzt werden, um Krankheitsbilder oder Anomalien effizienter zu erkennen. Im Prinzip können KI-Methoden einen Beitrag zu allen 17 OECD-Nachhaltigkeitszielen leisten.

Allerdings kann der Einsatz von KI auch negative und unerwünschte Effekte haben. Risiken können durch fehlende Robustheit, fehlende Genauigkeit oder unerwünschte Biases der Modelle selbst entstehen. Hier kann einerseits eine entsprechende Qualitätskontrolle auf Seiten der Modellentwicklung und andererseits mehr Nutzungskompetenz bei den Anwenderinnen und Anwendern helfen. Unerwünschte Auswirkungen können aber auch aus der sozio-technischen Einbettung von KI-Methoden folgen. Das können der Verlust relevanter Kompetenzen oder auch soziale oder emotionale Probleme sein. Beispielsweise könnte intelligente Robotik, wenn sie weit genug entwickelt ist, in der Pflege helfen, um etwa einen Menschen zu füttern – ohne Hektik, Löffelchen für Löffelchen. Während deutlich einfachere digitale Angebote, die gemeinsames Spielen oder Reden ersetzen, zur Vereinsamung beitragen würden.

In welchen Bereichen KI-Systeme wie sinnvoll eingesetzt werden sollen, muss meiner Meinung nach in einem breiten demokratischen Diskurs unter Einbeziehung aller relevanten Stakeholder ausgehandelt werden. Dafür ist aber ein Grundverständnis davon nötig, was KI-Systeme generell leisten können und was nicht.

Foto: Jürgen Schabel / Universität Bamberg

Wie gelingt es, KI-Kompetenzen in der Gesellschaft zu stärken? Wie können wir lernen, souverän mit KI umzugehen?

Zunächst einmal wäre zu klären, welche Personengruppen welche Art von KI-Kompetenzen benötigen. Ein Grundschulkind benötigt sicher andere Kompetenzen als Schülerinnen und Schüler im Wahlfach Informatik in der Sekundarstufe. Fachpersonal benötigt andere Kompetenzen als Endverbrauchende.

Allgemein gehe ich aber davon aus, dass ein zumindest sehr allgemeines grundlegendes Verständnis davon, wie Modelle mittels maschinellen Lernens aufgebaut werden und wie generative KI-Ansätze trainiert und Ausgaben erzeugt werden, Voraussetzung sowohl für eine sichere und souveräne Nutzung von KI-Werkzeugen als auch zur kritischen Bewertung von Ausgaben solcher Systeme – sei es eine Klassifikation oder ein generierter Text – notwendig sind. Grundverständnis und Nutzungserfahrungen gemeinsam sind dann Voraussetzung für eine Reflexion der möglichen Auswirkungen von KI-Systemen auf das eigene Leben, Gesellschaft und Umwelt.

Die große Herausforderung ist es, didaktisch sinnvoll an die Zielgruppe angepasste und gleichzeitig fachlich korrekte Lernangebote bereitzustellen. Hier hat der KI-Campus bereits sehr viel zu bieten. Es gibt Online-Kurse für Zielgruppen ohne Informatik- und KI-Hintergrund genauso wie sehr spezielle vertiefende Angebote. Es gibt Angebote, die KI direkt im Kontext verschiedener Anwendungsfelder einführen, etwa Schule oder Medizin. Aus meinem Team an der Universität Bamberg haben wir zwei Kurse beigesteuert: Der Kurs „Erklärbares Maschinelles Lernen für Ingenieurwissenschaften“ bietet einen vertieften Einblick in verschiedene Methoden dieses Forschungsgebiets. Der Kurs „Data Literacy für die Grundschule“ richtet sich dagegen an Grundschullehrkräfte und ist völlig voraussetzungsfrei.

Möchte man sich allgemeiner zu aktuellen Themen im Bereich KI informieren, bieten verschiedene Podcast-Angebote eine gute Möglichkeit. Das Bamberger Zentrum für KI (BaCAI) bietet hier die Podcast-Serie „Servus KI“ an. In jeweils etwa dreißigminütigen Folgen stellen KI-Professorinnen und -Professoren ihr jeweiliges Forschungsgebiet dar und diskutieren aktuelle Fragestellungen und Anwendungspotenziale. Diese fachspezifischen Folgen werden durch eine interdisziplinäre Perspektive erweitert und es kommen Professorinnen und Professoren aus den Sprachwissenschaften und der Psychologie zu Wort.

Ab welchem Alter empfiehlst du eine Beschäftigung mit KI?

Digitale Angebote dringen immer mehr bereits in die kindliche Lebenswelt ein. Diese Angebote werden in Zukunft auch vermehrt KI-Komponenten enthalten. Entsprechend sollte ein elementares Verständnis von KI bereits ab dem Grundschulalter, ausgewählte Aspekte auch schon in der frühkindlichen Bildung vermittelt werden. Ich komme auf meine schon geäußerte These zurück, dass Bedienkompetenz auf einem grundlegenden Verständnis der darunterliegenden Technologien basieren muss.

Um KI-Grundkompetenzen zu vermitteln, muss zunächst ein Grundverständnis von elementaren Informatikkompetenzen aufgebaut werden, insbesondere wie Informationen digital gespeichert werden und wie deren Verarbeitung auf Basis von Algorithmen mittels Programmen erfolgt. Da die meisten KI-Anwendungen auf maschinellem Lernen basieren, wird zudem eine grundlegende Datenkompetenz benötigt. Diese vermittelt der oben bereits genannte KI-Campus-Kurs „Data Literacy für die Grundschule“, der auch ein Modul zu maschinellem Lernen enthält. Wichtig ist, dass bereits Kinder verstehen, dass die Programme und Apps, die KI nutzen, nicht vom Himmel fallen, sondern von Menschen gemacht werden. Damit wird auch eine erste Idee vom Berufsfeld Informatik sowie Data Science vermittelt. Zudem können bereits Kindern die Unterschiede zwischen menschlichem Denken und KI nahegebracht werden. So kann verhindert werden, dass Kinder KI-Systemen unzutreffende Eigenschaften zuschreiben – was ja aktuell auch viele Erwachsene tun.

Wie stehst du zu KI-Leitlinien im Bildungsbereich: Sollte der Umgang mit KI reguliert werden und wenn ja, wie?

Regulierung kann dafür sorgen, dass methodisch sauber umgesetzte, sichere und datenschutzkonforme KI-Tools für Lehrende wie Lernende entwickelt und eingesetzt werden. Ich begrüße den AI Act der EU ausdrücklich. Allerdings hoffe ich, dass wir aus der Zeit der Umsetzung der Datenschutzgrundverordnung gelernt haben und nicht zu viel Bürokratie aufbauen.

Bei so neuen Technologien würde ich bei offenen Punkten auch eher nicht direkt Verbote aussprechen, sondern ein kritisches Monitoring empfehlen. Wieder gilt, dass ein Grundverständnis von KI-Methoden wesentlich ist, um den Nutzen und mögliche negative Auswirkungen des Einsatzes bestimmter Systeme möglichst realistisch bewerten zu können.

Für die meisten Menschen ist KI eine Black Box, die nur schwer einschätzbar ist. Wie können wir vertrauenswürdige KI-Systeme entwickeln?

Eine Expertenkommission der Europäischen Union hat sieben Anforderungen an vertrauenswürdige KI-Systeme herausgearbeitet. Diese sind: Menschliche Kontrolle und Aufsicht, Robustheit und Sicherheit, Datenschutz und Qualitätsmanagement, Transparenz und Nachvollziehbarkeit, Nichtdiskriminierung und Fairness, gesellschaftliches und ökologisches Wohlergehen und Rechenschaftspflicht.

Einige dieser Anforderungen betreffen allgemeine technische Aspekte, rechtliche Aspekte und allgemeine gesellschaftspolitische Aspekte. Andere verlangen eine Weiterentwicklung von KI-Methoden und sind damit aus meiner Sicht ein wichtiger Impuls für die KI-Forschung selbst. Dies betrifft Methoden der erklärbaren KI, wie wir sie in unserem oben genannten KI-Campus-Kurs vorstellen. Methoden, um unfaire Biases zu vermeiden oder immerhin zu reduzieren, sowie Methoden zur interaktiven Korrektur und Anpassung von KI-Modellen.

Besonders spannend finde ich, dass du dich als Informatikerin und Psychologin mit KI beschäftigst. Wie bewertest du KI aus Sicht der Psychologie?

Die Themen Erklärbarkeit, menschliche Kontrolle und Aufsicht können nur sinnvoll umgesetzt werden, wenn die Schnittstellen zwischen KI-Systemen und Menschen passend gestaltet sind. Das betrifft weniger Fragen der Usability, sondern vor allem der kognitiven Passung. Damit Mensch und KI-System partnerschaftlich zusammenarbeiten können, muss die für den jeweiligen Kontext passende Information in passender Modalität und in passendem Detaillierungsgrad gegeben werden. Entsprechend gehört zur Gestaltung vertrauenswürdiger KI-Systeme Psychologie, insbesondere die Kognitionspsychologie, unverzichtbar dazu.

In meiner Forschung zum erklärbaren und interaktiven maschinellen Lernen kann ich Informatik und Psychologie entsprechend direkt sinnvoll kombinieren, um neue, menschzentrierte Ansätze zu entwickeln. Auch bei der Entwicklung von KI-Systemen für die Bildung hilft mir mein Hintergrund in Psychologie. Beispielsweise nutze ich kognitive Theorien zum analogen Problemlösen und Lernen, um gezielte Rückmeldungen an Lernende zu geben. Anstelle eines einfachen Abgleichs einer Lernendenantwort mit einer Musterlösung entwickele ich Methoden, die das einer fehlerhaften Antwort zugrundeliegende Fehlkonzept identifizieren. Statt dann einfach die korrekte Antwort zurückzumelden, liefern unsere Tutorsysteme analoge Beispiele. Damit kann Lernen im Problemlösekontext umgesetzt werden und der Aufbau eines tieferen Verständnisses eines Problembereichs unterstützt werden.

Herzlichen Dank für das Interview!

Lucas Laux

Communication Manager

Stifterverband

Lucas Laux betreut die Öffentlichkeitsarbeit des KI-Campus beim Stifterverband. Er studierte Medienwissenschaft an der Humboldt-Universität zu Berlin (M.A.) und an der Universität Passau (B.A.). Sein Fokus liegt auf Themen an der Schnittstelle von Technologie, Kultur und Innovation.

U:FF 2024 Rückblick: Highlights der KI-Campus-Stage

Dr. Britta Leusing — Wed, 10 Jul 2024 08:00:00 +0000

KI an Hochschulen als konkretes Umsetzungsthema

Im Vergleich zum letzten Jahr, in dem noch viel über das „Was“ und das „Ob überhaupt“ von KI gesprochen wurde, lag der Schwerpunkt auf der diesjährigen KI-Campus-Stage auf dem „Wie“: Wie werden notwendige Infrastrukturen zur KI-Nutzung zur Verfügung gestellt? Wie werden Lernassistenzsysteme entwickelt und wie wirken sie? Wie zieht KI als Unterrichtsfach in die hochschulische Lehre ein? Die Keynotes, Panels und Workshops boten konkrete Einblicke in den Einsatz und die notwendigen Ressourcen für KI in der Hochschulbildung. Es wurde klar, dass KI nicht mehr nur ein theoretisches Konzept ist, sondern aktiv in den Hochschulalltag integriert wird.

Lernassistenzen im Fokus

Ein besonderes Highlight war das Thema Lernassistenzen. Gerd Kortemeyer von der ETH Zürich sowie Quintus Stierstorfer und Felix Schiessl von der IU Internationalen Hochschule demonstrierten in ihren eindrucksvollen Keynotes, welche Ressourcen erforderlich sind, um effektive Lernassistenzsysteme zu entwickeln. Dabei wurde u. a. die Akzeptanz sowohl bei Studierenden als auch bei Lehrenden intensiv diskutiert.

Auch Interfaces zur Nutzung von LLMs (Large Language Models) in der Bildung, rechtliche und ethische Fragen, die Rolle der Hochschulen für den KI-Innovationsschub in Deutschland, ihre Funktion als Brückenbauer für KI-Talente, Responsible AI sowie Chatbots für den Studierendenservice wurden thematisiert.

Parallel zum Programm auf der Bühne ermöglichte der Workshop-Space im Außenbereich der Maschinenfabrik interaktive Austauschformate bei strahlendem Sonnenschein. Eine weitere tolle Ergänzung ergab die KI-Ausstellung mit aktuellen Projekten und Exponaten aus dem Heilbronner KI-Ökosystem und von überregionalen Partnern. Beliebtestes Selfie-Motiv war eindeutig der humanoide Roboter-Kopf der Hochschule der Medien Stuttgart (HdM). In Interviews und Kurz-Statements konnten wir von unseren Speaker:innen persönliche Einschätzungen zur Bedeutung von KI für Hochschulen erfragen.

An alle Studierende: The U:FF-Stage is yours!

Unser besonderes Anliegen war es in diesem Jahr, auf der KI-Campus-Stage die Stimmen der Studierenden bei der Diskussion von Hochschulgestaltung lauter zu machen und stärker zu integrieren. Wir freuen uns, dass Studierende der HdM und der TUM mit anregenden Keynotes zur Zukunft der Hochschule dabei waren.

Mit Spannung haben wir außerdem die Ergebnisse unseres Student Calls erwartet. Drei Studierendenteams pitchten ihre innovativen KI-Ideen für den Hochschulbereich und stellten sich dem Publikumsvoting. Mete Saltik und Malisa Caliskan von der Uni Stuttgart gingen mit ihrem Projekt einer KI-Schreibwerkstatt als Gewinner:innen aus der Abstimmung hervor. Peter Hottum vom Karlsruher Institut für Technologie (KIT) moderierte den Pitch und steht dem Sieger-Team mit seinen Erfahrungen zu KI-Start-ups als Coach an der Seite. Ihr werdet bald mehr von Metes und Malisas Schreibwerkstatt hören!

Gemeinsam sind wir stärker!

Das Festival war geprägt von intensiven Diskussionen, viel Lachen, inspirierenden Momenten und einem starken Gefühl, gemeinsam an konkreten Lösungen für den Hochschulbereich zu arbeiten. Studierende, Hochschullehrende und -leitungen, Unternehmen, Kreative sowie Vertreter:innen aus Ministerien und Initiativen tauschten sich untereinander aus. Der Spontaneität waren keine Grenzen gesetzt: Aus einem Prompting-Workshop mit Stefan Göllner vom Stifterverband traten aus dem Publikum drei Freiwillige auf die Bühne und inszenierten einen geprompteten Dialog zwischen einem Chatbot, einem Lernenden und einem Lehrenden zur Frage, wer der bessere Dozent sei.

KI und Kreativität

Und auch die Kreativität darf bei KI nicht fehlen! Zur Netzwerkveranstaltung durften wir von Wayne Götz, einem Absolventen der Folkwang Universität der Künste, ein multimediales „Physical Theatre“ zur Interaktion zwischen Mensch und Maschine erleben.

Der internationale „AI Song Contest“ beteiligte sich mit einem Wettbewerbsteilnehmer der Polytechnischen Universität Madrid. Adrian Garcia Griber hat eigens für das U:FF in Heilbronn mithilfe von KI aus Weltalldaten und Bachs fünfter Symphonie einen kurzen Jingle produziert. Damit war in der Maschinenfabrik immer klar hörbar, wann die nächste Session begann. Wie der Jingle entstanden ist, erfahrt ihr im Making-of-Video.

Takeaway

Das große Interesse und der lebhafte Austausch haben einmal mehr gezeigt, wie relevant KI und neue Technologien für Hochschulen sind. Die inspirierenden Vorträge, vielfältigen Workshops, spannenden KI-Exponate und zahlreichen Gespräche klingen jetzt noch nach: Es haben sich nachhaltige Projektideen aus dem U:FF ergeben, an deren Umsetzung aktuell gearbeitet wird. Die Formate, die Location, das einmalige Wetter und natürlich die Menschen waren für das U:FF in Heilbronn „the perfect match“. Ein großes Dankeschön an alle, die dabei waren und dieses Event ermöglicht haben!

💡 Ihr habt das Festival verpasst oder möchtet Beiträge der KI-Campus-Stage noch einmal ansehen? In unserer YouTube-Playlist findet ihr alle Mitschnitte. Viele schöne Fotos gibt es in unserer Flickr-Galerie.

Über das University:Future Festival

Das U:FF wurde vom Hochschulforum Digitalisierung (HFD) sowie von der Stiftung Innovation in der Hochschullehre (StIL) organisiert und vom Stifterverband unterstützt. Der KI-Campus gestaltete das Programm der Partnerbühne "KI-Campus-Stage" in Heilbronn und online im Livestream.

Über den KI-Campus in Heilbronn

Unter Leitung des Stifterverbandes baut der KI-Campus mit Förderung der Dieter Schwarz Stiftung einen regionalen Hub für Baden-Württemberg in Heilbronn auf. Der Hub stärkt den KI-Innovationsstandort Baden-Württemberg mit digitalen Lernangeboten zum Thema Künstliche Intelligenz und vielfältigen Community-Aktivitäten.

Der Hub ist Teil eines übergreifenden KI-Ökosystems, das mit dem Innovationspark für Künstliche Intelligenz (Ipai) derzeit in Heilbronn entsteht. Als Partner für die Bildungsaktivitäten des KI-Campus sind in Heilbronn unter anderem die Duale Hochschule Baden-Württemberg (DHBW), die Hochschule Heilbronn, die Technische Universität München (TUM) und das Forschungs- und Innovationszentrum KODIS des Fraunhofer IAO beteiligt.

Dr. Britta Leusing

Stellv. Leiterin der Geschäftsstelle

Stifterverband

Britta Leusing ist stellv. Geschäftsstellenleiterin des KI-Campus beim Stifterverband Berlin. Die promovierte Betriebswirtin verantwortet den Aufbau der regionalen Hubs insb. in Heilbronn und den Bereich Community. Ihre Arbeits- und Interessensschwerpunkte reichen von Academic Franchising über regionalökonomische Effekte von Hochschulen bis zur Tech-Qualifizierung in Studium und Arbeitswelt.

Bereit für sprachbasierte KI? Eine Trainingsplattform hilft, Sprachassistenzen effektiv einzusetzen

Maximilian Baumann, André Markus — Thu, 27 Jun 2024 08:00:00 +0000

Mit Hilfe von Künstlicher Intelligenz sind Sprachassistenzen wie Alexa, Siri und Co. in der Lage uns Menschen zu verstehen und uns im Alltag zu unterstützen. Verfahren wie Natural Language Processing (NLP) machen die Interpretation menschlicher Sprache möglich. Da diese Prozesse komplex und für Laien oft schwer nachvollziehbar sind, kommt es häufig zu Missverständnissen und Fehlvorstellungen über die tatsächlichen Fähigkeiten sprachbasierter KI-Systeme. Ein mangelndes Verständnis über die Funktionsweise sprachbasierter KI-Systeme kann jedoch ein Risiko für die Nutzung darstellen. Dies kann dazu führen, dass das Potenzial der Sprachassistenzen nicht voll ausgeschöpft wird und Sprachbefehle der Nutzenden von den Systemen missverstanden werden, was zu Enttäuschung und Frustration führt.

Auch die Dialogfähigkeit sprachbasierter KI-Systeme birgt die Gefahr, dass Nutzer:innen unbewusst beeinflusst werden. Durch die Verwendung menschlicher Sprache werden Sprachassistenzen in der Interaktion oft als eine Art Freund oder Familienmitglied wahrgenommen. Auch wenn dies positive Effekte auf die Nutzenden haben kann, verleitet es häufig dazu, mehr private Informationen mit den Systemen zu teilen und eher deren Empfehlungen zu folgen. In dieser Konsequenz können Sprachassistenzen auf mehr Informationen über die Nutzenden zugreifen, womit sie Nutzungsverhalten und Entscheidungen beeinflussen können. Daher wird die selbstbestimmte Interaktion dieser sprachbasierten KI-Systeme auch durch die Möglichkeit der unbewussten Beeinflussung und gefährdeten Privatsphäre eingeschränkt.

Um allen Menschen einen selbstbestimmten Umgang mit sprachbasierten KI-Systemen zu ermöglichen, sind gezielte Maßnahmen erforderlich, um die individuellen Risiken zu minimieren und die Möglichkeiten dieser Systeme vollumfänglich zu nutzen.

Das Digital Interaction Literacy Modell

Hierzu hat das Projektteam MOTIV der Universität Würzburg das Digital Interaction Literacy Model entwickelt (kurz: DIL-Modell). Ausgehend von Interviews mit Expert:innen verschiedener Disziplinen (z. B. Psychologie, Pädagogik, Verbraucherschutz und Design) wurde ein Kompetenzrahmen für die selbstbestimmte Interaktion mit sprachbasierten KI-Systemen erarbeitet. In Ergänzung mit wissenschaftlicher Literatur lassen sich drei zentrale Kompetenzdimensionen ableiten:

1. Verständnis der Funktionsprinzipien
Neben dem Wissen über die internen Prozesse bei der Verarbeitung von Sprachbefehlen durch sprachbasierte KI-Systeme ist auch ein Verständnis für eine effiziente Handhabung von Bedeutung. Hinzu kommt ein Bewusstsein der zugrunde liegenden Algorithmen sowie Kenntnisse zu Lernprozessen von KI-Systemen.

2. Achtsamer Umgang
Die Fähigkeit, die eigenen Interaktionen mit sprachbasierten KI-Systemen kritisch zu hinterfragen und zu planen, ist ein essenzieller Bestandteil. Besonders relevant sind das Verständnis von Datenschutzrisiken, die Umsetzung entsprechender Schutzmaßnahmen für die Privatsphäre und das Erkennen sozialer Einflüsse durch die KI-Systeme. Dies trägt zu einer reflektierten und kontrollierten Nutzung bei, in deren Folge Fehlannahmen zu den Systemen reguliert und zukünftige Interaktionen selbstbestimmt gestaltet werden können.

3. Zielgruppenspezifische Kompetenzen
Diese Kompetenzen sind je nach Interessen und Verantwortlichkeiten nur für spezifische Gruppen an Nutzenden relevant. Entwicklungskompetenzen (z. B. Programmierkenntnisse) sind für Personen wichtig, die die Systemfunktionen an ihre Bedürfnisse anpassen wollen. Kommunikationskompetenzen sind für Erziehungsberechtigte und Lehrende essenziell, um das Wissen über die sprachbasierten KI-Systeme verständlich zu vermitteln.

Trainings zur Förderung der digitalen Interaktionskompetenz

Sprachgesteuerte KI-Technologien wie LLM-basierte Sprachassistenzen oder generative KI-Chatbots wie ChatGPT durchdringen immer mehr unseren privaten und beruflichen Alltag. Deshalb können alle Menschen von grundlegenden KI-Kompetenzen profitieren, um die sprachbasierten KI-Systeme selbstbestimmt und effektiv zu nutzen. Um die einzelnen Kompetenzen trainieren und vertiefen zu können, hat das Projektteam MOTIV eine Online-Trainingsplattform entwickelt.

Aufbau und Inhalte der Trainingsplattform

Die Online-Trainingsplattform umfasst insgesamt sechs Trainingsmodule. Diese decken ein breites Themenspektrum ab, von der Funktionsweise von Sprachassistenzen über Lernprozesse von KI-Systemen bis hin zur sozialen Beeinflussung durch Sprachassistenzen. Damit die Nutzenden ein tiefergehendes Verständnis der einzelnen Bereiche erlangen können, beinhaltet jedes Modul drei aufeinander aufbauende Trainingseinheiten.

Die Trainingseinheiten bestehen aus Lerntexten sowie Lernvideos, welche mediendidaktisch und instruktionspsychologisch optimiert sind, um ein positives Lernerlebnis zu ermöglichen. Jedes Trainingsmodul beginnt mit einem thematischen Überblick, der im Laufe des Trainings vertieft wird. Lernende können nach Abschluss eines Trainingsmodules ihr erworbenes Wissen anhand interaktiver Aufgaben festigen und testen. Hierzu stehen verschiedene Aufgabentypen wie Multiple-Choice, Lückentexte, Zuordnungsaufgaben und Lernspiele bereit. Integrierte Gamification-Elemente wie Feedback und Lob fördern die Motivation während des Lernprozesses. Zudem wird ein edukativer Chatbots entwickelt, der Fragen zum Trainingsthema beantwortet und Lerninteresse weckt. Nach dem Training bekommen die Lernenden eine Rückmeldung und können falsch gelöste Aufgaben wiederholen.

Die Trainings sind online und kostenlos zugänglich. Darüber hinaus wurde jede Trainingseinheit wissenschaftlich auf ihre Wirksamkeit untersucht, um den Lernerfolg sicherzustellen. Somit können alle Interessierten eigenständig lernen und dabei ihre digitale Interaktionskompetenzen erweitern.

Maßgeschneiderter Trainingserlebnisse

Die Trainingsplattform ermöglicht ein hohes Maß an personalisierten Lernerfahrungen. So können die Lernenden beispielsweise ihr Lerntempo selbst bestimmen und die Lerneinheiten nach ihren persönlichen Interessen auswählen. Ergänzend kann ein Interessenstest mit 36 Fragen beantwortet werden, auf dessen Basis ein Empfehlungssystem individuell passende Trainingsmodule vorschlägt. Auch können Teilnehmende die Nutzungsdaten ihrer Sprachassistenzen bereitstellen, auf deren Basis Trainingsvorschläge abgeleitet werden. Dabei werden die Daten auf bestimmte Schlüsselwörter hin analysiert, womit die personalisierte Empfehlung der Trainingsmodule auf Basis des Nutzungsverhaltens verfeinert wird. Die Freigabe der Daten ist freiwillig und die genaue Verfahrensweise mit den Daten wird den Nutzenden erklärt. Auch ohne die Freigabe der Nutzungsdaten können alle Trainingsinhalte in vollem Umfang genutzt werden und die Trainingsqualität bleibt unverändert.

Sofern Lernende ihre Nutzungsdaten geteilt haben, erhalten sie als Ergebnis der Analyse ein individuelles Nutzungsprofil mit interessanten Informationen (z. B. Anzahl und Art der verwendeten Sprachbefehle). Auch die Privatsphäre der Nutzenden wir vollumfänglich gewahrt, da alle geteilten Daten ausschließlich lokal auf dem PC der Lernenden verarbeitet werden und nicht auf der Trainingsplattform gespeichert werden.

Fazit

Sprachbasierte KI-Systeme sind heute allgegenwärtig. Daher ist es wichtig, unsere Fähigkeiten im Umgang mit diesen Technologien zu verbessern. Das DIL-Modell bietet eine wertvolle Grundlage für die Entwicklung von Schlüsselkompetenzen, die für eine selbstbestimmte Interaktion mit modernen KI-Systemen erforderlich sind. Es bereitet uns sowohl auf den Umgang mit heutigen Sprachassistenzen als auch auf zukünftige Generationen von Sprachassistenzen vor. Wie der KI-Campus mit seinen vielfältigen Lernangeboten unterstützt auch die Trainingsplattform von MOTIV mit gezielten Trainingsmodulen dabei, den Umgang mit Sprachassistenzen zu optimieren und die damit verbundenen Chancen und Herausforderungen bestmöglich zu meistern.

Maximilian Baumann

Universität Würzburg

Maximilian Baumann ist seit November 2023 als wissenschaftlicher Mitarbeiter am Lehrstuhl für Medienpsychologie der Universität Würzburg tätig und ist im bidt-Projekt „MOTIV - Digitale Interaktionskompetenz: Monitor, Training und Sichtbarkeit“ involviert. Er absolvierte sein Bachelorstudium der Medienkommunikation an der Julius-Maximilians-Universität Würzburg, an der er das konsekutive Masterstudium „Psychologie digitaler Medien“ abschließt.

André Markus

Universität Würzburg

André Markus ist wissenschaftlicher Mitarbeiter im bidt-Projekt „MOTIV - Digitale Interaktionskompetenz: Monitor, Training und Sichtbarkeit“ und arbeitet an der Professur für Psychologie Intelligenter Interaktiver Systeme der Universität Würzburg. Seine Forschungsinteressieren liegen im Bereich User Experience, Gaming-Psychologie und psychologische Interaktionsparadigmen digitaler KI-Entitäten. Er hat einen M.Sc. in Psychologie sowie Medien- und Instruktionspsychologie und ist freiberuflich als wissenschaftlicher Redakteur und Instruktionsdesigner für Wissensmedien tätig.

Wir müssen reden! – Vielleicht auf der Learning AID?

Jonas Leschke — Wed, 22 May 2024 07:00:00 +0000

In aktuellen Diskussionsrunden in Workshops, im Anschluss von Vorträgen oder individuellen Sprechstunden zu generativer KI in der Hochschullehre kann bisweilen der Eindruck entstehen, dass die anwesenden Expert:innen keine konkreten Antworten auf Fragen von Lehrenden zu ihren jeweiligen Lehrveranstaltungen geben wollen oder können. Häufig stellen sie nämlich Gegenfragen wie beispielsweise: Wie ist das didaktische Design Ihrer Lehrveranstaltung? Welche Möglichkeiten erlaubt Ihre Prüfungsordnung? Was sind Ihre Lernziele? Doch was wie ein Ausweichmanöver wirkt, spiegelt uns doch eines wider: Lehre ist komplex und muss im Gesamtkontext betrachtet werden. Individuelle Lehrberatungen brauchen Zeit und auch in Zeiten der breiten Verfügbarkeit generativer KI ist das bekannte hochschuldidaktische Fragenportfolio aktueller denn je. Wenn Lehrende gerade in Veranstaltungen mit vielen Teilnehmenden aber ohnehin keine konkreten Antworten auf ihre Fragen bekommen, wieso sollten sie dann überhaupt an solchen Angeboten teilnehmen?

Ich sehe was, was du nicht siehst: Ausgangslage

Expert:innen für generative KI nehmen – so wie im wissenschaftlichen Kontext üblich – eine bestimmte Perspektive auf das Thema ein. Die Perspektive hängt meist von ihrer wissenschaftlichen Affiliation ab. Hochschuldidaktiker:innen schauen mit einer hochschuldidaktischen Perspektive auf das Thema, Datenschützer:innen mit einer datenschutzrechtlichen Perspektive, Ethiker:innen mit einer ethischen Perspektive, Schreibdidaktiker:innen mit einer schreibdidaktischen Perspektive, Techniker:innen mit einer technischen Perspektive, Forscher:innen mit einer Forschungsperspektive, Hochschulleitungen mit einer Perspektive der Hochschulleitung...

All diese Perspektiven sind wichtig, da generative KI noch immer und auch zukünftig viele Unbekannte für die Hochschullehre mit sich bringt, deren Diskussion aus all diesen Perspektiven erfolgen muss. Denn nur so kann im Spannungsfeld universitären Lehrens und Lernens ein Gesamtbild gezeichnet werden. Doch weil die intensive Diskussion um generative KI in der Hochschullehre noch jung ist, sind sich sogar Expert:innen mit der gleichen Perspektive auf das Themenfeld – häufiger als in wissenschaftlichen Diskussionen üblich – nicht einig, welche Konsequenzen für die Hochschullehre eigentlich zu ziehen sind.

Was all diese unterschiedlichen Expert:innen aber gemeinsam haben, ist, dass sie generative KI in der Hochschullehre zwar aus ihrer Perspektive, aber allgemein für eine breite Zielgruppe diskutieren – ein konkreter Fach- oder Veranstaltungsbezug wird höchstens exemplarisch gegeben. Die Bedarfe der ratsuchenden Lehrenden sind aber genau diese: Sie wollen Antworten zu Fragen an ihrer Hochschule, in ihrem Fach, zu ihrer Lehrveranstaltung, für ihre aktuellen Studierenden.

Überspitzt formuliert: Hochschullehrende sehen ihre Lehrveranstaltung; Expert:innen sehen generative KI im Kontext ihres Themas.

Mit der Darstellung in diesem Abschnitt möchte ich keinesfalls zum Ausdruck bringen, dass Hochschullehrende naive Wünsche haben oder Expert:innen ihre Expertise überschätzen bzw. eine ignorante Haltung einnehmen. Zur Problemdarstellung, Reflexionsanregung und als Anregung zum transparenten Umgang mit der eigenen Perspektive erlaube ich mir diese Überspitzung.

Tauziehen: Informationsphase

Was ich im vorherigen Abschnitt beschrieben habe, ist im Grunde nicht überraschend oder im wissenschaftlichen Kontext überhaupt besonders erwähnenswert. Eigentlich ist die Diskussion und Forschung um (generative) KI auch nicht gänzlich neu, in ihrer Intensität und akuten Praxisbedeutung aber schon. Wir können in der Diskussion daher Effekte und Mechanismen neu aufkommender Forschungs- und Praxisfelder beobachten, indem beispielsweise First Mover eine ungewöhnlich große Sichtbarkeit und Einfluss auf das Feld haben. Dadurch tritt ihre Sichtweise mindestens kurzzeitig in den Vordergrund der Diskussion. Dieser Effekt ist wichtig, damit der notwendige diskursive Raum entstehen kann, in dem Expert:innen mit weniger repräsentierten Sichtweisen das Bedürfnis haben, einen Gegenpol in der Diskussion zu bilden. So entwickelt sich im besten Fall ein produktives Tauziehen um die Deutungshoheit im sich entwickelnden Feld.

In der Diskussion um generative KI in der Hochschullehre lässt sich beispielsweise anhand der Debatten zur Bedeutung spezieller KI-Kompetenzen oder zur Durchführung von unüberwachten Prüfungsleistungen beobachten, dass wir mittlerweile die zweite Phase der zuvor beschriebenen Entwicklung erreichen. Immer mehr Personen arbeiten sich in das Themenfeld generativer KI in der Hochschullehre ein und befruchten mit ihrer Perspektive durch wichtige neue Impulse die Diskussion.

Puzzeln: Erörterung

Doch auch wenn sich die notwendigen Diskussionen ausbilden, gibt es noch kaum wissenschaftlich gesicherte Erkenntnisse. Aktuelle Metastudien zu Effekten von generativer KI auf das Lehren und Lernen an Hochschulen beschreiben die Aussagekraft der dargestellten Ergebnisse als limitiert. Es fehlt an (empirischer) Forschung, auf deren Basis ein wissenschaftlich fundierter Praxistransfer möglich ist. In der Zwischenzeit können lehrunterstützende Einrichtungen nur mit einer gewissen Unsicherheit beraten, was jedoch nicht heißt, dass eine solche Beratung nicht fundiert wäre. Immerhin ist anzunehmen, dass sich auch durch generative KI die kognitiven, biologischen Prozesse des Lernens nicht ändern, sodass beispielsweise hochschuldidaktische Modelle oder Erkenntnisse aus der pädagogischen Psychologie im Allgemeinen auch im Kontext von generativer KI noch Bestand haben.

Dennoch sind Lehrende mehr denn je angehalten, sich mit den unterschiedlichen Perspektiven auf generative KI in der Hochschullehre auseinanderzusetzen und die jeweiligen allgemeinen Empfehlungen auf ihren individuellen Kontext zu übertragen. Sie müssen Fragen beantworten wie beispielsweise: Welchen Einfluss nimmt generative KI auf das didaktische Design meiner Lehre? Was erlaubt mir die Prüfungsordnung, um in Zeiten generativer KI weiterhin mit hoher Güte zu prüfen? Was sind meine Lernziele und welche Bedeutung hat generative KI für diese?

Spielebörse: eine Empfehlung und eine Einladung

Ich empfehle Lehrenden daher, aktuell möglichst viele Perspektiven auf generative KI in der Hochschullehre kennenzulernen. Hochschuldidaktische Grundmodelle, wie das Constructive Alignment, können dafür Orientierung bieten. Vorträge, (aufgezeichnete) Themenreihen, Informationsveranstaltungen und -material, Diskussionsrunden, Workshops und selbstverständlich auch Selbstlernkurse zu generativer KI gibt es bereits diverse. Nutzen Sie die Vielfalt dieser Angebote und gehen Sie dabei gerne auch mal aus Ihrer thematischen Komfortzone heraus.

Wir vom Team der Learning AID möchten Sie dafür zur diesjährigen Learning AID am 2. und 3. September 2024 an der Ruhr-Universität in Bochum einladen, bei der auch der KI-Campus einer der Partner ist. Die Learning AID ist die zentrale Tagung im deutschsprachigen Raum zu Learning Analytics und generativer KI in der Hochschulbildung und bietet Ihnen die Möglichkeit, sich über die verschiedenen zuvor skizzierten Perspektiven zu informieren, zu vernetzen und natürlich Fragen zu stellen. Die Tagung richtet sich gleichermaßen an Praktiker:innen und Forschende und bringt Lehrende und Expert:innen in den direkten Austausch miteinander. Über die Tagungswebsite können Sie sich jetzt für Ihre Teilnahme registrieren.

Ich freue mich darauf, dort auch über diesen Blogbeitrag mit Ihnen zu sprechen und natürlich Ihre eigene Perspektive auf generative KI in der Hochschullehre kennenzulernen.

Jonas Leschke

Ruhr-Universität Bochum

Jonas Leschke ist Leiter der Stabsstelle für Strategische Lehrprojekte am Zentrum für Wissenschaftsdidaktik der Ruhr-Universität Bochum. In seiner vorherigen Rolle als Projektkoordinator des Projekts KI:edu.nrw hat er zusammen mit Peter Salden die Learning AID ins Leben gerufen.

Kollegin KI macht weiter Furore

Francesca Hermani — Tue, 07 May 2024 14:00:00 +0000

Künstliche Intelligenz (KI) können alle, die Texte oder Bilder erstellen möchten, über frei verfügbare Online-Applikationen, über kostenpflichtige Angebote großer Anbieter oder durch den Einsatz von Plug-ins verwenden. Für Unternehmen, insbesondere für kleine und mittlere, stellt generative KI – also Anwendungen zur Erzeugung von neuen Inhalten insbesondere in Form von Texten und Bildern – eine vielversprechende Investition für mehr Output, zielgruppenspezifische Beiträge und rundum bessere Ergebnisse dar – so die Hoffnung.

KI hat das Potenzial, viele Aufgaben im Tagesgeschäft z. B. in den Unternehmensbereichen von Marketing über Recruiting bis Social Media zu vereinfachen. Beispiele hierfür sind etwa die blitzschnelle Erstellung umfangreicher Textpassagen durch Textgeneratoren, die Anpassung von Unternehmenspräsentationen im Corporate Design oder die Erstellung kompletter Redaktionspläne durch besonders geschickt formulierte Prompts (die Auftragsformulierung an eine generative KI) innerhalb weniger Sekunden.

Adieu zähe Ideenfindung und aufwendige Bildbearbeitung, es lebe Kollegin KI! Doch was bedeutet dieser Wandel für Beschäftigte?

Wer KI bedienen kann, ist klar im Vorteil

Die Digitalisierung erzwingt schon seit einiger Zeit einen Kompetenzwandel. Mit der rasanten Entwicklung im Bereich der KI müssen Kompetenzprofile noch schneller angepasst werden. Und die Folgen am Arbeitsmarkt? Unklar. Einige prognostizieren revolutionäre Potenziale, andere sorgen sich um ihren Job. Wird die Schere zwischen besser qualifizierten Arbeitskräften und unterqualifizierten einfach weiter auseinanderklaffen? Denn um KI-Systeme zu steuern, bedarf es entsprechender Qualifikationen.

Zu den Schlüsselqualifikationen bei der Nutzung generativer KI gehören der planvolle Umgang mit Daten sowie die Fähigkeit zur Kollaboration und zum digitalen Lernen. Außerdem Selbstkompetenz, also die Fähigkeit, in der Vielfalt der Informationen zu navigieren und dabei auch auf die eigenen Bedürfnisse zu achten. Zusammenfassen lässt sich das als ‚Digital Literacy‘ (digitale Kompetenz). Darunter fällt die Fähigkeit, digitale Geräte und vernetzte Technologien sicher und angemessen zu verwenden, auf digitale Informationen zugreifen zu können, diese zu verwalten, zu verstehen, zu integrieren, zu kommunizieren, zu bewerten und erstellen zu können.¹ Für die Zukunftsfähigkeit von Unternehmen stellt mangelndes Know-how und unzureichendes Verständnis für die Möglichkeiten von Künstlicher Intelligenz seitens der Mitarbeitenden ein Problem dar.

„Am Ball bleiben“ heißt die Devise.

Wer generative KI benutzt, sollte das nicht blauäugig tun

Mit dem AI Act der Europäischen Union, der am 13. März 2024 in Kraft getreten ist, adressiert die EU einige regulative Herausforderungen, die mit der Nutzung generativer KI einhergehen. Ein zentraler Punkt ist, dass urheberrechtlich geschützte Werke immer das Produkt menschlicher Kreativität sein müssen. Doch was passiert, wenn KI mit urheberrechtlich geschütztem Material trainiert wird? Die Verantwortung für etwaige Urheberrechtsverletzungen liegt dann bei den Nutzenden, falls sie die Inhalte kommerziell verwenden wollen.

Fernab der juristischen Perspektive lohnen jedoch auch die Fragen, ob das, was die KI produziert, überhaupt einen Wert hat und ob von einem Schöpfungsakt die Rede sein kann.

Die Philosophin Catrin Misselhorn betrachtet KI in diesem Zusammenhang als Werkzeug, nicht als eigenständige Schöpferin. Sie führt aus: „Es wäre unangebracht, künstlichen Systemen gegenüber, reaktive Einstellungen wie Anerkennung oder Kritik an den Tag zu legen. Sie verfügen über Handlungsfähigkeit in einem funktionalen Sinn, jedoch ist es Handeln ohne Verantwortung.“²

Unser Tipp ist, die Nutzungspraxis korrekt zu „framen“. Das heißt, ein Text oder Bild wurde nicht von, sondern mit KI erstellt.

Denn auch die Verantwortung für den Einsatz und die Gestaltung der Inhalte bleibt menschlich. Hier bietet sich die Chance, Vorurteile und stereotype Darstellungen zu hinterfragen und auszuschließen. Verwendetes Material bedarf also einer durch Menschen umgesetzten Prüfung. Darstellungen, die von einer technischen Verzerrung aufgrund falscher oder veralteter Trainingsdaten (Bias genannt) betroffen sind, sollte keine Bühne geboten werden.

Lassen Sie sich nicht stressen!

In der Zusammenarbeit mit der neuen Kollegin KI macht das menschliche Team ganz unterschiedliche Erfahrungen und fast wie beim Onboarding neuer menschlicher Mitarbeitender gibt es zahlreiche Gefühlslagen zu reflektieren: Von Begeisterung über die tolle Unterstützung, über Verwunderung über die Leistungsfähigkeit bis hin zu einer gewissen Beunruhigung hinsichtlich der eigenen Kompetenz. Zusammen mit der oft vorhandenen Scheu vor Veränderungen und vor Neuem kann die Einbindung von KI bei Beschäftigten durchaus auch Stress erzeugen.

Was früher die Rückenbeschwerden waren, ist heute der Burnout. Stress ist längst zur Volkskrankheit geworden. Dass KI die routinemäßigen Aufgaben übernehmen kann, wird als Heilsbringer angepriesen. Aber kann der Mensch acht Stunden am Tag kreative, strategische und damit fordernde Aufgaben lösen?

Neben der Beschleunigung gibt es viele weitere Gefahren, die im EU AI Act als „High Risk“ eingeschätzt werden: Kontrolle, Leistungsvergleiche oder sonstige Tools zu Überwachung. KI-Anwendungen bieten also Möglichkeiten, die am Arbeitsplatz oder in der Gesellschaft auf Ablehnung stoßen.

Eine umfassende Bildungsstrategie, die nicht nur technische Fähigkeiten, sondern auch ethische Überlegungen, interdisziplinäre Zusammenarbeit und lebenslanges Lernen einschließt, ist erforderlich, um auf die KI-geprägte Zukunft gut vorbereitet zu sein. Ein menschenzentrierter Ansatz, also ein Ansatz, bei dem der Mensch und nicht die Technik im Zentrum der Überlegungen steht, ist dabei von großer Bedeutung. In zahlreichen öffentlich geförderten Projekten werden daher die Mitarbeitenden in den Fokus genommen.

Die vom Bundesministerium für Arbeit und Soziales (BMAS) geförderten Zukunftszentren beispielsweise sollen Unternehmen, Arbeitnehmende und (Solo-)Selbstständige befähigen, den Wandel der Arbeit aktiv mitzugestalten. In Trägerverbünden werden „Regionale Zukunftszentren” (RZ) in verschiedenen Bundesländern realisiert, wobei jedes Zentrum gezielt auf die lokalen Bedürfnisse ausgerichtet ist. Auch die vom Bundesministerium für Wirtschaft und Klima (BMWK) geförderten Mittelstanddigitalzentren unterstützen kleine und mittlere Unternehmen praxisnah. Als Start der Entdeckungsreise bietet sich aber natürlich besonders auch der vom Bundesministerium für Bildung und Forschung (BMBF) geförderte KI-Campus an.

Anmerkung der Autorin: Dieser Text wurde ChatGPT-4 zur Verbesserung vorgelegt. Alles, was sich als Stil oder persönliche Note beschreiben ließe, wurde in der Überarbeitung durch die KI gelöscht. Wir haben uns für das Original entschieden. Sorry, Kollegin KI.

¹UNESCO. (2018). Global framework of reference on digital literacy skills for indicator 4.4.2: Percentage of youth/ adults who have achieved at least a minimum level of proficiency in digital literacy skill (Draft Report). Paris: UNESCO. ip51-global-framework-reference-digital-literacy-skills-2018-en.pdf (unesco.org)

²Misselhorn, Catrin: Künstliche Intelligenz – das Ende der Kunst?; 2023 erschienen bei Reclam

Francesca Hermani

Forschungsinstitut Betriebliche Bildung

Francesca Hermani ist wissenschaftliche Mitarbeiterin am Forschungsinstitut Betriebliche Bildung (f-bb) gGmbH. Für das Projekt „Zukunftszentrum Berlin – digitale Arbeitswelten gestalten“ verantwortet sie die Öffentlichkeitsarbeit und experimentiert täglich mit generativer KI. In unterschiedlichen Formaten unterstützt sie Berliner Betriebe bei den Themen Darstellung im (digital-)öffentlichen Raum und KI-unterstützte Öffentlichkeitsarbeit.

University:Future Festival 2024 – Das erwartet euch auf der KI-Campus-Stage in Heilbronn

Dr. Britta Leusing, Lucas Laux — Mon, 29 Apr 2024 08:00:00 +0000

Auch 2024 bringen wir das University:Future Festival (U:FF) mit der KI-Campus-Stage nach Heilbronn und per Livestream in euer Wohnzimmer. Ihr könnt euch auf inspirierende Talks unserer Keynote-Speaker:innen, vielfältige Workshops und faszinierende KI-Exponate freuen. Holt euch jetzt euer kostenloses Ticket!

Das University:Future Festival ist die größte Veranstaltung zur (digitalen) Zukunft der akademischen Bildung im deutschsprachigen Raum. 2024 wird das U:FF vom 5. bis 7. Juni vom Hochschulforum Digitalisierung (HFD) sowie von der Stiftung Innovation in der Hochschullehre (StIL) organisiert und vom Stifterverband unterstützt. Die KI-Campus-Stage widmet sich im Track „AI & Technology” aktuellen technologischen Trends und Visionen für die Hochschule, nicht nur digital, sondern auch live am 6. Juni auf unserer Partnerbühne in der Maschinenfabrik Heilbronn.

Highlights aus Heilbronn

In Heilbronn beleuchten wir zentrale Fragestellungen für die Zukunft der akademischen KI-Bildung: Wie können uns KI-Tools beim Lernen und Lehren unterstützen? Wie erwerben wir die notwendigen Kompetenzen, um fit für das KI-Zeitalter zu werden und es aktiv mitgestalten zu können? Wie kann KI verantwortungsvoll weiterentwickelt werden?

Highlights der KI-Campus-Stage sind unter anderem:

Elisabeth L'Orange (Oxolo) zur Rolle der Hochschulen für den KI-Innovationsschub in Deutschland
Doris Weßels (Fachhochschule Kiel) zur transformativen Kraft von generativer KI in der Hochschullehre
Gerd Kortemeyer (ETH Zürich) zu den Potenzialen individueller Lernassistenzen
Henri Zalbertus und Jan Plüer (Technische Universität München) mit einer studentischen Perspektive auf generative KI in der Hochschulverwaltung
Tobias Seidl, Sophia Mandel und Lilli Wiedemann (Hochschule der Medien Stuttgart) mit Zukunftsszenarien von Studierenden zur Hochschule in 2035

Besonderes Special in diesem Jahr: Neben der Live-Bühne erwarten euch spannende Meetups und Workshops mit Hands-on-Wissen zu KI. Freut euch zum Beispiel auf eine Prompting-Challenge, konkrete Möglichkeiten, KI in die Hochschullehre zu bringen, und Einblicke in KI im Kontext von Leadership. Und nicht zu vergessen: unser…

…Student Call: The floor is yours!

Studierenden und Promovierenden bieten wir beim U:FF eine große Bühne: Noch bis zum 12. Mai könnt ihr eure kreativen Ideen zu KI in der Hochschule bei unserem ⁠Student Call einreichen und live auf der KI-Campus-Stage präsentieren!

Das Publikum entscheidet, welches Projekt vom KI-Campus-Team bei der Weiterentwicklung unterstützt wird. Die Gewinner:innen erhalten ein individuelles Coaching mit Peter Hottum vom Karlsruher Institut für Technologie (KIT), Vernetzungsmöglichkeiten in der KI-Campus-Community und eine exklusive Folge in unserem Podcast „KI kapiert“.

Digital first, aber sehr gerne face to face

Das University:Future Festival ist „digital first“. Das bedeutet: Fast alle Programmpunkte finden online statt und die meisten Teilnehmenden sind digital dabei. Wir freuen uns aber ganz besonders über das persönliche Treffen mit euch im analogen Raum!

Alle, die in der Maschinenfabrik vor Ort sein werden, profitieren von persönlichen Austauschmöglichkeiten über die Region und den eigenen Tellerrand hinaus. Zusätzliche interaktive Angebote findet ihr nicht nur bei unseren Meetups und Workshops. Lernt spannende KI-Projekte kennen, die von zahlreichen Akteuren aus dem KI-Innovationsökosystem, das in Heilbronn rund um den Ipai entsteht, auf unserer Ausstellungsfläche präsentiert werden. Faszinierende Exponate aus Baden-Württemberg und darüber hinaus warten darauf, von euch ausprobiert und erforscht zu werden, wie zum Beispiel ein humanoider Roboterkopf, ein „Jobprofile Builder“ oder Kunstexponate zu Memes und Märchen.

Im Anschluss an das Programm laden wir euch ein, den Veranstaltungstag bei einem Networking-Event mit Musik, Buffet und Getränken ausklingen zu lassen. Als besonderes Highlight erwartet euch eine künstlerische Live-Performance zur Interaktion von Mensch und Maschine.

Einen ersten Eindruck bekommt ihr in unserem Recap-Video zur KI-Campus-Stage aus dem letzten Jahr. Beim U:FF 2023 waren über alle Bühnen und im digitalen Raum verteilt mehr als 5.000 Bildungsinteressierte dabei.

Egal, ob vor Ort oder online – meldet euch an und seid als Teil der KI-Campus-Community dabei. Die kostenlosen Tickets, weitere Informationen und das gesamte Programm findet ihr auf der Website des University:Future Festivals.

Der KI-Campus in Heilbronn

Unter Leitung des Stifterverbandes baut der KI-Campus mit Förderung der Dieter Schwarz Stiftung einen regionalen Hub für Baden-Württemberg in Heilbronn auf. Der Hub stärkt den KI-Innovationsstandort Baden-Württemberg mit digitalen Lernangeboten zum Thema Künstliche Intelligenz und vielfältigen Community-Aktivitäten.

Dr. Britta Leusing

Stellv. Leiterin der Geschäftsstelle

Stifterverband

Lucas Laux

Communication Manager

Stifterverband

Vom Digitalen zum Sozialen – Wie sich KI und Gesellschaft gegenseitig beeinflussen

Prof. Dr. Nicola Marsden — Tue, 05 Mar 2024 10:00:00 +0000

KI hat das Potenzial, unsere Gesellschaft tiefgreifend zu verändern. Deshalb ist es von entscheidender Bedeutung, dass wir einen verantwortungsvollen Rahmen für die Gestaltung und Implementierung dieser Technologien schaffen. Das Rahmenmodell für sozialverantwortliche KI-Gestaltung bietet einen solchen Ansatz, indem es den Prozess in vier zentrale Quadranten unterteilt: Produkt, Gesellschaft, Personen und Prozesse. Das Modell erkennt an, dass die Entwicklung und Anwendung von KI nicht isoliert von den sozialen Strukturen und Prozessen erfolgt, in denen sie eingebettet ist, sondern vielmehr eine Ko-Konstruktion von Gesellschaft und KI-Produkten darstellt.

Rahmenmodell für eine sozialverantwortliche KI-Gestaltung

Quadrant 1 – Produkt: Im ersten Quadranten liegt der Fokus auf den KI-Systemen selbst. Die Herausforderung besteht darin, KI so zu gestalten, dass sie gerecht ist und aktiv dazu beiträgt, Diskriminierungen zu identifizieren und zu verhindern, anstatt sie zu verstärken. Indem KI-Systeme entwickelt werden, die auf Ungleichbehandlungen aufmerksam machen und Stereotype nicht reproduzieren, können sie als Werkzeuge dienen, die Geschlechtergerechtigkeit und soziale Gerechtigkeit fördern. Dies erfordert ein tiefes Verständnis der potenziellen Bias in Daten und Algorithmen und die Entwicklung von Mechanismen, die diese Bias erkennen und korrigieren.

Quadrant 2 – Gesellschaft: Der zweite Bereich fokussiert die gesellschaftlichen Normen und Erwartungen, die unser Zusammenleben prägen. Hier geht es darum, durch Bildung und Sensibilisierung gegen Geschlechterstereotype anzukämpfen und eine Kultur der Gleichberechtigung zu fördern. Initiativen wie #Frauwirktdigital zeigen, wie wichtig es ist, Geschlechtergerechtigkeit in den Fokus zu rücken und konkrete Handlungsempfehlungen für die gleichberechtigte Teilhabe an der Nutzung und Entwicklung von KI-Systemen zu bieten.

Quadrant 3 – Personen: Die Menschen hinter der Technologie spielen eine entscheidende Rolle bei der Gestaltung von KI. Diverse Teams, die ein breites Spektrum an Perspektiven und Erfahrungen einbringen, sind unerlässlich, um KI-Systeme zu entwickeln, die gerecht und inklusiv sind. Der dritte Quadrant betont die Bedeutung von Gleichstellung und Teilhabe in den Entwicklungsteams. Die Förderung von Diversität in diesen Teams ist nicht nur eine Frage der sozialen Gerechtigkeit, sondern auch ein Schlüssel zu kreativeren und innovativeren KI-Lösungen.

Quadrant 4 – Prozesse: Der vierte Quadrant widmet sich den Prozessen und Methoden, die bei der Gestaltung von KI zum Einsatz kommen. Ein menschenzentrierter Ansatz, der die Nutzer:innen einbezieht und die Fairness der verwendeten Daten gewährleistet, ist hier von zentraler Bedeutung. Die Transparenz und Erklärbarkeit von KI-Systemen zu fördern, ähnlich der Auskunftspflicht über Inhaltsstoffe in der Lebensmittelindustrie, ist ein wichtiger Schritt hin zu einer sozialverantwortlichen KI.

Durch die gezielte Intervention in diesen vier Bereichen können wir nicht nur Diskriminierungen vermeiden, sondern auch einen positiven Beitrag zur Gesellschaft leisten. Die Implementierung dieses Rahmenmodells erfordert das Engagement aller Beteiligten, von den Führungskräften bis hin zu den Entwicklungsteams. Die bewusste Gestaltung unserer Arbeitsumgebungen und -prozesse, angefangen bei der Zusammensetzung unserer Teams, ist dabei der erste Schritt.

Diversität als Innovationsmotor

Diversität fördert Innovation – diese Erkenntnis ist inzwischen weit verbreitet und durch zahlreiche Studien belegt. Im Kontext von KI ist die Vielfalt der Perspektiven und Kompetenzen entscheidend, um Systeme zu entwickeln, die ethisch verantwortungsvoll, sozial akzeptabel und innovativ sind. Die Zusammenarbeit von Menschen unterschiedlichen Alters, Geschlechts und unterschiedlicher disziplinärer Hintergründe trägt dazu bei, blinde Flecken zu minimieren und Lösungen zu entwickeln, die eine breite Palette menschlicher Bedürfnisse und Erfahrungen widerspiegeln. Denn allzu oft sind die Teams, die unsere Zukunft gestalten, eher homogen aufgestellt hinsichtlich Alter und Geschlecht und könnten von mehr Vielfalt profitieren.

Die Notwendigkeit eines interdisziplinären Ansatzes

Aber es stellt sich auch die Frage nach einer weiteren Vielfalt: der Vielfalt der Kompetenzen und Disziplinen. Ein interdisziplinärer Ansatz in der KI-Entwicklung ermöglicht es, komplexe Probleme umfassender zu verstehen und realitätsnahe Lösungen zu entwickeln. Die Berücksichtigung von Aspekten der menschlichen Psychologie, Kultur und Gesellschaft ist unerlässlich, um Technologien zu schaffen, die von den Nutzenden akzeptiert und effektiv eingesetzt werden. Die Integration von Kompetenzen aus den Geistes- und Sozialwissenschaften, Kunst und Design sowie aus den empirischen Wissenschaften bereichert den Entwicklungsprozess und führt zu kreativeren und inklusiveren KI-Anwendungen.

Verschmelzung der Kompetenzen

Im KI-Bereich ist es nicht nur so, dass es die Zusammenarbeit zwischen den verschiedenen Disziplinen braucht. Für den KI-Bereich scheint auch die Zuordnung des Fachs zu einer Disziplin zunehmend schwierig. Die traditionelle Trennung zwischen technischen und nicht-technischen Aspekten wird im KI-Bereich immer unschärfer. Die Grundlagen selbstlernender KI-Systeme finden sich im Curriculum der Psychologie, während Sprachkompetenz ein Indikator für die Fähigkeit zum Programmieren sein kann.

Studien haben gezeigt, dass Sprachkompetenz ein besserer Prädiktor ist, um vorherzusagen, wie gut jemand Programmieren lernt, als mathematische Fähigkeiten. Ein Großteil der empirischen Sozialwissenschaften beschäftigt sich mit Data Science. Und das Strukturieren und Verfassen von klaren Texten, wie sie für das Erstellen von Prompts benötigt werden, wird in der Germanistik gelehrt. Diese Beispiele verdeutlichen die zunehmende Vermischung von technischen und nicht-technischen Fähigkeiten. Es besteht die Chance, dass die Grenzziehung zwischen technisch und nicht-technisch immer mehr verschwindet, je mehr KI in unseren Alltag und in sämtliche Bereiche unserer Gesellschaft integriert wird.

Geschlechterstereotype überwinden

Das Überwinden der traditionellen Trennung zwischen technischen und nicht-technischen Bereichen bietet uns als Gesellschaft eine wichtige Chance. Technische Felder gelten traditionell als männlich, während nicht-technische Bereiche als weiblich angesehen werden. Diese Einteilung führt zu einer „Vergeschlechtlichung“ der Berufsfelder, die Geschlechterungleichheiten verstärkt: Jungen werden oft technische Fähigkeiten zugesprochen, Mädchen hingegen soziale Kompetenzen. Das hat zur Folge, dass Mädchen seltener Fächer wie Informatik wählen, teilweise aus berechtigter Sorge, dass sie dort vereinzelt sind und ihre Kompetenz häufiger hinterfragt wird.

Die im Zeitalter von KI nicht mehr angemessene Einteilung in technische und nicht-technische Felder hätte also weitreichende Konsequenzen. Wenn es uns allen, die wir diese stereotype Assoziation von klein auf gelernt haben, gelingt, diese Dichotomie und die damit einhergehende Vergeschlechtlichung hinter uns zu lassen, dann ermöglicht dies nicht nur KI-Systeme, die ethisch verantwortlich, gesellschaftlich akzeptiert und auf vielfältige Weise innovativ sind. Vielmehr machen wir einen bedeutenden Schritt hin zu mehr Geschlechtergerechtigkeit. Wir bewegen uns auf eine Welt zu, in der sowohl Mädchen als auch Jungen frei von Geschlechterstereotypen ihren beruflichen Weg wählen können.

Zum Online-Kurs „Sozialverantwortliche KI-Gestaltung“

Prof. Dr. Nicola Marsden

Hochschule Heilbronn

Nicola Marsden ist Forschungsprofessorin für Sozioinformatik an der Hochschule Heilbronn und forscht inter- und transdisziplinär, oft in Reallaborsettings oder partizipativen Gestaltungsprozessen. Sie ist Expertin für Gender und IT, z. B. für den 3. Gleichstellungsbericht der Bundesregierung, auf EU-Ebene für ERAC SWG-GRI und für die Deutsche UNESCO-Kommission für KI und Gender. Sie leitet die Forschungseinheit Sozial-, Verhaltens- und Wirtschaftswissenschaften im Promotionsverband Baden-Württemberg und ist stellvertretende Vorsitzende des bundesweiten Kompetenzzentrums Technik-Diversity-Chancengleichheit.

Der TOOL TIP TUESDAY – Generative KI-Tools für wissenschaftliches Arbeiten

Caroline Berger-Konen — Tue, 20 Feb 2024 12:30:00 +0000

Als Reaktion auf die steigende Anzahl generativer KI-Tools mit neuen (Bildungs-)Potenzialen haben das Virtuelle Kompetenzzentrum: Künstliche Intelligenz und wissenschaftliches Arbeiten (VK:KIWA), die FernUniversität in Hagen (FeU) und der KI-Campus den TOOL TIP TUESDAY (TTT) ins Leben gerufen. Hochschulangehörige und alle Interessierten erhalten im Rahmen der Veranstaltungsreihe Einblicke in die Funktionsweisen von KI-Tools für das wissenschaftliche Arbeiten und können gemeinsam mit der Community Praxiserfahrungen teilen und reflektieren.

Bereits zum Start des TOOL TIP TUESDAYS im Oktober 2023 war das Interesse sehr groß. Aufgrund der positiven Resonanz wurde daher zu Beginn des Jahres 2024 der Veranstaltungsrhythmus erhöht, sodass nun jeden Dienstag von 12:00 bis 13:00 Uhr online via Zoom ein generatives KI-Tool aus der Perspektive von Lehrenden, Studierenden und Gästen (z. B. Tool-Entwickler:innen) vorgestellt wird. Die Veranstaltungen sind niedrigschwellig und kostenlos, eine Anmeldung vorab ist nicht erforderlich.

Erste Rückmeldungen heben vor allem hervor, dass das fall- und forschungsorientierte Ausprobieren der KI-Tools via Bildschirmteilung ein besseres Verständnis der Einsatzmöglichkeiten und Grenzen ermöglicht. Vor allem die Schilderung der Vor- und Nachteile der Tools durch die Vortragenden wird von den Teilnehmer:innen als hilfreich empfunden, um einen möglichen Einsatz in Lehre und Studium zu erörtern.

Der TOOL TIP TUESDAY bietet eine Anlaufstelle für alle Interessierten, die eine anwendungsorientierte und praktische Tool-Übersicht erhalten möchten. Darüber hinaus verfolgt der TTT das Ziel, gemeinsam mit der Community an dieses Orientierungswissen anzuknüpfen, um in einem nächsten Schritt überlegen zu können, ob und inwiefern KI-Tools die eigenen Lehr- und Lernprozesse unterstützen können. Use-Cases, Rahmenbedingungen, ethische Grundsätze und Datenschutzbestimmungen werden dabei stets aufgegriffen:

Inwiefern kann das generative KI-Tool unterstützend beim wissenschaftlichen Arbeiten und Schreiben oder auch beim Forschen und Lernen eingesetzt werden?
Welche Möglichkeiten und welche Einschränkungen (z. B. begrenzte Anzahl KI-generierter Wörter) bieten die verschiedenen Versionen?
Welche Zugangsvoraussetzungen sind erforderlich? Welche Zahlpläne oder Lizenzmodelle gibt es?
Wie verarbeitet und schützt das Unternehmen hinter dem KI-Tool persönliche und generierte Daten (z. B. hochgeladene PDF-Dokumente)?

Darüber hinaus bietet eine Q&A-Session am Ende der Veranstaltung die Möglichkeit, offen gebliebene Fragen gemeinsam mit der Community zu beantworten.

In den vergangenen Veranstaltungen wurden u. a. generative KI-Tools vorgestellt, mit denen ein lernförderliches Feedback (fiete.ai) generiert, Präsentationen kreativ gestaltet (Gamma.app), die Recherche und Inhaltsgenerierung erleichtert (perplexity.AI), (professionelles) wissenschaftliches Arbeiten und Schreiben unterstützt (neuroflash, ChatGPT, HARPA.AI, Build your GPT) sowie Korrekturen (Textshine) gestaltet werden können.

Alle Aufzeichnungen sowie Informationen zu bevorstehenden Veranstaltungen und zu den Referent:innen finden sich hier.

Wir freuen uns, wenn auch ihr beim nächsten Mal dabei seid!

Über den KI-Campus-Hub NRW

Der KI-Campus-Hub NRW der FernUniversität in Hagen unterstützt als eine zentrale Anlaufstelle Bildungsorganisationen in NRW dabei, den Transfer von Wissen über und mit Künstlicher Intelligenz in der Hochschulbildung zu stärken. Die Community of Practice „KI in der Hochschullehre nutzen“ verbindet dabei Expert:innen, Hochschulangehörige, Studierende und viele weitere Interessierte miteinander, um neue Impulse zu sammeln, Wissen auszutauschen, Best-Practices zu teilen und interdisziplinär zu vernetzen.

Über das VK:KIWA

Das Virtuelle Kompetenzzentrum für Künstliche Intelligenz und wissenschaftliches Arbeiten (VK:KIWA) ist ein Verbund von Spezialist:innen und Wissenschaftler:innen, die den KI-basierten Entwicklungen im Bereich des „Natural Language Processing“ zur Sicherstellung der Zukunftsfähigkeit und des Qualitätsanspruchs von Organisationen im Kontext von Bildung und Wissenschaft begegnen durch Information, Transformation, Forschung, Beratung und Schulung.

Caroline Berger-Konen

Wissenschaftliche Mitarbeiterin

FernUniversität in Hagen

Caroline Berger-Konen ist wissenschaftliche Mitarbeiterin am Lehrgebiet Bildungstheorie und Medienpädagogik der FernUniversität in Hagen. Für den KI-Campus ist sie für den Auf- und Ausbau von Community-Aktivitäten des KI-ExpertLabs Hochschullehre verantwortlich. In unterschiedlichen Formaten unterstützt sie hierbei den Austausch und Transfer zwischen Expert:innen, Stakeholdern und Nachwuchskräften zum Thema KI als wesentliche Grundlage für eine innovative, zukunftsorientierte Hochschulbildung.