Lernen und Lehren mit und über KI: Chancen für eine Reformierung der Bildung

Von Claudia Lemke, Dagmar Monett und Martin Bloomfield

Eine zeitgemäße Ausbildung im Bereich der Künstlichen Intelligenz ist essentiell, um zu verstehen, was KI bedeutet, wo ihre derzeitigen Grenzen liegen und welchen Beitrag sie für Wirtschaft und Gesellschaft tatsächlich leisten kann. Eine Erweiterung unserer digitalen Kompetenzen in der Einschätzung künstlicher Intelligenz ermöglicht uns eine bessere Beurteilung der Wirkungsweise digitaler und vernetzter Technologien. Damit können wir unsere Autonomie und Freiheit auch im digitalen Zeitalter bewahren.

Wir leben in einer Zeit zunehmender Algorithmierung. Unsere menschlichen Handlungen, die Interaktion mit der Welt und Beziehungen zu unseren Mitmenschen werden von Daten und ihren verarbeitenden Systemen, den Algorithmen, immer stärker dominiert. Digitale und vernetzte Technologien dringen immer tiefer in unser tägliches Leben und Arbeiten vor. Sie verändern unser menschliches Verhalten nachhaltig. Wir agieren in einer digital verwobenen realen Welt, in der Technologie nicht mehr nur Werkzeug, sondern inhärent mit uns verschmolzen ist als Teil unserer Identität (Floridi 2015).

Bislang nahm uns die Automatisierung menschlicher Denkaufgaben und körperlicher Arbeit nicht das Recht auf Freiheit und Autonomie der Entscheidungen. Die frühen Technologien des digitalen Zeitalters wiesen weniger Varianten an maschineller Intelligenz auf und stellten keine wirkliche Bedrohung für uns dar.

Mittlerweile erleichtern uns Smartphones und Tablets mit ihren Apps den Alltag und prägen immer stärker auch unsere berufliche Arbeitsweise. Soziale Netzwerke lassen uns die geografische Weite unserer Erde nur noch wie einen Klick weit entfernt erscheinen, während wir ohne ‚Google Maps‘ nicht mehr eine neue Stadt erkunden wollen oder können. Daten aus dem sogenannten Sensor-Web des Internets der Dinge versorgen uns mit den neuesten Wetterinformationen, überwachen unsere Wege oder kontrollieren den Schlaf unserer Kinder.

Für viele von uns, die sich nicht täglich mit diesen Technologien auseinandersetzen, bleibt verborgen, dass ein Großteil dieser Anwendungen Entscheidungen für uns trifft, bereits in Teilen autonom, und uns damit einem Teil unserer zivilisatorisch erkämpften Freiheit beraubt. Die Instanziierung von Künstlicher Intelligenz (KI) in den Technologien des reifen digitalen Zeitalters erfolgt bereits seit mehreren Jahren. Einzelne Methoden der KI klassifizieren mit ihren Algorithmen und den benötigten Daten Strukturen und bilden Muster, treffen Vorhersagen und zeigen uns Korrelationen aus einer scheinbar riesigen Datenmenge.

Für uns als Individuen, aber auch als Gesellschaft insgesamt, wird es immer essentieller, dass wir ein Grundverständnis über die Wirkungsweise von KI besitzen. Nur so können wir z.B. die Bestrebungen umfangreicher Arbeitsplatzautomatisierung besser einschätzen oder die datengetriebene Algorithmierung öffentlicher Dienste umfassender beurteilen. Voreingenommenheit und Diskriminierung in Daten und Algorithmen lassen sich leichter erkennen, ebenso wie eine automatisierte Reproduktion von Ungleichheiten und Benachteiligungen. Grundkenntnisse über die intelligente Verarbeitung von Daten befähigen uns zur Entwicklung differenzierter Urteile: z.B. hinsichtlich datenschutzrechtlicher Konsequenzen einer datenzentrierten Überwachung sowie in Bezug auf eine algorithmische Profilerstellung für z.B. personalisierte Werbung. Schlussendlich sollte es jedem Einzelnen als Konsument*in möglich sein, den Bestrebungen von Technologie-Konzernen zur Ausweitung datengetriebener Anwendungen selbstbewusster gegenüberzutreten.

KI und Bildung

KI als Teilgebiet der Informatik erlebt seit einiger Zeit nicht nur in den Medien eine extrem überzeichnete Aufmerksamkeit. Auch die Wirtschaft erhofft sich durch ihren Einsatz einen enormen Produktivitätsschub für alle Branchen. Mittels KI werden vollkommen neue Formen der Automatisierung menschlicher Aufgabenbereiche durch eine datengetriebene Entscheidungsfindung erwartet sowie neue Formen von Geschäftsmodellen mit ihren smarten Produkten und Services.

Auch in der Bildung zeigt sich eine zunehmende Algorithmierung. Die COVID-19-Pandemie verstärkte diese Tendenzen für eine digitalisierte Bildung. Der Markt der sogenannten Bildungstechnologien (engl. EdTech) wächst anhaltend. Es wird ein weiterer Wachstumsimpuls durch einen intensiveren Einsatz von KI-basierter EdTech erwartet. Wir nennen diese erste Betrachtungsebene KI für die Bildung.

Die notwendige breitere Information und Wissensvermittlung über KI erfährt einen Aufschwung. Insbesondere die Erkenntnis, dass Bürger*innen ihre Verantwortung gegenüber der Nutzung und den ethischen Implikationen von KI-Anwendungen besser wahrnehmen und beurteilen sollten, wird als Treiber dieser Entwicklungen gesehen. In Deutschland richtet sich z.B. eine Initiative des Stifterverbandes an alle Bevölkerungsschichten mit frei zugänglichen digitalen Lernangeboten über KI (www.ki-campus.org). Die Facette im Zusammenspiel von Bildung über KI bezeichnen wir als KI in der Bildung.

KI für die Bildung

Viele Bildungsforscher_innen, Lehrende und deren Institutionen erhoffen sich von einem stärkeren Einsatz KI-basierter EdTech die Personalisierung und Individualisierung des Lernens. Passgenaue Lernangebote unterstützen das individuelle Lernen. Voraussetzung dafür sind Algorithmen des Learning Analytics, die umfangreiche Daten über das Lernverhalten des Einzelnen sammeln und analysieren.

Auf dem ersten Blick liegen die Vorzüge einer individualisierten Lernanalyse klar auf der Hand. Ein standardisiertes Lernen wird durch personalisierte Lernkonzepte ersetzt, die entsprechend des Lernverhaltens einem hohen Lernerfolg garantieren. Lernende mit Lernschwierigkeiten oder einem erschwerten Zugang zum Lernen erhoffen sich davon keine Benachteiligungen mehr. Es ermöglicht ein selbstbestimmtes und eigenverantwortliches Lernen, das die Nachteile eines gleichgeschalteten Lernens obsolet werden lässt und soziale Ungleichheiten verringert.

Kritiker sehen jedoch die Entstehung eines Modells nach dem Vorbild von Netflix („Netflix for Education“), das zu einem konsumenten- und erlebnisorientierten digitalisierten Lernen führt. Die Aneignung von Wissen und dessen Vernetzung durch die Interaktion zwischen Lernenden und Lehrenden bleiben auf der Strecke. Bildung wird auf ein oberflächliches Konsumieren reduziert. Solche Strukturen verschärfen den Wettbewerb zwischen traditionellen und digitalen Bildungsanbietern und degradieren den gesellschaftlichen Wert von Bildung. Denn ein automatisiertes Lernverhalten bietet detaillierte Rückschlüsse auf die Lerninhalte und deren didaktische Aufbereitung. Es liefert somit die Grundlage für die Transformation der Bildung zur Industrie, bei der Lernen immer stärker über den Preis als handelbare Ware gesteuert wird.

KI-basierte EdTech kann auch für einen Datenmissbrauch und zur Manipulation von Lernenden und Lehrenden genutzt werden. Sie eignen sich für eine Überwachung der Lernenden und Lehrenden, ermöglichen umfangreiche Nutzerauswertungen und liefern detaillierte Aussagen über individuelle Leistungsvermögen. Die Zunahme KI-basierter Anwendungen in der Bildung bewirken, dass sich Lernende und Lehrende immer stärker an die Technologie anpassen müssen. Das kann zur Verstärkung von Benachteiligungen und zu Diskriminierung führen. Die erhoffte Demokratisierung von Bildung durch die Digitalisierung wird dadurch konterkariert.

Zu KI-basierter EdTech gehört auch der Einsatz von Robotern. Und gerade Lernende mit neurodiversen Eigenschaften, wie z.B. autistische Schüler_innen, können mit Hilfe von Unterrichtsrobotern einfacher lernen und erzielen weitaus bessere Lernerfolge (vgl. z.B. www.herts.ac.uk/kaspar/the-social-robot).

Zusammenfassend lässt sich sagen: Zur Sicherstellung eines gleichberechtigten, diversen und inklusiven Zugangs zu Bildung im digitalen Zeitalter ist es essentiell, KI-basierte Bildungstechnologien dem Gedanken öffentlicher Güter zu unterziehen. Sie müssen allen gleichermaßen und ohne Einschränkungen zur Verfügung stehen bzw. von allen Bildungseinrichtungen genutzt werden können. Als präferierte open-source-Technologie inkl. offener Lerninhalte dürfen keine technologischen Abhängigkeiten von einzelnen digitalen Lernplattformen erzeugt werden.

KI in der Bildung

KI in der Bildung meint ein zu lehrendes Unterrichtsfach in der allgemeinen Schulbildung, der akademischen Bildung und im professionellen Trainingsbereich. Es hat die Aufgabe, die notwendigen Grundkenntnisse über KI zielgruppengerecht zu vermitteln, um die digitalen Fertigkeiten und Kompetenzen jedes Einzelnen zu fördern für eine gleichberechtigte Teilhabe am digitalen Leben der Zukunft.

Es gilt hier jedoch zwischen einer spezialisierten und generalistischen Wissensvermittlung zu unterscheiden. Spezialist_innen konzipieren, entwickeln und betreuen größtenteils die Vielfalt möglicher KI-Anwendungen in Wirtschaft und öffentlicher Verwaltung. Sie forschen an der Weiterentwicklung von KI ganz allgemein und beschäftigen sich insbesondere auch mit ethischen Fragestellungen für einen verantwortungsvollen Umgang von KI für uns alle. Zu den wesentlichen anzustrebenden Fertigkeiten gehören analytisches Denken, Fachkenntnisse über konkrete KI-Algorithmen, Umgang mit Daten und Tools sowie gesellschaftliche und ethische Aspekte der Entwicklung und Anwendung von intelligenten Artefakten.

Ein generalistisches Wissen über KI hingegen hilft uns als Gesamtgesellschaft, die Herausforderungen unserer technologie-getriebenen Welt besser zu meistern, Vertrauen und Zuversicht zu fördern und Verantwortung zu übernehmen. Letztlich trägt ein Grundlagenwissen in der Breite auch dazu bei, die Arbeitsmarktfähigkeit aller zu erhöhen für eine erfolgreiche Transformation unserer Wirtschaft und Gesellschaft. Aus volkswirtschaftlicher Sicht werden die Güte über unsere vorhandenen Spezial- und Grundkompetenzen in dieser Schlüsseltechnologie darüber entscheiden, ob die Chancen für eine Technologieführerschaft auch in Zukunft vorhanden sind. Für Europa bedeutet das insbesondere ein Gegengewicht gegenüber den USA und China aufzubauen, um deren KI-Vormachtstellung aufzuholen und vor allem KI-Anwendungen mit den moralischen Werten der europäischen Staatengemeinschaft zu entwickeln und zu nutzen.

KI-Anwendungen besitzen die grundlegende Fähigkeit für autonome Entscheidungen, die unsere Freiheit bzw. unseren freien Willen beschränken können. Anders, als die stetige Forderung einer Basis-Informatikausbildung in der Breite, das Computational Thinking, erfordert KI in der Bildung die explizite Wissensvermittlung ethischer Grundlagen. Dies gilt für Generalist_innen und Spezialist_innen gleichermaßen. Das Ziel sollte sein, die Wahrnehmung gegenüber ethischen Fragestellungen und deren moralischen Implikationen zu erhöhen (Digital Ethical Self-Awareness), damit sowohl KI-Entwickler_innen als auch –Anwender_innen bessere Entscheidungen treffen können. Im Ergebnis wird eine der fundamentalsten Forderungen im Umgang mit KI besser erfüllbar sein: Ethisch ausgewogenere Konzepte und Lösungen zu finden, die helfen, Diskriminierung und Voreingenommenheit zu vermeiden, unsere Privatsphäre umfassender zu schützen und unseren freien Willen besser zu bewahren.

Stärkung eines KI-ethischen Bewusstseins durch Gamification

Unsere Wertvorstellungen, Normen und Haltungen werden durch kulturelle Zugehörigkeit bestimmt (Inglehart/Wetzel 2010). Technologie selbst kann nicht neutral sein, da in ihr “die Normen und Werte ihrer menschlichen Schöpfer*innen” enthalten sind (Loh 2019, 205). Daraus ergeben sich eine Reihe unterschiedlicher Konsequenzen für die Vermittlung eines (digital-)ethischen Denkens. Zum einen können KI-Anwendungen kaum universell sein, zum anderen entscheiden die Menschen des jeweiligen Kulturkreises, ob sie durch die Benutzung Nachteile erfahren oder nicht.

Das Narrativ des selbstfahrenden Autos wird gern als Beispiel zur Diskussion ethischer Implikationen durch KI-Anwendungen herangezogen. Das deutsche Grundgesetz verbietet die Instrumentalisierung des Menschen gemäß unserer deontologischen ethischen Auffassung (Pflichtenethik). Die angelsächsische Ethik des Konsequentialismus oder der Zweckethik hingegen würde eine Aufrechnung von Opfern bei einem eventuellen Unfall durch eine Maschine erlauben und nach dem Nutzenprinzip entscheiden (Simanowski 2020, 25). Wie sollten nun solche autonomen Fahrzeuge der Zukunft ausgestattet sein und wie sind Entscheidungen zu treffen, wenn ein “englisches” (d.h. ein utilitaristisches Fahrzeug) in Deutschland einen Unfall verursacht und entsprechend seiner Nutzenabschätzung einen älteren Menschen zugunsten einer Gruppe von Kindern tötet? Es ist nur ein beispielhafter Ausschnitt der vielfältigen ethischen Fragen rund um KI, der zeigt, welche enorme Verantwortung KI-Designer_innen besitzen bei der Gestaltung und Implementierung.

Eine spielerische Vermittlung (Gamification) grundlegender ethischer Fragestellungen scheint am geeignetsten, fördert ein Verständnis über das Verhalten unterschiedlicher Kulturkreise und schärft den Blick für eine ethische Beurteilung von Ergebnissen, die durch die Datenverarbeitung der Algorithmen der KI erzeugt werden.

Der spielerische Umgang fördert bei den Lernenden ein ethisches Bewusstsein und verdeutlicht die Unterschiede zwischen den drei wesentlichen Moraltheorien (Zweck-, Pflichten- und Tugendethik) und hilft, diese besser zu verstehen. Es erlaubt eine persönliche Einordnung in die Moraltheorie, an der sie sich am natürlichsten orientieren. Durch die Auswahl eines konkreten Spiels können grundlegende Normen und Werte verinnerlicht werden, ehe sie gegen die Überzeugungen einer der Moraltheorien geprüft und reflektierbar werden. Die Spiele selbst entwickeln sich von allgemeinen Ethik-Fragen zu konkreten. Damit können ethische Unterschiede in der Auffassung thematisiert und gelöst werden, da Verbindungen und Übereinstimmungen zwischen den Lernenden gefunden werden können.