Title: KI-Anwendungen im Unterricht: Hinweise zum Umgang
Course: Textgenerierende KI-Anwendungen (z.B. ChatGPT) in Schule und Unterricht

Wie soll mit dieser neuen Möglichkeit schulisch umgegangen werden?
Die Zugänglichkeit von KI-Textgeneratoren ist in ihren Auswirkungen zurzeit kaum abzuschätzen. Expertinnen und Experten aus Wissenschaft und Forschung betonen einvernehmlich, dass die Auswirkungen derartiger KI auf das Bildungssystem und die Berufswelt immens sein werden. Vor dem Hintergrund des Bildungs- und Erziehungsauftrags von Schule muss sich das Bildungssystem daher mit diesen neuen Entwicklungen und Auswirkungen befassen: Je nach Perspektive kann KI aus Sicht der Betrachterin bzw. des Betrachters Chancen bieten und neue Perspektiven eröffnen oder neue Herausforderungen oder auch Gefahren bergen. Beiden Perspektiven sind in den Blick zu nehmen. Wir möchten Sie daher bitten, sich offen und konstruktiv mit den neuen Möglichkeiten auseinanderzusetzen und diese im Unterricht zu thematisieren.

Darf eine textgenerierende KI im Unterricht eingesetzt werden?
Der Einsatz von KI-Anwendungen wird in vielen Lebens- und Arbeitsbereichen zunehmend an Bedeutung gewinnen. Im Sinne des Bildungs- und Erziehungsauftrags von Schule, zu dem auch ein verantwortungsbewusster und sicherer Umgang mit Medien in der digitalen Welt zählt (§ 2 Absatz 6 Nummer 9 SchulG), ist es auch Aufgabe von Schule, die Schülerinnen und Schüler im Rahmen des Unterrichts mit KI vertraut zu machen und gemeinsam im geschützten Raum zu erfahren, wie KI-basierte Textgeneratoren funktionieren, welche Potentiale, aber auch welche Risiken damit verbunden sein können. Ein Verbot, KI im Unterricht zu thematisieren und auch didaktisch zu nutzen, kann vor dem Hintergrund einer sich äußerst dynamisch weiterentwickelnden Welt, in der die Schülerinnen und Schüler leben, keine tragfähige Reaktion sein. Es ist daher wichtig, dass Unterricht und Schule sich weiter öffnen und gemeinsam mit den Schülerinnen und Schülern die Weiterentwicklungen reflektiert werden. Es liegt auf der Hand, dass KI für Schülerinnen und Schüler von hohem Interesse ist und damit stark an ihre Lebenswelt angeknüpft werden kann.

Vor welchem Hintergrund soll die Beschäftigung mit KI-Anwendungen stattfinden?
Der Medienkompetenzrahmen NRW (MKR NRW) für alle Schulformen der Primar- und Sekundarstufe I bzw. die Handreichung zur Integration digitaler Schlüsselkompetenzen in die Berufliche Bildung zeigen den Rahmen auf, in dem eine Beschäftigung mit KI-basierten Textgeneratoren sinnvoll ist.

Die Schülerinnen und Schüler der Primar- und Sekundarstufe I sollen ...

a. | ihren Funktionsumfang kennen und lernen, sie kreativ, reflektiert und zielgerichtet einzusetzen (1.2 MKR NRW)
b. | die produzierten Informationen bewerten (2.3 MKR NRW)
c. | die grundlegende Funktionsweisen verstehen und bewusst nutzen (6.1 MKR NRW)

Bei der Beschäftigung mit textgenerierenden KI-Anwendungen können folgende drei Perspektiven (in Anlehnung an das Dagstuhl-Dreieck) leitend sein:

1. | technologische Perspektive (Wie funktioniert ein KI-Textgenerator?)
2. | gesellschaftlich-kulturelle Perspektive (Welche gesellschaftlichen Auswirkungen hat der Einsatz von KI?)
3. | anwendungsbezogene Perspektive (Wofür kann der Chatbot genutzt werden und worauf ist zu achten?)

Um beispielsweise die anwendungsbezogene Perspektive im Unterricht zu thematisieren, kann gemeinsam ausprobiert werden, wie man Prompts (= Anfragen bzw. Anweisungen, die an die KI gestellt werden) geschickt formuliert, um die gewünschte Antwort zu erhalten. Hierzu gibt es im Netz zahlreiche Anleitungen. Die Ausgaben des Chatbots können zudem auf Fehler, Unschärfen und Lücken geprüft werden. Insbesondere auch in den Naturwissenschaften und der Mathematik lassen sich häufiger Fehlinformationen oder falsche Ergebnisse finden, die wiederum als Ausgangspunkt für eine Diskussion über die Funktionsweise und die zielführende Nutzung des Chatbots genutzt werden können. (Beispielversuch: Lösung einer einfachen quadratischen Gleichung: Die von ChatGPT verwendete Formel ist in der Schule unüblich, zudem verrechnet sich der Chatbot im letzten Schritt. Diesen Fehler können alle Lernenden nachvollziehen, als Differenzierung nach oben könnten Schülerinnen und Schüler nachprüfen, dass die angegebene Formel gilt.)

Welche rechtlichen und praktischen Rahmenbedingungen sind bei der Nutzung im unterrichtlichen Zusammenhang zu beachten?
Im Zusammenhang mit dem Einsatz von KI-Anwendungen im Unterricht sind verschiedene rechtliche Aspekte zu beachten, insbesondere im Hinblick auf die Verarbeitung, Auswertung und ggf. Weitergabe personenbezogener Daten, die derzeit noch nicht abschließend bewertet werden können. Dies auch deswegen, weil die jeweiligen Anwendungsmöglichkeiten und Nutzungsbedingungen von KI-Anwendungen unterschiedlich sein können.

Unabhängig davon gilt, dass der Einsatz von KI-Anwendungen im Unterricht – wie bei der Nutzung einer Online-Plattform oder einer App auch – nur unter Beachtung der geltenden und bekannten datenschutzrechtlichen Vorgaben erfolgen darf. Die Verantwortung für die Einhaltung des schulischen Datenschutzes trägt die Leiterin oder der Leiter der jeweiligen Schule. Dabei ist sorgfältig zu prüfen, inwieweit personenbezogene Daten der Nutzerinnen und Nutzer anfallen und ggf. technische oder organisatorische Maßnahmen zu deren Schutz zu ergreifen sind.

Hinweise darauf, welche Daten der Anbieter einer KI-Anwendung verarbeitet, finden sich insbesondere in der Datenschutzerklärung und den Allgemeinen Geschäftsbedingungen. Dies können z. B. Daten sein, die zur Nutzung grundsätzlich erforderlich sind, wie bei der Erstellung eines Kontos (hier sind eventuell Altersgrenzen zu beachten). Aber auch solche Daten, die bei der konkreten Nutzung (automatisch) entstehen. Wichtig ist daher, dass ein Anbieter transparent über seine Datenverarbeitung informiert und insbesondere über Rechte auf Löschung.

Mit Blick auf die verschiedenen Nutzungsszenarien in der Schule und der bisherigen Erkenntnisse über die Nutzungsbedingungen einer KI-Anwendung, wie beispielsweise ChatGPT, lassen sich folgende Einschätzungen und Hinweise ableiten: Die Nutzung von ChatGPT im Unterricht mit eigenen Geräten der Schülerinnen und Schüler bzw. über eigene Accounts/E-Mail-Adressen kann angesichts der aktuellen Sach- und Rechtslage (gerade mit Blick auf die datenschutzrechtlichen Vorgaben) nicht empfohlen werden.

Sofern Lehrkräfte auf freiwilliger Basis über einen Zugang zu ChatGPT oder anderen KI-Anwendungen verfügen, können sie diesen nutzen, um im Plenum mit den Schülerinnen und Schülern mit der KI-Anwendung zu arbeiten. Dabei ist wie bei allen anderen Anwendungen auch zu beachten, dass keine personenbezogenen Daten der Schülerinnen und Schüler übertragen werden. Dies wäre z.B. der Fall, wenn man Prompts nutzt, die einen Zusammenhang zur Klasse oder zu einzelnen Schülerinnen und Schülern herstellen.

Es wird empfohlen, auch die Eltern im Sinne der Bildungs- und Erziehungspartnerschaft über die Art der Nutzung einer KI-Anwendung im Unterricht und den Rahmen der rechtlich zulässigen Möglichkeiten zu informieren. Ebenso kann die Information über KI-Anwendungen in den Mitwirkungsgremien dazu beitragen, etwaige bestehende Verunsicherung abzubauen.

Wie die Nutzung durch Schülerinnen und Schüler mit eigenem Account ggf. zukünftig möglich ist, hängt von der Ausgestaltung der AGBs und der Datenschutzrichtlinien der Anwendung(en) im jeweiligen Einzelfall ab.

Für die schulische Praxis hilfreich können auch erste Einschätzungen aus Sicht schulischer Datenschutzbeauftragten sein.

Unterrichten digital:
ChatGPT und der Datenschutz - eine erste Einschätzung

Datenschutz-schule.info
ChatGPT - AI Chat

Weitere Informationen

EU:
Ethische Leitlinien für Lehrkräfte über die Nutzung von KI und Daten für Lehr- und Lernzwecke

Medienberatung NRW:
Datenschutz und Datensicherheit

Beat Döbeli Honegger:
ChatGPT und Schule

B.Busse, I.Kleiber,
F. C. Eickhoff, K. Andree:
Hinweise zu textgenerierenden KI-Systemen im Kontext von Lehre und Lernen

Prof. Enkelejda Kasneci:
ChatGPT kann zu mehr
Bildungsgerechtigkeit führen

Prof. Enkelejda Kasneci et al.:
ChatGPT for Good? On Opportunities and Challenges of Large Language Models for Education

Annette Kuhn:
In zehn Jahren wird die
Schule ganz anders aussehen

Annette Kuhn:
ChatGPT in der Schule –
Verbieten oder damit arbeiten?

klicksafe:
ChatGPT in der Schule –
Wie damit umgehen?