Title: Textgenerierende KI (z.B. ChatGPT) - Potentiale und Grenzen
Course: Textgenerierende KI-Anwendungen (z.B. ChatGPT) in Schule und Unterricht

Was sind textgenerierende KI (z.B. ChatGPT)?
Auch wenn ChatGPT im Moment die Diskussion dominiert und daher auch hier im Text exem-plarisch benannt wird, gibt es zahlreiche weitere KI-Anwendungen im Bereich der Kunst- und Videoproduktion, der Recherche, der Übersetzung oder als Planungs- und Strukturierungshilfe, die unsere Arbeits- und Lernprozesse verändern und damit auch für das Lehren und Lernen in den Schulen von Bedeutung sind. Es steht zu erwarten, dass sehr rasch weitere textgenerierende KI-Anwendungen (z.B. you.com oder BARD) auf den Markt kommen werden.

Eine textgenerierende KI wie ChatGPT ist ein Chatbot, der in verschiedenen Sprachen Fragen beantworten, Texte zusammenfassen oder bewerten, Gedichte oder auch Computerprogramme schreiben, Texte übersetzen oder MultipleChoice-Tests erstellen kann sowie vieles mehr. Bemerkenswert ist, dass ChatGPT in der Lage ist, auch Zusammenhänge zwischen aufeinanderfolgenden Texteingaben zu berücksichtigen, sodass der Eindruck einer Unterhaltung entsteht. Basierend auf dem Sprachmodell GPT (generative pre-trained transformer) generiert der Chatbot umfangreiche Antworten auf die Texteingaben der Benutzerin oder des Benutzers. Dabei variieren die Antworten bei jeder Eingabe, weil der Text jedes Mal neu erzeugt wird. Vereinfacht kann man sich vorstellen, dass der Algorithmus gelernt hat, welche Zeichenfolgen in einem Text häufig aufeinander folgen.

So beantwortet ChatGPT Frage "Was ist ChatGTP?"
"ChatGPT ist ein künstlicher Intelligenz-basierter Chatbot, der von OpenAI trainiert wurde. Es kann auf natürliche Sprache basierende Fragen beantworten und Konversationen führen. GPT (Generative Pretrained Transformer) ist dabei ein maschinelles Sprachverarbeitungsmodell. Es wurde auf einer großen Menge an Texten trainiert, um eine Vielzahl von Aufgaben in der Sprachverarbeitung auszuführen, wie z.B. Textgenerierung, Textkomplettierung, Textklassifikation und maschinelle Übersetzung. GPT nutzt die Transformer-Architektur, die es ihm ermöglicht, Zusammenhänge in langen Sequenzen von Daten zu verstehen."

Was können textgenerierende KI leisten?
Es stehen u.a. folgende Anwendungsmöglichkeiten zur Verfügung:

1. Erstellung von Texten:
Mit eindeutigen Anweisungen und Fragen (Prompt) können Texte nach vorgegebener Textform oder Stilrichtung erstellt werden.

2. Bearbeitung von Texten:
Auch zur Bearbeitung von bereits vorhandenen Texten kann der KI-Textgenerator eingesetzt werden. Der Chatbot kann eine mögliche Strukturierung eines Textes, Formulierungshilfen oder Korrekturvorschläge anbieten.

3. Bewertung von Texten:
Ebenso ist eine Bewertung von erstellten Texten nach vorgegebenen Kriterien (AES – Automated Essay Scoring) möglich. Auf diese Weise ist es möglich, ein schnelles und direktes Feedback zu erhalten und damit die eigenen Fähigkeiten zu verbessern sowie Schreibprozesse durch direkte Rückmeldungen zu steuern.

Der Begriff „Text“ ist hier weit zu verstehen: Eine textgenerierende KI wie ChatGPT kann auch mathematische Gleichungen anbieten oder lösen sowie Computerprogramme generieren und analysieren. Die Ergebnisse sind aber häufig fehlerhaft (siehe Beispiel).

ChatGPT und Mathematik

So beantwortet ChatGPT die Frage "Was ist ein Prompt?"
"Ein Prompt ist eine vorgegebene Aufforderung oder Anweisung, die dazu dient, eine bestimmte Aktion auszulösen oder eine bestimmte Antwort zu generieren. In der KI-Spracherkennung und -verarbeitung bezieht sich ein Prompt aufden Input-Text, den ein Benutzer oder ein Programm in eine Text-Eingabebox eingibt, um eine bestimmte Aktion auszulösen oder eine Antwort von einem KI-Modell zu erhalten. Beispiele für Prompts in einer Chatbot-Umgebung können sein: "Wie wird das Wetter morgen?" oder "Erkläre mir den Magnetismus"."

Warum kann es zu Fehlinformationen bei textgernerierenden KI-Anwendungen kommen?
Texte können durch den Einsatz von textgenerierender KI viel schneller, einfacher und in größerem Umfang erstellt werden als bisher. Auch wenn ein KI-generierter Text überwiegend belastbare Fakten enthält, können darin auch Falschaussagen enthalten sein, die ihrerseits den Anschein erwecken, auf Fakten zu basieren. Je besser allerdings die Mittel sind, mit denen Texte eine Wirklichkeit vortäuschen, desto schwieriger wird es sein, sich reflektiert zu ihnen zu verhalten.

Auf der Internetseite des Anbieters OpenAI werden beispielsweise Nutzerinnen und Nutzer vor der Nutzung von ChatGPT darauf hingewiesen, dass die KI-Anwendung ...

1. | gelegenlich falsche Informationen generiert
2. | gelegentlich schädliche Hinweise oder herablassende Inhalte produziert
3. | ein begrenztes Wissen über die Welt und die Ereignisse nach 2021 besitzt

Konsequenzen für die Schule und den Unterricht
Deshalb ist es besonders wichtig, das Thema „Fehlinformation“ im Unterricht in den Blick zu nehmen. Dabei sollte bei den Schülerinnen und Schülern vor allem das Bewusstsein dafür geschärft werden, dass die generierten Antworten fehlerhaft sein oder Lücken aufweisen können. Das Training von ChatGPT z.B. wurde im Sommer 2021 abgeschlossen, die Welt nach diesem Zeitpunkt ist also zunächst noch unbekannt. Textgenerierende KI wie ChatGPT füllen zudem „Wissenslücken“ mit Neukombinationen von Textfragmenten oder Ausschmückungen. Das zugrundeliegende Sprachmodell ist so trainiert, dass es Texte erstellt, die sich lesen, als seien sie von einem Menschen verfasst. Da die KI-Anwendung maschinell lernt, ist auch für die Entwicklerinnen und Entwickler nicht genau vorherzusagen, welche Antwort auf welche Eingabe erfolgt. Optimierte man das Training mit dem Ziel, nur belastbare Fakten auszugeben, könnte das dazu führen, dass häufig keine Antwort gegeben werden könnte, was nicht die Zielrichtung des Sprachmodells ist. Das System zielt somit verstärkt auf Eloquenz und nicht auf Wahrheit. Daneben besteht auch durch die Textgenerierung selbst ein gewisses Risiko, dass fehlerhafte oder unvollständige Aussagen getroffen werden, weil die Erstellung des Textes auf Wahrscheinlichkeiten beruht. Die produzierten Inhalte dürfen also nicht unreflektiert übernommen, sondern müssen von den Lernenden kontrolliert werden. Dies ist nur möglich, wenn die Lernenden vorher ausreichend eigenes Wissen über den Gegenstand erworben haben.

ChatGPT: Das sprachgewaltige Plappermaul
https://www.spektrum.de

Damit gewinnt Medienkompetenz noch einmal an Bedeutung. Gerade die Fähigkeit, Fake News von Fakten auf der Grundlage eines eigenen gesicherten Wissens zu unterscheiden, wird immer wichtiger werden. Hier ein Beispiel:

Welche 15 Personen hatten das Amt der Bundeskanzlerin / des Bundeskanzlers inne?
ChatGPT listet neun Personen auf. Fehlen Personen? Oder stimmt die Zahl 15 nicht?

Gibt die KI neutrale und vorurteilsfreie Antworten?
Die Trainingsdaten des ChatGPT beruhen zu einem hohen Prozentsatz auf englischsprachigen Texten. Es ist daher anzunehmen, dass alleine dadurch ein eher westlich geprägter Blick auf die Welt die Grundlage für die durch die KI erzeugten Texte ist. Genaue Aussagen hierzu lassen sich nicht treffen, weil das Modell für die Wissenschaft nicht einsehbar ist. Es gibt aber bereits Ansätze, eine KI mit Datensätzen in verschiedenen Sprachen und aus vielen verschiedenen Ländern zu trainieren, um ein möglichst diverses Sprachmodell zu erzeugen. Problematisch bleibt hingegen, dass für das Training sehr große Datenmengen benötigt werden, die nur im Internet zu finden sind. Dadurch passiert es immer wieder, dass auch verbreitete Vorurteile und ethisch-moralisch zumindest fragwürdige Texte zu den Daten gehören, mit denen die KI trainiert wird. Ein Aussortieren unerwünschter Trainingsdaten ist nicht sinnvoll möglich, da viele geeignete Texte mit herausgefiltert würden. Alternativ könnten die Ausgaben des Chatbots überprüft und gefiltert werden, sodass anstößige Inhalte nicht mehr angezeigt oder durch festgelegte Antworten ersetzt würden. Dennoch lassen sich durch gezielte Benutzereingaben auch beleidigende Textbausteine erzeugen.
Entscheidend bleibt auch hier der Filter „Mensch“. Durch ein nachträgliches Training lässt sich in einem gewissen Umfang verhindern, dass problematische Inhalte ausgegeben werden. Wichtiger ist aber, sich beim Verwenden des Chatbots darüber bewusst zu sein, dass sprachgewandte Texte nicht zwangsläufig wahr und vor allem kein Hinweis auf die Intelligenz oder gar ein Bewusstsein der KI sind. Die Aufgabe von Schule und Unterricht ist es daher, in besonderer Weise dafür zu sensibilisieren, dass antisemitische, rassistische, sexistische, beleidigende oder menschenverachtende Inhalte von den Schülerinnen und Schülern als solche erkannt werden.

Wie baut man einen Chatbot,
der weder rassistisch noch sexistisch ist?
https://www.heise.de

Wie kann ich die textgenerierende KI ChatGPT nutzen?
Derzeit ist der Zugriff auf ChatGPT über einen Browser kostenfrei möglich. Der Hersteller OpenAI bietet neben der frei zugängichen auch eine kostenpflichtige Variante an, welche auf einer früheren Version von GPT-3 fußt. Über folgende Internetadresse ist die kostenfreie Fassung von ChatGPT für das eigenständige Testen erreichbar:

https://chat.openai.com

Was ist zu beachten?

1. | Vor der Nutzung von ChatGPT ist eine Registrierung mit der Übermittlung von personenbezogenen Daten (E-Mail-Adresse und Mobilfunknummer) notwendig.
2. | Beim Verwenden von ChatGPT werden personenbezogene Daten übertragen, im nicht-europäischen Ausland gespeichert und verarbeitet.
3. | Die Nutzungsbedingungen gestatten eine Verwendung von ChatGPT erst ab 18 Jahren. Schülerinnen und Schüler unter 13 Jahren  dürfen die Anwendung nur mit Zustimmung der Eltern nutzen.

Nach einer erfolgreichen Anmeldung kann die Nutzerin bzw. der Nutzer die Internetseite von ChatGPT aufrufen und dort einen Prompt in das Textfeld eingeben. Die Unterhaltung mit dem Chatbot beginnt.