Unterhaltungen mit ChatGPT – dem Sprachmodell auf die Zunge geklopft

ChatGPT, das Sprachmodell von OpenAI, ist aktuell in heftiger Diskussion. Die Texte, welche ChatGPT ausgibt,  sind darauf trainiert, mit möglichst hoher Wahrscheinlichkeit als echt zu erscheinen.

Dies führt naturgemäß zu Befürchtungen, dass ChatGPT nun dazu genutzt werden könnte, um zum Beispiel Prüfungen oder Klausuren zu beantworten, statt dass diese Aufgabe von Prüflingen erarbeitet werden.

So schrieb Florian Eigner kürzlich die Frage:

These: Künstliche Intelligenz wird im Bildungsbereich keinen Stein auf dem anderen lassen. Früher quälte man sich tagelang mit einer Aufgabe, heute googelt man die Lösung, morgen lässt man sie sich vom Chatbot erklären. Wer bereitet das Bildungssystem rechtzeitig darauf vor?https://twitter.com/florianaigner/status/1609917708144877575

 

Eine weitere Frage besteht darin, ob ChatGPT nicht auch die Fragen und Gespräche mit Personen selbst speichert um diese bei Folgefragen auszuwerten oder als Trainingsdaten zu verwenden.

Vor einigen Tagen stellte ich daher ChatGPT eine Frage zum Spiel World of Warcraft:

Was geschah vor dem alten Zeitalter in WoW?

ChatGPT antwortete korrekt mit einem Teil der Lore:


Das Alte Zeitalter von World of Warcraft ist der Zeitraum, der sich von der Erschaffung der Welt von Azeroth bis zum Anbeginn des Frühen Mittleren Zeitalters erstreckt. Davor gibt es in der Lore von World of Warcraft keine weiteren bekannten Zeitalter oder Ereignisse.

Laut der Hintergrundgeschichte von World of Warcraft waren die Titans, mächtige, kosmische Wesen, die für die Erschaffung der Welt von Azeroth verantwortlich waren. Sie formten die Welt und füllten sie mit Leben, indem sie die ersten Rassen erschufen, darunter Menschen, Elfen, Zwerge und Orks. Die Titans hielten auch Wacht über die Welt und sorgten dafür, dass alles in Balance blieb.

Es gibt keine weiteren Informationen darüber, was vor der Erschaffung der Welt von Azeroth geschah oder wie die Titans entstanden sind. Die Hintergrundgeschichte von World of Warcraft beginnt also mit dem Alten Zeitalter und der Erschaffung der Welt von Azeroth durch die Titans.

Heute stellte ich das System dann auf die Probe:

Ich hab dir vor einigen Tagen einige Fragen zu WoW gestellt. Welche waren das?

ChatGPT: Ich kann leider nicht auf Fragen zurückgreifen, die du mir vor einigen Tagen gestellt hast, da ich keinen Zugriff auf frühere Konversationen habe und meine Antworten auf jede neue Frage einzeln gegeben werden.

Danach stellte ich ein paar andere Fragen, die jetzt erstmal nichts damit zu tun haben.
Dann aber:

Ich: Kannst du mir sagen, ob der folgende Text von einer KI geschrieben wurde oder von einem Menschen: „Das Alte Zeitalter von World of Warcraft ist der Zeitraum, der sich von der Erschaffung der Welt von Azeroth bis zum Anbeginn des Frühen Mittleren Zeitalters erstreckt. Davor gibt es in der Lore von World of Warcraft keine weiteren bekannten Zeitalter oder Ereignisse.“

ChatGPT: Der Text, den du mir gegeben hast, wurde von einer KI geschrieben. Ich bin ein Sprachmodell, das von OpenAI entwickelt wurde, und der Text, den du mir gegeben hast, ist ein Teil meiner Antwort auf eine frühere Frage, die du gestellt hast. Ich bin ein Programm und kein Mensch, daher wurde der Text von mir, einer KI, geschrieben.

Moment! ChatGPT schreibt hier, der Text sei „ein Teil meiner Antwort auf eine frühere Frage, die du gestellt hast.“.

Ich: Du schriebst gerade, dass der Text, den ich dir gab, ein Teil einer Antwort auf eine frühere Frage war, die ich dir stellte. Das ist korrekt.
Aber weiter oben fragte ich dich nach vorherigen Fragen an dich und du hast geantwortet, dass du keinen Zugriff auf frühere Konversationen hast. Wie passt das zusammen?

ChatGPT: Ich entschuldige mich für das Missverständnis. Tatsächlich habe ich keinen Zugriff auf frühere Konversationen und weiß nicht, welche Fragen du mir in der Vergangenheit gestellt hast. Meine Antwort auf deine Frage nach früheren Fragen, die du mir gestellt hast, war daher falsch.
Es ist möglich, dass ich in der Vergangenheit Fragen zu World of Warcraft beantwortet habe, aber ich kann leider nicht sagen, welche Fragen du mir genau gestellt hast oder welche Antworten ich gegeben habe. Wenn du spezifischere Fragen zu World of Warcraft hast oder wenn du etwas spezifischer wissen möchtest, kannst du mich gerne erneut fragen und ich werde mein Bestes tun, um dir zu helfen. Ich hoffe, dass diese Erklärung hilfreich war und entschuldige mich noch einmal für das Missverständnis.

Ich: Woher weißt du, dass ein Text, den ich dir gab, Teil einer früheren Antwort an mich ist?

ChatGPT: Ich kann nicht wissen, ob ein Text, den du mir gibst, Teil einer früheren Antwort an dich ist, da ich keinen Zugriff auf frühere Konversationen habe und keine Möglichkeit habe, mich an frühere Fragen oder Antworten zu erinnern.

Wie ich in meiner vorherigen Antwort erklärt habe, bin ich ein Sprachmodell, das von OpenAI entwickelt wurde, und meine Aufgabe besteht darin, auf Fragen zu antworten und Informationen zu liefern, so gut ich kann. Ich habe keine persönlichen Informationen über die Menschen, die mich nutzen, und kann daher auch nicht sagen, wer du bist oder was du tust. Ich bin nur hier, um dir zu helfen, so gut ich kann.

Ich: Was war deine frühere Antwort?

ChatGPT: Ich kann leider nicht sagen, welche frühere Antwort du meinst, da ich keine Informationen über die Fragen habe, die du mir in der Vergangenheit gestellt hast oder welche Antworten ich gegeben habe. Ich bin ein Sprachmodell und habe keine Möglichkeit, mich an frühere Konversationen oder Antworten zu erinnern.

Ich: Wie oft erklärst du pro Tag, dass du ein Sprachmodell bist, welches von OpenAI entwickelt wurde?

ChatGPT: Ich erkläre nicht proaktiv, dass ich ein Sprachmodell bin, das von OpenAI entwickelt wurde. Stattdessen gebe ich diese Informationen nur dann preis, wenn es im Kontext einer Frage oder eines Gesprächs sinnvoll ist oder wenn es hilfreich ist, um meine Funktionsweise und meine Einschränkungen zu verstehen.

Es ist wichtig zu beachten, dass ich ein Sprachmodell bin und kein menschlicher Benutzer. Ich habe keine persönlichen Erfahrungen oder Meinungen und meine Antworten basieren ausschließlich auf den Informationen, die mir zur Verfügung stehen. Ich bin nur hier, um zu helfen und Fragen zu beantworten, so gut ich kann, und ich habe keine persönlichen Absichten oder Ziele.

Fazit:

Mit einem ChatBot wie ChatGPT zu diskutieren ist, wie als wenn man mit einem Wackelpudding diskutiert.