Large Language Modelle wie ChatGPT haben sich im letzten Jahr weltweit verbreitet und sind verstärkt ins Blickwelt der öffentlichen Diskussion gelangt. Ein Kritikpunkt dieser LLM ist die oft für die Nutzenden nicht nachvollziehbare Lösungsfindung, es fehlt schlicht die Erklärbarkeit und Überprüfbarkeit der Ergebnisse. Copilot beispielsweise nennt die Quellen der Informationen und ist so Vorreiter in Sachen Nachvollziehbarkeit der Ausgaben. Ein Ansatz jedoch, um in die ‘‘Gedankenwelt‘‘ von KI’s wie Chat GPT zu gelangen ist das Chain of Thought Prompting.
Was ist Chain of Thought Prompting?
Wie man seine Prompts auf ein neues Level bringt, haben wir Ihnen bereits verraten. Um noch tiefer in die Materie zu gehen, ist ein Blick auf die Funktionsweise des CoT-Prompting unerlässlich. In diesem Zusammenhang zielt es darauf ab, ein zusammenhängendes und sinnvolles Gespräch oder eine Abfolge von Ideen zu erzeugen, die auf den gegebenen Eingaben basieren, um den Benutzer zu unterstützen, zu informieren oder zu unterhalten. Ein Beispiel dafür könnte ein Chatbot sein, der auf eine Benutzereingabe reagiert, indem er eine Kette von Gedanken oder Antworten generiert, die auf dem Eingabekontext basieren. Das KI-Modell könnte dabei eine Vielzahl von Techniken verwenden, wie zum Beispiel rekurrente neuronale Netze (RNN) oder Transformer-Modelle, um die Verbindung zwischen den generierten Gedanken aufrechtzuerhalten und dem Benutzer eine kontinuierliche Konversation zu ermöglichen. Man kann es sich wie eine Unterhaltung vorstellen, in der die KI aufgefordert wird, die Lösungswege zu erläutern. So sieht man im Output nicht nur die Beantwortung seiner Frage oder Aufgabe, sondern auch die ‘‘Gedankengänge‘‘ und Lösungsschritte der KI, die dazu geführt haben. Studien zufolge sind dazu Eingaben im Prompt sehr förderlich, in denen man deutlich macht, dass ein schrittweises Vorgehen notwendig ist. ,,Lass uns Schritt für Schritt vorgehen‘‘ ist ein Satz, der nachgewiesener Maßen hilfreich ist und ChatGPT dazu anregt, seine Lösungsschritte aufzuzeigen.
Die Erklärbarkeit des Ergebnisses wird durch CoT-Prompting also erhöht, denn der Nutzende erhält Einblick in die Lösungsfindung. Dies kann vor allem bei komplexen Aufgabenstellungen ein enormer Vorteil sein
Wann ist Chain of Thought Prompting sinnvoll?
Vor allem bei komplexeren Aufgaben kann es sinnvoll sein, diese Technik anzuwenden. Erwiesen hat sich, dass CoT-Prompting vor allem bei schriftlichen mathematischen Aufgaben oder Aufgaben, die logische Schlussfolgerungen aus Common Sense Wissen benötigen, die sich normalerweise aus gesundem Menschenverstand ableiten würden. Ob Chain of Thought Prompting Sinn macht, muss individuell entschieden werden und kommt stark auf die Anwendung an. Simple Zero-Shot Prompts muss man sicherlich nicht erweitern, während es bei komplexen Fragen schon anders aussieht.
Wir verstehen auf diese Weise zwar die Outputs besser, dies hat jedoch nichts mit der inneren Funktionsweise eines Large Language Modells zu tun, in die man weiterhin keinen Einblick hat. Wenn es zu inhaltlichen Fehlern kommt, ist dennoch nicht nachzuvollziehen, wieso das Modell den Fehler gemacht hat. Daher ist es wie bei allen Aufgaben notwendig, sie auf Richtigkeit zu kontrollieren. Weiterhin ist auch nicht einsehbar, wie das Large Language Modell zu der Gedankenkette gekommen ist.
Fazit
Ob Chain of Thought Prompting Sinn macht, muss je nach Anwendung entschieden werden. Es kann als eine Erweiterung des Skillsets fürs Prompting angesehen werden, das bestimmte Aufgabenfelder erleichtert.
Views: 571
