Zum Hauptinhalt springen
Das Generieren einer Antwort auf deine Frage wird in zwei wesentliche Schritte aufgeteilt:
1

Dokumenten- (oder Web-)Suche

Dokumente werden grundsätzlich in Textsegmente unterteilt. Jedes Textsegment erhält einen Wert basierend auf seinem Inhalt (semantischer Vektor). Dadurch kann Genow semantische Suchen auf Basis der Nutzereingabe durchführen. Als Ergebnis dieser Suche übergibt Genow alle relevanten Textsegmente an das LLM, das im zweiten Schritt die Antwort generiert.
2

Antwortgenerierung

Das LLM erhält die Nutzereingabe und alle relevanten Textausschnitte und formuliert daraufhin eine Antwort. Für jede Aussage zitiert Genow nach Möglichkeit die zugrunde liegenden Textausschnitte.

Anmerkungen zum Sub-Task-Splitting

Oft lässt sich eine Nutzeranfrage in Sub-Tasks unterteilen. In diesem Fall bearbeitet Genow diese Sub-Tasks separat (hinsichtlich der Suche und der Übergabe relevanter Textpassagen) und kombiniert ihre Ergebnisse am Ende, um die Antwort auf die Frage zu optimieren. Diese Sub-Tasks können dem Nutzer angezeigt werden, indem er mit dem Mauszeiger über die Frage fährt. Beachte, dass manchmal nicht alle Ergebnisse der Sub-Tasks in die endgültige Antwort einfließen, zum Beispiel wenn sie aufgrund geringer Relevanz verworfen werden.