Das klingt selbstverständlich. War für uns aber eine der wichtigsten Erkenntnisse bei der Entwicklung unseres RAG-Services.
Im letzten Beitrag ging es um den Intent. Also um die Frageabsicht hinter einer Frage. Denn eine Definition benötigt andere Wissensbausteine als eine Begründung, eine Strukturfrage oder ein Vorgehen.
Die nächste Frage lautete deshalb:
Wie erkennt ein RAG-Service die Frageabsicht?
Unser erster Ansatz war einfach:
Wir geben die Frage an ein Sprachmodell und lassen den Intent klassifizieren.
Grundsätzlich funktioniert das.
Aber Deutsch hat einige Besonderheiten.
Zum Beispiel das kleine Wort „Wie“. Viele Fragen beginnen mit „Wie“:
„Wie lege ich eine Domain an?“
„Wie wird Wissen in inside organisiert?“
„Wie entsteht Orientierung im Wissensraum?“
Für Menschen sind das unterschiedliche Fragearten. Für ein Sprachmodell oft nicht.
In unseren ersten Tests wurden viele dieser Fragen als Vorgehensfragen interpretiert.
Der Grund:
Im Englischen ist „How do I ...?“ häufig ein starkes Signal für eine Handlungsanweisung.
Im Deutschen ist „Wie“ deutlich mehrdeutiger.
Ein ähnliches Problem zeigte sich bei Fragen, die mit „Was ist ...?“ beginnen.
Nicht jede dieser Fragen sucht eine Definition.
Manche suchen Zusammenhänge.
Manche Begründungen.
Manche Rollen oder Verantwortlichkeiten.
Die Formulierung allein reicht also nicht aus. Deshalb verlässt sich unser RAG-Service nicht auf eine einzelne Klassifikationsentscheidung.
Wir kombinieren Sprachmodell, Heuristiken und feste Regeln für typische Fragemuster.
Unsere wichtigste Erkenntnis:
Die Intent-Klassifikation ist kein Selbstzweck. Sie entscheidet darüber, welche Wissensbausteine überhaupt in den Antwortkontext gelangen.
Denn dieselbe Wissensbasis kann für unterschiedliche Fragen völlig unterschiedliche Kontextinformationen liefern.
Erst die Frageabsicht bestimmt, welche Sections relevant sind.
Und erst diese Sections bilden später den Kontext für die Antwort.
Auf unserer Website beschreiben wir die technische Umsetzung ausführlicher – inklusive der verschiedenen Intent-Typen und einiger überraschender Sonderfälle aus der Praxis.
Im nächsten Beitrag:
Warum die Antwort nicht allein durch die Frage entsteht – sondern durch das Zusammenspiel von Prompt und Kontext.
#Wissensmanagement #VerlässlicheKI #KIimUnternehmen #KnowledgeManagement #AIGovernance #RAG #InsideRoots