Beim Erstellen einer RAG-Anwendung stehen Sie vor der grundlegenden Entscheidung, wo Informationen gespeichert und abgerufen werden sollen. Sie können in einen vollständigen Wissensgraphen investieren, der Entitäten und Beziehungen mit präziser Struktur erfasst, oder einen traditionelleren Ansatz wählen und eine Wissensdatenbank auf Basis von Dokumentsammlungen und Vektorsuche erstellen.

Wissensgraphen eignen sich hervorragend zur Modellierung von Beziehungen und zur Unterstützung von Multi-Hop-Argumentation. Es gibt jedoch gute Argumente dafür, bei RAG-Anwendungen mit einer Wissensbasis zu beginnen.

In diesem Artikel erklären wir Ihnen den Zweck einer Wissensdatenbank im Hinblick auf RAG, wie Sie eine solche entwerfen und implementieren und welche Best Practices Sie befolgen können, um Leistung und Genauigkeit bei wachsendem Inhalt sicherzustellen.

Ein Überblick über Retrieval Augmented Generation (RAG)

Retrieval Augmented Generation oder RAG ist einfach ein LLM Nutzung einer externen Quelle, beispielsweise einer Wissensdatenbank, um kontextrelevante Antworten zu generieren. RAG besteht aus zwei Komponenten:

• Ein Retriever zum Abrufen relevanter Informationen aus einer externen Quelle
• Ein Generator, der diese Informationen zu einer kohärenten Antwort zusammenfasst

Zum Abfragezeitpunkt ruft das System relevante Daten aus einer verbundenen Quelle ab und generiert daraus eine Ausgabe. Dieser Ansatz hilft, die Trugschlusstendenz reiner Generierungsmodelle zu überwinden und ermöglicht die Bereitstellung aktueller Antworten oder domänenspezifischer Details.

Um eine wirklich effektive RAG-Pipeline, benötigen Sie eine hervorragende Wissensbasis. Sie bestimmt, welche Inhalte das Modell verwenden kann und wie schnell es diese abrufen kann.

Was ist eine Wissensdatenbank in RAG?

Eine Wissensdatenbank (KB) ist ein Speicher relevanter Daten oder Informationen, auf den Sie zurückgreifen, wenn Sie Antworten auf häufig gestellte Fragen finden oder Probleme beheben müssen.

Im Kontext von RAG ist eine Wissensdatenbank typischerweise eine Sammlung von Textpassagen oder Dokumentfragmenten. Im Gegensatz zu herkömmlichen Datenbanken, die strukturierte Daten speichern, enthält eine Wissensdatenbank Inhalte hauptsächlich in natürlicher Sprache, wie beispielsweise Produkthandbücher oder Dokumentationen Ihres Unternehmens.

Dieser Inhalt wird für die bedeutungsbasierte Suche indexiert. Das bedeutet, dass das RAG-System Passagen findet und herausfiltert, die sich mit den gleichen Themen oder Ideen wie Ihre Frage befassen, auch wenn diese Passagen nicht genau die gleichen Wörter verwenden. Dies wird erreicht, indem der natürliche Sprachinhalt (mithilfe fortschrittlicher KI-Modelle wie Transformatoren) in hochdimensionale Vektoren.

Warum eine Wissensdatenbank für RAG von grundlegender Bedeutung ist

Ohne Wissensdatenbank gibt es nichts abzurufen. Der Generator verlässt sich standardmäßig auf seine vortrainierten Parameter, was bedeutet, dass er möglicherweise halluzinierte Inhalte produziert.

Wissensdatenbanken sind vor allem deshalb wichtig, weil sie als Gedächtnis für den LLM dienen. Drei wichtige Dinge können LLMs ohne eine Wissensdatenbank nicht erreichen:

1. Erdung: Eine spezialisierte Wissensbasis bietet einen sachlichen Kontext, um Halluzinationen aus dem Sprachmodell zu reduzieren.
2. Domänenanpassung: Eine Wissensdatenbank ermöglicht es RAG, domänenspezifisches Wissen „einzuspeisen“, ohne das Modell neu trainieren oder optimieren zu müssen.
3. Pünktlichkeit: Wissensdatenbanken ermöglichen aktuelle Antworten durch Abrufen kürzlich veröffentlichter Inhalte, selbst wenn das Basismodell vor langer Zeit trainiert wurde.

Kurz gesagt: Ohne Wissensbasis ist ein RAG-System nur ein weiterer Textgenerator – begrenzt, generisch und nicht vertrauenswürdig.

Sollten Sie sich voll und ganz für einen Knowledge Graph für RAG entscheiden?

Angesichts des Hypes um Wissensgraphen für RAG-Anwendungen fragt man sich leicht, ob sie wirklich die praktikabelste Lösung für LLMs sind. Warum also mit einer Wissensdatenbank beginnen, bevor man in Wissensgraphen investiert?

Hier sind noch ein paar Gründe:

Einfachheit der vektorbasierten Indizierung

Erstens liegen die meisten Informationen weltweit in unstrukturiertem oder halbstrukturiertem Text vor, beispielsweise in Berichten, E-Mails, Wiki-Seiten und anderen Dokumenten. Die Umwandlung all dieser Materialien in ein kanonisches Graphenschema erfordert intensive Anstrengungen bei der Disambiguierung von Entitätserkennungsbeziehungen und der kontinuierlichen Kuratierung.

Im Gegensatz dazu ermöglicht Ihnen eine vektorbasierte Wissensdatenbank die direkte Indizierung von Textblöcken anhand ihrer Bedeutung. So können Sie Rohdateien in wenigen Stunden statt in Wochen in ein durchsuchbares Repository übertragen.

Agile-Updates

Zweitens profitieren Sie von reibungslosen Updates. Neue Dokumente werden einfach in Embeddings umgewandelt und Ihrem Index hinzugefügt. Sie vermeiden die Instabilität eines starren Graphenschemas, das bei Themenänderungen oder der Entstehung neuer Entitätstypen erneut aufgenommen und annotiert werden muss. Mit einem vektorbasierten Ansatz sparen Sie sich die reichhaltigste relationale Semantik und erzielen so eine deutlich schnellere Wertschöpfung und geringere operative Komplexität.

Skalierbare Leistung für gängige RAG-Anwendungen

Und schließlich skalieren Vektorsuchmaschinen problemlos. Sie verteilen Ihre Einbettungsvektoren auf Shards und nutzen Algorithmen zur Berechnung des ungefähren nächsten Nachbarn, die die Abrufgeschwindigkeit auch dann beibehalten, wenn Ihr Korpus auf Hunderte Millionen Passagen anwächst.

Bei vielen gängigen RAG-Anwendungsfällen, wie etwa Kundensupport, Unterstützung von Wissensarbeitern oder Compliance-Forschung, überwiegt der Aufwand für die Verwaltung eines großen Graphen die geringen Präzisionsgewinne, die Sie durch komplexe Graphendurchläufe erzielen können.

So erstellen Sie eine Wissensdatenbank für RAG

Hier sind die Schritte, die Sie zum Aufbau Ihrer Wissensdatenbank durchführen müssen:

Schritt 1: Verstehen Sie Ihre Domänen- und Benutzerfragen

Bevor Sie Daten bearbeiten, sollten Sie einige grundlegende Fragen stellen:

• Welche Fragen soll das RAG-System beantworten? Geben Sie die Themen, Domänen und den gewünschten Detaillierungsgrad genau an.
• Wer ist die Zielgruppe und welche Antworten benötigt sie? Dies beeinflusst die Sprache, die Komplexität und die Art der enthaltenen Informationen.
• Welche Datenquellen gelten als zuverlässig? Die Genauigkeit des RAG-Systems hängt von der Vertrauenswürdigkeit und Richtigkeit der aufgenommenen Informationen ab.
• Was sind die wichtigsten Entitäten und Konzepte? Identifizieren Sie die Kernthemen, um die sich Ihre Wissensbasis drehen wird.

Wenn Sie beispielsweise einen Support-Assistenten für Ihre Softwareplattform entwickeln, suchen Benutzer wahrscheinlich nach Informationen zu den Funktionen Ihres Produkts, den Integrationsschritten oder den Methoden zur Fehlerbehebung. Mit diesen Schlüsselinformationen erhalten Sie eine klare Vorstellung davon, dass Ihre Wissensdatenbank Inhalte wie Benutzerhandbücher, FAQs, Änderungsprotokolle und Forendiskussionen als Kernquellen benötigt.

Schritt 2: Sammeln und Bereinigen der Daten

Sobald Sie sich über Art und Umfang der für Ihre Wissensdatenbank benötigten Inhalte im Klaren sind, benötigen Sie einen Mechanismus, um die relevanten Daten zu erfassen und in Klartext zu formatieren. Dies ist wichtig, da Klartext die universelle Sprache für LLM-Pipelines ist und alles – von der Aufteilung über die Einbettung bis hin zur Generierung – von seiner Sauberkeit und Form abhängt. Alles andere erhöht das Datenrauschen und verringert sowohl die Relevanz als auch die Antwortqualität.

Sie können einfachen Text aus verschiedenen Dateiformaten extrahieren, einschließlich Dokumenten, Bildern und Audiodateien mit Text Converter in AsteraDie Datenextraktionsplattform von . Mit Text Convert können Sie Text aus folgenden Quellen extrahieren:

• Dokumente und Dateien wie PDFs, DOC/DOCX, XLS/XLSX usw.
• Bilder mit optischer Zeichenerkennung (OCR)
• HTML-basierte Dateien
• MD-, MARKDOWN-, MKD-, MKDN-, MDWN- und MDOWN-Dateien

Denken Sie daran, dass das Ziel hier darin besteht, einen einheitlichen Textkorpus zu erstellen, unabhängig von den ursprünglichen Dateitypen.

Schritt 3: Teilen Sie die Daten in Blöcke auf

Da LLMs ein begrenztes Kontextfenster haben, können sie jeweils nur eine bestimmte Textmenge verarbeiten. Das bedeutet, dass Sie große Dokumente vorverarbeiten und in kleinere, handlichere „Blöcke“ zerlegen müssen, die in die Token-Grenzen des Modells passen und somit leicht zu verarbeiten sind. Dieser Vorgang wird als Chunking oder Splitting bezeichnet.

AsteraDer Text Splitter von kann den Text mithilfe häufig verwendeter Chunking-Techniken aufteilen, beispielsweise rekursives, satzbasiertes, HTML-basiertes und Trennzeichen-basiertes Aufteilen.

Schritt 4: Einbettungen für jeden Block generieren (Vektorisierung)

Sie müssen jeden Textblock in einen numerischen Vektor umwandeln – eine Zahlenliste, die die semantische Bedeutung des Blocks mathematisch darstellt, also den Inhalt des Textes auf konzeptioneller Ebene. Beispielsweise können die Ausdrücke „System neu starten“ und „Computer neu starten“ unterschiedlich aussehen, aber Einbettungsmodelle können erkennen, dass sie häufig in ähnlichen Kontexten vorkommen, und ihnen ähnliche Vektoren zuordnen.

Dieser Vorgang wird als Vektoreinbettung bezeichnet und ermöglicht einem RAG-System, relevante Informationen auf der Grundlage der Bedeutung statt des genauen Wortlauts zu vergleichen und abzurufen.

Sie können das Build Embeddings-Objekt innerhalb Astera's Benutzeroberfläche zu:

• Erfassen Sie die Bedeutung Ihres Textes mithilfe semantischer Vektoreinbettungen
• Führen Sie schlüsselwortbasiertes Matching mithilfe von TS-Vektoren durch

Schritt 5: Speichern Sie Chunks in einer Vektordatenbank

Damit Ihre Chunks zusammen mit ihren Einbettungen und Metadaten für Ihr RAG-System zugänglich sind, müssen Sie sie in einer Vektordatenbank (Vektorspeicher) speichern. Dies ist wichtig, da eine Vektordatenbank Folgendes ermöglicht:

• Ähnlichkeitssuche: Vergleicht Abfragen mit vorab gespeicherten Einbettungen von Dokumentblöcken. Ziel ist die schnelle Identifizierung von Blöcken mit ähnlicher Bedeutung.
• Metadatenfilterung: Moderne Vektordatenbanken ermöglichen zudem das Filtern von Ergebnissen nach Metadaten wie Quelle, Datum oder Dokumenttyp. Dadurch kann Ihr RAG-System nicht nur relevante Inhalte, sondern auch relevante Inhalte aus dem richtigen Kontext abrufen, was für Genauigkeit und Vertrauenswürdigkeit in Unternehmensanwendungen entscheidend ist. Wenn ein Benutzer beispielsweise nach einer kürzlich veröffentlichten Richtlinie fragt, können Sie Passagen aus den neuesten Dokumenten priorisieren.

Beispiele für Vektordatenbanken sind:

• Verwaltete Vektordatenbanken (Cloud): Pinecone, Zilliz Cloud (Milvus), Google Vertex AI Vector Search, Weaviate Cloud
• Selbst gehostete Vektordatenbanken: Milvus, ChromaDB, Qdrant
• Vektorindexbibliotheken und Suche als Service: FAISS, Azure Cognitive Search

Normalerweise ist der nächste Schritt die Implementierung Ihrer Abrufpipeline. Dies betrifft jedoch die Erstellung der RAG-Anwendung, während wir uns in diesem Artikel auf den Aufbau der Wissensdatenbank konzentrieren.

Bewährte Vorgehensweisen, die Sie beachten sollten

Eine saubere und zuverlässige Wissensdatenbank trägt wesentlich zur optimalen Leistung Ihres RAG-Systems bei, insbesondere da Ihre Inhalte voraussichtlich weiter wachsen werden. Die folgenden Best Practices helfen Ihnen beim Aufbau einer Wissensdatenbank.

• Teilen Sie Inhalte nach Bedeutung und nicht nach Länge auf.
  Teilen Sie Ihre Dokumente in klare Abschnitte oder Absätze auf, anstatt sie nach Tokenanzahl aufzuteilen. Dadurch bleibt der Kontext erhalten und die Relevanz der abgerufenen Antworten wird verbessert.
• Achten Sie in allen Quellen auf eine einheitliche Formatierung.
  Verwenden Sie dieselbe Struktur für Überschriften, Listen und Abstände, damit Ihre Pipeline Inhalte einheitlich verarbeiten kann. Dies reduziert Fehler beim Aufteilen und Abrufen.
• Kennzeichnen Sie jeden Block mit nützlichen Metadaten.
  Fügen Sie Beschriftungen wie Thema, Quelle, Datum und Typ hinzu, um später einen gefilterten und bereichsbezogenen Abruf zu ermöglichen. Metadaten helfen außerdem bei der Organisation und Verwaltung des Inhalts.
• Entfernen Sie Duplikate und veraltete Versionen.
  Stellen Sie sicher, dass jeder Inhalt nur einmal erscheint und ältere Versionen nicht im Index verbleiben. Dies vermeidet Verwirrung und verbessert die Zuverlässigkeit der Antworten.
• Verwenden Sie saubere und vertrauenswürdige Eingabequellen.
  Beginnen Sie mit gut geschriebenen und präzisen Dokumenten, um Ihre Basis stark zu halten. Eingaben von schlechter Qualität führen zu schlechten Abfrageergebnissen und schwacher Generierung.

Wann ist die Umstellung auf einen Knowledge Graph sinnvoll?

Obwohl eine Wissensdatenbank in der Anfangsphase gute Dienste leistet, können Sie ein Diagramm hinzufügen, das auf dieselben Dokumente verweist, die in Ihrem Vektorindex gespeichert sind, wenn Ihr Anwendungsfall mehr erfordert als „Finde den nächstgelegenen Textabschnitt“.

In der Praxis bedeutet dies Situationen, in denen:

• Es ist eine komplexe Entitätsbegründung erforderlich.
  Wenn Benutzer beispielsweise regelmäßig Multi-Hop-Fragen stellen (Fragen, für deren richtige Beantwortung mehrere Informationsteile berücksichtigt werden müssen), wie etwa „Welche Autoren der Institution X haben nach 2020 zum Thema Y veröffentlicht?“, profitieren Sie von einem expliziten Diagramm mit Autoren, Institutionen, Themen und Veröffentlichungsdaten.

• Die Disambiguierung oder Koreferenz kann nicht allein durch den Kontext gelöst werden.
  Wenn sich derselbe Begriff auf völlig unterschiedliche Entitäten bezieht (beispielsweise kann sich das Wort Merkur auf einen Planeten, ein Element oder sogar einen inzwischen nicht mehr hergestellten Autohersteller beziehen), wird die Abrufgenauigkeit durch ein kleines Diagramm der Entitätstypen und Beziehungen erheblich verbessert.

• Ihre Inhalte basieren auf hierarchischen Taxonomien oder Ontologien.
  Wenn Ihr Wissen naturgemäß in Schichten vorliegt, beispielsweise in Produktlinien, Lagereinheiten und Spezifikationen oder Krankheitskategorien, Untertypen und Behandlungen, können Sie mithilfe eines Diagramms die Hierarchie nach oben oder unten durchlaufen, um flexiblere Abfragen durchzuführen.

Denken Sie daran: Die Einführung eines Graphen bedeutet nicht, dass Sie Ihre Vektorspeicher-Grundlage aufgeben, sondern diese erweitern. Sie können Ihre Hauptarbeit weiterhin über Einbettungen erledigen (schnelles, skalierbares Abrufen von Kandidatenpassagen) und den Graphen dann nur noch zum Verfeinern, Filtern oder Erweitern der Ergebnisse heranziehen. Und da dieses Hybridmodell Komplexität nur dort hinzufügt, wo sie benötigt wird, bleibt Ihre Kernpipeline schlank.

Bauen Sie Ihre Wissensdatenbank für RAG auf mit Astera

Um eine Wissensdatenbank für RAG zu erstellen, müssen Sie eine Reihe datenzentrierter Aufgaben ausführen:

• Aufnahme von Rohinhalten aus Dokumenten, Webseiten und Datenbanken
• Bereinigen und Normalisieren dieses Textes
• In zusammenhängende Teile zerlegen
• Umwandlung jedes Blocks in Vektoreinbettungen
• Indizieren dieser Einbettungen für eine schnelle Ähnlichkeitssuche.

Jede dieser Phasen ist wichtig, um sicherzustellen, dass Ihre Abfrageebene die relevantesten Passagen als Antwort auf eine Abfrage präzise anzeigen kann. Allerdings bringt jede Phase auch ihre eigenen Herausforderungen mit sich, beispielsweise:

• Schreiben benutzerdefinierter Parser für PDFs
• Optimieren der Textaufteilungslogik zur Berücksichtigung semantischer Grenzen
• Nutzung unterschiedlicher Tools zur Einbettungsgenerierung und Vektorspeicherung

Das ist wo Astera kann mit seinem KI-gestützten Datenstapel den Unterschied machen.

Anstatt mehrere Skripte und APIs in verschiedenen Tools zu verwalten, können Sie den gesamten Workflow in einer einzigen Umgebung definieren. Dies vereinfacht den Übergang zwischen den Schritten, reduziert das Risiko von Inkonsistenzen und ermöglicht es Ihnen, sich auf die Verbesserung der Abrufgenauigkeit und die Integration Ihres Sprachmodells für die Antwortgenerierung zu konzentrieren.

Insbesondere Astera automatisiert den Prozess der Erstellung Ihrer RAG-Wissensdatenbank durch Bereitstellung von:

• Drag-and-Drop-Konnektoren für gängige Quellen
• Vorgefertigte Transformationen zur Rauschunterdrückung und Textkonvertierung
• Konfigurierbare Chunking-Module
• Sofort einsatzbereite Einbettungsgenerierung

Fazit

Der Aufbau einer Wissensdatenbank für RAG bietet einen pragmatischen Weg zu leistungsstarken, erweiterten Anwendungen für die Datenabfrage. Sie nutzen den riesigen Bestand an unstrukturiertem Text mit minimalem Kurationsaufwand und profitieren gleichzeitig von schneller Wertschöpfung und skalierbarer Leistung.

Und wenn sich Ihre Anforderungen weiterentwickeln, können Sie Ihr System jederzeit mit einem Wissensgraphen erweitern, um anspruchsvollere Schlussfolgerungsaufgaben zu bewältigen. Beginnen Sie mit einer gut ausgearbeiteten Wissensdatenbank und legen Sie so eine solide Grundlage für zukünftige Erweiterungen Ihrer RAG-Anwendungen.

Betreiben Sie Ihre RAG-Anwendungen mit Ihren vertrauenswürdigen Unternehmensdaten

Starten Sie Ihre 14-Tage-Testversion

Wissensdatenbank: Häufig gestellte Fragen (FAQ)

Was ist Wissensmanagement?

Wissensmanagement ist der Prozess der Erfassung, Organisation, Weitergabe und Pflege des kollektiven Fachwissens und der Informationsressourcen einer Organisation. Im Kontext von RAG umfasst Wissensmanagement die Aufnahme, Indizierung und Aktualisierung von Inhalten wie Dokumenten, FAQs, Produktspezifikationen usw., damit ein KI-Agent die relevantesten Ausschnitte in Echtzeit abrufen kann.

Was macht eine gute Wissensdatenbank aus?

Eine solide Wissensdatenbank deckt das gesamte Themenspektrum Ihrer KI ab. Alle Artikel und Einträge müssen zudem von Fachexperten auf ihre Richtigkeit geprüft und überprüft werden. Schließlich sollte die Datenbank für Ihre Teammitglieder und KI-Systeme leicht zugänglich sein.

Was sollte eine Wissensdatenbank enthalten?

Es gibt keinen allgemein anerkannten Kriterienkatalog, der den genauen Inhalt einer Wissensdatenbank vorgibt. Im Allgemeinen besteht der Inhalt einer Wissensdatenbank jedoch hauptsächlich aus strukturierten Artikeln, unstrukturierten Dokumenten, FAQs und Glossaren, Änderungsprotokollen, Updates und Benutzerfeedback.

Wie strukturieren Sie Ihre Wissensdatenbank?

Das Kernprinzip besteht darin, die Informationen so einfach wie möglich zu gestalten, damit ein Algorithmus den relevantesten Kontext zur Beantwortung einer Benutzeranfrage finden kann. Eine strukturierte Wissensdatenbank für RAG-Anwendungen ist daher eine gefüllte Vektordatenbank, in der jeder Eintrag aus dem Inhaltsblock, der Vektoreinbettung und den Metadaten besteht.

Wie erstelle ich eine eigene Wissensdatenbank für RAG-Anwendungen?

Sie können eine Wissensdatenbank grundsätzlich auf zwei Arten erstellen: entweder durch die Kombination weit verbreiteter Programmierbibliotheken und Dienste oder durch die Nutzung einer schlüsselfertigen Lösung. Im letzteren Fall Astera bietet eine visuelle Umgebung mit allem, was Sie zum Aufbau einer voll funktionsfähigen Wissensdatenbank für RAG benötigen.