Das Problem mit der Stichwortsuche
Klassische Suche findet nur, was wörtlich vorkommt. Wer nach „Kündigungsfrist“ sucht, findet das Dokument nicht, in dem von „Vertragsbeendigung zum Quartalsende“ die Rede ist – obwohl genau das gemeint ist. Menschen überbrücken solche Formulierungsunterschiede mühelos, Software lange Zeit nicht. Embeddings ändern das: Sie übersetzen Sprache in Zahlen, die die Bedeutung einfangen.
Wozu dann eine spezielle Datenbank?
Ein Embedding besteht aus hunderten bis tausenden Zahlen – und eine Wissensbasis schnell aus hunderttausenden solcher Punkte. Die Frage „Welche 10 Abschnitte liegen meiner Frage am nächsten?“ wäre mit naivem Durchrechnen viel zu langsam. Vektordatenbanken nutzen spezielle Indexstrukturen, die diese Nachbarschaftssuche in Millisekunden beantworten – auch bei Millionen Einträgen. Dazu kommen praktische Funktionen wie Filter („nur Verträge ab 2024“, „nur Dokumente, die dieser Nutzer sehen darf“) in Kombination mit der Bedeutungssuche.
Bekannte Systeme
- pgvector: Eine Erweiterung für PostgreSQL – die Vektorsuche zieht in die vorhandene Datenbank ein. Für die meisten Unternehmensprojekte die pragmatischste Wahl: keine neue Infrastruktur, volle Datenhoheit.
- Qdrant, Weaviate, Milvus: Spezialisierte Open-Source-Vektordatenbanken für große Bestände und hohe Lasten, selbst betreibbar.
- Pinecone: Verbreiteter Cloud-Dienst – bequem, aber die Daten liegen beim Anbieter (Datenschutz prüfen).
Die Rolle im RAG-System
In einem RAG-System ist die Vektordatenbank der Schritt zwischen Frage und Antwort: Die Dokumente werden einmalig in Abschnitte zerlegt, als Embeddings kodiert und abgelegt. Bei jeder Frage wird auch die Frage in ein Embedding umgewandelt, die Datenbank liefert die inhaltlich nächsten Abschnitte – und erst diese Treffer bekommt das Sprachmodell als Grundlage für die Antwort. Die Qualität dieser Suche entscheidet maßgeblich über die Qualität des gesamten Systems.
Beispiele aus der Praxis
Semantische Dokumentensuche
„Zeig mir alle Verträge mit ungewöhnlichen Haftungsklauseln“ findet auch Formulierungen, die das Wort „Haftung“ gar nicht enthalten.
Ähnliche Support-Fälle finden
Zu einem neuen Ticket schlägt das System automatisch die fünf ähnlichsten gelösten Fälle vor – samt damaliger Lösung.
Produktempfehlungen
„Kunden, die das mochten …“ funktioniert über Ähnlichkeit im Vektorraum – auch für Produkte, die noch nie zusammen gekauft wurden.
Häufige Fragen zur Vektordatenbank
Brauche ich zwingend eine eigene Vektordatenbank für RAG?
Nein – für viele Projekte reicht pgvector in der ohnehin vorhandenen PostgreSQL-Datenbank völlig aus. Eine spezialisierte Vektordatenbank lohnt sich erst bei sehr großen Beständen (viele Millionen Abschnitte) oder besonderen Latenz-Anforderungen.
Ersetzt die Vektorsuche die klassische Suche?
Nein, sie ergänzt sie. In der Praxis kombiniert man beides („Hybrid Search“): Die Stichwortsuche ist unschlagbar bei exakten Begriffen wie Artikelnummern oder Namen, die Vektorsuche bei Bedeutung und Umschreibungen. Zusammen sind sie besser als jede allein.
Verstehen die Zahlen im Embedding auch Menschen?
Nein – die einzelnen Zahlen haben keine lesbare Bedeutung. Interpretierbar ist nur die Geometrie: Welche Punkte liegen nah beieinander? Das genügt aber für alles, was man praktisch damit macht.
Bleiben meine Daten dabei im Haus?
Das ist eine Architektur-Entscheidung: pgvector, Qdrant & Co. laufen komplett auf eigener Infrastruktur. Nur für das Erzeugen der Embeddings wird oft ein KI-Dienst genutzt – alternativ gibt es auch dafür lokal betreibbare Modelle.
