KI-Architektur & Integration · Wissenssuche
Vektordatenbanken: Datensuche im Zeitalter generativer KI
Mitarbeitende suchen mit eigenen Worten, selten mit dem exakten Begriff aus dem Dokument. Vektordatenbanken finden Inhalte nach Bedeutung und sind deshalb das Fundament vieler KI-Assistenten, die aus Unternehmensdokumenten antworten. Wann sich eine eigene Vektordatenbank lohnt und wie sie in die Systemlandschaft passt, erklärt dieser Beitrag.
Krzysztof Udycz
Das Wichtigste in Kürze
- Vektordatenbanken speichern Embeddings, also Zahlenvektoren für die Bedeutung von Texten, Bildern oder Audio, und finden ähnliche Inhalte.
- Sie sind die Grundlage für semantische Suche und für RAG-Assistenten, die aus eigenen Dokumenten antworten.
- Nicht immer ist ein eigenes System nötig: PostgreSQL mit pgvector oder eine vorhandene Elasticsearch-Installation können reichen.
- Die Kosten hängen vor allem an Datenmenge, Aktualisierungsrhythmus, Betriebsart und den Anforderungen an Antwortzeit und Verfügbarkeit.
Was eine Vektordatenbank ist
Klassische Suche vergleicht Wörter. Wer nach „Kündigungsfrist“ sucht, findet keinen Vertrag, in dem steht, der Vertrag könne mit drei Monaten Vorlauf beendet werden. Vektorsuche funktioniert anders:
- Embeddings erzeugen: Ein Modell wandelt Texte, Bilder oder Audio in Zahlenvektoren um. Inhalte mit ähnlicher Bedeutung liegen im Vektorraum nah beieinander.
- Speichern und indexieren: Die Vektordatenbank speichert diese Vektoren zusammen mit Metadaten wie Dokumenttyp, Datum oder Zugriffsrechten.
- Ähnliches finden: Auch die Suchanfrage wird in einen Vektor umgewandelt, und die Datenbank liefert die Inhalte mit der größten Ähnlichkeit, gefiltert nach Metadaten.
Für generative KI ist das zentral: Ein Sprachmodell kennt interne Dokumente nicht. Die Vektordatenbank findet die passenden Abschnitte, und das Modell formuliert daraus die Antwort. Dieses Verfahren heißt Retrieval Augmented Generation (RAG).
Wofür Unternehmen Vektordatenbanken nutzen
- Wissenssuche und Frage-Antwort: Mitarbeitende oder Kunden fragen in eigenen Worten und erhalten Antworten aus Handbüchern, Richtlinien oder Produktdokumentation.
- Semantische Suche: Dokumente, Tickets oder Produkte werden nach Bedeutung gefunden, auch bei anderen Formulierungen oder Tippfehlern.
- Empfehlungen: ähnliche Produkte, Artikel oder Fälle vorschlagen.
- Dubletten und Ähnlichkeit: ähnliche Anfragen, Verträge oder Bilder erkennen.
- Auffälligkeiten: Einträge finden, die keinem bekannten Muster ähneln.
Aus der Praxis
Aus der Praxis: apoQlar
Die Support- und Operations-Teams des MedTech-Unternehmens durchsuchten Hunderte Produktdokumente von Hand. Ein Assistent mit Sprachmodell und Vektordatenbank beantwortet Fragen heute in Sekunden und nennt zu jeder Antwort das Dokument. Ein zweites System für Sicherheitsfragebögen nutzt ChromaDB, damit sank die Bearbeitungszeit um 75 %.
Aus der Praxis: technische Prüfbehörde
Der Bürger-Chatbot mit elf Fachagenten nutzt Qdrant als Vektordatenbank, um Fragen in Alltagssprache mit technischer Dokumentation zu verbinden. Er läuft auf Microsoft Azure.
Wann sich eine eigene Vektordatenbank lohnt
Nicht jedes Projekt braucht ein zusätzliches System. Oft ist die einfachste Lösung die, die sich in vorhandene Infrastruktur einfügt:
| Ausgangslage | Naheliegende Wahl |
|---|---|
| PostgreSQL ist bereits im Einsatz, überschaubare Datenmenge | Erweiterung pgvector in der bestehenden Datenbank |
| Elasticsearch oder OpenSearch ist bereits im Einsatz | Vektorsuche dort ergänzen und mit Stichwortsuche kombinieren |
| Prototyp oder kleines Team | leichtgewichtige Open-Source-Datenbank wie Chroma |
| Große Datenmengen, viele Filter, hohe Last | spezialisierte Vektordatenbank wie Qdrant, Weaviate oder Milvus |
| Kein eigener Betrieb gewünscht | verwalteter Dienst, etwa Pinecone oder die Cloud-Angebote der Open-Source-Datenbanken |
Wichtiger als das Produkt ist oft die Aufbereitung: wie Dokumente in Abschnitte zerlegt werden, welches Embedding-Modell zur Sprache und Fachsprache passt und welche Metadaten für Filter und Zugriffsrechte mitgespeichert werden.
Was die Kosten treibt
- Datenmenge: Anzahl der Dokumente und Abschnitte bestimmt Speicher und Rechenbedarf.
- Embeddings: Das erstmalige Umwandeln aller Inhalte und jede Aktualisierung kosten Rechenzeit oder API-Gebühren.
- Aktualisierung: Täglich wechselnde Inhalte brauchen eine andere Pipeline als ein fester Dokumentenbestand.
- Betriebsart: selbst betrieben auf eigenen Servern, in der eigenen Cloud oder als verwalteter Dienst.
- Anforderungen: Antwortzeit, Verfügbarkeit, Mandantentrennung und Zugriffsrechte.
Für viele Wissensassistenten ist die Vektordatenbank nicht der größte Posten. Mehr Aufwand steckt meist in Datenaufbereitung, Integration und Qualitätsprüfung.
Anbindung an vorhandene Systeme
- Quellen anbinden: SharePoint, Confluence, Dateiablagen, Ticketsystem oder Eigenentwicklung werden regelmäßig ausgelesen.
- Aufbereiten: Texte extrahieren, in Abschnitte zerlegen, Metadaten und Berechtigungen übernehmen.
- Embeddings erzeugen: mit einem Modell, das zur Sprache der Dokumente passt, in der Cloud oder lokal.
- Aktuell halten: neue, geänderte und gelöschte Dokumente automatisch nachziehen.
- Rechte beachten: Suchergebnisse nach den Berechtigungen der fragenden Person filtern.
Wie daraus ein zuverlässiger Assistent wird, beschreibt unser Beitrag Wie Unternehmen zuverlässige RAG-Systeme aufbauen.
Ihre Dokumente durchsuchbar machen?
Wir prüfen mit Ihnen, welche Quellen und Fragen sich eignen, ob eine eigene Vektordatenbank nötig ist und wie sie an Ihre Systeme angebunden wird.
Prozessanalyse anfragenHäufige Fragen
Eine Datenbank, die Embeddings speichert, also Zahlenvektoren für die Bedeutung von Texten, Bildern oder Audio. Sie findet Inhalte, die einer Anfrage inhaltlich ähneln, auch wenn andere Wörter verwendet werden.
Für Retrieval Augmented Generation: Die Vektordatenbank findet die passenden Abschnitte in Unternehmensdokumenten, und das Sprachmodell formuliert daraus eine Antwort mit Quelle.
Nicht immer. Bei überschaubaren Datenmengen reicht oft PostgreSQL mit pgvector oder eine vorhandene Elasticsearch-Installation. Spezialisierte Systeme wie Qdrant, Weaviate oder Milvus lohnen sich bei großen Datenmengen, vielen Filtern oder hoher Last.
Das hängt von Datenmenge, Aktualisierungsrhythmus, Betriebsart und Anforderungen an Antwortzeit und Verfügbarkeit ab. In vielen Projekten entsteht der größere Aufwand bei Datenaufbereitung, Integration und Qualitätsprüfung.
Krzysztof entwickelt bei theBlue.ai KI-Systeme für Unternehmen. Sein Schwerpunkt liegt auf der Frage, wie Sprachmodelle zuverlässig an Unternehmenswissen kommen: Embeddings, Vektordatenbanken und Retrieval, das auch mit großen Dokumentbeständen im laufenden Betrieb funktioniert.
In seinen Artikeln erklärt er die Technik hinter solchen Systemen so, dass Entscheider sie einordnen können.