WissenVektordatenbank

Vektordatenbank: Was ist das und wie funktioniert sie mit RAG?

Eine Vektordatenbank (vector database) speichert Inhalte als Embeddings, also als lange Zahlenlisten, und findet zu einer Frage die Einträge mit der ähnlichsten Bedeutung. Sie ist der Speicher hinter den meisten KI-Wissenssystemen, die nach dem Prinzip RAG (Retrieval-Augmented Generation) erst passende Textstellen suchen und dann eine Antwort formulieren.

Sandro Griesing · Gründer GrisaKI · aktualisiert · 7 Min. Lesezeit

Das Wichtigste in 30 Sekunden

  • Was: Eine Datenbank, die nach Bedeutung sucht statt nach genauen Wörtern. Grundlage sind Embeddings.
  • Was drin steht: je Abschnitt der Vektor, der Originaltext, die Quelle mit Seite und die Zugriffsrechte.
  • Lösungen: pgvector als Erweiterung für PostgreSQL oder eigenständige Systeme wie Qdrant, Weaviate, Milvus und Pinecone.
  • Hosting: Mehrere dieser Lösungen sind Open Source und laufen auf Servern in Deutschland.
  • Selbst bauen? Meist nicht nötig. Die Vektordatenbank ist Teil einer fertigen Wissensdatenbank.

Was in einer Vektordatenbank gespeichert wird

Eine normale Datenbank sucht nach genauen Werten: eine Kundennummer, ein Datum, ein Wort. Eine Vektordatenbank sucht nach Nähe. Dafür werden Dokumente zuerst in Abschnitte geteilt, und jeder Abschnitt bekommt ein Embedding. Zu einem Eintrag gehören in der Praxis mehr als nur die Zahlen:

FeldBeispielWozu
Vektor1.536 KommazahlenÄhnlichkeitssuche
Originaltext„Mineralische Abfälle nehmen wir montags bis freitags an …“geht an das Sprachmodell, das die Antwort schreibt
Quelle und SeitePreisliste 2026, Seite 4Quellenangabe in der Antwort, Nachprüfbarkeit
ZugriffsrechteUnternehmen, Abteilung, FreigabestufeJeder findet nur, was er sehen darf
Modell und GrößeName des Embedding-Modells, Anzahl der Zahlensauberer Modellwechsel später
Schema einer typischen Wissensdatenbank. Beispielwerte frei gewählt.

Die Zugriffsrechte sind der Teil, der in Erklärungen oft fehlt. Ohne sie findet eine Frage aus dem Lager auch die Gehaltsliste, wenn diese inhaltlich passt. Gute Systeme filtern deshalb vor oder während der Suche nach Rechten, nicht erst in der fertigen Antwort.

Beispiel: eine Suche Schritt für Schritt

Ein Kunde schreibt im Chat: „Was kostet es, wenn ich Bauschutt bei Ihnen abgebe?“ So läuft die Suche ab:

  1. Frage einbetten: Die Frage wird mit demselben Embedding-Modell in einen Vektor übersetzt wie vorher das Wissen.
  2. Rechte anwenden: Die Datenbank betrachtet nur Einträge, die für diesen Kanal und dieses Unternehmen freigegeben sind.
  3. Nächste Nachbarn suchen: Sie berechnet den Abstand zwischen Frage und gespeicherten Vektoren, meist als Kosinus-Abstand, und liefert die nächsten Treffer, etwa die fünf ähnlichsten Abschnitte.
  4. Treffer weitergeben: Die Abschnitte mit Quelle gehen zusammen mit der Frage an ein Sprachmodell (LLM).
  5. Antwort formulieren: Das Sprachmodell antwortet auf Grundlage dieser Abschnitte, hier mit dem Preis aus dem Eintrag „Siedlungsabfälle / mineralische Abfälle“, obwohl das Wort „Bauschutt“ dort nicht steht.

Bei großen Beständen wäre es zu langsam, jeden Vektor einzeln zu vergleichen. Deshalb nutzen Vektordatenbanken Indizes für eine näherungsweise Suche (approximate nearest neighbor). Verbreitet ist das Verfahren HNSW, ein mehrschichtiger Graph. pgvector beschreibt den Tausch offen: Ein Index macht die Suche schneller, kann dafür aber einzelne Treffer verpassen, die eine exakte Suche gefunden hätte.

Lösungen im Überblick

Es gibt zwei Wege: eine Erweiterung für eine bestehende Datenbank oder ein eigenständiges System. Die Tabelle zeigt verbreitete Lösungen in alphabetischer Reihenfolge, ohne Wertung.

LösungArtLizenz laut HerstellerBetrieb
Milvuseigenständige VektordatenbankApache 2.0von Python-Bibliothek bis Kubernetes-Cluster, verwaltet als Zilliz Cloud
pgvectorErweiterung für PostgreSQLPostgreSQL-Lizenzauf jedem eigenen PostgreSQL ab Version 13
Pineconeserverlose Vektordatenbank als DienstDienst des Herstellersbeim Hersteller oder im eigenen Cloud-Konto (BYOC)
Qdranteigenständige Vektordatenbank, in RustApache 2.0selbst betrieben oder als Cloud-Angebot des Herstellers
Weaviateeigenständige Vektordatenbank, in Goüberwiegend BSD-3-Clauseselbst betrieben
Quelle: Dokumentation und GitHub-Seiten der Hersteller, abgerufen am 16.10.2026.

Vektordatenbank mit Postgres: pgvector

pgvector ergänzt PostgreSQL um Vektoren. Der Vorteil: Vektoren, Texte und Zugriffsrechte liegen in derselben Datenbank, und es gelten deren Sicherungen und Transaktionen. pgvector sucht standardmäßig exakt und bietet für größere Bestände die Indizes HNSW und IVFFlat. Unterstützt werden unter anderem euklidischer Abstand, Skalarprodukt und Kosinus-Abstand. Eine Grenze nennt die Dokumentation ausdrücklich: Der Typ vector speichert bis zu 16.000 Zahlen, indizieren lassen sich aber nur bis zu 2.000. Für größere Embeddings gibt es den Typ halfvec mit Index bis 4.000 Zahlen.

Spezialisierte Systeme

Qdrant, Weaviate und Milvus sind eigens für Vektoren gebaut. Sie bringen Funktionen wie Filter auf Zusatzdaten und eine hybride Suche mit, die Bedeutungssuche und Stichwortsuche verbindet. Qdrant zum Beispiel wertet Filter direkt im Suchgraphen aus. Sie lohnen sich vor allem bei sehr großen Datenmengen oder wenn keine PostgreSQL-Datenbank vorhanden ist.

Hosting in Deutschland

Wo die Vektordatenbank steht, ist eine Frage des Datenschutzes. In ihr liegen nicht nur Zahlen, sondern auch die Originaltexte. Und auch aus den Zahlen selbst lässt sich Text teilweise zurückgewinnen, wie eine Studie von 2023 gezeigt hat. Open-Source-Lösungen wie pgvector, Qdrant, Weaviate oder Milvus können Sie auf Servern in Deutschland betreiben, bei Cloud-Diensten hängt der Standort vom Angebot ab.

GrisaKI betreibt seine Vektordatenbank selbst: PostgreSQL 16 mit pgvector auf Servern von Hetzner in Deutschland. Jeder Abschnitt trägt dort das Unternehmen, eine Freigabestufe und Gruppen, die Suche nutzt einen HNSW-Index.

Zwei Fragen an jeden Anbieter. Wo liegen die Vektoren und Texte? Und wo werden die Embeddings berechnet? Das sind zwei verschiedene Orte. Ein deutscher Speicherort sagt noch nichts darüber, welcher Dienst die Texte zum Einbetten liest.

Brauche ich eine Vektordatenbank selbst?

Meist nein. Eine Vektordatenbank ist ein Baustein, kein Produkt für den Arbeitsalltag. Damit daraus eine nutzbare Wissensdatenbank wird, braucht es mehr: Dokumente einlesen, in sinnvolle Abschnitte teilen, Embeddings berechnen, Rechte verwalten, Antworten formulieren und Quellen anzeigen. Eine eigene Vektordatenbank lohnt sich, wenn Sie ein Entwicklerteam haben und eine eigene Anwendung bauen. Für alle anderen ist sie Teil einer fertigen Lösung.

  • Lässt sich das System ohne Programmierung mit Dokumenten füllen?
  • Zeigt jede Antwort, aus welchem Dokument und von welcher Seite sie stammt?
  • Gibt es Rechte je Abteilung oder Person?
  • Wo stehen Server und Daten, und wo wird eingebettet?

Was das für Ihr Unternehmen heißt

Mit einer Vektordatenbank im Hintergrund kann ein Web- oder WhatsApp-Chat, eine Telefon-KI oder ein KI-Postfach in Ihren Unterlagen nachsehen, statt zu raten. Das senkt das Risiko von KI-Halluzinationen, schließt es aber nicht aus. Für Ihre Mitarbeiter heißt es: Fragen in normaler Sprache stellen und die Antwort mit Quelle bekommen, statt Ordner zu durchsuchen. Entscheidend sind dabei weniger die Technik als gepflegte Inhalte und klare Rechte.

Verwandte Begriffe

  • Embedding: die Zahlenliste, die eine Vektordatenbank speichert und vergleicht.
  • LLM (großes Sprachmodell): schreibt aus den gefundenen Abschnitten die Antwort.
  • KI-Halluzination: erfundene Antworten, die eine Suche im eigenen Wissen seltener macht.
  • MCP: ein Standard, über den KI-Assistenten auf Wissensquellen zugreifen können.
  • KI-Token: die Einheit, in der Modelle Text zählen und abrechnen.

Häufige Fragen

Was ist der Unterschied zwischen einer Vektordatenbank und einer normalen Datenbank?

Eine normale Datenbank findet Einträge über genaue Werte wie Nummern oder Wörter. Eine Vektordatenbank findet Einträge über die Ähnlichkeit ihrer Bedeutung, indem sie die Abstände zwischen Embeddings berechnet. Viele Lösungen verbinden heute beides.

Was hat eine Vektordatenbank mit RAG zu tun?

RAG steht für Retrieval-Augmented Generation. Dabei sucht ein System zuerst passende Textstellen in einer Wissensquelle und gibt sie dann einem Sprachmodell für die Antwort mit. Die Vektordatenbank ist bei RAG meist der Ort, an dem diese Suche stattfindet.

Kann PostgreSQL eine Vektordatenbank sein?

Ja, mit der Open-Source-Erweiterung pgvector. Sie ergänzt PostgreSQL ab Version 13 um Vektoren, exakte und näherungsweise Suche sowie die Indizes HNSW und IVFFlat. Vektoren und normale Daten liegen dann in derselben Datenbank.

Welche Vektordatenbanken sind Open Source?

Laut Hersteller stehen unter anderem pgvector unter der PostgreSQL-Lizenz, Qdrant und Milvus unter Apache 2.0 und Weaviate überwiegend unter BSD-3-Clause. Pinecone wird als Dienst des Herstellers angeboten.

Kann eine Vektordatenbank in Deutschland betrieben werden?

Ja. Open-Source-Lösungen lassen sich auf eigenen Servern oder bei deutschen Hostern betreiben. Prüfen Sie zusätzlich, wo die Embeddings berechnet werden, denn dafür liest ein Modell die Texte.

Über den Autor

Sandro Griesing

Gründer von GrisaKI und Geschäftsführer der new face Media GmbH in Sangerhausen

Sandro Griesing hat über zehn Jahre Agenturerfahrung. Mit GrisaKI richtet er KI-Assistenten für Telefon, Chat, E-Mail und interne Abläufe in mittelständischen Unternehmen ein, vor allem in Mitteldeutschland.

Mehr über GrisaKI

Quellen

  1. pgvector: Open-source vector similarity search for Postgres (README) und Lizenz, GitHub, abgerufen am 16.10.2026
  2. Qdrant: qdrant/qdrant, GitHub, und Documentation Overview, abgerufen am 16.10.2026
  3. Weaviate: weaviate/weaviate, GitHub, und Hybrid search, abgerufen am 16.10.2026
  4. Milvus: What is Milvus, abgerufen am 16.10.2026
  5. Pinecone: Pinecone Database overview und Produktseite, abgerufen am 16.10.2026
  6. OpenAI: Vector embeddings, englisch, abgerufen am 16.10.2026
  7. Morris, Kuleshov, Shmatikov, Rush: Text Embeddings Reveal (Almost) As Much As Text, EMNLP 2023, arXiv, abgerufen am 16.10.2026

Stand der Angaben: 16.10.2026. Lizenzen und Angebote der Hersteller können sich ändern. Maßgeblich ist die jeweils aktuelle Herstellerseite.