24 · Architektur

Vektordatenbank

Speicher für Embeddings; ermöglicht semantische Suche.

Ein Speicher, der nicht nach exakten Werten sucht, sondern nach Nachbarschaft: Gib mir die zehn Einträge, die diesem hier am ähnlichsten sind. Das macht Firmenwissen für KI durchsuchbar nach Bedeutung statt nach Stichwort. In der Praxis entscheidet weniger die Datenbank über die Qualität als das, was man hineinlegt — und wie man es zerteilt.

Ein Beispiel

Ein Maschinenbauer legt 12.000 Seiten Wartungsdokumentation als Embeddings ab. Ein Techniker fragt „Was tun bei Fehlercode E-114 an der Baureihe 3?“, das System findet die vier passendsten Abschnitte und gibt sie dem Sprachmodell mit. Die Antwort steht in Sekunden und nennt die Seitenzahl. Ohne diesen Zwischenschritt hätte das Modell den Fehlercode nie gesehen und trotzdem flüssig geantwortet — nur eben frei erfunden.

Genauer betrachtet

Sie speichert Embeddings und findet zu einer Anfrage die nächsten Nachbarn, meist über Näherungsverfahren, weil ein exakter Vergleich bei Millionen Einträgen zu langsam wäre. Filter auf Metadaten wie Zeitraum, Abteilung oder Rechte laufen dabei mit.

Warum das zählt

Die Vektordatenbank ist die Stelle, an der ein KI-Projekt vom Modellthema zum Datenthema wird, und der Punkt, an dem die meisten scheitern. Nicht am Suchverfahren, sondern an der Pflege: Wer aktualisiert die Dokumente, wenn sich etwas ändert? Wie werden Zugriffsrechte abgebildet, damit ein Mitarbeiter über die Suche nicht Dokumente zu sehen bekommt, die er im Dateisystem nicht öffnen dürfte? Und wie wird gelöscht, wenn jemand ein Auskunfts- oder Löschbegehren stellt? Diese drei Fragen entscheiden über den Betrieb, nicht die Wahl des Produkts.

Häufig missverstanden

Die Datenbank ist selten das Problem. Der Aufwand steckt im Zerlegen der Dokumente, im Aktualisieren und in den Zugriffsrechten. Dort entstehen die Fehler, die später als Modellfehler erscheinen.

Nachbarschaft

Verwandte Begriffe

Der Brief.