Vektordatenbank

Eine Vektordatenbank funktioniert wie ein Aktenschrank, der nicht alphabetisch sortiert ist, sondern nach Bedeutung: Alle Dokumente zu ,Reklamation' stehen nah beieinander, egal ob im Text ,Beschwerde', ,Rücksendung' oder ,Mängelrüge' steht. Genau so arbeitet sie – nur dass die ,Nähe' über Zahlen berechnet wird, nicht über ein Regal.

Technisch läuft das über sogenannte Embeddings: Ein KI-Modell übersetzt jeden Text-Abschnitt in eine lange Liste von Zahlen, einen Vektor. Ein verbreitetes Modell erzeugt dabei 1.536 solcher Zahlen pro Textabschnitt. Ähnliche Inhalte bekommen ähnliche Zahlenmuster, und die Datenbank findet sie über Ähnlichkeitssuche statt exaktem Textabgleich – meist mit einem Suchverfahren namens HNSW.

In der Praxis ist die Vektordatenbank das Gedächtnis hinter RAG-Systemen (Retrieval-Augmented Generation): Handbücher, Verträge oder Angebote werden zerlegt, als Vektoren gespeichert und bei einer Anfrage gezielt durchsucht. Das kann in der Cloud laufen oder komplett im eigenen Haus – dann verlassen die Daten das eigene Netz nicht.

Der praktische Nutzen zeigt sich vor allem dort, wo das Team heute Zeit mit Suchen verbringt: in Service-Handbüchern, Angebotsvorlagen, technischen Datenblättern oder der Ablage vergangener Kundenanfragen. Statt Stichwörter zu raten und mehrere Ordner durchzuklicken, stellt jemand eine Frage in normaler Sprache – die Vektordatenbank findet die passende Stelle, auch wenn die Formulierung im Dokument anders lautet.

Ein zweiter Effekt betrifft die Verlässlichkeit von KI-Antworten: Wenn ein Chatbot oder Assistent seine Antworten aus den echten Dokumenten des Unternehmens holt, statt aus allgemeinem Trainingswissen zu raten, sinkt das Risiko frei erfundener Antworten (KI-Halluzination) deutlich. Die KI zitiert dann die Quelle, statt zu improvisieren – das macht Antworten nachvollziehbar und für Rückfragen prüfbar.

Die Kosten hängen stark davon ab, wie viele Dokumente eingespeist werden sollen, wie oft sich diese ändern und ob die Lösung in der Cloud oder On-Premise laufen soll. Reine Cloud-Vektordatenbanken kosten oft nur wenige Euro im Monat für kleine Datenmengen, steigen aber mit Speichervolumen und Abfragehäufigkeit. On-Premise-Betrieb spart laufende Cloud-Gebühren, braucht dafür aber eigene Server und Wartung.

Der größere Kostenblock liegt meist nicht in der Datenbank selbst, sondern in der Anbindung: Dokumente müssen aufbereitet, regelmäßig aktualisiert und an einen Chatbot oder Assistenten angeschlossen werden. Nach unserer Erfahrung ist genau das der Aufwand, der über Erfolg oder Frust entscheidet. Das erste KI-System zum Festpreis ab 3.500 € (AI READY) deckt eine solche Basis-Anbindung inklusive Vektordatenbank ab.

Ein Maschinenbauer mit 45 Mitarbeitenden hat über Jahre hunderte Seiten Service-Handbücher, Ersatzteillisten und Reparaturprotokolle angesammelt – verteilt auf mehrere Laufwerke. Der Kundendienst sucht bei jedem Anruf mehrere Minuten nach der passenden Anleitung. Mit einer Vektordatenbank im Hintergrund kann ein interner Assistent die richtige Passage in Sekunden finden, weil er nach Bedeutung statt nach exaktem Dateinamen sucht.