Internationaler Zertifizierer · Internes Wissensmanagement
KI ohne Cloud-Zwang:
Günstiger, schneller, skalierfähiger
Wie ein internationales Zertifizierungsunternehmen mit über 30.000 Mitarbeitern sein KI-gestütztes Wissensmanagement gemeinsam mit axio auf eine neue technologische Basis stellt.
Zur LösungAusgangslage
Unser Kunde betreibt für verschiedene Fachabteilungen Chatbots, die in Sekunden Zugriff auf interne Richtlinien, Prüfpläne und weitere Dokumente geben. Gerade in der Vorbereitung und Durchführung von Zertifizierungsverfahren spart das spürbar Zeit und Kosten.
Die Chatbots setzten bisher stark auf Azure Cognitive Services. Der Kunde wollte unabhängiger von proprietären Lösungen werden, um selbst entscheiden zu können, ob der Betrieb in der Cloud oder auch On-Premise in der eigenen Infrastruktur erfolgt. Der Vorteil: volle Kostenkontrolle statt Vendor Lock-In. Gesucht war daher eine kosteneffiziente Architektur, die sich flexibel an große Dokumentmengen anbinden lässt.
Lösung
Binnen weniger Monate entwickelten die KI-Experten von axio concept gemeinsam mit dem Kunden eine hybride Suchlösung auf Open-Source-Basis. Sie ermöglicht dem Chatbot seine Antworten direkt aus den freigegebenen Unternehmensdokumenten zu ziehen, statt sich auf allgemeines Modellwissen zu verlassen – das macht die Antworten belastbar und nachvollziehbar.
Die neue Lösung setzt auf PostgreSQL und ersetzt den bisherigen Azure Service vollständig. Sie lässt sich wahlweise lokal oder in der Cloud betreiben. Die Antwortzeit ist gegenüber der alten Cloud-Lösung um 76% gesunken – bei gleichbleibender Antwortqualität. Gleichzeitig sind die Kosten deutlich weniger von der genutzten Datenmenge abhängig: In aktuellen Projekten werden bereits 23% der bisherigen Kosten eingespart. Je größer die Dokumentmengen, desto stärker spielt die Lösung ihre Skalierbarkeit aus.
Technologien & Methoden
- PostgreSQL
- Hybrid-Suche
- Retrieval-Augmented Generation
Ihr Vorhaben
Sprechen wir über Ihre Herausforderungen
Kontaktieren Sie uns für ein unverbindliches Beratungsgespräch.
Gespräch vereinbaren
Marco BürckelGeschäftsführer · axio concept