Storm Reply führt für Audi einen RAG-basierten KI-Chatbot ein und revolutioniert die interne Dokumentation

21. Dezember 2023

Storm Reply, spezialisiert auf innovative Cloud-basierte Lösungen und Services, unterstützt den Automobilhersteller Audi bei der Verbesserung des internen Wissensmanagements durch die Einführung eines Retrieval-Augmented Generation (RAG) basierten KI-Chatbots. Das Projekt nutzt generative KI-Technologie, um den Zugriff auf interne Informationen effizienter und zuverlässiger zu gestalten.

Um ein effizientes Wissensmanagement für alle Audi-Mitarbeitenden zu ermöglichen, liefert der KI-Chatbot von Storm Reply in Sekundenschnelle benötigte Informationen zu Projektdokumentationen, Risikobewertungen oder Kontaktdaten. 

Der innovative KI-Chatbot basiert auf generativer KI und wurde mit Hilfe des Amazon SageMaker Services erstellt. Das Tool liefert nur relevante Antworten, die für das Unternehmen von Bedeutung sind. Kann eine Frage aufgrund unzureichender Daten nicht sicher beantwortet werden, kommuniziert der Chatbot dies, anstatt eine falsche Antwort zu konstruieren. Bevor der Chatbot eine Frage beantwortet, ruft er relevante Informationen aus einer externen Datenbank ab, die vom Unternehmen vordefiniert werden kann.

Die Retrieval-Augmented Generation (RAG) ermöglicht es, die Ausgabe des KI-Chatbots durch modernes Prompt-Engineering gezielt zu optimieren, ohne das zugrundeliegende Modell zu verändern. Der Chatbot liefert relevante und stets aktuelle Antworten, die die interne Kommunikation auf ein neues Level heben, die Produktivität sowie die Qualität von Arbeitsergebnissen und Entscheidungen steigern. Unternehmen profitieren von einem KI-Chatbot, der den Mitarbeitenden einen einfachen, schnellen und sicheren Zugang zu Informationen bietet. So lassen sich Wissenssilos aufbrechen, bessere Entscheidungen treffen, effiziente Prozesse umsetzen und letztlich Kosten senken.

Michael Pawelke, Product Owner AWS Foundation Services Audi AG, kommentiert: „Der von Storm Reply entwickelte generative KI-Chatbot beschleunigt unsere Reise in die Cloud. Dieser Chatbot ist ein großartiges Beispiel dafür, wie innovative Technologie eingesetzt werden kann, um praktische Anwendungsfälle innerhalb einer sehr kurzen Markteinführungszeit zu lösen. Er senkt die Hürden bei der Suche nach Wissensdatenbanken für unsere internen Stakeholder und wird wahrscheinlich nur wenig zusätzlichen Aufwand erfordern, um auf weitere Anwendungsfälle ausgeweitet zu werden.“

Filippo Rizzante, CTO von Reply, fügt hinzu: „Der KI-Chatbot verbessert den Arbeitsalltag der Mitarbeitenden erheblich. Er ist in der Lage, Daten aus verschiedenen Quellen wie Confluence, Notion, PDFs und benutzerdefinierten Websites zu integrieren, um die Datenbank stets aktuell zu halten. Die Sicherheit wurde von Anfang an berücksichtigt: Die Chatbot-Architektur wurde in einer Virtual Private Cloud (VPC) entwickelt, um die Sicherheit der Daten und die Privatsphäre der Nutzerinnen und Nutzer zu gewährleisten.“