Der Automobilhersteller Audi setzt nun mit Hilfe von Storm Reply auf Generative KI, welche zusammen mit Retrieval-Augmented Generation (RAG) für ein zuverlässiges internes Wissensmanagement sorgt.
# Retrieval-Augmented Generation
# Generative AI Chatbot
# Automotive Industry
Die Vision
Ein KI-Chatbot für das interne Wissensmanagement.
Ob Projektdokumentation, Risikobewertung oder nur die Telefonnummer eines Kollegen: Mitarbeiter benötigen tagtäglich eine Vielzahl an unterschiedlichen internen Informationen. Doch die Suche nach diesen ist oft zeitaufwändig und nicht immer zielführend.
Der Automobilhersteller Audi wollte diesem Problem entgegenwirken. Ein Chatbot sollte den Mitarbeitern die benötigte Information unkompliziert in wenigen Sekunden zur Verfügung stellen und so die Produktivität und die Qualität der Arbeitsergebnisse und Entscheidungen verbessern.
Da gängige Chatbots oft mit veralteten Technologien wie z. B. einfachen Schlagwortsuchen (Keyword-Search) arbeiten, kommt es bei diesen mitunter zu falschen oder sehr allgemeinen Antworten. KI-basierte Chatbots bergen ebenfalls Risiken: Wenn nicht ausreichend passende Daten zur Verfügung stehen, halluzinieren sie. All das kann gerade innerhalb von Unternehmen fatale Folgen haben und zu ineffizienten Abläufen oder fehlerhaften Entscheidungen führen.
Halluzinationen und unspezifische oder veraltete Antworten? Kein Thema für die Mitarbeiter von Audi bei der Verwendung des neuen Chatbots. Dabei handelt sich um eine innovative KI-Lösung, die die Experten von Storm Reply innerhalb von vier Wochen auf Basis des Amazon SageMaker-Services entwickelt haben. Kann der KI-Chatbot die gestellte Frage aufgrund einer unzureichenden Datenlage nicht sicher beantworten, legt er dies offen, statt eine Antwort zu konstruieren. So können die Mitarbeiter die bereitgestellten Informationen bedenkenlos nutzen und auf die Ergebnisse zählen. Zudem gibt der Chatbot keine allgemeinen Antworten, sondern nur solche, die für Audi relevant sind.
Retrieval-Augmented Generation (RAG) macht all das möglich. Diese Technologie erlaubt es im Zusammenspiel mit modernstem Prompt-Engineering, die Ausgabe des KI-Chatbots und des dahinterstehenden Large Language Models (LLM) gezielt mit spezifischen Informationen zu optimieren. Dabei bleibt das Modell selbst unverändert. Bevor der Chatbot eine Antwort gibt, ruft er zunächst alle relevanten Einträge aus einer speziell von Audi definierten externen Basis ab. Diese kann Audi jederzeit flexibel anpassen und erweitern. So kann das Unternehmen nicht nur korrekte, sondern auch stets aktuelle Antworten gewährleisten.
Dieser Chatbot ist ein großartiges Beispiel dafür, wie innovative Technologie genutzt werden kann, um praktische Anwendungsfälle innerhalb einer sehr kurzen Time-to-Market zu lösen. Er reduziert die Hürden bei der Suche nach Informationen für unsere internen Stakeholder.
Michael Pawelke
Product Owner AWS Foundation Services, Audi AG
Der neue interne KI-Chatbot ermöglicht den Mitarbeitern bei Audi einen unkomplizierten, schnellen und sicheren Zugang zu Informationen. So kann das Unternehmen Wissenssilos aufbrechen und bessere Entscheidungen, effizientere Prozesse und letztendlich Kostensenkungen verwirklichen. Zudem bietet der Chatbot die folgenden Vorteile:
Der Audi Konzern ist einer der erfolgreichsten Hersteller von Automobilen und Motorrädern im Premium und Luxussegment. Die Marken Audi, Bentley, Lamborghini und Ducati produzieren an 21 Standorten in 12 Ländern. Audi und seine Partner sind weltweit in mehr als 100 Märkten präsent. 2022 hat der Audi Konzern 1,61 Millionen Automobile der Marke Audi, 15.174 Fahrzeuge der Marke Bentley, 9.233 Automobile der Marke Lamborghini und 61.562 Motorräder der Marke Ducati an Kund_innen ausgeliefert. Im Geschäftsjahr 2022 erzielte der Audi Konzern bei einem Umsatz von € 61,8 Mrd. ein Operatives Ergebnis von € 7,6 Mrd. Weltweit arbeiteten 2022 mehr als 87.000 Menschen für den Audi Konzern, davon mehr als 54.000 bei der AUDI AG in Deutschland. Mit seinen attraktiven Marken sowie neuen Modellen, innovativen Mobilitätsangeboten und wegweisenden Services setzt das Unternehmen den Weg zum Anbieter nachhaltiger, individueller Premiummobilität konsequent fort.
Storm Reply ist spezialisiert auf das Design und die Implementierung innovativer Cloud-basierter Lösungen und Dienstleistungen. Durch die fundierte Expertise in der Erstellung und Verwaltung von Infrastructure as a Service (IaaS), Software as a Service (SaaS) und Platform as a Service (PaaS) Cloud-Lösungen unterstützt Storm Reply wichtige Unternehmen in Europa und auf der ganzen Welt bei der Implementierung von Cloud-basierten Systemen und Anwendungen. Storm Reply ist AWS Premier Consulting Partner.