Retrieval-Augmented Generation (RAG) ist eine bahnbrechende KI-Technologie, welche die Vorteile des Information Retrieval (Informationsabfrage) mit den Möglichkeiten der Textgenerierung kombiniert, um präzise und kontextbezogene Antworten für den Benutzer zu generieren. Dabei kommen zwei Techniken zum Einsatz, ein „Retrieval-Modell“ und ein generatives Sprachmodell (z. B. ChatGPT, Gemini, Llama).
Die Retrieval-Komponente durchsucht beliebige Datenquellen (Dokumente, Richtlinien, das Sharepoint, Datenbanken, Wikis usw.), um relevante und aktuelle Informationen in Echtzeit abzurufen und zu verarbeiten. Dank der Fähigkeit, auf aktuelle Informationen zuzugreifen, überwinden RAGs die Einschränkungen rein generativer Chatbots und minimieren dadurch Fehlinformationen, auch als „Halluzinationen“ bekannt. Die Nutzer erhalten dadurch sofortigen Zugriff auf umfangreiche und aktuelle Daten, ohne manuelle zeitaufwändige Recherchen durchführen zu müssen.
Nachdem das Retrieval-Modell die relevanten Informationen in der Wissensdatenbank gefunden hat, übernimmt das Sprachmodell die Aufbereitung dieser Daten. Es verarbeitet die Informationen so, dass sie in einem klaren und passenden Kontext dargestellt werden. Dabei werden die Informationen an die Bedürfnisse des Nutzers angepasst, sodass sie für jeden leicht verständlich sind. Wenn nötig, werden die Daten auch in der jeweiligen Landessprache bereitgestellt.
Im Gegensatz zu bestehenden Datenquellen (wie beispielsweise Wikis) sind RAG-Systeme benutzerfreundlicher, da die Interaktion natürlich und intuitiv ist. Die Nutzer können ihre Anfragen in normaler Alltagssprache „ChatGPT-like“ in einem Suchfenster formulieren (siehe Video), und die Chatbots verstehen und reagieren entsprechend. Dadurch wird die Hürde für den Zugang zu komplexen Daten erheblich gesenkt.
Neben den oben beschriebenen, bieten RAGs eine Reihe weiterer Vorteile, von denen einige hier genannt werden:
- RAGs sind branchenunabhängig und flexibel an jede Informationsquelle anpassbar.
- Sie sind effizient und kostengünstig. Im Vergleich zu anderen Ansätzen, die eine Anpassung großer Sprachmodelle an domänenspezifische Daten erfordern, sind RAGs einfach und kostengünstig zu implementieren. Organisationen können RAGs verwenden, ohne ihre Sprachmodelle anzupassen oder nachtrainieren zu müssen. Dies ist besonders vorteilhaft, wenn Modelle regelmäßig mit neuen Daten (z. B. Richtlinienänderungen) aktualisiert werden müssen.
- Durch die Fähigkeit, Quellen zu zitieren und zu verlinken, ermöglicht RAG den Benutzern, die Herkunft der Informationen. Dadurch wird die Transparenz erhöht und es kann überprüft werden, woher die Informationen stammen.
Retrieval-Augmented Generation (RAG) im Unternehmenseinsatz
Für die folgenden Anwendungsfälle haben wir bereits erfolgreich verschiedene Prototypen implementiert und getestet, die auch in Ihrem Unternehmen eingesetzt werden können. Im Folgenden beschreiben wir drei unserer bestehenden Use Cases genauer:
- Use Case: Chatbot für (Unternehmens-)Richtlinien
Mit dem eigens entwickelten ADVISORI-Chatbot können Unternehmensrichtlinien KI-basiert überprüft werden, um sicherzustellen, dass sie stets den neuesten Standards und aktuellen Regularien entsprechen. Dazu zählen beispielsweise ISO 27001, DORA und viele andere. Manuelle Überprüfungen werden dadurch überflüssig, was erheblich Zeit und Aufwand spart. - Use Case: Gap-Analyse – Überprüfung der Datensicherungsrichtlinie auf Konformität mit ZAIT / IT-Grundschutz
Der Chatbot führt umfassende Gap-Analysen bestehender Richtlinien durch und überprüft dabei Standards wie ZAIT und IT-Grundschutz. - Use Case: Mitarbeitersuche – Suche nach Mitarbeitern mit bestimmten Fähigkeiten und Verfügbarkeiten
Der Chatbot unterstützt bei der Identifizierung von Mitarbeitern mit spezifischen Fähigkeiten und zeigt deren Verfügbarkeit an. Dabei stellt die Technologie sicher, dass die Informationssicherheit bei der Kombination von Sprachmodellen und firmeneigenen Daten gewahrt bleibt, ohne die Leistungsfähigkeit des Sprachmodells zu beeinträchtigen. Eine rollenbasierte Zugriffskontrolle kann auf Dokumentenebene implementiert werden, um den Datenzugriff zu steuern und nur autorisierten Personen zu ermöglichen.
Das nachfolgende Video zeigt beispielhaft, wie unser “ADVISORI-Chatbot“ funktioniert.
Sie haben Fragen zu unserem Chatbot oder möchten wissen, wie Sie den Chatbot in Ihrem Unternehmen implementieren können? Dann schreiben Sie uns hier eine Nachricht.
