RAG Chatbots in LMS Kursen
KI im Kurskontext
RAG System
Anwendungsagnostische API
Die Entwicklung unserer RAG Infrastruktur befindet sich in vollem Gange.
Das RAG System ist anwendungsagnostisch, da die Anbindung über festgelegte Schnittstellen erfolgt. Dies ermöglicht eine flexible und sichere Integration in verschiedene Systeme wie Moodle.
Auch die benötigte Inferenz für Completions und Embeddings können von einem beliebigen Inferenzanbieter angebunden werden. Im Hochschulkontext mit Blick auf die Datenhoheit empfehlen wir KI:connect.nrw als Inferenzanbieter, um auch die von uns gehosten Modelle einfach nutzen zu können.
Da wir sowohl die Verarbeitung von Dateiinhalten als auch die Kontextanreicherung von Nutzeranfragen selbst implementiert haben, können wir jeden Verarbeitungsschritt lückenlos nachvollziehen. Diese Transparenz bildet die Grundlage für maximale Datensicherheit und Performanzoptimierung.
Moodle-Plugin
Bereit für Testbetrieb
Wir haben ein Moodle-Plugin entwickelt, das die RAG-Schnittstellen nutzt. Mit diesem Plugin können Lehrende RAG-basierte Chatbots als Moodle-Aktivität in ihre Kurse einbinden. Die Lehrenden behalten dabei die volle Kontrolle über:
Zugriffsrechte auf Dateien: Sie entscheiden, welche Kursdokumente der Chatbot zur Beantwortung von Fragen nutzen darf.
Anpassung des System-Prompts: Über den System-Prompt können sie das Antwortverhalten des Chatbots zusätzlich konfigurieren.
Für die Teilnehmenden des Kurses steht der RAG-Chat dann zur Verfügung. Bei jeder Antwort werden relevante Textausschnitte aus den ausgewählten Kursdokumenten in die Eingabe eingebunden. Zusätzlich werden die verwendeten Quellen angegeben, beispielsweise per Dateiname und Seitenzahlen.
Wir planen, das System in ausgewählten Moodle Kursen der Ruhr-Universität Bochum (RUB) im Sommersemester 2026 in einem Testbetrieb zu erproben.
Der Chatbot verwendet die Kursdokumente in der Antwortgenerierung und verweist auf verwendete Quellen.
Lehrende können entscheiden auf welche Dokumente der jeweilige Chatbot Zugriff hat.
Bereitstellungsszenarien
Das RAG System kann auf verschiedene Wege an einer Hochschule bereitgestellt werden.
In allen vorgestellten Szenarien wird die Inferenz (wie oben empfohlen) über KI:Connect bezogen, um Zugriff auf die von OSKI bereitgestellten Sprachmodelle zu erhalten. Näheres dazu hier.
Bei Fragen oder weiteren Anliegen können Sie uns gerne kontaktieren.
Interne Bereitstellung
Hochschulen, welche ihr Moodle selber hosten, können den RAG-Stack auf einem eigenen System hosten.
- Passend für Hochschulen mit IT-Ressourcen
- Ermöglicht Datenhoheit
- Benötigt Server mit Docker
Externe Bereitstellung
Hochschulen, welche ihre Moodle Instanz extern hosten lassen, können auch den RAG-Stack extern hosten lassen - z.B. bei einem Dienstleister oder einer anderen Hochschule. Dies muss nicht der selbe Anbieter wie für die Moodle Instanz sein.
- Passend für Hochschulen mit keinen / geringen IT-Ressourcen
- Wissensdatenbank befindet sich extern - keine vollständige Datenhoheit
Interesse an einer externen Bereitstellung? Melden Sie sich gerne bei uns!
Externe Bereitstellung RAG-Stack
Hochschulen, welche ihr Moodle selber hosten, können den RAG-Stack auch auf einem externen System hosten lassen.
Siehe dazu auch "Externe Bereitstellung"
Interne RAG-Datenbank - Externe RAG-Applikation
Die RAG-Datenbank kann unabhängig von der RAG-Applikation bereitgestellt werden.
Die Bearbeitung von Anfragen wird somit ausgelagert, während die gespeicherten Wissensdaten vollständig an der eigenen Hochschule verbleiben.
- Passend für Hochschulen mit geringen IT-Ressourcen
- Ermöglicht Datenhoheit
- Benötigt Server mit Datenbank