Software & KI
RAG
Retrieval Augmented Generation
Retrieval Augmented Generation, kurz RAG, verbindet die Suche nach Informationen mit der Texterzeugung eines KI-Modells. Für eine Frage werden passende Inhalte aus angebundenen Quellen gesucht und dem Modell als zusätzlicher Kontext für die Antwort bereitgestellt.
Was bedeutet das im Unternehmen?
Ein RAG-System benötigt eine geeignete Aufbereitung und Suche über die Dokumente. Die Qualität hängt davon ab, ob relevante, aktuelle und für den Nutzer freigegebene Inhalte gefunden werden. Quellenangaben erleichtern die Kontrolle einer Antwort. Sie allein beweisen aber nicht, dass eine Aussage korrekt aus der Quelle abgeleitet wurde.
Ein Beispiel aus der Praxis
Eine interne Wissenshilfe beantwortet eine Frage zu einem Geräteablauf. Sie sucht zunächst in freigegebenen Handbüchern und erstellt daraus eine Antwort mit Verweisen auf die passenden Stellen. Findet sie keine ausreichende Grundlage, soll sie das kenntlich machen, statt eine verbindlich klingende Anweisung zu erfinden.
RAG verändert nicht automatisch das Modell durch Training
Die gefundenen Informationen werden bei der jeweiligen Anfrage bereitgestellt. Das ist ein anderer Ansatz als ein Training oder eine gezielte Anpassung des Modells. Werden Dokumente geändert, muss auch die Suchgrundlage passend aktualisiert werden.
Darauf kommt es an
- Quellenbestand, Aktualisierung und Zuständigkeiten festlegen.
- Zugriffsrechte auch bei Suche und Antworterzeugung durchsetzen.
- Mit typischen Fragen, Gegenbeispielen und fehlenden Informationen testen.
Eine häufige Frage
Verhindert RAG erfundene Antworten vollständig?
Nein. Es kann Antworten besser auf Quellen stützen, aber falsche Suchergebnisse, veraltete Inhalte und fehlerhafte Schlussfolgerungen bleiben möglich. Verweise, überprüfbare Tests und eine klare Behandlung unbeantwortbarer Fragen gehören daher zum Konzept.
Herausgeber: IT Fabrik · Stand: