Software & KI
LLM
Large Language Model
Ein Large Language Model, kurz LLM, ist ein KI-Modell, das anhand großer Datenmengen sprachliche Muster gelernt hat. Es verarbeitet Eingaben und erzeugt daraus zum Beispiel Antworten, Zusammenfassungen oder Programmcode. Die Ausgabe entsteht schrittweise aus berechneten Wahrscheinlichkeiten.
Was bedeutet das im Unternehmen?
Ein Sprachmodell kann bei Formulierungen, der Auswertung von Texten oder beim Entwurf von Inhalten helfen. Welche Informationen es verwendet, hängt von Training, bereitgestelltem Kontext und angebundenen Quellen ab. Für dein Unternehmen sind deshalb Datenzugriff, geeignete Aufgaben und eine verlässliche Prüfung der Ergebnisse zu klären.
Ein Beispiel aus der Praxis
Du lässt freigegebene Besprechungsnotizen zu einer Aufgabenliste zusammenfassen. Das Modell ordnet die Aussagen und schlägt Formulierungen vor. Anschließend vergleichst du Zuständigkeiten und Termine mit den Notizen. Angaben, die dort fehlen, werden nicht ungeprüft übernommen.
Sprachliche Sicherheit belegt keine sachliche Richtigkeit
Eine flüssige Antwort kann Fehler oder erfundene Angaben enthalten. Das Modell führt ohne passende Anbindung auch keine aktuelle Recherche in deinen Unternehmenssystemen durch. Für überprüfbare Fakten braucht es geeignete Quellen und Kontrollen.
Darauf kommt es an
- Geeignete Aufgaben und zugelassene Daten festlegen.
- Ergebnisse anhand nachvollziehbarer Beispiele prüfen.
- Modell und Anwendung einschließlich Datenverarbeitung getrennt bewerten.
Eine häufige Frage
Kennt ein Sprachmodell automatisch unsere internen Dokumente?
Nein. Diese müssen über die verwendete Anwendung ausdrücklich bereitgestellt oder angebunden werden. Dabei sind Zugriffsrechte zu berücksichtigen, beispielsweise bei einer Suche über RAG.
Herausgeber: IT Fabrik · Stand: