KI-Wissensassistent für Ihr Team

KI-Wissensassistenten im Überblick

Technisch steckt dahinter ein großes Sprachmodell — im Fachjargon ein Large Language Model, kurz LLM. Das ist dieselbe Art von Technik, die auch hinter den bekannten KI-Chats steckt. Der entscheidende Unterschied: Ein öffentliches LLM kennt Ihr Unternehmen nicht. Es weiß nicht, welche Gewährleistungsfrist in Ihren Verträgen steht, wie Ihr Freigabeprozess läuft oder was der Kunde vor zwei Jahren bestellt hat. Fragt man es trotzdem, kommt eine Antwort, die plausibel klingt und falsch ist.

Wir lösen das, indem der Assistent vor jeder Antwort in Ihren Unterlagen nachschlägt. Er sucht die passenden Stellen heraus, formuliert daraus eine Antwort und nennt das Dokument, aus dem sie stammt. Fachleute nennen dieses Verfahren Retrieval-Augmented Generation, kurz RAG — praktisch heißt es schlicht: nachsehen statt raten. Der Nebeneffekt ist wichtig: Weil jede Antwort eine Quelle hat, kann man sie überprüfen, statt ihr vertrauen zu müssen.

Berechtigungen bleiben dabei bestehen. Der Assistent zeigt jedem Mitarbeiter nur das, was er auch sonst sehen dürfte — über die KI entsteht kein Schleichweg zu Personalakten oder Kalkulationen. Zusätzlich legen wir fest, worüber der Assistent überhaupt Auskunft gibt und wo er abwinkt.

Beim Betrieb haben Sie die Wahl. In der Regel hosten wir das Sprachmodell in der EU, etwa über Azure OpenAI oder Mistral. Wo Daten das Haus gar nicht verlassen dürfen, betreiben wir ein eigenes LLM direkt bei Ihnen im Netz, üblicherweise auf Llama-Basis. Beides ist DSGVO-konform umsetzbar; welcher Weg passt, entscheidet sich an Ihren Anforderungen und nicht an unserer Vorliebe. Wo der Standard nicht reicht, entwickeln wir die LLM-Lösung passgenau, vom Zuschnitt auf Ihr Fachvokabular bis zur Anbindung an Ihre Systeme.

Am meisten bringt so ein Assistent dort, wo dieselbe Frage immer wieder gestellt wird: in der Einarbeitung neuer Kollegen, im First-Level-Support, in der Angebotserstellung, wenn jemand wissen muss, wie man einen vergleichbaren Fall zuletzt kalkuliert hat. Er ersetzt keinen erfahrenen Mitarbeiter. Er sorgt dafür, dass dessen Wissen nicht jedes Mal persönlich abgerufen werden muss.

KI-Wissensassistenten: konkrete Leistungen