Das Wichtigste in Kürze
- Microsoft Copilot glänzt bei Standard-Büroaufgaben (Word, Outlook, Teams, PowerPoint), stößt aber bei komplexen Unternehmensdaten, Fachjargon und ERP-Verknüpfungen schnell an Grenzen.
- Custom AI (Private LLMs / RAG) lohnt sich bei tiefen Prozessintegrationen, sensiblen Kundendaten, Branchen-Know-how und dann, wenn Berechtigungen und Datenhaltung streng in Deutschland/EU bleiben müssen.
- Kostenvergleich: Copilot kostet ca. 30 €/Nutzer/Monat (bei 100 Nutzern = 36.000 €/Jahr, rein für Lizenzen). Eine Private AI Runtime startet oft ab 2.500 €/Monat als Festpreis für das gesamte Unternehmen — unabhängig von der Nutzerzahl.
- Der hybride Weg gewinnt in der Praxis: Standard-Copilot für Office-Arbeitsplätze, Private Custom AI für Kernprozesse, ERP-Abfragen und Kundenservice.
Die Kernunterschiede im Schnellüberblick
Microsoft Copilot ist ein standardisiertes SaaS-Add-on für das Microsoft-365-Ökosystem. Es greift über den Microsoft Graph auf E-Mails, Chats und Dokumente zu. Ein Custom LLM (oder eine Private AI Runtime) dagegen ist ein dediziert für Ihr Unternehmen aufgesetztes Modell, das auf Ihre internen Datenbanken (ERP, CRM, Ticketsysteme, File-Server) trainiert oder mittels Retrieval-Augmented Generation (RAG) angebunden wird.
- Zielgruppe Copilot: Wissensarbeiter, die Texte formulieren, E-Mails zusammenfassen oder Folien generieren wollen.
- Zielgruppe Custom AI: Fachabteilungen und Betriebe mit speziellen Prozessen, technischer Dokumentation oder ERP-gestützter Auftragsabwicklung.
- Datenhoheit Copilot: Verarbeitet in der Microsoft Cloud (EU Data Boundary), Bindung an Microsofts Sicherheits- und Rollenmodell.
- Datenhoheit Custom AI: Vollständige Kontrolle über Datenstandort (deutsches Rechenzentrum oder on-premises), Audit-Logs und Modellgewichte.
Kostenmodell: Nutzerlizenz vs. Infrastruktur-Festpreis
Ein oft übersehener Faktor ist die Skalierung der Kosten. Microsoft Copilot verlangt typischerweise 30 $ bzw. knapp 30 € pro Benutzer und Monat — und setzt in der Regel eine bestehende Microsoft 365 Business Standard, Premium oder E3/E5 Lizenz voraus. Bei 50 Nutzern sind das bereits 18.000 € pro Jahr; bei 200 Nutzern 72.000 € pro Jahr — Jahr für Jahr, ohne dass Ihnen die Infrastruktur gehört.
Ein Custom LLM (z. B. auf Basis von Llama 3, Mistral oder Qwen, betrieben als Managed AI Runtime) verursacht einmalige Einrichtungs- und Anbindungskosten sowie eine kalkulierbare monatliche Serverpauschale (ab 2.500 €/Monat). Der entscheidende Vorteil: Ob 20, 100 oder 500 Mitarbeiter das System abfragen oder ob Kundenanfragen über die Website verarbeitet werden, ändert nichts am Lizenzpreis.
Datenschutz, EU AI Act und Berechtigungsfallen
Microsoft Copilot übernimmt die Berechtigungen aus SharePoint und Microsoft 365. Was in der Theorie elegant klingt, führt in der Praxis oft zu bösen Überraschungen: In vielen Unternehmen sind SharePoint-Rechte über Jahre unsauber vergeben worden. Fragt ein Mitarbeiter Copilot: 'Wie hoch sind die Gehälter im Vertrieb?', spuckt das System vertrauliche Excel-Dateien aus, wenn diese versehentlich für 'Jeder im Unternehmen' lesbar waren.
Bei einer maßgeschneiderten Custom AI wird der Datenraum explizit kuratiert. Nur verifizierte Handbücher, ERP-Tabellen oder Prozessdokumente fließen in die Vektordatenbank ein. Zudem können strikte Filter, Anonymisierungen und Exit-Strategien audit-sicher hinterlegt werden — essenziell für die Einhaltung des EU AI Acts und BSI-Sicherheitsanforderungen.
Wann Sie Microsoft Copilot wählen sollten — und wann Custom AI
Wählen Sie Microsoft Copilot, wenn: Sie Ihren Mitarbeitern in erster Linie ein Werkzeug zur Entlastung bei Standard-Schreibarbeiten, Meetings und Präsentationen an die Hand geben wollen und Ihre Microsoft-365-Berechtigungen lückenlos aufgeräumt sind.
Wählen Sie Custom AI, wenn: Sie ein KI-System benötigen, das tief in ERP-Systeme wie Business Central eingreift, Kundenanfragen automatisiert, mit Firmengeheimnissen arbeitet, feste monatliche Kosten statt Nutzerabos verlangt oder eine strikte DSGVO-Garantie auf deutscher Hardware benötigt.
Häufige Fragen
- Ja, genau das ist bei mittelständischen Kunden oft die erfolgreichste Strategie. Copilot bedient das tägliche Büro-Rauschen (E-Mails, Kalender, Notizen), während eine Private AI Runtime geschäftskritische ERP-Abfragen, Wissensdatenbanken und automatisierte Workflows übernimmt.
- Bei Microsoft Copilot garantiert Microsoft vertraglich, dass Unternehmensdaten nicht für das Training öffentlicher Modelle genutzt werden. Bei einer Private AI Runtime ist dies technisch ausgeschlossen, da die Modelle 'frozen' auf Ihrer eigenen oder dedizierten Infrastruktur in Deutschland laufen.
- Mit unserem AI Infrastructure Sprint erhalten Sie in 10 Arbeitstagen eine produktionsreife Architektur und ein lauffähiges System zum Festpreis ab 4.900 €. Der anschließende Managed-Betrieb beginnt bei 2.500 € pro Monat inklusive Wartung, Updates und GPU-Betrieb.