Zur Blog-Übersicht
Blog · Marktüberblick 29. Mai 2026 10 Min. Lesezeit

Welches KI-Wissens-System für welche Firmengrösse

Ein praktischer Marktüberblick zu Knowledge-Graph- und RAG-Lösungen – mit klaren Empfehlungen für Solo bis Konzern. Damit Sie wissen, wann sich was lohnt.

Roberto Schlatter
Roberto Schlatter Gründer & KI-Berater, Moro Vision GmbH

Praktisch jede Woche kommt in einem Beratungsgespräch dieselbe Frage auf den Tisch: «Sollen wir Copilot kaufen, oder bauen wir lieber etwas Eigenes?» Oder: «Wir hören gerade viel zu Langdock – ist das eine Alternative für uns?»

Es gibt keine pauschale Antwort. Aber es gibt einen brauchbaren Rahmen, in dem die Entscheidung sich treffen lässt – und der hat zwei Achsen: Firmengrösse und Datenhoheits-Anspruch. Dieser Beitrag stellt die vier wichtigsten Pfade nebeneinander und gibt für jede Grössenklasse eine konkrete Empfehlung.

Warum diese Frage gerade jetzt zählt

Generative KI ist 2024 in den Mainstream gerückt. 2025 haben die Hyperscaler ihre Enterprise-Produkte gehärtet, und 2026 steht für viele Unternehmen die zweite Stufe an: weg vom ChatGPT-Spielmodus, hin zu KI-Systemen, die die eigene Wissensbasis kennen.

Diese Technologie heisst im Fachjargon RAG (Retrieval-Augmented Generation) und oft kombiniert mit einem Knowledge Graph, der die Beziehungen zwischen Personen, Themen, Dokumenten abbildet. Vier Schulen stehen heute zur Auswahl:

  • Selbst gebaut auf Open-Source-Basis
  • Microsoft Copilot (über M365)
  • Google Vertex AI Search (über Workspace)
  • EU-SaaS-Plattformen wie Langdock

Die Wahl entscheidet über Setup-Aufwand, laufende Kosten, Datenhoheit, Compliance-Aufwand und Integrationstiefe. Sie ist keine reine IT-Frage – sondern strategisch.

Die vier Pfade im Überblick

1. Open-Source-Stack auf eigener Infrastruktur

Ein selbst betriebenes System aus Open-Source-Komponenten: Vector-Suche, ein Graph-Speicher, ein selbst gewähltes Sprachmodell und ein eigenes Frontend. Hosting auf einem Schweizer oder deutschen Server (z. B. Infomaniak oder Hetzner), maximale Datenhoheit, vollständige Kontrolle über jede Komponente. Trade-Off: Mehr Setup- und Wartungs-Aufwand. Ohne erfahrenen Partner kein KMU-Format.

2. Microsoft-Pfad – Copilot for M365

Wenn Microsoft 365 sowieso im Einsatz ist, ist Copilot der pragmatischste Pfad. Integration in Teams, Outlook, Word, Excel ist nativ. Im Hintergrund läuft Azure AI Search als Vector-Komponente und Azure OpenAI als Sprachmodell. Trade-Off: Vendor-Lock-in in das Microsoft-Ökosystem – lohnt nur, wenn dieses bereits gesetzt ist.

3. Google-Pfad – Vertex AI Search

Das Pendant für Firmen auf Google Workspace. Vertex AI Search bündelt Vector- und semantische Suche, mit Konnektoren zu Drive, Confluence und mehr. NotebookLM gibt es zudem als konsumer-orientiertes Werkzeug. Trade-Off: RAG-Erfahrung ist hier etwas später dran als bei Microsoft, dafür stark bei multimodalen Anwendungen.

4. EU-SaaS-Pfad – Langdock

Eine in Deutschland gehostete Plattform, die mehrere führende Sprachmodelle bündelt und das Konzept «Wissensordner» eingeführt hat: jeder Workspace kann eigene Dokument-Sammlungen indexieren, ohne Programmierkenntnisse. Trade-Off: Funktional liegt der Fokus auf klassischem RAG, native Knowledge-Graph-Funktion fehlt – lässt sich aber ergänzen.

Wichtig zu verstehen: Alle vier Pfade kombinieren ähnliche Bausteine. Sie unterscheiden sich vor allem darin, ob diese Bausteine selbst betrieben oder als Managed Service eingekauft werden – und welcher Plattform-Anbieter sie ausliefert.

Dieselben Bausteine, vier Pfade

Wenn man unter die Oberfläche schaut, kombinieren alle vier Lösungen dieselben sechs Komponenten. Die folgende Tabelle zeigt, was in jedem Pfad an welcher Stelle steht:

Baustein Open-Source-Stack Microsoft Google Langdock
RAG-Engine Open-Source-Framework GraphRAG / Copilot Vertex AI Search Langdock-Plattform
Knowledge Graph Graph-Datenbank Azure Cosmos DB Spanner Graph kein nativer KG
Vector-Suche pgvector / qdrant Azure AI Search Vertex AI Search Wissensordner
Sprachmodell Azure OpenAI (EU) Azure OpenAI Gemini Multi-LLM
Frontend Open-Source-Chat-UI Teams & Office-Apps NotebookLM Web-App + Native
Hosting Hetzner / Infomaniak (CH/DE) Azure (EU/CH) Google Cloud Deutschland

Sichtbar wird: Microsoft, Google und Langdock sind Managed-Service-Pfade – man bezieht ein fertiges Produkt, in dem die Bausteine bereits orchestriert sind. Der Open-Source-Stack ist der einzige Pfad, der die Bausteine sichtbar lässt und vollständige Kontrolle erlaubt – mit dem Preis von eigenständigem Betrieb.

Empfehlung nach Firmengrösse

Die folgenden Empfehlungen sind keine harten Wahrheiten, sondern häufige Empfehlungen aus unseren Projekten. Jeder Pfad bleibt eine valide Alternative – je nach Stack-Präferenz, Compliance-Treiber und vorhandener Infrastruktur. Die Pfeile zeigen den Pfad, der in der jeweiligen Klasse das beste Aufwand-Nutzen-Verhältnis liefert.

Solo & Startup

1 – 10 Personen
→ Häufige Empfehlung
Microsoft – ChatGPT Team oder Copilot Pro

Sofort einsetzbar, eigene Wissensbasis je Chat per Upload, kein Setup. Bestes Aufwand-Nutzen-Verhältnis für sehr kleine Teams.

GoogleNotebookLM kostenlos oder im Plus-Tarif – ideal für reine Recherche-Arbeit.
EU-SaaSLangdock Pro – sinnvoll, wenn der Wechsel auf eine Team-Lösung absehbar ist.
Self-HostedIn dieser Grössenordnung selten lohnend – nur bei explizit tech-affinen Solo-Berater:innen.

KMU

10 – 50 Mitarbeitende
→ Häufige Empfehlung
Langdock Business mit Onboarding-Begleitung

Wissensordner-Struktur, Team-Workspaces, EU-Hosting, DSGVO-konform – und vom ersten Tag an produktiv. Moro Vision unterstützt typischerweise beim Aufbau der Wissensordner-Architektur und in der Adoption.

MicrosoftCopilot for M365 – ja, wenn M365 bereits flächendeckend etabliert ist.
GoogleGemini in Google Workspace – analog, wenn die Firma auf Google steht.
Self-HostedEigener Open-Source-Stack – sinnvoll bei besonders sensiblen Branchen oder spezifischen Anforderungen, die SaaS-Produkte nicht abdecken.

Mittelstand

50 – 200 Mitarbeitende
→ Häufige Empfehlung
Langdock Enterprise + spezifische RAG-Erweiterung

Langdock als zentrale, kuratierte UI und Multi-LLM-Schicht – ergänzt durch eine massgeschneiderte RAG-Komponente für sensitive Datenbereiche oder Use-Cases, die explizit einen Knowledge Graph brauchen (z. B. komplexe Beziehungs-Recherchen, Multi-Hop-Fragen).

MicrosoftCopilot for M365 plus Custom-RAG – die natürliche Wahl, wenn die M365-Adoption schon hoch ist.
GoogleVertex AI Search mit Workspace – stark bei multimodalen oder analytischen Anwendungen.
Self-HostedGehärteter Open-Source-Stack mit Managed-DB – bleibt sinnvoll bei expliziter Schweizer Datenresidenz und Branchen-Regulatorik.

Grossunternehmen

200 – 1'000 Mitarbeitende
→ Häufige Empfehlung
Microsoft – Copilot Enterprise mit Purview

Bei dieser Grösse rückt Compliance ins Zentrum: Audit-Trail, DLP, Information Protection. Microsoft Purview ist hier am ausgereiftesten. Custom-Plugins decken Spezialfälle ab.

EU-SaaSLangdock Enterprise – valide Alternative, wenn EU-Datenhoheit strategisch wichtiger ist als der Microsoft-Verbund.
GoogleVertex AI Search mit Agent Builder – stark, wenn die analytische Infrastruktur (BigQuery) bereits Google ist.
Self-HostedEnterprise-Build auf Kubernetes – nur bei sehr spezifischen Souveränitäts- oder Branchenanforderungen.

Konzern

1'000+ Mitarbeitende
→ Häufige Empfehlung
Hybrid – Microsoft Copilot Enterprise plus spezialisierte Inseln

Ein einzelnes System trägt den Bedarf einer Konzernumgebung selten. Üblich ist Copilot für die breite Mitarbeiterschaft kombiniert mit spezialisierten RAG-/Agent-Systemen für einzelne Geschäftsfunktionen (Legal, R&D, Customer Service).

GoogleVertex AI Enterprise Suite – wenn Google Cloud strategisch gesetzt ist.
Enterprise SearchPlattformen wie Glean oder Hebbia bieten konzernspezifische Enterprise-Search-Funktionen.
EU-SaaSLangdock – sinnvoll als Spezial-Werkzeug für einzelne Teams mit besonderen Souveränitäts-Anforderungen.

Fazit & nächste Schritte

Zwei Beobachtungen stechen aus unseren Projekten heraus:

EU-SaaS ist häufig der Sweet Spot

Für KMU und Mittelstand ist Langdock oft wirtschaftlich attraktiver als ein selbst gebauter Stack – und gleichzeitig souveräner als reine Hyperscaler-Lösungen.

Microsoft gewinnt bei grösserer Compliance-Last

Ab Grossunternehmen-Grösse rückt die Reife von Purview, Conditional Access und Information Protection ins Zentrum – das ist Microsofts klare Stärke.

Self-Hosted bleibt eine Spezial-Antwort

Lohnend bei expliziten Souveränitäts-Anforderungen oder Use-Cases, die mit SaaS-Bausteinen nicht abbildbar sind – nicht als Default.

Wie Moro Vision dabei unterstützt

Offene Karte vorab: Moro Vision ist Registered Langdock Partner. Diese Partnerschaft sind wir bewusst eingegangen, weil sich Langdock in unserer Beratungspraxis für KMU und Mittelstand häufig als wirtschaftlich beste Wahl erwiesen hat – nicht umgekehrt. Bei Microsoft-, Google- und Self-Hosted-Pfaden begleiten wir Kunden ebenso, ohne dort eine Partnerschafts-Beziehung zu haben. Drei Rollen tauchen in unseren Projekten regelmässig auf:

  • Architektur-Beratung & Entscheidungs-Workshop – gemeinsam definieren, welcher Pfad zum eigenen Stack, zur Compliance und zum Budget passt.
  • Onboarding & Implementierung – Wissensordner-Struktur, Prompt-Design, Schulung. Vor allem bei Langdock- und Copilot-Einführungen.
  • Spezialisierte RAG-Erweiterungen – eigene Komponenten dort, wo Standard-Produkte zu kurz greifen, etwa bei Knowledge-Graph-basierten Recherchen oder branchenspezifischen Konnektoren.

Praktisch: Auch wenn die Empfehlung «Langdock» oder «Copilot» heisst, lohnt sich in fast allen Fällen eine externe Architektur-Bewertung vor dem Roll-out. Die teuersten Fehler entstehen bei der Wissensordner-Struktur und beim Permissions-Konzept – nicht bei der Tool-Wahl.

Stand & Vorbehalt: Dieser Marktüberblick reflektiert unsere Beratungspraxis im Mai 2026. Microsoft Copilot, Google Vertex AI, Langdock und die Open-Source-Welt entwickeln sich schnell – Empfehlungen erfordern regelmässige Neubewertung. Konkrete Preise wurden bewusst weggelassen, da sie sich monatlich verändern können. In einem konkreten Beratungsfall arbeiten wir mit aktuellen Vergleichszahlen.

Welcher Pfad passt zu Ihrem Unternehmen?

In einem zweistündigen Workshop arbeiten wir gemeinsam die Antwort heraus – inklusive konkretem Phasenplan, Budget-Bandbreite und Risiko-Bewertung. Kostenloses Erstgespräch zur Klärung des Workshop-Scopes.

Kostenloses Erstgespräch buchen