Warum das AI-Problem vieler Unternehmen kein Modell-Problem ist

Bei meiner Mitarbeit am Positionspapier der AG Knowledgegraphen des KI Bundesverbands stand eine Frage im Mittelpunkt, die mir auch in der Praxis immer wieder begegnet: Was bringt das leistungsfähigste Sprachmodell, wenn das geschäftsrelevante Wissen fragmentiert in PDFs, Datenbanken, Wikis und Fachanwendungen liegt? 

Matthias Bauer
CTO Data Analytics & AI ATVANTAGE GmbH

In der Praxis startet die Diskussion meistens beim Modell, also bei der Frage nach GPT, Claude, Gemini oder spezifischen Open-Source-Ansätzen sowie der Entscheidung zwischen API und Eigenhosting. Das sind zwar relevante Weichenstellungen, sie lösen aber das Kernproblem nicht: Ein Sprachmodell kennt das aktuelle, interne Wissen eines Unternehmens nicht von Natur aus. 

Genau hier setzt das Positionspapier „Wissen als Wettbewerbsvorteil – Wie Unternehmen ihre Daten gezielt mit AI ausschöpfen“ an. Ein zentraler Ansatz darin ist die Integration von Wissensgraphen in eine hybride AI-Architektur. 

Ein besseres Modell rettet keine unstrukturierte Wissensbasis

Große Sprachmodelle glänzen bei der Verarbeitung von Sprache und der Generierung plausibler Antworten. Plausibilität darf jedoch nicht mit Verlässlichkeit verwechselt werden, da dieser Unterschied spätestens dann geschäftskritisch wird, wenn die AI Aufgaben jenseits einfacher Textzusammenfassungen übernimmt. Bei Compliance-Prüfungen, Vertragsanalysen oder operativen Prozessen muss die zugrunde liegende Datenquelle absolut transparent sein. 

Hinzu kommt die Dynamik im Unternehmen: Da sich Verträge, Richtlinien und Produkte laufend ändern, ist es wirtschaftlich und technisch unmöglich, das Modell bei jeder Datenaktualisierung neu zu trainieren. Der häufigste Denkfehler in der aktuellen Debatte liegt darin, dass wir die Intelligenz des Modells überfokussieren, während wir die Qualität und Struktur des bereitgestellten Wissens vernachlässigen.

Die Trennung von Logik und Daten durch Wissensgraphen

Ein Wissensgraph organisiert Informationen nicht als isolierte Dokumente, sondern bildet die Beziehungen zwischen ihnen explizit ab. Das hilft überall dort, wo Kundendaten über Systeme verstreut sind, Lieferketten komplexe Abhängigkeiten aufweisen oder regulatorische Vorgaben mit konkreten Verantwortlichkeiten verknüpft werden müssen. 

Innerhalb der AI-Architektur fungiert der Graph als semantische Schicht zwischen den Datenquellen und der Anwendung. Das Sprachmodell bleibt damit für seine eigentliche Stärke zuständig, nämlich das Verstehen und Generieren von Sprache, während das fachliche Wissen außerhalb des Modells gepflegt wird. 

Diese architektonische Trennung bietet drei handfeste Vorteile:

Effiziente Pflege

Bei Änderungen muss lediglich der betroffene Fakt im Graphen aktualisiert werden, nicht das Modell.

Auditierbarkeit

Antworten lassen sich direkt auf die zugrunde liegenden Quellen zurückführen.

Flexibilität

Das AI-Modell bleibt austauschbar, ohne dass das wertvolle Domänenwissen an einen einzelnen Anbieter gekoppelt ist.

Allerdings ist der Wissensgraph kein automatisches Allheilmittel. Ob Quellen sauber nachvollziehbar sind und der Modellwechsel gelingt, hängt von der gesamten Pipeline ab, angefangen vom Datenmodell über das Retrieval bis hin zur Schnittstellengestaltung. Der Wissensgraph ist daher kein bloßes Technologie-Add-on, sondern eine grundlegende Architekturentscheidung. 

Wo die Grenzen liegen und der Governance-Aspekt beginnt

Sobald AI-Anwendungen in produktive, geschäftskritische Prozesse wandern, rücken Governance-Fragen in den Fokus: Woher stammen die Daten, wer kontrolliert sie und wie steht es um die Aktualität? Gerade in regulierten Branchen sind lückenlose Nachvollziehbarkeit und Dokumentation Pflicht. Da Unternehmenswissen ein langfristiges Asset ist, ein AI-Modell dagegen eine kurzlebige Technologiekomponente, sollten beide Ebenen architektonisch sauber getrennt werden.

Trotz des aktuellen Hypes braucht nicht jedes Unternehmen einen Wissensgraphen, denn nicht jedes Datenproblem ist ein Graph-Problem. Wenn Daten schwach vernetzt sind und eine klassische relationale Datenbank die Anforderungen erfüllt, bedeutet ein Graph nur unnötige Komplexität. Auch bei strukturierten Einzelabfragen oder extrem hohen Datenvolumina und Verarbeitungsgeschwindigkeiten sind andere Architekturen oft überlegen. 

Das Investment in einen Graphen lohnt sich erst dort, wo die Beziehungen zwischen den Daten eine eigene fachliche Relevanz besitzen, wie es bei Supply-Chain-Abhängigkeiten oder der Verknüpfung von Regulatorik und Prozessen der Fall ist. Die Entscheidung sollte immer am konkreten Anwendungsfall fallen und sich nicht an der Popularität eines Trends orientieren. 

Fazit: Die eigentliche Arbeit beginnt bei den Daten

An leistungsfähigen Modellen mangelt es derzeit nicht. Die eigentliche Hürde für Unternehmen ist die strukturierte Aufbereitung des eigenen Wissens. Solange Informationen ungesteuert in SharePoint-Ordnern, E-Mail-Postfächern und Altsystemen liegen, stößt auch die nächste Modellgeneration an Grenzen, denn bloßer Datenzugriff ist noch keine belastbare Wissensbasis. 

Das Positionspapier empfiehlt hierzu einen pragmatischen Weg: Mit einem konkreten Use Case starten, die dafür nötigen Datenbeziehungen analysieren und die Datenverantwortlichkeiten frühzeitig klären. Erst in diesem Schritt zeigt sich, ob die Lösung ein Wissensgraph, eine Kombination verschiedener Technologien oder schlicht eine konsequent aufgeräumte Bestandsarchitektur ist. Das Fundament für den produktiven AI-Einsatz liegt in der Organisation des eigenen Wissens. Das ist zwar weniger spektakulär als die nächste Modellankündigung, für den wirtschaftlichen Erfolg aber entscheidend. 

Sie beschäftigen sich mit der Frage, ob Ihr AI-Vorhaben am Modell, an den Daten oder an der zugrunde liegenden Architektur hängt? Wir schauen uns den konkreten Anwendungsfall und die vorhandene Datenlandschaft an und prüfen, welcher Ansatz dazu passt – mit Wissensgraph oder ohne.

Kontakt aufnehmen

Autor:

Matthias Bauer
CTO Data Analytics & AI ATVANTAGE GmbH

Dieser Beitrag beruht auf Expertenwissen. Für die Ausformulierung wurde AI eingesetzt. 

Blog

AI-Modelle außer Kontrolle? Warum Governance Chefsache ist

Sind AI-Modelle außer Kontrolle? Matthias Bauer ordnet die Sandbox-Vorfälle ein und zeigt, warum AI-Kontrolle auf den Vorstandstisch gehört.

Blog 19.02.26

Warum KI-Projekte scheitern, bevor sie beginnen

In dieser Folge von insights! spricht Joubin Rahimi mit KI-Spezialist Matthias Bauer über die brutale Wahrheit hinter KI-Projekten und warum KI-Projekt meist scheitern, bevor sie beginnen.

Blog 16.05.24

Fehler in der Entwicklung von AI-Assistenten

Erfolgreiche AI-Assistenten starten mit den richtigen Learnings: Erfahren Sie, warum viele Unternehmen scheitern und wie Sie typische Fehler vermeiden – für eine optimale Umsetzung Ihrer AI-Projekte!

Blog 16.05.24

Fehler in der Entwicklung von AI-Assistenten

Erfolgreiche AI-Assistenten starten mit den richtigen Learnings: Erfahren Sie, warum viele Unternehmen scheitern und wie Sie typische Fehler vermeiden – für eine optimale Umsetzung Ihrer AI-Projekte!

Blog 16.05.24

In 8 Schritten zu AI-Innovationen im Unternehmen

Künstliche Intelligenz ist längst mehr als ein Schlagwort – sie schafft echten Business Value. Mit unserem achtstufigen Ansatz unterstützen wir Unternehmen auf dem Weg zur erfolgreichen AI-Nutzung.

Blog 21.05.26

Warum dein Unternehmen ein Motorsport-Team braucht

Wir reden über Change Habits, Klarheit unter Druck und warum dein Unternehmen ein Motorsport-Team braucht, wenn du im KI-Zeitalter wirklich Standards setzen willst.

Blog 17.05.24

8 Tipps zur Entwicklung von AI-Assistenten

AI-Assistenten sind ein Hype, und viele Teams arbeiten mit Begeisterung an ihrer Umsetzung. Doch in Europa und den USA scheitern viele an dieser Herausforderung. Damit Ihnen das nicht passiert, haben

Blog 17.05.24

8 Tipps zur Entwicklung von AI-Assistenten

AI-Assistenten sind ein Hype, und viele Teams arbeiten mit Begeisterung an ihrer Umsetzung. Doch in Europa und den USA scheitern viele an dieser Herausforderung. Damit Ihnen das nicht passiert, haben

Blog 06.08.26

Warum der Großhandel unterschätzt wird!

In der neuen insights!-Folge spricht Joubin Rahimi mit Toralf Feuchtenhofer, Gründer und Geschäftsführer der Crest Digital, über die Realität hinter den schönen Digitalisierungsversprechen.

Blog 11.12.25

Daten, AI, Effizienz: Was Unternehmen jetzt voranbringt

Im neuen Beitrag erklärt dir Gunther Hahn, warum Geschwindigkeit, Datenqualität und klarer Mehrwert die drei Faktoren sind, die über erfolgreiche AI-Projekte entscheiden.

Wissen

TIMETOACT LLM Benchmark: Über 160 KI-Modelle im Vergleich

Der interaktive TIMETOACT LLM Benchmark vergleicht über 160 Sprachmodelle nach Code, CRM, Docs, Integration, Marketing, Reasoning, Kosten und Geschwindigkeit – sortier- und filterbar.

Blog 16.09.24

Business Innovation und Digitale Transformation mit AI

Die Implementierung von AI bietet enormes Potenzial für Unternehmen – von Effizienzsteigerungen bis hin zu völlig neuen Geschäftsmodellen. Doch wie jede technologische Revolution birgt sie auch Risiken und Fallstricke. In diesem Blogbeitrag werfen wir einen Blick auf die Potenziale von AI für Unternehmen und auf die häufigsten Fehler, die Sie bei der Einführung vermeiden sollten.

Wissen

TIMETOACT LLM Benchmarks August: 187 KI-Modelle im Vergleich

Neue Modelle, neue Platzierungen: GPT-5.6 Sol, Claude Opus 5 und Grok 4.5 sorgen im August 2026 für Bewegung an der Spitze der TIMETOACT LLM Benchmarks.

Blog 14.05.26

Was 200 Unternehmen über ihren KI-Einsatz sagen

Das neue B2BEST Barometer des ECC KÖLN, erstellt in Zusammenarbeit mit synaigy und unterstützt von VTEX, hat 200 Großhändler und Hersteller befragt. Die Ergebnisse sind manigfaltig.

Use Case

Use Case: Unternehmen wird mit Gen AI bis zu 80% effizienter

Automatisierte Dokumentenprüfungen, skalierbar, normkonform & stark beschleunigt – Qualität & Auftragsquote deutlich verbessert.

Blog

[Report] AI for social good

Erfahre alle relevanten Kennzahlen zur Generativen KI und lerne von den führenden Unternehmen, wie sie bereits signifikante Zuwächse bei Jahresumsatz und ROI verzeichnen können dank Gen AI.

Blog

[eBook] Willkommen im Zeitalter der AI Agents!

Ein digitales Team, das Mails schreibt, Daten analysiert & Kunden betreut – klingt nach Sci-Fi? Mit Google Agentspace wird das Realität. Entdeckt jetzt, wie AI Agents Euch den Alltag erleichtern!

Blog

[eBook] AI Agent Trends 2026

Fünf Veränderungen, die im Jahr 2026 Rollen, Arbeitsabläufe und den geschäftlichen Nutzen neu definieren werden.

Blog 13.05.26

Übermorgen: Wie du dein Unternehmen für 15 Jahre fit machst

Du erfährst, warum nicht KI dir den Job nimmt, warum 15 Millionen Menschen weniger im Arbeitsmarkt eine Chance sind und warum Made in Germany gerade an seinen eigenen Touchpoints scheitert.

Blog

[eBook] The ROI of AI 2025

AI-Agenten sorgen für erhebliche Renditen und verschaffen Unternehmen im Jahr 2025 einen neuen Wettbewerbsvorteil.