Die Antworten werden uneinheitlich, Prozesse bleiben fragil, und aus vielen einzelnen Experimenten entsteht noch kein messbarer Business Impact. Der Reflex ist naheliegend: Dann brauchen wir eben bessere Modelle. Doch genau hier beginnt die Copilot-Illusion. In vielen Fällen ist nicht das Modell der Engpass, sondern die Umgebung, in der es arbeiten soll.

Die unbequeme Wahrheit

Das Problem liegt selten in der Technologie. Large Language Models (LLMs) sind bereits sehr leistungsfähig, wenn es darum geht, Sprache zu verstehen, Inhalte zu generieren, Muster zu erkennen und Wissen zugänglich zu machen. Oft liefern sie sogar mehr, als uns eigentlich lieb ist – etwa dann, wenn sie plausible, aber falsche Antworten erzeugen. Denn sie entfalten ihren Wert nur dann zuverlässig, wenn Kontext, Daten, Prozesse und Handlungsgrenzen sauber definiert sind.

Das eigentliche Problem sind unsere Erwartungen. Wir behandeln KI oft wie ein herkömmliches Tool, das sich problemlos in eine bestehende Umgebung integrieren und sofort nutzen lässt. Wir gehen davon aus, dass man sie einfach installiert, anschließt und direkt loslegt.

Aber genauso wie ein neuer Mitarbeiter ein Onboarding braucht, um seine Rolle und seinen Platz innerhalb von Abläufen, Netzwerken und der Organisation insgesamt zu verstehen, braucht auch eine KI genau das. Unternehmen sind ein eng verflochtenes Gefüge mit komplexen Prozessen, oft unausgesprochenen Regeln und gewachsenen Hierarchien. KI muss darin eingebettet und sorgfältig strukturiert werden. Systeme funktionieren nur dann zuverlässig, wenn ihre Rahmenbedingungen klar definiert sind. Das setzt allerdings voraus, dass auch die zugrunde liegende Umgebung sorgfältig strukturiert und konsistent ist. In der Praxis ist das selten der Fall. Menschen lernen solche Regeln durch Erfahrung, Gespräche und Beobachtung. KI braucht dafür explizite Strukturen: klare Daten, definierte Prozesse, Rollen, Regeln und Grenzen.

Doch das Wissen eines Unternehmens verteilt sich auf viele Orte und Daten, auf Dokumente mit unstrukturierten Inhalten und auf Menschen. Begriffe werden je nach Kontext unterschiedlich verwendet, und wichtige Informationen liegen oft nur implizit vor, versteckt in Texten oder im Kopf erfahrener Mitarbeiter. Prozesse sind also selten vollständig dokumentiert, und Entscheidungen innerhalb von Abläufen hängen stark von Erfahrung und situativem Kontext ab.

Ein erfahrener Mitarbeiter kann sich in dieser Komplexität intuitiv bewegen. Ein KI-System kann das nicht. Ohne ein klares Verständnis davon, wie Dinge zusammenhängen, stoßen KI-Systeme schnell an ihre Grenzen und die anfängliche Illusion zerfällt. Ohne Struktur kann ein System Informationen nicht zuverlässig verknüpfen, es versteht keine durchgängigen Prozesse und kennt keine klaren Handlungsgrenzen.

Die Folgen sind vorhersehbar: uneinheitliche Ergebnisse, fragile Abläufe und isolierte Einzellösungen. Mit jedem neuen Anwendungsfall (Use Case) entsteht eine weitere Insellösung, ohne dass sich ein stimmiges Gesamtbild ergibt. Die technische Intelligenz wächst, der tatsächliche geschäftliche Nutzen jedoch nicht. Und es gibt noch ein weiteres Problem …

Die Plattform, die es (noch) nicht gibt

Viele gehen davon aus, dass die passende Plattform für den Einsatz neuer Modelle längst existiert. Sie greifen zu Microsoft Teams, M365 Copilot, Salesforce Agentforce oder ChatGPT. Diese Lösungen lösen wichtige Teilprobleme: Sie bieten Zugang zu Modellen, integrieren sich in bestehende Anwendungen und senken die Einstiegshürde erheblich. Was sie jedoch nicht automatisch liefern, ist eine unternehmensweit konsistente Betriebslogik, in der Daten, Prozesse, Schnittstellen, Verantwortlichkeiten und Governance über Systemgrenzen hinweg zusammenspielen.

Genau diese Art der Zusammenarbeit wird für Unternehmen immer attraktiver und häufig unter dem Begriff der KI-Agenten diskutiert. Doch der erfolgreiche Einsatz kooperierender und autonomer KI-Agenten erfordert ein noch robusteres und stärker standardisiertes Fundament, das, wie oben beschrieben, in den meisten Unternehmen schlicht nicht vorhanden ist. Um zu verstehen, warum Agenten ausgerechnet mehr von dem benötigen, was den meisten Unternehmen noch fehlt, müssen wir zunächst verstehen, was KI-Agenten sind und wie sie funktionieren.

Was ist ein KI-Agent?

Es gibt inzwischen viele unterschiedliche Definitionsansätze. In manchen ist ein KI-Agent ein Prompt, der Verhalten festlegt, oder ein Workflow, der einzelne Schritte orchestriert. Andere beschreiben ihn als Service, der Handlungen ausführt. In der Realität ist ein KI-Agent meist eine Kombination aus all dem. Doch selbst eine konzeptionelle Definition eines Agenten beantwortet noch nicht die Frage, wo ein solcher Agent in einer technischen und strukturellen Umgebung eigentlich operiert. Manche verorten ihn im Backend oder setzen ihn mit dem Workflow-System gleich. Andere sagen, sie gehören in die Benutzeroberfläche eingebettet. Derzeit gibt es darauf keine einheitliche Antwort, nicht einmal von den Lösungsanbietern.

Gleichzeitig erhalten wir immer mehr Anfragen von Kunden, die agentische Systeme in ihre Workflows integrieren möchten. Ein verbreitetes Missverständnis besteht darin, KI-Agenten ließen sich einfach als Erweiterung bestehender Systeme hinzufügen. Diese Annahme trifft nicht ganz zu.

Kann man Agenten nicht einfach in Teams integrieren?

Die Antwort auf diese Frage hängt immer davon ab, was genau integriert werden soll. Eine Chatoberfläche oder ein einfaches Frontend lässt sich vergleichsweise unkompliziert anbinden. Ein System hingegen, das tatsächlich in Geschäftsprozesse eingreift, ist eine ganz andere Herausforderung und verschiebt den Fokus von reiner Integration hin zum Zusammenspiel vieler Komponenten. Plötzlich braucht es strukturierte Daten, klar definierte Prozesse und vernetzte Werkzeuge, sowohl für Agenten als auch für Nutzer. Zudem verändert sich die Ausgangslage, wenn nicht nur ein, sondern mehrere Agenten in bestehende Unternehmensprozesse eingeführt werden sollen. Wir bezeichnen dieses Szenario als Agentic Mesh. Es geht weit über Integration hinaus und beschreibt im Grunde ein neues „Betriebssystem“ für KI in Unternehmen.

Ein Agentic Mesh beschreibt ein vernetztes System aus spezialisierten KI-Agenten, Datenquellen, Tools, Schnittstellen und Governance-Regeln, das nicht isolierte Aufgaben automatisiert, sondern Arbeit über Prozess- und Systemgrenzen hinweg koordiniert.

Der Weg dorthin ist allerdings noch nicht vollständig geebnet. Ein wesentlicher Baustein dafür ist Retrieval Augmented Generation (RAG).

Warum Vektor-RAG nicht reicht

RAG-Systeme verbessern den Zugriff auf unternehmensinterne Informationen. Sie helfen dabei, relevante Inhalte zu identifizieren und fundiertere Antworten zu ermöglichen. Doch die inzwischen schon weite verbreiteten, vektorbasierte RAG-Systeme lösen nur einen Teil des Problems. Sie definieren nicht, wie Informationen strukturiert werden, wie Beziehungen modelliert sind oder wie Entscheidungen und Handlungen operationalisiert werden. Vektor-RAG führt zu besseren Antworten, aber nicht zu einem funktionierenden Wissens- oder Prozesssystem. Anders gesagt: Vektor-RAG ist ein wichtiger Schritt, aber kein Zielbild. Es hilft Systemen, relevante Informationen zu finden. Es beantwortet jedoch nicht automatisch die Fragen, welche Information verbindlich ist, welche Handlung daraus folgen darf, welcher Prozessschritt als nächstes kommt und wer dafür verantwortlich bleibt. Deshalb braucht es einen Perspektivwechsel.

Der Perspektivenwechsel

KI lässt sich nicht einfach auf bestehende Strukturen aufsetzen. Was es braucht, ist ein grundlegender Wandel im Denken:

Nur unter diesen Bedingungen kann KI mehr leisten als isolierte Unterstützung bei einzelnen Fragen und zu einem aktiven, verlässlichen Teil echter Arbeit im Unternehmenskontext werden.

Ein Beispiel aus dem Kundenservice zeigt das: Ein KI-Copilot kann schnell eine Antwort auf eine Kundenfrage formulieren. Doch wenn Produktdaten, Vertragslogik, Eskalationsregeln und CRM-Status nicht sauber verbunden sind, bleibt unklar, ob die Antwort korrekt, zulässig und prozesskonform ist.

Genau an dieser Stelle entscheidet sich, ob KI nur unterstützt oder ein verlässlicher Teil eines Geschäftsprozesses wird.

Was das in der Praxis bedeutet

Obwohl KI oft komplexer wirkt als erwartet, bedeutet das nicht, dass wir gescheitert sind. Es bedeutet lediglich, dass die tiefliegenden Herausforderungen nun sichtbar werden. Viele Organisationen stehen genau an diesem Punkt. Sie erkennen das Potenzial von KI, stoßen nun aber auf strukturelle Grenzen. Die Illusion verpufft. Denn wenn das Problem struktureller Natur ist, muss auch die Lösung strukturell sein.

Die nächste Phase von Enterprise KI wird nicht dadurch entschieden, wer das neueste Modell einsetzt. Entscheidend wird sein, welche Unternehmen ihre Daten, Prozesse, Verantwortlichkeiten und Systeme so strukturieren, dass KI darin zuverlässig handeln kann.

Copiloten waren der Einstieg. Agentische Systeme sind der nächste Schritt. Doch je mächtiger die Technologie wird, desto wichtiger wird das Fundament darunter. Die eigentliche Arbeit beginnt nicht beim Prompt – sondern bei der Architektur des Unternehmens.

Über den Autor

Dr. Andreas Kyek ist Data-Science- und KI-Experte mit über 25 Jahren Erfahrung in datengetriebener Produkt- und Prozessentwicklung. Mit seinem Physik-Background und seiner Tätigkeit in Führungsrollen (u. a. bei Infineon) verbindet er technologische Tiefe mit strategischer Umsetzung. Als Senior Principal Data Scientist und Practice Lead bei der Alexander Thamm [at] baut er die Data-Science- und AI-Praxis aus, mit Fokus auf agentischen KI-Systemen, Multi-Agent-Architekturen, semantische Wissensmodelle und RAG in komplexen Industrie-Setups. Er leitet großskalige Data-/AI-Initiativen (Industrie, Energie, Mobilität, Infrastruktur) und engagiert sich in Mentoring und Trainings für den verantwortungsvollen KI-Einsatz.