KI & ERP · Stand November 2026

Talk to your Data: Mit ERP und Firmenwissen in normaler Sprache arbeiten

Von Fabian Kieser (KIeserIT) und Martin Pfeffer (celox)

Im ERP steckt fast alles, was ein Unternehmen weiß: Aufträge, Lager, Einkauf, Termine. Nur kommt kaum jemand schnell an die Antwort, die er gerade braucht. „Talk to your Data“ heißt: Mitarbeitende fragen das System in normaler Sprache und bekommen eine belastbare Antwort. Wie das sicher funktioniert und was danach möglich wird, zeigen wir hier.

Das Wichtigste in Kürze

  • Der Standard ist da: Über MCP verbinden sich KI-Assistenten mit ERP und anderen Systemen, statt dass jede Anbindung eine Einzellösung ist.
  • Die Ontologie macht den Unterschied: Erst wenn die KI die Begriffe und Zusammenhänge des Betriebs kennt, werden die Antworten verlässlich.
  • Drei Stufen: Fragen, Know-how sichern, automatisieren. Jede baut auf der vorigen auf.
  • Sicherheit gehört in die Architektur: Nur lesend starten, enge Werkzeuge, Rechte wie im ERP, Protokoll und menschliche Freigabe.

Was „Talk to your Data“ bedeutet

Heute läuft eine Frage an das ERP meist so: Jemand bittet einen Kollegen um eine Auswertung, der baut eine Liste, und die Antwort kommt am nächsten Tag als Tabelle. Bei „Talk to your Data“ fragt man direkt, etwa „Welche Aufträge sind diese Woche durch fehlendes Material gefährdet?“. Die KI holt die passenden Zahlen aus dem ERP, rechnet sie nach festen Regeln zusammen und antwortet in einem Satz, mit Verweis auf die betroffenen Aufträge.

Gemeint ist nicht, dass die KI frei in der Datenbank sucht. Sie nutzt genau definierte Werkzeuge, die wir für den Betrieb bauen. Das ist der Unterschied zwischen einer Spielerei und einer Lösung, der man im Alltag vertrauen kann.

Warum das gerade jetzt geht

Im November 2024 hat Anthropic das Model Context Protocol (MCP) vorgestellt, einen offenen Standard, der KI-Assistenten mit den Systemen verbindet, in denen die Daten liegen (Anthropic, 25.11.2024). Ein Jahr später gab es nach Angaben von Anthropic mehr als 10.000 aktive öffentliche MCP-Server und über 97 Millionen SDK-Downloads im Monat. Im Dezember 2025 ging MCP an die neu gegründete Agentic AI Foundation unter dem Dach der Linux Foundation, getragen unter anderem von Anthropic, OpenAI und Block und unterstützt von Google, Microsoft und AWS (Anthropic, 09.12.2025). Für Unternehmen heißt das: Eine Schnittstelle, einmal gebaut, funktioniert mit vielen KI-Assistenten, nicht nur mit einem Anbieter.

Auch die Unternehmen sind bereit. Laut Bitkom nutzen 2026 erstmals 57 % der Unternehmen ab 20 Beschäftigten KI, nach 36 % im Vorjahr. Beim Einsatzbereich internes Wissensmanagement nennt Bitkom 22 %, doppelt so viel wie im Vorjahr (11 %) (Bitkom, 14.09.2026).

So ist eine Lösung aufgebaut

Eine Talk-to-your-Data-Lösung besteht aus wenigen, klar getrennten Schichten. Jede hat eine Aufgabe, und jede lässt sich einzeln prüfen.

Schema: Mitarbeitende fragen einen KI-Assistenten, der über MCP-Server fachliche Werkzeuge nutzt. Die Ontologie mit Kunde, Auftrag, Artikel, Bestellung und Lieferant übersetzt zu ERP, weiteren Systemen und dokumentiertem Know-how. Die Antwort kommt mit Zahlen und Quelle zurück.
Von der Frage bis zu den Daten: fünf Schichten, jede mit einer klaren Aufgabe. Zum Vergrößern antippen.
  • KI-Assistent: Die Oberfläche, in der Mitarbeitende fragen. Das kann ein KI-Arbeitsplatz sein, den der Betrieb schon nutzt.
  • MCP-Server: Die Schnittstelle zum Unternehmen. Hier liegen die fachlichen Werkzeuge, etwa „Status eines Auftrags“ oder „gefährdete Aufträge“, dazu Anmeldung, Rechteprüfung und Protokoll.
  • Ontologie: Die Sprache des Unternehmens. Sie beschreibt Geschäftsobjekte wie Auftrag, Artikel oder Lieferant, wie sie zusammenhängen und wie Kennzahlen gerechnet werden.
  • Quellen: Das ERP, weitere Systeme wie Zeiterfassung oder Dokumentenablage und das dokumentierte Know-how. Sie bleiben, wo sie sind. Die Lösung liest nur.

Warum die Ontologie den Unterschied macht

ERP-Tabellen heißen selten so, wie Menschen sprechen. Was im Betrieb „Liefertermintreue“ heißt, ist in der Datenbank eine Rechnung über mehrere Tabellen. Lässt man eine KI ohne diese Übersetzung auf die Daten los, rät sie.

Wie viel das ausmacht, zeigt eine Studie von data.world: GPT-4 beantwortete Geschäftsfragen direkt auf einer Unternehmensdatenbank nur zu 16 % richtig. Mit einem Wissensgraphen, der die Datenbank fachlich beschreibt, stieg die Quote auf 54 % (Sequeda, Allemang, Jacob, 2023). Die Studie nutzte ein Datenmodell aus der Versicherung und ein Modell von 2023. Die Richtung ist trotzdem eindeutig: Die fachliche Beschreibung der Daten ist kein Beiwerk, sie entscheidet über die Qualität.

Deshalb gehen wir einen Schritt weiter als die reine Beschreibung: Häufige Fragen werden zu festen Werkzeugen, die nach definierten Regeln rechnen. Die KI wählt das Werkzeug, rechnet aber nicht selbst. So bleibt jede Zahl nachvollziehbar.

Gegen das eigene Unternehmen prompten: drei Stufen

Ist die Grundlage gelegt, fragt man nicht mehr ein allgemeines Sprachmodell, sondern das eigene Unternehmen. Daraus ergeben sich drei Stufen, die aufeinander aufbauen.

  1. Fragen statt suchen: Mitarbeitende fragen das ERP direkt: „Welche Aufträge sind durch fehlendes Material gefährdet?“, „Wie viel haben wir dieses Jahr mit Kunde X umgesetzt?“, „Welche Bestellungen sind überfällig?“. Die Antwort kommt mit Zahlen und Quelle, ohne Bericht beim Kollegen aus der IT.
  2. Know-how sichern: Die Ontologie hält fest, was Begriffe im Betrieb bedeuten und wie Kennzahlen gerechnet werden. Anleitungen, Checklisten und Erfahrungen landen daneben. So wird Wissen, das bisher in wenigen Köpfen steckt, für alle abrufbar.
  3. Automatisieren mit Freigabe: Wiederkehrende Fragen werden zu Regeln: eine Frühwarnung bei drohendem Terminverzug, ein Wochenbericht für die Geschäftsleitung, ein Entwurf für die Nachbestellung. Was ins ERP schreibt, gibt ein Mensch frei.

Besonders die zweite Stufe wird wichtiger. Bis 2040 erreichen in Deutschland rund 13,3 Millionen Erwerbspersonen das gesetzliche Rentenalter, das sind 30 % aller Erwerbspersonen (Destatis, 23.06.2026). Mit ihnen geht Erfahrungswissen, das oft nirgends aufgeschrieben ist. Eine gepflegte Ontologie mit Glossar und Kennzahlen ist ein guter Ort, um es festzuhalten.

Risiken und Leitplanken

Wer eine KI an Firmendaten lässt, muss mit Prompt Injection rechnen. Das ist die Nummer 1 der OWASP-Liste der größten Risiken für Anwendungen mit Sprachmodellen. Gemeint sind Eingaben, die das Verhalten der KI ungewollt verändern, auch versteckt in Dokumenten oder Freitextfeldern. OWASP empfiehlt, der KI nur die nötigsten Rechte zu geben und riskante Aktionen von einem Menschen freigeben zu lassen (OWASP, LLM01:2025).

Dazu kommt ein wirtschaftliches Risiko. Gartner erwartet, dass bis Ende 2027 mehr als 40 % der Projekte mit KI-Agenten wieder eingestellt werden, wegen steigender Kosten, unklarem Nutzen und fehlender Risikokontrollen (Reuters via The Star, 25.06.2025). Unsere Antwort: klein starten, mit wenigen Fragen, deren Nutzen jeder im Betrieb sofort sieht.

Diese Leitplanken bauen wir deshalb von Anfang an ein:

  • Nur lesen zum Start: Die KI bekommt zuerst keinen Schreibzugriff. Schreiben kommt später, Schritt für Schritt und mit Freigabe.
  • Werkzeuge statt freier Abfragen: Jedes Werkzeug kennt nur seine Felder. Die KI kann keine beliebigen Datenbankbefehle absetzen.
  • Rechte wie im ERP: Wer im ERP keine Einkaufspreise sieht, bekommt sie auch über die KI nicht.
  • Protokoll und Notbremse: Jede Abfrage wird mitgeschrieben. Ein Schalter stoppt alle Werkzeuge sofort.
  • Daten in der EU: Server in Deutschland, KI-Modelle nur mit Auftragsverarbeitungsvertrag und Verarbeitung in der EU.

Wie das mit dem Datenschutz zusammenpasst, erklärt unser Artikel „KI im Betrieb nutzen, ohne dass Daten die EU verlassen“.

So gehen wir vor

  1. Klären: Gemeinsam mit einer Fachabteilung legen wir die ersten drei bis fünf Fragen fest und beschreiben die nötigen Geschäftsobjekte.
  2. Lesend anbinden: MCP-Server, Werkzeuge und Ontologie entstehen, zuerst gegen Testdaten, dann gegen ein Testsystem.
  3. Im Alltag testen: Eine Abteilung arbeitet einige Wochen mit echten Fragen.
  4. Ausbauen: Erst danach kommen weitere Abteilungen, Frühwarnungen und Schreibzugriff mit Freigabe.

Ihr ERP fragen statt suchen?

celox und KIeserIT bauen Schnittstellen, Ontologie und Betrieb aus einer Hand. Im Erstgespräch klären wir, welche Fragen sich bei Ihnen zuerst lohnen.

Erstgespräch anfragen

Quellen

Dieser Artikel gibt unsere Einschätzung wieder (Stand November 2026). Zahlen stammen aus den genannten Quellen. Beispiele sind allgemein gehalten und beschreiben keinen bestimmten Kunden.