Der blinde Fleck bei der Integration von KI in Unternehmensprozessen

Wenn wir aktuell über Künstliche Intelligenz sprechen, denken die meisten noch immer an glorifizierte Chatbots, die uns Mails vorschreiben oder Code-Snippets generieren.

Doch der wahre Tsunami trifft gerade die Herzkammer der Wirtschaft: die ERP-Systeme (Enterprise Resource Planning).

Wir sprechen hier nicht mehr von passiven Assistenten, sondern von Agentic AI – also KI-Systemen, die eigenständig Handlungen in komplexen Datenbanken ausführen.

Kürzlich bin ich auf ein extrem spannendes Interview mit Amel Hankic, Director Product & Technology bei Aptean Austria, in der ITWelt gestoßen. Seine Kernaussage hat mich sofort gepackt, weil sie ein massives Sicherheitsproblem auf den Punkt bringt, das in der aktuellen Hype-Phase gerne unter den Teppich gekehrt wird:

„Ein KI-Agent darf nicht mehr Rechte haben als ein Mensch.“

Lass uns tief in die Technik, die Risiken und die wirtschaftlichen Konsequenzen eintauchen. Denn was hier passiert, wird definieren, wie wir in den nächsten zehn Jahren arbeiten.

Paradigmenwechsel: Vom starren Skript zum dynamischen Guardrail-System

Um zu verstehen, warum diese Entwicklung so relevant ist, müssen wir kurz auf die technische Architektur blicken. In den letzten Jahren haben wir Prozesse mit RPA (Robotic Process Automation) automatisiert.

Das waren im Grunde dumme Wenn-Dann-Skripte. Ein Wert ändert sich in Zelle A, das System kopiert ihn nach Feld B.

Agentic AI wirft dieses Konzept komplett aus dem Fenster. Wir definieren nicht mehr den Weg, sondern nur noch das Ziel und die Leitplanken (Guardrails).

Das System bekommt Werkzeuge (APIs, Datenbankzugriffe) in die Hand gedrückt und sucht sich den Lösungsweg selbst.

• Technischer Hintergrund: Die KI übersetzt unstrukturierte Daten (z. B. eine eingescannte Rechnung mit kryptischen Positionen) über ein Large Language Model (LLM) in strukturierte JSON-Payloads und triggert selbstständig die Buchungs-API.
• Der Vorteil: Die Software wird extrem resilient gegenüber Layout-Änderungen oder abweichenden Formulierungen.
• Das Risiko: Eine halluzinierende KI könnte ohne harte Systemgrenzen Finanzdaten überschreiben oder unautorisierte Transaktionen auslösen.

Die eiserne Regel der Berechtigungskonzepte

Hier kommt der entscheidende Punkt aus dem Aptean-Interview zum Tragen. In einem ERP-System liegen die sensibelsten Daten eines Unternehmens: Gehälter, Einkaufspreise, Margen, Kundendaten.

Hankic warnt völlig zu Recht davor, KI-Funktionen einfach nur oberflächlich „on top“ auf ein bestehendes System zu klatschen.

Genau das sehe ich aktuell leider viel zu oft.

Unternehmen bauen schnell eine OpenAI-API an ihr 15 Jahre altes Legacy-System, geben dem API-Key Super-Admin-Rechte, damit es überall lesen und schreiben kann, und hoffen, dass der System-Prompt:

"Du bist ein braver Buchhalter, bitte mach nichts kaputt." ausreicht. Das ist ein absoluter Albtraum für die Cybersecurity!

Ein echtes Identity and Access Management (IAM) für KI bedeutet:

1. Vererbung von User-Tokens: Der KI-Agent darf bei einer Abfrage immer nur mit dem Authentifizierungs-Token des menschlichen Users agieren, der den Prozess angestoßen hat.
2. Role-Based Access Control (RBAC): Darf der Mitarbeiter keine Überweisungen über 10.000 Euro freigeben, darf der Agent, der ihm assistiert, das auch nicht vorschlagen oder ausführen.
3. Audit-Logs: Jede von der KI getroffene Entscheidung muss in einer unveränderlichen Datenbank (z. B. via WORM-Storage) nachvollziehbar mit Versionierung abgelegt werden.

Wirtschaftliche Hebelwirkung im Backoffice

Wer profitiert von dieser Entwicklung? Ganz klar Unternehmen, die unter massivem Fachkräftemangel leiden. Der ROI (Return on Investment) von KI in ERP-Systemen bemisst sich nicht daran, wie viele API-Tokens man verbraucht hat oder ob man sich eine halbe Lizenz spart.

Der echte Mehrwert liegt in der Verschiebung von Arbeitszeit.

Ein klassischer Use Case ist die Kontierung von Eingangsrechnungen. Der Agent analysiert historische Daten, erkennt Lieferanten und macht fertige Vorschläge. Der Mensch wird vom Dateneingeber zum reinen Überwacher.

Er prüft die Anomalien. Hankic betont, dass dies nicht sofort Jobs kostet, sondern Prozesse verändert. Die Mitarbeiter müssen aber zwingend mitgenommen werden, sonst killt die innere Unsicherheit jede Akzeptanz für das neue System.

Unternehmen, die hier nur auf Kostensenkung statt auf Mitarbeiter-Empowerment setzen, werden unter massiven Druck geraten.

Meine Analyse & Meinung

Wenn ich mir anschaue, wie tiefgreifend diese Veränderungen sind, fühle ich mich stark an die Philosophie von Apple erinnert – ein Ökosystem, das ich, bzw. wir bekanntlich sehr schätzen.

Apple klatscht nicht einfach eine ChatGPT-App auf den Homescreen, sondern integriert Siri AI (o. Apple Intelligence) tief in den Kernel und die semantischen Indizes des Betriebssystems. Nur durch diese tiefe, native Integration können Rechte, Privatsphäre und Kontext sauber verwaltet werden.

Genau diese Architektur-Philosophie brauchen wir im Enterprise-Sektor. Wer jetzt versucht, Agentic AI als billiges Pflaster für kaputte, historisch gewachsene Prozesse zu nutzen, wird scheitern.

Die KI deckt schlechte Governance nicht ab, sie skaliert sie. Ein Wildwuchs an unkontrollierten KI-Agenten, die sich gegenseitig mit falschen Daten füttern, ist das IT-Desaster der späten 2020er Jahre.

Nur wer seine Berechtigungsstrukturen radikal aufräumt und Zero-Trust-Prinzipien auch auf Algorithmen anwendet, wird als Gewinner aus diesem Paradigmenwechsel hervorgehen.

Agentic AI bringt massive Effizienzgewinne in komplexe Unternehmens-Software, aber sie erfordert eine fundamentale Überarbeitung der Zugriffsrechte. Ein KI-Agent darf niemals pauschale Systemrechte besitzen, sondern muss stets den strikten Limitierungen und Berechtigungen des menschlichen Anwenders unterliegen.

Tiefe Integration schlägt oberflächliche API-Anbindungen um Längen.

Was denkt ihr darüber? Würdet ihr einem KI-Agenten in eurem Unternehmen vertrauen, wenn er eigenständig Rechnungen bucht, solange ihr noch den finalen Freigabe-Button drückt – oder seht ihr hier ein unkalkulierbares Kontrollrisiko?