Unternehmen investieren Millionen in KI – doch die Kontrolle fehlt oft noch
Deutsche Unternehmen erwarten von Künstlicher Intelligenz zunehmend messbare Geschäftsergebnisse. Laut einer Studie von SAP und Oxford Economics rechnen Firmen hierzulande 2026 im Durchschnitt mit einem Return on Investment von 24 %. Im Vorjahr lag der erwartete Wert noch bei 17 %. Gleichzeitig planen die befragten Unternehmen durchschnittlich rund 35 Millionen Euro für KI-Projekte ein.
Besonders im Fokus stehen sogenannte KI-Agenten. Diese Systeme erledigen nicht nur einzelne Aufgaben, sondern führen komplette Abläufe selbstständig aus. Sie greifen auf Daten aus verschiedenen Systemen zu, treffen Entscheidungen nach festen Regeln und lösen Folgeprozesse aus. Genau darin sehen viele Unternehmen große Potenziale für Effizienz und Automatisierung.
Die organisatorische Realität hinkt jedoch hinterher. Nur 4 % der befragten Unternehmen halten sich für vollständig auf den Einsatz solcher KI-Agenten vorbereitet. Besonders schwach ausgeprägt sind laut Studie Governance-Strukturen, also klare Regeln für Verantwortung, Kontrolle und Sicherheit im KI-Betrieb.
Mehr als die Hälfte der Unternehmen hat bislang keinen Prozess eingerichtet, bei dem Menschen die Entscheidungen von KI-Agenten überwachen. Ein Drittel verfügt über keine klaren Berechtigungs- oder Zugriffskontrollen. Nur 34 % führen ein zentrales Verzeichnis der eingesetzten KI-Agenten.
Gleichzeitig geben 75 % der Unternehmen an, KI schneller einzuführen, als sie diese kontrollieren können. Das erhöht Risiken bei Datenschutz, Compliance und Qualitätssicherung. Gerade für mittelständische Unternehmen und Verwaltungen kann das problematisch werden, wenn KI direkt in operative Prozesse eingebunden wird.
Hinzu kommt das Thema Schatten-KI. 71 % der Unternehmen berichten, dass Mitarbeitende zumindest gelegentlich nicht freigegebene KI-Tools nutzen. Dadurch entstehen zusätzliche Risiken für sensible Daten und Unternehmenswissen.
Auch die Datenqualität bleibt ein Problem. 81 % der Befragten erleben Verzögerungen oder Nacharbeiten, weil KI-Ergebnisse nicht zuverlässig genug sind. Viele Unternehmen testen KI bereits produktiv, ohne gleichzeitig belastbare Standards für Qualität und Nachvollziehbarkeit aufgebaut zu haben
Finanzteams verlieren durch KI-Kontrollen jede Woche viele Arbeitsstunden
Viele Unternehmen versprechen sich von KI schnellere Finanzprozesse, automatisierte Berichte und weniger Routinearbeit. In der Praxis entsteht jedoch oft ein neuer Aufwand. Laut einer IDC-Studie im Auftrag von Sage verbringen Finanzabteilungen inzwischen erhebliche Zeit damit, KI-Ergebnisse manuell zu überprüfen.
Für die Untersuchung wurden weltweit 2275 Finanzverantwortliche aus kleinen und mittleren Unternehmen befragt, darunter auch Entscheider aus Deutschland. Das Ergebnis zeigt deutlich, dass die Kontrolle von KI-Ausgaben zu einem neuen Kostenfaktor wird.
Besonders auffällig ist die Situation in Deutschland. Fast jede dritte Führungskraft im Finanzbereich benötigt zwischen 15 und 29 Stunden pro Woche, um KI-generierte Ergebnisse zu prüfen. Weitere 18 % investieren sogar mehr als 30 Stunden pro Woche in diese Kontrollen.
Im Durchschnitt müssen deutsche Unternehmen laut Studie rund 28 % der eingesparten Zeit wieder aufwenden, um KI-Entscheidungen nachvollziehbar zu machen. Das betrifft vor allem Berichte, Prognosen und Analysen, die intern oder gegenüber Wirtschaftsprüfern erklärt werden müssen.
Das zentrale Problem ist nicht unbedingt die Fehlerquote der Systeme. Entscheidend ist vielmehr die fehlende Transparenz. Finanzteams können Ergebnisse nicht einfach übernehmen, wenn unklar bleibt, wie die KI zu einer Empfehlung oder Zahl gekommen ist.
68 % der deutschen Befragten würden deshalb ein KI-System ablehnen, wenn dessen Entscheidungen nicht nachvollziehbar erklärt werden können. Selbst eine angebliche Genauigkeit von 99 % reicht vielen Verantwortlichen nicht aus. Vertrauen entsteht erst dann, wenn die Ergebnisse überprüfbar bleiben.
Die Softwarebranche reagiert inzwischen auf diese Anforderungen. Anbieter entwickeln sogenannte „Glass-Box“-Ansätze, bei denen Datenquellen, Annahmen und Entscheidungswege sichtbar gemacht werden. Mehr als die Hälfte der Unternehmen wäre laut Studie sogar bereit, dafür höhere Lizenzkosten zu akzeptieren.
Der Trend geht deshalb klar in Richtung hybrider Modelle. KI übernimmt Analysen und Vorarbeiten, die finale Freigabe bleibt jedoch beim Menschen. Gerade in regulierten Branchen wie Finanzwesen, Verwaltung oder Gesundheitswesen dürfte sich dieses Modell dauerhaft etablieren
Microsoft warnt vor versteckten Kosten von KI-Systemen
Microsoft-Chef Satya Nadella hat Unternehmen vor einem oft unterschätzten Risiko beim Einsatz von KI gewarnt. Seiner Ansicht nach bezahlen Firmen nicht nur für KI-Software und Rechenleistung, sondern zusätzlich mit ihrem eigenen Wissen. Nadella bezeichnet dieses Problem als „Reverse Information Paradox“.
Gemeint ist damit folgender Effekt: Damit KI-Systeme sinnvoll arbeiten können, müssen Unternehmen ihnen interne Informationen bereitstellen. Dazu gehören Dokumente, Prozesse, Fachwissen, Korrekturen und Arbeitsabläufe. Genau diese Daten machen die Systeme leistungsfähig.
Laut Nadella entsteht dadurch jedoch eine neue Abhängigkeit. Je mehr Wissen Mitarbeitende in KI-Systeme eingeben, desto stärker profitieren langfristig auch die Anbieter dieser Plattformen. Besonders kritisch sieht er dabei Korrekturen und Rückmeldungen von Nutzern. Jede Verbesserung trainiert die Systeme weiter und erhöht deren Wert.
Der Microsoft-Chef spricht von einem digitalen „Abgas“. Gemeint sind Prompts, Arbeitsweisen und Korrekturen, die während der Nutzung automatisch entstehen. Diese Informationen seien für Wettbewerber normalerweise kaum zugänglich und hätten daher einen hohen wirtschaftlichen Wert.
Die Debatte trifft besonders Unternehmen, die KI tief in ihre Geschäftsprozesse integrieren wollen. Gerade in Bereichen wie Kundenservice, Verwaltung, Finanzen oder Wissensmanagement fließen große Mengen interner Daten in KI-Systeme ein. Gleichzeitig bleibt oft unklar, welche Rückschlüsse Anbieter daraus ziehen können.
Brisant ist die Diskussion auch deshalb, weil Microsoft selbst mit Copilot und OpenAI-Partnerschaften zu den größten KI-Anbietern gehört. Nadella räumt diesen Interessenkonflikt indirekt ein und fordert stärkere Schutzmechanismen rund um Unternehmensdaten.
Als Lösung schlägt er klar definierte Vertrauensgrenzen für Daten, Bewertungen und Speicherbereiche vor. Unternehmen sollen genauer kontrollieren können, welche Informationen ein KI-System dauerhaft verarbeitet oder speichert.
Für europäische Unternehmen gewinnt dieses Thema zusätzlich an Bedeutung. Datenschutz, digitale Souveränität und Compliance-Anforderungen wie DSGVO oder der EU AI Act erhöhen den Druck, KI-Systeme kontrolliert und nachvollziehbar einzusetzen. Besonders mittelständische Unternehmen müssen deshalb stärker abwägen, welche Prozesse sie externen KI-Plattformen anvertrauen