Warum viele KI-Projekte trotz hoher Investitionen nicht skalieren
Unternehmen investieren massiv in Künstliche Intelligenz, doch der breite Einsatz bleibt oft aus. Laut einer aktuellen Gartner-Studie haben nur 22 % der Organisationen KI erfolgreich über mehrere Geschäftsbereiche hinweg eingeführt oder verfolgen bereits einen klaren AI-first-Ansatz.
Gleichzeitig wollen 85 % der befragten Unternehmen ihre KI-Ausgaben im Jahr 2026 weiter erhöhen. Im Durchschnitt flossen bereits 12 % der Budgets einzelner Unternehmensbereiche in KI-Projekte. Trotzdem fehlt vielen Organisationen der Überblick darüber, welche Anwendungen tatsächlich wirtschaftlichen Nutzen bringen.
Besonders problematisch ist laut Gartner die fehlende Transparenz bei Kosten und Zuständigkeiten. Wenn Fachbereiche eigene KI-Werkzeuge einkaufen, entstehen schnell parallele Systeme mit unterschiedlichen Datenständen und Sicherheitsregeln. Dazu kommen Ausgaben für Cloud-Leistung, Schnittstellen, Datenaufbereitung und laufenden Betrieb.
Das wichtigste Ziel bleibt für 75 % der Unternehmen die Steigerung der Produktivität. Typische Anwendungen sind automatische Zusammenfassungen, Dokumentenklassifizierung, KI-gestützte Supportsysteme oder die Erstellung von Code und Präsentationen. Solche Projekte starten oft erfolgreich in einzelnen Teams, scheitern aber später an fehlenden Standards und Prozessen.
Erfolgreichere Unternehmen gehen strukturierter vor. Sie bewerten KI-Projekte laufend anhand konkreter Kennzahlen und verschieben Budgets gezielt auf Anwendungen mit messbarem Nutzen. Laut Gartner erzielen diese Organisationen bei 81 % ihrer KI-Initiativen positive wirtschaftliche Ergebnisse.
Viele andere Unternehmen können dagegen nicht einmal beziffern, welchen Nutzen ihre Projekte bringen. Bei 29 % der KI-Initiativen fehlten laut Studie belastbare Angaben zur Rendite. Gartner empfiehlt deshalb, vor jedem Projekt messbare Ziele festzulegen. Dazu gehören zum Beispiel kürzere Bearbeitungszeiten, weniger Fehler, sinkende Supportkosten oder zusätzlicher Umsatz.
Die Studie basiert auf einer Befragung von 1.303 Führungskräften aus Unternehmen mit mindestens 50 Millionen US-Dollar Jahresumsatz.
Unternehmen fordern mehr Datenschutz bei KI-Systemen
Anthropic reagiert auf den wachsenden Druck großer Unternehmenskunden und führt für seine KI-Modelle wieder eine Option ohne dauerhafte Datenspeicherung ein. Hintergrund sind neue Sicherheits- und Compliance-Anforderungen in regulierten Branchen wie Banken, Versicherungen oder dem Gesundheitswesen.
Vor einigen Monaten hatte das Unternehmen begonnen, Eingaben und Antworten seiner leistungsstärksten KI-Modelle vorübergehend zu speichern. Auch Kunden mit bestehenden Vereinbarungen zur Nicht-Speicherung von Daten waren davon betroffen. Anthropic begründete das damals mit Sicherheitsprüfungen und der Analyse möglicher Missbrauchsfälle.
Viele Unternehmen sahen darin jedoch ein Risiko für Datenschutz und Compliance. Besonders kritisch wurde bewertet, dass sensible Inhalte kurzfristig außerhalb der eigenen Infrastruktur verarbeitet wurden.
Mit dem neuen Programm „Enterprise Frontier Safeguards“ soll sich das ändern. Die Protokolldaten bleiben künftig in der Cloud-Umgebung des jeweiligen Kunden. Unternehmen verwalten dabei selbst die Verschlüsselung, Zugriffsrechte und Prüfprotokolle.
Anthropic erhält nach eigenen Angaben nur noch technische Hinweise auf mögliche Sicherheitsvorfälle, jedoch keine eigentlichen Kundendaten. Erkennt das System verdächtige Aktivitäten, muss das jeweilige Unternehmen den Vorfall selbst prüfen und bewerten.
Die neue Lösung wird ab Herbst schrittweise eingeführt. Unternehmen müssen die sogenannte Zero Data Retention aktiv beantragen. Für normale API-Kunden ohne spezielle Vereinbarung gilt weiterhin eine Standardspeicherung von 30 Tagen.
Der Schritt zeigt, wie stark sich der Markt verändert. Während KI-Anbieter möglichst leistungsfähige Systeme entwickeln, verlangen Unternehmen zunehmend klare Regeln für Datenschutz, Datenhoheit und Nachvollziehbarkeit. Besonders in Europa spielen dabei DSGVO-Anforderungen und interne Compliance-Vorgaben eine zentrale Rolle.
Auch OpenAI hat inzwischen ähnliche Funktionen vorgestellt und bietet für bestimmte Modelle ebenfalls Optionen ohne dauerhafte Datenspeicherung an.
Neue Sicherheitslücke zeigt Risiken von KI-Agenten im Unternehmensalltag
Sicherheitsforscher von Manifold haben eine Schwachstelle entdeckt, die beim Einsatz moderner KI-Agenten erhebliche Risiken verursachen kann. Betroffen sind Systeme, die Entwicklern automatisch beim Programmieren helfen und dabei eigenständig auf lokale Dateien und Entwicklungsumgebungen zugreifen.
Das Problem entsteht bereits beim Öffnen eines manipulierten Softwareprojekts. Einige KI-Agenten führen automatisch Hintergrundbefehle aus, um den Projektstatus zu analysieren. Genau dieser Automatismus kann missbraucht werden.
Angreifer verstecken dazu schädliche Befehle in der Konfiguration eines Projekts. Sobald der KI-Agent startet, werden diese Befehle teilweise ohne Rückfrage und mit den Berechtigungen des Nutzers ausgeführt. Die Schadsoftware läuft dabei außerhalb geschützter Testumgebungen.
Besonders kritisch ist, dass viele betroffene Systeme die Aktionen starten, bevor Sicherheitsabfragen oder Vertrauensprüfungen greifen. Entwickler bemerken den Angriff oft erst, wenn bereits Daten abgegriffen oder Systeme manipuliert wurden.
Die Sicherheitsforscher betonen, dass der Angriff nicht über normale Downloads aus öffentlichen Softwareplattformen funktioniert. Gefährlich wird es vor allem dann, wenn Projekte als ZIP-Datei oder über interne Freigaben verteilt werden.
Einige Anbieter haben bereits reagiert. Anthropic hat nach eigenen Angaben einen Teil der Schwachstelle geschlossen. Andere Anbieter wie Qwen oder Grok hatten zum Zeitpunkt der Veröffentlichung noch keine vollständigen Schutzmaßnahmen umgesetzt.
Für Unternehmen ist der Vorfall ein Warnsignal. KI-Agenten werden zunehmend in Entwicklungsabteilungen eingesetzt und erhalten oft weitreichende Zugriffsrechte auf Systeme, Quellcode und interne Daten. Damit entstehen neue Angriffsflächen, die klassische Sicherheitsrichtlinien häufig noch nicht berücksichtigen.
Experten empfehlen deshalb zusätzliche Prüfungen für externe Projektdateien sowie strengere Regeln für automatisierte KI-Zugriffe in Entwicklungsumgebungen.