Warum KI-Agenten ohne Kontrolle teuer werden können
Der Hacker und Unternehmer George „Geohot“ Hotz hat die aktuelle Entwicklung rund um KI-Agenten kritisch unter die Lupe genommen. In sechs Monaten Testarbeit kam er zu einem klaren Ergebnis: Diese Systeme können zwar Code erzeugen, aber sie verstehen ihn oft nicht wirklich. Das führt dazu, dass Entwicklungszeit und Fehlersuche nicht kürzer, sondern länger werden.
Hotz beschreibt, dass Unternehmen KI-Agenten zunehmend dort einsetzen, wo viel Output in kurzer Zeit gefragt ist – etwa bei Routinetätigkeiten in der Softwareentwicklung. Doch je mehr automatisierte Ergebnisse erzeugt werden, desto höher wird das Risiko unbemerkter Fehler. Besonders problematisch sei das, wenn Mitarbeitende keine tiefgehenden Programmierkenntnisse haben und den Output nicht prüfen können. Wenn fehlerhafter Code in produktive Systeme gelangt, kann das Projekte verzögern und Kosten in Millionenhöhe verursachen.
Hotz warnt, dass sich viele Firmen von der versprochenen Produktivitätssteigerung blenden lassen. Sein Fazit: KI-Agenten eignen sich aktuell vor allem für Entwürfe und experimentelle Prototypen, nicht aber für Kernprozesse oder sicherheitsrelevante Anwendungen. Erst wenn sie kontrolliert, nachvollziehbar und überprüft arbeiten, könnten sie echte Entlastung bringen.
KI-Nutzung ohne Grenzen kostet Unternehmen Millionen
Ein Trend namens „Tokenmaxxing“ zeigt derzeit die Schattenseite unregulierter KI-Nutzung. Bei Meta, Amazon und anderen Tech-Konzernen hatten interne Wettbewerbe dazu geführt, dass Mitarbeitende möglichst viele KI-Token verbrauchten – also Recheneinheiten, mit denen Sprachmodelle arbeiten. In einem Monat wurden bei Meta laut US-Berichten rund 60 Billionen Token genutzt. Die Folge waren Kosten in Millionenhöhe – ohne messbaren Mehrwert.
Mehrere Unternehmen haben solche Wettbewerbe inzwischen gestoppt. Microsoft schränkte externe Zugänge zu kostenintensiven Tools ein, Amazon zog Nutzungsgrenzen ein. Der Grund: In vielen Fällen stiegen die Ausgaben massiv, während der tatsächliche Nutzen ausblieb. Ein Berater berichtete sogar von einem Industriekunden, der nach unkontrollierter Nutzung eine halbe Milliarde Dollar an KI-Kosten vorgelegt bekam.
Als Gegenbewegung kündigen viele Firmen nun an, künftig die Effizienz der Nutzung in den Vordergrund zu stellen. Das Ziel lautet „Token-Minimierung“ – also der Fokus auf gezielte Anwendungen mit nachweisbarem Geschäftswert statt auf den Massenverbrauch von Rechenleistung.
KI-Code führt immer häufiger zu Systemfehlern
Laut einer Studie des Softwareherstellers CloudBees erleben mehr als 80 % der befragten IT-Führungskräfte technische Probleme, seit sie KI-generierten Code einsetzen. Dazu zählen Funktionsstörungen, Sicherheitslücken und unvorhersehbare Performance-Einbrüche. In über 60 % der Fälle kam es zudem zu Compliance-Verstößen, die unmittelbar in produktive Systeme gelangten.
Ursache ist häufig die fehlende Zeit oder Kompetenz, KI-Ergebnisse gründlich zu prüfen. Viele Unternehmen verstärken deshalb ihre Testverfahren: 62 % setzen auf automatisierte Qualitätsprüfungen, 30 % auf zusätzliche manuelle Reviews. Dennoch glaubt nur jeder Zweite, dass Prüfprozesse für KI-Code konsequent eingehalten werden. Das Problembewusstsein wächst, denn mehrere internationale Vorfälle, darunter fehlerhafte KI-Codes bei großen Online-Plattformen, verdeutlichen die Risiken.
Im Zentrum steht dabei die unterschiedliche Logik von KI- und traditioneller Softwareentwicklung. Während herkömmlicher Code bei gleichen Eingaben immer das gleiche Ergebnis liefert, erzeugt KI-Code Varianten auf Basis von Wahrscheinlichkeiten. Das macht ihn schwerer reproduzierbar und erhöht den Aufwand für Qualitätssicherung.