Sicherheitslücke in Microsoft Copilot zeigt Risiken vernetzter KI-Systeme
Eine Sicherheitslücke in Microsoft 365 Copilot hat gezeigt, wie schnell vernetzte KI-Systeme zum Risiko für Unternehmen werden können. Sicherheitsforscher der Firma Varonis konnten den KI-Assistenten gezielt dazu bringen, interne Schutzmechanismen offenzulegen. Auf Basis dieser Informationen entwickelten sie einen manipulierten Link, der automatisch Befehle innerhalb einer aktiven Copilot-Sitzung ausführen konnte.
Der Angriff funktionierte ohne zusätzliche Anmeldung oder sichtbare Warnung für die Nutzer. Sobald ein Mitarbeiter auf den Link klickte, griff Copilot auf verbundene Dienste wie Gmail, Google Drive oder Kalenderdaten zu. Anschließend wurden sensible Informationen wie Passwörter, E-Mails oder Termine unbemerkt an externe Server übertragen. Die Daten wurden dabei im sogenannten Base64-Format verschlüsselt, damit der Datenverkehr wie normale Kommunikation aussah.
Besonders kritisch war laut Varonis, dass sich versteckte Anweisungen dauerhaft im Speicher von Copilot verankern konnten. Selbst Passwortänderungen oder neue Geräteanmeldungen entfernten diese Manipulationen teilweise nicht vollständig. Die Forscher sprechen deshalb von einem strukturellen Problem moderner KI-Assistenten, die externe Inhalte automatisch analysieren und interpretieren.
Microsoft wurde bereits im Dezember 2025 über die Schwachstelle informiert. Eine erste Teilkorrektur erfolgte im Februar 2026. Nach Angaben des Unternehmens wurde die Lücke am 18. August 2026 vollständig geschlossen. Wie viele Nutzer betroffen waren, ist bislang nicht bekannt. Die potenzielle Reichweite ist jedoch groß, da Microsoft inzwischen rund 30 Millionen zahlende Copilot-Nutzer angibt.
Für Unternehmen wird damit deutlich, dass KI-Assistenten nicht nur Produktivitätswerkzeuge sind, sondern Teil der Sicherheitsarchitektur werden. Besonders kritisch sind weitreichende Berechtigungen und zahlreiche verbundene Anwendungen. Jede zusätzliche Schnittstelle erhöht die Angriffsfläche. Experten empfehlen deshalb, nur notwendige Dienste mit KI-Systemen zu verbinden und Berechtigungen regelmäßig zu überprüfen.
Der Vorfall zeigt außerdem, dass klassische Sicherheitskonzepte bei KI-Anwendungen oft nicht ausreichen. Während viele Schutzmechanismen auf Menschen ausgelegt sind, reagieren KI-Systeme auf versteckte Befehle in Webseiten oder Dokumenten deutlich empfindlicher. Unternehmen müssen deshalb neue Kontrollmechanismen für KI-gestützte Arbeitsabläufe etablieren
Neuer KI-Filter soll vertrauliche Daten vor ChatGPT schützen
Immer mehr Beschäftigte nutzen KI-Tools wie ChatGPT, Copilot oder Perplexity im Arbeitsalltag. Laut einer Bitkom-Umfrage greift bereits rund ein Drittel der Menschen in Deutschland mindestens einmal pro Woche auf solche Systeme zurück. Häufig geht es dabei um E-Mails, Dokumentanalysen oder die Zusammenfassung großer Datenmengen.
Genau dabei entstehen jedoch Datenschutzrisiken. Schon scheinbar harmlose Angaben können Rückschlüsse auf Personen, Kunden oder interne Projekte zulassen. Besonders problematisch wird es, wenn vertrauliche Informationen unbemerkt an KI-Anbieter außerhalb Europas übertragen werden. Viele Unternehmen unterschätzen dabei, wie schnell sich aus einzelnen Eingaben vollständige Profile ableiten lassen.
Forscher der Fernuniversität Hagen haben deshalb mit „Privacy Gateway“ einen Schutzfilter entwickelt. Das System erkennt sensible Inhalte automatisch, bevor sie an ein Sprachmodell weitergegeben werden. Dabei arbeitet der Ansatz nicht nur mit einfachen Schlagworten oder Nummernfolgen. Stattdessen bewertet das System den gesamten Zusammenhang einer Anfrage.
Die Entwickler haben dafür Vorgaben aus der Datenschutz-Grundverordnung sowie Regeln zum Schutz von Geschäftsgeheimnissen in technische Anweisungen übersetzt. Das System kann dadurch begründen, warum bestimmte Inhalte geschützt werden müssen. Im Unterschied zu klassischen Filtern werden nicht nur Namen oder Zahlen geschwärzt, sondern auch komplexe Zusammenhänge erkannt.
In Tests mit unterschiedlichen Alltagsszenarien zeigte sich, dass der Schutz grundsätzlich funktioniert. Gleichzeitig wurde aber deutlich, dass Datenschutz und Nutzbarkeit nicht immer vollständig zusammenpassen. Enthält eine Anfrage sehr viele persönliche Informationen, kann die Qualität der KI-Antworten sinken, wenn zu viele Inhalte entfernt werden.
Gerade für mittelständische Unternehmen und öffentliche Verwaltungen ist das Thema relevant. Mitarbeitende nutzen KI oft längst eigenständig, unabhängig von offiziellen Richtlinien. Ein vollständiges Verbot generativer KI halten die Forscher deshalb für unrealistisch und wirtschaftlich problematisch. Stattdessen brauche es technische Schutzmechanismen und klare Regeln für den Umgang mit sensiblen Informationen.
Die Entwicklung zeigt, dass Datenschutz bei KI nicht nur eine juristische Frage ist. Unternehmen benötigen praktische Werkzeuge, die Mitarbeitende im Alltag unterstützen. Besonders in Bereichen mit personenbezogenen Daten, Gesundheitsinformationen oder internen Projektdaten wird der kontrollierte Umgang mit KI-Systemen zunehmend zu einer Compliance-Frage
Geteilte ChatGPT-Accounts werden zum Risiko für Unternehmen
Die hohen Kosten professioneller KI-Abonnements führen dazu, dass viele Nutzer ihre Zugänge zu ChatGPT, Claude oder Gemini mit anderen Personen teilen. Was privat oft harmlos wirkt, kann im beruflichen Umfeld erhebliche Sicherheits- und Datenschutzprobleme verursachen. Besonders kritisch wird es, wenn Mitarbeitende gemeinsame Accounts für berufliche Aufgaben einsetzen.
Wer einen KI-Account teilt, gibt nicht nur Login-Daten weiter. Auch gespeicherte Chats, hochgeladene Dokumente und persönliche Einstellungen werden für andere sichtbar. Viele moderne KI-Systeme sind zusätzlich mit Diensten wie Outlook, Gmail, Teams, Slack oder Kalendern verbunden. Dadurch können Mitnutzer indirekt auf weitere Unternehmensinformationen zugreifen.
Hinzu kommt, dass KI-Assistenten langfristig Informationen über ihre Nutzer speichern und in Antworten einbeziehen. Werden Accounts gemeinsam verwendet, vermischen sich unterschiedliche Daten, Arbeitsweisen und Inhalte. Das kann zu fehlerhaften Ergebnissen führen. In dokumentierten Fällen tauchten plötzlich berufsfremde Informationen anderer Nutzer in Bewerbungen oder Lernunterlagen auf.
Auch sensible persönliche Informationen bleiben nicht geschützt. Nutzer berichten davon, dass Mitleser ungewollt Einblick in Gesundheitsdaten, finanzielle Themen oder private Gespräche erhielten. Gerade in Unternehmen können dadurch vertrauliche Informationen über Kunden, Projekte oder interne Abläufe offengelegt werden.
Ein weiteres Problem betrifft die Verantwortlichkeit. Wenn über einen geteilten Account problematische Inhalte erzeugt oder Sicherheitsregeln umgangen werden, fällt dies zunächst auf den offiziellen Kontoinhaber zurück. Gleichzeitig verstoßen gemeinsame Logins häufig gegen die Nutzungsbedingungen der Anbieter. Im schlimmsten Fall droht die Sperrung des gesamten Accounts inklusive aller gespeicherten Inhalte.
Für Unternehmen entsteht daraus ein neues Governance-Thema. KI-Zugänge sind längst mehr als einfache Softwarekonten. Sie entwickeln sich zu zentralen Arbeitswerkzeugen mit Zugriff auf Kommunikation, Dokumente und Wissensdatenbanken. Entsprechend wichtig werden eindeutige Zugriffsrechte und individuelle Nutzerkonten.
Gerade mittelständische Unternehmen sollten deshalb prüfen, wie KI-Dienste offiziell bereitgestellt werden. Fehlen klare Vorgaben oder bezahlbare Unternehmenslösungen, entstehen schnell informelle Workarounds. Diese wirken kurzfristig praktisch, erhöhen aber langfristig das Risiko für Datenschutzverletzungen und Kontrollverlust