BSI entwickelt neuen Prüfstandard für vertrauenswürdige KI-Systeme
Das Bundesamt für Sicherheit in der Informationstechnik arbeitet an einem neuen Prüfsystem für Künstliche Intelligenz. Ziel ist es, Unternehmen und Behörden eine klare Methode an die Hand zu geben, um die technische Vertrauenswürdigkeit von KI-Systemen zu bewerten.
Der neue Ansatz trägt den Namen „AI Audit and Assurance Assessment Architecture“, kurz A5. Er richtet sich an Anbieter, Betreiber und Aufsichtsteams, die KI-Lösungen entwickeln oder einsetzen. Das BSI reagiert damit auf den wachsenden Druck durch den EU AI Act und strengere Anforderungen an Sicherheit, Nachvollziehbarkeit und Compliance.
Besonders relevant ist der modulare Aufbau des Standards. Unternehmen sollen einzelne Prüfkriterien flexibel in bestehende Compliance- und Sicherheitsprozesse integrieren können. Das betrifft vor allem Organisationen, die bereits mit Cloud-Prüfstandards wie C5 arbeiten oder regulatorische Anforderungen dokumentieren müssen.
Das BSI orientiert sich bewusst an bekannten Prüfmodellen aus der IT-Sicherheit. Dadurch sollen bestehende Prozesse einfacher erweitert werden können, statt komplett neue Strukturen aufzubauen. Für mittelständische Unternehmen bedeutet das weniger Aufwand bei der Integration neuer KI-Richtlinien.
Die Methodik wird zusätzlich maschinenlesbar umgesetzt. Dadurch können Unternehmen Prüfprozesse künftig stärker automatisieren und direkt in Governance- oder Audit-Tools einbinden. Gerade bei mehreren KI-Anwendungen in unterschiedlichen Fachbereichen wird das zunehmend wichtig.
Bis zum 31. August 2026 sammelt das BSI Rückmeldungen aus Wirtschaft und Verwaltung. Der Standard befindet sich aktuell also noch in der Entwurfsphase. Trotzdem zeigt die Veröffentlichung klar, wohin sich die regulatorischen Erwartungen entwickeln.
Vor allem Betreiber von KI-Systemen in sensiblen Bereichen wie Verwaltung, Industrie, Gesundheit oder kritischer Infrastruktur sollten sich frühzeitig mit den Anforderungen beschäftigen. Denn künftig wird nicht nur die Funktion einer KI bewertet, sondern auch deren Nachvollziehbarkeit, Sicherheit und Dokumentation.
Der neue Prüfkatalog soll langfristig kontinuierlich erweitert werden. Damit entsteht ein Rahmenwerk, das ähnlich wie bestehende Sicherheitsstandards regelmäßig angepasst wird. Unternehmen erhalten dadurch mehr Orientierung, müssen aber gleichzeitig ihre internen Prozesse deutlich strukturierter dokumentieren
EU-Datenschützer schaffen neue Regeln für KI-Training und anonymisierte Daten
Der Europäische Datenschutzausschuss hat neue Leitlinien veröffentlicht, die für viele Unternehmen direkte Auswirkungen auf den Einsatz von KI haben. Im Mittelpunkt stehen zwei Themen, die in der Praxis oft Unsicherheit auslösen: die Anonymisierung personenbezogener Daten und das automatisierte Sammeln von Informationen aus dem Internet für KI-Modelle.
Die neuen Vorgaben sollen klären, wann Daten tatsächlich als anonym gelten und damit außerhalb der DSGVO genutzt werden dürfen. Für Unternehmen ist das besonders relevant, wenn interne Daten für Analysen, Automatisierung oder KI-Training verwendet werden sollen.
Die EU-Datenschützer definieren dafür drei zentrale Prüfkriterien. Daten dürfen nicht auf einzelne Personen zurückführbar sein, sie dürfen nicht mit anderen Quellen verknüpft werden können und sie dürfen keine zuverlässigen Rückschlüsse auf konkrete Personen ermöglichen. Erst wenn alle Bedingungen erfüllt sind, gelten Informationen als anonymisiert.
Damit steigt der Druck auf Unternehmen, ihre Datenbestände sauber zu klassifizieren. Viele Organisationen arbeiten heute mit Daten, die zwar pseudonymisiert, aber rechtlich nicht wirklich anonym sind. Das kann bei KI-Projekten schnell zum Compliance-Risiko werden.
Besonders wichtig sind die neuen Regeln für das sogenannte Web-Scraping. Dabei sammeln KI-Anbieter automatisiert Inhalte aus Webseiten, um Sprachmodelle zu trainieren. Die EU macht deutlich, dass dabei grundsätzlich die DSGVO gilt, sobald personenbezogene Daten verarbeitet werden.
Unternehmen müssen künftig genauer dokumentieren, aus welchen Quellen Daten stammen und wie sie verarbeitet werden. Die Leitlinien empfehlen außerdem technische Filter, um sensible Informationen frühzeitig auszusortieren. Gesundheitsdaten oder andere besonders geschützte Informationen dürfen grundsätzlich nicht ohne spezielle Rechtsgrundlage verarbeitet werden.
Für viele mittelständische Unternehmen wird das Thema damit deutlich konkreter. Wer interne Wissensdatenbanken, Chatbots oder KI-gestützte Suchsysteme aufbauen möchte, muss Datenschutz und Datenqualität bereits in der Konzeptphase berücksichtigen.
Die Leitlinien befinden sich noch in der öffentlichen Konsultation und können bis Ende Oktober 2026 kommentiert werden. Trotzdem geben sie bereits einen klaren Hinweis darauf, wie streng europäische Datenschutzbehörden künftig KI-Projekte bewerten werden.
Vor allem Unternehmen mit Microsoft-365-, CRM- oder ERP-Daten sollten jetzt prüfen, welche Informationen in KI-Systeme fließen und ob die aktuelle Datenbasis regulatorisch sauber abgesichert ist
EU plant Notfallstrategie für den Zugriff auf leistungsfähige KI-Modelle
Die Europäische Union bereitet Maßnahmen vor, um sich unabhängiger von außereuropäischen KI-Anbietern zu machen. Hintergrund sind Exportbeschränkungen aus den USA, die zuletzt sogar den Zugang zu einzelnen KI-Modellen zeitweise blockierten.
Besonders betroffen war das US-Unternehmen Anthropic. Mitte Juni musste der Anbieter den Zugriff auf seine leistungsstarken Modelle „Mythos 5“ und „Fable 5“ für internationale Nutzer einschränken. Die US-Regierung begründete den Schritt mit Sicherheitsbedenken rund um Cyberfähigkeiten der Systeme.
Die EU-Kommission sieht darin ein strategisches Risiko für europäische Unternehmen und Behörden. Deshalb soll bis Ende des Jahres ein Notfallplan entstehen, der den Zugang zu kritischen KI-Technologien absichert. Ziel ist es, Abhängigkeiten von einzelnen Anbietern oder Staaten zu reduzieren.
EU-Digitalkommissarin Henna Virkkunen betonte, dass Europa bei sicherheitsrelevanter KI nicht dauerhaft auf externe Lösungen angewiesen sein dürfe. Besonders kritische Bereiche sind laut Kommission Energieversorgung, Gesundheitswesen, Verwaltung, Finanzsektor und Transport.
Geplant sind mehrere konkrete Maßnahmen. Dazu gehören sichere Testumgebungen für KI-Systeme, zusätzliche Prüfkapazitäten für Cybersicherheit und ein Leitfaden für Unternehmen und Behörden im Umgang mit leistungsfähigen KI-Modellen.
Die EU will außerdem stärker in eigene Infrastruktur investieren. Bereits angekündigt wurde ein Programm über mehr als 200 Milliarden Euro für KI-Rechenzentren und sogenannte Gigafactories. Damit sollen europäische Kapazitäten für Training und Betrieb großer KI-Systeme aufgebaut werden.
Für Unternehmen entsteht dadurch ein neuer strategischer Faktor. Wer heute stark von einzelnen US-Anbietern abhängig ist, muss künftig mit regulatorischen oder geopolitischen Einschränkungen rechnen. Das betrifft nicht nur KI-Modelle selbst, sondern auch Cloud-Infrastruktur und Rechenleistung.
Gerade mittelständische Unternehmen sollten deshalb prüfen, welche Prozesse inzwischen kritisch von externen KI-Diensten abhängen. Dazu gehören etwa automatisierte Analysen, Dokumentenverarbeitung, Softwareentwicklung oder Kundenkommunikation.
Die Diskussion zeigt außerdem, dass digitale Souveränität zunehmend ein wirtschaftliches Thema wird. Nicht nur Datenschutz und Kosten spielen eine Rolle, sondern auch die langfristige Verfügbarkeit zentraler Technologien