Bundestag schafft klare Zuständigkeit für KI-Aufsicht
Der Deutsche Bundestag hat das nationale Umsetzungsgesetz zur europäischen KI-Verordnung verabschiedet. Damit wird die Bundesnetzagentur zur zentralen Aufsichtsbehörde für den Einsatz von Künstlicher Intelligenz in Deutschland. Das Gesetz legt fest, dass die Behörde künftig prüft, ob Unternehmen die Vorschriften des AI Acts einhalten. Sie soll außerdem Ansprechpartner für europäische Institutionen sein und ein Kompetenzzentrum zur Marktüberwachung aufbauen.
Für Bürgerinnen und Bürger entsteht eine Beschwerdestelle, wenn sie den Verdacht haben, dass KI-Systeme gegen rechtliche Vorgaben verstoßen. Unternehmen wiederum sollen sich von der Behörde beraten lassen können und dürfen Innovationen in einem neu geschaffenen „KI-Reallabor“ testen. Start-ups und Mittelständler sollen durch diese Struktur leichter Zugang zu rechtssicheren und praxisorientierten KI-Anwendungen bekommen.
Das Gesetz wurde spätabends mit den Stimmen der Regierungskoalition beschlossen. Opposition und zivilgesellschaftliche Organisationen kritisieren fehlende Transparenzregeln, etwa zur Kennzeichnung von KI in der Verwaltung. Auch ein unabhängiger Expertenbeirat ist vorerst nicht vorgesehen. Der IT-Branchenverband Bitkom warnt vor unterschiedlichen Bewertungen identischer KI-Systeme zwischen Bund und Ländern. Die Bundesregierung hält dem entgegen, dass Zuständigkeiten mit Fachbehörden klar abgegrenzt werden könnten.
Bei Nichteinhaltung der Auskunfts- und Mitwirkungspflichten können Bußgelder bis zu 50.000 Euro verhängt werden.
EU legt verbindlichen Kodex für Kennzeichnung von KI-Inhalten vor
Die Europäische Kommission hat erstmals ein einheitliches Regelwerk zur Kennzeichnung künstlich erzeugter Medien veröffentlicht. Der neue Verhaltenskodex soll sicherstellen, dass KI-generierte Texte, Bilder oder Videos künftig eindeutig erkennbar sind – sowohl technisch als auch visuell.
Entwickler und Anbieter müssen ab August ihre Inhalte mit digitalen Signaturen, Zeitstempeln und unsichtbaren Wasserzeichen versehen. Bei längeren Texten werden zusätzliche Verfahren wie maschinenlesbare Labels verlangt, damit sich KI-Inhalte zuverlässig identifizieren lassen. Die Erkennungswerkzeuge sollen für Medien, Faktenprüfer und Forscher kostenfrei zugänglich sein, um Missbrauch im Netz einzudämmen.
Für Nutzer sichtbar wird die Kennzeichnung durch ein EU-weites Label mit der Aufschrift „AI + GENERATED“ oder „AI + MODIFIED“. Videos und Audiodateien müssen diesen Hinweis gut sichtbar bzw. hörbar wiederholen, um Manipulationen zu verhindern.
Ziel des Kodex ist, Desinformation und Deepfake-Kampagnen einzudämmen und zugleich innovativen Einsatz von KI zu ermöglichen. Der Ansatz gilt europaweit als praktischer Leitfaden zur Umsetzung der Transparenzpflichten des AI Acts.
Künstlerische oder satirische Inhalte dürfen zurückhaltender markiert werden, damit die Wirkung des Werkes erhalten bleibt. Für klassische Medien reichen dagegen die etablierten redaktionellen Kontrollmechanismen.
Deutschland gründet nationales Institut für KI-Sicherheit
Die Bundesregierung richtet ein eigenes Institut ein, das Chancen und Risiken moderner KI-Modelle systematisch untersucht. Der neue Zusammenschluss soll unter dem Arbeitstitel „Deutsches AI Security Institute (DE-AISI)“ starten und zunächst virtuell operieren. Dabei nutzt er Strukturen und Expertise der Bundesnetzagentur sowie des Bundesamts für Sicherheit in der Informationstechnik.
Aufgabe des Instituts wird es sein, die Sicherheit von KI-Systemen zu testen, Risiken zu bewerten und internationale Standards für sichere KI-Produkte mitzugestalten. Es soll den engen Austausch mit ähnlichen Einrichtungen in Großbritannien, den USA und Frankreich pflegen.
Digitalminister Karsten Wildberger kündigte an, das Institut werde mit Fachleuten auf Weltniveau ausgestattet. Es soll nicht nur Prüfungen durchführen, sondern auch Beratung für Bund, Länder und öffentliche Verwaltungen leisten.
Wirtschaftsverbände wie Bitkom begrüßen die Gründung. Sie sehen darin einen wichtigen Schritt, um KI-Risiken frühzeitig zu erkennen und die digitale Souveränität Deutschlands zu stärken. Noch offen bleibt, wo das Institut dauerhaft angesiedelt wird und wie sein Budget ausgestaltet ist.
Mit dem neuen Sicherheitsrahmen entsteht erstmals eine nationale Plattform, die Forschung und Praxis zusammenführt.