Bundesdruckerei prüft KI-Modelle speziell für Behörden
Die Bundesdruckerei hat mit dem Projekt „Möve“ ein neues Bewertungsverfahren für KI-Sprachmodelle vorgestellt, das sich gezielt an Behörden und öffentliche Einrichtungen richtet.
Im Unterschied zu internationalen KI-Rankings geht es dabei nicht nur um mathematische Fähigkeiten oder englische Texte. Entscheidend sind stattdessen Kriterien wie rechtssichere Antworten auf Deutsch, Datenschutz, Transparenz und die Einhaltung europäischer Vorgaben.
Nach Angaben der Bundesdruckerei wurden bereits mehr als 50 KI-Modelle untersucht. Darunter befinden sich bekannte Systeme wie GPT, Claude, Llama, DeepSeek, Gemma und Mistral.
Die Bewertung basiert auf neun deutschsprachigen Datensätzen aus der Verwaltungspraxis. Verwendet werden unter anderem juristische Texte, Verwaltungsdokumente und Inhalte von Bundesministerien.
Getestet wird beispielsweise, wie zuverlässig ein Modell lange Dokumente zusammenfasst, Fragen korrekt beantwortet oder Informationen aus mehreren Quellen verbindet. Zusätzlich wird geprüft, wie häufig sogenannte Halluzinationen auftreten, also sachlich falsche Aussagen mit überzeugender Formulierung.
Auch die Anforderungen des EU AI Acts fließen in die Bewertung ein. Dabei geht es etwa um Transparenzpflichten, Nachhaltigkeit und die Vereinbarkeit mit europäischen Grundwerten.
Im aktuellen Gesamtvergleich schneiden Gemma4 und GPT-40 besonders gut ab. Mit Mistral Small 3.1 schafft es auch ein europäisches Modell in die Top Ten.
Die Ergebnisse werden über eine interaktive Plattform veröffentlicht. Behörden können dort gezielt nach Kriterien filtern und Modelle auswählen, die zu ihren Sicherheits- und Compliance-Anforderungen passen.
Das Projekt entsteht gemeinsam mit dem Bundesamt für Sicherheit in der Informationstechnik und dem Fraunhofer-Institut AISEC. Besonders im Bereich Cybersicherheit sollen die Prüfungen künftig weiter ausgebaut werden.
Für Verwaltungen und öffentliche Unternehmen wird damit erstmals eine strukturierte Entscheidungsgrundlage geschaffen, um KI-Systeme nachvollziehbar und vergleichbar auszuwählen.
EU verschärft Regeln für KI-Inhalte und Chatbots
Ab August gelten in der Europäischen Union neue Transparenzpflichten für KI-Systeme. Unternehmen und Behörden müssen künftig deutlicher kennzeichnen, wenn Inhalte von einer KI erzeugt wurden.
Die neuen Vorgaben sind Teil des EU AI Acts und betreffen unter anderem Chatbots, KI-Agenten, Bilder, Videos und automatisiert erzeugte Inhalte. Ziel ist es, nachvollziehbar zu machen, wann Menschen mit einer Maschine interagieren.
Die EU-Kommission hat jetzt konkrete Leitlinien veröffentlicht, wie diese Kennzeichnung technisch umgesetzt werden soll. Vorgesehen sind maschinenlesbare Hinweise direkt in den Inhalten sowie zusätzliche Metadaten im Hintergrund.
Besonders relevant wird das für Unternehmen, die KI für Kundenkommunikation, Dokumentenerstellung oder automatisierte Medieninhalte einsetzen. Auch öffentliche Verwaltungen müssen prüfen, wie digitale Bürgerdienste künftig gekennzeichnet werden.
Für reine Texte gibt es Ausnahmen. Wenn ein Mensch den Inhalt redaktionell prüft und verantwortet, entfällt die Pflicht zur Kennzeichnung in vielen Fällen.
Das gilt auch für satirische oder künstlerische Inhalte. Trotzdem steigt der organisatorische Aufwand für Unternehmen, die KI in bestehende Prozesse integrieren.
Die Strafen bei Verstößen können erheblich ausfallen. Die EU nennt Bußgelder von bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes.
Neue Systeme müssen die Regeln bereits ab dem 2. August erfüllen. Für bestehende KI-Anwendungen gilt eine Übergangsfrist bis Dezember 2026.
Die Durchsetzung übernehmen nationale Aufsichtsbehörden sowie das neue europäische AI Office. Gerade Unternehmen mit vielen digitalen Kommunikationsprozessen sollten deshalb frühzeitig prüfen, wo KI bereits heute Inhalte erzeugt oder Entscheidungen vorbereitet.
Für viele Organisationen wird Transparenz damit vom freiwilligen Vertrauenssignal zur verbindlichen Compliance-Anforderung.
Microsoft und Mistral bauen europäische KI-Infrastruktur aus
Microsoft und das französische KI-Unternehmen Mistral AI vertiefen ihre Zusammenarbeit mit einem milliardenschweren Ausbau europäischer KI-Infrastruktur.
Ziel der Partnerschaft ist es, leistungsfähige KI-Systeme stärker in Europa bereitzustellen und gleichzeitig regulatorische Anforderungen besser zu erfüllen. Vor allem Unternehmen und Behörden mit hohen Datenschutzanforderungen sollen davon profitieren.
Ein zentraler Bestandteil der Vereinbarung ist der Ausbau von Rechenkapazitäten innerhalb Europas. Microsoft will Teile der Infrastruktur von Mistral direkt nutzen, um die steigende Nachfrage nach KI-Diensten zu bedienen.
Besonders relevant ist dabei die Flexibilität beim Betrieb der Systeme. Unternehmen können KI-Anwendungen künftig entweder in der öffentlichen Cloud, lokal in eigenen Rechenzentren oder vollständig isoliert ohne externe Verbindung betreiben.
Gerade Banken, Krankenhäuser, Industrieunternehmen und öffentliche Einrichtungen stehen häufig vor der Herausforderung, sensible Daten nicht außerhalb kontrollierter Umgebungen verarbeiten zu dürfen. Die neuen Betriebsmodelle sollen genau dieses Problem adressieren.
Zusätzlich integriert Microsoft mehrere Mistral-Modelle direkt in seine Plattformen. Dazu gehört unter anderem Mistral Medium 3.5 für Unternehmensanwendungen sowie OCR 4 zur automatisierten Dokumentenverarbeitung.
Die Modelle werden künftig auch in Microsoft Copilot Studio verfügbar sein. Unternehmen können damit eigene KI-gestützte Prozesse schneller aufbauen, ohne separate Infrastrukturen betreiben zu müssen.
Für Microsoft bedeutet die Partnerschaft gleichzeitig eine stärkere Unabhängigkeit von einzelnen KI-Anbietern aus den USA. Mistral wiederum erhält Zugang zum weltweiten Vertriebsnetzwerk und zur Unternehmenskundschaft von Microsoft.
Die Kooperation zeigt, wie stark das Thema digitale Souveränität inzwischen in den Mittelpunkt rückt. Viele europäische Organisationen suchen gezielt nach Alternativen, die Datenschutz, Betriebssicherheit und regulatorische Anforderungen besser abbilden.
Vor allem für den öffentlichen Sektor und regulierte Branchen könnte sich damit der Markt für europäische KI-Lösungen deutlich beschleunigen.