Eine bedeutende Auszeichnung für die Saarbrücker Spitzenforschung: Prof. Dr. Mario Fritz, leitender Wissenschaftler am CISPA – Helmholtz-Zentrum für Informationssicherheit, ist in das wissenschaftliche Gremium des Europäischen Amts für künstliche Intelligenz (EU AI Office) berufen worden. Damit zählt er künftig zu jenen Fachleuten, die die Europäische Kommission bei einer der wohl folgenreichsten Regulierungsaufgaben der kommenden Jahre beraten: der Durchsetzung der europäischen KI-Verordnung.
Die Konkurrenz um einen Sitz in diesem Kreis war enorm. Von über 1.000 Bewerberinnen und Bewerbern wurden lediglich 60 ausgewählt – allesamt international anerkannte, unabhängige Expertinnen und Experten. Fritz ist einer von nur drei deutschen Vertretern in diesem hochkarätigen Zirkel. Eine weitere personelle Verbindung zum CISPA besteht über Sahar Abdelnabi, die ihre Promotion in Fritz‘ Forschungsgruppe abgeschlossen hat und nun ebenfalls dem Gremium angehört.
Die thematische Bandbreite, die das Gremium abdecken soll, ist beachtlich. Sie reicht von Frontier AI über Engineering und Technical Auditing bis hin zur Bewertung industrieller und gesellschaftlicher Folgen. Besondere Aufmerksamkeit gilt dabei den sogenannten GPAI-Modellen – also KI-Systemen mit allgemeinem Verwendungszweck, die in den vergangenen Jahren rasant an Einfluss gewonnen haben und deren Risiken kaum noch eine Branche unberührt lassen.
Zu den zentralen Aufgaben des Gremiums gehört es, das Europäische Amt für künstliche Intelligenz frühzeitig auf systemische Risiken solcher Modelle hinzuweisen. Darüber hinaus berät es die Behörde bei der Entwicklung von Klassifizierungs- und Bewertungsmethoden und steht den nationalen Marktüberwachungsbehörden auf Anfrage zur Seite. Damit erhält das Gremium eine Schlüsselrolle dort, wo abstrakte Regulierung auf konkrete technische Praxis trifft.
Die Europäische Kommission hat sowohl das wissenschaftliche Gremium als auch einen begleitenden Beirat eigens neu eingerichtet, um die Umsetzung des AI Act auf eine fundierte fachliche Grundlage zu stellen. Beide Organe beraten nicht nur das EU AI Office selbst, sondern auch die zuständigen nationalen Behörden bei der Anwendung der Vorschriften. Die Mitglieder werden persönlich ernannt – für eine Amtszeit von zwei Jahren, mit der Option auf Verlängerung.
Für das CISPA in Saarbrücken ist die Doppelpräsenz von Fritz und Abdelnabi ein deutliches Signal: Die hier geleistete Forschung zur Sicherheit und Vertrauenswürdigkeit von KI-Systemen wird auf europäischer Ebene wahrgenommen und gehört. In einer Phase, in der die EU mit dem AI Act international Maßstäbe setzen will, dürfte die Stimme aus dem Saarland künftig ein hörbares Gewicht haben.
