Wenn KI-Systeme wie ChatGPT zunehmend zur ersten und oft einzigen Informationsquelle werden, stellt sich eine drängende Frage: Was macht das mit der Meinungsbildung in einer Demokratie? Genau hier setzt ein neues Forschungsprojekt im Saarland an, das die Risiken KI-basierter Manipulation unter die Lupe nehmen soll. Getragen wird es vom Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI) und der Landesmedienanstalt Saarland (LMS).
Hinter dem sperrigen Kürzel PABeLA-II verbirgt sich ein konkretes Ziel. Die Abkürzung steht für ein Prüflabor zur automatisierten Bewertung von KI-Systemen, die auf großen Sprachmodellen beruhen, und deren Folgen für Journalismus und Meinungsbildung. Gefördert wird das Vorhaben mit 160.000 Euro durch die Staatskanzlei des Saarlandes sowie das Landesministerium für Wirtschaft, Innovation, Digitales und Energie.
Der Weg dorthin begann bereits mit dem Vorgängerprojekt PABeLA-I. In dessen Laufzeit entwickelten die Forschenden einen umfangreichen Katalog von Prüfkriterien, mit dem sich prüfen lässt, ob entsprechende Dienste geltende Gesetze und Normen einhalten. Einige besonders wichtige Punkte, etwa im Bereich der Diskriminierungserkennung, wurden bereits in funktionsfähige Tests überführt. So ließ sich belegen, dass der Ansatz praxistauglich ist.
Nun geht es einen Schritt weiter. PABeLA soll am Ende ein Werkzeug sein, das Medienaufsicht und Medienpolitik dauerhaft in die Lage versetzt, Risiken bei Transparenz, Vielfalt und Manipulation methodisch belastbar einzuschätzen. Das betrifft nicht allein die Sicherung von Meinungsvielfalt, sondern auch den unmittelbaren Schutz der Bürgerinnen und Bürger vor gezielter Desinformation, sei es durch Deepfakes oder durch algorithmisch verzerrte Inhalte.
David Lindemann, Chef der Staatskanzlei und Bevollmächtigter für Europaangelegenheiten, betont die gesellschaftliche Dimension: „Die transformative Wucht von Künstlicher Intelligenz ist nicht zu unterschätzen. Gleichzeitig wissen wir noch zu wenig über Auswirkungen und Konsequenzen für unsere demokratische Gesellschaft.“ Nötig sei Forschung, die sich direkt in der Regulierung nutzen lasse – ein praxisnaher Ansatz, der zugleich den KI-Standort Saarland stärke.
LMS-Direktorin Ruth Meyer verweist auf den wachsenden Einfluss der Technik hinter den Diensten. KI-Angebote ersetzten zunehmend andere Medienquellen, weshalb Trainingsdaten und Quellen eine besondere Rolle spielten. „Wir müssen Verantwortlichkeitsstrukturen für KI-generierte Inhalte klären“, sagt sie, insbesondere dann, wenn Sprachmodelle meinungsrelevante oder journalistisch wirkende Inhalte erzeugten.
Für DFKI-CEO Prof. Dr. Antonio Krüger liegt ein Kernproblem in der Prüfung der Quellen, die KI-Dienste angeben. Genau diese kritische Kontrolle sei ein Instrument, um Desinformation vorzubeugen und Rechtskonformität zu sichern – im medialen wie im verwaltungstechnischen Kontext. PABeLA-II leiste Vorarbeit, um irreführende oder schlicht erfundene Quellen zu erkennen. Die Herausforderungen lägen im Aufbau eines repräsentativen Testdatensatzes und in einem Verfahren, das statistische, regelbasierte und auf Sprachmodellen beruhende Methoden kombiniert.
Das Forschungsprojekt läuft noch bis April 2027. Die Ergebnisse sollen anschließend direkt in die Praxis der Medienregulierung einfließen.
