KI-Systeme treffen weitreichende Entscheidungen, die die gesellschaftliche Teilhabe einzelner Menschen oder auch ganzer Gruppen einschränken. Nicht nur im privaten Bereich. Auch im betrieblichen Umfeld spielen KI-Systeme eine immer stärkere Rolle. „Die Gefahr ist groß, dass die Rechte und Freiheiten der Arbeitnehmerinnen und Arbeitnehmer ohne ihr Wissen eingeschränkt werden, einfach weil die KI-Systeme völlig intransparent sind“, betont Otto. Die Arbeitskammer fordert daher, dass die Beschäftigten und ihre Interessenvertretungen frühzeitig in Entscheidungsprozesse eingebunden werden und mitbestimmen können. Außerdem biete sich das Saarland für das von der Ethikkommission geforderte Kompetenz- und Beratungszentrum Algorithmische Systeme bestens an.
Algorithmische Systeme, beispielsweise zur Personaleinsatzplanung, können starken Einfluss darauf haben, wer welche Arbeit erledigt und wie Arbeit wahrgenommen wird. „In seiner Extremform zeigt sich das vor allem bei Kurierdiensten der sogenannten Plattformwirtschaft, wo Algorithmen im Hintergrund den Takt der Arbeit vorgeben und die Kuriere ausschließlich auf Leistung getrimmt werden“, stellt Otto weiter fest.
„Deshalb ist es unumgänglich, dass die Beschäftigten und ihre Interessenvertretungen frühzeitig in unternehmerische Entscheidungsprozesse eingebunden werden und mitbestimmen können“, fordert Otto. „Nur so ist ein menschenzentriertes Design algorithmischer Systeme möglich, wie es die Datenethikkommission fordert. Ein Design, das die Rechte und Freiheiten, sowie körperliches und emotionales Wohlbefinden in den Mittelpunkt stellt. KI-Module können auch so programmiert werden, dass sie nicht nur Gewinnmaximierung zum Ziel haben sondern auch Gute Arbeit.“
Das bedeutet, dass schon Definition und Zielsetzung von KI-Systemen gemeinschaftlich ausgehandelt werden müssen. „Das schließt auch Fragen der Beschäftigungswirkung und Qualifizierung mit ein. Gute Arbeit by Design, wie es der DGB formuliert hat, muss zum Leitmotiv werden“, betont Otto. Die Interessenvertretungen müssen die Möglichkeit haben, sich weiterzubilden und externe Beratung in Anspruch nehmen zu können.
Die Ethikkommission fordert ein Kompetenzzentrum Algorithmische Systeme, das Bund, Länder und Kommunen, Hersteller, Betreiber, Anwender und betroffene Personen im Umgang mit und bei der Entwicklung von algorithmischen Systemen berät. Das wäre aus Sicht der Arbeitskammer ein wichtiger Schritt, damit vor allem Interessenvertretungen einen kompetenten und unabhängigen Ansprechpartner haben, der sie befähigt, auf Augenhöhe die Auswirkungen von algorithmischen Systemen im betrieblichen Umfeld zu verstehen und mitgestalten zu können.
