Künstliche Intelligenz (KI) hält immer stärker Einzug in die betriebliche Praxis – sei es bei der Steuerung von Arbeitsabläufen, der Personaleinsatzplanung oder der Auswertung von Leistungsdaten. Gleichzeitig zeigen aktuelle Beispiele, wie fehleranfällig und unberechenbar KI-Systeme sein können. Die Gefahr unbeabsichtigter Folgen, Diskriminierung sowie der Verletzung von Grund- und Persönlichkeitsrechten ist real. Umso wichtiger wird die menschliche Aufsicht über KI-gestützte Arbeitsprozesse – auch und gerade im Interesse der Beschäftigten.

Bedeutung der menschlichen Aufsicht über KI-Systeme

Die Europäische Kommission hat erkannt, dass KI-Anwendungen einer intensiven menschlichen Kontrolle bedürfen. Die KI-Verordnung (KI-VO) verpflichtet Hersteller und Anwender, technische und organisatorische Vorkehrungen zu treffen, damit eine effektive Aufsicht durch qualifiziertes Personal jederzeit möglich ist. Ziel ist neben der technischen Überwachung insbesondere auch der Schutz von Gesundheit, Sicherheit und Grundrechten der Beschäftigten.

Denn KI-Systeme können, trotz aller Weiterentwicklungen, nie alle potenziellen Anwendungs- und Fehlerfälle abdecken. Unerwartete oder gar diskriminierende Ergebnisse lassen sich deshalb nur in der betrieblichen Praxis, also durch die Nutzerinnen und Nutzer, identifizieren und adressieren. Die Folgen ungenügender Kontrolle reichen von Fehlentscheidungen im Arbeitsprozess über die Benachteiligung einzelner Mitarbeitergruppen bis hin zu Datenschutzverstößen.

Handlungsfeld für Betriebsräte – Mitbestimmung bei der Einführung von KI

Gerade im Bereich menschlicher Aufsicht ist die Mitbestimmung des Betriebsrats von zentraler Bedeutung. Nach den Vorschriften der §§ 96-98 BetrVG besteht ein umfassendes Mitbestimmungsrecht bei der Einführung von Systemen zur Mitarbeiterüberwachung sowie bei Maßnahmen der betrieblichen Berufsbildung.

• § 96 BetrVG: Betriebsräte haben ein Initiativrecht zur Förderung der Berufsbildung. Werden KI-Systeme eingesetzt, die eine Schulung zur Überwachung oder Bedienung erfordern, steht dem Gremium eine maßgebliche Rolle bei der Ausgestaltung zu.
• § 97 BetrVG: Beinhaltet die Pflicht zur Förderung der Anpassungsfortbildung, insbesondere beim Einsatz neuer Technologien. Werden für die menschliche Aufsicht über KI neue Kenntnisse benötigt, etwa zur Interpretation von KI-Ausgaben oder zur Fehlererkennung, kann der Betriebsrat entsprechende Qualifizierungsmaßnahmen einfordern.
• § 98 BetrVG: Regelt die Mitbestimmung bei inner- und außerbetrieblichen Bildungsmaßnahmen. Der Betriebsrat kann nicht nur Art und Umfang von Schulungen, sondern auch die Auswahl externer Experten mitbestimmen, beispielsweise für KI-bezogene Datenschutzfragen.

Darüber hinaus steht dem Betriebsrat nach § 87 Abs. 1 Nr. 6 BetrVG ein Mitbestimmungsrecht bei der Einführung und Anwendung technischer Einrichtungen zu, die geeignet sind, das Verhalten oder die Leistung der Beschäftigten zu überwachen. Dies betrifft z.B. automatisierte Entscheidungssysteme oder Software zur Leistungsanalyse.

Konkrete Gestaltungsmöglichkeiten für Interessenvertretungen

Um die Aufsicht über KI im Betrieb effektiv abzusichern, sollten Betriebsräte auf folgende Punkte achten:

• Vertragsgemäße Ausgestaltung der Mensch-Maschine-Schnittstellen, damit Bedienfehler frühzeitig erkannt und behoben werden können.
• Regelmäßige Evaluierung von KI-Entscheidungen durch qualifizierte Beschäftigte zur Minimierung von Fehlbeurteilungen und Diskriminierungsrisiken.
• Verankerung von Feedback-Mechanismen: Beschäftigte müssen Unstimmigkeiten oder unerwartete Auswirkungen unkompliziert melden können.
• Verpflichtende Schulungen zu den jeweils eingesetzten KI-Systemen, ihren Risiken und Grenzen, inklusive Awareness-Trainings für Datenschutz und Grundrechte.
• Klar definierter Verantwortungsbereich für die Überwachung: Wer ist zu welchem Zeitpunkt befugt, in den Prozess einzugreifen?

Betriebs- und Personalräte können zudem eigene Initiativen starten, etwa durch die Entwicklung von Positionspapieren zum Einsatz von KI, regelmäßige Berichterstattung im Betriebsratsgremium, Hinzuziehen externer Sachverständiger und die Verhandlung von Betriebsvereinbarungen, die nicht nur technische Standards, sondern auch den Schutz menschlicher Autonomie zum Ziel haben.

Fazit: Chancen nutzen, Risiken absichern

KI-Systeme bieten zweifelsohne neue Möglichkeiten für effizientere Arbeitsprozesse. Damit diese Vorteile jedoch nicht zulasten der Beschäftigten gehen, ist die menschliche Aufsicht unverzichtbar. Hier braucht es Betriebsräte, die den rechtlichen Rahmen kennen, Gestaltungsansprüche aktiv einbringen und so zur Sicherheit und Fairness in einer zunehmend digitalisierten Arbeitswelt beitragen.

Setzen Sie sich schon heute mit den Möglichkeiten der Mitbestimmung auseinander und achten Sie auf eine umfassende Qualifizierung Ihrer Gremien – zum Wohle aller Beschäftigten Ihres Betriebs.