Schatten-KI bezeichnet die nicht autorisierte Nutzung von KI-Tools durch Beschäftigte. Laut einer Microsoft-Studie nutzen fast 50 % der Mitarbeitenden in Behörden nicht freigegebene KI-Anwendungen. Personal- und Betriebsräte sollten sich dafür stark machen, dass die Beschäftigten durch Schulungen und Anweisungen auf diese Gefahren hingewiesen werden.
Worum es geht
Schatten-KI bezeichnet KI-Tools, die Mitarbeitende ohne Freigabe der IT-Abteilung nutzen. Dadurch entziehen sich Kontrollmechanismen und Datenschutzvorgaben.
Die wichtigsten Fakten
- In Behörden nutzen laut Microsoft-Studie bis zu 49 % Schatten-KI-Anwendungen inoffiziell.
- Um Risiken für die Behörden und Beschäftigten zu reduzieren muss dieses Thema innerbehördlich bekannt gemacht werden.
- Unkontrollierter Datentransfer in KI-Modelle kann DSGVO-Verstöße auslösen.
- Fehlende Transparenz erhöht Risiken für die Datenintegrität.
Risiken für Beschäftigte & Datenschutz
Schatten-KI kann unkontrolliert sensible Personendaten in unsichere Umgebungen übertragen und führt zu Transparenzverlust im Hinblick auf das Training von KI-Modellen.
Handlungsempfehlungen für Personal- und Betriebsräte
- Bestandsaufnahme: IT-Landschaft und eingesetzte KI-Tools erfassen und dokumentieren.
- Klare Regeln für Freigabe, Monitoring und Einsatzverbot von Schatten-KI festlegen.
- Schulungen: Mitarbeitende und Führungskräfte zu sicheren KI-Verfahren und Datenschutz schulen.
- Kontinuierlicher Dialog mit IT und Geschäfts- / Behördenleitung zur Anpassung an AI Act und Data Act.
Ausblick
Es ist wichtig, Künstliche Intelligenz kritisch zu begleiten und den offiziellen Einsatz in der Behörde oder im Unternehmen zu begleiten. Freie KI-Modelle, wie Gemini oder ChatGPT werden häufig mit den Suchanfragen trainiert. Diese Tatsache und der nachvollziehbare Wunsch, der Menschen sich die Arbeit erleichtern zu wollen, müssen bei der Planung von Regeln und Schulungen berücksichtigt werden.
Quellen
