Expertengremium zur Künstlichen Intelligenz: Ergebnisbericht veröffentlicht

Als Landesdatenschutzbehörde nehmen wir seit einiger Zeit wahr, dass in Niedersachen das Thema Künstliche Intelligenz (KI) und die Nutzung von KI-Systemen insbesondere in der Landesregierung, der Landesverwaltung, in Unternehmen, Schulen und Universitäten viel Raum einnimmt. Aufgrund dieser großen praktischen Bedeutung von KI-Modellen und KI-Systemen hat die Datenschutzaufsicht Niedersachsen 2024 einen Expertenkreis einberufen und an drei Gesprächsterminen wesentliche Datenschutzfragen zur Künstlichen Intelligenz diskutiert.

Ziel des von unserer Behörde einberufenen Expertenkreises war es, Rahmenbedingungen für den datenschutzkonformen Einsatz von KI in der Wirtschaft wie auch in der niedersächsischen Verwaltung zu auszuloten. An den Expertengesprächen nahmen Vertreter führender Institutionen aus der niedersächsischen Wirtschaft und Wissenschaft, der öffentlichen Verwaltung und Datenschutzexperten aus dem gesellschaftlichen Umfeld teil. Wir haben diese interdisziplinäre Zusammensetzung gewählt, um die Datenschutzfragen von KI-Systemen aus unterschiedlichen Perspektiven betrachten zu können.

Die drei Expertengespräche waren den folgenden Kernthemen gewidmet:

1. Rechtmäßigkeit des Trainings von KI-Modellen
2. Gewährleistung der Datenschutzgrundsätze, insbesondere der Transparenz, Fairness, Datenminimierung und Speicherbegrenzung in KI-Systemen
3. Grundsatz der Richtigkeit personenbezogenen Outputs und Bias-Mechanismen bei KI-Systemen

Den vollständigen Ergebnisbericht können Sie hier einsehen:

Abschlussbericht KI-Expertengespräche 2024

Ein datenschutzkonformer Einsatz von KI-Modellen und KI-Systemen in Niedersachsen ist möglich. Allerdings müssen zuvor noch einige wesentliche Rahmenbedingungen geschaffen werden, um diesen Prozess gezielt zu unterstützen und zu fördern.

Aus datenschutzrechtlichen Perspektive besteht vor allem noch folgender konkreter Handlungsbedarf:

Der Landesgesetzgeber ist im Besonderen gefordert

• eine Rechtsgrundlage für das Training von KI-Modellen und KI-Systemen mit personenbezogenen Daten für öffentliche Stellen zu erlassen,
• Prüfung und erforderlichenfalls Erlass von Erlaubnisvorschriften und ergänzenden Regelungen zum Einsatz von KI-Modellen und KI-Systemen für spezifische Bereiche der Landesverwaltung.

Der Landesregierung empfehlen wir

• aktive, steuernde und unterstützende Begleitung der Implementierung von KI-Modellen und KI-Systemen in der niedersächsischen Verwaltung durch
• Rahmenbedingungen für den KI-Einsatz, z.B. durch einen Gemeinsamen Runderlass, aber auch die Einbindung der Mitarbeiterinnen und Mitarbeiter beispielsweise durch Abschluss einer Vereinbarung nach § 81 Niedersächsisches Personalvertretungsgesetz mit den Spitzenorganisationen der Gewerkschaften
• Standardisierungen technischer und organisatorischer Maßnahmen für datenschutzkonforme KI-Modelle und KI-Systeme,
• Handlungsempfehlungen für Grundrechte-Folgenabschätzungen für Hochrisiko-KI-Systeme und
• Schulungsangebote zur KI-Kompetenz der Beschäftigten im öffentlichen Bereich.

Ziel der Bemühungen ist es, den datenschutzkonformen Einsatz von KI-Modellen und KI-Systemen in Niedersachsen zu fördern.