§ 16a EGovG Bln Einsatz von KI-Systemen
Die Einführung eines KI-Systems ist der IKT-Steuerung anzuzeigen.
Die Anzeigepflicht gilt nicht, soweit berechtigte Verschwiegenheitsinteressen der Sicherheitsbehörden des Landes Berlin einer Anzeige entgegenstehen.
Eine Behörde darf zur Wahrnehmung der öffentlich-rechtlichen Verwaltungstätigkeit personenbezogene Daten unter Beachtung des Absatzes 3 in einem KI-System verarbeiten, soweit sie befugt ist, zur Erfüllung dieser Aufgaben personenbezogene Daten zu verarbeiten.
Satz 1 gilt auch für Daten nach Artikel 9 der Verordnung (EU) 2016/679.
Die Zulässigkeit der Verarbeitung personenbezogener Daten durch die Behörde nach Absatz 2 setzt voraus, dass
die Eingabe der personenbezogenen Daten in das KI-System erforderlich ist, um das KI-System zur Wahrnehmung der öffentlich-rechtlichen Verwaltungstätigkeit der Behörde einsetzen zu können,
die im KI-System verarbeiteten personenbezogenen Daten das eingesetzte KI-Modell nicht verändern und
risikomindernde Maßnahmen ergriffen werden, die die Grundsätze der Datenminimierung, Verfügbarkeit, Integrität, Vertraulichkeit, Nichtverkettung, Transparenz und Intervenierbarkeit gewährleisten und das KI-System nur personenbezogene Daten ausgibt, die in Zusammenhang mit der Erfüllung der gesetzlichen Aufgabe der Behörde im Sinne von Absatz 2 stehen.
Vor dem Einsatz sind die Nutzerinnen und Nutzer in der Behörde mindestens über Zweck und Art des Einsatzes, die Funktionsweise der eingesetzten Technik sowie die Verarbeitung selbst aufzuklären.
Insbesondere sind sie darauf hinzuweisen, dass die Ausgaben des KI-Systems eigenständig auf ihre Richtigkeit zu überprüfen sind.
