KI und Datenschutz
Impuls vom Landesbeauftragten für Datenschutz und Informationsfreiheit M-V
Sebastian Schmidt, Landesdatenschutzbeauftragter von M-V, erläuterte den risikobasierten Ansatz der KI-Verordnung (KI-VO), die am 21.05.2024 vom Europäischen Rat angenommen wurde. KI-Anwendungen müssen nach ihren potentiellen Risiken eingeschätzt werden.
Hochrisikosysteme (Art. 6 KI-VO) sind KI-Systeme, die ein "hohes Risiko für Gesundheit, Sicherheit oder Grundrechte" bergen. Laut Schmidt sind das beispielsweise: Auswertung von Lebensläufen, Bewertung Kreditvergabe, Preisbildung bei Lebens- und Krankenversicherung. Unter das "Transparenzrisiko" (Art. 50 KI-VO)fallen Anwendungen, die in eine direkte Interaktion mit dem Nutzer (z.B. Chatbots) gehen, Programme die Texte, Bilder oder Videos erzeugen oder Emotionen erkennen.
Grundsätzlich gilt, dass Ausgaben eines KI-Systems als künstlich erzeugt gekennzeichnet werden , Urherberrechte von Quellen gewahrt bleiben und Trainingsdaten dokumentiert werden müssen. Sebastian Schmidt weist darauf hin, dass die Datenschutz-Grundverordnung (DSGVO) auch beim Trainieren und Anwenden von KI eingehalten werden muss. Daher empfiehlt er deutsche oder europäische Modelle und datenschutzkonform vortrainierte KI-Anwendungen zu nutzen.
Die Empfehlung von Sebastian Schmidt zur Implementierung von KI-Anwendungen im Betrieb lauten wie folgt:
- Verantwortlichkeit festlegen und verbindlich regeln
- Interne Regelungen treffen
- Datenschutz-Folgenabschätzung
- Beschäftigte schützen, betriebliche Accounts einrichten
- Datenschutz durch Technikgestaltung und durch datenschutzfreundliche Voreinstellungen
Außerdem empfiehlt Schmidt bei der Nutzung von KI-Anwendungen:
- Vorsicht bei Eingabe und Ausgabe personenbezogener Daten
- Besondere Vorsicht bei besonderen Kategorien personenbezogener Daten
- Ergebnisse auf Richtigkeit prüfen
- Ergebnisse und Verfahren auf Diskriminierung prüfen
