Datenschutzkonferenz veröffentlicht Orientierungshilfe für den datenschutzgerechten Einsatz von KI-Anwendungen
24. Mai 2024
Software-Tools auf Basis Künstlicher Intelligenz (KI) werden in staatlichen und kommunalen Behörden bisher in sehr geringem Umfang eingesetzt. Ein Grund dafür sind u.a. unklare Datenschutzbestimmungen. Um hier Klarheit zu schaffen, hat die Konferenz der unabhängigen Datenschutzaufsichtsbehörden des Bundes und der Länder eine Orientierungshilfe für den datenschutzgerechten Einsatz von KI-Anwendungen erarbeitet. Der Leitfaden richtet sich an Unternehmen, Behörden und andere Organisationen. Sie betont die Notwendigkeit, durch interne behördliche Richtlinien den eigenmächtigen und unkontrollierten Einsatz von KI-Anwendungen zu verhindern. Eine entsprechende Richtlinie soll sowohl den Beschäftigten als auch der Organisation als Arbeitgeber Sicherheit geben.
Vor dem Einsatz einer KI-Anwendung sollte klar definiert werden, für welche Zwecke sie eingesetzt werden soll und ob personenbezogene Daten verarbeitet werden. Es wird zudem empfohlen, zu prüfen, ob beim Training der KI-Anwendung personenbezogene Daten verwendet werden und ob hierfür eine entsprechende Rechtsgrundlage besteht.
Bei der Auswahl von KI-Anwendungen wird zwischen geschlossenen und offenen Systemen unterschieden. Geschlossene Systeme bieten eine abgegrenzte und kontrollierte Umgebung für die Datenverarbeitung, während offene Systeme, insbesondere Cloud-Lösungen, zusätzliche Datenschutzrisiken bergen können.
Die Beteiligung von Menschen an Entscheidungen ist essenziell, vor allem, wenn eine KI nur Vorschläge macht. Unzureichende personelle Ressourcen und mangelnde Transparenz des Entscheidungsprozesses dürfen nicht dazu führen, dass Ergebnisse ungeprüft übernommen werden.
Ein weiterer wichtiger Punkt betrifft das Recht auf Berichtigung falscher Daten, die in KI-Anwendungen auftreten können. Organisationen müssen sicherstellen, dass betroffene Personen ihre Rechte gemäß der Datenschutz-Grundverordnung (DSGVO) wahrnehmen können.
Die Datenschutzkonferenz bietet mit ihrem Leitfaden eine Orientierungshilfe für die Gewährleistung eines verantwortungsvollen Einsatzes von KI-Anwendungen und die Vermeidung von Datenschutzverstößen.
Webseite der Datenschutzkonferenz
Download Orientierungshilfe Künstliche Intelligenz und Datenschutz Version 1.0
