Künstliche Intelligenz datenschutzkonform einsetzen: Datenschutzkonferenz veröffentlicht Orientierungshilfe für Unternehmen und Behörden

ESV-Redaktion Recht

Bei der Nutzung von KI‐Anwendungen ist vor allem zu beachten, dass bestimmte Kategorien personenbezogener Daten besonders schutzwürdig sind (Foto. kras99 / stock.adobe.com)

Die Konferenz der unabhängigen Datenschutzaufsichtsbehörden des Bundes und der Länder (Datenschutzkonferenz) legte jüngst eine Orientierungshilfe mit datenschutzrechtlichen Kriterien für die Auswahl und den datenschutzkonformen Einsatz von KI-Anwendungen vor.

Die Orientierungshilfe „Künstliche Intelligenz und Datenschutz“ richtet sich an Unternehmen, Behörden und andere Organisationen. Im Sinne einer Checkliste dient das Papier als Leitfaden insbesondere für datenschutzrechtlich Verantwortliche, um KI-Anwendungen auszuwählen, zu implementieren und zu nutzen.

Der Schwerpunkt liegt dabei auf den sogenannten Large Language Models (LLM), die häufig als Chatbots („ChatGPT“) angeboten werden, aber auch als Grundlage für andere Anwendungen dienen können.

Der kostenlose Newsletter Recht – Hier können Sie sich anmelden!

Redaktionelle Meldungen zu neuen Entscheidungen und Rechtsentwicklungen, Interviews und Literaturtipps.

Im Folgenden werden wichtige Punkte des Papiers vorgestellt:

Konzeption des Einsatzes und Auswahl von KI‐Anwendungen: Die Datenschutz-Grundverordnung (DSGVO) enthält keine spezifischen Vorschriften für KI-Systeme, weshalb sich die Bestimmung des Personenbezugs nach der allgemeinen Begriffsbestimmung gemäß Artikel 4 DSGVO richtet. Vor dem Einsatz von KI-Anwendungen muss zunächst festgelegt werden, welchem Zweck die Anwendung konkret dient und ob dieser zulässig ist. Beispiel für unzulässige Zwecke sind „social scoring“ und biometrische Echtzeitüberwachung öffentlicher Räume. Weiter ist zu beachten, dass für jeden Verarbeitungsschritt, bei dem personenbezogene Daten verarbeitet werden, eine datenschutzrechtliche Rechtsgrundlage erforderlich ist. Hier ist insbesondere Artikel 6 DSGVO zu prüfen. Zudem dürfen Entscheidungen mit Rechtswirkung gemäß Artikel 22 DSGVO grundsätzlich nur von Menschen getroffen werden. Bei öffentlichen Stellen dürfen Verwaltungsakte daher nur dann automatisiert erlassen werden, wenn kein Beurteilungsspielraum besteht und keine Ermessensentscheidung getroffen wird. Vorsicht geboten ist bei der Nutzung von technisch offenen Systemen, die als Cloud-Lösung betrieben und über das Internet zugänglich sind, da hier das Risiko besteht, dass von unbefugten Dritten auf personenbezogene Daten zugegriffen wird.

Implementierung von KI‐Anwendungen: Es ist erforderlich, dass klare betriebsinterne Weisungen erteilt und dokumentiert werden, unter welchen Voraussetzungen KI-Anwendungen eingesetzt werden dürfen. Ohne klare Regelungen, ob und wie KI-Anwendungen im Arbeitsalltag eingesetzt werden dürfen, besteht das Risiko, dass Beschäftigte diese Anwendungen eigenmächtig und unkontrolliert nutzen. Zudem ist vor der Verarbeitung personenbezogener Daten eine Vorabprüfung hinsichtlich der Art, des Umfangs, des Zwecks und der Umstände der Verarbeitung vorzunehmen. Sofern dabei festgestellt wird, dass die Verarbeitung ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen zur Folge hat, ist eine Datenschutz-Folgeabschätzung gemäß Artikel 35 DSGVO erforderlich.

Nutzung von KI‐Anwendungen: Hierbei ist insbesondere zu beachten, dass besondere Kategorien personenbezogener Daten als besonders schutzwürdig angesehen werden. Dazu gehören personenbezogene Daten, aus denen religiöse oder weltanschauliche Überzeugungen, Gewerkschaftszugehörigkeit oder Präferenzen für eine bestimmte politische Partei hervorgehen sowie Gesundheitsdaten, genetische oder biometrische Daten. Die Verarbeitung solcher Daten ist gemäß Artikel 9 Absatz 1 DSGVO grundsätzlich verboten und nur in Ausnahmefällen nach Artikel 9 Absatz 2 bis 4 DSGVO erlaubt.

Die Orientierungshilfe soll künftig weiterentwickelt und an aktuelle Entwicklungen angepasst werden.

Quelle: Orientierungshilfe der Datenschutzkonferenz vom 6. Mai 2024

It’s a match

Plattform-Governance und Recht

Mitherausgeber:: Dr. Kim Manuel Künstner, Dr. Sebastian Louven

Ob Online-Marktplätze, Vermittlungsplattformen, Suchmaschinen, persönliche Assistenten: Internetbasierte Technologien haben auf unser Leben großen Einfluss. Getrieben durch Plattformmodelle, die sich dabei an allen möglichen Stellen wiederfinden, gilt es jetzt, die vielseitig entstehenden rechtlichen Praxisfragen für Plattformbetreiber und -nutzer anzugehen, die sich v.a. beim Einsatz von Künstlicher Intelligenz ergeben.

Herausforderung Künstliche Intelligenz: Das Expertenteam um Kim Manuel Künstner und Sebastian Louven gibt Ihnen einen prägnanten Ein- und Überblick:

ökonomische Grundlagen im Zusammenhang mit Plattformgeschäftsmodellen

regulatorische und vertragsrechtliche Aspekte, Fragen zum Datenschutz, zur automatisierten Beratungsdienstleistung oder dem Einsatz von Zahlungsdiensten

weitere Schlüsselfelder wie drängende Probleme im Immaterialgüterrecht, zu Meinungsfreiheit oder auch strafrechtlichen Fragen

Eine einzigartige Orientierungshilfe, die Ihnen ein rasant wachsendes juristisches Arbeits- und Beratungsgebiet mit viel Praxisbezug nahebringt.

Verlagsprogramm

Weitere Nachrichten aus dem Bereich Recht

(ESV/cw)