Abschnitt: 2.3 Persönlichkeitsrechte | Regelungen zur Nutzung von KI-Diensten im Unternehmenskontext der DMT-LB

Abschnittsübersicht

Der Bereich der Persönlichkeitsrechte ist eng mit dem Datenschutz verwand, umfasst aber teilweise andere Kategorien von Daten (z.B. das Recht am eigenen Bild) und ist die Grundlage für den Bereich der besonders schützenswerten Daten. Während personenbezogene Daten definiert sind als

alle Informationen, die sich auf eine identifizierte oder identifizierbare natürliche Person beziehen; als identifizierbar wird eine natürliche Person angesehen, die direkt oder indirekt, insbesondere mittels Zuordnung zu einer Kennung wie einem Namen, zu einer Kennnummer, zu Standortdaten, zu einer Online-Kennung oder zu einem oder mehreren besonderen Merkmalen, die Ausdruck der physischen, physiologischen, genetischen, psychischen, wirtschaftlichen, kulturellen oder sozialen Identität dieser natürlichen Person sind, identifiziert werden kann,Art. 4 Nr. 1 DS-GVO

umfassen besondere personenbezogener Daten

Daten, aus denen die rassische und ethnische Herkunft, politische Meinungen, religiöse oder weltanschauliche Überzeugungen oder die Gewerkschaftszugehörigkeit hervorgehen, sowie [...] genetische Daten [und] biometrische Daten zur eindeutigen Identifizierung einer natürlichen Person, Gesundheitsdaten oder Daten zum Sexualleben oder der sexuellen Orientierung einer natürlichen Person.Art. 9 (1) DS-GVO

Die Themen KI-Systeme und Persönlichkeitsrecht haben verschiedene Berührungspunkte:

2.3.1 Eingabe von Bildern, Videos, Audiomaterial oder sensiblen Daten von Dritten in einen KI-Dienst
Das Hochladen von Personenfotos, Videos, Audioaufzeichnungen oder die Eingabe sensibler Daten oder Informationen über Personen mit ausführlichen biografischen Angaben, die nicht ohnehin schon rechtmäßig öffentlich verfügbar gemacht sind, ist ohne Einwilligung der betroffenen Personen unzulässig.
Hier können vielfältige Rechte berührt sein, u.a. das "Recht am eigenen Bild" (gem. § 22 KunstUrhG) die Vertraulichkeit des (nichtöffentlich gesprochenen) Wortes (vgl. § 201 StGB) oder o.g. Datenschutzrechte gem. Art. 4 Nr. 1 oder Art. 9 (1) DS-GVO.

2.3.2 Generierung von Imitationen und "Deepfakes" mittels der KI-Dienste
KI-Dienste dürfen nicht dazu genutzt werden, undeklarierte Fälschungen anzufertigen. Zudem dürfen KI-Dienste nicht zur Nachahmung anderer Menschen oder ihrer Merkmale wie etwa der Stimme oder biometrischer Daten verwendet werden.

Zwar können KI-Dienste technisch dazu verwendet werden, existierende Personen in (Bewegt-) Bild oder ihre Merkmale (z.B. die Stimme oder eine Unterschrift) zu imitieren und man könnte die sog. Kunstfreiheit gem. Art. 5 (3) Satz 1 GG bemühen, allerdings kann die Erstellung absichtlicher Imitationen viele Tatbestände des Zivil- und Strafrechts erfüllen, z.B. "falsche Verdächtigung" gem. § 164 StBG, Urkundenfälschung gem. § 267 StGB, Fälschung technischer Aufzeichnungen gem. §268 StGB u.v.m.

Imitationen und sog. Deepfakes unterliegen also mind. einer Kennzeichnungspflicht. Die Kennzeichnung als KI-Erzeugnis muss auffällig und so mit dem Endprodukt verbunden sein, dass es sich von Kopien nicht einfach entfernen lässt.

2.3.3 Diskriminierung und Ungleichbehandlung durch den Einsatz von KI-Diensten allgemein
Bereits durch das Allgemeine Gleichbehandlungsgesetz (AGG, Langtext hier) sollen Benachteiligungen aus Gründen der Rasse oder wegen der ethnischen Herkunft, des Geschlechts, der Religion oder Weltanschauung, einer Behinderung, des Alters oder der sexuellen Identität verhindert oder beseitigt werden. Da die Arbeitsweise der Algorithmen eines KI-Dienstes nicht transparent nachvollziehbar sind und über bereits einseitig verzerrte, diskriminierende Trainingsdaten der gesamte Trainingsprozess des KI-Dienstes dahingehend verzerrt sein kann, können auch die Ausgaben der Dienste entsprechend verzerrt und diskriminierend sein.

Grundsätzlich gilt: Es sollten KI-basiert keine personen-(gruppen-)bezogene Beurteilungen und Bewertungen erstellt werden, ohne diese persönlich auf entsprechende Verzerrungen (sog. Biases) zu prüfen. Es dürfen keine personenbezogenen, automatisierten Entscheidungen im Einzelfall erfolgen, ohne dass die endgültige Entscheidung nicht einem Menschen obliegt.

2.3.3 Diskriminierung und Ungleichbehandlung durch den Einsatz von KI-Diensten an Hochschulen
Für Hochschulen gilt darüber hinaus ein hoher Anspruch an die Gleichbehandlung aller Studierenden. Die Verpflichtung zur gleichwertigen und gerechten Behandlung ergibt sich zunächst aus Art. 3 (2) GG ("Entfaltung der Persönlichkeit") in Verb. mit Art. 12 (1) GG ("Berufsfreiheit") und Art. 19 GG ("Rechtsweggarantie"), darüber hinaus aus dem Allgemeinen Gleichbehandlungsgesetz (AGG), dem Hochschulrahmengesetz (HRG) und dem Gesetz über die Hochschulen des Landes Nordrhein-Westfalen (HG NRW). Daraus lassen sich zwei Bedingungen ableiten, für deren rechtskonforme Einhaltung sowohl die Hochschule als auch die Lehrenden Sorge tragen müssen:

Berücksichtigung von Vorkenntnissen: Das Niveau der Vorerfahrungen mit KI-Diensten kann stark mit dem soziodemografischen Hintergrund von Studierenden variieren. Es muss sichergestellt sein, dass die Bedienkompetenz bei allen Studierenden in einem hinreichenden Bereich liegt, um nicht gerade durch den Einsatz von KI-Diensten bestehende Ungleichheiten noch weiter zu verstärken.

Unbeschränkter Zugang für alle: Im Internet angebotene KI-Diensten sind in vielen Fällen nicht für alle Nutzenden gleichermaßen zugänglich. Es können zum Beispiel Nutzungsgebühren erhoben werden sowie regionale Schranken oder eine Warteliste existieren, die den Zugang zu den Diensten einschränken. Ein solchermaßen begrenzter oder sogar sozio-ökonomisch präferentieller Zugang führt dazu, dass ein KI-Dienst nicht immer für alle Studierenden in gleicher Weise zugänglich ist, was Bildungsungleichheiten vertiefen kann. Im Sinne der Bildungsgerechtigkeit sind daher die von der Trägergesellschaft zur Verfügung gestellten KI-Dienste zu verwenden. Eine Nutzung externer Werkzeuge mit abweichendem Funktionsumfang ist zu vermeiden.