Kursthemen

  • Einleitung und Inhalt

    Alles einklappen Alles aufklappen

    Diese Informationen sind Bestandteil der Nutzungsbedingungen von 42.thga.de. Unter dieser Adresse stehen für Mitarbeitende der DMT-LB und ihrer Betriebseinheiten sowie für Studierende der THGA verschiedene auf sog. "künstlicher Intelligenz" basierende Dienste (im Folgenden: KI-Dienste) zur Verfügung.

    Diese Informationen sind eher rechtlicher Natur, wenn Sie an darüber hinausgehenden (Hintergrund-) Informationen interessiert sind, finden Sie umfangreiche Informationen mit verschiedenen Schwerpunkten u.a. unter den folgenden Links:

     Informationssammlung auf Moodle:
    Unter https://moodle.thga.de/KI findet man eine Sammlung von Grundlagen, einen historischen Abriss der Entwicklung, eine Übersicht über verschiedene Arten von KI-Diensten und Tipps und Tricks rund um das "Prompting"

    Videovorträge:
    Zur Funktionsweise findet man mehrere Vorträge mit vielen Beispielen zu KI-Generierung von Bildern, Videos, Avataren, Stimmen und Musik unter https://elmo.thga.de/ki-videovortraege/.

    Handreichung "Generative KI in Studium und Lehre":
    Eine Handreichung mit Schwerpunkt auf Hochschullehre findet man unter https://elmo.thga.de/ki-handreichung/. Im Fokus stehen eine kritische Reflexion der technischen, rechtlichen und ethischen Risiken und Gefahren und der Einsatz von KI in Lehr- und Prüfungskontexten.

    Inhalt

  • 1. Von der DMT-LB angebotene Dienste

    Für Mitarbeitende der DMT-LB und ihrer Betriebseinheiten, später auch für Studierende der THGA, stehen verschiedene Dienste zur Verfügung, vornehmlich verschiedene Sprachmodelle mehrerer Anbieter und - tlw. zeitlich begrenzt oder im wechselnden Umfang - Bildgeneratoren. Dienste zur Stimm-, Avatar- Video- und Musiksynthese stehen normalerweise nicht zur Verfügung.

    Die Dienste stehen unter der URL https://42.thga.de zur Auswahl.

    Der Umfang der angebotenen Dienste kann variieren. Wir behalten uns vor, verschiedene Dienste und Angebote (auch vor dem Hintergrund entstehender Kosten, wechselnder Angebote der Anbieter und technischer Gründe) zugänglich zu machen oder einzuschränken.

  • 2. Rechtliche Bedingungen

    Der Einsatz von KI-Diensten betrifft viele Rechtsbereiche, u.a. den Datenschutz und die Persönlichkeitsrechte, das Urheberrecht und das Arbeitsrecht. Wir haben im Folgenden die wichtigsten Informationen zusammengefasst. Denn die Verordnung (EU) 2024/1689 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz - kurz: KI-VO, Langtext hier - sieht vor, dass die Anbieter und Betreiber von KI-Systemen Maßnahmen ergreifen, ...

    "... um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen, wobei ihre technischen Kenntnisse, ihre Erfahrung, ihre Ausbildung und Schulung und der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, zu berücksichtigen sind."Art. 4 KI-VO

    KI-Kompetenz meint in diesem Zusammenhang ...

    "... die Fähigkeiten, die Kenntnisse und das Verständnis, die es Anbietern, Betreibern und Betroffenen unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung ermöglichen, KI-Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden.Art. 3 Nr. 56 KI-VO

    Weitere Hinweise findet man im Erwägungsgrund EG 20 KI-VO, für Bildungsinstitutionen außerdem im EG 56 KI-VO.

    Grundsätzlich nimmt die KI-VO eine gewisse Abstufung von KI-Systemen bzgl. ihrer Gefährlichkeit und Risiken vor; die unter der URL https://42.thga.de angebotenen Dienste fallen in die Kategorie der Systeme mit begrenztem oder niedrigem Risiko. Die unterschiedlichen Risikoniveaus verdeutlichen die folgenden Beispiele.

    Risikokategorien von KI-Systemen
    Verbotene Praktiken nach Art. 5 KI-VO, z.B.
    • Einsatz unterschwelliger manipulativer Techniken zur Verhaltensbeeinflussung, zur gezielten Ausnutzung persönlicher Vulnerabilitäten (Alter, Behinderung, soziale oder wirtschaftliche Situation)
    • Systeme zur sozialen Bewertung, die soziale Benachteiligung oder diskriminierende Auswirkungen haben
    • Systeme zur Vorhersage des Risikos zukünftiger Straftaten auf Grundlage von Profiling
    • Systeme zur Emotionserkennung am Arbeitsplatz oder in Bildungseinrichtungen
    Hochrisiko-KI nach Art. 6 in Verb. mit Anhang III KI-VO, z.B.
    • KI-basierte Bauteile kritischer Infrastruktur
    • (teil-) autonome Entscheidungs- und Bewertungssysteme über Bildungszugang und -verlauf und zur Verhaltensanalyse von Bildungs- und Prüfungsteilnehmenden
    • (teil-) autonome Einstellungs- und Beurteilungssysteme im Personalmanagement (Bewerbungsbeurteilung, Beförderung, Kündigung, Zuweisung von Aufgaben, Leistungsbeobachtung und -bewertung)
    • KI in grundlegenden Dienstleistungsprozessen bzgl. sozialer Unterstützungsleistungen, Gesundheitsdiensten, Kreditwürdigkeitsprüfung und Bonitätsbewertung, versicherungsbezogener Risikobewertung, Klassifizierung und Priorisierung von Notrufen
    • Systeme zur Beurteilung von Straftatrisiken, zur Lügendetektion, zur Beurteilung von Beweismitteln, zur vorhersagenden Polizeiarbeit (predictive policing), zur Risikobewertung bzgl. irregulärer Einwanderung, zur Prüfung von Migrationsgründen, Asyl- und Visumsanträgen
    • Systeme mit Bezug zu demokratischen Prozessen, z.B. zur Auslegung von Rechtsvorschriften und Anwendung des Rechts, zur Beeinflussung von Wahlverhalten oder zur Organisation politischer Kampagnen
    KI mit begrenztem Risiko (grds. erlaubt) mit Transparenz- bzw. Kennzeichnungspflichten nach Art. 50 KI-VO, z.B.
    • KI-Systeme, mit denen natürlichen Personen direkt interagieren (z.B. Chatbots)
    • KI-Systeme zur Erzeugung synthetischer Audio-, Bild-, Video- oder Textinhalte
    • KI-Systeme zur gezielten Emotionserkennung oder zur biometrischen Kategorisierung, die nicht am Arbeitsplatz oder in Bildungsprozessen eingesetz wird (=verboten) und nicht ungezielt eingesetzt werden (= Hochrisiko-KI)


    Die Nutzung der von der DMT-LB zur Verfügung gestellten Dienste erfolgt unter Kenntnis der folgenden Hinweise:

  • 2.1 Urheberrecht

    Das Urheberrecht ist das Recht einer jeden Schöpferin und eines jeden Schöpfers eines Werkes, dass eine gewisse Schöpfungshöhe übersteigt und damit die Werkgrenze überschreitet, selber zu bestimmen, wie ihr oder sein Werk verwertet wird. Urheberpersonen sind damit gegen Veröffentlichung, Vervielfältigung, Verbreitung, Vortrag, Aufführung, öffentliche Zugänglichmachung, u. m. ihrer Werke geschützt.

    Das "Gesetz über Urheberrecht und verwandte Schutzrechte" - kurz: UrhG, Langtext hier - beschränkt den Schutz der Urheberperson allerdings durch sog. Schranken, so dass u.a. Zitate, Privatkopien oder der Einsatz in Unterricht, Lehre und Wissenschaft unter bestimmten Bedingungen erlaubt sind. Alle weiteren Verwertungen geschützter Werke sind normalerweise über eine Lizenz mit der Urheberperson zu regeln.

    Die Themen KI-Systeme und UrhG haben diverse Berührungspunkte:

    2.1.1 Im Training genutztes, urheberrechtlich geschütztes MaterialUmfassende Rechtsklärungen zur rechtmäßigen Verwendung von Trainingsdaten für KI-Dienste und den möglichen Implikationen für die Nutzenden der Dienste stehen noch aus. Bis einschlägige Gerichtsurteile oder Rahmenvorschriften vorliegen, kann aber davon ausgegangen werden, dass die Nutzung generativer KI-Dienste nicht grundsätzlich gegen Vorschriften des UrhG verstößt.
    2.1.2 Urheber- und Verwertungsrechte an Erzeugnissen von KI-DienstenDamit der Output eines KI-Dienstes überhaupt urheberrechtlich geschützt sein kann, muss es sich um ein Werk handeln. Als Werke sind im Sinne des § 2 (2) UrhG persönliche geistige Schöpfungen definiert, die eine hinreichende Schöpfungshöhe aufweisen. Dies impliziert nach geltender Rechtsauffassung, dass eine Werkschöpfung nur durch menschliches Schaffen entstehen kann. KI-Dienste sind keine Menschen und deshalb kann ihr generierter Inhalt keine persönliche geistliche Schöpfung sein. Damit ist das Vorliegen eines Werks im Sinne des UrhG ausgeschlossen und das deutsche Urheberrecht greift für durch KI-Dienste generierte Outputs zunächst nicht.
    2.1.3 In Erzeugnissen von KI-Diensten enthaltenes urheberrechtlich geschütztes Material
    1. Direkte Kopien bestehender Werke
      Das grundlegende technische Funktionsprinzip generativer KI-Dienste stellt sicher, dass keine direkten Kopien oder „Abschriften“ existierender Werke erzeugt werden können. Dies ändert sich durch die Fähigkeit moderner KI-Dienste, die bei der Generierung ihrer Antworten eine Internetrecherche durchführen oder auf eigene Wissensdatenbanken zugreifen können. In diesem Fall können in beliebigem Umfang direkte Zitate und Kopien von urheberrechtlich geschützten Werken im Output des KI-Dienst enthalten sein, deren weitere Verwendung dann dem deutschen Urheberrecht unterfällt.
    2. Zufällige Ähnlichkeiten
      Der Output kann durch bloßen Zufall ein bereits bestehendes Werk sein, wenn der KI-Dienst „unbeabsichtigt“ einen Inhalt generiert, der sehr ähnlich oder identisch zu urheberrechtlich geschütztem Material ist. [...] Nach Rechtsprechung des Europäischen Gerichtshofs (EuGH) können bereits elf aufeinander folgende Worte eine geistige Schöpfung darstellen (EuGH GRUR 2009, 1041 Rn. 48). Hier läge dann eine Vervielfältigung vor (§ 16 UrhG). Käme es im Anschluss zu einer Publikation des Textes, beispielsweise als Teil einer Internetseite, wäre dies erschwerend eine öffentliche Zugänglichmachung (§ 19a UrhG). Hat der Rechteinhaber kein Einverständnis gegeben, liegt folglich ein Urheberrechtsverstoß vor.
    3. Urheberschaft durch Nutzende
      Wenn die vorgenannten Fälle nicht vorliegen, können die Nutzenden durchaus auch selbst die Urheberschaft auf den Output eines KI-Dienstes beanspruchen. Davon ist auszugehen, wenn die Herstellung des Inputs originär durch die Nutzenden erfolgt ist und dabei eine hinreichende Schöpfungshöhe erreicht hat. In solchen Fällen ist bereits der Input als Werk im Sinne des § 2 (2) UrhG aufzufassen. Damit liegt auch das Urheberrecht am Output bei den Nutzenden, weil der Output lediglich eine technische Verarbeitung des Inputs darstellt. Pointiert formuliert: Wer schlau genug promptet, kann Urheberin bzw. Urheber des Outputs werden.
    2.1.4 Nutzung urheberrechtlich geschützten Materials innerhalb von PromptsDer Output kann deshalb ein Werk sein, weil bereits der Input urheberrechtlich geschützt war. Wird ein urheberrechtlich geschütztes Werk oder Teile daraus als Prompt in einen KI-Dienst eingegeben, handelt es sich um eine Vervielfältigung (§ 16 UrhG). Haben Nutzende kein entsprechendes Nutzungsrecht für das Werk erworben, kann diese Vervielfältigung eine Rechtsverletzung darstellen.
    2.1.5 "Stilkopien" durch KI-DiensteDerzeit existiert nur wenig Rechtsprechung zu dieser Frage. Gleichwohl lässt sich aus dem deutschen Urheberrecht eine Rechtsmeinung ableiten: Ein Stil ist nicht schutzfähig. Es spricht sehr viel dafür, dass es zulässig ist, mit einem KI-Dienst ein Werk zu erzeugen und zu veröffentlichen, das dem Stil existierender Künstlerinnen und Künstler oder Autorinnen und Autoren folgt.

  • 2.2 Datenschutz

    Datenschutz ist der Oberbegriff für die sog. informationelle Selbstbestimmung, also der Hoheit über eigene, personenbezogene Daten. Obwohl nicht ausdrücklich im Grundgesetz der Bundesrepublik Deutschland (in Form eines Datenschutzgrundrechts) erwähnt, hat es durch Rechtsprechung des Bundesverfassungsgerichtes (Volkszählungsurteil, Begründung C II 1. a)) quasi Grundrechtscharakter. In der Charta der Grundrechte der Europäischen Union findet es in Art. 8 seine Entsprechung.

    Das Datenschutzrecht ist in verschiedenen Rechtsnormen, vornehmlich der Verordnung (EU) 2016/679 zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten, kurz: DS-GVO (Langtext hier), dem BDSG (Langtext) und verschiedenen Landesgesetzen (DSG NRW) festgelegt und teilweise in hochschulbezogenen (HG NRW) und hochschuleigenen Regelungen ausdifferenziert. Grds. folgt es dem Prinzip des "Verbots mit Erlaubnisvorbehalt", so dass personenbezogene Daten einen recht hohen Schutz genießen, sofern nicht eine Rechtsgrundlage (meist gem. Art. 6 (1) DS-GVO) besteht.

    Die Themen KI-Systeme und Datenschutz haben verschiedene Berührungspunkte:

    2.2.1 Datenschutz für Nutzende der von der DMT-LB zur Verfügung gestellten DiensteBei der Bereitstellung der KI-Dienste wurde streng auf den Datenschutz der Benutzenden im Rahmen der Nutzung geachtet und eine Minimierung der bei Login übertragenen personenbezogenen Daten angestrebt. Die konkret übertragenen personenbezogenen Daten sind der Datenschutzerklärung für den Dienst zu entnehmen:
    DSE einsehen
    2.2.2 Personenbezogene Daten in PromptsPersonenbezogene Daten sind gemäß DS-GVO "alle Informationen, die sich auf eine identifizierte oder identifizierbare natürliche Person (…) beziehen" (Art. 4 DS-GVO). Eine Weitergabe personenbezogener Daten Dritter und damit auch deren Übertragung an einen KI-Dienst ist ohne Zustimmung der betroffenen Personen regelmäßig nicht zulässig (Art. 5 (1) lit. a DS-GVO).

    In eine solche Datenübertragung müsste die betroffene Person gemäß Art. 6 (1) lit. a DS-GVO einwilligen. An diese Einwilligung sind jedoch strenge Anforderungen gestellt, von deren Erfüllung nicht ausgegangen werden kann. Benutzende dürfen also die KI-Dienste nicht dazu nutzen, um persönliche Daten Dritter zu verarbeiten.

    Beispiele unzulässiger Nutzung wären die KI-gestützte Auswertung von Testergebnissen durch Lehrende der THGA, bei der der KI-Dienst Zugriff auf Daten erhält, in denen auch personenbezogene Daten, z.B. Namen oder Matrikelnummern der Studierenden enthalten sind, oder auch die Unterstützung der Korrektur einer Prüfung durch KI-Dienste, bei der etwa eine komplette Klausur samt darauf abgedrucktem Namen als PDF von einem KI-Dienst verarbeitet wird.
    2.2.3 Hochschule: Einsatz in LehrkontextenGenerell darf von Studierenden nicht verlangt werden, für eine Lehrveranstaltung - ebenso wenig wie für eine Prüfung - anmeldepflichtige Dienste zu verwenden, die nicht von der Hochschule angeboten werden. Aus diesem Grund stellt die Hochschule generative KI-Dienste bereit, die von den Mitgliedern der Hochschule rechtskonform genutzt werden können. Die Hochschule hat dabei auf eine möglichst vollständige Eliminierung personenbezogener Daten bei Login und Nutzung geachtet. Eine genaue Aufstellung der übertragenen Daten liefert die Datenschutzerklärung:
    DSE einsehen

    Im Verlaufe der Nutzung eines KI-Dienstes übertragen Studierende notwendigerweise Daten an den Dienst. Zu diesen Daten gehören die Prompts der Nutzenden und weitere Aktivitätsdaten. Findet eine Verwendung innerhalb von Lehrveranstaltungen statt, ist die Nutzung der jeweiligen Dienste und damit auch die Übertragung von Daten für die Studierenden nicht länger freiwillig, sondern verbindlich und kann durch diese nicht vermieden werden. Es gelten deshalb besondere Schutzbedingungen für den rechtskonformen Einsatz, die in den Abschnitten "Datenschutz" und "Persönlichkeitsrechte" erläutert werden.

  • 2.3 Persönlichkeitsrechte

    Der Bereich der Persönlichkeitsrechte ist eng mit dem Datenschutz verwand, umfasst aber teilweise andere Kategorien von Daten (z.B. das Recht am eigenen Bild) und ist die Grundlage für den Bereich der besonders schützenswerten Daten. Während personenbezogene Daten definiert sind als

    alle Informationen, die sich auf eine identifizierte oder identifizierbare natürliche Person beziehen; als identifizierbar wird eine natürliche Person angesehen, die direkt oder indirekt, insbesondere mittels Zuordnung zu einer Kennung wie einem Namen, zu einer Kennnummer, zu Standortdaten, zu einer Online-Kennung oder zu einem oder mehreren besonderen Merkmalen, die Ausdruck der physischen, physiologischen, genetischen, psychischen, wirtschaftlichen, kulturellen oder sozialen Identität dieser natürlichen Person sind, identifiziert werden kann,Art. 4 Nr. 1 DS-GVO

    umfassen besondere personenbezogener Daten

    Daten, aus denen die rassische und ethnische Herkunft, politische Meinungen, religiöse oder weltanschauliche Überzeugungen oder die Gewerkschaftszugehörigkeit hervorgehen, sowie [...] genetische Daten [und] biometrische Daten zur eindeutigen Identifizierung einer natürlichen Person, Gesundheitsdaten oder Daten zum Sexualleben oder der sexuellen Orientierung einer natürlichen Person.Art. 9 (1) DS-GVO

    Die Themen KI-Systeme und Persönlichkeitsrecht haben verschiedene Berührungspunkte:

    2.3.1 Eingabe von Bildern, Videos, Audiomaterial oder sensiblen Daten von Dritten in einen KI-DienstDas Hochladen von Personenfotos, Videos, Audioaufzeichnungen oder die Eingabe sensibler Daten oder Informationen über Personen mit ausführlichen biografischen Angaben, die nicht ohnehin schon rechtmäßig öffentlich verfügbar gemacht sind, ist ohne Einwilligung der betroffenen Personen unzulässig.
    Hier können vielfältige Rechte berührt sein, u.a. das "Recht am eigenen Bild" (gem. § 22 KunstUrhG) die Vertraulichkeit des (nichtöffentlich gesprochenen) Wortes (vgl. § 201 StGB) oder o.g. Datenschutzrechte gem. Art. 4 Nr. 1 oder Art. 9 (1) DS-GVO.
    2.3.2 Generierung von Imitationen und "Deepfakes" mittels der KI-DiensteKI-Dienste dürfen nicht dazu genutzt werden, undeklarierte Fälschungen anzufertigen. Zudem dürfen KI-Dienste nicht zur Nachahmung anderer Menschen oder ihrer Merkmale wie etwa der Stimme oder biometrischer Daten verwendet werden.

    Zwar können KI-Dienste technisch dazu verwendet werden, existierende Personen in (Bewegt-) Bild oder ihre Merkmale (z.B. die Stimme oder eine Unterschrift) zu imitieren und man könnte die sog. Kunstfreiheit gem. Art. 5 (3) Satz 1 GG bemühen, allerdings kann die Erstellung absichtlicher Imitationen viele Tatbestände des Zivil- und Strafrechts erfüllen, z.B. "falsche Verdächtigung" gem. § 164 StBG, Urkundenfälschung gem. § 267 StGB, Fälschung technischer Aufzeichnungen gem. §268 StGB u.v.m.

    Imitationen und sog. Deepfakes unterliegen also mind. einer Kennzeichnungspflicht. Die Kennzeichnung als KI-Erzeugnis muss auffällig und so mit dem Endprodukt verbunden sein, dass es sich von Kopien nicht einfach entfernen lässt.
    2.3.3 Diskriminierung und Ungleichbehandlung durch den Einsatz von KI-Diensten allgemeinBereits durch das Allgemeine Gleichbehandlungsgesetz (AGG, Langtext hier) sollen Benachteiligungen aus Gründen der Rasse oder wegen der ethnischen Herkunft, des Geschlechts, der Religion oder Weltanschauung, einer Behinderung, des Alters oder der sexuellen Identität verhindert oder beseitigt werden. Da die Arbeitsweise der Algorithmen eines KI-Dienstes nicht transparent nachvollziehbar sind und über bereits einseitig verzerrte, diskriminierende Trainingsdaten der gesamte Trainingsprozess des KI-Dienstes dahingehend verzerrt sein kann, können auch die Ausgaben der Dienste entsprechend verzerrt und diskriminierend sein.

    Grundsätzlich gilt: Es sollten KI-basiert keine personen-(gruppen-)bezogene Beurteilungen und Bewertungen erstellt werden, ohne diese persönlich auf entsprechende Verzerrungen (sog. Biases) zu prüfen. Es dürfen keine personenbezogenen, automatisierten Entscheidungen im Einzelfall erfolgen, ohne dass die endgültige Entscheidung nicht einem Menschen obliegt.
    2.3.3 Diskriminierung und Ungleichbehandlung durch den Einsatz von KI-Diensten an HochschulenFür Hochschulen gilt darüber hinaus ein hoher Anspruch an die Gleichbehandlung aller Studierenden. Die Verpflichtung zur gleichwertigen und gerechten Behandlung ergibt sich zunächst aus Art. 3 (2) GG ("Entfaltung der Persönlichkeit") in Verb. mit Art. 12 (1) GG ("Berufsfreiheit") und Art. 19 GG ("Rechtsweggarantie"), darüber hinaus aus dem Allgemeinen Gleichbehandlungsgesetz (AGG), dem Hochschulrahmengesetz (HRG) und dem Gesetz über die Hochschulen des Landes Nordrhein-Westfalen (HG NRW). Daraus lassen sich zwei Bedingungen ableiten, für deren rechtskonforme Einhaltung sowohl die Hochschule als auch die Lehrenden Sorge tragen müssen:

    Berücksichtigung von Vorkenntnissen: Das Niveau der Vorerfahrungen mit KI-Diensten kann stark mit dem soziodemografischen Hintergrund von Studierenden variieren. Es muss sichergestellt sein, dass die Bedienkompetenz bei allen Studierenden in einem hinreichenden Bereich liegt, um nicht gerade durch den Einsatz von KI-Diensten bestehende Ungleichheiten noch weiter zu verstärken.

    Unbeschränkter Zugang für alle: Im Internet angebotene KI-Diensten sind in vielen Fällen nicht für alle Nutzenden gleichermaßen zugänglich. Es können zum Beispiel Nutzungsgebühren erhoben werden sowie regionale Schranken oder eine Warteliste existieren, die den Zugang zu den Diensten einschränken. Ein solchermaßen begrenzter oder sogar sozio-ökonomisch präferentieller Zugang führt dazu, dass ein KI-Dienst nicht immer für alle Studierenden in gleicher Weise zugänglich ist, was Bildungsungleichheiten vertiefen kann. Im Sinne der Bildungsgerechtigkeit sind daher die von der Trägergesellschaft zur Verfügung gestellten KI-Dienste zu verwenden. Eine Nutzung externer Werkzeuge mit abweichendem Funktionsumfang ist zu vermeiden.

  • 2.4 Arbeits-/Dienstrecht

    Nicht zuletzt stellen sich Fragen aus dem Bereich des Arbeitsrechts und Dienstrechts beim Einsatz von KI-Diensten:

    2.4.1 Zulässigkeit der Nutzung von KI-Diensten für dienstliche TätigkeitenGrundsätzlich spricht nichts dagegen, KI-Dienste zur Erledigung von Dienstaufgaben zu verwenden, wenn sorgfältig auf die Einhaltung des Urheberrechts, des Datenschutzes, der Persönlichkeitsrechte und weiterer Vorgaben wie etwa Bestimmungen zur Vertraulichkeit sowie auf die sachrichtige Prüfung jeden Outputs geachtet wird. Je nach Betriebseinheit kommen weitere Bestimmungen hinzu (z.B. hochschuleigene Regelungen, prüfungsrechtliche Vorgaben).

    Sobald arbeitsrechtliche Entscheidungen (z.B. im Personalwesen) mithilfe von KI-Diensten getroffen werden sollen, darf es nicht zu einer ausschließlich automatisierten Entscheidung im Einzelfall (gem. Art. 22 (1) DS-GVO) kommen. Diese ist unzulässig, wenn sie gegenüber der betroffenen Person rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt. Deshalb darf eine Entscheidungsfindung zwar durch KI-Dienste unterstützt werden, aber die Letztentscheidungskompetenz muss bei einer natürlichen Person liegen.
    2.4.2 Verpflichtende Nutzung von KI-Diensten für dienstliche TätigkeitenDie Nutzung von KI-Diensten kann dienstlich veranlasst werden. Eine entsprechende Anordnung kann durch weisungsbefugte Personen erfolgen. Den Mitarbeitenden ist allerdings im Vorfeld im Rahmen ihrer Dienstzeit die Gelegenheit für Fort- und Weiterbildung im Bereich der genutzten KI-Dienste zu geben.

    Eine Ausnahme besteht u.a. für die Hochschullehre. Die sog. "Freiheit der Lehre" umfasst auch die inhaltlich und methodisch frei zu gestaltende Lehre an Hochschulen und leitet sich aus Art. 5 (3) GG ab.
    2.4.3 Besondere Regeln für Unternehmensdaten und -internaViele Mitarbeitenden- und Studierendendaten berühren die Rechtsbereiche des Datenschutzes und der Persönlichkeitsrechte. Darüber hinaus sind weitere Regelungen zu beachten, z.B. Sperrvermerke für Forschungsdaten, Lizenzbedingungen eigener Veröffentlichungen (wenn bereits ein entspr. Vertrag besteht), Vertraulichkeit von Haushalts- und Finanzdaten, von nicht-öffentlichen Ausschreibungsdetails, Angebotsabgaben, Selbstauskünften oder Geschäftsberichten.
    Bevor Daten aus entsprechend geschützten Bereichen in einen KI-Dienst eingegeben werden, ist eine sorgfältige Prüfung notwendig.
    2.4.4 Vorsichtsmaßnahmen bei der Nutzung von KI-Diensten für dienstliche Tätigkeiten
    Grundsätzlich sind die Nutzenden zur gebotenen Umsicht und Sorgfalt bei der Nutzung KI-generierter Inhalte angehalten. Rechtlich bindende Vorschriften existieren mit Ausnahme der KI-Verordnung derzeit noch nicht, soweit nicht aus anderen Rechtsbereichen (Datenschutz, Arbeitsrecht, Prüfungsrecht, u. m.) entsprechende Regelungen abgeleitet werden können.

    Für das Deutsche Bergbau-Museum und die Technische Hochschule Georg Agricola bieten
    weitere Hinweise.

  • 3. Beispiele für unzulässige Nutzung

    Sie kopieren urheberrechtlich geschützte Werke wie z.B. Fotografien oder Zeitungsartikel als Input in einen KI-Dienst ein. Diese Verwendung ist nicht zulässig, solange keine Zustimmung der Rechteinhaber vorliegt.

    Sie verwenden personenbezogene oder besonders sensible personenbezogene Daten Dritter als Teil eines Inputs wie z.B. den Klarnamen, die E-Mail-Adresse, ethnische Herkunft, biometrische oder medizinische Daten. Diese Verwendung ist nicht zulässig. Personenbezogene Daten sind zu anonymisieren.

    Sie kopieren Bewerbungsunterlagen, persönliche Anschreiben, Lebensläufe oder andere sensible Unterlagen dritter Personen in nicht-anonymisierter Form als Teil eines Inputs in den KI-Dienst ein. Diese Verwendung ist nicht zulässig.

    Sie kopieren nicht-öffentliche Schriftstücke wie z.B. Angebotsabgaben, Selbstauskünfte oder Geschäftsberichte als Input in einen KI-Dienst ein. Diese Verwendung ist ohne Zustimmung der Betroffenen nicht zulässig.

    Sie kopieren Prüfungsleistungen von Studierenden oder Auszubildenden wie z.B. schriftliche Klausurlösungen oder Zeichnungen als Input in einen KI-Dienst ein, um Sie bei der Korrektur zu unterstützen. Diese Verwendung ist nicht zulässig.

    Sie verwenden vertrauliche Materialien wie Gremienprotokolle aus geschlossenen Sitzungen, nicht-öffentliche Forschungsergebnisse oder Verschlusssachen als Teil eines Inputs. Diese Verwendung ist nicht zulässig.

    Sie führen eine automatische Bewertung von Unterlagen mithilfe von KI-Diensten durch, die beeinträchtigende Wirkungen für die betroffenen Personen entfaltet und bei der Sie das Ergebnis aus dem KI-Dienst ohne umfassende menschliche Bewertung übernehmen. Diese Verwendung ist nicht zulässig.

    Die Liste enthält nur Beispiele und ist natürlich nicht abschließend.

  • 4. Checkliste zur Nutzung der KI-Dienste

    Vor der Nutzung
    • Ich habe die Nutzungsbedingungen und die oben stehende Informationen gelesen und verstanden.

    Während der Nutzung
    • Ich prüfe alle Eingaben in die KI-Dienste auf die Urheberrechte Dritter. Wenn fremde Urheberrechte berührt sind, stelle ich die rechtmäßige Verwendung sicher.
    • Ich gebe keine personenbezogenen Daten (z.B. Name, Kontaktdaten, Foto-, Videoaufnahmen) und keine besonders schützenswerte Daten (z.B. ethnische Herkunft, Religionszugehörigkeit, Gesundheitsdaten) in die KI-Dienste ein.
    • Ich gebe keine vertraulichen (Unternehmens-) Daten (z.B. Vertragsinhalte, Bewerbungsdaten, mit Sperrklausel versehene Forschungsdaten) in die KI-Dienste ein.
    • Für den Fall, dass in den geplanten Eingaben personenbezogene, besonders schützenswerte oder vertrauliche Daten enthalten sind, habe ich diese in ausreichender Weise anonymisiert und unkenntlich gemacht. Wenn das nicht möglich ist, gebe ich diese Daten nicht in den KI-Dienst ein.
    • Wenn ich KI-Dienste für die Unterstützung bei Entscheidungen und Bewertungen nutze, dokumentiere ich nachvollziehbar und transparent, dass die Entscheidung und Beurteilung primär auf einem menschlichen Urteil basiert und es sich um keine automatisierte Entscheidung im Einzelfall handelt.
    • Ich berücksichtige bei der Nutzung geltende vertragliche Vereinbarungen, gesetzliche Bestimmungen und unternehmensseitige Richtlinien nach bestem Wissen und Gewissen.

    Nach der Nutzung
    • Ich nehme auf Basis der Antworten des KI-Dienstes keine automatisierte Entscheidung gem. Art. 22 (1) DS-GVO vor, die gegenüber der betroffenen Person rechtliche Wirkung entfalten oder sie in ähnlicher Weise erheblich beeinträchtigen, etwa im Fall von arbeits- und personalrechtlichen Entscheidungen.
    • Wenn ich den Output des KI-Dienstes verbreiten oder veröffentlichen möchte, habe ich diesen auf urheberrechtlich geschützte Inhalte geprüft, die z.B. entstehen können, wenn die KI zufällige Ähnlichkeiten zu bestehenden Werken produziert.
    • Wenn ich den Output des KI-Diensts im Rahmen meiner Tätigkeit an der Technischen Hochschule Georg Agricola oder des Deutschen Bergbau-Museums verbreiten oder veröffentlichen möchte, habe ich ihn nach wissenschaftlichen Grundsätzen geprüft, u.a. auf fachliche Richtigkeit.