2. Rechtliche Bedingungen
Abschnittsübersicht
-
Der Einsatz von KI-Diensten betrifft viele Rechtsbereiche, u.a. den Datenschutz und die Persönlichkeitsrechte, das Urheberrecht und das Arbeitsrecht. Wir haben im Folgenden die wichtigsten Informationen zusammengefasst. Denn die Verordnung (EU) 2024/1689 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz - kurz: KI-VO, Langtext hier - sieht vor, dass die Anbieter und Betreiber von KI-Systemen Maßnahmen ergreifen, ...
"... um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen, wobei ihre technischen Kenntnisse, ihre Erfahrung, ihre Ausbildung und Schulung und der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, zu berücksichtigen sind."Art. 4 KI-VO
KI-Kompetenz meint in diesem Zusammenhang ...
"... die Fähigkeiten, die Kenntnisse und das Verständnis, die es Anbietern, Betreibern und Betroffenen unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung ermöglichen, KI-Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden.Art. 3 Nr. 56 KI-VO
Weitere Hinweise findet man im Erwägungsgrund EG 20 KI-VO, für Bildungsinstitutionen außerdem im EG 56 KI-VO.
Grundsätzlich nimmt die KI-VO eine gewisse Abstufung von KI-Systemen bzgl. ihrer Gefährlichkeit und Risiken vor; die unter der URL https://42.thga.de angebotenen Dienste fallen in die Kategorie der Systeme mit begrenztem oder niedrigem Risiko. Die unterschiedlichen Risikoniveaus verdeutlichen die folgenden Beispiele.
Risikokategorien von KI-Systemen
Verbotene Praktiken nach Art. 5 KI-VO, z.B.- Einsatz unterschwelliger manipulativer Techniken zur Verhaltensbeeinflussung, zur gezielten Ausnutzung persönlicher Vulnerabilitäten (Alter, Behinderung, soziale oder wirtschaftliche Situation)
- Systeme zur sozialen Bewertung, die soziale Benachteiligung oder diskriminierende Auswirkungen haben
- Systeme zur Vorhersage des Risikos zukünftiger Straftaten auf Grundlage von Profiling
- Systeme zur Emotionserkennung am Arbeitsplatz oder in Bildungseinrichtungen
Hochrisiko-KI nach Art. 6 in Verb. mit Anhang III KI-VO, z.B.- KI-basierte Bauteile kritischer Infrastruktur
- (teil-) autonome Entscheidungs- und Bewertungssysteme über Bildungszugang und -verlauf und zur Verhaltensanalyse von Bildungs- und Prüfungsteilnehmenden
- (teil-) autonome Einstellungs- und Beurteilungssysteme im Personalmanagement (Bewerbungsbeurteilung, Beförderung, Kündigung, Zuweisung von Aufgaben, Leistungsbeobachtung und -bewertung)
- KI in grundlegenden Dienstleistungsprozessen bzgl. sozialer Unterstützungsleistungen, Gesundheitsdiensten, Kreditwürdigkeitsprüfung und Bonitätsbewertung, versicherungsbezogener Risikobewertung, Klassifizierung und Priorisierung von Notrufen
- Systeme zur Beurteilung von Straftatrisiken, zur Lügendetektion, zur Beurteilung von Beweismitteln, zur vorhersagenden Polizeiarbeit (predictive policing), zur Risikobewertung bzgl. irregulärer Einwanderung, zur Prüfung von Migrationsgründen, Asyl- und Visumsanträgen
- Systeme mit Bezug zu demokratischen Prozessen, z.B. zur Auslegung von Rechtsvorschriften und Anwendung des Rechts, zur Beeinflussung von Wahlverhalten oder zur Organisation politischer Kampagnen
KI mit begrenztem Risiko (grds. erlaubt) mit Transparenz- bzw. Kennzeichnungspflichten nach Art. 50 KI-VO, z.B.
- KI-Systeme, mit denen natürlichen Personen direkt interagieren (z.B. Chatbots)
- KI-Systeme zur Erzeugung synthetischer Audio-, Bild-, Video- oder Textinhalte
- KI-Systeme zur gezielten Emotionserkennung oder zur biometrischen Kategorisierung, die nicht am Arbeitsplatz oder in Bildungsprozessen eingesetz wird (=verboten) und nicht ungezielt eingesetzt werden (= Hochrisiko-KI)
Die Nutzung der von der DMT-LB zur Verfügung gestellten Dienste erfolgt unter Kenntnis der folgenden Hinweise: