Betreiberpflichten für KI-Systeme bereits ab 02.02.2025

Seit dem 01.08.2024 ist die Artificial Intelligence Act, AI-Act, deutsch Verordnung über Künstliche Intelligenz, die KI-VO,  gemäß Art. 113 in Kraft. Folglich wird das neue Gesetz am 02.08.2026, also 24 Monate nach seinem Inkrafttreten, in den Nationalstaaten vollumfänglich anwendbar.
Die KI-VO sieht drei besondere Übergangsfristen für bestimmte Kategorien von Artikeln vor:

• Sechs Monate nach dem Inkrafttreten der KI-VO, also am 02.02.2025) werden Kapitel I (Artikel 1 - 4 [Einleitung]) und Kapitel II (Artikel 5 [Verbote]) gelten.
• Zwölf Monate nach dem Inkrafttreten der KI-VO, also am 02.08.2025, gelten Kapitel III (Artikel 28 - 39 [Benannte Stellen]), Kapitel V (Artikel 51 - 56 [GPAI]), Kapitel VII (Artikel 64 - 70 [Verwaltung]), Artikel 78 [Vertraulichkeit] und Artikel 99 - 100 [Sanktionen].
• Sechsunddreißig Monate nach dem Inkrafttreten der KI-VO, also am 02.08.2027) gelten Artikel 6 Absatz 1, Anhang I und die entsprechenden Verpflichtungen.

Art. 1 definiert den Regelungsgegenstand, Art. 2 den Anwendungsbereich und Art. 3 Begriffsbestimmungen. Art. 4  regelt die KI-Kompetenz und Art. 5 Verbotene Praktiken im KI-Bereich.
Damit müssen Betreiber (vgl. Art. 3 Nr. 3 KI-VO) bereits ab 02.02.2025 ihre Mitarbeiter – sowohl auf der Leitungs- als auch auf der Anwenderebene - in KI-Kompetenz schulen. Hierzu bedarf es im Hinblick auf die Legaldefinition der KI-Kompetenz in Art. 3 Nr. 56 KI-VO ausgereifter Schulungskonzepte.
Damit müssten eigentlich Gesundheitseinrichtungen bis zum 2. Februar 2025

• eine Bestandsaufnahme ihrer KI-Systeme durchgeführt haben,
• verbotene Praktiken identifiziert und ggf. eingestellt haben und
• über ein angemessenes Schulungskonzept verfügen, welches sie ab Februar 2025 auch umsetzen können,

ansonsten sind sie nicht gut aufgestellt.
In Artikel 3 Nr. 1 KI-VO ist der Begriff KI-System definiert. Die Definition von KI orientiert sich an der Definition der Organisation für wirtschaftliche Zusammenarbeit und Entwicklung (OECD).  Das EU-Parlament hat sich im Gesetzgebungsverfahren darauf geeinigt.  
Zum Verständnis wird zunächst auf die umfangreichen Erwägungsgründen Nr. 12 der KI-VO  verwiesen.
Bewertet werden müssen mehrere einzelne Merkmale der Legaldefinition in Artikel 3 Nr. 1 KI-VO, nämlich:

• Maschinengestützt ist selbsterklärend und bedeutet, dass das KI-System von Maschinen betrieben werden muss. Gemeint wird vorrangig eine Computerumgebung, auf die entweder direkt oder per Fernzugriff zugegriffen werden kann.
• Unterschiedlicher Grad an Autonomie bedeutet, dass bestimmte Aufgaben ohne Überwachung oder Voreinstellung von Menschen bewältigt wird oder werden kann.
• Anpassungsfähigkeit nach seiner Einführung bedeutet die Fähigkeit, Ergebnisse zu produzieren, die über die einfache Datenverarbeitung hinaus gehen und eigene, auf entsprechendes Training zurückzuführende Lern-, Schlussfolgerungs- und Modellierungsprozesse ermöglicht.
• Die Fähigkeit, Ableitungen zu treffen, bedeutet, dass das System eigenständige Schlussfolgerungen aus analysierten Datenmengen ziehen kann, um Vorhersagen zu treffen, Entscheidungen zu fällen oder Handlungsempfehlungen zu geben.
• Die Ableitungen müssen sich dabei auf die im Rahmen des Inputs vorgegebenen Ziele der Verwender des Systems beziehen und
• die Ausgabe muss derart erfolgen, dass sie Auswirkungen auf die digitale oder reelle Welt haben kann, wie z.B. als Output als Text, Bild, Video, Audio etc.

In den meisten Fällen wird die eingesetzte KI als ein KI-System zu werten sein.
Ab dem 2. August 2026 gelten dann bis auf eine Ausnahme die weiteren Regelungen der KI-VO. Um sich auf diesen Zeitpunkt vorzubereiten, ist es sinnvoll mit der Bestandsaufnahme der eingesetzten Systeme auch eine Einstufung der genutzten oder geplanten KI-Systeme vorzunehmen.
Die KI-VO kennt verschiedene Arten von KI und regelt je nach Einstufung teilweise sehr unterschiedliche Pflichten:

• KI-Systeme
• Hochrisiko-KI-Systeme
• Spezielle KI-Systeme (bestimmte KI-Systeme)

Zudem nennt die KI-VO daneben noch

• KI-Modelle mit allgemeinem Verwendungszweck
• KI-Modelle mit allgemeinem Verwendungszweck mit systemischem Risiko

Je nachdem, ob eine Gesundheitseinrichtung

• Anbieter oder
• Betreiber

ist.
Schon daraus wird ersichtlich, dass es sich um eine Materie handelt, deren Aufarbeitung einige Zeit in Anspruch nimmt.

Diese Nachricht stammt aus dem Healthcare & Hospital Law Newsletter. Abonnieren Sie hier kostenlos und verpassen Sie keine wichtigen News aus der Branche!

¹ Im Internet verfügbar unter Verordnung - EU - 2024/1689 - EN - EUR-Lex.

² Im Internet am 11.01.2025 aufgerufen unter KI-Gesetz: Parlament einigt sich auf OECD-Definition – Euractiv DE.

³ Schreiber / Dimov, Anbieter oder Betreiber? Die Schlüsselrollen im AI Act entschlüsselt, im Internet am 11.01.2025 aufgerufen unter Anbieter oder Betreiber? Die Schlüsselrollen im AI Act entschlüsselt | HÄRTING Rechtsanwälte.