KI in Transportsystemen: Pflichten für Unternehmen durch die geplante KI-Verordnung

Die Gesetzgebung im Bereich künstlicher Intelligenz (KI) hat in der Europäischen Union bedeutende Fortschritte gemacht. Nach einer politischen Einigung vom 09. Dezember wartet die Welt gespannt auf den finalen Entwurf. Bereits jetzt zeichnet sich ab, dass der Rechtsakt für die Nutzung von KI in Transportsystemen mit umfangreiche Regularien verbunden sein wird.

Gesetzgebungsverfahren der KI-Verordnung

Im April 2021 präsentierte die Europäische Kommission ihr wegweisendes KI-Paket, einschließlich der “Verordnung zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz“. Nach der Einigung des Europäischen Parlaments am 14. Juni 2023 über eine gemeinsame Position zur KI-Regulierung befindet sich der Verordnungsentwurf nun im Trilog zwischen Parlament, EU-Ministerrat und EU-Kommission). Die Trilog-Verhandlungen wurden jüngst durch umfangreiche Änderungsvorschläge von Deutschland, Frankreich und Italien verzögert und drohten zu scheitern. Vor dem Hintergrund der im Juni 2024 anstehenden Neuwahlen des Europäischen Parlaments sollte die KI-Verordnung ursprünglich noch in diesem Jahr verabschiedet werden. Nach dreitägigen Marathonverhandlungen erzielten der Ratsvorsitz und die Verhandlungsführer des Europäischen Parlaments schließlich am 09. Dezember 2023 eine vorläufige Einigung über die vorgeschlagenen harmonisierten Vorschriften für künstliche Intelligenz – das sogenannte KI-Gesetz. Aktuell ist noch keine schriftliche Fassung des überarbeiteten Entwurfs verfügbar, sodass die konkreten Änderungen an dem Parlamentsentwurf noch unklar sind.

Künstliche Intelligenz in Transportsystemen: hochriskant?

Der geplanten Verordnung liegt ein risikobasierter Ansatz zugrunde: Herzstück sind die umfangreichen Pflichten für KI-Systeme, denen ein hohes Risiko zugeschrieben wird. Sofern KI-Systeme, die im Transportwesen und dort verwendeten Systemen – etwa in  Fahrzeugen oder in der Luftfahrt – verwendet werden, als Hochrisiko-KI eingestuft werden, unterlägen sie diesen besonderen Pflichten.

Als Hochrisiko-KI gelten zunächst im Hinblick auf das Inverkehrbringen oder Inbetriebnehmen Systeme und Produkte, die unter Harmonisierungsvorschriften der EU aus Anhang II fallen oder die als Sicherheitskomponente für ein solches System/Produkt verwendet werden sollen und nach den Harmonisierungsvorschriften aus Anhang II einer Konformitätsbewertung im Hinblick auf Gesundheit und Sicherheit durch Dritte vor dem Inverkehrbringen oder Inbetriebnehmen unterzogen werden müssen (Art. 6 Abs. 1 KI-VO-E). Unter die Produktsicherheitsvorschriften der EU fallen insbesondere Kraftfahrzeuge sowie Systeme/Produkte aus dem Bereich der zivilen Luftfahrt. Sicherheitskomponenten in Sinne des Art. 6 Abs. 1 KI-VO-E sind KI-Systeme, die entweder eine Sicherheitsfunktion für ein Produkt erfüllen oder deren Ausfall/Störung die Gesundheit und die Sicherheit von Personen gefährden (Art. 3 Nr. 14 KI-VO-E). Somit würden insbesondere Systeme zur autonomen Steuerung als Hochrisiko-KI eingestuft. Denn ihr Ausfall oder eine Störung können im Straßen- oder Luftverkehr zu Sicherheitsrisiken für Verkehrsbeteiligte und auch unbeteiligte Dritte führen.

Des Weiteren gehören KI-Systeme, die in „kritische Bereiche“ nach Anhang III fallen und ein erhebliches Risiko für die Gesundheit, die Sicherheit oder die Grundrechte von natürlichen Personen darstellen (Art. 6 Abs. 2 KI-VO-E) zum definierten Hochrisikobereich. Sechs Monate vor Inkrafttreten der Verordnung soll die Kommission Leitlinien vorschlagen, die konkret festlegen, unter welchen Umständen die Ergebnisse von KI-Systemen aus kritischen Bereichen ein erhebliches Risiko für die Gesundheit, die Sicherheit oder die Grundrechte natürlicher Personen darstellen. Im Anhang III, 2 werden bereits die Bereiche des Straßen- und Luftverkehrs und KI-Systeme, die im Straßen- oder Luftverkehr als Sicherheitskomponenten eingesetzt werden, als Hochrisiko-KI aufgeführt, so ist mit einer finalen Einstufung zu rechnen.

Umfangreiche Pflichten für Hochrisiko-KI

Sofern sie als Hochrisiko-KI eingestuft werden, unterliegen KI-Systeme, die im Bereich des Straßenverkehrs, der Luftfahrt und insbesondere der autonomen Steuerung als Sicherheitskomponenten eingesetzt werden, strengen Vorschriften. Etwa der Pflicht, bei Konzeption und Entwicklung der Hochrisiko-Systeme eine geeignete menschliche Aufsicht zu gewährleisten (Art. 14 KI-VO-E), eine automatische Aufzeichnung von Vorgängen und Ereignissen während des Betriebs der KI technisch zu integrieren (Art. 12 KI-VO-E) oder den umfangreichen Voraussetzungen an die Qualität der Daten, mit denen die Systeme trainiert werden (Art. 10 KI-VO-E).

Die konkrete Ausgestaltung der Pflichten gemäß der KI-Verordnung wird sich erst aus den genauen Formulierungen des überarbeiteten Entwurfs nach der Einigung im Trilog ergeben. Unternehmen in der Transportsystembranche, insbesondere im Straßenverkehr, der Luftfahrt und der autonomen Steuerung, sollten sich jedoch darauf einstellen, dass bei Verwendung von KI-Systemen im Hochrisikobereich umfassende Verpflichtungen auf sie zukommen werden. Es ist daher ratsam, sich frühzeitig mit dem Pflichtenkatalog der Verordnung vertraut zu machen, um den neuen Anforderungen gerecht zu werden.

Ihr Experte für Luft- und Weltraumrecht

Dr. Oliver Heinrich, Gründungspartner und Rechtsanwalt
Telefon: +49 221 / 270 956 – 200, E-Mail: oliver.heinrich@bho-legal.com