Die Gesetzgebung im Bereich k\u00fcnstlicher Intelligenz (KI) hat in der Europ\u00e4ischen Union bedeutende Fortschritte gemacht. Nach einer politischen Einigung vom 09. Dezember wartet die Welt gespannt auf den finalen Entwurf. Bereits jetzt zeichnet sich ab, dass der Rechtsakt f\u00fcr die Nutzung von KI in Transportsystemen mit umfangreiche Regularien verbunden sein wird.<\/p>\n
Gesetzgebungsverfahren der KI-Verordnung<\/strong><\/p>\n Im April 2021 pr\u00e4sentierte die Europ\u00e4ische Kommission ihr wegweisendes KI-Paket, einschlie\u00dflich der \u201cVerordnung zur Festlegung harmonisierter Vorschriften f\u00fcr k\u00fcnstliche Intelligenz\u201c. Nach der Einigung des Europ\u00e4ischen Parlaments am 14. Juni 2023 \u00fcber eine gemeinsame Position zur KI-Regulierung befindet sich der Verordnungsentwurf nun im Trilog zwischen Parlament, EU-Ministerrat und EU-Kommission). Die Trilog-Verhandlungen wurden j\u00fcngst durch umfangreiche \u00c4nderungsvorschl\u00e4ge von Deutschland, Frankreich und Italien verz\u00f6gert und drohten zu scheitern. Vor dem Hintergrund der im Juni 2024 anstehenden Neuwahlen des Europ\u00e4ischen Parlaments sollte die KI-Verordnung urspr\u00fcnglich noch in diesem Jahr verabschiedet werden. Nach dreit\u00e4gigen Marathonverhandlungen erzielten der Ratsvorsitz und die Verhandlungsf\u00fchrer des Europ\u00e4ischen Parlaments schlie\u00dflich am 09. Dezember 2023 eine vorl\u00e4ufige Einigung \u00fcber die vorgeschlagenen harmonisierten Vorschriften f\u00fcr k\u00fcnstliche Intelligenz \u2013 das sogenannte KI-Gesetz. Aktuell ist noch keine schriftliche Fassung des \u00fcberarbeiteten Entwurfs verf\u00fcgbar, sodass die konkreten \u00c4nderungen an dem Parlamentsentwurf noch unklar sind.<\/p>\n K\u00fcnstliche Intelligenz in Transportsystemen: hochriskant?<\/strong><\/p>\n Der geplanten Verordnung liegt ein risikobasierter Ansatz zugrunde: Herzst\u00fcck sind die umfangreichen Pflichten f\u00fcr KI-Systeme, denen ein hohes Risiko zugeschrieben wird. Sofern KI-Systeme, die im Transportwesen und dort verwendeten Systemen – etwa in \u00a0Fahrzeugen oder in der Luftfahrt – verwendet werden, als Hochrisiko-KI eingestuft werden, unterl\u00e4gen sie diesen besonderen Pflichten.<\/p>\n Als Hochrisiko-KI gelten zun\u00e4chst im Hinblick auf das Inverkehrbringen oder Inbetriebnehmen Systeme und Produkte, die unter Harmonisierungsvorschriften der EU aus Anhang II fallen oder die als Sicherheitskomponente f\u00fcr ein solches System\/Produkt verwendet werden sollen und nach den Harmonisierungsvorschriften aus Anhang II einer Konformit\u00e4tsbewertung im Hinblick auf Gesundheit und Sicherheit durch Dritte vor dem Inverkehrbringen oder Inbetriebnehmen unterzogen werden m\u00fcssen (Art. 6 Abs. 1 KI-VO-E). Unter die Produktsicherheitsvorschriften der EU fallen insbesondere Kraftfahrzeuge sowie Systeme\/Produkte aus dem Bereich der zivilen Luftfahrt. Sicherheitskomponenten in Sinne des Art. 6 Abs. 1 KI-VO-E sind KI-Systeme, die entweder eine Sicherheitsfunktion f\u00fcr ein Produkt erf\u00fcllen oder deren Ausfall\/St\u00f6rung die Gesundheit und die Sicherheit von Personen gef\u00e4hrden (Art. 3 Nr. 14 KI-VO-E). Somit w\u00fcrden insbesondere Systeme zur autonomen Steuerung als Hochrisiko-KI eingestuft. Denn ihr Ausfall oder eine St\u00f6rung k\u00f6nnen im Stra\u00dfen- oder Luftverkehr zu Sicherheitsrisiken f\u00fcr Verkehrsbeteiligte und auch unbeteiligte Dritte f\u00fchren.<\/p>\n Des Weiteren geh\u00f6ren KI-Systeme, die in \u201ekritische Bereiche\u201c nach Anhang III fallen und ein erhebliches Risiko f\u00fcr die Gesundheit, die Sicherheit oder die Grundrechte von nat\u00fcrlichen Personen darstellen (Art. 6 Abs. 2 KI-VO-E) zum definierten Hochrisikobereich. Sechs Monate vor Inkrafttreten der Verordnung soll die Kommission Leitlinien vorschlagen, die konkret festlegen, unter welchen Umst\u00e4nden die Ergebnisse von KI-Systemen aus kritischen Bereichen ein erhebliches Risiko f\u00fcr die Gesundheit, die Sicherheit oder die Grundrechte nat\u00fcrlicher Personen darstellen. Im Anhang III, 2 werden bereits die Bereiche des Stra\u00dfen- und Luftverkehrs und KI-Systeme, die im Stra\u00dfen- oder Luftverkehr als Sicherheitskomponenten eingesetzt werden, als Hochrisiko-KI aufgef\u00fchrt, so ist mit einer finalen Einstufung zu rechnen.<\/p>\n Umfangreiche Pflichten f\u00fcr Hochrisiko-KI<\/strong><\/p>\n Sofern sie als Hochrisiko-KI eingestuft werden, unterliegen KI-Systeme, die im Bereich des Stra\u00dfenverkehrs, der Luftfahrt und insbesondere der autonomen Steuerung als Sicherheitskomponenten eingesetzt werden, strengen Vorschriften. Etwa der Pflicht, bei Konzeption und Entwicklung der Hochrisiko-Systeme eine geeignete menschliche Aufsicht zu gew\u00e4hrleisten (Art. 14 KI-VO-E), eine automatische Aufzeichnung von Vorg\u00e4ngen und Ereignissen w\u00e4hrend des Betriebs der KI technisch zu integrieren (Art. 12 KI-VO-E) oder den umfangreichen Voraussetzungen an die Qualit\u00e4t der Daten, mit denen die Systeme trainiert werden (Art. 10 KI-VO-E).<\/p>\n Die konkrete Ausgestaltung der Pflichten gem\u00e4\u00df der KI-Verordnung wird sich erst aus den genauen Formulierungen des \u00fcberarbeiteten Entwurfs nach der Einigung im Trilog ergeben. Unternehmen in der Transportsystembranche, insbesondere im Stra\u00dfenverkehr, der Luftfahrt und der autonomen Steuerung, sollten sich jedoch darauf einstellen, dass bei Verwendung von KI-Systemen im Hochrisikobereich umfassende Verpflichtungen auf sie zukommen werden. Es ist daher ratsam, sich fr\u00fchzeitig mit dem Pflichtenkatalog der Verordnung vertraut zu machen, um den neuen Anforderungen gerecht zu werden.<\/p>\n I<\/strong>hr Experte f\u00fcr Luft- und Weltraumrecht <\/strong><\/p>\n Dr. Oliver Heinrich<\/a>, Gr\u00fcndungspartner und Rechtsanwalt Die Gesetzgebung im Bereich k\u00fcnstlicher Intelligenz (KI) hat in der Europ\u00e4ischen Union bedeutende Fortschritte gemacht. Nach einer politischen Einigung vom 09. Dezember wartet die Welt gespannt auf den finalen Entwurf. Bereits jetzt zeichnet sich ab, dass der Rechtsakt f\u00fcr die Nutzung von KI in Transportsystemen mit umfangreiche Regularien verbunden sein wird. Gesetzgebungsverfahren der KI-Verordnung Im […]<\/p>\n","protected":false},"author":22,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[76,34],"tags":[204,203,188],"class_list":["post-12009","post","type-post","status-publish","format-standard","hentry","category-bho-aktuell","category-luft_und_raumfahrt","tag-hochrisiko-ki","tag-ki-in-transportsystemen","tag-ki-verordnung"],"yoast_head":"\n
\nTelefon: +49 221 \/ 270 956 \u2013 200, E-Mail:\u00a0oliver.heinrich@bho-legal.com<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"