{"id":12432,"date":"2024-08-01T18:04:32","date_gmt":"2024-08-01T16:04:32","guid":{"rendered":"https:\/\/www.bho-legal.com\/?p=12432"},"modified":"2025-01-30T18:54:18","modified_gmt":"2025-01-30T16:54:18","slug":"die-ki-verordnung-tritt-in-kraft","status":"publish","type":"post","link":"https:\/\/www.bho-legal.com\/en\/die-ki-verordnung-tritt-in-kraft\/","title":{"rendered":"Die KI-Verordnung tritt in Kraft"},"content":{"rendered":"

Am 1. August 2024 tritt die \u201eVerordnung zur Regulierung k\u00fcnstlicher Intelligenz\u201c (KI-VO) in Kraft. Die Verordnung markiert einen bedeutenden Meilenstein in der europ\u00e4ischen Technologiepolitik, selbst wenn das EU-Marketing als weltweit als erstes umfassendes Gesetz zur Regulierung von KI zweifelhaft ist. Die Verordnung wurde im EU-Amtsblatt<\/a> ver\u00f6ffentlicht und tritt nun in Kraft. Die tats\u00e4chliche Geltung der neuen Pflichten ist verschiedenen Fristen unterworfen. Sie liegen zwischen sechs Monaten und drei Jahren, so dass verschiedene Teile der KI-Verordnung zu verschiedenen Zeitpunkten verpflichtend werden.<\/p>\n

Im vorliegenden Beitrag \u00a0geben wir einen \u00dcberblick \u00fcber den zeitlichen Anwendungsbereich, beleuchten die endg\u00fcltigen Bestimmungen der KI-Verordnung und erl\u00e4utern die n\u00e4chsten Schritte, die zur Umsetzung der neuen Vorschriften erforderlich sind.<\/p>\n

Risikobasierte Regulierung von KI-Systemen<\/strong><\/p>\n

Die KI-Verordnung verfolgt einen risikobasierten Ansatz, um den potenziellen Auswirkungen von KI-Systemen auf Sicherheit, Gesundheit und Grundrechte gerecht zu werden. Es werden vier Risikostufen unterschieden, die jeweils unterschiedlichen Complianceanforderungen unterliegen. Praktiken mit unvertretbaren Risiken, wie etwa bei einer Social Scoring-KI, werden durch die Verordnung verboten (Art. 5 Abs. 1 KI-VO). Wird die Anwendung eines KI-Systems nicht verboten, gibt es verschiedene Risikostufen, in die jedes KI-System einzustufen ist. Bei KI-Systemen, die geringen oder keinen Pflichten unterliegen sind die Schulungspflichten zu beachten.<\/p>\n

Einer besonderen Regulierung unterliegen Hochrisiko-KI-Systeme<\/strong>, die in sicherheits- oder grundrechtssensiblen Bereichen eingesetzt werden. Sie ziehen umfangreiche Pflichten nach sich:\u00a0 Die strengen Auflagen umfassen Risikobewertungen, Markt\u00fcberwachungsma\u00dfnahmen und die Etablierung einer menschlicher Aufsicht \u00fcber das KI-System. Die Anbieter dieser Systeme m\u00fcssen sp\u00e4testens jetzt<\/strong> mit der Pr\u00fcfung und Absicherung ihrer Leistungen beginnen. Demgegen\u00fcber m\u00fcssen Betreiber \u2013 also Unternehmen, die solche KI-Systeme im Unternehmensalltag einsetzen \u2013 prim\u00e4r pr\u00fcfen, ob die Anbieter der Systeme die neuen Pflichten erf\u00fcllen. Die Pflichten stellen wir in sp\u00e4teren Beitr\u00e4gen hier auf der Website n\u00e4her vor.<\/p>\n

F\u00fcr General Purpose AI (GPAI)<\/strong> hat die Verordnung eine gestufte Risikoklassifizierung eingef\u00fchrt, die zwischen normalen Modellen, offen lizenzierten Modellen und solchen mit systemischen Risiken unterscheidet (Art. 90, 92 KI-VO). Anbieter von GPAI-Modellen m\u00fcssen umfangreiche technische Dokumentationen bereitstellen und striktere Complianceanforderungen erf\u00fcllen. Das gilt insbesondere, wenn systemische Risiken vorliegen (Art. 53 KI-VO). Bestimmte generative KI-Systeme unterliegen speziellen Transparenzpflichten<\/strong> (Art. 50 KI-VO). Alle KI-Systeme, auch die in sonst keine der oben genannten Kategorien fallenden, m\u00fcssen Schulungen von Besch\u00e4ftigten im Umgang mit KI (Art. 4 KI-VO).<\/p>\n

Neuerungen im finalen Verordnungstext<\/strong><\/p>\n

Die finale Fassung der KI-Verordnung enth\u00e4lt mehrere inhaltliche und sprachliche Anpassungen. In der neusten und finalen Fassung der KI-Verordnung sind KI-Systeme, die unter freien und quelloffenen Lizenzen bereitgestellt werden \u2013 sogenannte Open-Source-KI-Systeme \u2013 nun von dem Anwendungsbereich der Verordnung ausgenommen. Es sei denn, sie es handelt sich um Hochrisiko-KI-Systeme oder verbotene Praktiken (Art. 2 Abs. 12 KI-VO). Zudem wurde die Aufsicht \u00fcber General Purpose AI (GPAI) durch das B\u00fcro f\u00fcr K\u00fcnstliche Intelligenz erweitert (Art. 3 Nr. 47 KI-VO).<\/p>\n

Im Bereich der verbotenen KI gab es eine wesentliche \u00c4nderung: Das Verbot, KI zur unterschwelligen Beeinflussung einzusetzen, greift nun bereits bei einer hinreichenden Wahrscheinlichkeit eines Schadenseintritts (Art. 5 Abs. 1 lit. A KI-VO). Ein tats\u00e4chlicher oder wahrscheinlicher erheblicher Schaden ist jetzt nicht mehr erforderlich. Zudem wurde der Anwendungsbereich von Hochrisiko-KI in Anhang III der Verordnung erweitert. Beispielsweise k\u00f6nnen nun KI-Systeme auf allen Bildungsstufen in den Hochrisiko-Bereich fallen und auch der Einsatz von L\u00fcgendetektoren durch Dritte im Auftrag \u00f6ffentlicher Beh\u00f6rden kann als hochriskant gelten. In fr\u00fcheren Fassungen der KI-Verordnung wurde der Einsatz von KI-Systemen bei L\u00fcgendetektoren zwar ebenfalls als risikobehaftet erkannt, jedoch waren die Bestimmungen weniger spezifisch und umfassend.<\/p>\n

Fristen zur Umsetzung der KI-Verordnung<\/strong><\/p>\n

Durch die gestaffelten Umsetzungszeitpunkte (Art. 113 KI-VO) k\u00f6nnen spezifische Risiken gezielt adressiert und die notwendigen Compliancema\u00dfnahmen schrittweise eingef\u00fchrt werden:<\/p>\n