{"id":11888,"date":"2023-11-23T12:07:05","date_gmt":"2023-11-23T10:07:05","guid":{"rendered":"https:\/\/www.bho-legal.com\/?p=11888"},"modified":"2023-11-23T12:07:05","modified_gmt":"2023-11-23T10:07:05","slug":"ki-verordnung-endspurt-im-gesetzgebungsverfahren","status":"publish","type":"post","link":"https:\/\/www.bho-legal.com\/fr\/ki-verordnung-endspurt-im-gesetzgebungsverfahren\/","title":{"rendered":"KI-Verordnung: Endspurt im Gesetzgebungsverfahren"},"content":{"rendered":"

Nachdem sich das Europ\u00e4ische Parlament am 14.6.2023 auf eine gemeinsame Position zur Regulierung von k\u00fcnstlicher Intelligenz (KI) geeinigt hat, befindet sich der Verordnungsentwurf derzeit im Verst\u00e4ndigungsprozess zwischen Parlament, EU-Ministerrat und EU-Kommission, dem sogenannten Trilog, um noch ausstehende strittige Fragen zu kl\u00e4ren. Die Verhandlungen wurden zuletzt ausgebremst durch umfassende \u00c4nderungsvorschl\u00e4ge in Bezug auf den bisherigen Entwurf vonseiten Deutschlands, Frankreichs und Italiens. Die Zeit dr\u00e4ngt allerdings, da die KI-Verordnung \u2013 genauer gesagt die \u201aVerordnung zur Festlegung harmonisierter Vorschriften f\u00fcr k\u00fcnstliche Intelligenz\u2018 \u2013 bis Anfang 2024<\/a> verabschiedet werden soll.<\/p>\n

In einem fr\u00fcheren Beitrag<\/a> haben wir bereits \u00fcber die legislativen Anf\u00e4nge der KI-Verordnung berichtet und uns prim\u00e4r mit den Vorschriften f\u00fcr KI-Systeme mit hohem Risiko befasst. Im Folgenden stellen wir nun den aktuellen Stand im Gesetzgebungsverfahren vor und gehen insbesondere darauf ein, was die KI-Verordnung in der Fassung des Europ\u00e4ischen Parlaments vom 14.6.2023 f\u00fcr Unternehmen bedeuten wird.<\/p>\n

Was ist KI? Definitionsversuche der EU-Parlaments<\/strong><\/p>\n

Wann KI anf\u00e4ngt und wo lediglich eine technisch raffinierte Software vorliegt, ist nicht in Stein gemei\u00dfelt, sondern wird unterschiedlich beurteilt. Auch auf politischer Eben wird um die genaue Definition von KI und den Anwendungsbereich der Verordnung besonders gerungen. Das EU-Parlament schlie\u00dft sich in seinem Entwurf nun der Definition der OECD zu KI-Systemen an. Demnach ist KI jedes \u201emaschinengest\u00fctzte System, das so konzipiert ist, dass es mit unterschiedlichem Grad an Autonomie operieren kann und das f\u00fcr explizite oder implizite Ziele Ergebnisse wie Vorhersagen, Empfehlungen oder Entscheidungen hervorbringen kann, die das physische oder virtuelle Umfeld beeinflussen\u201c (Art. 3 Abs. 1 Nr. 1 KI-VO-E). Diese Definition der KI-Verordnung legt den Fokus auf die Ergebnisse und Ziele von KI und nicht auf die zugrunde liegende Technologie oder die verwendeten Algorithmen.<\/p>\n

Die abge\u00e4nderte Definition wird allerdings vonseiten vieler Unternehmen kritisch beurteilt. Die Deutsche Industrie- und Handelskammer (DIHK) bem\u00e4ngelt<\/a> beispielsweise, dass die Definition als zu umfassend betrachtet werde. Es m\u00fcsse vermieden werden, alle Systeme, die Techniken wie maschinelles Lernen, logikgest\u00fctzte Konzepte und insbesondere statistische Verfahren oder herk\u00f6mmliche Softwarel\u00f6sungen als KI-Systeme einstufen, ungefiltert aufzunehmen. Es sei unverh\u00e4ltnism\u00e4\u00dfig, umfangreiche Pr\u00fcf- und Compliancepflichten bereits f\u00fcr niederschwellige, unselbstst\u00e4ndige Anwendungen einzuf\u00fchren. Dieser Kritik ist allerdings entgegenzuhalten, dass die aktuelle Fassung im Vergleich zu der Definition im urspr\u00fcnglichen Entwurf nunmehr enger gefasst ist. W\u00e4hrend vorher potenziell jede Software in den Anwendungsbereich einbezogen gewesen w\u00e4re, grenzen die Kriterien der Autonomie und Umweltbeeinflussung die von der Verordnung umfassten Systeme deutlich ein.<\/p>\n

Regulative Ma\u00dfnahmen: Was die KI-Verordnung umfasst<\/strong><\/p>\n

Der Verordnungsentwurf zielt darauf ab, einerseits die Einf\u00fchrung von vertrauensw\u00fcrdigen KI-Systemen zu f\u00f6rdern und gleichzeitig ein hohes Schutzniveau f\u00fcr verschiedene Rechtsg\u00fcter zu gew\u00e4hrleisten. Die Verordnung regelt verschiedene Aspekte im Kontext der Entwicklung, Bereitstellung und Nutzung von KI-Systemen. Sie umfasst:<\/p>\n

    \n
  1. Klassifizierung von KI-Systemen<\/strong>: Die Verordnung unterscheidet zwischen verschiedenen Arten von KI-Systemen, abh\u00e4ngig von ihrem Risikograd. Hochrisiko-KI-Systeme \u2013 wie autonomes Fahren oder Kreditw\u00fcrdigkeitsbewertungssysteme \u2013 unterliegen strengeren Anforderungen und Kontrollen (Titel III KI-VO-E) im Vergleich zu KI-Systemen mit geringerem Risiko \u2013 wie beispielsweise Chatbots. Schlie\u00dflich gibt es KI-Systeme mit einem unannehmbaren Risiko, die durch die Verordnung verboten werden sollen (Titel II KI-VO-E); dazu geh\u00f6ren beispielsweise biometrische Echtzeit-Fernidentifizierungssysteme in \u00f6ffentlichen zug\u00e4nglichen R\u00e4umen oder automatisierte Emotionserkennung bei Verh\u00f6ren von Verd\u00e4chtigen.<\/li>\n
  2. Anforderungen an KI-Systeme<\/strong>: Der Verordnungsentwurf legt Mindestanforderungen fest, die KI-Systeme erf\u00fcllen m\u00fcssen, um sicher, transparent, zuverl\u00e4ssig und verantwortungsbewusst zu sein (Art. 4a und 52 KI-VO-E). Dies schlie\u00dft Kriterien zur Datenqualit\u00e4t, zur menschlichen \u00dcberwachung und Kontrolle, zur Transparenz und Nachvollziehbarkeit von Entscheidungen sowie zur Einhaltung ethischer Prinzipien ein.<\/li>\n
  3. Konformit\u00e4tsbewertung und Zertifizierung<\/strong>: Der Verordnungsentwurf verpflichtet die Anbieter und Betreiber von Hochrisiko-KI-Systemen dazu, eine Konformit\u00e4tsbewertung und Zertifizierung zu durchlaufen, um sicherzustellen, dass sie den Anforderungen und Standards der Verordnung entsprechen (Titel III KI-VO-E).<\/li>\n
  4. Verantwortlichkeit und Sanktionen<\/strong>: Der Verordnungsentwurf sieht Sanktionen f\u00fcr Verst\u00f6\u00dfe gegen die Verordnung vor (Art. 71, 72 KI-VO-E).<\/li>\n
  5. \u00dcberwachung und Aufsicht<\/strong>: Der Verordnungsentwurf verlangt von den EU-Mitgliedstaaten die Einrichtung geeigneter \u00dcberwachungs- und Aufsichtsbeh\u00f6rden, um sicherzustellen, dass die Anforderungen und Standards der Verordnung eingehalten werden (Titel VI Kapitel 2 KI-VO-E). Zus\u00e4tzlich wird durch die KI-Verordnung ein Europ\u00e4ischer Ausschuss f\u00fcr K\u00fcnstliche Intelligenz ins Leben gerufen, der f\u00fcr die \u00dcberwachung und Durchsetzung der Verordnung in der gesamten EU verantwortlich sein wird (Titel VI Kapitel 1 KI-VO-E).<\/li>\n<\/ol>\n

    Verpflichtungen entlang der Lieferkette<\/strong><\/p>\n

    Der Entwurf der KI-Verordnung legt Verpflichtungen entlang der gesamten Lieferkette fest. Nicht nur Anbieter werden durch das neue Gesetz nach jetzigem Stand verpflichtet, auch wer in der EU als Betreiber, Einf\u00fchrer oder H\u00e4ndler agiert, muss Pflichten in Bezug auf die Regelkonformit\u00e4t seiner KI-Systeme befolgen.<\/p>\n

    Anbieter ist derjenige, der ein KI-System entwickelt oder entwickeln l\u00e4sst, um es unter eigenem Namen in Verkehr zu bringen oder in Betrieb nehmen zu lassen (Art. 3 Nr. 2 KI-VO-E). Als H\u00e4ndler gilt hingegen derjenige, der KI-Systeme auf dem Unionsmarkt ohne \u00c4nderung seiner Merkmale, also ohne das System selber zu entwickeln, bereitstellt (Art. 3 Nr. 7 KI-VO-E). Als speziellere Form davon ist ein Einf\u00fchrer von KI-System, wer au\u00dfereurop\u00e4ische KI-Systeme in der Union in den Verkehr bringt oder in Betrieb nimmt (Art. 3 Nr. 6 KI-VO-E). Demgegen\u00fcber ist Betreiber bereits jeder, der ein KI-System in eigener Verantwortung beruflich verwendet (Art. 3 Nr. 3 KI-VO-E). F\u00fcr Unternehmen wird es daher entscheidend sein zu pr\u00fcfen, ob sie unter den Anbieter-, H\u00e4ndler-, Einf\u00fchrer- oder Betreiberbegriff der Verordnung fallen und gegebenenfalls ob eine Hochrisiko-KI (Art. 6 KI-VO-E) angeboten oder betrieben wird, da f\u00fcr diese Systeme besonders strenge Vorschriften gelten (Titel III KI-VO-E).<\/p>\n

    F\u00fcr Unternehmen, die sich in dieser neuen Landschaft zurechtfinden wollen, wird es entscheidend sein, die Vielzahl an Vorgaben und Verpflichten der geplanten Regulierung zu verstehen und zu befolgen. Insbesondere f\u00fcr kleine und mittlere Unternehmen (\u201eKMU\u201c) bedeuten die Vorgaben mitunter einen enormen Verwaltungsaufwand. Der Verordnungsentwurf sieht vor, dass die Mitgliedstaaten spezielle Ma\u00dfnahmen zur Entlastung der KMU ergreifen (Art. 55 KI-VO-E). Hier bleibt zu hoffen, dass diese Ma\u00dfnahmen in effektiver Weise ergriffen werden, um auch kleinere Unternehmen wettbewerbsf\u00e4hig zu machen und sie durch die neuen Regularien im Zusammenhang mit KI nicht \u00fcberm\u00e4\u00dfig zu belasten.<\/p>\n

    Was kommt konkret auf Unternehmen zu?<\/strong><\/p>\n

    Die geplante KI-Verordnung wird eine Vielzahl neuer Vorschriften und Sorgfaltspflichten mit sich bringen und verschiedene Akteure entlang der Wertsch\u00f6pfungskette von KI-System verpflichten. Unternehmen, die in der EU in Bezug auf KI-Systeme als Anbieter, H\u00e4ndler, Einf\u00fchrer, Betreiber oder als anderer Beteiligter agieren, sind verpflichtet sicherzustellen, dass sie die in der Verordnung vorgeschriebenen Anforderungen in Bezug auf -KI-Systeme einhalten. Die Vorschriften, die f\u00fcr die Verwendung und Entwicklung von Hochrisiko-KI-Systemen gelten werden, sind anspruchsvoll und umfassend. Daher empfiehlt es sich bereits jetzt zu pr\u00fcfen, welches Risiko das eigene KI-System birgt und welche Verpflichtungen damit einhergehen.\u00a0 Alle Unternehmen, die mit KI arbeiten (also \u201eBetreiber<\/strong>\u201c), sollten sich mit den Mindestanforderungen zu Sicherheit, Transparenz und Zuverl\u00e4ssigkeit<\/strong> von KI-Systemen vertraut machen (Art. 4a und 52 KI-VO-E). Das gilt unabh\u00e4ngig davon, ob es sich um eine Hochrisiko-KI handelt oder nicht.<\/p>\n

    Zum einen bestehen Transparenzpflichten<\/strong>:<\/p>\n