1096 lines
53 KiB
Markdown
1096 lines
53 KiB
Markdown
|
|
ANHANG I
|
|
|
|
|
|
Liste der Harmonisierungsrechtsvorschriften der Union
|
|
|
|
|
|
Abschnitt A — Liste der Harmonisierungsrechtsvorschriften der Union auf der Grundlage des neuen Rechtsrahmens
|
|
|
|
1. Richtlinie 2006/42/EG des Europäischen Parlaments und des Rates vom 17. Mai 2006 über Maschinen und zur
|
|
Änderung der Richtlinie 95/16/EG (ABl. L 157 vom 9.6.2006, S. 24)
|
|
2. Richtlinie 2009/48/EG des Europäischen Parlaments und des Rates vom 18. Juni 2009 über die Sicherheit von
|
|
Spielzeug (ABl. L 170 vom 30.6.2009, S. 1)
|
|
3. Richtlinie 2013/53/EU des Europäischen Parlaments und des Rates vom 20. November 2013 über Sportboote und
|
|
Wassermotorräder und zur Aufhebung der Richtlinie 94/25/EG (ABl. L 354 vom 28.12.2013, S. 90)
|
|
4. Richtlinie 2014/33/EU des Europäischen Parlaments und des Rates vom 26. Februar 2014 zur Angleichung der
|
|
Rechtsvorschriften der Mitgliedstaaten über Aufzüge und Sicherheitsbauteile für Aufzüge (ABl. L 96 vom 29.3.2014,
|
|
S. 251)
|
|
5. Richtlinie 2014/34/EU des Europäischen Parlaments und des Rates vom 26. Februar 2014 zur Harmonisierung der
|
|
Rechtsvorschriften der Mitgliedstaaten für Geräte und Schutzsysteme zur bestimmungsgemäßen Verwendung in
|
|
explosionsgefährdeten Bereichen (ABl. L 96 vom 29.3.2014, S. 309)
|
|
6. Richtlinie 2014/53/EU des Europäischen Parlaments und des Rates vom 16. April 2014 über die Harmonisierung
|
|
der Rechtsvorschriften der Mitgliedstaaten über die Bereitstellung von Funkanlagen auf dem Markt und zur
|
|
Aufhebung der Richtlinie 1999/5/EG (ABl. L 153 vom 22.5.2014, S. 62)
|
|
7. Richtlinie 2014/68/EU des Europäischen Parlaments und des Rates vom 15. Mai 2014 zur Harmonisierung der
|
|
Rechtsvorschriften der Mitgliedstaaten über die Bereitstellung von Druckgeräten auf dem Markt (ABl. L 189 vom
|
|
27.6.2014, S. 164)
|
|
8. Verordnung (EU) 2016/424 des Europäischen Parlaments und des Rates vom 9. März 2016 über Seilbahnen und zur
|
|
Aufhebung der Richtlinie 2000/9/EG (ABl. L 81 vom 31.3.2016, S. 1)
|
|
9. Verordnung (EU) 2016/425 des Europäischen Parlaments und des Rates vom 9. März 2016 über persönliche
|
|
Schutzausrüstungen und zur Aufhebung der Richtlinie 89/686/EWG des Rates (ABl. L 81 vom 31.3.2016, S. 51)
|
|
10. Verordnung (EU) 2016/426 des Europäischen Parlaments und des Rates vom 9. März 2016 über Geräte zur
|
|
Verbrennung gasförmiger Brennstoffe und zur Aufhebung der Richtlinie 2009/142/EG (ABl. L 81 vom 31.3.2016,
|
|
S. 99)
|
|
11. Verordnung (EU) 2017/745 des Europäischen Parlaments und des Rates vom 5. April 2017 über Medizinprodukte,
|
|
zur Änderung der Richtlinie 2001/83/EG, der Verordnung (EG) Nr. 178/2002 und der Verordnung (EG)
|
|
Nr. 1223/2009 und zur Aufhebung der Richtlinien 90/385/EWG und 93/42/EWG des Rates (ABl. L 117 vom
|
|
5.5.2017, S. 1)
|
|
12. Verordnung (EU) 2017/746 des Europäischen Parlaments und des Rates vom 5. April 2017 über
|
|
In-vitro-Diagnostika und zur Aufhebung der Richtlinie 98/79/EG und des Beschlusses 2010/227/EU der
|
|
Kommission (ABl. L 117 vom 5.5.2017, S. 176)
|
|
|
|
|
|
Abschnitt B — Liste anderer Harmonisierungsrechtsvorschriften der Union
|
|
|
|
13. Verordnung (EG) Nr. 300/2008 des Europäischen Parlaments und des Rates vom 11. März 2008 über gemeinsame
|
|
Vorschriften für die Sicherheit in der Zivilluftfahrt und zur Aufhebung der Verordnung (EG) Nr. 2320/2002 (ABl.
|
|
L 97 vom 9.4.2008, S. 72)
|
|
14. Verordnung (EU) Nr. 168/2013 des Europäischen Parlaments und des Rates vom 15. Januar 2013 über die
|
|
Genehmigung und Marktüberwachung von zwei- oder dreirädrigen und vierrädrigen Fahrzeugen (ABl. L 60 vom
|
|
2.3.2013, S. 52)
|
|
15. Verordnung (EU) Nr. 167/2013 des Europäischen Parlaments und des Rates vom 5. Februar 2013 über die
|
|
Genehmigung und Marktüberwachung von land- und forstwirtschaftlichen Fahrzeugen (ABl. L 60 vom 2.3.2013,
|
|
S. 1)
|
|
|
|
# DE ABl. L vom 12.7.
|
|
|
|
124/144 ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj)
|
|
|
|
|
|
16. Richtlinie 2014/90/EU des Europäischen Parlaments und des Rates vom 23. Juli 2014 über Schiffsausrüstung und
|
|
zur Aufhebung der Richtlinie 96/98/EG des Rates (ABl. L 257 vom 28.8.2014, S. 146)
|
|
17. Richtlinie (EU) 2016/797 des Europäischen Parlaments und des Rates vom 11. Mai 2016 über die Interoperabilität
|
|
des Eisenbahnsystems in der Europäischen Union (ABl. L 138 vom 26.5.2016, S. 44)
|
|
18. Verordnung (EU) 2018/858 des Europäischen Parlaments und des Rates vom 30. Mai 2018 über die Genehmigung
|
|
und die Marktüberwachung von Kraftfahrzeugen und Kraftfahrzeuganhängern sowie von Systemen, Bauteilen und
|
|
selbstständigen technischen Einheiten für diese Fahrzeuge, zur Änderung der Verordnungen (EG) Nr. 715/2007 und
|
|
(EG) Nr. 595/2009 und zur Aufhebung der Richtlinie 2007/46/EG (ABl. L 151 vom 14.6.2018, S. 1)
|
|
19. Verordnung (EU) 2019/2144 des Europäischen Parlaments und des Rates vom 27. November 2019 über die
|
|
Typgenehmigung von Kraftfahrzeugen und Kraftfahrzeuganhängern sowie von Systemen, Bauteilen und
|
|
selbstständigen technischen Einheiten für diese Fahrzeuge im Hinblick auf ihre allgemeine Sicherheit und den
|
|
Schutz der Fahrzeuginsassen und von ungeschützten Verkehrsteilnehmern, zur Änderung der Verordnung (EU)
|
|
2018/858 des Europäischen Parlaments und des Rates und zur Aufhebung der Verordnungen (EG) Nr. 78/2009,
|
|
(EG) Nr. 79/2009 und (EG) Nr. 661/2009 des Europäischen Parlaments und des Rates sowie der Verordnungen (EG)
|
|
Nr. 631/2009, (EU) Nr. 406/2010, (EU) Nr. 672/2010, (EU) Nr. 1003/2010, (EU) Nr. 1005/2010, (EU)
|
|
Nr. 1008/2010, (EU) Nr. 1009/2010, (EU) Nr. 19/2011, (EU) Nr. 109/2011, (EU) Nr. 458/2011, (EU) Nr. 65/2012,
|
|
(EU) Nr. 130/2012, (EU) Nr. 347/2012, (EU) Nr. 351/2012, (EU) Nr. 1230/2012 und (EU) 2015/166 der
|
|
Kommission (ABl. L 325 vom 16.12.2019, S. 1)
|
|
20. Verordnung (EU) 2018/1139 des Europäischen Parlaments und des Rates vom 4. Juli 2018 zur Festlegung
|
|
gemeinsamer Vorschriften für die Zivilluftfahrt und zur Errichtung einer Agentur der Europäischen Union für
|
|
Flugsicherheit sowie zur Änderung der Verordnungen (EG) Nr. 2111/2005, (EG) Nr. 1008/2008, (EU) Nr. 996/2010,
|
|
(EU) Nr. 376/2014 und der Richtlinien 2014/30/EU und 2014/53/EU des Europäischen Parlaments und des Rates,
|
|
und zur Aufhebung der Verordnungen (EG) Nr. 552/2004 und (EG) Nr. 216/2008 des Europäischen Parlaments und
|
|
des Rates und der Verordnung (EWG) Nr. 3922/91 des Rates (ABl. L 212 vom 22.8.2018, S. 1), insoweit die
|
|
Konstruktion, Herstellung und Vermarktung von Luftfahrzeugen gemäß Artikel 2 Absatz 1 Buchstaben a und b in
|
|
Bezug auf unbemannte Luftfahrzeuge sowie deren Motoren, Propeller, Teile und Ausrüstung zur Fernsteuerung
|
|
betroffen sind
|
|
|
|
# ABl. L vom 12.7.2024 DE
|
|
|
|
ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj) 125/
|
|
|
|
|
|
|
|
ANHANG II
|
|
|
|
|
|
Liste der Straftaten gemäß Artikel 5 Absatz 1 Unterabsatz 1 Buchstabe h Ziffer iii
|
|
|
|
|
|
Straftaten gemäß Artikel 5 Absatz 1 Unterabsatz 1 Buchstabe h Ziffer iii:
|
|
|
|
|
|
—Terrorismus,
|
|
|
|
|
|
—Menschenhandel,
|
|
|
|
|
|
—sexuelle Ausbeutung von Kindern und Kinderpornografie,
|
|
|
|
|
|
—illegaler Handel mit Drogen oder psychotropen Stoffen,
|
|
|
|
|
|
—illegaler Handel mit Waffen, Munition oder Sprengstoffen,
|
|
|
|
|
|
—Mord, schwere Körperverletzung,
|
|
|
|
|
|
—illegaler Handel mit menschlichen Organen oder menschlichem Gewebe,
|
|
—illegaler Handel mit nuklearen oder radioaktiven Substanzen,
|
|
|
|
|
|
—Entführung, Freiheitsberaubung oder Geiselnahme,
|
|
|
|
|
|
—Verbrechen, die in die Zuständigkeit des Internationalen Strafgerichtshofs fallen,
|
|
|
|
|
|
—Flugzeug- oder Schiffsentführung,
|
|
|
|
|
|
—Vergewaltigung,
|
|
|
|
|
|
—Umweltkriminalität,
|
|
|
|
|
|
—organisierter oder bewaffneter Raub,
|
|
|
|
|
|
—Sabotage,
|
|
|
|
|
|
—Beteiligung an einer kriminellen Vereinigung, die an einer oder mehreren der oben genannten Straftaten beteiligt ist.
|
|
|
|
# DE ABl. L vom 12.7.
|
|
|
|
126/144 ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj)
|
|
|
|
|
|
|
|
ANHANG III
|
|
|
|
|
|
Hochrisiko-KI-Systeme gemäß Artikel 6 Absatz 2
|
|
|
|
|
|
Als Hochrisiko-KI-Systeme gemäß Artikel 6 Absatz 2 gelten die in folgenden Bereichen aufgeführten KI-Systeme:
|
|
|
|
1. Biometrie, soweit ihr Einsatz nach einschlägigem Unionsrecht oder nationalem Recht zugelassen ist:
|
|
|
|
|
|
a)biometrische Fernidentifizierungssysteme.
|
|
|
|
|
|
Dazu gehören nicht KI-Systeme, die bestimmungsgemäß für die biometrische Verifizierung, deren einziger Zweck
|
|
darin besteht, zu bestätigen, dass eine bestimmte natürliche Person die Person ist, für die sie sich ausgibt,
|
|
verwendet werden sollen;
|
|
|
|
|
|
b)KI-Systeme, die bestimmungsgemäß für die biometrische Kategorisierung nach sensiblen oder geschützten
|
|
Attributen oder Merkmalen auf der Grundlage von Rückschlüssen auf diese Attribute oder Merkmale verwendet
|
|
werden sollen;
|
|
|
|
|
|
c) KI-Systeme, die bestimmungsgemäß zur Emotionserkennung verwendet werden sollen.
|
|
|
|
2. Kritische Infrastruktur: KI-Systeme, die bestimmungsgemäß als Sicherheitsbauteile im Rahmen der Verwaltung und
|
|
des Betriebs kritischer digitaler Infrastruktur, des Straßenverkehrs oder der Wasser-, Gas-, Wärme- oder
|
|
Stromversorgung verwendet werden sollen
|
|
3. Allgemeine und berufliche Bildung
|
|
|
|
|
|
a)KI-Systeme, die bestimmungsgemäß zur Feststellung des Zugangs oder der Zulassung oder zur Zuweisung
|
|
natürlicher Personen zu Einrichtungen aller Ebenen der allgemeinen und beruflichen Bildung verwendet werden
|
|
sollen;
|
|
|
|
|
|
b)KI-Systeme, die bestimmungsgemäß für die Bewertung von Lernergebnissen verwendet werden sollen,
|
|
einschließlich des Falles, dass diese Ergebnisse dazu dienen, den Lernprozess natürlicher Personen in
|
|
Einrichtungen oder Programmen aller Ebenen der allgemeinen und beruflichen Bildung zu steuern;
|
|
|
|
|
|
c) KI-Systeme, die bestimmungsgemäß zum Zweck der Bewertung des angemessenen Bildungsniveaus, das eine
|
|
Person im Rahmen von oder innerhalb von Einrichtungen aller Ebenen der allgemeinen und beruflichen Bildung
|
|
erhalten wird oder zu denen sie Zugang erhalten wird, verwendet werden sollen;
|
|
|
|
|
|
d)KI-Systeme, die bestimmungsgemäß zur Überwachung und Erkennung von verbotenem Verhalten von Schülern
|
|
bei Prüfungen im Rahmen von oder innerhalb von Einrichtungen aller Ebenen der allgemeinen und beruflichen
|
|
Bildung verwendet werden sollen.
|
|
|
|
4. Beschäftigung, Personalmanagement und Zugang zur Selbstständigkeit
|
|
|
|
|
|
a)KI-Systeme, die bestimmungsgemäß für die Einstellung oder Auswahl natürlicher Personen verwendet werden
|
|
sollen, insbesondere um gezielte Stellenanzeigen zu schalten, Bewerbungen zu sichten oder zu filtern und
|
|
Bewerber zu bewerten;
|
|
|
|
|
|
b)KI-Systeme, die bestimmungsgemäß für Entscheidungen, die die Bedingungen von Arbeitsverhältnissen,
|
|
Beförderungen und Kündigungen von Arbeitsvertragsverhältnissen beeinflussen, für die Zuweisung von
|
|
Aufgaben aufgrund des individuellen Verhaltens oder persönlicher Merkmale oder Eigenschaften oder für die
|
|
Beobachtung und Bewertung der Leistung und des Verhaltens von Personen in solchen Beschäftigungsverhält-
|
|
nissen verwendet werden soll.
|
|
|
|
5. Zugänglichkeit und Inanspruchnahme grundlegender privater und grundlegender öffentlicher Dienste und
|
|
Leistungen:
|
|
|
|
|
|
a)KI-Systeme, die bestimmungsgemäß von Behörden oder im Namen von Behörden verwendet werden sollen, um
|
|
zu beurteilen, ob natürliche Personen Anspruch auf grundlegende öffentliche Unterstützungsleistungen und
|
|
-dienste, einschließlich Gesundheitsdiensten, haben und ob solche Leistungen und Dienste zu gewähren,
|
|
einzuschränken, zu widerrufen oder zurückzufordern sind;
|
|
|
|
|
|
b)KI-Systeme, die bestimmungsgemäß für die Kreditwürdigkeitsprüfung und Bonitätsbewertung natürlicher
|
|
Personen verwendet werden sollen, mit Ausnahme von KI-Systemen, die zur Aufdeckung von Finanzbetrug
|
|
verwendet werden;
|
|
|
|
|
|
c) KI-Systeme, die bestimmungsgemäß für die Risikobewertung und Preisbildung in Bezug auf natürliche Personen
|
|
im Fall von Lebens- und Krankenversicherungen verwendet werden sollen;
|
|
|
|
# ABl. L vom 12.7.2024 DE
|
|
|
|
ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj) 127/
|
|
|
|
|
|
|
|
d)KI-Systeme, die bestimmungsgemäß zur Bewertung und Klassifizierung von Notrufen von natürlichen Personen
|
|
oder für die Entsendung oder Priorisierung des Einsatzes von Not- und Rettungsdiensten, einschließlich Polizei,
|
|
Feuerwehr und medizinischer Nothilfe, sowie für Systeme für die Triage von Patienten bei der Notfallversorgung
|
|
verwendet werden sollen.
|
|
|
|
6. Strafverfolgung, soweit ihr Einsatz nach einschlägigem Unionsrecht oder nationalem Recht zugelassen ist:
|
|
|
|
|
|
a)KI-Systeme, die bestimmungsgemäß von Strafverfolgungsbehörden oder in deren Namen oder von Organen,
|
|
Einrichtungen und sonstigen Stellen der Union zur Unterstützung von Strafverfolgungsbehörden oder in deren
|
|
Namen zur Bewertung des Risikos einer natürlichen Person, zum Opfer von Straftaten zu werden, verwendet
|
|
werden sollen;
|
|
|
|
|
|
b)KI-Systeme, die bestimmungsgemäß von Strafverfolgungsbehörden oder in deren Namen oder von Organen,
|
|
Einrichtungen und sonstigen Stellen der Union zur Unterstützung von Strafverfolgungsbehörden als
|
|
Lügendetektoren oder ähnliche Instrumente verwendet werden sollen;
|
|
|
|
|
|
c) KI-Systeme, die bestimmungsgemäß von Strafverfolgungsbehörden oder in deren Namen oder von Organen,
|
|
Einrichtungen und sonstigen Stellen der Union zur Unterstützung von Strafverfolgungsbehörden zur Bewertung
|
|
der Verlässlichkeit von Beweismitteln im Zuge der Ermittlung oder Verfolgung von Straftaten verwendet werden
|
|
sollen;
|
|
|
|
|
|
d)KI-Systeme, die bestimmungsgemäß von Strafverfolgungsbehörden oder in deren Namen oder von Organen,
|
|
Einrichtungen und sonstigen Stellen der Union zur Unterstützung von Strafverfolgungsbehörden zur Bewertung
|
|
des Risikos, dass eine natürliche Person eine Straftat begeht oder erneut begeht, nicht nur auf der Grundlage der
|
|
Erstellung von Profilen natürlicher Personen gemäß Artikel 3 Absatz 4 der Richtlinie (EU) 2016/680 oder zur
|
|
Bewertung persönlicher Merkmale und Eigenschaften oder vergangenen kriminellen Verhaltens von natürlichen
|
|
Personen oder Gruppen verwendet werden sollen;
|
|
|
|
|
|
e) KI-Systeme, die bestimmungsgemäß von Strafverfolgungsbehörden oder in deren Namen oder von Organen,
|
|
Einrichtungen und sonstigen Stellen der Union zur Unterstützung von Strafverfolgungsbehörden zur Erstellung
|
|
von Profilen natürlicher Personen gemäß Artikel 3 Absatz 4 der Richtlinie (EU) 2016/680 im Zuge der
|
|
Aufdeckung, Ermittlung oder Verfolgung von Straftaten verwendet werden sollen.
|
|
|
|
7. Migration, Asyl und Grenzkontrolle, soweit ihr Einsatz nach einschlägigem Unionsrecht oder nationalem Recht
|
|
zugelassen ist:
|
|
|
|
|
|
a)KI-Systeme, die bestimmungsgemäß von zuständigen Behörden oder in deren Namen oder Organen,
|
|
Einrichtungen und sonstigen Stellen der Union als Lügendetektoren verwendet werden sollen oder ähnliche
|
|
Instrumente;
|
|
|
|
|
|
b)KI-Systeme, die bestimmungsgemäß von zuständigen Behörden oder in deren Namen oder von Organen,
|
|
Einrichtungen und sonstigen Stellen der Union zur Bewertung eines Risikos verwendet werden sollen,
|
|
einschließlich eines Sicherheitsrisikos, eines Risikos der irregulären Einwanderung oder eines Gesundheitsrisikos,
|
|
das von einer natürlichen Person ausgeht, die in das Hoheitsgebiet eines Mitgliedstaats einzureisen beabsichtigt
|
|
oder eingereist ist;
|
|
|
|
|
|
c) KI-Systeme, die bestimmungsgemäß von zuständigen Behörden oder in deren Namen oder von Organen,
|
|
Einrichtungen und sonstigen Stellen der Union verwendet werden sollen, um zuständige Behörden bei der
|
|
Prüfung von Asyl- und Visumanträgen sowie Aufenthaltstiteln und damit verbundenen Beschwerden im Hinblick
|
|
auf die Feststellung der Berechtigung der den Antrag stellenden natürlichen Personen, einschließlich damit
|
|
zusammenhängender Bewertungen der Verlässlichkeit von Beweismitteln, zu unterstützen;
|
|
|
|
|
|
d)KI-Systeme, die bestimmungsgemäß von oder im Namen der zuständigen Behörden oder Organen, Einrichtungen
|
|
und sonstigen Stellen der Union, im Zusammenhang mit Migration, Asyl oder Grenzkontrolle zum Zwecke der
|
|
Aufdeckung, Anerkennung oder Identifizierung natürlicher Personen verwendet werden sollen, mit Ausnahme
|
|
der Überprüfung von Reisedokumenten.
|
|
|
|
8. Rechtspflege und demokratische Prozesse
|
|
|
|
|
|
a)KI-Systeme, die bestimmungsgemäß von einer oder im Namen einer Justizbehörde verwendet werden sollen, um
|
|
eine Justizbehörde bei der Ermittlung und Auslegung von Sachverhalten und Rechtsvorschriften und bei der
|
|
Anwendung des Rechts auf konkrete Sachverhalte zu unterstützen, oder die auf ähnliche Weise für die alternative
|
|
Streitbeilegung genutzt werden sollen;
|
|
|
|
# DE ABl. L vom 12.7.
|
|
|
|
128/144 ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj)
|
|
|
|
|
|
|
|
b)KI-Systeme, die bestimmungsgemäß verwendet werden sollen, um das Ergebnis einer Wahl oder eines
|
|
Referendums oder das Wahlverhalten natürlicher Personen bei der Ausübung ihres Wahlrechts bei einer Wahl
|
|
oder einem Referendum zu beeinflussen. Dazu gehören nicht KI-Systeme, deren Ausgaben natürliche Personen
|
|
nicht direkt ausgesetzt sind, wie Instrumente zur Organisation, Optimierung oder Strukturierung politischer
|
|
Kampagnen in administrativer oder logistischer Hinsicht.
|
|
|
|
# ABl. L vom 12.7.2024 DE
|
|
|
|
ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj) 129/
|
|
|
|
|
|
|
|
ANHANG IV
|
|
|
|
|
|
Technische Dokumentation gemäß Artikel 11 Absatz 1
|
|
|
|
|
|
Die in Artikel 11 Absatz 1 genannte technische Dokumentation muss mindestens die folgenden Informationen enthalten,
|
|
soweit sie für das betreffende KI-System von Belang sind:
|
|
|
|
1. Allgemeine Beschreibung des KI-Systems, darunter
|
|
|
|
|
|
a)Zweckbestimmung, Name des Anbieters und Version des Systems mit Angaben dazu, in welcher Beziehung sie
|
|
zu vorherigen Versionen steht;
|
|
|
|
|
|
b)gegebenenfalls Interaktion oder Verwendung des KI-Systems mit Hardware oder Software, einschließlich anderer
|
|
KI-Systeme, die nicht Teil des KI-Systems selbst sind;
|
|
|
|
|
|
c) Versionen der betreffenden Software oder Firmware und etwaige Anforderungen in Bezug auf Aktualisierungen
|
|
der Versionen;
|
|
|
|
|
|
d)Beschreibung aller Formen, in denen das KI-System in Verkehr gebracht oder in Betrieb genommen wird, zum
|
|
Beispiel in Hardware eingebettete Softwarepakete, Herunterladen oder API;
|
|
|
|
|
|
e) Beschreibung der Hardware, auf der das KI-System betrieben werden soll;
|
|
|
|
|
|
f) falls das KI-System Bestandteil von Produkten ist: Fotografien oder Abbildungen, die äußere Merkmale, die
|
|
Kennzeichnungen und den inneren Aufbau dieser Produkte zeigen;
|
|
|
|
|
|
g)eine grundlegende Beschreibung der Benutzerschnittstelle, die dem Betreiber zur Verfügung gestellt wird;
|
|
|
|
|
|
h)Betriebsanleitungen für den Betreiber und gegebenenfalls eine grundlegende Beschreibung der dem Betreiber zur
|
|
Verfügung gestellten Benutzerschnittstelle;
|
|
|
|
2. Detaillierte Beschreibung der Bestandteile des KI-Systems und seines Entwicklungsprozesses, darunter
|
|
|
|
|
|
a)Methoden und Schritte zur Entwicklung des KI-Systems, gegebenenfalls einschließlich des Einsatzes von durch
|
|
Dritte bereitgestellten vortrainierten Systemen oder Instrumenten, und wie diese vom Anbieter verwendet,
|
|
integriert oder verändert wurden;
|
|
|
|
|
|
b)Entwurfsspezifikationen des Systems, insbesondere die allgemeine Logik des KI-Systems und der Algorithmen;
|
|
die wichtigsten Entwurfsentscheidungen mit den Gründen und getroffenen Annahmen, einschließlich in Bezug
|
|
auf Personen oder Personengruppen, bezüglich deren das System angewandt werden soll; hauptsächliche
|
|
Einstufungsentscheidungen; was das System optimieren soll und welche Bedeutung den verschiedenen
|
|
Parametern dabei zukommt; Beschreibung der erwarteten Ausgabe des Systems und der erwarteten Qualität
|
|
dieser Ausgabe; die über mögliche Kompromisse in Bezug auf die technischen Lösungen, mit denen die in
|
|
Kapitel III Abschnitt 2 festgelegten Anforderungen erfüllt werden sollen, getroffenen Entscheidungen;
|
|
|
|
|
|
c) Beschreibung der Systemarchitektur, aus der hervorgeht, wie Softwarekomponenten aufeinander aufbauen oder
|
|
einander zuarbeiten und in die Gesamtverarbeitung integriert sind; zum Entwickeln, Trainieren, Testen und
|
|
Validieren des KI-Systems verwendete Rechenressourcen;
|
|
|
|
|
|
d)gegebenenfalls Datenanforderungen in Form von Datenblättern, in denen die Trainingsmethoden und -techniken
|
|
und die verwendeten Trainingsdatensätze beschrieben werden, einschließlich einer allgemeinen Beschreibung
|
|
dieser Datensätze sowie Informationen zu deren Herkunft, Umfang und Hauptmerkmalen; Angaben zur
|
|
Beschaffung und Auswahl der Daten; Kennzeichnungsverfahren (zum Beispiel für überwachtes Lernen) und
|
|
Datenbereinigungsmethoden (zum Beispiel Erkennung von Ausreißern);
|
|
|
|
|
|
e) Bewertung der nach Artikel 14 erforderlichen Maßnahmen der menschlichen Aufsicht, mit einer Bewertung der
|
|
technischen Maßnahmen, die erforderlich sind, um den Betreibern gemäß Artikel 13 Absatz 3 Buchstabe d die
|
|
Interpretation der Ausgaben von KI-Systemen zu erleichtern;
|
|
|
|
|
|
f) gegebenenfalls detaillierte Beschreibung der vorab bestimmten Änderungen an dem KI-System und seiner
|
|
Leistung mit allen einschlägigen Informationen zu den technischen Lösungen, mit denen sichergestellt wird, dass
|
|
das KI-System die einschlägigen in Kapitel III Abschnitt 2 festgelegten Anforderungen weiterhin dauerhaft erfüllt;
|
|
|
|
|
|
g)verwendete Validierungs- und Testverfahren, mit Informationen zu den verwendeten Validierungs- und Testdaten
|
|
und deren Hauptmerkmalen; Parameter, die zur Messung der Genauigkeit, Robustheit und der Erfüllung anderer
|
|
einschlägiger Anforderungen nach Kapitel III Abschnitt 2 sowie potenziell diskriminierender Auswirkungen
|
|
verwendet werden; Testprotokolle und alle von den verantwortlichen Personen datierten und unterzeichneten
|
|
Testberichte, auch in Bezug auf die unter Buchstabe f genannten vorab bestimmten Änderungen;
|
|
|
|
# DE ABl. L vom 12.7.
|
|
|
|
130/144 ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj)
|
|
|
|
|
|
|
|
h)ergriffene Cybersicherheitsmaßnahmen;
|
|
|
|
3. Detaillierte Informationen über die Überwachung, Funktionsweise und Kontrolle des KI-Systems, insbesondere in
|
|
Bezug auf Folgendes: die Fähigkeiten und Leistungsgrenzen des Systems, einschließlich der Genauigkeitsgrade bei
|
|
bestimmten Personen oder Personengruppen, auf die es bestimmungsgemäß angewandt werden soll, sowie des in
|
|
Bezug auf seine Zweckbestimmung insgesamt erwarteten Maßes an Genauigkeit; angesichts der Zweckbestimmung
|
|
des KI-Systems vorhersehbare unbeabsichtigte Ergebnisse und Quellen von Risiken in Bezug auf Gesundheit und
|
|
Sicherheit sowie Grundrechte und Diskriminierung; die nach Artikel 14 erforderlichen Maßnahmen der
|
|
menschlichen Aufsicht, einschließlich der technischen Maßnahmen, die getroffen wurden, um den Betreibern die
|
|
Interpretation der Ausgaben von KI-Systemen zu erleichtern; gegebenenfalls Spezifikationen zu Eingabedaten;
|
|
4. Darlegungen zur Eignung der Leistungskennzahlen für das spezifische KI-System;
|
|
5. Detaillierte Beschreibung des Risikomanagementsystems gemäß Artikel 9;
|
|
6. Beschreibung einschlägiger Änderungen, die der Anbieter während des Lebenszyklus an dem System vorgenommen
|
|
hat;
|
|
7. Aufstellung der vollständig oder teilweise angewandten harmonisierten Normen, deren Fundstellen im Amtsblatt der
|
|
Europäischen Union veröffentlicht wurden; falls keine solchen harmonisierten Normen angewandt wurden, eine
|
|
detaillierte Beschreibung der Lösungen, mit denen die in Kapitel III Abschnitt 2 festgelegten Anforderungen erfüllt
|
|
werden sollen, mit einer Aufstellung anderer angewandter einschlägiger Normen und technischer Spezifikationen;
|
|
8. Kopie der EU-Konformitätserklärung gemäß Artikel 47;
|
|
9. Detaillierte Beschreibung des Systems zur Bewertung der Leistung des KI-Systems in der Phase nach dem
|
|
Inverkehrbringen gemäß Artikel 72, einschließlich des in Artikel 72 Absatz 3 genannten Plans für die Beobachtung
|
|
nach dem Inverkehrbringen
|
|
|
|
# ABl. L vom 12.7.2024 DE
|
|
|
|
ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj) 131/
|
|
|
|
|
|
|
|
ANHANG V
|
|
|
|
|
|
EU-Konformitätserklärung
|
|
|
|
|
|
Die EU-Konformitätserklärung gemäß Artikel 47 enthält alle folgenden Angaben:
|
|
|
|
1. Name und Art des KI-Systems und etwaige zusätzliche eindeutige Angaben, die die Identifizierung und
|
|
Rückverfolgbarkeit des KI-Systems ermöglichen;
|
|
2. Name und Anschrift des Anbieters und gegebenenfalls seines Bevollmächtigten;
|
|
3. Erklärung darüber, dass der Anbieter die alleinige Verantwortung für die Ausstellung der EU-Konformitätserklärung
|
|
gemäß Artikel 47 trägt;
|
|
4. Versicherung, dass das betreffende KI-System der vorliegenden Verordnung sowie gegebenenfalls weiteren
|
|
einschlägigen Rechtsvorschriften der Union, in denen die Ausstellung der EU-Konformitätserklärung gemäß
|
|
Artikel 47 vorgesehen ist, entspricht;
|
|
5. wenn ein KI-System die Verarbeitung personenbezogener Daten erfordert, eine Erklärung darüber, dass das
|
|
KI-System den Verordnungen (EU) 2016/679 und (EU) 2018/1725 sowie der Richtlinie (EU) 2016/680 entspricht;
|
|
6. Verweise auf die verwendeten einschlägigen harmonisierten Normen oder sonstigen gemeinsamen Spezifikationen,
|
|
für die die Konformität erklärt wird;
|
|
7. gegebenenfalls Name und Identifizierungsnummer der notifizierten Stelle, Beschreibung des durchgeführten
|
|
Konformitätsbewertungsverfahrens und Identifizierungsnummer der ausgestellten Bescheinigung;
|
|
8. Ort und Datum der Ausstellung der Erklärung, den Namen und die Funktion des Unterzeichners sowie Angabe, für
|
|
wen oder in wessen Namen diese Person unterzeichnet hat, eine Unterschrift.
|
|
|
|
# DE ABl. L vom 12.7.
|
|
|
|
132/144 ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj)
|
|
|
|
|
|
|
|
ANHANG VI
|
|
|
|
|
|
Konformitätsbewertungsverfahren auf der Grundlage einer internen Kontrolle
|
|
|
|
1. Das Konformitätsbewertungsverfahren auf der Grundlage einer internen Kontrolle ist das Konformitätsbewertungs-
|
|
verfahren gemäß den Nummern 2, 3 und 4.
|
|
2. Der Anbieter überprüft, ob das bestehende Qualitätsmanagementsystem den Anforderungen des Artikels 17
|
|
entspricht.
|
|
3. Der Anbieter prüft die in der technischen Dokumentation enthaltenen Informationen, um zu beurteilen. ob das
|
|
KI-System den einschlägigen grundlegenden Anforderungen in Kapitel III Abschnitt 2 entspricht.
|
|
4. Der Anbieter überprüft ferner, ob der Entwurfs- und Entwicklungsprozess des KI-Systems und seine Beobachtung
|
|
nach dem Inverkehrbringen gemäß Artikel 72 mit der technischen Dokumentation im Einklang stehen.
|
|
|
|
# ABl. L vom 12.7.2024 DE
|
|
|
|
ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj) 133/
|
|
|
|
|
|
|
|
ANHANG VII
|
|
|
|
|
|
Konformität auf der Grundlage einer Bewertung des Qualitätsmanagementsystems und einer
|
|
Bewertung der technischen Dokumentation
|
|
|
|
1. Einleitung
|
|
|
|
|
|
Die Konformität auf der Grundlage einer Bewertung des Qualitätsmanagementsystems und einer Bewertung der
|
|
technischen Dokumentation entspricht dem Konformitätsbewertungsverfahren gemäß den Nummern 2 bis 5.
|
|
|
|
2. Überblick
|
|
|
|
|
|
Das genehmigte Qualitätsmanagementsystem für die Konzeption, die Entwicklung und das Testen von KI-Systemen
|
|
nach Artikel 17 wird gemäß Nummer 3 geprüft und unterliegt der Überwachung gemäß Nummer 5. Die technische
|
|
Dokumentation des KI-Systems wird gemäß Nummer 4 geprüft.
|
|
|
|
3. Qualitätsmanagementsystem
|
|
|
|
|
|
3.1. Der Antrag des Anbieters muss Folgendes enthalten:
|
|
|
|
|
|
a)Name und Anschrift des Anbieters sowie, wenn der Antrag von einem Bevollmächtigten eingereicht wird, auch
|
|
dessen Namen und Anschrift;
|
|
|
|
|
|
b)die Liste der unter dasselbe Qualitätsmanagementsystem fallenden KI-Systeme;
|
|
|
|
|
|
c) die technische Dokumentation für jedes unter dasselbe Qualitätsmanagementsystem fallende KI-System;
|
|
|
|
|
|
d)die Dokumentation über das Qualitätsmanagementsystem mit allen in Artikel 17 aufgeführten Aspekten;
|
|
|
|
|
|
e) eine Beschreibung der bestehenden Verfahren, mit denen sichergestellt wird, dass das Qualitätsmanagement-
|
|
system angemessen und wirksam bleibt;
|
|
|
|
|
|
f) eine schriftliche Erklärung, dass derselbe Antrag bei keiner anderen notifizierten Stelle eingereicht wurde.
|
|
|
|
|
|
3.2. Das Qualitätssicherungssystem wird von der notifizierten Stelle bewertet, um festzustellen, ob es die in Artikel 17
|
|
genannten Anforderungen erfüllt.
|
|
|
|
|
|
Die Entscheidung wird dem Anbieter oder dessen Bevollmächtigten mitgeteilt.
|
|
|
|
|
|
Die Mitteilung enthält die Ergebnisse der Bewertung des Qualitätsmanagementsystems und die begründete
|
|
Bewertungsentscheidung.
|
|
|
|
|
|
3.3. Das genehmigte Qualitätsmanagementsystem wird vom Anbieter weiter angewandt und gepflegt, damit es stets
|
|
angemessen und effizient funktioniert.
|
|
|
|
|
|
3.4. Der Anbieter unterrichtet die notifizierte Stelle über jede beabsichtigte Änderung des genehmigten Qualitätsmanage-
|
|
mentsystems oder der Liste der unter dieses System fallenden KI-Systeme.
|
|
|
|
|
|
Die notifizierte Stelle prüft die vorgeschlagenen Änderungen und entscheidet, ob das geänderte Qualitätsmana-
|
|
gementsystem die unter Nummer 3.2 genannten Anforderungen weiterhin erfüllt oder ob eine erneute Bewertung
|
|
erforderlich ist.
|
|
|
|
|
|
Die notifizierte Stelle teilt dem Anbieter ihre Entscheidung mit. Die Mitteilung enthält die Ergebnisse der Prüfung der
|
|
Änderungen und die begründete Bewertungsentscheidung.
|
|
|
|
4. Kontrolle der technischen Dokumentation
|
|
|
|
|
|
4.1. Zusätzlich zu dem unter Nummer 3 genannten Antrag stellt der Anbieter bei der notifizierten Stelle seiner Wahl
|
|
einen Antrag auf Bewertung der technischen Dokumentation für das KI-System, das er in Verkehr zu bringen oder in
|
|
Betrieb zu nehmen beabsichtigt und das unter das unter Nummer 3 genannte Qualitätsmanagementsystem fällt.
|
|
|
|
|
|
4.2. Der Antrag enthält Folgendes:
|
|
|
|
|
|
a)den Namen und die Anschrift des Anbieters;
|
|
|
|
|
|
b)eine schriftliche Erklärung, dass derselbe Antrag bei keiner anderen notifizierten Stelle eingereicht wurde;
|
|
|
|
|
|
c) die in Anhang IV genannte technische Dokumentation.
|
|
|
|
# DE ABl. L vom 12.7.
|
|
|
|
134/144 ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj)
|
|
|
|
|
|
|
|
4.3. Die technische Dokumentation wird von der notifizierten Stelle geprüft. Sofern es relevant ist und beschränkt auf
|
|
das zur Wahrnehmung ihrer Aufgaben erforderliche Maß erhält die notifizierte Stelle uneingeschränkten Zugang zu
|
|
den verwendeten Trainings-, Validierungs- und Testdatensätzen, gegebenenfalls und unter Einhaltung von
|
|
Sicherheitsvorkehrungen auch über API oder sonstige einschlägige technische Mittel und Instrumente, die den
|
|
Fernzugriff ermöglichen.
|
|
|
|
|
|
4.4. Bei der Prüfung der technischen Dokumentation kann die notifizierte Stelle vom Anbieter weitere Nachweise oder
|
|
die Durchführung weiterer Tests verlangen, um eine ordnungsgemäße Bewertung der Konformität des KI-Systems
|
|
mit den in Kapitel III Abschnitt 2 festgelegten Anforderungen zu ermöglichen. Ist die notifizierte Stelle mit den vom
|
|
Anbieter durchgeführten Tests nicht zufrieden, so führt sie gegebenenfalls unmittelbar selbst angemessene Tests
|
|
durch.
|
|
|
|
|
|
4.5. Sofern es für die Bewertung der Konformität des Hochrisiko-KI-Systems mit den in Kapitel III Abschnitt 2
|
|
festgelegten Anforderungen notwendig ist, und nachdem alle anderen sinnvollen Möglichkeiten zur Überprüfung der
|
|
Konformität ausgeschöpft sind oder sich als unzureichend erwiesen haben, wird der notifizierten Stelle auf
|
|
begründeten Antrag Zugang zu den Trainingsmodellen und trainierten Modellen des KI-Systems, einschließlich
|
|
seiner relevanten Parameter, gewährt. Ein solcher Zugang unterliegt dem bestehenden EU-Recht zum Schutz von
|
|
geistigem Eigentum und Geschäftsgeheimnissen.
|
|
|
|
|
|
4.6. Die Entscheidung der notifizierten Stelle wird dem Anbieter oder dessen Bevollmächtigten mitgeteilt. Die Mitteilung
|
|
enthält die Ergebnisse der Bewertung der technischen Dokumentation und die begründete Bewertungsentscheidung.
|
|
|
|
|
|
Erfüllt das KI-System die Anforderungen in Kapitel III Abschnitt 2, so stellt die notifizierte Stelle eine
|
|
Unionsbescheinigung über die Bewertung der technischen Dokumentation aus. Diese Bescheinigung enthält den
|
|
Namen und die Anschrift des Anbieters, die Ergebnisse der Prüfung, etwaige Bedingungen für ihre Gültigkeit und die
|
|
für die Identifizierung des KI-Systems notwendigen Daten.
|
|
|
|
|
|
Die Bescheinigung und ihre Anhänge enthalten alle zweckdienlichen Informationen für die Beurteilung der
|
|
Konformität des KI-Systems und gegebenenfalls für die Kontrolle des KI-Systems während seiner Verwendung.
|
|
|
|
|
|
Erfüllt das KI-System die in Kapitel III Abschnitt 2 festgelegten Anforderungen nicht, so verweigert die notifizierte
|
|
Stelle die Ausstellung einer Unionsbescheinigung über die Bewertung der technischen Dokumentation und
|
|
informiert den Antragsteller darüber, wobei sie ihre Verweigerung ausführlich begründet.
|
|
|
|
|
|
Erfüllt das KI-System nicht die Anforderung in Bezug auf die verwendeten Trainingsdaten, so muss das KI-System
|
|
vor der Beantragung einer neuen Konformitätsbewertung erneut trainiert werden. In diesem Fall enthält die
|
|
begründete Bewertungsentscheidung der notifizierten Stelle, mit der die Ausstellung der Unionsbescheinigung über
|
|
die Bewertung der technischen Dokumentation verweigert wird, besondere Erläuterungen zu den zum Trainieren
|
|
des KI-Systems verwendeten Qualitätsdaten und insbesondere zu den Gründen für die Nichtkonformität.
|
|
|
|
|
|
4.7. Jede Änderung des KI-Systems, die sich auf die Konformität des KI-Systems mit den Anforderungen oder auf seine
|
|
Zweckbestimmung auswirken könnte, bedarf der Bewertung durch die notifizierte Stelle, die die Unions-
|
|
bescheinigung über die Bewertung der technischen Dokumentation ausgestellt hat. Der Anbieter informiert die
|
|
notifizierte Stelle über seine Absicht, eine der oben genannten Änderungen vorzunehmen, oder wenn er auf andere
|
|
Weise Kenntnis vom Eintreten solcher Änderungen erhält. Die notifizierte Stelle bewertet die beabsichtigten
|
|
Änderungen und entscheidet, ob diese Änderungen eine neue Konformitätsbewertung gemäß Artikel 43 Absatz 4
|
|
erforderlich machen oder ob ein Nachtrag zu der Unionsbescheinigung über die Bewertung der technischen
|
|
Dokumentation ausgestellt werden könnte. In letzterem Fall bewertet die notifizierte Stelle die Änderungen, teilt
|
|
dem Anbieter ihre Entscheidung mit und stellt ihm, sofern die Änderungen genehmigt wurden, einen Nachtrag zu
|
|
der Unionsbescheinigung über die Bewertung der technischen Dokumentation aus.
|
|
|
|
5. Überwachung des genehmigten Qualitätsmanagementsystems
|
|
|
|
|
|
5.1. Mit der unter Nummer 3 genannten Überwachung durch die notifizierte Stelle soll sichergestellt werden, dass der
|
|
Anbieter sich ordnungsgemäß an die Anforderungen und Bedingungen des genehmigten Qualitätsmanagements-
|
|
ystems hält.
|
|
|
|
|
|
5.2. Zu Bewertungszwecken gewährt der Anbieter der notifizierten Stelle Zugang zu den Räumlichkeiten, in denen die
|
|
Konzeption, die Entwicklung und das Testen der KI-Systeme stattfindet. Außerdem übermittelt der Anbieter der
|
|
notifizierten Stelle alle erforderlichen Informationen.
|
|
|
|
|
|
5.3. Die notifizierte Stelle führt regelmäßig Audits durch, um sicherzustellen, dass der Anbieter das Qualitätsmana-
|
|
gementsystem pflegt und anwendet, und übermittelt ihm einen Prüfbericht. Im Rahmen dieser Audits kann die
|
|
notifizierte Stelle die KI-Systeme, für die eine Unionsbescheinigung über die Bewertung der technischen
|
|
Dokumentation ausgestellt wurde, zusätzlichen Tests unterziehen.
|
|
|
|
# ABl. L vom 12.7.2024 DE
|
|
|
|
ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj) 135/
|
|
|
|
|
|
|
|
ANHANG VIII
|
|
|
|
|
|
Bei der Registrierung des Hochrisiko-KI-Systems gemäß Artikel 49 bereitzustellende Informationen
|
|
|
|
|
|
Abschnitt A — Von Anbietern von Hochrisiko-KI-Systemen gemäß Artikel 49 Absatz 1 bereitzustellende Informationen
|
|
|
|
|
|
Für Hochrisiko-KI-Systeme, die gemäß Artikel 49 Absatz 1 zu registrieren sind, werden folgende Informationen
|
|
bereitgestellt und danach auf dem neuesten Stand gehalten:
|
|
|
|
1. der Name, die Anschrift und die Kontaktdaten des Anbieters;
|
|
2. bei Vorlage von Informationen durch eine andere Person im Namen des Anbieters: der Name, die Anschrift und die
|
|
Kontaktdaten dieser Person;
|
|
3. gegebenenfalls der Name, die Anschrift und die Kontaktdaten des Bevollmächtigten;
|
|
4. der Handelsname des KI-Systems und etwaige zusätzliche eindeutige Angaben, die die Identifizierung und
|
|
Rückverfolgbarkeit des KI-Systems ermöglichen;
|
|
5. eine Beschreibung der Zweckbestimmung des KI-Systems und der durch dieses KI-System unterstützten
|
|
Komponenten und Funktionen;
|
|
6. eine grundlegende und knappe Beschreibung der vom System verwendeten Informationen (Daten, Eingaben) und
|
|
seiner Betriebslogik;
|
|
7. der Status des KI-Systems (in Verkehr/in Betrieb; nicht mehr in Verkehr/in Betrieb, zurückgerufen);
|
|
8. die Art, die Nummer und das Ablaufdatum der von der notifizierten Stelle ausgestellten Bescheinigung und
|
|
gegebenenfalls Name oder Identifizierungsnummer dieser notifizierten Stelle;
|
|
9. gegebenenfalls eine gescannte Kopie der in Nummer 8 genannten Bescheinigung;
|
|
10. alle Mitgliedstaaten, in denen das KI-System in Verkehr gebracht, in Betrieb genommen oder in der Union
|
|
bereitgestellt wurde;
|
|
11. eine Kopie der in Artikel 47 genannten EU-Konformitätserklärung;
|
|
12. elektronische Betriebsanleitungen; dies gilt nicht für Hochrisiko-KI-Systeme in den Bereichen Strafverfolgung oder
|
|
Migration, Asyl und Grenzkontrolle gemäß Anhang III Nummern 1, 6 und 7;
|
|
13. Eine URL-Adresse für zusätzliche Informationen (fakultativ).
|
|
|
|
|
|
Abschnitt B — Von Anbietern von Hochrisiko-KI-Systemen gemäß Artikel 49 Absatz 2 bereitzustellende Informationen
|
|
Für KI-Systeme, die gemäß Artikel 49 Absatz 2 zu registrieren sind, werden folgende Informationen bereitgestellt und
|
|
danach auf dem neuesten Stand gehalten:
|
|
|
|
1. der Name, die Anschrift und die Kontaktdaten des Anbieters;
|
|
2. bei Vorlage von Informationen durch eine andere Person im Namen des Anbieters: Name, Anschrift und
|
|
Kontaktdaten dieser Person;
|
|
3. gegebenenfalls der Name, die Anschrift und die Kontaktdaten des Bevollmächtigten;
|
|
4. der Handelsname des KI-Systems und etwaige zusätzliche eindeutige Angaben, die die Identifizierung und
|
|
Rückverfolgbarkeit des KI-Systems ermöglichen;
|
|
5. eine Beschreibung der Zweckbestimmung des KI-Systems;
|
|
6. die Bedingung oder Bedingungen gemäß Artikel 6 Absatz 3, aufgrund derer das KI-System nicht als
|
|
Hoch-Risiko-System eingestuft wird;
|
|
7. eine kurze Zusammenfassung der Gründe, aus denen das KI-System in Anwendung des Verfahrens gemäß Artikel 6
|
|
Absatz 3 nicht als Hoch-Risiko-System eingestuft wird;
|
|
8. der Status des KI-Systems (in Verkehr/in Betrieb; nicht mehr in Verkehr/in Betrieb, zurückgerufen)
|
|
9. alle Mitgliedstaaten, in denen das KI-System in der Union in Verkehr gebracht, in Betrieb genommen oder
|
|
bereitgestellt wurde.
|
|
|
|
# DE ABl. L vom 12.7.
|
|
|
|
136/144 ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj)
|
|
|
|
|
|
|
|
Abschnitt C — Von Betreibern von Hochrisiko-KI-Systemen gemäß Artikel 49 Absatz 3 bereitzustellende Informationen
|
|
|
|
|
|
Für Hochrisiko-KI-Systeme, die gemäß Artikel 49 Absatz 3 zu registrieren sind, werden folgende Informationen
|
|
bereitgestellt und danach auf dem neuesten Stand gehalten:
|
|
|
|
1. der Name, die Anschrift und die Kontaktdaten des Betreibers;
|
|
2. der Name, die Anschrift und die Kontaktdaten der Person, die im Namen des Betreibers Informationen übermittelt;
|
|
3. die URL des Eintrags des KI-Systems in der EU-Datenbank durch seinen Anbieter;
|
|
4. eine Zusammenfassung der Ergebnisse der gemäß Artikel 27 durchgeführten Grundrechte-Folgenabschätzung;
|
|
5. gegebenenfalls eine Zusammenfassung der im Einklang mit Artikel 35 der Verordnung (EU) 2016/679 oder
|
|
Artikel 27 der Richtlinie (EU) 2016/680 gemäß Artikel 26 Absatz 8 der vorliegenden Verordnung durchgeführten
|
|
Datenschutz-Folgenabschätzung.
|
|
|
|
# ABl. L vom 12.7.2024 DE
|
|
|
|
ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj) 137/
|
|
|
|
|
|
|
|
ANHANG IX
|
|
|
|
|
|
Bezüglich Tests unter Realbedingungen gemäß Artikel 60 bei der Registrierung von in Anhang III
|
|
aufgeführten Hochrisiko-KI-Systemen bereitzustellende Informationen
|
|
|
|
|
|
Bezüglich Tests unter Realbedingungen, die gemäß Artikel 60 zu registrieren sind, werden folgende Informationen
|
|
bereitgestellt und danach auf dem aktuellen Stand gehalten:
|
|
|
|
1. eine unionsweit einmalige Identifizierungsnummer des Tests unter Realbedingungen;
|
|
2. der Name und die Kontaktdaten des Anbieters oder zukünftigen Anbieters und der Betreiber, die an dem Test unter
|
|
Realbedingungen teilgenommen haben;
|
|
3. eine kurze Beschreibung des KI-Systems, seine Zweckbestimmung und sonstige zu seiner Identifizierung
|
|
erforderliche Informationen;
|
|
4. eine Übersicht über die Hauptmerkmale des Plans für den Test unter Realbedingungen;
|
|
5. Informationen über die Aussetzung oder den Abbruch des Tests unter Realbedingungen.
|
|
|
|
# DE ABl. L vom 12.7.
|
|
|
|
138/144 ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj)
|
|
|
|
|
|
|
|
ANHANG X
|
|
|
|
|
|
Rechtsvorschriften der Union über IT-Großsysteme im Raum der Freiheit, der Sicherheit und des Rechts
|
|
|
|
1. Schengener Informationssystem
|
|
|
|
|
|
a)Verordnung (EU) 2018/1860 des Europäischen Parlaments und des Rates vom 28. November 2018 über die
|
|
Nutzung des Schengener Informationssystems für die Rückkehr illegal aufhältiger Drittstaatsangehöriger (ABl.
|
|
L 312 vom 7.12.2018, S. 1)
|
|
|
|
|
|
b)Verordnung (EU) 2018/1861 des Europäischen Parlaments und des Rates vom 28. November 2018 über die
|
|
Einrichtung, den Betrieb und die Nutzung des Schengener Informationssystems (SIS) im Bereich der
|
|
Grenzkontrollen, zur Änderung des Übereinkommens zur Durchführung des Übereinkommens von Schengen
|
|
und zur Änderung und Aufhebung der Verordnung (EG) Nr. 1987/2006 (ABl. L 312 vom 7.12.2018, S. 14)
|
|
|
|
|
|
c) Verordnung (EU) 2018/1862 des Europäischen Parlaments und des Rates vom 28. November 2018 über die
|
|
Einrichtung, den Betrieb und die Nutzung des Schengener Informationssystems (SIS) im Bereich der polizeilichen
|
|
Zusammenarbeit und der justiziellen Zusammenarbeit in Strafsachen, zur Änderung und Aufhebung des
|
|
Beschlusses 2007/533/JI des Rates und zur Aufhebung der Verordnung (EG) Nr. 1986/2006 des Europäischen
|
|
Parlaments und des Rates und des Beschlusses 2010/261/EU der Kommission (ABl. L 312 vom 7.12.2018, S. 56)
|
|
|
|
2. Visa-Informationssystem
|
|
|
|
|
|
a)Verordnung (EU) 2021/1133 des Europäischen Parlaments und des Rates vom 7. Juli 2021 zur Änderung der
|
|
Verordnungen (EU) Nr. 603/2013, (EU) 2016/794, (EU) 2018/1862, (EU) 2019/816 und (EU) 2019/
|
|
hinsichtlich der Festlegung der Voraussetzungen für den Zugang zu anderen Informationssystemen der EU für
|
|
Zwecke des Visa-Informationssystems (ABl. L 248 vom 13.7.2021, S. 1)
|
|
|
|
|
|
b)Verordnung (EU) 2021/1134 des Europäischen Parlaments und des Rates vom 7. Juli 2021 zur Änderung der
|
|
Verordnungen (EG) Nr. 767/2008, (EG) Nr. 810/2009, (EU) 2016/399, (EU) 2017/2226, (EU) 2018/1240,
|
|
(EU) 2018/1860, (EU) 2018/1861, (EU) 2019/817 und (EU) 2019/1896 des Europäischen Parlaments und des
|
|
Rates und zur Aufhebung der Entscheidung 2004/512/EG und des Beschlusses 2008/633/JI des Rates zum
|
|
Zwecke der Reform des Visa-Informationssystems (ABl. L 248 vom 13.7.2021, S. 11)
|
|
|
|
3. Eurodac
|
|
|
|
|
|
Verordnung (EU) 2024/1358 des Europäischen Parlaments und des Rates vom 14. Mai 2024 über die Einrichtung
|
|
von Eurodac für den Abgleich biometrischer Daten zum Zwecke der effektiven Anwendung der Verordnungen (EU)
|
|
2024/1315 und (EU) 2024/1350 des Europäischen Parlaments und des Rates und der Richtlinie 2001/55/EG des
|
|
Rates und zur Feststellung der Identität illegal aufhältiger Drittstaatsangehöriger und Staatenloser und über der
|
|
Gefahrenabwehr und Strafverfolgung dienende Anträge der Gefahrenabwehr- und Strafverfolgungsbehörden der
|
|
Mitgliedstaaten und Europols auf den Abgleich mit Eurodac-Daten sowie zur Änderung der Verordnungen (EU)
|
|
2018/1240 und (EU) 2019/818 des Europäischen Parlaments und des Rates und zur Aufhebung der Verordnung
|
|
(EU) Nr. 603/2013 des Europäischen Parlaments und des Rates (ABl. L, 2024/1358, 22.5.2024, ELI: http://data.
|
|
europa.eu/eli/reg/2024/1358/oj)
|
|
|
|
4. Einreise-/Ausreisesystem
|
|
|
|
|
|
Verordnung (EU) 2017/2226 des Europäischen Parlaments und des Rates vom 30. November 2017 über ein
|
|
Einreise-/Ausreisesystem (EES) zur Erfassung der Ein- und Ausreisedaten sowie der Einreiseverweigerungsdaten von
|
|
Drittstaatsangehörigen an den Außengrenzen der Mitgliedstaaten und zur Festlegung der Bedingungen für den
|
|
Zugang zum EES zu Gefahrenabwehr- und Strafverfolgungszwecken und zur Änderung des Übereinkommens von
|
|
Schengen sowie der Verordnungen (EG) Nr. 767/2008 und (EU) Nr. 1077/2011 (ABl. L 327 vom 9.12.2017, S. 20)
|
|
|
|
5. Europäisches Reiseinformations- und -genehmigungssystem
|
|
|
|
|
|
a)Verordnung (EU) 2018/1240 des Europäischen Parlaments und des Rates vom 12. September 2018 über die
|
|
Einrichtung eines Europäischen Reiseinformations- und -genehmigungssystems (ETIAS) und zur Änderung der
|
|
Verordnungen (EU) Nr. 1077/2011, (EU) Nr. 515/2014, (EU) 2016/399, (EU) 2016/1624 und (EU) 2017/
|
|
(ABl. L 236 vom 19.9.2018, S. 1)
|
|
|
|
|
|
b)Verordnung (EU) 2018/1241 des Europäischen Parlaments und des Rates vom 12. September 2018 zur
|
|
Änderung der Verordnung (EU) 2016/794 für die Zwecke der Einrichtung eines Europäischen Reiseinformations-
|
|
und -genehmigungssystems (ETIAS) (ABl. L 236 vom 19.9.2018, S. 72)
|
|
|
|
# ABl. L vom 12.7.2024 DE
|
|
|
|
ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj) 139/
|
|
|
|
|
|
6. Europäisches Strafregisterinformationssystem über Drittstaatsangehörige und Staatenlose
|
|
|
|
|
|
Verordnung (EU) 2019/816 des Europäischen Parlaments und des Rates vom 17. April 2019 zur Einrichtung eines
|
|
zentralisierten Systems für die Ermittlung der Mitgliedstaaten, in denen Informationen zu Verurteilungen von
|
|
Drittstaatsangehörigen und Staatenlosen (ECRIS-TCN) vorliegen, zur Ergänzung des Europäischen Strafregisterin-
|
|
formationssystems und zur Änderung der Verordnung (EU) 2018/1726 (ABl. L 135 vom 22.5.2019, S. 1)
|
|
|
|
7. Interoperabilität
|
|
|
|
|
|
a)Verordnung (EU) 2019/817 des Europäischen Parlaments und des Rates vom 20. Mai 2019 zur Errichtung eines
|
|
Rahmens für die Interoperabilität zwischen EU-Informationssystemen in den Bereichen Grenzen und Visa und
|
|
zur Änderung der Verordnungen (EG) Nr. 767/2008, (EU) 2016/399, (EU) 2017/2226, (EU) 2018/1240, (EU)
|
|
2018/1726 und (EU) 2018/1861 des Europäischen Parlaments und des Rates, der Entscheidung 2004/512/EG
|
|
des Rates und des Beschlusses 2008/633/JI des Rates (ABl. L 135 vom 22.5.2019, S. 27)
|
|
|
|
|
|
b)Verordnung (EU) 2019/818 des Europäischen Parlaments und des Rates vom 20. Mai 2019 zur Errichtung eines
|
|
Rahmens für die Interoperabilität zwischen EU-Informationssystemen (polizeiliche und justizielle Zusammen-
|
|
arbeit, Asyl und Migration) und zur Änderung der Verordnungen (EU) 2018/1726, (EU) 2018/1862 und (EU)
|
|
2019/816 (ABl. L 135 vom 22.5.2019, S. 85).
|
|
|
|
# DE ABl. L vom 12.7.
|
|
|
|
140/144 ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj)
|
|
|
|
|
|
|
|
ANHANG XI
|
|
|
|
|
|
Technische Dokumentation gemäß Artikel 53 Absatz 1 Buchstabe a — technische Dokumentation
|
|
für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck
|
|
|
|
|
|
Abschnitt 1
|
|
|
|
|
|
Von allen Anbietern von KI-Modellen mit allgemeinem Verwendungszweck bereitzustellende Informationen
|
|
Die in Artikel 53 Absatz 1 Buchstabe a genannte technische Dokumentation muss mindestens die folgenden Informationen
|
|
enthalten, soweit es anhand der Größe und des Risikoprofils des betreffenden Modells angemessen ist:
|
|
|
|
1. Eine allgemeine Beschreibung des KI-Modells einschließlich
|
|
|
|
|
|
a)der Aufgaben, die das Modell erfüllen soll, sowie der Art und des Wesens der KI-Systeme, in die es integriert
|
|
werden kann;
|
|
|
|
|
|
b)die anwendbaren Regelungen der akzeptablen Nutzung;
|
|
|
|
|
|
c) das Datum der Freigabe und die Vertriebsmethoden;
|
|
|
|
|
|
d)die Architektur und die Anzahl der Parameter;
|
|
|
|
|
|
e) die Modalität (zum Beispiel Text, Bild) und das Format der Ein- und Ausgaben;
|
|
|
|
|
|
f) die Lizenz.
|
|
|
|
2. Eine ausführliche Beschreibung der Elemente des Modells gemäß Nummer 1 und relevante Informationen zum
|
|
Entwicklungsverfahren, einschließlich der folgenden Elemente:
|
|
|
|
|
|
a)die technischen Mittel (zum Beispiel Betriebsanleitungen, Infrastruktur, Instrumente), die für die Integration des
|
|
KI-Modells mit allgemeinem Verwendungszweck in KI-Systeme erforderlich sind;
|
|
|
|
|
|
b)die Entwurfsspezifikationen des Modells und des Trainingsverfahrens einschließlich Trainingsmethoden und
|
|
-techniken, die wichtigsten Entwurfsentscheidungen mit den Gründen und getroffenen Annahmen; gege-
|
|
benenfalls, was das Modell optimieren soll und welche Bedeutung den verschiedenen Parametern dabei zukommt;
|
|
|
|
|
|
c) gegebenenfalls Informationen über die für das Trainieren, Testen und Validieren verwendeten Daten,
|
|
einschließlich der Art und Herkunft der Daten und der Aufbereitungsmethoden (zum Beispiel Bereinigung,
|
|
Filterung usw.), der Zahl der Datenpunkte, ihres Umfangs und ihrer Hauptmerkmale; gegebenenfalls die Art und
|
|
Weise, wie die Daten erlangt und ausgewählt wurden, sowie alle anderen Maßnahmen zur Feststellung, ob
|
|
Datenquellen ungeeignet sind, und Methoden zur Erkennung ermittelbarer Verzerrungen;
|
|
|
|
|
|
d)die für das Trainieren des Modells verwendeten Rechenressourcen (zum Beispiel Anzahl der Gleitkommaope-
|
|
rationen), die Trainingszeit und andere relevante Einzelheiten im Zusammenhang mit dem Trainieren;
|
|
|
|
|
|
e) bekannter oder geschätzter Energieverbrauch des Modells.
|
|
|
|
|
|
Wenn der Energieverbrauch des Modells nicht bekannt ist, kann für Buchstabe e der Energieverbrauch auf
|
|
Informationen über die eingesetzten Rechenressourcen gestützt werden.
|
|
|
|
|
|
Abschnitt 2
|
|
|
|
|
|
Zusätzliche von Anbietern von KI-Modellen mit allgemeinem Verwendungszweck mit systemischem Risiko bereitzu-
|
|
stellende Informationen
|
|
|
|
1. Eine ausführliche Beschreibung der Prüfstrategien, einschließlich der Prüfungsergebnisse, auf der Grundlage
|
|
öffentlich verfügbarer Prüfprotokolle und -instrumente oder anderer Prüfmethoden. Die Prüfstrategien umfassen
|
|
Prüfkriterien und -metrik sowie die Methodik zur Ermittlung von Einschränkungen.
|
|
2. Gegebenenfalls eine ausführliche Beschreibung der Maßnahmen, die ergriffen wurden, um interne und/oder externe
|
|
Angriffstests durchzuführen (zum Beispiel Red Teaming), Modellanpassungen, einschließlich Ausrichtung und
|
|
Feinabstimmung.
|
|
|
|
# ABl. L vom 12.7.2024 DE
|
|
|
|
ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj) 141/
|
|
|
|
|
|
3. Gegebenenfalls eine ausführliche Beschreibung der Systemarchitektur, aus der hervorgeht, wie Softwarekomponen-
|
|
ten aufeinander aufbauen oder einander zuarbeiten und in die Gesamtverarbeitung integriert sind.
|
|
|
|
# DE ABl. L vom 12.7.
|
|
|
|
142/144 ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj)
|
|
|
|
|
|
|
|
ANHANG XII
|
|
|
|
|
|
Transparenzinformationen gemäß Artikel 53 Absatz 1 Buchstabe b — technische Dokumentation für
|
|
Anbieter von KI-Modellen mit allgemeinem Verwendungszweck für nachgelagerte Anbieter, die das
|
|
Modell in ihr KI-System integrieren
|
|
|
|
|
|
Die in Artikel 53 Absatz 1 Buchstabe b genannten Informationen enthalten mindestens Folgendes:
|
|
|
|
1. eine allgemeine Beschreibung des KI-Modells einschließlich
|
|
|
|
|
|
a)der Aufgaben, die das Modell erfüllen soll, sowie der Art und des Wesens der KI-Systeme, in die es integriert
|
|
werden kann;
|
|
|
|
|
|
b)die anwendbaren Regelungen der akzeptablen Nutzung;
|
|
|
|
|
|
c) das Datum der Freigabe und die Vertriebsmethoden;
|
|
|
|
|
|
d)gegebenenfalls wie das Modell mit Hardware oder Software interagiert, die nicht Teil des Modells selbst ist, oder
|
|
wie es zu einer solchen Interaktion verwendet werden kann;
|
|
|
|
|
|
e) gegebenenfalls die Versionen der einschlägigen Software im Zusammenhang mit der Verwendung des KI-Modells
|
|
mit allgemeinem Verwendungszweck;
|
|
|
|
|
|
f) die Architektur und die Anzahl der Parameter;
|
|
|
|
|
|
g)die Modalität (zum Beispiel Text, Bild) und das Format der Ein- und Ausgaben;
|
|
|
|
|
|
h)die Lizenz für das Modell.
|
|
|
|
2. Eine Beschreibung der Bestandteile des Modells und seines Entwicklungsprozesses, einschließlich
|
|
|
|
|
|
a)die technischen Mittel (zum Beispiel Betriebsanleitungen, Infrastruktur, Instrumente), die für die Integration des
|
|
KI-Modells mit allgemeinem Verwendungszweck in KI-Systeme erforderlich sind;
|
|
|
|
|
|
b)Modalität (zum Beispiel Text, Bild usw.) und Format der Ein- und Ausgaben und deren maximale Größe (zum
|
|
Beispiel Länge des Kontextfensters usw.);
|
|
|
|
|
|
c) gegebenenfalls Informationen über die für das Trainieren, Testen und Validieren verwendeten Daten,
|
|
einschließlich der Art und Herkunft der Daten und der Aufbereitungsmethoden.
|
|
|
|
# ABl. L vom 12.7.2024 DE
|
|
|
|
ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj) 143/
|
|
|
|
|
|
|
|
ANHANG XIII
|
|
|
|
|
|
Kriterien für die Benennung von KI-Modellen mit allgemeinem Verwendungszweck mit
|
|
systemischem Risiko gemäß Artikel 51
|
|
|
|
|
|
Um festzustellen, ob ein KI-Modell mit allgemeinem Verwendungszweck über Fähigkeiten oder eine Wirkung verfügt, die
|
|
den in Artikel 51 Absatz 1 Buchstabe a genannten gleichwertig sind, berücksichtigt die Kommission folgende Kriterien:
|
|
|
|
|
|
a) die Anzahl der Parameter des Modells;
|
|
|
|
|
|
b) die Qualität oder Größe des Datensatzes, zum Beispiel durch Tokens gemessen;
|
|
|
|
|
|
c) die Menge der für das Trainieren des Modells verwendeten Berechnungen, gemessen in Gleitkommaoperationen oder
|
|
anhand einer Kombination anderer Variablen, wie geschätzte Trainingskosten, geschätzter Zeitaufwand für das
|
|
Trainieren oder geschätzter Energieverbrauch für das Trainieren;
|
|
|
|
|
|
d) die Ein- und Ausgabemodalitäten des Modells, wie Text-Text (Große Sprachmodelle), Text-Bild, Multimodalität,
|
|
Schwellenwerte auf dem Stand der Technik für die Bestimmung der Fähigkeiten mit hoher Wirkkraft für jede
|
|
Modalität und die spezifische Art der Ein- und Ausgaben (zum Beispiel biologische Sequenzen);
|
|
|
|
|
|
e) die Benchmarks und Beurteilungen der Fähigkeiten des Modells, einschließlich unter Berücksichtigung der Zahl der
|
|
Aufgaben ohne zusätzliches Training, der Anpassungsfähigkeit zum Erlernen neuer, unterschiedlicher Aufgaben, des
|
|
Grades an Autonomie und Skalierbarkeit sowie der Instrumente, zu denen es Zugang hat;
|
|
|
|
|
|
f) ob es aufgrund seiner Reichweite große Auswirkungen auf den Binnenmarkt hat — davon wird ausgegangen, wenn
|
|
es mindestens 10 000 in der Union niedergelassenen registrierten gewerblichen Nutzern zur Verfügung gestellt
|
|
wurde;
|
|
|
|
|
|
g) die Zahl der registrierten Endnutzer.
|
|
|
|
# DE ABl. L vom 12.7.2024
|
|
|
|
144/144 ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj)
|
|
|
|
|