first version of EU AI Act game
This commit is contained in:
File diff suppressed because it is too large
Load Diff
File diff suppressed because it is too large
Load Diff
File diff suppressed because it is too large
Load Diff
@@ -0,0 +1,103 @@
|
||||
KAPITEL X
|
||||
VERHALTENSKODIZES UND LEITLINIEN
|
||||
|
||||
|
||||
Artikel 95
|
||||
|
||||
|
||||
Verhaltenskodizes für die freiwillige Anwendung bestimmter Anforderungen
|
||||
|
||||
|
||||
(1) Das Büro für Künstliche Intelligenz und die Mitgliedstaaten fördern und erleichtern die Aufstellung von
|
||||
Verhaltenskodizes, einschließlich damit zusammenhängender Governance-Mechanismen, mit denen die freiwillige
|
||||
Anwendung einiger oder aller der in Kapitel III Abschnitt 2 genannten Anforderungen auf KI-Systeme, die kein hohes
|
||||
Risiko bergen, gefördert werden soll, wobei den verfügbaren technischen Lösungen und bewährten Verfahren der Branche,
|
||||
die die Anwendung dieser Anforderungen ermöglichen, Rechnung zu tragen ist.
|
||||
|
||||
|
||||
(2) Das Büro für Künstliche Intelligenz und die Mitgliedstaaten erleichtern die Aufstellung von Verhaltenskodizes in
|
||||
Bezug auf die freiwillige Anwendung spezifischer Anforderungen auf alle KI-Systeme, einschließlich durch Betreiber, auf der
|
||||
Grundlage klarer Zielsetzungen sowie wesentlicher Leistungsindikatoren zur Messung der Erfüllung dieser Zielsetzungen,
|
||||
einschließlich unter anderem folgender Elemente:
|
||||
|
||||
|
||||
a)in den Ethik-Leitlinien der Union für eine vertrauenswürdige KI enthaltene anwendbare Elemente;
|
||||
|
||||
|
||||
b)Beurteilung und Minimierung der Auswirkungen von KI-Systemen auf die ökologische Nachhaltigkeit, einschließlich im
|
||||
Hinblick auf energieeffizientes Programmieren, und Techniken, um KI effizient zu gestalten, zu trainieren und zu nutzen;
|
||||
|
||||
|
||||
c) Förderung der KI-Kompetenz, insbesondere der von Personen, die mit der Entwicklung, dem Betrieb und der Nutzung
|
||||
von KI befasst sind;
|
||||
|
||||
|
||||
d)Erleichterung einer inklusiven und vielfältigen Gestaltung von KI-Systemen, unter anderem durch die Einsetzung
|
||||
inklusiver und vielfältiger Entwicklungsteams und die Förderung der Beteiligung der Interessenträger an diesem Prozess;
|
||||
|
||||
|
||||
e) Bewertung und Verhinderung der negativen Auswirkungen von KI-Systemen auf schutzbedürftige Personen oder
|
||||
Gruppen schutzbedürftiger Personen, einschließlich im Hinblick auf die Barrierefreiheit für Personen mit Behinderungen,
|
||||
sowie auf die Gleichstellung der Geschlechter.
|
||||
|
||||
|
||||
(3) Verhaltenskodizes können von einzelnen KI-System-Anbietern oder -Betreibern oder von Interessenvertretungen
|
||||
dieser Anbieter oder Betreiber oder von beiden aufgestellt werden, auch unter Einbeziehung von Interessenträgern sowie
|
||||
deren Interessenvertretungen einschließlich Organisationen der Zivilgesellschaft und Hochschulen. Verhaltenskodizes
|
||||
können sich auf ein oder mehrere KI-Systeme erstrecken, um ähnlichen Zweckbestimmungen der jeweiligen Systeme
|
||||
Rechnung zu tragen.
|
||||
|
||||
|
||||
(4) Das Büro für Künstliche Intelligenz und die Mitgliedstaaten berücksichtigen die besonderen Interessen und
|
||||
Bedürfnisse von KMU, einschließlich Startups, bei der Förderung und Erleichterung der Aufstellung von Verhaltenskodizes.
|
||||
|
||||
# ABl. L vom 12.7.2024 DE
|
||||
|
||||
ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj) 113/
|
||||
|
||||
Artikel 96
|
||||
|
||||
|
||||
Leitlinien der Kommission zur Durchführung dieser Verordnung
|
||||
|
||||
|
||||
(1) Die Kommission erarbeitet Leitlinien für die praktische Umsetzung dieser Verordnung, die sich insbesondere auf
|
||||
Folgendes beziehen:
|
||||
|
||||
|
||||
a)die Anwendung der in den Artikeln 8 bis 15 und in Artikel 25 genannten Anforderungen und Pflichten;
|
||||
|
||||
|
||||
b)die in Artikel 5 genannten verbotenen Praktiken;
|
||||
|
||||
|
||||
c) die praktische Durchführung der Bestimmungen über wesentliche Veränderungen;
|
||||
|
||||
|
||||
d)die praktische Umsetzung der Transparenzpflichten gemäß Artikel 50;
|
||||
|
||||
|
||||
e) detaillierte Informationen über das Verhältnis dieser Verordnung zu den in Anhang I aufgeführten Harmonisierungs-
|
||||
rechtsvorschriften der Union sowie zu anderen einschlägigen Rechtsvorschriften der Union, auch in Bezug auf deren
|
||||
kohärente Durchsetzung;
|
||||
|
||||
|
||||
f) die Anwendung der Definition eines KI-Systems gemäß Artikel 3 Nummer 1.
|
||||
|
||||
|
||||
Wenn die Kommission solche Leitlinien herausgibt, widmet sie den Bedürfnissen von KMU einschließlich
|
||||
Start-up-Unternehmen, von lokalen Behörden und von den am wahrscheinlichsten von dieser Verordnung betroffenen
|
||||
Sektoren besondere Aufmerksamkeit.
|
||||
|
||||
|
||||
Die Leitlinien gemäß Unterabsatz 1 dieses Absatzes tragen dem allgemein anerkannten Stand der Technik im Bereich KI
|
||||
sowie den einschlägigen harmonisierten Normen und gemeinsamen Spezifikationen, auf die in den Artikeln 40 und 41
|
||||
Bezug genommen wird, oder den harmonisierten Normen oder technischen Spezifikationen, die gemäß den
|
||||
Harmonisierungsrechtsvorschriften der Union festgelegt wurden, gebührend Rechnung.
|
||||
|
||||
|
||||
(2) Auf Ersuchen der Mitgliedstaaten oder des Büros für Künstliche Intelligenz oder von sich aus aktualisiert die
|
||||
Kommission früher verabschiedete Leitlinien, wenn es als notwendig erachtet wird.
|
||||
|
||||
|
||||
|
||||
@@ -0,0 +1,66 @@
|
||||
KAPITEL XI
|
||||
|
||||
|
||||
BEFUGNISÜBERTRAGUNG UND AUSSCHUSSVERFAHREN
|
||||
|
||||
|
||||
Artikel 97
|
||||
|
||||
|
||||
Ausübung der Befugnisübertragung
|
||||
|
||||
|
||||
(1) Die Befugnis zum Erlass delegierter Rechtsakte wird der Kommission unter den in diesem Artikel festgelegten
|
||||
Bedingungen übertragen.
|
||||
|
||||
|
||||
(2) Die in Artikel 6 Absätze 6 und 7, Artikel 7 Absätze 1 und 3, Artikel 11 Absatz 3, Artikel 43 Absätze 5 und 6,
|
||||
Artikel 47 Absatz 5, Artikel 51 Absatz 3, Artikel 52 Absatz 4 sowie Artikel 53 Absätze 5 und 6 genannte Befugnis zum
|
||||
Erlass delegierter Rechtsakte wird der Kommission für einen Zeitraum von fünf Jahren ab 1. August 2024 übertragen. Die
|
||||
Kommission erstellt spätestens neun Monate vor Ablauf des Zeitraums von fünf Jahren einen Bericht über die
|
||||
Befugnisübertragung. Die Befugnisübertragung verlängert sich stillschweigend um Zeiträume gleicher Länge, es sei denn,
|
||||
das Europäische Parlament oder der Rat widersprechen einer solchen Verlängerung spätestens drei Monate vor Ablauf des
|
||||
jeweiligen Zeitraums.
|
||||
|
||||
|
||||
(3) Die Befugnisübertragung gemäß Artikel 6 Absätze 6 und 7, Artikel 7 Absätze 1 und 3, Artikel 11 Absatz 3,
|
||||
Artikel 43 Absätze 5 und 6, Artikel 47 Absatz 5, Artikel 51 Absatz 3, Artikel 52 Absatz 4 sowie Artikel 53 Absätze 5 und
|
||||
6 kann vom Europäischen Parlament oder vom Rat jederzeit widerrufen werden. Der Beschluss über den Widerruf beendet
|
||||
die Übertragung der in jenem Beschluss angegebenen Befugnis. Er wird am Tag nach seiner Veröffentlichung im Amtsblatt
|
||||
der Europäischen Union oder zu einem darin angegebenen späteren Zeitpunkt wirksam. Die Gültigkeit von delegierten
|
||||
Rechtsakten, die bereits in Kraft sind, wird von dem Beschluss über den Widerruf nicht berührt.
|
||||
|
||||
|
||||
(4) Vor dem Erlass eines delegierten Rechtsakts konsultiert die Kommission die von den einzelnen Mitgliedstaaten
|
||||
benannten Sachverständigen im Einklang mit den in der Interinstitutionellen Vereinbarung vom 13. April 2016 über
|
||||
bessere Rechtsetzung niedergelegten Grundsätzen.
|
||||
|
||||
# DE ABl. L vom 12.7.
|
||||
|
||||
114/144 ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj)
|
||||
|
||||
(5) Sobald die Kommission einen delegierten Rechtsakt erlässt, übermittelt sie ihn gleichzeitig dem Europäischen
|
||||
Parlament und dem Rat.
|
||||
|
||||
|
||||
(6) Ein delegierter Rechtsakt, der nach Artikel 6 Absatz 6 oder 7, Artikel 7 Absatz 1 oder 3, Artikel 11 Absatz 3,
|
||||
Artikel 43 Absatz 5 oder 6, Artikel 47 Absatz 5, Artikel 51 Absatz 3, Artikel 52 Absatz 4 sowie Artikel 53 Absatz 5 oder 6
|
||||
erlassen wurde, tritt nur in Kraft, wenn weder das Europäische Parlament noch der Rat innerhalb einer Frist von drei
|
||||
Monaten nach Übermittlung jenes Rechtsakts an das Europäische Parlament und den Rat Einwände erhoben haben oder
|
||||
wenn vor Ablauf dieser Frist das Europäische Parlament und der Rat beide der Kommission mitgeteilt haben, dass sie keine
|
||||
Einwände erheben werden. Auf Initiative des Europäischen Parlaments oder des Rates wird diese Frist um drei Monate
|
||||
verlängert.
|
||||
|
||||
|
||||
Artikel 98
|
||||
Ausschussverfahren
|
||||
|
||||
|
||||
(1) Die Kommission wird von einem Ausschuss unterstützt. Dieser Ausschuss ist ein Ausschuss im Sinne der Verordnung
|
||||
(EU) Nr. 182/2011.
|
||||
|
||||
|
||||
(2) Wird auf diesen Absatz Bezug genommen, so gilt Artikel 5 der Verordnung (EU) Nr. 182/2011.
|
||||
|
||||
|
||||
|
||||
@@ -0,0 +1,271 @@
|
||||
|
||||
KAPITEL XII
|
||||
SANKTIONEN
|
||||
|
||||
|
||||
Artikel 99
|
||||
|
||||
|
||||
Sanktionen
|
||||
|
||||
|
||||
(1) Entsprechend den Vorgaben dieser Verordnung erlassen die Mitgliedstaaten Vorschriften für Sanktionen und andere
|
||||
Durchsetzungsmaßnahmen, zu denen auch Verwarnungen und nichtmonetäre Maßnahmen gehören können, die bei
|
||||
Verstößen gegen diese Verordnung durch Akteure Anwendung finden, und ergreifen alle Maßnahmen, die für deren
|
||||
ordnungsgemäße und wirksame Durchsetzung notwendig sind, wobei die von der Kommission gemäß Artikel 96 erteilten
|
||||
Leitlinien zu berücksichtigen sind. Die vorgesehenen Sanktionen müssen wirksam, verhältnismäßig und abschreckend sein.
|
||||
Sie berücksichtigen die Interessen von KMU, einschließlich Start-up-Unternehmen, sowie deren wirtschaftliches Überleben.
|
||||
|
||||
|
||||
(2) Die Mitgliedstaaten teilen der Kommission die Vorschriften für Sanktionen und andere Durchsetzungsmaßnahmen
|
||||
gemäß Absatz 1 unverzüglich und spätestens zum Zeitpunkt ihres Inkrafttretens mit und melden ihr unverzüglich etwaige
|
||||
spätere Änderungen.
|
||||
|
||||
|
||||
(3) Bei Missachtung des Verbots der in Artikel 5 genannten KI-Praktiken werden Geldbußen von bis zu 35 000 000 EUR
|
||||
oder — im Falle von Unternehmen — von bis zu 7 % des gesamten weltweiten Jahresumsatzes des vorangegangenen
|
||||
Geschäftsjahres verhängt, je nachdem, welcher Betrag höher ist.
|
||||
|
||||
|
||||
(4) Für Verstöße gegen folgende für Akteure oder notifizierte Stellen geltende Bestimmungen, mit Ausnahme der in
|
||||
Artikel 5 genannten, werden Geldbußen von bis zu 15 000 000 EUR oder — im Falle von Unternehmen — von bis zu 3 %
|
||||
des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres verhängt, je nachdem, welcher Betrag höher
|
||||
ist:
|
||||
|
||||
|
||||
a)Pflichten der Anbieter gemäß Artikel 16;
|
||||
|
||||
|
||||
b)Pflichten der Bevollmächtigten gemäß Artikel 22;
|
||||
|
||||
|
||||
c) Pflichten der Einführer gemäß Artikel 23;
|
||||
|
||||
|
||||
d)Pflichten der Händler gemäß Artikel 24;
|
||||
|
||||
|
||||
e) Pflichten der Betreiber gemäß Artikel 26;
|
||||
|
||||
|
||||
f) für notifizierte Stellen geltende Anforderungen und Pflichten gemäß Artikel 31, Artikel 33 Absätze 1, 3 und 4 bzw.
|
||||
Artikel 34;
|
||||
|
||||
|
||||
g)Transparenzpflichten für Anbieter und Betreiber gemäß Artikel 50.
|
||||
|
||||
# ABl. L vom 12.7.2024 DE
|
||||
|
||||
ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj) 115/
|
||||
|
||||
|
||||
|
||||
(5) Werden notifizierten Stellen oder zuständigen nationalen Behörden auf deren Auskunftsersuchen hin falsche,
|
||||
unvollständige oder irreführende Informationen bereitgestellt, so werden Geldbußen von bis zu 7 500 000 EUR oder — im
|
||||
Falle von Unternehmen — von bis zu 1 % des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres
|
||||
verhängt, je nachdem, welcher Betrag höher ist.
|
||||
|
||||
|
||||
(6) Im Falle von KMU, einschließlich Start-up-Unternehmen, gilt für jede in diesem Artikel genannte Geldbuße der
|
||||
jeweils niedrigere Betrag aus den in den Absätzen 3, 4 und 5 genannten Prozentsätzen oder Summen.
|
||||
|
||||
|
||||
(7) Bei der Entscheidung, ob eine Geldbuße verhängt wird, und bei der Festsetzung der Höhe der Geldbuße werden in
|
||||
jedem Einzelfall alle relevanten Umstände der konkreten Situation sowie gegebenenfalls Folgendes berücksichtigt:
|
||||
|
||||
|
||||
a)Art, Schwere und Dauer des Verstoßes und seiner Folgen, unter Berücksichtigung des Zwecks des KI-Systems sowie
|
||||
gegebenenfalls der Zahl der betroffenen Personen und des Ausmaßes des von ihnen erlittenen Schadens;
|
||||
|
||||
|
||||
b)ob demselben Akteur bereits von anderen Marktüberwachungsbehörden für denselben Verstoß Geldbußen auferlegt
|
||||
wurden;
|
||||
|
||||
|
||||
c) ob demselben Akteur bereits von anderen Behörden für Verstöße gegen das Unionsrecht oder das nationale Recht
|
||||
Geldbußen auferlegt wurden, wenn diese Verstöße auf dieselbe Handlung oder Unterlassung zurückzuführen sind, die
|
||||
einen einschlägigen Verstoß gegen diese Verordnung darstellt;
|
||||
|
||||
|
||||
d)Größe, Jahresumsatz und Marktanteil des Akteurs, der den Verstoß begangen hat;
|
||||
|
||||
|
||||
e) jegliche anderen erschwerenden oder mildernden Umstände im jeweiligen Fall, wie etwa unmittelbar oder mittelbar
|
||||
durch den Verstoß erlangte finanzielle Vorteile oder vermiedene Verluste;
|
||||
|
||||
|
||||
f) Grad der Zusammenarbeit mit den zuständigen nationalen Behörden, um den Verstoß abzustellen und die möglichen
|
||||
nachteiligen Auswirkungen des Verstoßes abzumildern;
|
||||
|
||||
|
||||
g)Grad an Verantwortung des Akteurs unter Berücksichtigung der von ihm ergriffenen technischen und organisatorischen
|
||||
Maßnahmen;
|
||||
|
||||
|
||||
h)Art und Weise, wie der Verstoß den zuständigen nationalen Behörden bekannt wurde, insbesondere ob und
|
||||
gegebenenfalls in welchem Umfang der Akteur den Verstoß gemeldet hat;
|
||||
|
||||
|
||||
i) Vorsätzlichkeit oder Fahrlässigkeit des Verstoßes;
|
||||
|
||||
|
||||
j) alle Maßnahmen, die der Akteur ergriffen hat, um den Schaden, der den betroffenen Personen zugefügt wird, zu
|
||||
mindern.
|
||||
|
||||
|
||||
(8) Jeder Mitgliedstaat erlässt Vorschriften darüber, in welchem Umfang gegen Behörden und öffentliche Stellen, die in
|
||||
dem betreffenden Mitgliedstaat niedergelassen sind, Geldbußen verhängt werden können.
|
||||
|
||||
|
||||
(9) In Abhängigkeit vom Rechtssystem der Mitgliedstaaten können die Vorschriften über Geldbußen je nach den dort
|
||||
geltenden Regeln so angewandt werden, dass die Geldbußen von den zuständigen nationalen Gerichten oder von sonstigen
|
||||
Stellen verhängt werden. Die Anwendung dieser Vorschriften in diesen Mitgliedstaaten muss eine gleichwertige Wirkung
|
||||
haben.
|
||||
|
||||
|
||||
(10) Die Ausübung der Befugnisse gemäß diesem Artikel muss angemessenen Verfahrensgarantien gemäß dem
|
||||
Unionsrecht und dem nationalen Recht, einschließlich wirksamer gerichtlicher Rechtsbehelfe und ordnungsgemäßer
|
||||
Verfahren, unterliegen.
|
||||
|
||||
|
||||
(11) Die Mitgliedstaaten erstatten der Kommission jährlich Bericht über die Geldbußen, die sie in dem betreffenden Jahr
|
||||
gemäß diesem Artikel verhängt haben, und über damit zusammenhängende Rechtsstreitigkeiten oder Gerichtsverfahren.
|
||||
|
||||
|
||||
Artikel 100
|
||||
|
||||
|
||||
Verhängung von Geldbußen gegen Organe, Einrichtungen und sonstige Stellen der Union
|
||||
|
||||
|
||||
(1) Der Europäische Datenschutzbeauftragte kann gegen Organe, Einrichtungen und sonstige Stellen der Union, die in
|
||||
den Anwendungsbereich dieser Verordnung fallen, Geldbußen verhängen. Bei der Entscheidung, ob eine Geldbuße verhängt
|
||||
wird, und bei der Festsetzung der Höhe der Geldbuße werden in jedem Einzelfall alle relevanten Umstände der konkreten
|
||||
Situation sowie Folgendes gebührend berücksichtigt:
|
||||
|
||||
# DE ABl. L vom 12.7.
|
||||
|
||||
116/144 ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj)
|
||||
|
||||
|
||||
|
||||
a)Art, Schwere und Dauer des Verstoßes und dessen Folgen, unter Berücksichtigung des Zwecks des betreffenden
|
||||
KI-Systems sowie gegebenenfalls der Zahl der betroffenen Personen und des Ausmaßes des von ihnen erlittenen
|
||||
Schadens;
|
||||
|
||||
|
||||
b)Grad der Verantwortung des Organs, der Einrichtung oder der sonstigen Stelle der Union unter Berücksichtigung der von
|
||||
diesem bzw. dieser ergriffenen technischen und organisatorischen Maßnahmen;
|
||||
|
||||
|
||||
c) alle Maßnahmen, die das Organ, die Einrichtung oder die sonstige Stelle der Union zur Minderung des von den
|
||||
betroffenen Personen erlittenen Schadens ergriffen hat;
|
||||
|
||||
|
||||
d)das Maß der Zusammenarbeit mit dem Europäischen Datenschutzbeauftragten bei der Behebung des Verstoßes und der
|
||||
Minderung seiner möglichen nachteiligen Auswirkungen, einschließlich der Befolgung von Maßnahmen, die der
|
||||
Europäische Datenschutzbeauftragte dem Organ, der Einrichtung oder der sonstigen Stelle der Union im Hinblick auf
|
||||
denselben Gegenstand zuvor bereits auferlegt hatte;
|
||||
|
||||
|
||||
e) ähnliche frühere Verstöße des Organs, der Einrichtung oder der sonstigen Stelle der Union;
|
||||
|
||||
|
||||
f) Art und Weise, wie der Verstoß dem Europäischen Datenschutzbeauftragten bekannt wurde, insbesondere ob und
|
||||
gegebenenfalls in welchem Umfang das Organ, die Einrichtung oder die sonstige Stelle der Union den Verstoß gemeldet
|
||||
hat;
|
||||
|
||||
|
||||
g)der Jahreshaushalt des Organs, der Einrichtung oder der sonstigen Stelle der Union.
|
||||
|
||||
|
||||
(2) Bei Missachtung des Verbots der in Artikel 5 genannten KI-Praktiken werden Geldbußen von bis zu 1 500 000 EUR
|
||||
verhängt.
|
||||
|
||||
|
||||
(3) Bei Nichtkonformität des KI-Systems mit in dieser Verordnung festgelegten Anforderungen oder Pflichten, mit
|
||||
Ausnahme der in Artikel 5 festgelegten, werden Geldbußen von bis zu 750 000 EUR verhängt.
|
||||
|
||||
|
||||
(4) Bevor der Europäische Datenschutzbeauftragte Entscheidungen nach dem vorliegenden Artikel trifft, gibt er dem
|
||||
Organ, der Einrichtung oder der sonstigen Stelle der Union, gegen das bzw. die sich das von ihm geführte Verfahren richtet,
|
||||
Gelegenheit, sich zum Vorwurf des Verstoßes zu äußern. Der Europäische Datenschutzbeauftragte stützt seine
|
||||
Entscheidungen nur auf die Elemente und Umstände, zu denen sich die betreffenden Parteien äußern können.
|
||||
Beschwerdeführer, soweit vorhanden, müssen in das Verfahren eng einbezogen werden.
|
||||
|
||||
|
||||
(5) Die Verteidigungsrechte der betroffenen Parteien werden während des Verfahrens in vollem Umfang gewahrt.
|
||||
Vorbehaltlich der legitimen Interessen von Einzelpersonen oder Unternehmen im Hinblick auf den Schutz ihrer
|
||||
personenbezogenen Daten oder Geschäftsgeheimnisse haben die betroffenen Parteien Anspruch auf Einsicht in die
|
||||
Unterlagen des Europäischen Datenschutzbeauftragten.
|
||||
|
||||
|
||||
(6) Das Aufkommen aus den nach diesem Artikel verhängten Geldbußen trägt zum Gesamthaushalt der Union bei. Die
|
||||
Geldbußen dürfen nicht den wirksamen Betrieb des Organs, der Einrichtung oder der sonstigen Stelle der Union
|
||||
beeinträchtigen, dem bzw. der die Geldbuße auferlegt wurde.
|
||||
|
||||
|
||||
(7) Der Europäische Datenschutzbeauftragte macht der Kommission jährlich Mitteilung über die Geldbußen, die er nach
|
||||
Maßgabe dieses Artikels verhängt hat, und über die von ihm eingeleiteten Rechtsstreitigkeiten oder Gerichtsverfahren.
|
||||
|
||||
|
||||
Artikel 101
|
||||
|
||||
|
||||
Geldbußen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck
|
||||
|
||||
|
||||
(1) Die Kommission kann gegen Anbieter von KI-Modellen mit allgemeinem Verwendungszweck Geldbußen von bis zu
|
||||
3 % ihres gesamten weltweiten Jahresumsatzes im vorangegangenen Geschäftsjahr oder 15 000 000 EUR verhängen, je
|
||||
nachdem, welcher Betrag höher ist, wenn sie feststellt, dass der Anbieter vorsätzlich oder fahrlässig
|
||||
|
||||
|
||||
a)gegen die einschlägigen Bestimmungen dieser Verordnung verstoßen hat;
|
||||
|
||||
|
||||
b)der Anforderung eines Dokuments oder von Informationen gemäß Artikel 91 nicht nachgekommen ist oder falsche,
|
||||
unvollständige oder irreführende Informationen bereitgestellt hat;
|
||||
|
||||
|
||||
c) einer gemäß Artikel 93 geforderten Maßnahme nicht nachgekommen ist;
|
||||
|
||||
# ABl. L vom 12.7.2024 DE
|
||||
|
||||
ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj) 117/
|
||||
|
||||
|
||||
|
||||
d)der Kommission keinen Zugang zu dem KI-Modell mit allgemeinem Verwendungszweck oder dem KI-Modell mit
|
||||
allgemeinem Verwendungszweck mit systemischem Risiko gewährt hat, um eine Bewertung gemäß Artikel 92
|
||||
durchzuführen.
|
||||
|
||||
|
||||
Bei der Festsetzung der Höhe der Geldbuße oder des Zwangsgelds wird der Art, der Schwere und der Dauer des Verstoßes
|
||||
sowie den Grundsätzen der Verhältnismäßigkeit und der Angemessenheit gebührend Rechnung getragen. Die Kommission
|
||||
berücksichtigt außerdem Verpflichtungen, die gemäß Artikel 93 Absatz 3 oder in den einschlägigen Praxisleitfäden nach
|
||||
Artikel 56 gemacht wurden.
|
||||
|
||||
|
||||
(2) Vor der Annahme einer Entscheidung nach Absatz 1 teilt die Kommission dem Anbieter des KI-Modells mit
|
||||
allgemeinem Verwendungszweck ihre vorläufige Beurteilung mit und gibt ihm Gelegenheit, Stellung zu nehmen.
|
||||
|
||||
|
||||
(3) Die gemäß diesem Artikel verhängten Geldbußen müssen wirksam, verhältnismäßig und abschreckend sein.
|
||||
|
||||
|
||||
(4) Informationen über gemäß diesem Artikel verhängte Geldbußen werden gegebenenfalls dem KI-Gremium mitgeteilt.
|
||||
|
||||
|
||||
(5) Der Gerichtshof der Europäischen Union hat die unbeschränkte Befugnis zur Überprüfung der Entscheidungen der
|
||||
Kommission über die Festsetzung einer Geldbuße gemäß diesem Artikel. Er kann die verhängte Geldbuße aufheben,
|
||||
herabsetzen oder erhöhen.
|
||||
|
||||
|
||||
(6) Die Kommission erlässt Durchführungsrechtsakte mit detaillierten Regelungen und Verfahrensgarantien für die
|
||||
Verfahren im Hinblick auf den möglichen Erlass von Beschlüssen gemäß Absatz 1 dieses Artikels. Diese Durchführungs-
|
||||
rechtsakte werden gemäß dem in Artikel 98 Absatz 2 genannten Prüfverfahren erlassen.
|
||||
|
||||
|
||||
|
||||
|
||||
|
||||
@@ -0,0 +1,451 @@
|
||||
KAPITEL XIII
|
||||
SCHLUSSBESTIMMUNGEN
|
||||
|
||||
|
||||
Artikel 102
|
||||
|
||||
|
||||
Änderung der Verordnung (EG) Nr. 300/
|
||||
|
||||
|
||||
In Artikel 4 Absatz 3 der Verordnung (EG) Nr. 300/2008 wird folgender Unterabsatz angefügt:
|
||||
|
||||
|
||||
„Beim Erlass detaillierter Maßnahmen, die technische Spezifikationen und Verfahren für die Genehmigung und den Einsatz
|
||||
von Sicherheitsausrüstung betreffen, bei der auch Systeme der künstlichen Intelligenz im Sinne der Verordnung (EU)
|
||||
2024/1689 des Europäischen Parlaments und des Rates (*) zum Einsatz kommen, werden die in Kapitel III Abschnitt 2 jener
|
||||
Verordnung festgelegten Anforderungen berücksichtigt.
|
||||
|
||||
|
||||
(*) Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung
|
||||
harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU)
|
||||
Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien
|
||||
2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Verordnung über künstliche Intelligenz) (ABl. L, 2024/1689,
|
||||
12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj).“
|
||||
|
||||
|
||||
Artikel 103
|
||||
|
||||
|
||||
Änderung der Verordnung (EU) Nr. 167/
|
||||
|
||||
|
||||
In Artikel 17 Absatz 5 der Verordnung (EU) Nr. 167/2013 wird folgender Unterabsatz angefügt:
|
||||
|
||||
|
||||
„Beim Erlass delegierter Rechtsakte nach Unterabsatz 1, die sich auf Systeme der künstlichen Intelligenz beziehen, bei denen
|
||||
es sich um Sicherheitsbauteile im Sinne der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates (*)
|
||||
handelt, werden die in Kapitel III Abschnitt 2 jener Verordnung festgelegten Anforderungen berücksichtigt.
|
||||
|
||||
|
||||
(*) Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung
|
||||
harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU)
|
||||
Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien
|
||||
2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Verordnung über künstliche Intelligenz) (ABl. L, 2024/1689,
|
||||
12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj).“
|
||||
|
||||
# DE ABl. L vom 12.7.
|
||||
|
||||
118/144 ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj)
|
||||
|
||||
Artikel 104
|
||||
|
||||
|
||||
Änderung der Verordnung (EU) Nr. 168/
|
||||
|
||||
|
||||
In Artikel 22 Absatz 5 der Verordnung (EU) Nr. 168/2013 wird folgender Unterabsatz angefügt:
|
||||
|
||||
|
||||
„Beim Erlass delegierter Rechtsakte nach Unterabsatz 1, die sich auf Systeme der künstlichen Intelligenz beziehen, bei denen
|
||||
es sich um Sicherheitsbauteile im Sinne der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates (*)
|
||||
handelt, werden die in Kapitel III Abschnitt 2 jener Verordnung festgelegten Anforderungen berücksichtigt.
|
||||
|
||||
|
||||
(*) Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung
|
||||
harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU)
|
||||
Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien
|
||||
2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Verordnung über künstliche Intelligenz) (ABl. L, 2024/1689,
|
||||
12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj).“
|
||||
|
||||
|
||||
Artikel 105
|
||||
|
||||
|
||||
Änderung der Richtlinie 2014/90/EU
|
||||
|
||||
|
||||
In Artikel 8 der Richtlinie 2014/90/EU wird folgender Absatz angefügt:
|
||||
|
||||
|
||||
„(5) Bei Systemen der künstlichen Intelligenz, bei denen es sich um Sicherheitsbauteile im Sinne der Verordnung (EU)
|
||||
2024/1689 des Europäischen Parlaments und des Rates (*) handelt, berücksichtigt die Kommission bei der Ausübung ihrer
|
||||
Tätigkeiten nach Absatz 1 und bei Erlass technischer Spezifikationen und Prüfnormen nach den Absätzen 2 und 3 die in
|
||||
Kapitel III Abschnitt 2 jener Verordnung festgelegten Anforderungen.
|
||||
|
||||
|
||||
(*) Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung
|
||||
harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU)
|
||||
Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien
|
||||
2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Verordnung über künstliche Intelligenz) (ABl. L, 2024/1689,
|
||||
12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj).“
|
||||
|
||||
|
||||
Artikel 106
|
||||
|
||||
|
||||
Änderung der Richtlinie (EU) 2016/
|
||||
|
||||
|
||||
In Artikel 5 der Richtlinie (EU) 2016/797 wird folgender Absatz angefügt:
|
||||
|
||||
|
||||
„(12) Beim Erlass von delegierten Rechtsakten nach Absatz 1 und von Durchführungsrechtsakten nach Absatz 11, die
|
||||
sich auf Systeme der künstlichen Intelligenz beziehen, bei denen es sich um Sicherheitsbauteile im Sinne der Verordnung
|
||||
(EU) 2024/1689 des Europäischen Parlaments und des Rates (*) handelt, werden die in Kapitel III Abschnitt 2 jener
|
||||
Verordnung festgelegten Anforderungen berücksichtigt.
|
||||
|
||||
|
||||
(*) Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung
|
||||
harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU)
|
||||
Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien
|
||||
2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Verordnung über künstliche Intelligenz) (ABl. L, 2024/1689,
|
||||
12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj).“
|
||||
|
||||
# ABl. L vom 12.7.2024 DE
|
||||
|
||||
ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj) 119/
|
||||
|
||||
|
||||
|
||||
Artikel 107
|
||||
|
||||
|
||||
Änderung der Verordnung (EU) 2018/
|
||||
|
||||
|
||||
In Artikel 5 der Verordnung (EU) 2018/858 wird folgender Absatz angefügt:
|
||||
|
||||
|
||||
„(4) Beim Erlass delegierter Rechtsakte nach Absatz 3, die sich auf Systeme der künstlichen Intelligenz beziehen, bei
|
||||
denen es sich um Sicherheitsbauteile im Sinne der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des
|
||||
Rates (*) handelt, werden die in Kapitel III Abschnitt 2 jener Verordnung festgelegten Anforderungen berücksichtigt.
|
||||
|
||||
|
||||
(*) Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung
|
||||
harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU)
|
||||
Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien
|
||||
2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Verordnung über künstliche Intelligenz) (ABl. L, 2024/1689,
|
||||
12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj).“
|
||||
|
||||
|
||||
Artikel 108
|
||||
|
||||
|
||||
Änderungen der Verordnung (EU) 2018/
|
||||
|
||||
|
||||
Die Verordnung (EU) 2018/1139 wird wie folgt geändert:
|
||||
|
||||
|
||||
1.In Artikel 17 wird folgender Absatz angefügt:
|
||||
|
||||
|
||||
„(3) Unbeschadet des Absatzes 2 werden beim Erlass von Durchführungsrechtsakten nach Absatz 1, die sich auf
|
||||
Systeme der künstlichen Intelligenz beziehen, bei denen es sich um Sicherheitsbauteile im Sinne der Verordnung (EU)
|
||||
2024/1689 des Europäischen Parlaments und des Rates (*) handelt, die in Kapitel III Abschnitt 2 jener Verordnung
|
||||
festgelegten Anforderungen berücksichtigt.
|
||||
|
||||
|
||||
(*) Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung
|
||||
harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008,
|
||||
(EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der
|
||||
Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Verordnung über künstliche Intelligenz) (ABl. L,
|
||||
2024/1689, 12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj).“
|
||||
|
||||
|
||||
2.In Artikel 19 wird folgender Absatz angefügt:
|
||||
|
||||
|
||||
„(4) Beim Erlass delegierter Rechtsakte nach den Absätzen 1 und 2, die sich auf Systeme der künstlichen Intelligenz
|
||||
beziehen, bei denen es sich um Sicherheitsbauteile im Sinne der Verordnung (EU) 2024/1689 handelt, werden die in
|
||||
Kapitel III Abschnitt 2 jener Verordnung festgelegten Anforderungen berücksichtigt.“
|
||||
|
||||
|
||||
3.In Artikel 43 wird folgender Absatz angefügt:
|
||||
|
||||
|
||||
„(4) Beim Erlass von Durchführungsrechtsakten nach Absatz 1, die sich auf Systeme der künstlichen Intelligenz
|
||||
beziehen, bei denen es sich um Sicherheitsbauteile im Sinne der Verordnung (EU) 2024/1689 handelt, werden die in
|
||||
Kapitel III Abschnitt 2 jener Verordnung festgelegten Anforderungen berücksichtigt.“
|
||||
|
||||
|
||||
4.In Artikel 47 wird folgender Absatz angefügt:
|
||||
|
||||
|
||||
„(3) Beim Erlass delegierter Rechtsakte nach den Absätzen 1 und 2, die sich auf Systeme der künstlichen Intelligenz
|
||||
beziehen, bei denen es sich um Sicherheitsbauteile im Sinne der Verordnung (EU) 2024/1689 handelt, werden die in
|
||||
Kapitel III Abschnitt 2 jener Verordnung festgelegten Anforderungen berücksichtigt.“
|
||||
|
||||
|
||||
5.In Artikel 57 wird folgender Unterabsatz angefügt:
|
||||
|
||||
|
||||
„Beim Erlass solcher Durchführungsrechtsakte, die sich auf Systeme der künstlichen Intelligenz beziehen, bei denen es
|
||||
sich um Sicherheitsbauteile im Sinne der Verordnung (EU) 2024/1689 handelt, werden die in Kapitel III Abschnitt 2
|
||||
jener Verordnung festgelegten Anforderungen berücksichtigt.“
|
||||
|
||||
# DE ABl. L vom 12.7.
|
||||
|
||||
120/144 ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj)
|
||||
|
||||
|
||||
|
||||
6.In Artikel 58 wird folgender Absatz angefügt:
|
||||
|
||||
|
||||
„(3) Beim Erlass delegierter Rechtsakte nach den Absätzen 1 und 2, die sich auf Systeme der künstlichen Intelligenz
|
||||
beziehen, bei denen es sich um Sicherheitsbauteile im Sinne der Verordnung (EU) 2024/1689 handelt, werden die in
|
||||
Kapitel III Abschnitt 2 jener Verordnung festgelegten Anforderungen berücksichtigt.“
|
||||
|
||||
|
||||
Artikel 109
|
||||
|
||||
|
||||
Änderung der Verordnung (EU) 2019/
|
||||
|
||||
|
||||
In Artikel 11 der Verordnung (EU) 2019/2144 wird folgender Absatz angefügt:
|
||||
|
||||
|
||||
„(3) Beim Erlass von Durchführungsrechtsakten nach Absatz 2, die sich auf Systeme der künstlichen Intelligenz beziehen,
|
||||
bei denen es sich um Sicherheitsbauteile im Sinne der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des
|
||||
Rates (*) handelt, werden die in Kapitel III Abschnitt 2 jener Verordnung festgelegten Anforderungen berücksichtigt.
|
||||
|
||||
|
||||
(*) Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung
|
||||
harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU)
|
||||
Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien
|
||||
2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Verordnung über künstliche Intelligenz) (ABl. L, 2024/1689,
|
||||
12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj).“
|
||||
|
||||
|
||||
Artikel 110
|
||||
|
||||
|
||||
Änderung der Richtlinie (EU) 2020/
|
||||
|
||||
|
||||
In Anhang I der Richtlinie (EU) 2020/1828 des Europäischen Parlaments und des Rates (^58 ) wird die folgende Nummer
|
||||
angefügt:
|
||||
|
||||
|
||||
„68.Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung
|
||||
harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU)
|
||||
Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien
|
||||
2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Verordnung über künstliche Intelligenz) (ABl. L, 2024/1689,
|
||||
12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj).“
|
||||
|
||||
|
||||
Artikel 111
|
||||
Bereits in Verkehr gebrachte oder in Betrieb genommene KI-Systeme und bereits in Verkehr gebrachte KI-Modelle
|
||||
mit allgemeinem Verwendungszweck
|
||||
|
||||
|
||||
(1) Unbeschadet der Anwendung des Artikels 5 gemäß Artikel 113 Absatz 3 Buchstabe a werden KI-Systeme, bei denen
|
||||
es sich um Komponenten von IT-Großsystemen handelt, die mit den in Anhang X aufgeführten Rechtsakten eingerichtet
|
||||
wurden und vor dem 2. August 2027 in Verkehr gebracht oder in Betrieb genommen wurden, bis zum 31. Dezember 2030
|
||||
mit dieser Verordnung in Einklang gebracht.
|
||||
|
||||
|
||||
Die in dieser Verordnung festgelegten Anforderungen werden bei der Bewertung jedes IT-Großsystems, das mit den in
|
||||
Anhang X aufgeführten Rechtsakten eingerichtet wurde, berücksichtigt, wobei die Bewertung entsprechend den Vorgaben
|
||||
der jeweiligen Rechtsakte und bei Ersetzung oder Änderung dieser Rechtsakte erfolgt.
|
||||
|
||||
|
||||
(2) Unbeschadet der Anwendung des Artikels 5 gemäß Artikel 113 Absatz 3 Buchstabe a gilt diese Verordnung für
|
||||
Betreiber von Hochrisiko-KI-Systemen — mit Ausnahme der in Absatz 1 des vorliegenden Artikels genannten Systeme —,
|
||||
die vor dem 2. August 2026 in Verkehr gebracht oder in Betrieb genommen wurden, nur dann, wenn diese Systeme danach
|
||||
in ihrer Konzeption erheblich verändert wurden. In jedem Fall treffen die Anbieter und Betreiber von Hochrisiko-
|
||||
KI-Systemen, die bestimmungsgemäß von Behörden verwendet werden sollen, die erforderlichen Maßnahmen für die
|
||||
Erfüllung der Anforderungen und Pflichten dieser Verordnung bis zum 2. August 2030.
|
||||
|
||||
|
||||
(3) Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, die vor dem 2. August 2025 in Verkehr gebracht
|
||||
wurden, treffen die erforderlichen Maßnahmen für die Erfüllung der in dieser Verordnung festgelegten Pflichten bis zum
|
||||
|
||||
2. August 2027.
|
||||
|
||||
# ABl. L vom 12.7.2024 DE
|
||||
|
||||
ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj) 121/
|
||||
|
||||
|
||||
(^58 ) Richtlinie (EU) 2020/1828 des Europäischen Parlaments und des Rates vom 25. November 2020 über Verbandsklagen zum Schutz
|
||||
der Kollektivinteressen der Verbraucher und zur Aufhebung der Richtlinie 2009/22/EG (ABl. L 409 vom 4.12.2020, S. 1).
|
||||
|
||||
|
||||
|
||||
Artikel 112
|
||||
|
||||
|
||||
Bewertung und Überprüfung
|
||||
|
||||
|
||||
(1) Die Kommission prüft nach Inkrafttreten dieser Verordnung und bis zum Ende der Befugnisübertragung gemäß
|
||||
Artikel 97 einmal jährlich, ob eine Änderung der Liste in Anhang III und der Liste der verbotenen Praktiken im KI-Bereich
|
||||
gemäß Artikel 5 erforderlich ist. Die Kommission übermittelt die Ergebnisse dieser Bewertung dem Europäischen Parlament
|
||||
und dem Rat.
|
||||
|
||||
|
||||
(2) Bis zum 2. August 2028 und danach alle vier Jahre bewertet die Kommission Folgendes und erstattet dem
|
||||
Europäischen Parlament und dem Rat Bericht darüber:
|
||||
|
||||
|
||||
a)Notwendigkeit von Änderungen zur Erweiterung bestehender Bereiche oder zur Aufnahme neuer Bereiche in Anhang III:
|
||||
|
||||
|
||||
b)Änderungen der Liste der KI-Systeme, die zusätzliche Transparenzmaßnahmen erfordern, in Artikel 50;
|
||||
|
||||
|
||||
c) Änderungen zur Verbesserung der Wirksamkeit des Überwachungs- und Governance-Systems.
|
||||
|
||||
|
||||
(3) Bis zum 2. August 2029 und danach alle vier Jahre legt die Kommission dem Europäischen Parlament und dem Rat
|
||||
einen Bericht über die Bewertung und Überprüfung dieser Verordnung vor. Der Bericht enthält eine Beurteilung hinsichtlich
|
||||
der Durchsetzungsstruktur und der etwaigen Notwendigkeit einer Agentur der Union zur Lösung der festgestellten Mängel.
|
||||
Auf der Grundlage der Ergebnisse wird diesem Bericht gegebenenfalls ein Vorschlag zur Änderung dieser Verordnung
|
||||
beigefügt. Die Berichte werden veröffentlicht.
|
||||
|
||||
|
||||
(4) In den in Absatz 2 genannten Berichten wird insbesondere auf folgende Aspekte eingegangen:
|
||||
|
||||
|
||||
a)Sachstand bezüglich der finanziellen, technischen und personellen Ressourcen der zuständigen nationalen Behörden im
|
||||
Hinblick auf deren Fähigkeit, die ihnen auf der Grundlage dieser Verordnung übertragenen Aufgaben wirksam zu
|
||||
erfüllen;
|
||||
|
||||
|
||||
b)Stand der Sanktionen, insbesondere der Bußgelder nach Artikel 99 Absatz 1, die Mitgliedstaaten bei Verstößen gegen
|
||||
diese Verordnung verhängt haben;
|
||||
|
||||
|
||||
c) angenommene harmonisierte Normen und gemeinsame Spezifikationen, die zur Unterstützung dieser Verordnung
|
||||
erarbeitet wurden;
|
||||
|
||||
|
||||
d)Zahl der Unternehmen, die nach Inkrafttreten dieser Verordnung in den Markt eintreten, und wie viele davon KMU sind.
|
||||
|
||||
|
||||
(5) Bis zum 2. August 2028 bewertet die Kommission die Arbeitsweise des Büros für Künstliche Intelligenz und prüft, ob
|
||||
das Büro für Künstliche Intelligenz mit ausreichenden Befugnissen und Zuständigkeiten zur Erfüllung seiner Aufgaben
|
||||
ausgestattet wurde, und ob es für die ordnungsgemäße Durchführung und Durchsetzung dieser Verordnung zweckmäßig
|
||||
und erforderlich wäre, das Büro für Künstliche Intelligenz und seine Durchsetzungskompetenzen zu erweitern und seine
|
||||
Ressourcen aufzustocken. Die Kommission übermittelt dem Europäischen Parlament und dem Rat einen Bericht über ihre
|
||||
Bewertung.
|
||||
|
||||
|
||||
(6) Bis zum 2. August 2028 und danach alle vier Jahre legt die Kommission einen Bericht über die Überprüfung der
|
||||
Fortschritte bei der Entwicklung von Normungsdokumenten zur energieeffizienten Entwicklung von KI-Modellen mit
|
||||
allgemeinem Verwendungszweck vor und beurteilt die Notwendigkeit weiterer Maßnahmen oder Handlungen,
|
||||
einschließlich verbindlicher Maßnahmen oder Handlungen. Dieser Bericht wird dem Europäischen Parlament und dem
|
||||
Rat vorgelegt und veröffentlicht.
|
||||
|
||||
|
||||
(7) Bis zum 2. August 2028 und danach alle drei Jahre führt die Kommission eine Bewertung der Folgen und der
|
||||
Wirksamkeit der freiwilligen Verhaltenskodizes durch, mit denen die Anwendung der in Kapitel III Abschnitt 2 festgelegten
|
||||
Anforderungen an andere KI-Systeme als Hochrisiko-KI-Systeme und möglicherweise auch zusätzlicher Anforderungen an
|
||||
andere KI-Systeme als Hochrisiko-KI-Systeme, auch in Bezug auf deren ökologische Nachhaltigkeit, gefördert werden soll.
|
||||
|
||||
|
||||
(8) Für die Zwecke der Absätze 1 bis 7 übermitteln das KI-Gremium, die Mitgliedstaaten und die zuständigen nationalen
|
||||
Behörden der Kommission auf Anfrage unverzüglich die gewünschten Informationen.
|
||||
|
||||
|
||||
(9) Bei den in den Absätzen 1 bis 7 genannten Bewertungen und Überprüfungen berücksichtigt die Kommission die
|
||||
Standpunkte und Feststellungen des KI-Gremiums, des Europäischen Parlaments, des Rates und anderer einschlägiger Stellen
|
||||
oder Quellen.
|
||||
|
||||
# DE ABl. L vom 12.7.
|
||||
|
||||
122/144 ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj)
|
||||
|
||||
|
||||
|
||||
(10) Die Kommission legt erforderlichenfalls geeignete Vorschläge zur Änderung dieser Verordnung vor und
|
||||
berücksichtigt dabei insbesondere technologische Entwicklungen, die Auswirkungen von KI-Systemen auf die Gesundheit
|
||||
und Sicherheit und auf die Grundrechte und die Fortschritte in der Informationsgesellschaft.
|
||||
|
||||
|
||||
(11) Als Orientierung für die in den Absätzen 1 bis 7 genannten Bewertungen und Überprüfungen entwickelt das Büro
|
||||
für Künstliche Intelligenz ein Ziel und eine partizipative Methode für die Bewertung der Risikoniveaus anhand der in den
|
||||
jeweiligen Artikeln genannten Kriterien und für die Einbeziehung neuer Systeme in
|
||||
|
||||
|
||||
a)die Liste gemäß Anhang III, einschließlich der Erweiterung bestehender Bereiche oder der Aufnahme neuer Bereiche in
|
||||
diesen Anhang;
|
||||
|
||||
|
||||
b)die Liste der verbotenen Praktiken gemäß Artikel 5; und
|
||||
|
||||
|
||||
c) die Liste der KI-Systeme, die zusätzliche Transparenzmaßnahmen erfordern, in Artikel 50.
|
||||
(12) Eine Änderung dieser Verordnung im Sinne des Absatzes 10 oder entsprechende delegierte Rechtsakte oder
|
||||
Durchführungsrechtsakte, die sektorspezifische Rechtsvorschriften für eine unionsweite Harmonisierung gemäß An-
|
||||
hang I Abschnitt B betreffen, berücksichtigen die regulatorischen Besonderheiten des jeweiligen Sektors und die in der
|
||||
Verordnung festgelegten bestehenden Governance-, Konformitätsbewertungs- und Durchsetzungsmechanismen und
|
||||
-behörden.
|
||||
(13) Bis zum 2. August 2031 nimmt die Kommission unter Berücksichtigung der ersten Jahre der Anwendung der
|
||||
Verordnung eine Bewertung der Durchsetzung dieser Verordnung vor und erstattet dem Europäischen Parlament, dem Rat
|
||||
und dem Europäischen Wirtschafts- und Sozialausschuss darüber Bericht. Auf Grundlage der Ergebnisse wird dem Bericht
|
||||
gegebenenfalls ein Vorschlag zur Änderung dieser Verordnung beigefügt, der die Struktur der Durchsetzung und die
|
||||
Notwendigkeit einer Agentur der Union für die Lösung festgestellter Mängel betrifft.
|
||||
|
||||
|
||||
Artikel 113
|
||||
|
||||
|
||||
Inkrafttreten und Geltungsbeginn
|
||||
|
||||
|
||||
Diese Verordnung tritt am zwanzigsten Tag nach ihrer Veröffentlichung im Amtsblatt der Europäischen Union in Kraft.
|
||||
|
||||
|
||||
Sie gilt ab dem 2. August 2026.
|
||||
Jedoch:
|
||||
|
||||
|
||||
a)Die Kapitel I und II gelten ab dem 2. Februar 2025;
|
||||
|
||||
|
||||
b)Kapitel III Abschnitt 4, Kapitel V, Kapitel VII und Kapitel XII sowie Artikel 78 gelten ab dem 2. August 2025, mit
|
||||
Ausnahme des Artikels 101;
|
||||
|
||||
|
||||
c) Artikel 6 Absatz 1 und die entsprechenden Pflichten gemäß dieser Verordnung gelten ab dem 2. August 2027.
|
||||
|
||||
|
||||
Diese Verordnung ist in allen ihren Teilen verbindlich und gilt unmittelbar in jedem Mitgliedstaat.
|
||||
|
||||
|
||||
Geschehen zu Brüssel am 13. Juni 2024.
|
||||
|
||||
|
||||
Im Namen des Europäischen Parlaments
|
||||
Die Präsidentin
|
||||
|
||||
|
||||
R. METSOLA
|
||||
|
||||
|
||||
Im Namen des Rates
|
||||
Der Präsident
|
||||
|
||||
|
||||
M. MICHEL
|
||||
|
||||
# ABl. L vom 12.7.2024 DE
|
||||
|
||||
ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj) 123/
|
||||
|
||||
|
||||
File diff suppressed because it is too large
Load Diff
@@ -0,0 +1,548 @@
|
||||
KAPITEL I
|
||||
ALLGEMEINE BESTIMMUNGEN
|
||||
Artikel 1
|
||||
|
||||
|
||||
Gegenstand
|
||||
|
||||
|
||||
(1) Zweck dieser Verordnung ist es, das Funktionieren des Binnenmarkts zu verbessern und die Einführung einer auf den
|
||||
Menschen ausgerichteten und vertrauenswürdigen künstlichen Intelligenz (KI) zu fördern und gleichzeitig ein hohes
|
||||
Schutzniveau in Bezug auf Gesundheit, Sicherheit und die in der Charta verankerten Grundrechte, einschließlich
|
||||
Demokratie, Rechtsstaatlichkeit und Umweltschutz, vor schädlichen Auswirkungen von KI-Systemen in der Union zu
|
||||
gewährleisten und die Innovation zu unterstützen.
|
||||
|
||||
|
||||
(2) In dieser Verordnung wird Folgendes festgelegt:
|
||||
|
||||
|
||||
a)harmonisierte Vorschriften für das Inverkehrbringen, die Inbetriebnahme und die Verwendung von KI-Systemen in der
|
||||
Union;
|
||||
|
||||
# DE ABl. L vom 12.7.
|
||||
|
||||
44/144 ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj)
|
||||
|
||||
|
||||
|
||||
b)Verbote bestimmter Praktiken im KI-Bereich;
|
||||
|
||||
|
||||
c) besondere Anforderungen an Hochrisiko-KI-Systeme und Pflichten für Akteure in Bezug auf solche Systeme;
|
||||
|
||||
|
||||
d)harmonisierte Transparenzvorschriften für bestimmte KI-Systeme;
|
||||
|
||||
|
||||
e) harmonisierte Vorschriften für das Inverkehrbringen von KI-Modellen mit allgemeinem Verwendungszweck;
|
||||
|
||||
|
||||
f) Vorschriften für die Marktbeobachtung sowie die Governance und Durchsetzung der Marktüberwachung;
|
||||
|
||||
|
||||
g)Maßnahmen zur Innovationsförderung mit besonderem Augenmerk auf KMU, einschließlich Start-up-Unternehmen.
|
||||
|
||||
|
||||
Artikel 2
|
||||
|
||||
|
||||
Anwendungsbereich
|
||||
|
||||
|
||||
(1) Diese Verordnung gilt für
|
||||
|
||||
|
||||
a)Anbieter, die in der Union KI-Systeme in Verkehr bringen oder in Betrieb nehmen oder KI-Modelle mit allgemeinem
|
||||
Verwendungszweck in Verkehr bringen, unabhängig davon, ob diese Anbieter in der Union oder in einem Drittland
|
||||
niedergelassen sind;
|
||||
|
||||
|
||||
b)Betreiber von KI-Systemen, die ihren Sitz in der Union haben oder in der Union befinden;
|
||||
|
||||
|
||||
c) Anbieter und Betreiber von KI-Systemen, die ihren Sitz in einem Drittland haben oder sich in einem Drittland befinden,
|
||||
wenn die vom KI-System hervorgebrachte Ausgabe in der Union verwendet wird;
|
||||
|
||||
|
||||
d)Einführer und Händler von KI-Systemen;
|
||||
|
||||
|
||||
e) Produkthersteller, die KI-Systeme zusammen mit ihrem Produkt unter ihrem eigenen Namen oder ihrer Handelsmarke in
|
||||
Verkehr bringen oder in Betrieb nehmen;
|
||||
|
||||
|
||||
f) Bevollmächtigte von Anbietern, die nicht in der Union niedergelassen sind;
|
||||
|
||||
|
||||
g)betroffene Personen, die sich in der Union befinden.
|
||||
|
||||
|
||||
(2) Für KI-Systeme, die als Hochrisiko-KI-Systeme gemäß Artikel 6 Absatz 1 eingestuft sind und im Zusammenhang mit
|
||||
Produkten stehen, die unter die in Anhang I Abschnitt B aufgeführten Harmonisierungsrechtsvorschriften der Union fallen,
|
||||
gelten nur Artikel 6 Absatz 1, die Artikel 102 bis 109 und Artikel 112. Artikel 57 gilt nur, soweit die Anforderungen an
|
||||
Hochrisiko-KI-Systeme gemäß dieser Verordnung im Rahmen der genannten Harmonisierungsrechtsvorschriften der Union
|
||||
eingebunden wurden.
|
||||
|
||||
|
||||
(3) Diese Verordnung gilt nur in den unter das Unionsrecht fallenden Bereichen und berührt keinesfalls die
|
||||
Zuständigkeiten der Mitgliedstaaten in Bezug auf die nationale Sicherheit, unabhängig von der Art der Einrichtung, die von
|
||||
den Mitgliedstaaten mit der Wahrnehmung von Aufgaben im Zusammenhang mit diesen Zuständigkeiten betraut wurde.
|
||||
|
||||
|
||||
Diese Verordnung gilt nicht für KI-Systeme, wenn und soweit sie ausschließlich für militärische Zwecke, Verteidigungszwek-
|
||||
ke oder Zwecke der nationalen Sicherheit in Verkehr gebracht, in Betrieb genommen oder, mit oder ohne Änderungen,
|
||||
verwendet werden, unabhängig von der Art der Einrichtung, die diese Tätigkeiten ausübt.
|
||||
|
||||
|
||||
Diese Verordnung gilt nicht für KI-Systeme, die nicht in der Union in Verkehr gebracht oder in Betrieb genommen werden,
|
||||
wenn die Ausgaben in der Union ausschließlich für militärische Zwecke, Verteidigungszwecke oder Zwecke der nationalen
|
||||
Sicherheit verwendet werden, unabhängig von der Art der Einrichtung, die diese Tätigkeiten ausübt.
|
||||
|
||||
|
||||
(4) Diese Verordnung gilt weder für Behörden in Drittländern noch für internationale Organisationen, die gemäß
|
||||
Absatz 1 in den Anwendungsbereich dieser Verordnung fallen, soweit diese Behörden oder Organisationen KI-Systeme im
|
||||
Rahmen der internationalen Zusammenarbeit oder internationaler Übereinkünfte im Bereich der Strafverfolgung und
|
||||
justiziellen Zusammenarbeit mit der Union oder mit einem oder mehreren Mitgliedstaaten verwenden und sofern ein
|
||||
solches Drittland oder eine solche internationale Organisation angemessene Garantien hinsichtlich des Schutz der
|
||||
Privatsphäre, der Grundrechte und der Grundfreiheiten von Personen bietet.
|
||||
|
||||
|
||||
(5) Die Anwendung der Bestimmungen über die Haftung der Anbieter von Vermittlungsdiensten in Kapitel II der
|
||||
Verordnung 2022/2065 bleibt von dieser Verordnung unberührt.
|
||||
|
||||
# ABl. L vom 12.7.2024 DE
|
||||
|
||||
ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj) 45/
|
||||
|
||||
|
||||
|
||||
(6) Diese Verordnung gilt nicht für KI-Systeme oder KI-Modelle, einschließlich ihrer Ausgabe, die eigens für den
|
||||
alleinigen Zweck der wissenschaftlichen Forschung und Entwicklung entwickelt und in Betrieb genommen werden.
|
||||
|
||||
|
||||
(7) Die Rechtsvorschriften der Union zum Schutz personenbezogener Daten, der Privatsphäre und der Vertraulichkeit
|
||||
der Kommunikation gelten für die Verarbeitung personenbezogener Daten im Zusammenhang mit den in dieser
|
||||
Verordnung festgelegten Rechten und Pflichten. Diese Verordnung berührt nicht die Verordnung (EU) 2016/679 bzw. (EU)
|
||||
2018/1725 oder die Richtlinie 2002/58/EG bzw. (EU) 2016/680, unbeschadet des Artikels 10 Absatz 5 und des Artikels 59
|
||||
der vorliegenden Verordnung.
|
||||
|
||||
|
||||
(8) Diese Verordnung gilt nicht für Forschungs-, Test- und Entwicklungstätigkeiten zu KI-Systemen oder KI-Modellen,
|
||||
bevor diese in Verkehr gebracht oder in Betrieb genommen werden. Solche Tätigkeiten werden im Einklang mit dem
|
||||
geltenden Unionsrecht durchgeführt. Tests unter Realbedingungen fallen nicht unter diesen Ausschluss.
|
||||
|
||||
|
||||
(9) Diese Verordnung berührt nicht die Vorschriften anderer Rechtsakte der Union zum Verbraucherschutz und zur
|
||||
Produktsicherheit.
|
||||
|
||||
|
||||
(10) Diese Verordnung gilt nicht für die Pflichten von Betreibern, die natürliche Personen sind und KI-Systeme im
|
||||
Rahmen einer ausschließlich persönlichen und nicht beruflichen Tätigkeit verwenden.
|
||||
|
||||
|
||||
(11) Diese Verordnung hindert die Union oder die Mitgliedstaaten nicht daran, Rechts- oder Verwaltungsvorschriften
|
||||
beizubehalten oder einzuführen, die für die Arbeitnehmer im Hinblick auf den Schutz ihrer Rechte bei der Verwendung von
|
||||
KI-Systemen durch die Arbeitgeber vorteilhafter sind, oder die Anwendung von Kollektivvereinbarungen zu fördern oder
|
||||
zuzulassen, die für die Arbeitnehmer vorteilhafter sind.
|
||||
|
||||
|
||||
(12) Diese Verordnung gilt nicht für KI-Systeme, die unter freien und quelloffenen Lizenzen bereitgestellt werden, es sei
|
||||
denn, sie werden als Hochrisiko-KI-Systeme oder als ein KI-System, das unter Artikel 5 oder 50 fällt, in Verkehr gebracht
|
||||
oder in Betrieb genommen.
|
||||
|
||||
|
||||
Artikel 3
|
||||
|
||||
|
||||
Begriffsbestimmungen
|
||||
|
||||
|
||||
Für die Zwecke dieser Verordnung bezeichnet der Ausdruck
|
||||
|
||||
1. „KI-System“ ein maschinengestütztes System, das für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt ist
|
||||
und das nach seiner Betriebsaufnahme anpassungsfähig sein kann und das aus den erhaltenen Eingaben für explizite
|
||||
oder implizite Ziele ableitet, wie Ausgaben wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt
|
||||
werden, die physische oder virtuelle Umgebungen beeinflussen können;
|
||||
2. „Risiko“ die Kombination aus der Wahrscheinlichkeit des Auftretens eines Schadens und der Schwere dieses Schadens;
|
||||
3. „Anbieter“ eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System oder ein
|
||||
KI-Modell mit allgemeinem Verwendungszweck entwickelt oder entwickeln lässt und es unter ihrem eigenen Namen
|
||||
oder ihrer Handelsmarke in Verkehr bringt oder das KI-System unter ihrem eigenen Namen oder ihrer Handelsmarke in
|
||||
Betrieb nimmt, sei es entgeltlich oder unentgeltlich;
|
||||
4. „Betreiber“ eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System in
|
||||
eigener Verantwortung verwendet, es sei denn, das KI-System wird im Rahmen einer persönlichen und nicht
|
||||
beruflichen Tätigkeit verwendet;
|
||||
5. „Bevollmächtigter“ eine in der Union ansässige oder niedergelassene natürliche oder juristische Person, die vom
|
||||
Anbieter eines KI-Systems oder eines KI-Modells mit allgemeinem Verwendungszweck schriftlich dazu bevollmächtigt
|
||||
wurde und sich damit einverstanden erklärt hat, in seinem Namen die in dieser Verordnung festgelegten Pflichten zu
|
||||
erfüllen bzw. Verfahren durchzuführen;
|
||||
6. „Einführer“ eine in der Union ansässige oder niedergelassene natürliche oder juristische Person, die ein KI-System, das
|
||||
den Namen oder die Handelsmarke einer in einem Drittland niedergelassenen natürlichen oder juristischen Person
|
||||
trägt, in Verkehr bringt;
|
||||
7. „Händler“ eine natürliche oder juristische Person in der Lieferkette, die ein KI-System auf dem Unionsmarkt bereitstellt,
|
||||
mit Ausnahme des Anbieters oder des Einführers;
|
||||
8. „Akteur“ einen Anbieter, Produkthersteller, Betreiber, Bevollmächtigten, Einführer oder Händler;
|
||||
|
||||
# DE ABl. L vom 12.7.
|
||||
|
||||
46/144 ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj)
|
||||
|
||||
|
||||
9. „Inverkehrbringen“ die erstmalige Bereitstellung eines KI-Systems oder eines KI-Modells mit allgemeinem
|
||||
Verwendungszweck auf dem Unionsmarkt;
|
||||
|
||||
|
||||
10.„Bereitstellung auf dem Markt“ die entgeltliche oder unentgeltliche Abgabe eines KI-Systems oder eines KI-Modells mit
|
||||
allgemeinem Verwendungszweck zum Vertrieb oder zur Verwendung auf dem Unionsmarkt im Rahmen einer
|
||||
Geschäftstätigkeit;
|
||||
|
||||
|
||||
11.„Inbetriebnahme“ die Bereitstellung eines KI-Systems in der Union zum Erstgebrauch direkt an den Betreiber oder zum
|
||||
Eigengebrauch entsprechend seiner Zweckbestimmung;
|
||||
|
||||
|
||||
12.„Zweckbestimmung“ die Verwendung, für die ein KI-System laut Anbieter bestimmt ist, einschließlich der besonderen
|
||||
Umstände und Bedingungen für die Verwendung, entsprechend den vom Anbieter bereitgestellten Informationen in
|
||||
den Betriebsanleitungen, im Werbe- oder Verkaufsmaterial und in diesbezüglichen Erklärungen sowie in der
|
||||
technischen Dokumentation;
|
||||
|
||||
|
||||
13.„vernünftigerweise vorhersehbare Fehlanwendung“ die Verwendung eines KI-Systems in einer Weise, die nicht seiner
|
||||
Zweckbestimmung entspricht, die sich aber aus einem vernünftigerweise vorhersehbaren menschlichen Verhalten oder
|
||||
einer vernünftigerweise vorhersehbaren Interaktion mit anderen Systemen, auch anderen KI-Systemen, ergeben kann;
|
||||
|
||||
|
||||
14.„Sicherheitsbauteil“ einen Bestandteil eines Produkts oder KI-Systems, der eine Sicherheitsfunktion für dieses Produkt
|
||||
oder KI-System erfüllt oder dessen Ausfall oder Störung die Gesundheit und Sicherheit von Personen oder Eigentum
|
||||
gefährdet;
|
||||
|
||||
|
||||
15.„Betriebsanleitungen“ die Informationen, die der Anbieter bereitstellt, um den Betreiber insbesondere über die
|
||||
Zweckbestimmung und die ordnungsgemäße Verwendung eines KI-Systems zu informieren;
|
||||
|
||||
|
||||
16.„Rückruf eines KI-Systems“ jede Maßnahme, die auf die Rückgabe an den Anbieter oder auf die Außerbetriebsetzung
|
||||
oder Abschaltung eines den Betreibern bereits zur Verfügung gestellten KI-Systems abzielt;
|
||||
|
||||
|
||||
17.„Rücknahme eines KI-Systems“ jede Maßnahme, mit der die Bereitstellung eines in der Lieferkette befindlichen
|
||||
KI-Systems auf dem Markt verhindert werden soll;
|
||||
|
||||
|
||||
18.„Leistung eines KI-Systems“ die Fähigkeit eines KI-Systems, seine Zweckbestimmung zu erfüllen;
|
||||
|
||||
|
||||
19.„notifizierende Behörde“ die nationale Behörde, die für die Einrichtung und Durchführung der erforderlichen Verfahren
|
||||
für die Bewertung, Benennung und Notifizierung von Konformitätsbewertungsstellen und für deren Überwachung
|
||||
zuständig ist;
|
||||
|
||||
|
||||
20.„Konformitätsbewertung“ ein Verfahren mit dem bewertet wird, ob die in Titel III Abschnitt 2 festgelegten
|
||||
Anforderungen an ein Hochrisiko-KI-System erfüllt wurden;
|
||||
|
||||
|
||||
21.„Konformitätsbewertungsstelle“ eine Stelle, die Konformitätsbewertungstätigkeiten einschließlich Prüfungen, Zer-
|
||||
tifizierungen und Inspektionen durchführt und dabei als Dritte auftritt;
|
||||
|
||||
|
||||
22.„notifizierte Stelle“ eine Konformitätsbewertungsstelle, die gemäß dieser Verordnung und den anderen einschlägigen
|
||||
Harmonisierungsrechtsvorschriften der Union notifiziert wurde;
|
||||
|
||||
|
||||
23.„wesentliche Veränderung“ eine Veränderung eines KI-Systems nach dessen Inverkehrbringen oder Inbetriebnahme, die
|
||||
in der vom Anbieter durchgeführten ursprünglichen Konformitätsbewertung nicht vorgesehen oder geplant war und
|
||||
durch die die Konformität des KI-Systems mit den Anforderungen in Kapitel III Abschnitt 2 beeinträchtigt wird oder die
|
||||
zu einer Änderung der Zweckbestimmung führt, für die das KI-System bewertet wurde;
|
||||
|
||||
|
||||
24.„CE-Kennzeichnung“ eine Kennzeichnung, durch die ein Anbieter erklärt, dass ein KI-System die Anforderungen erfüllt,
|
||||
die in Kapitel III Abschnitt 2 und in anderen anwendbaren Harmonisierungsrechtsvorschriften, die die Anbringung
|
||||
dieser Kennzeichnung vorsehen, festgelegt sind;
|
||||
|
||||
|
||||
25.„System zur Beobachtung nach dem Inverkehrbringen“ alle Tätigkeiten, die Anbieter von KI-Systemen zur Sammlung
|
||||
und Überprüfung von Erfahrungen mit der Verwendung der von ihnen in Verkehr gebrachten oder in Betrieb
|
||||
genommenen KI-Systeme durchführen, um festzustellen, ob unverzüglich nötige Korrektur- oder Präventivmaßnahmen
|
||||
zu ergreifen sind;
|
||||
|
||||
|
||||
26.„Marktüberwachungsbehörde“ die nationale Behörde, die die Tätigkeiten durchführt und die Maßnahmen ergreift, die
|
||||
in der Verordnung (EU) 2019/1020 vorgesehen sind;
|
||||
|
||||
# ABl. L vom 12.7.2024 DE
|
||||
|
||||
ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj) 47/
|
||||
|
||||
|
||||
|
||||
27.„harmonisierte Norm“ bezeichnet eine harmonisierte Norm im Sinne des Artikels 2 Absatz 1 Buchstabe c der
|
||||
Verordnung (EU) Nr. 1025/2012;
|
||||
|
||||
|
||||
28.„gemeinsame Spezifikation“ eine Reihe technischer Spezifikationen im Sinne des Artikels 2 Nummer 4 der Verordnung
|
||||
(EU) Nr. 1025/2012, deren Befolgung es ermöglicht, bestimmte Anforderungen der vorliegenden Verordnung zu
|
||||
erfüllen;
|
||||
|
||||
|
||||
29.„Trainingsdaten“ Daten, die zum Trainieren eines KI-Systems verwendet werden, wobei dessen lernbare Parameter
|
||||
angepasst werden;
|
||||
|
||||
|
||||
30.„Validierungsdaten“ Daten, die zur Evaluation des trainierten KI-Systems und zur Einstellung seiner nicht erlernbaren
|
||||
Parameter und seines Lernprozesses verwendet werden, um unter anderem eine Unter- oder Überanpassung zu
|
||||
vermeiden;
|
||||
|
||||
|
||||
31.„Validierungsdatensatz“ einen separaten Datensatz oder einen Teil des Trainingsdatensatzes mit fester oder variabler
|
||||
Aufteilung;
|
||||
|
||||
|
||||
32.„Testdaten“ Daten, die für eine unabhängige Bewertung des KI-Systems verwendet werden, um die erwartete Leistung
|
||||
dieses Systems vor dessen Inverkehrbringen oder Inbetriebnahme zu bestätigen;
|
||||
|
||||
|
||||
33.„Eingabedaten“ die in ein KI-System eingespeisten oder von diesem direkt erfassten Daten, auf deren Grundlage das
|
||||
System eine Ausgabe hervorbringt;
|
||||
|
||||
|
||||
34.„biometrische Daten“ mit speziellen technischen Verfahren gewonnene personenbezogene Daten zu den physischen,
|
||||
physiologischen oder verhaltenstypischen Merkmalen einer natürlichen Person, wie etwa Gesichtsbilder oder
|
||||
daktyloskopische Daten;
|
||||
|
||||
|
||||
35.„biometrische Identifizierung“ die automatisierte Erkennung physischer, physiologischer, verhaltensbezogener oder
|
||||
psychologischer menschlicher Merkmale zum Zwecke der Feststellung der Identität einer natürlichen Person durch den
|
||||
Vergleich biometrischer Daten dieser Person mit biometrischen Daten von Personen, die in einer Datenbank gespeichert
|
||||
sind;
|
||||
|
||||
|
||||
36.„biometrische Verifizierung“ die automatisierte Eins-zu-eins-Verifizierung, einschließlich Authentifizierung, der
|
||||
Identität natürlicher Personen durch den Vergleich ihrer biometrischen Daten mit zuvor bereitgestellten biometrischen
|
||||
Daten;
|
||||
|
||||
|
||||
37.„besondere Kategorien personenbezogener Daten“ die in Artikel 9 Absatz 1der Verordnung (EU) 2016/679, Artikel 10
|
||||
der Richtlinie (EU) 2016/680 und Artikel 10 Absatz 1 der Verordnung (EU) 2018/1725 aufgeführten Kategorien
|
||||
personenbezogener Daten;
|
||||
|
||||
|
||||
38.„sensible operative Daten“ operative Daten im Zusammenhang mit Tätigkeiten zur Verhütung, Aufdeckung,
|
||||
Untersuchung oder Verfolgung von Straftaten, deren Offenlegung die Integrität von Strafverfahren gefährden könnte;
|
||||
|
||||
|
||||
39.„Emotionserkennungssystem“ ein KI-System, das dem Zweck dient, Emotionen oder Absichten natürlicher Personen
|
||||
auf der Grundlage ihrer biometrischen Daten festzustellen oder daraus abzuleiten;
|
||||
|
||||
|
||||
40.„System zur biometrischen Kategorisierung“ ein KI-System, das dem Zweck dient, natürliche Personen auf der
|
||||
Grundlage ihrer biometrischen Daten bestimmten Kategorien zuzuordnen, sofern es sich um eine Nebenfunktion eines
|
||||
anderen kommerziellen Dienstes handelt und aus objektiven technischen Gründen unbedingt erforderlich ist;
|
||||
|
||||
|
||||
41.„biometrisches Fernidentifizierungssystem“ ein KI-System, das dem Zweck dient, natürliche Personen ohne ihre aktive
|
||||
Einbeziehung und in der Regel aus der Ferne durch Abgleich der biometrischen Daten einer Person mit den in einer
|
||||
Referenzdatenbank gespeicherten biometrischen Daten zu identifizieren;
|
||||
|
||||
|
||||
42.„biometrisches Echtzeit-Fernidentifizierungssystem“ ein biometrisches Fernidentifizierungssystem, bei dem die
|
||||
Erfassung biometrischer Daten, der Abgleich und die Identifizierung ohne erhebliche Verzögerung erfolgen, und das
|
||||
zur Vermeidung einer Umgehung der Vorschriften nicht nur die sofortige Identifizierung, sondern auch eine
|
||||
Identifizierung mit begrenzten kurzen Verzögerungen umfasst;
|
||||
|
||||
|
||||
43.„System zur nachträglichen biometrischen Fernidentifizierung“ ein biometrisches Fernidentifizierungssystem, das kein
|
||||
biometrisches Echtzeit-Fernidentifizierungssystem ist;
|
||||
|
||||
|
||||
44.„öffentlich zugänglicher Raum“ einen einer unbestimmten Anzahl natürlicher Personen zugänglichen physischen Ort in
|
||||
privatem oder öffentlichem Eigentum, unabhängig davon, ob bestimmte Bedingungen für den Zugang gelten, und
|
||||
unabhängig von möglichen Kapazitätsbeschränkungen;
|
||||
|
||||
# DE ABl. L vom 12.7.
|
||||
|
||||
48/144 ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj)
|
||||
|
||||
|
||||
|
||||
45.„Strafverfolgungsbehörde“
|
||||
|
||||
|
||||
a)eine Behörde, die für die Verhütung, Ermittlung, Aufdeckung oder Verfolgung von Straftaten oder die Strafvollstrek-
|
||||
kung, einschließlich des Schutzes vor und der Abwehr von Gefahren für die öffentliche Sicherheit, zuständig ist,
|
||||
oder
|
||||
|
||||
|
||||
b)eine andere Stelle oder Einrichtung, der durch nationales Recht die Ausübung öffentlicher Gewalt und hoheitlicher
|
||||
Befugnisse zur Verhütung, Ermittlung, Aufdeckung oder Verfolgung von Straftaten oder zur Strafvollstreckung,
|
||||
einschließlich des Schutzes vor und der Abwehr von Gefahren für die öffentliche Sicherheit, übertragen wurde;
|
||||
|
||||
|
||||
46.„Strafverfolgung“ Tätigkeiten der Strafverfolgungsbehörden oder in deren Auftrag zur Verhütung, Ermittlung, Aufdek-
|
||||
kung oder Verfolgung von Straftaten oder zur Strafvollstreckung, einschließlich des Schutzes vor und der Abwehr von
|
||||
Gefahren für die öffentliche Sicherheit;
|
||||
|
||||
|
||||
47.„Büro für Künstliche Intelligenz“ die Aufgabe der Kommission, zur Umsetzung, Beobachtung und Überwachung von
|
||||
KI-Systemen und KI-Modellen mit allgemeinem Verwendungszweck und zu der im Beschluss der Kommission vom
|
||||
|
||||
24. Januar 2024 vorgesehenen KI-Governance beizutragen; Bezugnahmen in dieser Verordnung auf das Büro für
|
||||
Künstliche Intelligenz gelten als Bezugnahmen auf die Kommission;
|
||||
|
||||
|
||||
48.„zuständige nationale Behörde“ eine notifizierende Behörde oder eine Marktüberwachungsbehörde; in Bezug auf
|
||||
KI-Systeme, die von Organen, Einrichtungen und sonstigen Stellen der Union in Betrieb genommen oder verwendet
|
||||
werden, sind Bezugnahmen auf die zuständigen nationalen Behörden oder Marktüberwachungsbehörden in dieser
|
||||
Verordnung als Bezugnahmen auf den Europäischen Datenschutzbeauftragten auszulegen;
|
||||
|
||||
|
||||
49.„schwerwiegender Vorfall“ einen Vorfall oder eine Fehlfunktion bezüglich eines KI-Systems, das bzw. die direkt oder
|
||||
indirekt eine der nachstehenden Folgen hat:
|
||||
|
||||
|
||||
a)den Tod oder die schwere gesundheitliche Schädigung einer Person;
|
||||
|
||||
|
||||
b)eine schwere und unumkehrbare Störung der Verwaltung oder des Betriebs kritischer Infrastrukturen;
|
||||
|
||||
|
||||
c) die Verletzung von Pflichten aus den Unionsrechtsvorschriften zum Schutz der Grundrechte;
|
||||
|
||||
|
||||
d)schwere Sach- oder Umweltschäden;
|
||||
|
||||
|
||||
50.„personenbezogene Daten“ personenbezogene Daten im Sinne von Artikel 4 Nummer 1 der Verordnung
|
||||
(EU) 2016/679;
|
||||
|
||||
|
||||
51.„nicht personenbezogene Daten“ Daten, die keine personenbezogenen Daten im Sinne von Artikel 4 Nummer 1 der
|
||||
Verordnung (EU) 2016/679 sind;
|
||||
|
||||
|
||||
52.„Profiling“ das Profiling im Sinne von Artikel 4 Nummer 4 der Verordnung (EU) 2016/679;
|
||||
|
||||
|
||||
53.„Plan für einen Test unter Realbedingungen“ ein Dokument, in dem die Ziele, die Methodik, der geografische,
|
||||
bevölkerungsbezogene und zeitliche Umfang, die Überwachung, die Organisation und die Durchführung eines Tests
|
||||
unter Realbedingungen beschrieben werden;
|
||||
|
||||
|
||||
54.„Plan für das Reallabor“ ein zwischen dem teilnehmenden Anbieter und der zuständigen Behörde vereinbartes
|
||||
Dokument, in dem die Ziele, die Bedingungen, der Zeitrahmen, die Methodik und die Anforderungen für die im
|
||||
Reallabor durchgeführten Tätigkeiten beschrieben werden;
|
||||
|
||||
|
||||
55.„KI-Reallabor“ einen kontrollierten Rahmen, der von einer zuständigen Behörde geschaffen wird und den Anbieter oder
|
||||
zukünftige Anbieter von KI-Systemen nach einem Plan für das Reallabor einen begrenzten Zeitraum und unter
|
||||
regulatorischer Aufsicht nutzen können, um ein innovatives KI-System zu entwickeln, zu trainieren, zu validieren
|
||||
und — gegebenenfalls unter Realbedingungen — zu testen.
|
||||
|
||||
|
||||
56.„KI-Kompetenz“ die Fähigkeiten, die Kenntnisse und das Verständnis, die es Anbietern, Betreibern und Betroffenen
|
||||
unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung ermöglichen, KI-Systeme
|
||||
sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann,
|
||||
bewusst zu werden.
|
||||
|
||||
# ABl. L vom 12.7.2024 DE
|
||||
|
||||
ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj) 49/
|
||||
|
||||
|
||||
|
||||
57.„Test unter Realbedingungen“ den befristeten Test eines KI-Systems auf seine Zweckbestimmung, der unter
|
||||
Realbedingungen außerhalb eines Labors oder einer anderweitig simulierten Umgebung erfolgt, um zuverlässige und
|
||||
belastbare Daten zu erheben und die Konformität des KI-Systems mit den Anforderungen der vorliegenden Verordnung
|
||||
zu bewerten und zu überprüfen, wobei dieser Test nicht als Inverkehrbringen oder Inbetriebnahme des KI-Systems im
|
||||
Sinne dieser Verordnung gilt, sofern alle Bedingungen nach Artikel 57 oder Artikel 60 erfüllt sind;
|
||||
|
||||
|
||||
58.„Testteilnehmer“ für die Zwecke eines Tests unter Realbedingungen eine natürliche Person, die an dem Test unter
|
||||
Realbedingungen teilnimmt;
|
||||
|
||||
|
||||
59.„informierte Einwilligung“ eine aus freien Stücken erfolgende, spezifische, eindeutige und freiwillige Erklärung der
|
||||
Bereitschaft, an einem bestimmten Test unter Realbedingungen teilzunehmen, durch einen Testteilnehmer, nachdem
|
||||
dieser über alle Aspekte des Tests, die für die Entscheidungsfindung des Testteilnehmers bezüglich der Teilnahme
|
||||
relevant sind, aufgeklärt wurde;
|
||||
|
||||
|
||||
60.„Deepfake“ einen durch KI erzeugten oder manipulierten Bild-, Ton- oder Videoinhalt, der wirklichen Personen,
|
||||
Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder
|
||||
wahrheitsgemäß erscheinen würde;
|
||||
|
||||
|
||||
61.„weitverbreiteter Verstoß“ jede Handlung oder Unterlassung, die gegen das Unionsrecht verstößt, das die Interessen von
|
||||
Einzelpersonen schützt, und die
|
||||
|
||||
|
||||
a)die kollektiven Interessen von Einzelpersonen in mindestens zwei anderen Mitgliedstaaten als dem Mitgliedstaat
|
||||
schädigt oder zu schädigen droht, in dem
|
||||
|
||||
|
||||
i)die Handlung oder die Unterlassung ihren Ursprung hatte oder stattfand,
|
||||
|
||||
|
||||
ii)der betreffende Anbieter oder gegebenenfalls sein Bevollmächtigter sich befindet oder niedergelassen ist oder
|
||||
|
||||
|
||||
iii)der Betreiber niedergelassen ist, sofern der Verstoß vom Betreiber begangen wird,
|
||||
|
||||
|
||||
b)die kollektiven Interessen von Einzelpersonen geschädigt hat, schädigt oder schädigen könnte und allgemeine
|
||||
Merkmale aufweist, einschließlich derselben rechtswidrigen Praxis oder desselben verletzten Interesses, und
|
||||
gleichzeitig auftritt und von demselben Akteur in mindestens drei Mitgliedstaaten begangen wird;
|
||||
|
||||
|
||||
62.„kritische Infrastrukturen“ kritische Infrastrukturen im Sinne von Artikel 2 Nummer 4 der Richtlinie (EU) 2022/2557;
|
||||
|
||||
|
||||
63.„KI-Modell mit allgemeinem Verwendungszweck“ ein KI-Modell — einschließlich der Fälle, in denen ein solches
|
||||
KI-Modell mit einer großen Datenmenge unter umfassender Selbstüberwachung trainiert wird —, das eine erhebliche
|
||||
allgemeine Verwendbarkeit aufweist und in der Lage ist, unabhängig von der Art und Weise seines Inverkehrbringens
|
||||
ein breites Spektrum unterschiedlicher Aufgaben kompetent zu erfüllen, und das in eine Vielzahl nachgelagerter
|
||||
Systeme oder Anwendungen integriert werden kann, ausgenommen KI-Modelle, die vor ihrem Inverkehrbringen für
|
||||
Forschungs- und Entwicklungstätigkeiten oder die Konzipierung von Prototypen eingesetzt werden;
|
||||
|
||||
|
||||
64.„Fähigkeiten mit hoher Wirkkraft“ bezeichnet Fähigkeiten, die den bei den fortschrittlichsten KI-Modellen mit
|
||||
allgemeinem Verwendungszweck festgestellten Fähigkeiten entsprechen oder diese übersteigen;
|
||||
|
||||
|
||||
65.„systemisches Risiko“ ein Risiko, das für die Fähigkeiten mit hoher Wirkkraft von KI-Modellen mit allgemeinem
|
||||
Verwendungszweck spezifisch ist und aufgrund deren Reichweite oder aufgrund tatsächlicher oder vernünftigerweise
|
||||
vorhersehbarer negativer Folgen für die öffentliche Gesundheit, die Sicherheit, die öffentliche Sicherheit, die
|
||||
Grundrechte oder die Gesellschaft insgesamt erhebliche Auswirkungen auf den Unionsmarkt hat, die sich in großem
|
||||
Umfang über die gesamte Wertschöpfungskette hinweg verbreiten können;
|
||||
|
||||
|
||||
66.„KI-System mit allgemeinem Verwendungszweck“ ein KI-System, das auf einem KI-Modell mit allgemeinem
|
||||
Verwendungszweck beruht und in der Lage ist, einer Vielzahl von Zwecken sowohl für die direkte Verwendung als
|
||||
auch für die Integration in andere KI-Systeme zu dienen;
|
||||
|
||||
|
||||
67.„Gleitkommaoperation“ jede Rechenoperation oder jede Zuweisung mit Gleitkommazahlen, bei denen es sich um eine
|
||||
Teilmenge der reellen Zahlen handelt, die auf Computern typischerweise durch das Produkt aus einer ganzen Zahl mit
|
||||
fester Genauigkeit und einer festen Basis mit ganzzahligem Exponenten dargestellt wird;
|
||||
|
||||
|
||||
68.„nachgelagerter Anbieter“ einen Anbieter eines KI-Systems, einschließlich eines KI-Systems mit allgemeinem
|
||||
Verwendungszweck, das ein KI-Modell integriert, unabhängig davon, ob das KI-Modell von ihm selbst bereitgestellt
|
||||
und vertikal integriert wird oder von einer anderen Einrichtung auf der Grundlage vertraglicher Beziehungen
|
||||
bereitgestellt wird.
|
||||
|
||||
# DE ABl. L vom 12.7.
|
||||
|
||||
50/144 ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj)
|
||||
|
||||
Artikel 4
|
||||
|
||||
|
||||
KI-Kompetenz
|
||||
|
||||
|
||||
Die Anbieter und Betreiber von KI-Systemen ergreifen Maßnahmen, um nach besten Kräften sicherzustellen, dass ihr
|
||||
Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über
|
||||
ein ausreichendes Maß an KI-Kompetenz verfügen, wobei ihre technischen Kenntnisse, ihre Erfahrung, ihre Ausbildung und
|
||||
Schulung und der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei
|
||||
denen die KI-Systeme eingesetzt werden sollen, zu berücksichtigen sind.
|
||||
|
||||
|
||||
@@ -0,0 +1,196 @@
|
||||
KAPITEL II
|
||||
VERBOTENE PRAKTIKEN IM KI-BEREICH
|
||||
|
||||
|
||||
Artikel 5
|
||||
|
||||
|
||||
Verbotene Praktiken im KI-Bereich
|
||||
|
||||
|
||||
(1) Folgende Praktiken im KI-Bereich sind verboten:
|
||||
|
||||
|
||||
a)das Inverkehrbringen, die Inbetriebnahme oder die Verwendung eines KI-Systems, das Techniken der unterschwelligen
|
||||
Beeinflussung außerhalb des Bewusstseins einer Person oder absichtlich manipulative oder täuschende Techniken mit
|
||||
dem Ziel oder der Wirkung einsetzt, das Verhalten einer Person oder einer Gruppe von Personen wesentlich zu
|
||||
verändern, indem ihre Fähigkeit, eine fundierte Entscheidung zu treffen, deutlich beeinträchtigt wird, wodurch sie
|
||||
veranlasst wird, eine Entscheidung zu treffen, die sie andernfalls nicht getroffen hätte, und zwar in einer Weise, die dieser
|
||||
Person, einer anderen Person oder einer Gruppe von Personen erheblichen Schaden zufügt oder mit hinreichender
|
||||
Wahrscheinlichkeit zufügen wird.
|
||||
|
||||
|
||||
b)das Inverkehrbringen, die Inbetriebnahme oder die Verwendung eines KI-Systems, das eine Vulnerabilität oder
|
||||
Schutzbedürftigkeit einer natürlichen Person oder einer bestimmten Gruppe von Personen aufgrund ihres Alters, einer
|
||||
Behinderung oder einer bestimmten sozialen oder wirtschaftlichen Situation mit dem Ziel oder der Wirkung ausnutzt,
|
||||
das Verhalten dieser Person oder einer dieser Gruppe angehörenden Person in einer Weise wesentlich zu verändern, die
|
||||
dieser Person oder einer anderen Person erheblichen Schaden zufügt oder mit hinreichender Wahrscheinlichkeit zufügen
|
||||
wird;
|
||||
|
||||
|
||||
c) das Inverkehrbringen, die Inbetriebnahme oder die Verwendung von KI-Systemen zur Bewertung oder Einstufung von
|
||||
natürlichen Personen oder Gruppen von Personen über einen bestimmten Zeitraum auf der Grundlage ihres sozialen
|
||||
Verhaltens oder bekannter, abgeleiteter oder vorhergesagter persönlicher Eigenschaften oder Persönlichkeitsmerkmale,
|
||||
wobei die soziale Bewertung zu einem oder beiden der folgenden Ergebnisse führt:
|
||||
|
||||
|
||||
i)Schlechterstellung oder Benachteiligung bestimmter natürlicher Personen oder Gruppen von Personen in sozialen
|
||||
Zusammenhängen, die in keinem Zusammenhang zu den Umständen stehen, unter denen die Daten ursprünglich
|
||||
erzeugt oder erhoben wurden;
|
||||
|
||||
|
||||
ii)Schlechterstellung oder Benachteiligung bestimmter natürlicher Personen oder Gruppen von Personen in einer Weise,
|
||||
die im Hinblick auf ihr soziales Verhalten oder dessen Tragweite ungerechtfertigt oder unverhältnismäßig ist;
|
||||
|
||||
|
||||
d)das Inverkehrbringen, die Inbetriebnahme für diesen spezifischen Zweck oder die Verwendung eines KI-Systems zur
|
||||
Durchführung von Risikobewertungen in Bezug auf natürliche Personen, um das Risiko, dass eine natürliche Person eine
|
||||
Straftat begeht, ausschließlich auf der Grundlage des Profiling einer natürlichen Person oder der Bewertung ihrer
|
||||
persönlichen Merkmale und Eigenschaften zu bewerten oder vorherzusagen; dieses Verbot gilt nicht für KI-Systeme, die
|
||||
dazu verwendet werden, die durch Menschen durchgeführte Bewertung der Beteiligung einer Person an einer kriminellen
|
||||
Aktivität, die sich bereits auf objektive und überprüfbare Tatsachen stützt, die in unmittelbarem Zusammenhang mit
|
||||
einer kriminellen Aktivität stehen, zu unterstützen;
|
||||
|
||||
|
||||
e) das Inverkehrbringen, die Inbetriebnahme für diesen spezifischen Zweck oder die Verwendung von KI-Systemen, die
|
||||
Datenbanken zur Gesichtserkennung durch das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder von
|
||||
Überwachungsaufnahmen erstellen oder erweitern;
|
||||
|
||||
|
||||
f) das Inverkehrbringen, die Inbetriebnahme für diesen spezifischen Zweck oder die Verwendung von KI-Systemen zur
|
||||
Ableitung von Emotionen einer natürlichen Person am Arbeitsplatz und in Bildungseinrichtungen, es sei denn, die
|
||||
Verwendung des KI-Systems soll aus medizinischen Gründen oder Sicherheitsgründen eingeführt oder auf den Markt
|
||||
gebracht werden;
|
||||
|
||||
# ABl. L vom 12.7.2024 DE
|
||||
|
||||
ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj) 51/
|
||||
|
||||
|
||||
|
||||
g)das Inverkehrbringen, die Inbetriebnahme für diesen spezifischen Zweck oder die Verwendung von Systemen zur
|
||||
biometrischen Kategorisierung, mit denen natürliche Personen individuell auf der Grundlage ihrer biometrischen Daten
|
||||
kategorisiert werden, um ihre Rasse, ihre politischen Einstellungen, ihre Gewerkschaftszugehörigkeit, ihre religiösen
|
||||
oder weltanschaulichen Überzeugungen, ihr Sexualleben oder ihre sexuelle Ausrichtung zu erschließen oder abzuleiten;
|
||||
dieses Verbot gilt nicht für die Kennzeichnung oder Filterung rechtmäßig erworbener biometrischer Datensätze, wie z. B.
|
||||
Bilder auf der Grundlage biometrischer Daten oder die Kategorisierung biometrischer Daten im Bereich der
|
||||
Strafverfolgung;
|
||||
|
||||
|
||||
h)die Verwendung biometrischer Echtzeit-Fernidentifizierungssysteme in öffentlich zugänglichen Räumen zu Straf-
|
||||
verfolgungszwecken, außer wenn und insoweit dies im Hinblick auf eines der folgenden Ziele unbedingt erforderlich ist:
|
||||
|
||||
|
||||
i)gezielte Suche nach bestimmten Opfern von Entführung, Menschenhandel oder sexueller Ausbeutung sowie die
|
||||
Suche nach vermissten Personen;
|
||||
|
||||
|
||||
ii)Abwenden einer konkreten, erheblichen und unmittelbaren Gefahr für das Leben oder die körperliche Unversehrtheit
|
||||
natürlicher Personen oder einer tatsächlichen und bestehenden oder tatsächlichen und vorhersehbaren Gefahr eines
|
||||
Terroranschlags;
|
||||
|
||||
|
||||
iii)Aufspüren oder Identifizieren einer Person, die der Begehung einer Straftat verdächtigt wird, zum Zwecke der
|
||||
Durchführung von strafrechtlichen Ermittlungen oder von Strafverfahren oder der Vollstreckung einer Strafe für die
|
||||
in Anhang II aufgeführten Straftaten, die in dem betreffenden Mitgliedstaat nach dessen Recht mit einer
|
||||
Freiheitsstrafe oder einer freiheitsentziehenden Maßregel der Sicherung im Höchstmaß von mindestens vier Jahren
|
||||
bedroht ist.
|
||||
|
||||
|
||||
Unterabsatz 1 Buchstabe h gilt unbeschadet des Artikels 9 der Verordnung (EU) 2016/679 für die Verarbeitung
|
||||
biometrischer Daten zu anderen Zwecken als der Strafverfolgung.
|
||||
|
||||
|
||||
(2) Die Verwendung biometrischer Echtzeit-Fernidentifizierungssysteme in öffentlich zugänglichen Räumen zu
|
||||
Strafverfolgungszwecken im Hinblick auf die in Absatz 1 Unterabsatz 1 Buchstabe h genannten Ziele darf für die in
|
||||
jenem Buchstaben genannten Zwecke nur zur Bestätigung der Identität der speziell betroffenen Person erfolgen, wobei
|
||||
folgende Elemente berücksichtigt werden:
|
||||
|
||||
|
||||
a)die Art der Situation, die der möglichen Verwendung zugrunde liegt, insbesondere die Schwere, die Wahrscheinlichkeit
|
||||
und das Ausmaß des Schadens, der entstehen würde, wenn das System nicht eingesetzt würde;
|
||||
|
||||
|
||||
b)die Folgen der Verwendung des Systems für die Rechte und Freiheiten aller betroffenen Personen, insbesondere die
|
||||
Schwere, die Wahrscheinlichkeit und das Ausmaß solcher Folgen.
|
||||
|
||||
|
||||
Darüber hinaus sind bei der Verwendung biometrischer Echtzeit-Fernidentifizierungssysteme in öffentlich zugänglichen
|
||||
Räumen zu Strafverfolgungszwecken im Hinblick auf die in Absatz 1 Unterabsatz 1 Buchstabe h des vorliegenden Artikels
|
||||
genannten Ziele notwendige und verhältnismäßige Schutzvorkehrungen und Bedingungen für die Verwendung im Einklang
|
||||
mit nationalem Recht über die Ermächtigung ihrer Verwendung einzuhalten, insbesondere in Bezug auf die zeitlichen,
|
||||
geografischen und personenbezogenen Beschränkungen. Die Verwendung biometrischer Echtzeit-Fernidentifizierungs-
|
||||
systeme in öffentlich zugänglichen Räumen ist nur dann zu gestatten, wenn die Strafverfolgungsbehörde eine
|
||||
Folgenabschätzung im Hinblick auf die Grundrechte gemäß Artikel 27 abgeschlossen und das System gemäß Artikel 49
|
||||
in der EU-Datenbank registriert hat. In hinreichend begründeten dringenden Fällen kann jedoch mit der Verwendung
|
||||
solcher Systeme zunächst ohne Registrierung in der EU-Datenbank begonnen werden, sofern diese Registrierung
|
||||
unverzüglich erfolgt.
|
||||
|
||||
|
||||
(3) Für die Zwecke des Absatz 1 Unterabsatz 1 Buchstabe h und des Absatzes 2 ist für jede Verwendung eines
|
||||
biometrischen Echtzeit-Fernidentifizierungssystems in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken eine
|
||||
vorherige Genehmigung erforderlich, die von einer Justizbehörde oder einer unabhängigen Verwaltungsbehörde des
|
||||
Mitgliedstaats, in dem die Verwendung erfolgen soll, auf begründeten Antrag und gemäß den in Absatz 5 genannten
|
||||
detaillierten nationalen Rechtsvorschriften erteilt wird, wobei deren Entscheidung bindend ist. In hinreichend begründeten
|
||||
dringenden Fällen kann jedoch mit der Verwendung eines solchen Systems zunächst ohne Genehmigung begonnen werden,
|
||||
sofern eine solche Genehmigung unverzüglich, spätestens jedoch innerhalb von 24 Stunden beantragt wird. Wird eine
|
||||
solche Genehmigung abgelehnt, so wird die Verwendung mit sofortiger Wirkung eingestellt und werden alle Daten sowie
|
||||
die Ergebnisse und Ausgaben dieser Verwendung unverzüglich verworfen und gelöscht.
|
||||
|
||||
|
||||
Die zuständige Justizbehörde oder eine unabhängige Verwaltungsbehörde, deren Entscheidung bindend ist, erteilt die
|
||||
Genehmigung nur dann, wenn sie auf der Grundlage objektiver Nachweise oder eindeutiger Hinweise, die ihr vorgelegt
|
||||
werden, davon überzeugt ist, dass die Verwendung des betreffenden biometrischen Echtzeit-Fernidentifizierungssystems für
|
||||
das Erreichen eines der in Absatz 1 Unterabsatz 1 Buchstabe h genannten Ziele — wie im Antrag angegeben — notwendig
|
||||
und verhältnismäßig ist und insbesondere auf das in Bezug auf den Zeitraum sowie den geografischen und persönlichen
|
||||
Anwendungsbereich unbedingt erforderliche Maß beschränkt bleibt. Bei ihrer Entscheidung über den Antrag berücksichtigt
|
||||
|
||||
# DE ABl. L vom 12.7.
|
||||
|
||||
52/144 ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj)
|
||||
|
||||
diese Behörde die in Absatz 2 genannten Elemente. Eine Entscheidung, aus der sich eine nachteilige Rechtsfolge für eine
|
||||
Person ergibt, darf nicht ausschließlich auf der Grundlage der Ausgabe des biometrischen Echtzeit-Fernidentifizierungs-
|
||||
systems getroffen werden.
|
||||
|
||||
|
||||
(4) Unbeschadet des Absatzes 3 wird jede Verwendung eines biometrischen Echtzeit-Fernidentifizierungssystems in
|
||||
öffentlich zugänglichen Räumen zu Strafverfolgungszwecken der zuständigen Marktüberwachungsbehörde und der
|
||||
nationalen Datenschutzbehörde gemäß den in Absatz 5 genannten nationalen Vorschriften mitgeteilt. Die Mitteilung muss
|
||||
mindestens die in Absatz 6 genannten Angaben enthalten und darf keine sensiblen operativen Daten enthalten.
|
||||
|
||||
|
||||
(5) Ein Mitgliedstaat kann die Möglichkeit einer vollständigen oder teilweisen Ermächtigung zur Verwendung
|
||||
biometrischer Echtzeit-Fernidentifizierungssysteme in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken
|
||||
innerhalb der in Absatz 1 Unterabsatz 1 Buchstabe h sowie Absätze 2 und 3 aufgeführten Grenzen und unter den dort
|
||||
genannten Bedingungen vorsehen. Die betreffenden Mitgliedstaaten legen in ihrem nationalen Recht die erforderlichen
|
||||
detaillierten Vorschriften für die Beantragung, Erteilung und Ausübung der in Absatz 3 genannten Genehmigungen sowie
|
||||
für die entsprechende Beaufsichtigung und Berichterstattung fest. In diesen Vorschriften wird auch festgelegt, im Hinblick
|
||||
auf welche der in Absatz 1 Unterabsatz 1 Buchstabe h aufgeführten Ziele und welche der unter Buchstabe h Ziffer iii
|
||||
genannten Straftaten die zuständigen Behörden ermächtigt werden können, diese Systeme zu Strafverfolgungszwecken zu
|
||||
verwenden. Die Mitgliedstaaten teilen der Kommission diese Vorschriften spätestens 30 Tage nach ihrem Erlass mit. Die
|
||||
Mitgliedstaaten können im Einklang mit dem Unionsrecht strengere Rechtsvorschriften für die Verwendung biometrischer
|
||||
Fernidentifizierungssysteme erlassen.
|
||||
|
||||
|
||||
(6) Die nationalen Marktüberwachungsbehörden und die nationalen Datenschutzbehörden der Mitgliedstaaten, denen
|
||||
gemäß Absatz 4 die Verwendung biometrischer Echtzeit-Fernidentifizierungssysteme in öffentlich zugänglichen Räumen zu
|
||||
Strafverfolgungszwecken mitgeteilt wurden, legen der Kommission Jahresberichte über diese Verwendung vor. Zu diesem
|
||||
Zweck stellt die Kommission den Mitgliedstaaten und den nationalen Marktüberwachungs- und Datenschutzbehörden ein
|
||||
Muster zur Verfügung, das Angaben über die Anzahl der Entscheidungen der zuständigen Justizbehörden oder einer
|
||||
unabhängigen Verwaltungsbehörde, deren Entscheidung über Genehmigungsanträge gemäß Absatz 3 bindend ist, und
|
||||
deren Ergebnis enthält.
|
||||
|
||||
|
||||
(7) Die Kommission veröffentlicht Jahresberichte über die Verwendung biometrischer Echtzeit-Fernidentifizierungs-
|
||||
systeme in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken, die auf aggregierten Daten aus den Mitgliedstaaten
|
||||
auf der Grundlage der in Absatz 6 genannten Jahresberichte beruhen. Diese Jahresberichte dürfen keine sensiblen
|
||||
operativen Daten im Zusammenhang mit den damit verbundenen Strafverfolgungsmaßnahmen enthalten.
|
||||
|
||||
|
||||
(8) Dieser Artikel berührt nicht die Verbote, die gelten, wenn KI-Praktiken gegen andere Rechtsvorschriften der Union
|
||||
verstoßen.
|
||||
|
||||
|
||||
|
||||
|
||||
File diff suppressed because it is too large
Load Diff
@@ -0,0 +1,70 @@
|
||||
KAPITEL IV
|
||||
TRANSPARENZPFLICHTEN FÜR ANBIETER UND BETREIBER BESTIMMTER KI-SYSTEME
|
||||
|
||||
|
||||
Artikel 50
|
||||
Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme
|
||||
|
||||
|
||||
(1) Die Anbieter stellen sicher, dass KI-Systeme, die für die direkte Interaktion mit natürlichen Personen bestimmt sind,
|
||||
so konzipiert und entwickelt werden, dass die betreffenden natürlichen Personen informiert werden, dass sie mit einem
|
||||
KI-System interagieren, es sei denn, dies ist aus Sicht einer angemessen informierten, aufmerksamen und verständigen
|
||||
natürlichen Person aufgrund der Umstände und des Kontexts der Nutzung offensichtlich. Diese Pflicht gilt nicht für
|
||||
gesetzlich zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten zugelassene KI-Systeme, wenn geeignete
|
||||
Schutzvorkehrungen für die Rechte und Freiheiten Dritter bestehen, es sei denn, diese Systeme stehen der Öffentlichkeit zur
|
||||
Anzeige einer Straftat zur Verfügung.
|
||||
|
||||
|
||||
(2) Anbieter von KI-Systemen, einschließlich KI-Systemen mit allgemeinem Verwendungszweck, die synthetische
|
||||
Audio-, Bild-, Video- oder Textinhalte erzeugen, stellen sicher, dass die Ausgaben des KI-Systems in einem
|
||||
maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind. Die Anbieter
|
||||
sorgen dafür, dass — soweit technisch möglich — ihre technischen Lösungen wirksam, interoperabel, belastbar und
|
||||
zuverlässig sind und berücksichtigen dabei die Besonderheiten und Beschränkungen der verschiedenen Arten von Inhalten,
|
||||
die Umsetzungskosten und den allgemein anerkannten Stand der Technik, wie er in den einschlägigen technischen Normen
|
||||
zum Ausdruck kommen kann. Diese Pflicht gilt nicht, soweit die KI-Systeme eine unterstützende Funktion für die
|
||||
Standardbearbeitung ausführen oder die vom Betreiber bereitgestellten Eingabedaten oder deren Semantik nicht wesentlich
|
||||
verändern oder wenn sie zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten gesetzlich zugelassen sind.
|
||||
|
||||
|
||||
(3) Die Betreiber eines Emotionserkennungssystems oder eines Systems zur biometrischen Kategorisierung informieren
|
||||
die davon betroffenen natürlichen Personen über den Betrieb des Systems und verarbeiten personenbezogene Daten gemäß
|
||||
den Verordnungen (EU) 2016/679 und (EU) 2018/1725 und der Richtlinie (EU) 2016/680. Diese Pflicht gilt nicht für
|
||||
gesetzlich zur Aufdeckung, Verhütung oder Ermittlung von Straftaten zugelassene KI-Systeme, die zur biometrischen
|
||||
Kategorisierung und Emotionserkennung im Einklang mit dem Unionsrecht verwendet werden, sofern geeignete
|
||||
Schutzvorkehrungen für die Rechte und Freiheiten Dritter bestehen.
|
||||
|
||||
|
||||
(4) Betreiber eines KI-Systems, das Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert, die ein Deepfake sind, müssen
|
||||
offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden. Diese Pflicht gilt nicht, wenn die Verwendung zur
|
||||
Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten gesetzlich zugelassen ist. Ist der Inhalt Teil eines
|
||||
offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder analogen Werks oder Programms, so beschränken sich
|
||||
die in diesem Absatz festgelegten Transparenzpflichten darauf, das Vorhandensein solcher erzeugten oder manipulierten
|
||||
Inhalte in geeigneter Weise offenzulegen, die die Darstellung oder den Genuss des Werks nicht beeinträchtigt.
|
||||
|
||||
|
||||
Betreiber eines KI-Systems, das Text erzeugt oder manipuliert, der veröffentlicht wird, um die Öffentlichkeit über
|
||||
Angelegenheiten von öffentlichem Interesse zu informieren, müssen offenlegen, dass der Text künstlich erzeugt oder
|
||||
manipuliert wurde. Diese Pflicht gilt nicht, wenn die Verwendung zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung
|
||||
von Straftaten gesetzlich zugelassen ist oder wenn die durch KI erzeugten Inhalte einem Verfahren der menschlichen
|
||||
Überprüfung oder redaktionellen Kontrolle unterzogen wurden und wenn eine natürliche oder juristische Person die
|
||||
redaktionelle Verantwortung für die Veröffentlichung der Inhalte trägt.
|
||||
|
||||
# DE ABl. L vom 12.7.
|
||||
|
||||
82/144 ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj)
|
||||
|
||||
(5) Die in den Absätzen 1 bis 4 genannten Informationen werden den betreffenden natürlichen Personen spätestens zum
|
||||
Zeitpunkt der ersten Interaktion oder Aussetzung in klarer und eindeutiger Weise bereitgestellt. Die Informationen müssen
|
||||
den geltenden Barrierefreiheitsanforderungen entsprechen.
|
||||
|
||||
|
||||
(6) Die Absätze 1 bis 4 lassen die in Kapitel III festgelegten Anforderungen und Pflichten unberührt und berühren nicht
|
||||
andere Transparenzpflichten, die im Unionsrecht oder dem nationalen Recht für Betreiber von KI-Systemen festgelegt sind.
|
||||
|
||||
|
||||
(7) Das Büro für Künstliche Intelligenz fördert und erleichtert die Ausarbeitung von Praxisleitfäden auf Unionsebene, um
|
||||
die wirksame Umsetzung der Pflichten in Bezug auf die Feststellung und Kennzeichnung künstlich erzeugter oder
|
||||
manipulierter Inhalte zu erleichtern. Die Kommission kann Durchführungsrechtsakte zur Genehmigung dieser
|
||||
Praxisleitfäden nach dem in Artikel 56 Absatz 6 festgelegten Verfahren erlassen. Hält sie einen Kodex für nicht
|
||||
angemessen, so kann die Kommission einen Durchführungsrechtsakt gemäß dem in Artikel 98 Absatz 2 genannten
|
||||
Prüfverfahren erlassen, in dem gemeinsame Vorschriften für die Umsetzung dieser Pflichten festgelegt werden.
|
||||
@@ -0,0 +1,393 @@
|
||||
KAPITEL V
|
||||
KI-MODELLE MIT ALLGEMEINEM VERWENDUNGSZWECK
|
||||
|
||||
|
||||
ABSCHNITT 1
|
||||
|
||||
|
||||
Einstufungsvorschriften
|
||||
|
||||
|
||||
Artikel 51
|
||||
|
||||
|
||||
Einstufung von KI-Modellen mit allgemeinem Verwendungszweck als KI-Modelle mit allgemeinem Verwen-
|
||||
dungszweck mit systemischem Risiko
|
||||
|
||||
|
||||
(1) Ein KI-Modell mit allgemeinem Verwendungszweck wird als KI-Modell mit allgemeinem Verwendungszweck mit
|
||||
systemischem Risiko eingestuft, wenn eine der folgenden Bedingungen erfüllt ist:
|
||||
|
||||
|
||||
a)Es verfügt über Fähigkeiten mit hohem Wirkungsgrad, die mithilfe geeigneter technischer Instrumente und Methoden,
|
||||
einschließlich Indikatoren und Benchmarks, bewertet werden;
|
||||
|
||||
|
||||
b)einem unter Berücksichtigung der in Anhang XIII festgelegten Kriterien von der Kommission von Amts wegen oder
|
||||
aufgrund einer qualifizierten Warnung des wissenschaftlichen Gremiums getroffenen Entscheidung zufolge verfügt es
|
||||
über Fähigkeiten oder eine Wirkung, die denen gemäß Buchstabe a entsprechen.
|
||||
|
||||
|
||||
(2) Bei einem KI-Modell mit allgemeinem Verwendungszweck wird angenommen, dass es über Fähigkeiten mit hohem
|
||||
Wirkungsgrad gemäß Absatz 1 Buchstabe a verfügt, wenn die kumulierte Menge der für sein Training verwendeten
|
||||
Berechnungen, gemessen in Gleitkommaoperationen, mehr als 10^25 beträgt.
|
||||
|
||||
|
||||
(3) Die Kommission erlässt gemäß Artikel 97 delegierte Rechtsakte zur Änderung der in den Absätzen 1 und 2 des
|
||||
vorliegenden Artikels aufgeführten Schwellenwerte sowie zur Ergänzung von Benchmarks und Indikatoren vor dem
|
||||
Hintergrund sich wandelnder technologischer Entwicklungen, wie z. B. algorithmische Verbesserungen oder erhöhte
|
||||
Hardwareeffizienz, wenn dies erforderlich ist, damit diese Schwellenwerte dem Stand der Technik entsprechen.
|
||||
|
||||
|
||||
Artikel 52
|
||||
|
||||
|
||||
Verfahren
|
||||
|
||||
|
||||
(1) Erfüllt ein KI-Modell mit allgemeinem Verwendungszweck die Bedingung gemäß Artikel 51 Absatz 1 Buchstabe a, so
|
||||
teilt der betreffende Anbieter dies der Kommission unverzüglich, in jedem Fall jedoch innerhalb von zwei Wochen,
|
||||
nachdem diese Bedingung erfüllt ist oder bekannt wird, dass sie erfüllt wird, mit. Diese Mitteilung muss die Informationen
|
||||
enthalten, die erforderlich sind, um nachzuweisen, dass die betreffende Bedingung erfüllt ist. Erlangt die Kommission
|
||||
Kenntnis von einem KI-Modell mit allgemeinem Verwendungszweck, das systemische Risiken birgt, die ihr nicht mitgeteilt
|
||||
wurden, so kann sie entscheiden, es als Modell mit systemischen Risiken auszuweisen.
|
||||
|
||||
|
||||
(2) Der Anbieter eines KI-Modells mit allgemeinem Verwendungszweck, das die in Artikel 51 Absatz 1
|
||||
Buchstabe a genannte Bedingung erfüllt, kann in seiner Mitteilung hinreichend begründete Argumente vorbringen, um
|
||||
nachzuweisen, dass das KI-Modell mit allgemeinem Verwendungszweck, obwohl es diese Bedingung erfüllt, aufgrund seiner
|
||||
besonderen Merkmale außerordentlicherweise keine systemischen Risiken birgt und daher nicht als KI-Modell mit
|
||||
allgemeinem Verwendungszweck mit systemischem Risiko eingestuft werden sollte.
|
||||
|
||||
# ABl. L vom 12.7.2024 DE
|
||||
|
||||
ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj) 83/
|
||||
|
||||
|
||||
|
||||
(3) Gelangt die Kommission zu dem Schluss, dass die gemäß Absatz 2 vorgebrachten Argumente nicht hinreichend
|
||||
begründet sind, und konnte der betreffende Anbieter nicht nachweisen, dass das KI-Modell mit allgemeinem
|
||||
Verwendungszweck aufgrund seiner besonderen Merkmale keine systemischen Risiken aufweist, weist sie diese Argumente
|
||||
zurück, und das KI-Modell mit allgemeinem Verwendungszweck gilt als KI-Modell mit allgemeiner Zweckbestimmung mit
|
||||
systemischem Risiko.
|
||||
|
||||
|
||||
(4) Die Kommission kann ein KI-Modell mit allgemeinem Verwendungszweck von Amts wegen oder aufgrund einer
|
||||
qualifizierten Warnung des wissenschaftlichen Gremiums gemäß Artikel 90 Absatz 1 Buchstabe a auf der Grundlage der in
|
||||
Anhang XIII festgelegten Kriterien als KI-Modell mit systemischen Risiken ausweisen.
|
||||
|
||||
|
||||
Die Kommission ist befugt, gemäß Artikel 97 delegierte Rechtsakte zu erlassen, um Anhang XIII zu ändern, indem die in
|
||||
dem genannten Anhang genannten Indikatoren präzisiert und aktualisiert werden.
|
||||
|
||||
|
||||
(5) Stellt der Anbieter, dessen Modell gemäß Absatz 4 als KI-Modell mit allgemeinem Verwendungszweck mit
|
||||
systemischem Risiko ausgewiesen wurde, einen entsprechenden Antrag, berücksichtigt die Kommission den Antrag und
|
||||
kann entscheiden, erneut zu prüfen, ob beim KI-Modell mit allgemeinem Verwendungszweck auf der Grundlage der in
|
||||
Anhang XIII festgelegten Kriterien immer noch davon ausgegangen werden kann, dass es systemische Risiken aufweist.
|
||||
Dieser Antrag muss objektive, detaillierte und neue Gründe enthalten, die sich seit der Entscheidung zur Ausweisung
|
||||
ergeben haben. Die Anbieter können frühestens sechs Monate nach der Entscheidung zur Ausweisung eine Neubewertung
|
||||
beantragen. Entscheidet die Kommission nach ihrer Neubewertung, die Ausweisung als KI-Modell mit allgemeiner
|
||||
Zweckbestimmung mit systemischem Risiko beizubehalten, können die Anbieter frühestens sechs Monate nach dieser
|
||||
Entscheidung eine Neubewertung beantragen.
|
||||
|
||||
|
||||
(6) Die Kommission stellt sicher, dass eine Liste von KI-Modellen mit allgemeinem Verwendungszweck mit
|
||||
systemischem Risiko veröffentlicht wird, und hält diese Liste unbeschadet der Notwendigkeit, Rechte des geistigen
|
||||
Eigentums und vertrauliche Geschäftsinformationen oder Geschäftsgeheimnisse im Einklang mit dem Unionsrecht und dem
|
||||
nationalen Recht zu achten und zu schützen, auf dem neuesten Stand.
|
||||
|
||||
|
||||
ABSCHNITT 2
|
||||
|
||||
|
||||
Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck
|
||||
|
||||
|
||||
Artikel 53
|
||||
|
||||
|
||||
Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck
|
||||
|
||||
|
||||
(1) Anbieter von KI-Modellen mit allgemeinem Verwendungszweck
|
||||
|
||||
|
||||
a)erstellen und aktualisieren die technische Dokumentation des Modells, einschließlich seines Trainings- und
|
||||
Testverfahrens und der Ergebnisse seiner Bewertung, die mindestens die in Anhang XI aufgeführten Informationen
|
||||
enthält, damit sie dem Büro für Künstliche Intelligenz und den zuständigen nationalen Behörden auf Anfrage zur
|
||||
Verfügung gestellt werden kann;
|
||||
|
||||
|
||||
b)erstellen und aktualisieren Informationen und die Dokumentation und stellen sie Anbietern von KI-Systemen zur
|
||||
Verfügung, die beabsichtigen, das KI-Modell mit allgemeinem Verwendungszweck in ihre KI-Systeme zu integrieren.
|
||||
Unbeschadet der Notwendigkeit, die Rechte des geistigen Eigentums und vertrauliche Geschäftsinformationen oder
|
||||
Geschäftsgeheimnisse im Einklang mit dem Unionsrecht und dem nationalen Recht zu achten und zu schützen, müssen
|
||||
die Informationen und die Dokumentation
|
||||
|
||||
|
||||
i)die Anbieter von KI-Systemen in die Lage versetzen, die Fähigkeiten und Grenzen des KI-Modells mit allgemeinem
|
||||
Verwendungszweck gut zu verstehen und ihren Pflichten gemäß dieser Verordnung nachzukommen, und
|
||||
|
||||
|
||||
ii)zumindest die in Anhang XII genannten Elemente enthalten;
|
||||
|
||||
|
||||
c) bringen eine Strategie zur Einhaltung des Urheberrechts der Union und damit zusammenhängender Rechte und
|
||||
insbesondere zur Ermittlung und Einhaltung eines gemäß Artikel 4 Absatz 3 der Richtlinie (EU) 2019/790 geltend
|
||||
gemachten Rechtsvorbehalts, auch durch modernste Technologien, auf den Weg;
|
||||
|
||||
|
||||
d)erstellen und veröffentlichen eine hinreichend detaillierte Zusammenfassung der für das Training des KI-Modells mit
|
||||
allgemeinem Verwendungszweck verwendeten Inhalte nach einer vom Büro für Künstliche Intelligenz bereitgestellten
|
||||
Vorlage.
|
||||
|
||||
# DE ABl. L vom 12.7.
|
||||
|
||||
84/144 ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj)
|
||||
|
||||
|
||||
|
||||
(2) Die Pflichten gemäß Absatz 1 Buchstaben a und b gelten nicht für Anbieter von KI-Modellen, die im Rahmen einer
|
||||
freien und quelloffenen Lizenz bereitgestellt werden, die den Zugang, die Nutzung, die Änderung und die Verbreitung des
|
||||
Modells ermöglicht und deren Parameter, einschließlich Gewichte, Informationen über die Modellarchitektur und
|
||||
Informationen über die Modellnutzung, öffentlich zugänglich gemacht werden. Diese Ausnahme gilt nicht für KI-Modellen
|
||||
mit allgemeinem Verwendungszweck mit systemischen Risiken.
|
||||
|
||||
|
||||
(3) Anbieter von KI-Modellen mit allgemeinem Verwendungszweck arbeiten bei der Ausübung ihrer Zuständigkeiten
|
||||
und Befugnisse gemäß dieser Verordnung erforderlichenfalls mit der Kommission und den zuständigen nationalen
|
||||
Behörden zusammen.
|
||||
|
||||
|
||||
(4) Anbieter von KI-Modellen mit allgemeinem Verwendungszweck können sich bis zur Veröffentlichung einer
|
||||
harmonisierten Norm auf Praxisleitfäden im Sinne des Artikels 56 stützen, um die Einhaltung der in Absatz 1 des
|
||||
vorliegenden Artikels genannten Pflichten nachzuweisen. Die Einhaltung der harmonisierten europäischen Norm begründet
|
||||
für die Anbieter die Vermutung der Konformität, insoweit diese Normen diese Verpflichtungen abdecken. Anbieter von
|
||||
KI-Modellen mit allgemeinem Verwendungszweck, die keinen genehmigten Praxisleitfaden befolgen oder eine harmonisierte
|
||||
europäische Norm nicht einhalten, müssen geeignete alternative Verfahren der Einhaltung aufzeigen, die von der
|
||||
Kommission zu bewerten sind.
|
||||
|
||||
|
||||
(5) Um die Einhaltung von Anhang XI, insbesondere Nummer 2 Buchstaben d und e, zu erleichtern, ist die Kommission
|
||||
befugt, gemäß Artikel 97 delegierte Rechtsakte zu erlassen, um die Mess- und Berechnungsmethoden im Einzelnen
|
||||
festzulegen, damit eine vergleichbare und überprüfbare Dokumentation ermöglicht wird.
|
||||
|
||||
|
||||
(6) Die Kommission ist befugt, gemäß Artikel 97 Absatz 2 delegierte Rechtsakte zu erlassen, um die Anhänge XI und XII
|
||||
vor dem Hintergrund sich wandelnder technologischer Entwicklungen zu ändern.
|
||||
|
||||
|
||||
(7) Jegliche Informationen oder Dokumentation, die gemäß diesem Artikel erlangt werden, einschließlich Geschäfts-
|
||||
geheimnisse, werden im Einklang mit den in Artikel 78 festgelegten Vertraulichkeitspflichten behandelt.
|
||||
|
||||
|
||||
Artikel 54
|
||||
|
||||
|
||||
Bevollmächtigte der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck
|
||||
|
||||
|
||||
(1) Anbieter, die in Drittländern niedergelassen sind, benennen vor dem Inverkehrbringen eines KI-Modells mit
|
||||
allgemeinem Verwendungszweck auf dem Unionsmarkt schriftlich einen in der Union niedergelassenen Bevollmächtigten.
|
||||
|
||||
|
||||
(2) Der Anbieter muss seinem Bevollmächtigten ermöglichen, die Aufgaben wahrzunehmen, die im vom Anbieter
|
||||
erhaltenen Auftrag festgelegt sind.
|
||||
|
||||
|
||||
(3) Der Bevollmächtigte nimmt die Aufgaben wahr, die in seinem vom Anbieter erhaltenen Auftrag festgelegt sind. Er
|
||||
stellt dem Büro für Künstliche Intelligenz auf Anfrage eine Kopie des Auftrags in einer der Amtssprachen der Institutionen
|
||||
der Union bereit. Für die Zwecke dieser Verordnung ermächtigt der Auftrag den Bevollmächtigten zumindest zur
|
||||
Wahrnehmung folgender Aufgaben:
|
||||
|
||||
|
||||
a)Überprüfung, ob die technische Dokumentation gemäß Anhang XI erstellt wurde und alle Pflichten gemäß Artikel 53
|
||||
und gegebenenfalls gemäß Artikel 55 vom Anbieter erfüllt wurden;
|
||||
|
||||
|
||||
b)Bereithaltung einer Kopie der technischen Dokumentation gemäß Anhang XI für das Büro für Künstliche Intelligenz und
|
||||
die zuständigen nationalen Behörden für einen Zeitraum von zehn Jahren nach dem Inverkehrbringen des KI-Modells
|
||||
mit allgemeinem Verwendungszweck und der Kontaktdaten des Anbieters, der den Bevollmächtigten benannt hat;
|
||||
|
||||
|
||||
c) Bereitstellung sämtlicher zum Nachweis der Einhaltung der Pflichten gemäß diesem Kapitel erforderlichen Informationen
|
||||
und Dokumentation, einschließlich der unter Buchstabe b genannten Informationen und Dokumentation, an das Büro
|
||||
für Künstliche Intelligenz auf begründeten Antrag;
|
||||
|
||||
|
||||
d)Zusammenarbeit mit dem Büro für Künstliche Intelligenz und den zuständigen Behörden auf begründeten Antrag bei
|
||||
allen Maßnahmen, die sie im Zusammenhang mit einem KI-Modell mit allgemeinem Verwendungszweck ergreifen, auch
|
||||
wenn das Modell in KI-Systeme integriert ist, die in der Union in Verkehr gebracht oder in Betrieb genommen werden.
|
||||
|
||||
|
||||
(4) Mit dem Auftrag wird der Bevollmächtigte ermächtigt, neben oder anstelle des Anbieters als Ansprechpartner für das
|
||||
Büro für Künstliche Intelligenz oder die zuständigen Behörden in allen Fragen zu dienen, die die Gewährleistung der
|
||||
Einhaltung dieser Verordnung betreffen.
|
||||
|
||||
# ABl. L vom 12.7.2024 DE
|
||||
|
||||
ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj) 85/
|
||||
|
||||
|
||||
|
||||
(5) Der Bevollmächtigte beendet den Auftrag, wenn er der Auffassung ist oder Grund zu der Annahme hat, dass der
|
||||
Anbieter gegen seine Pflichten gemäß dieser Verordnung verstößt. In einem solchen Fall informiert er auch das Büro für
|
||||
Künstliche Intelligenz unverzüglich über die Beendigung des Auftrags und die Gründe dafür.
|
||||
|
||||
|
||||
(6) Die Pflicht gemäß diesem Artikel gilt nicht für Anbieter von KI-Modellen, die im Rahmen einer freien und
|
||||
quelloffenen Lizenz bereitgestellt werden, die den Zugang, die Nutzung, die Änderung und die Verbreitung des Modells
|
||||
ermöglicht und deren Parameter, einschließlich Gewichte, Informationen über die Modellarchitektur und Informationen
|
||||
über die Modellnutzung, öffentlich zugänglich gemacht werden, es sei denn, die KI-Modelle mit allgemeinem
|
||||
Verwendungszweck bergen systemische Risiken.
|
||||
|
||||
|
||||
ABSCHNITT 3
|
||||
Pflichten der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck mit systemischem Risiko
|
||||
|
||||
|
||||
Artikel 55
|
||||
|
||||
|
||||
Pflichten der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck mit systemischem Risiko
|
||||
|
||||
|
||||
(1) Zusätzlich zu den in den Artikeln 53 und 54 aufgeführten Pflichten müssen Anbieter von KI-Modellen mit
|
||||
allgemeinem Verwendungszweck mit systemischem Risiko
|
||||
|
||||
|
||||
a)eine Modellbewertung mit standardisierten Protokollen und Instrumenten, die dem Stand der Technik entsprechen,
|
||||
durchführen, wozu auch die Durchführung und Dokumentation von Angriffstests beim Modell gehören, um systemische
|
||||
Risiken zu ermitteln und zu mindern,
|
||||
|
||||
|
||||
b)mögliche systemische Risiken auf Unionsebene — einschließlich ihrer Ursachen —, die sich aus der Entwicklung, dem
|
||||
Inverkehrbringen oder der Verwendung von KI-Modellen mit allgemeinem Verwendungszweck mit systemischem Risiko
|
||||
ergeben können, bewerten und mindern,
|
||||
|
||||
|
||||
c) einschlägige Informationen über schwerwiegende Vorfälle und mögliche Abhilfemaßnahmen erfassen und doku-
|
||||
mentieren und das Büro für Künstliche Intelligenz und gegebenenfalls die zuständigen nationalen Behörden unverzüglich
|
||||
darüber unterrichten,
|
||||
|
||||
|
||||
d)ein angemessenes Maß an Cybersicherheit für die KI-Modelle mit allgemeinem Verwendungszweck mit systemischem
|
||||
Risiko und die physische Infrastruktur des Modells gewährleisten.
|
||||
|
||||
|
||||
(2) Anbieter von KI-Modellen mit allgemeinem Verwendungszweck mit systemischem Risiko können sich bis zur
|
||||
Veröffentlichung einer harmonisierten Norm auf Praxisleitfäden im Sinne des Artikels 56 stützen, um die Einhaltung der in
|
||||
Absatz 1 des vorliegenden Artikels genannten Pflichten nachzuweisen. Die Einhaltung der harmonisierten europäischen
|
||||
Norm begründet für die Anbieter die Vermutung der Konformität, insoweit diese Normen diese Verpflichtungen abdecken.
|
||||
Anbieter von KI-Modellen mit allgemeinem Verwendungszweck mit systemischem Risiko, die einen genehmigten
|
||||
Praxisleitfaden nicht befolgen oder eine harmonisierte europäische Norm nicht einhalten, müssen geeignete alternative
|
||||
Verfahren der Einhaltung aufzeigen, die von der Kommission zu bewerten sind.
|
||||
|
||||
|
||||
(3) Jegliche Informationen oder Dokumentation, die gemäß diesem Artikel erlangt werden, werden im Einklang mit den
|
||||
in Artikel 78 festgelegten Vertraulichkeitspflichten behandelt.
|
||||
|
||||
|
||||
ABSCHNITT 4
|
||||
|
||||
|
||||
Praxisleitfäden
|
||||
|
||||
|
||||
Artikel 56
|
||||
|
||||
|
||||
Praxisleitfäden
|
||||
|
||||
|
||||
(1) Das Büro für Künstliche Intelligenz fördert und erleichtert die Ausarbeitung von Praxisleitfäden auf Unionsebene, um
|
||||
unter Berücksichtigung internationaler Ansätze zur ordnungsgemäßen Anwendung dieser Verordnung beizutragen.
|
||||
|
||||
|
||||
(2) Das Büro für Künstliche Intelligenz und das KI-Gremium streben an, sicherzustellen, dass die Praxisleitfäden
|
||||
mindestens die in den Artikeln 53 und 55 vorgesehenen Pflichten abdecken, einschließlich der folgenden Aspekte:
|
||||
|
||||
# DE ABl. L vom 12.7.
|
||||
|
||||
86/144 ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj)
|
||||
|
||||
|
||||
|
||||
a)Mittel, mit denen sichergestellt wird, dass die in Artikel 53 Absatz 1 Buchstaben a und b genannten Informationen vor
|
||||
dem Hintergrund der Marktentwicklungen und technologischen Entwicklungen auf dem neuesten Stand gehalten
|
||||
werden;
|
||||
|
||||
|
||||
b)die angemessene Detailgenauigkeit bei der Zusammenfassung der für das Training verwendeten Inhalte;
|
||||
|
||||
|
||||
c) die Ermittlung von Art und Wesen der systemischen Risiken auf Unionsebene, gegebenenfalls einschließlich ihrer
|
||||
Ursachen;
|
||||
|
||||
|
||||
d)die Maßnahmen, Verfahren und Modalitäten für die Bewertung und das Management der systemischen Risiken auf
|
||||
Unionsebene, einschließlich ihrer Dokumentation, die in einem angemessenen Verhältnis zu den Risiken stehen, ihrer
|
||||
Schwere und Wahrscheinlichkeit Rechnung tragen und die spezifischen Herausforderungen bei der Bewältigung dieser
|
||||
Risiken vor dem Hintergrund der möglichen Arten der Entstehung und des Eintretens solcher Risiken entlang der
|
||||
KI-Wertschöpfungskette berücksichtigen.
|
||||
|
||||
|
||||
(3) Das Büro für Künstliche Intelligenz kann alle Anbieter von KI-Modellen mit allgemeinem Verwendungszweck sowie
|
||||
die einschlägigen zuständigen nationalen Behörden ersuchen, sich an der Ausarbeitung von Praxisleitfäden zu beteiligen.
|
||||
Organisationen der Zivilgesellschaft, die Industrie, die Wissenschaft und andere einschlägige Interessenträger wie
|
||||
nachgelagerte Anbieter und unabhängige Sachverständige können den Prozess unterstützen.
|
||||
|
||||
|
||||
(4) Das Büro für Künstliche Intelligenz und das KI-Gremium streben an, sicherzustellen, dass in den Praxisleitfäden ihre
|
||||
spezifischen Ziele eindeutig festgelegt sind und Verpflichtungen oder Maßnahmen, gegebenenfalls einschließlich
|
||||
wesentlicher Leistungsindikatoren, enthalten, um die Verwirklichung dieser Ziele gewährleisten, und dass sie den
|
||||
Bedürfnissen und Interessen aller interessierten Kreise, einschließlich betroffener Personen, auf Unionsebene gebührend
|
||||
Rechnung tragen.
|
||||
|
||||
|
||||
(5) Das Büro für Künstliche Intelligenz strebt an, sicherzustellen, dass die an Praxisleitfäden Beteiligten dem Büro für
|
||||
Künstliche Intelligenz regelmäßig über die Umsetzung der Verpflichtungen, die ergriffenen Maßnahmen und deren
|
||||
Ergebnisse, die gegebenenfalls auch anhand der wesentlichen Leistungsindikatoren gemessen werden, Bericht erstatten. Bei
|
||||
den wesentlichen Leistungsindikatoren und den Berichtspflichten wird den Größen- und Kapazitätsunterschieden zwischen
|
||||
den verschiedenen Beteiligten Rechnung getragen.
|
||||
|
||||
|
||||
(6) Das Büro für Künstliche Intelligenz und KI-Gremium überwachen und bewerten regelmäßig die Verwirklichung der
|
||||
Ziele der Praxisleitfäden durch die Beteiligten und deren Beitrag zur ordnungsgemäßen Anwendung dieser Verordnung. Das
|
||||
Büro für Künstliche Intelligenz und das KI-Gremium bewerten, ob die Praxisleitfäden die in den Artikeln 53 und 55
|
||||
vorgesehenen Pflichten abdecken, und überwachen und bewerten regelmäßig die Verwirklichung von deren Zielen. Sie
|
||||
veröffentlichen ihre Bewertung der Angemessenheit der Praxisleitfäden.
|
||||
|
||||
|
||||
Die Kommission kann im Wege eines Durchführungsrechtsakts einen Praxisleitfaden genehmigen und ihm in der Union
|
||||
allgemeine Gültigkeit verleihen. Dieser Durchführungsrechtsakt wird gemäß dem in Artikel 98 Absatz 2 genannten
|
||||
Prüfverfahren erlassen.
|
||||
|
||||
|
||||
(7) Das Büro für Künstliche Intelligenz kann alle Anbieter von KI-Modellen mit allgemeinem Verwendungszweck
|
||||
ersuchen, die Praxisleitfäden zu befolgen. Für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, die keine
|
||||
systemischen Risiken bergen, kann diese Befolgung auf die in Artikel 53 vorgesehenen Pflichten beschränkt werden, es sei
|
||||
denn, sie erklären ausdrücklich ihr Interesse, sich dem ganzen Kodex anzuschließen.
|
||||
|
||||
|
||||
(8) Das Büro für Künstliche Intelligenz fördert und erleichtert gegebenenfalls auch die Überprüfung und Anpassung der
|
||||
Praxisleitfäden, insbesondere vor dem Hintergrund neuer Normen. Das Büro für Künstliche Intelligenz unterstützt bei der
|
||||
Bewertung der verfügbaren Normen.
|
||||
|
||||
|
||||
(9) Praxisleitfäden müssen spätestens am 2. Mai 2025 vorliegen. Das Büro für Künstliche Intelligenz unternimmt die
|
||||
erforderlichen Schritte, einschließlich des Ersuchens von Anbietern gemäß Absatz 7.
|
||||
|
||||
|
||||
Kann bis zum 2. August 2025 ein Verhaltenskodex nicht fertiggestellt werden oder erachtet das Büro für Künstliche
|
||||
Intelligenz dies nach seiner Bewertung gemäß Absatz 6 des vorliegenden Artikels für nicht angemessen, kann die
|
||||
Kommission im Wege von Durchführungsrechtsakten gemeinsame Vorschriften für die Umsetzung der in den Artikeln 53
|
||||
und 55 vorgesehenen Pflichten, einschließlich der in Absatz 2 des vorliegenden Artikels genannten Aspekte, festlegen. Diese
|
||||
Durchführungsrechtsakte werden gemäß dem in Artikel 98 Absatz 2 genannten Prüfverfahren erlassen.
|
||||
|
||||
# ABl. L vom 12.7.2024 DE
|
||||
|
||||
ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj) 87/
|
||||
|
||||
|
||||
@@ -0,0 +1,612 @@
|
||||
|
||||
KAPITEL VI
|
||||
MASSNAHMEN ZUR INNOVATIONSFÖRDERUNG
|
||||
|
||||
|
||||
Artikel 57
|
||||
|
||||
|
||||
KI-Reallabore
|
||||
|
||||
|
||||
(1) Die Mitgliedstaaten sorgen dafür, dass ihre zuständigen Behörden mindestens ein KI-Reallabor auf nationaler Ebene
|
||||
einrichten, das bis zum 2. August 2026 einsatzbereit sein muss. Dieses Reallabor kann auch gemeinsam mit den
|
||||
zuständigen Behörden anderer Mitgliedstaaten eingerichtet werden. Die Kommission kann technische Unterstützung,
|
||||
Beratung und Instrumente für die Einrichtung und den Betrieb von KI-Reallaboren bereitstellen.
|
||||
|
||||
|
||||
Die Verpflichtung nach Unterabsatz 1 kann auch durch Beteiligung an einem bestehenden Reallabor erfüllt werden, sofern
|
||||
eine solche Beteiligung die nationale Abdeckung der teilnehmenden Mitgliedstaaten in gleichwertigem Maße gewährleistet.
|
||||
|
||||
|
||||
(2) Es können auch zusätzliche KI-Reallabore auf regionaler oder lokaler Ebene oder gemeinsam mit den zuständigen
|
||||
Behörden anderer Mitgliedstaaten eingerichtet werden;
|
||||
|
||||
|
||||
(3) Der Europäische Datenschutzbeauftragte kann auch ein KI-Reallabor für Organe, Einrichtungen und sonstige Stellen
|
||||
der Union einrichten und die Rollen und Aufgaben der zuständigen nationalen Behörden im Einklang mit diesem Kapitel
|
||||
wahrnehmen.
|
||||
|
||||
|
||||
(4) Die Mitgliedstaaten stellen sicher, dass die in den Absätzen 1 und 2 genannten zuständigen Behörden ausreichende
|
||||
Mittel bereitstellen, um diesem Artikel wirksam und zeitnah nachzukommen. Gegebenenfalls arbeiten die zuständigen
|
||||
nationalen Behörden mit anderen einschlägigen Behörden zusammen und können die Einbeziehung anderer Akteure des
|
||||
KI-Ökosystems gestatten. Andere Reallabore, die im Rahmen des Unionsrechts oder des nationalen Rechts eingerichtet
|
||||
wurden, bleiben von diesem Artikel unberührt. Die Mitgliedstaaten sorgen dafür, dass die diese anderen Reallabore
|
||||
beaufsichtigenden Behörden und die zuständigen nationalen Behörden angemessen zusammenarbeiten.
|
||||
|
||||
|
||||
(5) Die nach Absatz 1 eingerichteten KI-Reallabore bieten eine kontrollierte Umgebung, um Innovation zu fördern und
|
||||
die Entwicklung, das Training, das Testen und die Validierung innovativer KI-Systeme für einen begrenzten Zeitraum vor
|
||||
ihrem Inverkehrbringen oder ihrer Inbetriebnahme nach einem bestimmten zwischen den Anbietern oder zukünftigen
|
||||
Anbietern und der zuständigen Behörde vereinbarten Reallabor-Plan zu erleichtern. In diesen Reallaboren können auch
|
||||
darin beaufsichtigte Tests unter Realbedingungen durchgeführt werden.
|
||||
|
||||
|
||||
(6) Die zuständigen Behörden stellen innerhalb der KI-Reallabore gegebenenfalls Anleitung, Aufsicht und Unterstützung
|
||||
bereit, um Risiken, insbesondere im Hinblick auf Grundrechte, Gesundheit und Sicherheit, Tests und Risikominderungs-
|
||||
maßnahmen sowie deren Wirksamkeit hinsichtlich der Pflichten und Anforderungen dieser Verordnung und gegebenenfalls
|
||||
anderem Unionsrecht und nationalem Recht, deren Einhaltung innerhalb des Reallabors beaufsichtigt wird, zu ermitteln.
|
||||
|
||||
|
||||
(7) Die zuständigen Behörden stellen den Anbietern und zukünftigen Anbietern, die am KI-Reallabor teilnehmen,
|
||||
Leitfäden zu regulatorischen Erwartungen und zur Erfüllung der in dieser Verordnung festgelegten Anforderungen und
|
||||
Pflichten zur Verfügung.
|
||||
|
||||
|
||||
Die zuständige Behörde legt dem Anbieter oder zukünftigen Anbieter des KI-Systems auf dessen Anfrage einen schriftlichen
|
||||
Nachweis für die im Reallabor erfolgreich durchgeführten Tätigkeiten vor. Außerdem legt die zuständige Behörde einen
|
||||
Abschlussbericht vor, in dem sie die im Reallabor durchgeführten Tätigkeiten, deren Ergebnisse und die gewonnenen
|
||||
Erkenntnisse im Einzelnen darlegt. Die Anbieter können diese Unterlagen nutzen, um im Rahmen des Konformitäts-
|
||||
bewertungsverfahrens oder einschlägiger Marktüberwachungstätigkeiten nachzuweisen, dass sie dieser Verordnung
|
||||
nachkommen. In diesem Zusammenhang werden die Abschlussberichte und die von der zuständigen nationalen Behörde
|
||||
vorgelegten schriftlichen Nachweise von den Marktüberwachungsbehörden und den notifizierten Stellen im Hinblick auf
|
||||
eine Beschleunigung der Konformitätsbewertungsverfahren in angemessenem Maße positiv gewertet.
|
||||
|
||||
|
||||
(8) Vorbehaltlich der in Artikel 78 enthaltenen Bestimmungen über die Vertraulichkeit und im Einvernehmen mit den
|
||||
Anbietern oder zukünftigen Anbietern, sind die Kommission und das KI-Gremium befugt, die Abschlussberichte
|
||||
einzusehen und tragen diesen gegebenenfalls bei der Wahrnehmung ihrer Aufgaben gemäß dieser Verordnung Rechnung.
|
||||
Wenn der Anbieter oder der zukünftige Anbieter und die zuständige nationale Behörde ihr ausdrückliches Einverständnis
|
||||
erklären, kann der Abschlussbericht über die in diesem Artikel genannte zentrale Informationsplattform veröffentlicht
|
||||
werden.
|
||||
|
||||
|
||||
(9) Die Einrichtung von KI-Reallaboren soll zu den folgenden Zielen beitragen:
|
||||
|
||||
|
||||
a)Verbesserung der Rechtssicherheit, um für die Einhaltung der Regulierungsvorschriften dieser Verordnung oder,
|
||||
gegebenenfalls, anderem geltenden Unionsrecht und nationalem Recht zu sorgen;
|
||||
|
||||
# DE ABl. L vom 12.7.
|
||||
|
||||
88/144 ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj)
|
||||
|
||||
|
||||
|
||||
b)Förderung des Austauschs bewährter Verfahren durch Zusammenarbeit mit den am KI-Reallabor beteiligten Behörden;
|
||||
|
||||
|
||||
c) Förderung von Innovation und Wettbewerbsfähigkeit sowie Erleichterung der Entwicklung eines KI-Ökosystems;
|
||||
|
||||
|
||||
d)Leisten eines Beitrags zum evidenzbasierten regulatorischen Lernen;
|
||||
|
||||
|
||||
e) Erleichterung und Beschleunigung des Zugangs von KI-Systemen zum Unionsmarkt, insbesondere wenn sie von KMU —
|
||||
einschließlich Start-up-Unternehmen — angeboten werden.
|
||||
|
||||
|
||||
(10) Soweit die innovativen KI-Systeme personenbezogene Daten verarbeiten oder anderweitig der Aufsicht anderer
|
||||
nationaler Behörden oder zuständiger Behörden unterstehen, die den Zugang zu personenbezogenen Daten gewähren oder
|
||||
unterstützen, sorgen die zuständigen nationalen Behörden dafür, dass die nationalen Datenschutzbehörden oder diese
|
||||
anderen nationalen oder zuständigen Behörden in den Betrieb des KI-Reallabors sowie in die Überwachung dieser Aspekte
|
||||
im vollen Umfang ihrer entsprechenden Aufgaben und Befugnisse einbezogen werden.
|
||||
|
||||
|
||||
(11) Die KI-Reallabore lassen die Aufsichts- oder Abhilfebefugnisse der die Reallabore beaufsichtigenden zuständigen
|
||||
Behörden, einschließlich auf regionaler oder lokaler Ebene, unberührt. Alle erheblichen Risiken für die Gesundheit und
|
||||
Sicherheit und die Grundrechte, die bei der Entwicklung und Erprobung solcher KI-Systeme festgestellt werden, führen zur
|
||||
sofortigen und angemessenen Risikominderung. Die zuständigen nationalen Behörden sind befugt, das Testverfahren oder
|
||||
die Beteiligung am Reallabor vorübergehend oder dauerhaft auszusetzen, wenn keine wirksame Risikominderung möglich
|
||||
ist, und unterrichten das Büro für Künstliche Intelligenz über diese Entscheidung. Um Innovationen im Bereich KI in der
|
||||
Union zu fördern, üben die zuständigen nationalen Behörden ihre Aufsichtsbefugnisse im Rahmen des geltenden Rechts
|
||||
aus, indem sie bei der Anwendung der Rechtsvorschriften auf ein bestimmtes KI-Reallabor ihren Ermessensspielraum
|
||||
nutzen.
|
||||
|
||||
|
||||
(12) Die am KI-Reallabor beteiligten Anbieter und zukünftigen Anbieter bleiben nach geltendem Recht der Union und
|
||||
nationalem Haftungsrecht für Schäden haftbar, die Dritten infolge der Erprobung im Reallabor entstehen. Sofern die
|
||||
zukünftigen Anbieter den spezifischen Plan und die Bedingungen für ihre Beteiligung beachten und der Anleitung durch die
|
||||
zuständigen nationalen Behörden in gutem Glauben folgen, werden jedoch von den Behörden keine Geldbußen für Verstöße
|
||||
gegen diese Verordnung verhängt. In Fällen, in denen andere zuständige Behörden, die für anderes Unionsrecht und
|
||||
nationales Recht zuständig sind, aktiv an der Beaufsichtigung des KI-Systems im Reallabor beteiligt waren und Anleitung für
|
||||
die Einhaltung gegeben haben, werden im Hinblick auf dieses Recht keine Geldbußen verhängt.
|
||||
|
||||
|
||||
(13) Die KI-Reallabore sind so konzipiert und werden so umgesetzt, dass sie gegebenenfalls die grenzüberschreitende
|
||||
Zusammenarbeit zwischen zuständigen nationalen Behörden erleichtern.
|
||||
|
||||
|
||||
(14) Die zuständigen nationalen Behörden koordinieren ihre Tätigkeiten und arbeiten im Rahmen des KI-Gremiums
|
||||
zusammen.
|
||||
|
||||
|
||||
(15) Die zuständigen nationalen Behörden unterrichten das Büro für Künstliche Intelligenz und das KI-Gremium über
|
||||
die Einrichtung eines Reallabors und können sie um Unterstützung und Anleitung bitten. Das Büro für Künstliche
|
||||
Intelligenz veröffentlicht eine Liste der geplanten und bestehenden Reallabore und hält sie auf dem neuesten Stand, um eine
|
||||
stärkere Interaktion in den KI-Reallaboren und die grenzüberschreitende Zusammenarbeit zu fördern.
|
||||
|
||||
|
||||
(16) Die zuständigen nationalen Behörden übermitteln dem Büro für Künstliche Intelligenz und dem KI-Gremium
|
||||
jährliche Berichte, und zwar ab einem Jahr nach der Einrichtung des Reallabors und dann jedes Jahr bis zu dessen
|
||||
Beendigung, sowie einen Abschlussbericht. Diese Berichte informieren über den Fortschritt und die Ergebnisse der
|
||||
Umsetzung dieser Reallabore, einschließlich bewährter Verfahren, Vorfällen, gewonnener Erkenntnisse und Empfehlungen
|
||||
zu deren Aufbau, sowie gegebenenfalls über die Anwendung und mögliche Überarbeitung dieser Verordnung, einschließlich
|
||||
ihrer delegierten Rechtsakte und Durchführungsrechtsakte, sowie über die Anwendung anderen Unionsrechts, deren
|
||||
Einhaltung von den zuständigen Behörden innerhalb des Reallabors beaufsichtigt wird. Die zuständigen nationalen
|
||||
Behörden stellen diese jährlichen Berichte oder Zusammenfassungen davon der Öffentlichkeit online zur Verfügung. Die
|
||||
Kommission trägt den jährlichen Berichten gegebenenfalls bei der Wahrnehmung ihrer Aufgaben gemäß dieser Verordnung
|
||||
Rechnung.
|
||||
|
||||
|
||||
(17) Die Kommission richtet eine eigene Schnittstelle ein, die alle relevanten Informationen zu den KI-Reallaboren
|
||||
enthält, um es den Interessenträgern zu ermöglichen, mit den KI-Reallaboren zu interagieren und Anfragen an die
|
||||
zuständigen Behörden zu richten und unverbindliche Beratung zur Konformität von innovativen Produkten, Dienst-
|
||||
leistungen und Geschäftsmodellen mit integrierter KI-Technologie im Einklang mit Artikel 62 Absatz 1 Buchstabe c
|
||||
einzuholen. Die Kommission stimmt sich gegebenenfalls proaktiv mit den zuständigen nationalen Behörden ab.
|
||||
|
||||
# ABl. L vom 12.7.2024 DE
|
||||
|
||||
ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj) 89/
|
||||
|
||||
|
||||
|
||||
Artikel 58
|
||||
|
||||
|
||||
Detaillierte Regelungen für KI-Reallabore und deren Funktionsweise
|
||||
|
||||
|
||||
(1) Um eine Zersplitterung in der Union zu vermeiden, erlässt die Kommission Durchführungsrechtsakte, in denen
|
||||
detaillierte Regelungen für die Einrichtung, Entwicklung, Umsetzung, den Betrieb und die Beaufsichtigung der KI-Reallabore
|
||||
enthalten sind. In den Durchführungsrechtsakten sind gemeinsame Grundsätze zu den folgenden Aspekten festgelegt:
|
||||
|
||||
|
||||
a)Voraussetzungen und Auswahlkriterien für eine Beteiligung am KI-Reallabor;
|
||||
|
||||
|
||||
b)Verfahren für Antragstellung, Beteiligung, Überwachung, Ausstieg und Beendigung bezüglich des KI-Reallabors,
|
||||
einschließlich Plan und Abschlussbericht für das Reallabor;
|
||||
|
||||
|
||||
c) für Beteiligte geltende Anforderungen und Bedingungen.
|
||||
|
||||
|
||||
Diese Durchführungsrechtsakte werden gemäß dem in Artikel 98 Absatz 2 genannten Prüfverfahren erlassen.
|
||||
|
||||
|
||||
(2) Die in Absatz 1 genannten Durchführungsrechtsakte gewährleisten,
|
||||
|
||||
|
||||
a)dass KI-Reallabore allen Anbietern oder zukünftigen Anbietern eines KI-Systems, die einen Antrag stellen und die
|
||||
Voraussetzungen und Auswahlkriterien erfüllen, offen stehen; diese Voraussetzungen und Kriterien sind transparent und
|
||||
fair und die zuständigen nationalen Behörden informieren die Antragsteller innerhalb von drei Monaten nach
|
||||
Antragstellung über ihre Entscheidung;
|
||||
|
||||
|
||||
b)dass die KI-Reallabore einen breiten und gleichberechtigten Zugang ermöglichen und mit der Nachfrage nach Beteiligung
|
||||
Schritt halten; die Anbieter und zukünftigen Anbieter auch Anträge zusammen mit Betreibern oder einschlägigen
|
||||
Dritten, die ihre Partner sind, stellen können;
|
||||
|
||||
|
||||
c) dass die detaillierten Regelungen und Bedingungen für KI-Reallabore so gut wie möglich die Flexibilität der zuständigen
|
||||
nationalen Behörden bei der Einrichtung und dem Betrieb ihrer KI-Reallabore unterstützen;
|
||||
|
||||
|
||||
d)dass der Zugang zu KI-Reallaboren für KMU, einschließlich Start-up-Unternehmen, kostenlos ist, unbeschadet
|
||||
außergewöhnlicher Kosten, die die zuständigen nationalen Behörden in einer fairen und verhältnismäßigen Weise
|
||||
einfordern können;
|
||||
|
||||
|
||||
e) dass den Anbietern und zukünftigen Anbietern die Einhaltung der Verpflichtungen zur Konformitätsbewertung nach
|
||||
dieser Verordnung oder die freiwillige Anwendung der in Artikel 95 genannten Verhaltenskodizes mittels der
|
||||
gewonnenen Erkenntnisse der KI-Reallabore erleichtert wird;
|
||||
|
||||
|
||||
f) dass KI-Reallabore die Einbeziehung anderer einschlägiger Akteure innerhalb des KI-Ökosystems, wie etwa notifizierte
|
||||
Stellen und Normungsorganisationen, KMU, einschließlich Start-up-Unternehmen, Unternehmen, Innovatoren, Test-
|
||||
und Versuchseinrichtungen, Forschungs- und Versuchslabore, europäische digitale Innovationszentren, Kompetenzzen-
|
||||
tren und einzelne Forscher begünstigen, um die Zusammenarbeit mit dem öffentlichen und dem privaten Sektor zu
|
||||
ermöglichen und zu erleichtern;
|
||||
|
||||
|
||||
g)dass die Verfahren, Prozesse und administrativen Anforderungen für die Antragstellung, die Auswahl, die Beteiligung
|
||||
und den Ausstieg aus dem KI-Reallabor einfach, leicht verständlich und klar kommuniziert sind, um die Beteiligung von
|
||||
KMU, einschließlich Start-up-Unternehmen, mit begrenzten rechtlichen und administrativen Kapazitäten zu erleichtern,
|
||||
sowie unionsweit gestrafft sind, um eine Zersplitterung zu vermeiden, und dass die Beteiligung an einem von einem
|
||||
Mitgliedstaat oder dem Europäischen Datenschutzbeauftragten eingerichteten KI-Reallabor gegenseitig und einheitlich
|
||||
anerkannt wird und in der gesamten Union die gleiche Rechtswirkung hat;
|
||||
|
||||
|
||||
h)dass die Beteiligung an dem KI-Reallabor auf einen der Komplexität und dem Umfang des Projekts entsprechenden
|
||||
Zeitraum beschränkt ist, der von der zuständigen nationalen Behörde verlängert werden kann;
|
||||
|
||||
|
||||
i) dass die KI-Reallabore die Entwicklung von Instrumenten und Infrastruktur für das Testen, das Benchmarking, die
|
||||
Bewertung und die Erklärung der Dimensionen von KI-Systemen erleichtern, die für das regulatorische Lernen
|
||||
Bedeutung sind, wie etwa Genauigkeit, Robustheit und Cybersicherheit, sowie Maßnahmen zur Risikominderung im
|
||||
Hinblick auf die Grundrechte und die Gesellschaft als Ganzes fördern.
|
||||
|
||||
|
||||
(3) Zukünftige Anbieter in den KI-Reallaboren, insbesondere KMU und Start-up-Unternehmen, werden gegebenenfalls
|
||||
vor der Einrichtung an Dienste verwiesen, die beispielsweise eine Anleitung zur Umsetzung dieser Verordnung oder andere
|
||||
Mehrwertdienste wie Hilfe bei Normungsdokumenten bereitstellen, sowie an Zertifizierungs-, Test- und Versuchsein-
|
||||
richtungen, europäische digitale Innovationszentren und Exzellenzzentren.
|
||||
|
||||
# DE ABl. L vom 12.7.
|
||||
|
||||
90/144 ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj)
|
||||
|
||||
|
||||
|
||||
(4) Wenn zuständige nationale Behörden in Betracht ziehen, Tests unter Realbedingungen zu genehmigen, die im
|
||||
Rahmen eines KI-Reallabors beaufsichtigt werden, welches nach diesem Artikel einzurichten ist, vereinbaren sie mit den
|
||||
Beteiligten ausdrücklich die Anforderungen und Bedingungen für diese Tests und insbesondere geeignete Schutzvor-
|
||||
kehrungen für Grundrechte, Gesundheit und Sicherheit. Gegebenenfalls arbeiten sie mit anderen zuständigen nationalen
|
||||
Behörden zusammen, um für unionsweit einheitliche Verfahren zu sorgen.
|
||||
|
||||
|
||||
Artikel 59
|
||||
|
||||
|
||||
Weiterverarbeitung personenbezogener Daten zur Entwicklung bestimmter KI-Systeme im öffentlichen Interesse
|
||||
im KI-Reallabor
|
||||
|
||||
|
||||
(1) Rechtmäßig für andere Zwecke erhobene personenbezogene Daten dürfen im KI-Reallabor ausschließlich für die
|
||||
Zwecke der Entwicklung, des Trainings und des Testens bestimmter KI-Systeme im Reallabor verarbeitet werden, wenn alle
|
||||
der folgenden Bedingungen erfüllt sind:
|
||||
|
||||
|
||||
a)Die KI-Systeme werden zur Wahrung eines erheblichen öffentlichen Interesses durch eine Behörde oder eine andere
|
||||
natürliche oder juristische Person und in einem oder mehreren der folgenden Bereiche entwickelt:
|
||||
|
||||
|
||||
i)öffentliche Sicherheit und öffentliche Gesundheit, einschließlich Erkennung, Diagnose, Verhütung, Bekämpfung und
|
||||
Behandlung von Krankheiten sowie Verbesserung von Gesundheitsversorgungssystemen;
|
||||
|
||||
|
||||
ii)hohes Umweltschutzniveau und Verbesserung der Umweltqualität, Schutz der biologischen Vielfalt, Schutz gegen
|
||||
Umweltverschmutzung, Maßnahmen für den grünen Wandel sowie Klimaschutz und Anpassung an den
|
||||
Klimawandel;
|
||||
|
||||
|
||||
iii)nachhaltige Energie;
|
||||
|
||||
|
||||
iv)Sicherheit und Widerstandsfähigkeit von Verkehrssystemen und Mobilität, kritischen Infrastrukturen und Netzen;
|
||||
|
||||
|
||||
v)Effizienz und Qualität der öffentlichen Verwaltung und öffentlicher Dienste;
|
||||
|
||||
|
||||
b)die verarbeiteten Daten sind für die Erfüllung einer oder mehrerer der in Kapitel III Abschnitt 2 genannten
|
||||
Anforderungen erforderlich, sofern diese Anforderungen durch die Verarbeitung anonymisierter, synthetischer oder
|
||||
sonstiger nicht personenbezogener Daten nicht wirksam erfüllt werden können;
|
||||
|
||||
|
||||
c) es bestehen wirksame Überwachungsmechanismen, mit deren Hilfe festgestellt wird, ob während der Reallaborversuche
|
||||
hohe Risiken für die Rechte und Freiheiten betroffener Personen gemäß Artikel 35 der Verordnung (EU) 2016/679 und
|
||||
gemäß Artikel 39 der Verordnung (EU) 2018/1725 auftreten können, sowie Reaktionsmechanismen, mit deren Hilfe
|
||||
diese Risiken umgehend eingedämmt werden können und die Verarbeitung bei Bedarf beendet werden kann;
|
||||
|
||||
|
||||
d)personenbezogene Daten, die im Rahmen des Reallabors verarbeitet werden sollen, befinden sich in einer funktional
|
||||
getrennten, isolierten und geschützten Datenverarbeitungsumgebung unter der Kontrolle des zukünftigen Anbieters, und
|
||||
nur befugte Personen haben Zugriff auf diese Daten;
|
||||
|
||||
|
||||
e) Anbieter dürfen die ursprünglich erhobenen Daten nur im Einklang mit dem Datenschutzrecht der Union weitergeben;
|
||||
personenbezogene Daten, die im Reallabor erstellt wurden, dürfen nicht außerhalb des Reallabors weitergegeben werden;
|
||||
|
||||
|
||||
f) eine Verarbeitung personenbezogener Daten im Rahmen des Reallabors führt zu keinen Maßnahmen oder
|
||||
Entscheidungen, die Auswirkungen auf die betroffenen Personen haben, und berührt nicht die Anwendung ihrer
|
||||
Rechte, die in den Rechtsvorschriften der Union über den Schutz personenbezogener Daten festgelegt sind;
|
||||
|
||||
|
||||
g)im Rahmen des Reallabors verarbeitete personenbezogene Daten sind durch geeignete technische und organisatorische
|
||||
Maßnahmen geschützt und werden gelöscht, sobald die Beteiligung an dem Reallabor endet oder das Ende der
|
||||
Speicherfrist für die personenbezogenen Daten erreicht ist;
|
||||
|
||||
|
||||
h)die Protokolle der Verarbeitung personenbezogener Daten im Rahmen des Reallabors werden für die Dauer der
|
||||
Beteiligung am Reallabor aufbewahrt, es sei denn, im Unionsrecht oder nationalen Recht ist etwas anderes bestimmt;
|
||||
|
||||
|
||||
i) eine vollständige und detaillierte Beschreibung des Prozesses und der Gründe für das Trainieren, Testen und Validieren
|
||||
des KI-Systems wird zusammen mit den Testergebnissen als Teil der technischen Dokumentation gemäß Anhang IV
|
||||
aufbewahrt;
|
||||
|
||||
# ABl. L vom 12.7.2024 DE
|
||||
|
||||
ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj) 91/
|
||||
|
||||
|
||||
|
||||
j) eine kurze Zusammenfassung des im Reallabor entwickelten KI-Projekts, seiner Ziele und der erwarteten Ergebnisse wird
|
||||
auf der Website der zuständigen Behörden veröffentlicht; diese Pflicht erstreckt sich nicht auf sensible operative Daten zu
|
||||
den Tätigkeiten von Strafverfolgungs-, Grenzschutz-, Einwanderungs- oder Asylbehörden.
|
||||
|
||||
|
||||
(2) Für die Zwecke der Verhütung, Ermittlung, Aufdeckung oder Verfolgung von Straftaten oder der Strafvollstrek-
|
||||
kung — einschließlich des Schutzes vor und der Abwehr von Gefahren für die öffentliche Sicherheit — unter der Kontrolle
|
||||
und Verantwortung der Strafverfolgungsbehörden erfolgt die Verarbeitung personenbezogener Daten in KI-Reallaboren auf
|
||||
der Grundlage eines spezifischen Unionsrechts oder nationalen Rechts und unterliegt den kumulativen Bedingungen des
|
||||
Absatzes 1.
|
||||
|
||||
|
||||
(3) Das Unionsrecht oder nationale Recht, das die Verarbeitung personenbezogener Daten für andere Zwecke als die
|
||||
ausdrücklich in jenem Recht genannten ausschließt, sowie Unionsrecht oder nationales Recht, in dem die Grundlagen für
|
||||
eine für die Zwecke der Entwicklung, des Testens oder des Trainings innovativer KI-Systeme notwendige Verarbeitung
|
||||
personenbezogener Daten festgelegt sind, oder jegliche anderen dem Unionsrecht zum Schutz personenbezogener Daten
|
||||
entsprechenden Rechtsgrundlagen bleiben von Absatz 1 unberührt.
|
||||
|
||||
|
||||
Artikel 60
|
||||
|
||||
|
||||
Tests von Hochrisiko-KI-Systemen unter Realbedingungen außerhalb von KI-Reallaboren
|
||||
|
||||
|
||||
(1) Tests von Hochrisiko-KI-Systemen unter Realbedingungen können von Anbietern oder zukünftigen Anbietern von in
|
||||
Anhang III aufgeführten Hochrisiko-KI-Systemen außerhalb von KI-Reallaboren gemäß diesem Artikel und — unbeschadet
|
||||
der Bestimmungen unter Artikel 5 — dem in diesem Artikel genannten Plan für einen Test unter Realbedingungen
|
||||
durchgeführt werden.
|
||||
|
||||
|
||||
Die Kommission legt die einzelnen Elemente des Plans für einen Test unter Realbedingungen im Wege von
|
||||
Durchführungsrechtsakten fest. Diese Durchführungsrechtsakte werden gemäß dem in Artikel 98 Absatz 2 genannten
|
||||
Prüfverfahren erlassen.
|
||||
|
||||
|
||||
Das Unionsrecht oder nationale Recht für das Testen von Hochrisiko-KI-Systemen unter Realbedingungen im
|
||||
Zusammenhang mit Produkten, die unter die in Anhang I aufgeführten Harmonisierungsrechtsvorschriften der Union
|
||||
fallen, bleibt von dieser Bestimmung unberührt.
|
||||
|
||||
|
||||
(2) Anbieter oder zukünftige Anbieter können in Anhang III genannte Hochrisiko-KI-Systeme vor deren
|
||||
Inverkehrbringen oder Inbetriebnahme jederzeit selbst oder in Partnerschaft mit einem oder mehreren Betreibern oder
|
||||
zukünftigen Betreibern unter Realbedingungen testen.
|
||||
|
||||
|
||||
(3) Tests von KI-Systemen unter Realbedingungen gemäß diesem Artikel lassen nach dem Unionsrecht oder dem
|
||||
nationalen Recht gegebenenfalls vorgeschriebene Ethikprüfungen unberührt.
|
||||
|
||||
|
||||
(4) Tests unter Realbedingungen dürfen von Anbietern oder zukünftigen Anbietern nur durchgeführt werden, wenn alle
|
||||
der folgenden Bedingungen erfüllt sind:
|
||||
|
||||
|
||||
a)Der Anbieter oder der zukünftige Anbieter hat einen Plan für einen Test unter Realbedingungen erstellt und diesen bei
|
||||
der Marktüberwachungsbehörde in dem Mitgliedstaat eingereicht, in dem der Test unter Realbedingungen stattfinden
|
||||
soll;
|
||||
|
||||
|
||||
b)die Marktüberwachungsbehörde in dem Mitgliedstaat, in dem der Test unter Realbedingungen stattfinden soll, hat den
|
||||
Test unter Realbedingungen und den Plan für einen Test unter Realbedingungen genehmigt; hat die Marktüber-
|
||||
wachungsbehörde innerhalb von 30 Tagen keine Antwort gegeben, so gelten der Test unter Realbedingungen und der
|
||||
Plan für einen Test unter Realbedingungen als genehmigt; ist im nationalen Recht keine stillschweigende Genehmigung
|
||||
vorgesehen, so bleibt der Test unter Realbedingungen genehmigungspflichtig;
|
||||
|
||||
|
||||
c) der Anbieter oder zukünftige Anbieter, mit Ausnahme der in Anhang III Nummern 1, 6 und 7 genannten Anbieter oder
|
||||
zukünftigen Anbieter von Hochrisiko-KI-Systemen in den Bereichen Strafverfolgung, Migration, Asyl und Grenzkon-
|
||||
trolle und der in Anhang III Nummer 2 genannten Hochrisiko-KI-Systeme, hat den Test unter Realbedingungen unter
|
||||
Angabe einer unionsweit einmaligen Identifizierungsnummer und der in Anhang IX festgelegten Informationen gemäß
|
||||
Artikel 71 Absatz 4 registriert; der Anbieter oder zukünftige Anbieter von Hochrisiko-KI-Systemen gemäß Anhang III
|
||||
Nummern 1, 6 und 7 in den Bereichen Strafverfolgung, Migration, Asyl und Grenzkontrollmanagement hat die Tests
|
||||
unter Realbedingungen im sicheren nicht öffentlichen Teil der EU-Datenbank gemäß Artikel 49 Absatz 4 Buchstabe d
|
||||
mit einer unionsweit einmaligen Identifizierungsnummer und den darin festgelegten Informationen registriert; der
|
||||
Anbieter oder zukünftige Anbieter von Hochrisiko-KI-Systemen gemäß Anhang III Nummer 2 hat die Tests unter
|
||||
Realbedingungen gemäß Artikel 49 Absatz 5 registriert;
|
||||
|
||||
# DE ABl. L vom 12.7.
|
||||
|
||||
92/144 ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj)
|
||||
|
||||
|
||||
|
||||
d)der Anbieter oder der zukünftige Anbieter, der den Test unter Realbedingungen durchführt, ist in der Union
|
||||
niedergelassen oder hat einen in der Union niedergelassenen gesetzlichen Vertreter bestellt;
|
||||
|
||||
|
||||
e) die für die Zwecke des Tests unter Realbedingungen erhobenen und verarbeiteten Daten werden nur dann an Drittländer
|
||||
übermittelt, wenn gemäß Unionsrecht geeignete und anwendbare Schutzvorkehrungen greifen;
|
||||
|
||||
|
||||
f) der Test unter Realbedingungen dauert nicht länger als zur Erfüllung seiner Zielsetzungen nötig und in keinem Fall
|
||||
länger als sechs Monate; dieser Zeitraum kann um weitere sechs Monate verlängert werden, sofern der Anbieter oder der
|
||||
zukünftige Anbieter die Marktüberwachungsbehörde davon vorab in Kenntnis setzt und erläutert, warum eine solche
|
||||
Verlängerung erforderlich ist;
|
||||
|
||||
|
||||
g)Testteilnehmer im Rahmen von Tests unter Realbedingungen, die aufgrund ihres Alters oder einer Behinderung
|
||||
schutzbedürftigen Gruppen angehören, sind angemessen geschützt;
|
||||
|
||||
|
||||
h)wenn ein Anbieter oder zukünftiger Anbieter den Test unter Realbedingungen in Zusammenarbeit mit einem oder
|
||||
mehreren Betreibern oder zukünftigen Betreibern organisiert, werden Letztere vorab über alle für ihre Teilnahmeent-
|
||||
scheidung relevanten Aspekte des Tests informiert und erhalten die einschlägigen in Artikel 13 genannten
|
||||
Betriebsanleitungen für das KI-System; der Anbieter oder zukünftige Anbieter und der Betreiber oder zukünftige
|
||||
Betreiber schließen eine Vereinbarung, in der ihre Aufgaben und Zuständigkeiten festgelegt sind, um für die Einhaltung
|
||||
der nach dieser Verordnung und anderem Unionsrecht und nationalem Recht für Tests unter Realbedingungen geltenden
|
||||
Bestimmungen zu sorgen;
|
||||
|
||||
|
||||
i) die Testteilnehmer im Rahmen von Tests unter Realbedingungen erteilen ihre informierte Einwilligung gemäß Artikel 61,
|
||||
oder, wenn im Fall der Strafverfolgung die Einholung einer informierten Einwilligung den Test des KI-Systems verhindern
|
||||
würde, dürfen sich der Test und die Ergebnisse des Tests unter Realbedingungen nicht negativ auf die Testteilnehmer
|
||||
auswirken und ihre personenbezogenen Daten werden nach Durchführung des Tests gelöscht;
|
||||
|
||||
|
||||
j) der Anbieter oder zukünftige Anbieter und die Betreiber und zukünftigen Betreiber lassen den Test unter
|
||||
Realbedingungen von Personen wirksam überwachen, die auf dem betreffenden Gebiet angemessen qualifiziert sind
|
||||
und über die Fähigkeit, Ausbildung und Befugnis verfügen, die für die Wahrnehmung ihrer Aufgaben erforderlich sind;
|
||||
|
||||
|
||||
k)die Vorhersagen, Empfehlungen oder Entscheidungen des KI-Systems können effektiv rückgängig gemacht und außer
|
||||
Acht gelassen werden.
|
||||
|
||||
|
||||
(5) Jeder Testteilnehmer bezüglich des Tests unter Realbedingungen oder gegebenenfalls dessen gesetzlicher Vertreter
|
||||
kann seine Teilnahme an dem Test jederzeit durch Widerruf seiner informierten Einwilligung beenden und die
|
||||
unverzügliche und dauerhafte Löschung seiner personenbezogenen Daten verlangen, ohne dass ihm daraus Nachteile
|
||||
entstehen und er dies in irgendeiner Weise begründen müsste. Der Widerruf der informierten Einwilligung wirkt sich nicht
|
||||
auf bereits durchgeführte Tätigkeiten aus.
|
||||
|
||||
|
||||
(6) Im Einklang mit Artikel 75 übertragen die Mitgliedstaaten ihren Marktüberwachungsbehörden die Befugnis, Anbieter
|
||||
und zukünftige Anbieter zur Bereitstellung von Informationen zu verpflichten, unangekündigte Ferninspektionen oder
|
||||
Vor-Ort-Inspektionen durchzuführen und die Durchführung der Tests unter Realbedingungen und damit zusammen-
|
||||
hängende Hochrisiko-KI-Systeme zu prüfen. Die Marktüberwachungsbehörden nutzen diese Befugnisse, um für die sichere
|
||||
Entwicklung von Tests unter Realbedingungen zu sorgen.
|
||||
|
||||
|
||||
(7) Jegliche schwerwiegenden Vorfälle im Verlauf des Tests unter Realbedingungen sind den nationalen Marktüber-
|
||||
wachungsbehörden gemäß Artikel 73 zu melden. Der Anbieter oder zukünftige Anbieter trifft Sofortmaßnahmen zur
|
||||
Schadensbegrenzung; andernfalls setzt er den Test unter Realbedingungen so lange aus, bis eine Schadensbegrenzung
|
||||
stattgefunden hat, oder bricht ihn ab. Im Fall eines solchen Abbruchs des Tests unter Realbedingungen richtet der Anbieter
|
||||
oder zukünftige Anbieter ein Verfahren für den sofortigen Rückruf des KI-Systems ein.
|
||||
|
||||
|
||||
(8) Anbieter oder zukünftige Anbieter setzen die nationalen Marktüberwachungsbehörde in dem Mitgliedstaat, in dem
|
||||
der Test unter Realbedingungen stattfindet, über die Aussetzung oder den Abbruch des Tests unter Realbedingungen und
|
||||
die Endergebnisse in Kenntnis.
|
||||
|
||||
|
||||
(9) Anbieter oder zukünftige Anbieter sind nach geltendem Recht der Union und geltendem nationalen Recht für
|
||||
Schäden haftbar, die während ihrer Tests unter Realbedingungen entstehen.
|
||||
|
||||
# ABl. L vom 12.7.2024 DE
|
||||
|
||||
ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj) 93/
|
||||
|
||||
|
||||
|
||||
Artikel 61
|
||||
|
||||
|
||||
Informierte Einwilligung zur Teilnahme an einem Test unter Realbedingungen außerhalb von KI-Reallaboren
|
||||
|
||||
|
||||
(1) Für die Zwecke von Tests unter Realbedingungen gemäß Artikel 60 ist von den Testteilnehmern eine freiwillig erteilte
|
||||
informierte Einwilligung einzuholen, bevor sie an dem Test teilnehmen und nachdem sie mit präzisen, klaren, relevanten
|
||||
und verständlichen Informationen über Folgendes ordnungsgemäß informiert wurden:
|
||||
|
||||
|
||||
a)die Art und die Zielsetzungen des Tests unter Realbedingungen und etwaige mit ihrer Teilnahme verbundene
|
||||
Unannehmlichkeiten;
|
||||
|
||||
|
||||
b)die Bedingungen, unter denen der Test unter Realbedingungen erfolgen soll, einschließlich der voraussichtlichen Dauer
|
||||
der Teilnahme des Testteilnehmers oder der Testteilnehmer;
|
||||
|
||||
|
||||
c) ihre Rechte und Garantien, die ihnen bezüglich ihrer Teilnahme zustehen, insbesondere ihr Recht, die Teilnahme an dem
|
||||
Test unter Realbedingungen zu verweigern oder diese Teilnahme jederzeit zu beenden, ohne dass ihnen daraus Nachteile
|
||||
entstehen und sie dies in irgendeiner Weise begründen müssten;
|
||||
|
||||
|
||||
d)die Regelungen, unter denen die Rückgängigmachung oder Außerachtlassung der Vorhersagen, Empfehlungen oder
|
||||
Entscheidungen des KI-Systems beantragt werden kann;
|
||||
|
||||
|
||||
e) die unionsweit einmalige Identifizierungsnummer des Tests unter Realbedingungen gemäß Artikel 60 Absatz 4
|
||||
Buchstabe c und die Kontaktdaten des Anbieters oder seines gesetzlichen Vertreters, bei dem weitere Informationen
|
||||
eingeholt werden können.
|
||||
|
||||
|
||||
(2) Die informierte Einwilligung ist zu datieren und zu dokumentieren, und eine Kopie wird den Testteilnehmern oder
|
||||
ihren gesetzlichen Vertretern ausgehändigt.
|
||||
|
||||
|
||||
Artikel 62
|
||||
|
||||
|
||||
Maßnahmen für Anbieter und Betreiber, insbesondere KMU, einschließlich Start-up-Unternehmen
|
||||
|
||||
|
||||
(1) Die Mitgliedstaaten ergreifen die folgenden Maßnahmen:
|
||||
|
||||
|
||||
a)Sie gewähren KMU — einschließlich Start-up-Unternehmen —, die ihren Sitz oder eine Zweigniederlassung in der Union
|
||||
haben, soweit sie die Voraussetzungen und Auswahlkriterien erfüllen, vorrangigen Zugang zu den KI-Reallaboren; der
|
||||
vorrangige Zugang schließt nicht aus, dass andere als die in diesem Absatz genannten KMU, einschließlich
|
||||
Start-up-Unternehmen, Zugang zum KI-Reallabor erhalten, sofern sie ebenfalls die Zulassungsvoraussetzungen und
|
||||
Auswahlkriterien erfüllen;
|
||||
|
||||
|
||||
b)sie führen besondere Sensibilisierungs- und Schulungsmaßnahmen für die Anwendung dieser Verordnung durch, die auf
|
||||
die Bedürfnisse von KMU, einschließlich Start-up-Unternehmen, Betreibern sowie gegebenenfalls lokalen Behörden
|
||||
ausgerichtet sind;
|
||||
|
||||
|
||||
c) sie nutzen entsprechende bestehende Kanäle und richten gegebenenfalls neue Kanäle für die Kommunikation mit KMU,
|
||||
einschließlich Start-up-Unternehmen, Betreibern, anderen Innovatoren sowie gegebenenfalls lokalen Behörden ein, um
|
||||
Ratschläge zu geben und Fragen zur Durchführung dieser Verordnung, auch bezüglich der Beteiligung an KI-Reallaboren,
|
||||
zu beantworten;
|
||||
|
||||
|
||||
d)sie fördern die Beteiligung von KMU und anderen einschlägigen Interessenträgern an der Entwicklung von Normen.
|
||||
|
||||
|
||||
(2) Bei der Festsetzung der Gebühren für die Konformitätsbewertung gemäß Artikel 43 werden die besonderen
|
||||
Interessen und Bedürfnisse von KMU, einschließlich Start-up-Unternehmen, berücksichtigt, indem diese Gebühren
|
||||
proportional zur Größe der Unternehmen, der Größe ihres Marktes und anderen einschlägigen Kennzahlen gesenkt werden.
|
||||
|
||||
|
||||
(3) Das Büro für Künstliche Intelligenz ergreift die folgenden Maßnahmen:
|
||||
|
||||
|
||||
a)es stellt standardisierte Muster für die unter diese Verordnung fallenden Bereiche bereit, wie vom KI-Gremium in seinem
|
||||
Antrag festgelegt;
|
||||
|
||||
|
||||
b)es entwickelt und führt eine zentrale Informationsplattform, über die allen Akteuren in der Union leicht nutzbare
|
||||
Informationen zu dieser Verordnung bereitgestellt werden;
|
||||
|
||||
# DE ABl. L vom 12.7.
|
||||
|
||||
94/144 ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj)
|
||||
|
||||
c) es führt geeignete Informationskampagnen durch, um für die aus dieser Verordnung erwachsenden Pflichten zu
|
||||
sensibilisieren;
|
||||
|
||||
|
||||
d)es bewertet und fördert die Zusammenführung bewährter Verfahren im Bereich der mit KI-Systemen verbundenen
|
||||
Vergabeverfahren.
|
||||
|
||||
|
||||
Artikel 63
|
||||
|
||||
|
||||
Ausnahmen für bestimmte Akteure
|
||||
|
||||
|
||||
(1) Kleinstunternehmen im Sinne der Empfehlung 2003/361/EG können bestimmte Elemente des in Artikel 17 dieser
|
||||
Verordnung vorgeschriebenen Qualitätsmanagementsystems in vereinfachter Weise einhalten, sofern sie keine
|
||||
Partnerunternehmen oder verbundenen Unternehmen im Sinne dieser Empfehlung haben. Zu diesem Zweck arbeitet die
|
||||
Kommission Leitlinien zu den Elementen des Qualitätsmanagementsystems aus, die unter Berücksichtigung der Bedürfnisse
|
||||
von Kleinstunternehmen in vereinfachter Weise eingehalten werden können, ohne das Schutzniveau oder die Notwendigkeit
|
||||
zur Einhaltung der Anforderungen in Bezug auf Hochrisiko-KI-Systeme zu beeinträchtigen.
|
||||
|
||||
|
||||
(2) Absatz 1 dieses Artikels ist nicht dahin gehend auszulegen, dass diese Akteure auch von anderen in dieser
|
||||
Verordnung festgelegten Anforderungen oder Pflichten, einschließlich der nach den Artikeln 9, 10, 11, 12, 13, 14, 15, 72
|
||||
und 73 geltenden, befreit sind.
|
||||
|
||||
|
||||
|
||||
|
||||
@@ -0,0 +1,442 @@
|
||||
KAPITEL VII
|
||||
GOVERNANCE
|
||||
|
||||
|
||||
ABSCHNITT 1
|
||||
|
||||
|
||||
Governance auf Unionsebene
|
||||
|
||||
|
||||
Artikel 64
|
||||
|
||||
|
||||
Büro für Künstliche Intelligenz
|
||||
|
||||
|
||||
(1) Die Kommission entwickelt über das Büro für Künstliche Intelligenz die Sachkenntnis und Fähigkeiten der Union auf
|
||||
dem Gebiet der KI.
|
||||
|
||||
|
||||
(2) Die Mitgliedstaaten erleichtern dem Büro für Künstliche Intelligenz die ihm gemäß dieser Verordnung übertragenen
|
||||
Aufgaben.
|
||||
|
||||
|
||||
Artikel 65
|
||||
|
||||
|
||||
Einrichtung und Struktur des Europäischen Gremiums für Künstliche Intelligenz
|
||||
|
||||
|
||||
(1) Ein Europäisches Gremium für Künstliche Intelligenz (im Folgenden „KI-Gremium“) wird hiermit eingerichtet.
|
||||
|
||||
|
||||
(2) Das KI-Gremium setzt sich aus einem Vertreter je Mitgliedstaat zusammen. Der Europäische Datenschutzbeauftragte
|
||||
nimmt als Beobachter teil. Das Büro für Künstliche Intelligenz nimmt ebenfalls an den Sitzungen des KI-Gremiums teil,
|
||||
ohne sich jedoch an den Abstimmungen zu beteiligen. Andere Behörden oder Stellen der Mitgliedstaaten und der Union
|
||||
oder Sachverständige können im Einzelfall zu den Sitzungen des KI-Gremiums eingeladen werden, wenn die erörterten
|
||||
Fragen für sie von Belang sind.
|
||||
|
||||
|
||||
(3) Die Vertreter werden von ihren Mitgliedstaaten für einen Zeitraum von drei Jahren benannt, der einmal verlängert
|
||||
werden kann.
|
||||
|
||||
|
||||
(4) Die Mitgliedstaaten sorgen dafür, dass ihre Vertreter im KI-Gremium
|
||||
|
||||
|
||||
a)in ihrem Mitgliedstaat über die einschlägigen Kompetenzen und Befugnisse verfügen, sodass sie aktiv zur Bewältigung
|
||||
der in Artikel 66 genannten Aufgaben des KI-Gremiums beitragen können;
|
||||
|
||||
|
||||
b)gegenüber dem KI-Gremium sowie gegebenenfalls, unter Berücksichtigung der Erfordernisse der Mitgliedstaaten,
|
||||
gegenüber Interessenträgern als zentrale Ansprechpartner fungieren;
|
||||
|
||||
# ABl. L vom 12.7.2024 DE
|
||||
|
||||
ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj) 95/
|
||||
|
||||
|
||||
|
||||
c) ermächtigt sind, auf die Kohärenz und die Abstimmung zwischen den zuständigen nationalen Behörden in ihrem
|
||||
Mitgliedstaat bei der Durchführung dieser Verordnung hinzuwirken, auch durch Erhebung einschlägiger Daten und
|
||||
Informationen für die Zwecke der Erfüllung ihrer Aufgaben im KI-Gremium.
|
||||
|
||||
|
||||
(5) Die benannten Vertreter der Mitgliedstaaten nehmen die Geschäftsordnung des KI-Gremiums mit einer
|
||||
Zweidrittelmehrheit an. In der Geschäftsordnung sind insbesondere die Vorgehensweise für das Auswahlverfahren, die
|
||||
Dauer des Mandats und die genauen Aufgaben des Vorsitzes, die Abstimmungsregelungen und die Organisation der
|
||||
Tätigkeiten des KI-Gremiums und seiner Untergruppen festgelegt.
|
||||
|
||||
|
||||
(6) Das KI-Gremium richtet zwei ständige Untergruppen ein, um Marktüberwachungsbehörden eine Plattform für die
|
||||
Zusammenarbeit und den Austausch zu bieten und Behörden über Angelegenheiten, die jeweils die Marktüberwachung und
|
||||
notifizierte Stellen betreffen, zu unterrichten.
|
||||
|
||||
|
||||
Die ständige Untergruppe für Marktüberwachung sollte für diese Verordnung als Gruppe für die Verwaltungs-
|
||||
zusammenarbeit (ADCO-Gruppe) im Sinne des Artikels 30 der Verordnung (EU) 2019/1020 fungieren.
|
||||
|
||||
|
||||
Das KI-Gremium kann weitere ständige oder nichtständige Untergruppen einrichten, falls das für die Prüfung bestimmter
|
||||
Fragen zweckmäßig sein sollte. Gegebenenfalls können Vertreter des in Artikel 67 genannten Beratungsforums als
|
||||
Beobachter zu diesen Untergruppen oder zu bestimmten Sitzungen dieser Untergruppen eingeladen werden.
|
||||
|
||||
|
||||
(7) Das KI-Gremium wird so organisiert und geführt, dass bei seinen Tätigkeiten Objektivität und Unparteilichkeit
|
||||
gewahrt sind.
|
||||
|
||||
|
||||
(8) Den Vorsitz im KI-Gremium führt einer der Vertreter der Mitgliedstaaten. Die Sekretariatsgeschäfte des KI-Gremiums
|
||||
werden vom Büro für Künstliche Intelligenz geführt; dieses beruft auf Anfrage des Vorsitzes die Sitzungen ein und erstellt
|
||||
die Tagesordnung im Einklang mit den Aufgaben des KI-Gremiums gemäß dieser Verordnung und seiner Geschäftsordnung.
|
||||
|
||||
|
||||
Artikel 66
|
||||
|
||||
|
||||
Aufgaben des KI-Gremiums
|
||||
|
||||
|
||||
Das KI-Gremium berät und unterstützt die Kommission und die Mitgliedstaaten, um die einheitliche und wirksame
|
||||
Anwendung dieser Verordnung zu erleichtern. Für diese Zwecke kann das KI-Gremium insbesondere
|
||||
|
||||
|
||||
a) zur Koordinierung zwischen den für die Anwendung dieser Verordnung zuständigen nationalen Behörden beitragen
|
||||
und in Zusammenarbeit mit den betreffenden Marktüberwachungsbehörden und vorbehaltlich ihrer Zustimmung
|
||||
gemeinsame Tätigkeiten der Marktüberwachungsbehörden gemäß Artikel 74 Absatz 11 unterstützen;
|
||||
|
||||
|
||||
b) technisches und regulatorisches Fachwissen und bewährte Verfahren zusammentragen und unter den Mitgliedstaaten
|
||||
verbreiten;
|
||||
|
||||
|
||||
c) zur Durchführung dieser Verordnung Beratung anbieten, insbesondere im Hinblick auf die Durchsetzung der
|
||||
Vorschriften zu KI-Modellen mit allgemeinem Verwendungszweck;
|
||||
|
||||
|
||||
d) zur Harmonisierung der Verwaltungspraxis in den Mitgliedstaaten beitragen, auch bezüglich der Ausnahme vom
|
||||
Konformitätsbewertungsverfahren gemäß Artikel 46 und der Funktionsweise von KI-Reallaboren und Tests unter
|
||||
Realbedingungen gemäß den Artikeln 57, 59 und 60;
|
||||
|
||||
|
||||
e) auf Anfrage der Kommission oder in Eigeninitiative Empfehlungen und schriftliche Stellungnahmen zu einschlägigen
|
||||
Fragen der Durchführung dieser Verordnung und ihrer einheitlichen und wirksamen Anwendung abgeben,
|
||||
einschließlich
|
||||
|
||||
|
||||
i)zur Entwicklung und Anwendung von Verhaltenskodizes und Praxisleitfäden gemäß dieser Verordnung sowie der
|
||||
Leitlinien der Kommission;
|
||||
|
||||
|
||||
ii)zur Bewertung und Überprüfung dieser Verordnung gemäß Artikel 112, auch in Bezug auf die Meldung
|
||||
schwerwiegender Vorfälle gemäß Artikel 73 und das Funktionieren der EU-Datenbank gemäß Artikel 71, die
|
||||
Ausarbeitung der delegierten Rechtsakte oder Durchführungsrechtsakte sowie im Hinblick auf mögliche
|
||||
Anpassungen dieser Verordnung an die in Anhang I aufgeführten Harmonisierungsrechtsvorschriften der Union;
|
||||
|
||||
|
||||
iii)zu technischen Spezifikationen oder geltenden Normen in Bezug auf die in Kapitel III Abschnitt 2 festgelegten
|
||||
Anforderungen;
|
||||
|
||||
# DE ABl. L vom 12.7.
|
||||
|
||||
96/144 ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj)
|
||||
|
||||
|
||||
|
||||
iv)zur Anwendung der in den Artikeln 40 und 41 genannten harmonisierten Normen oder gemeinsamen
|
||||
Spezifikationen;
|
||||
|
||||
|
||||
v)zu Tendenzen, etwa im Bereich der globalen Wettbewerbsfähigkeit Europas auf dem Gebiet der KI, bei der
|
||||
Verbreitung von KI in der Union und bei der Entwicklung digitaler Fähigkeiten;
|
||||
|
||||
|
||||
vi)zu Tendenzen im Bereich der sich ständig weiterentwickelnden Typologie der KI-Wertschöpfungsketten
|
||||
insbesondere hinsichtlich der sich daraus ergebenden Auswirkungen auf die Rechenschaftspflicht;
|
||||
|
||||
|
||||
vii)zur möglicherweise notwendigen Änderung des Anhangs III im Einklang mit Artikel 7 und zur möglicherweise
|
||||
notwendigen Überarbeitung des Artikels 5 gemäß Artikel 112 unter Berücksichtigung der einschlägigen
|
||||
verfügbaren Erkenntnisse und der neuesten technologischen Entwicklungen;
|
||||
|
||||
|
||||
f) die Kommission bei der Förderung der KI-Kompetenz, der Sensibilisierung und Aufklärung der Öffentlichkeit in Bezug
|
||||
auf die Vorteile, Risiken, Schutzmaßnahmen, Rechte und Pflichten im Zusammenhang mit der Nutzung von
|
||||
KI-Systemen unterstützen;
|
||||
|
||||
|
||||
g) die Entwicklung gemeinsamer Kriterien und eines gemeinsamen Verständnisses der Marktteilnehmer und der
|
||||
zuständigen Behörden in Bezug auf die in dieser Verordnung vorgesehenen einschlägigen Konzepte erleichtern, auch
|
||||
durch einen Beitrag zur Entwicklung von Benchmarks;
|
||||
|
||||
|
||||
h) gegebenenfalls mit anderen Organen, Einrichtungen und sonstigen Stellen der EU, einschlägigen Sachverständigen-
|
||||
gruppen und Netzwerken der EU insbesondere in den Bereichen Produktsicherheit, Cybersicherheit, Wettbewerb,
|
||||
digitale und Mediendienste, Finanzdienstleistungen, Verbraucherschutz, Datenschutz und Schutz der Grundrechte
|
||||
zusammenarbeiten;
|
||||
|
||||
|
||||
i) zur wirksamen Zusammenarbeit mit den zuständigen Behörden von Drittstaaten und mit internationalen
|
||||
Organisationen beitragen;
|
||||
|
||||
|
||||
j) die zuständigen nationalen Behörden und die Kommission beim Aufbau des für die Durchführung dieser Verordnung
|
||||
erforderlichen organisatorischen und technischen Fachwissens beraten, unter anderem durch einen Beitrag zur
|
||||
Einschätzung des Schulungsbedarfs des Personals der Mitgliedstaaten, das an der Durchführung dieser Verordnung
|
||||
beteiligt ist;
|
||||
|
||||
|
||||
k) dem Büro für Künstliche Intelligenz helfen, die zuständigen nationalen Behörden bei der Einrichtung und Entwicklung
|
||||
von KI-Reallaboren zu unterstützen, und die Zusammenarbeit und den Informationsaustausch zwischen KI-Reallaboren
|
||||
erleichtern;
|
||||
|
||||
|
||||
l) zur Entwicklung von Leitfäden beitragen und diesbezüglich entsprechend beraten;
|
||||
|
||||
|
||||
m)die Kommission zu internationalen Angelegenheiten im Bereich der KI beraten;
|
||||
|
||||
|
||||
n) der Kommission Stellungnahmen zu qualifizierten Warnungen in Bezug auf KI-Modelle mit allgemeinem
|
||||
Verwendungszweck vorlegen;
|
||||
|
||||
|
||||
o) Stellungnahmen der Mitgliedstaaten zu qualifizierten Warnungen in Bezug auf KI-Modelle mit allgemeinem
|
||||
Verwendungszweck entgegennehmen sowie zu nationalen Erfahrungen und Praktiken bei der Überwachung und
|
||||
Durchsetzung von KI-Systemen, insbesondere von Systemen, die KI-Modelle mit allgemeinem Verwendungszweck
|
||||
integrieren.
|
||||
|
||||
|
||||
Artikel 67
|
||||
|
||||
|
||||
Beratungsforum
|
||||
|
||||
|
||||
(1) Es wird ein Beratungsforum eingerichtet, das technisches Fachwissen bereitstellt, das KI-Gremium und die
|
||||
Kommission berät und zu deren Aufgaben im Rahmen dieser Verordnung beiträgt.
|
||||
|
||||
|
||||
(2) Die Mitglieder des Beratungsforums vertreten eine ausgewogene Auswahl von Interessenträgern, darunter die
|
||||
Industrie, Start-up-Unternehmen, KMU, die Zivilgesellschaft und die Wissenschaft. Bei der Zusammensetzung des
|
||||
Beratungsforums wird auf ein ausgewogenes Verhältnis zwischen wirtschaftlichen und nicht-wirtschaftlichen Interessen und
|
||||
innerhalb der Kategorie der wirtschaftlichen Interessen zwischen KMU und anderen Unternehmen geachtet.
|
||||
|
||||
|
||||
(3) Die Kommission ernennt die Mitglieder des Beratungsforums gemäß den in Absatz 2 genannten Kriterien aus dem
|
||||
Kreis der Interessenträger mit anerkanntem Fachwissen auf dem Gebiet der KI.
|
||||
|
||||
# ABl. L vom 12.7.2024 DE
|
||||
|
||||
ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj) 97/
|
||||
|
||||
|
||||
|
||||
(4) Die Amtszeit der Mitglieder des Beratungsforums beträgt zwei Jahre; sie kann bis zu höchstens vier Jahre verlängert
|
||||
werden.
|
||||
|
||||
|
||||
(5) Die Agentur der Europäischen Union für Grundrechte, ENISA, das Europäische Komitee für Normung (CEN), das
|
||||
Europäische Komitee für elektrotechnische Normung (CENELEC) und das Europäische Institut für Telekommunikations-
|
||||
normen (ETSI) sind ständige Mitglieder des Beratungsforums.
|
||||
|
||||
|
||||
(6) Das Beratungsforum gibt sich eine Geschäftsordnung. Es wählt gemäß den in Absatz 2 festgelegten Kriterien zwei
|
||||
Ko-Vorsitzende unter seinen Mitgliedern. Die Amtszeit der Ko-Vorsitzenden beträgt zwei Jahre und kann einmal verlängert
|
||||
werden.
|
||||
|
||||
|
||||
(7) Das Beratungsforum hält mindestens zweimal pro Jahr Sitzungen ab. Das Beratungsforum kann Sachverständige und
|
||||
andere Interessenträger zu seinen Sitzungen einladen.
|
||||
|
||||
|
||||
(8) Das Beratungsforum kann auf Ersuchen des KI-Gremiums oder der Kommission Stellungnahmen, Empfehlungen und
|
||||
schriftliche Beiträge ausarbeiten.
|
||||
|
||||
|
||||
(9) Das Beratungsforum kann gegebenenfalls ständige oder zeitweilige Untergruppen einsetzen, um spezifische Fragen
|
||||
im Zusammenhang mit den Zielen dieser Verordnung zu prüfen.
|
||||
|
||||
|
||||
(10) Das Beratungsforum erstellt jährlich einen Bericht über seine Tätigkeit. Dieser Bericht wird veröffentlicht.
|
||||
|
||||
|
||||
Artikel 68
|
||||
|
||||
|
||||
Wissenschaftliches Gremium unabhängiger Sachverständiger
|
||||
|
||||
|
||||
(1) Die Kommission erlässt im Wege eines Durchführungsrechtsakts Bestimmungen über die Einrichtung eines
|
||||
wissenschaftlichen Gremiums unabhängiger Sachverständiger („wissenschaftliches Gremium“), das die Durchsetzungstätig-
|
||||
keiten im Rahmen dieser Verordnung unterstützen soll. Dieser Durchführungsrechtsakt wird gemäß dem in Artikel 98
|
||||
Absatz 2 genannten Prüfverfahren erlassen.
|
||||
|
||||
|
||||
(2) Das wissenschaftliche Gremium setzt sich aus Sachverständigen zusammen, die von der Kommission auf der
|
||||
Grundlage aktueller wissenschaftlicher oder technischer Fachkenntnisse auf dem Gebiet der KI, die zur Erfüllung der in
|
||||
Absatz 3 genannten Aufgaben erforderlich sind, ausgewählt werden, und muss nachweisen können, dass es alle folgenden
|
||||
Bedingungen erfüllt:
|
||||
|
||||
|
||||
a)es verfügt über besondere Fachkenntnisse und Kompetenzen sowie über wissenschaftliches oder technisches Fachwissen
|
||||
auf dem Gebiet der KI;
|
||||
|
||||
|
||||
b)es ist von Anbietern von KI-Systemen oder KI-Modellen mit allgemeinem Verwendungszweck unabhängig;
|
||||
|
||||
|
||||
c) es ist in der Lage, Tätigkeiten sorgfältig, präzise und objektiv auszuführen.
|
||||
|
||||
|
||||
Die Kommission legt in Absprache mit dem KI-Gremium die Anzahl der Sachverständigen des Gremiums nach Maßgabe
|
||||
der jeweiligen Erfordernisse fest und sorgt für eine ausgewogene Vertretung der Geschlechter und eine gerechte geografische
|
||||
Verteilung.
|
||||
|
||||
|
||||
(3) Das wissenschaftliche Gremium berät und unterstützt das Büro für Künstliche Intelligenz, insbesondere in Bezug auf
|
||||
folgende Aufgaben:
|
||||
|
||||
|
||||
a)Unterstützung bei der Durchführung und Durchsetzung dieser Verordnung in Bezug auf KI-Modelle und -Systeme mit
|
||||
allgemeinem Verwendungszweck, insbesondere indem es
|
||||
|
||||
|
||||
i)das Büro für Künstliche Intelligenz im Einklang mit Artikel 90 vor möglichen systemischen Risiken von KI-Modellen
|
||||
mit allgemeinem Verwendungszweck auf Unionsebene warnt;
|
||||
|
||||
|
||||
ii)einen Beitrag zur Entwicklung von Instrumenten und Methoden für die Bewertung der Fähigkeiten von KI-Modellen
|
||||
und -Systemen mit allgemeinem Verwendungszweck, auch durch Benchmarks, leistet;
|
||||
|
||||
|
||||
iii)Beratung über die Einstufung von KI-Modellen mit allgemeinem Verwendungszweck mit systemischem Risiko
|
||||
anbietet;
|
||||
|
||||
|
||||
iv)Beratung über die Einstufung verschiedener KI-Modelle und -Systeme mit allgemeinem Verwendungszweck anbietet;
|
||||
|
||||
# DE ABl. L vom 12.7.
|
||||
|
||||
98/144 ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj)
|
||||
|
||||
|
||||
|
||||
v)einen Beitrag zur Entwicklung von Instrumenten und Mustern leistet;
|
||||
|
||||
|
||||
b)Unterstützung der Arbeit der Marktüberwachungsbehörden auf deren Ersuchen;
|
||||
|
||||
|
||||
c) Unterstützung grenzüberschreitender Marktüberwachungstätigkeiten gemäß Artikel 74 Absatz 11, ohne dass die
|
||||
Befugnisse der Marktüberwachungsbehörden berührt werden;
|
||||
|
||||
|
||||
d)Unterstützung des Büros für Künstliche Intelligenz bei der Wahrnehmung seiner Aufgaben im Rahmen des
|
||||
Schutzklauselverfahrens der Union gemäß Artikel 81.
|
||||
|
||||
|
||||
(4) Die Sachverständigen des wissenschaftlichen Gremiums führen ihre Aufgaben nach den Grundsätzen der
|
||||
Unparteilichkeit und der Objektivität aus und gewährleisten die Vertraulichkeit der Informationen und Daten, in deren
|
||||
Besitz sie bei der Ausführung ihrer Aufgaben und Tätigkeiten gelangen. Sie dürfen bei der Wahrnehmung ihrer Aufgaben
|
||||
nach Absatz 3 weder Weisungen anfordern noch entgegennehmen. Jeder Sachverständige gibt eine Interessenerklärung ab,
|
||||
die öffentlich zugänglich gemacht wird. Das Büro für Künstliche Intelligenz richtet Systeme und Verfahren ein, mit denen
|
||||
mögliche Interessenkonflikte aktiv bewältigt und verhindert werden können.
|
||||
|
||||
|
||||
(5) Der in Absatz 1 genannte Durchführungsrechtsakt enthält Bestimmungen über die Bedingungen, Verfahren und
|
||||
detaillierten Regelungen nach denen das wissenschaftliche Gremium und seine Mitglieder Warnungen ausgeben und das
|
||||
Büro für Künstliche Intelligenz um Unterstützung bei der Wahrnehmung der Aufgaben des wissenschaftlichen Gremiums
|
||||
ersuchen können.
|
||||
|
||||
|
||||
Artikel 69
|
||||
|
||||
|
||||
Zugang zum Pool von Sachverständigen durch die Mitgliedstaaten
|
||||
|
||||
|
||||
(1) Die Mitgliedstaaten können Sachverständige des wissenschaftlichen Gremiums hinzuziehen, um ihre Durch-
|
||||
setzungstätigkeiten im Rahmen dieser Verordnung zu unterstützen.
|
||||
|
||||
|
||||
(2) Die Mitgliedstaaten können verpflichtet werden, für die Beratung und Unterstützung durch die Sachverständigen
|
||||
Gebühren zu entrichten. Struktur und Höhe der Gebühren sowie Umfang und Struktur erstattungsfähiger Kosten werden in
|
||||
dem in Artikel 68 Absatz 1 genannten Durchführungsrechtsakt festgelegt, wobei die Zielsetzung berücksichtigt wird, für die
|
||||
angemessene Durchführung dieser Verordnung, für Kosteneffizienz sowie dafür zu sorgen, dass alle Mitgliedstaaten
|
||||
effektiven Zugang zu Sachverständigen haben müssen.
|
||||
|
||||
|
||||
(3) Die Kommission ermöglicht den Mitgliedstaaten bei Bedarf einen rechtzeitigen Zugang zu den Sachverständigen und
|
||||
sorgt dafür, dass die Kombination aus unterstützenden Tätigkeiten durch die Union zur Prüfung von KI gemäß Artikel 84
|
||||
und durch die Sachverständigen gemäß dem vorliegenden Artikel effizient organisiert ist und den bestmöglichen
|
||||
zusätzlichen Nutzen bringt.
|
||||
|
||||
|
||||
ABSCHNITT 2
|
||||
Zuständige nationale Behörden
|
||||
|
||||
|
||||
Artikel 70
|
||||
|
||||
|
||||
Benennung von zuständigen nationalen Behörden und zentrale Anlaufstelle
|
||||
|
||||
|
||||
(1) Jeder Mitgliedstaat muss für die Zwecke dieser Verordnung mindestens eine notifizierende Behörde und mindestens
|
||||
eine Marktüberwachungsbehörde als zuständige nationale Behörden einrichten oder benennen. Diese zuständigen
|
||||
nationalen Behörden üben ihre Befugnisse unabhängig, unparteiisch und unvoreingenommen aus, um die Objektivität ihrer
|
||||
Tätigkeiten und Aufgaben zu gewährleisten und die Anwendung und Durchführung dieser Verordnung sicherzustellen. Die
|
||||
Mitglieder dieser Behörden haben jede Handlung zu unterlassen, die mit ihren Aufgaben unvereinbar ist. Sofern diese
|
||||
Grundsätze gewahrt werden, können die betreffenden Tätigkeiten und Aufgaben gemäß den organisatorischen
|
||||
Erfordernissen des Mitgliedstaats von einer oder mehreren benannten Behörden wahrgenommen werden.
|
||||
|
||||
|
||||
(2) Die Mitgliedstaaten teilen der Kommission die Namen der notifizierenden Behörden und der Marktüberwachungs-
|
||||
behörden und die Aufgaben dieser Behörden sowie alle späteren Änderungen mit. Die Mitgliedstaaten machen
|
||||
Informationen darüber, wie die zuständigen Behörden und zentralen Anlaufstellen bis zum 2. August 2025 auf
|
||||
elektronischem Wege kontaktiert werden können, öffentlich zugänglich. Die Mitgliedstaaten benennen eine Marktüber-
|
||||
wachungsbehörde, die als zentrale Anlaufstelle für diese Verordnung fungiert, und teilen der Kommission den Namen der
|
||||
zentralen Anlaufstelle mit. Die Kommission erstellt eine öffentlich verfügbare Liste der zentralen Anlaufstellen.
|
||||
|
||||
# ABl. L vom 12.7.2024 DE
|
||||
|
||||
ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj) 99/
|
||||
|
||||
(3) Die Mitgliedstaaten sorgen dafür, dass ihre zuständigen nationalen Behörden mit angemessenen technischen und
|
||||
finanziellen Mitteln sowie geeignetem Personal und Infrastrukturen ausgestattet werden, damit sie ihre Aufgaben im
|
||||
Rahmen dieser Verordnung wirksam erfüllen können. Insbesondere müssen die zuständigen nationalen Behörden zu jeder
|
||||
Zeit über eine ausreichende Zahl von Mitarbeitern verfügen, zu deren Kompetenzen und Fachwissen ein tiefes Verständnis
|
||||
der KI-Technologien, der Daten und Datenverarbeitung, des Schutzes personenbezogener Daten, der Cybersicherheit, der
|
||||
Grundrechte, der Gesundheits- und Sicherheitsrisiken sowie Kenntnis der bestehenden Normen und rechtlichen
|
||||
Anforderungen gehört. Die Mitgliedstaaten bewerten und aktualisieren, falls erforderlich, jährlich die in diesem Absatz
|
||||
genannten Erfordernisse bezüglich Kompetenzen und Ressourcen.
|
||||
|
||||
|
||||
(4) Die zuständigen nationalen Behörden ergreifen geeignete Maßnahmen zur Sicherstellung eines angemessenen Maßes
|
||||
an Cybersicherheit.
|
||||
|
||||
|
||||
(5) Bei der Erfüllung ihrer Aufgaben halten sich die zuständigen nationalen Behörden an die in Artikel 78 festgelegten
|
||||
Vertraulichkeitspflichten.
|
||||
|
||||
|
||||
(6) Bis zum 2. August 2025 und anschließend alle zwei Jahre erstatten die Mitgliedstaaten der Kommission Bericht über
|
||||
den Sachstand bezüglich der finanziellen Mittel und des Personals der zuständigen nationalen Behörden und geben eine
|
||||
Einschätzung über deren Angemessenheit ab. Die Kommission leitet diese Informationen zur Erörterung und etwaigen
|
||||
Abgabe von Empfehlungen an das KI-Gremium weiter.
|
||||
|
||||
|
||||
(7) Die Kommission fördert den Erfahrungsaustausch zwischen den zuständigen nationalen Behörden.
|
||||
|
||||
|
||||
(8) Die zuständigen nationalen Behörden können gegebenenfalls insbesondere KMU, einschließlich Start-up-Unterneh-
|
||||
men, unter Berücksichtigung der Anleitung und Beratung durch das KI-Gremium oder der Kommission mit Anleitung und
|
||||
Beratung bei der Durchführung dieser Verordnung zur Seite stehen. Wenn zuständige nationale Behörden beabsichtigen,
|
||||
Anleitung und Beratung in Bezug auf ein KI-System in Bereichen anzubieten, die unter das Unionrecht fallen, so sind
|
||||
gegebenenfalls die nach jenen Unionsrecht zuständigen nationalen Behörden zu konsultieren.
|
||||
|
||||
|
||||
(9) Soweit Organe, Einrichtungen und sonstige Stellen der Union in den Anwendungsbereich dieser Verordnung fallen,
|
||||
übernimmt der Europäische Datenschutzbeauftragte die Funktion der für ihre Beaufsichtigung zuständigen Behörde.
|
||||
@@ -0,0 +1,49 @@
|
||||
KAPITEL VIII
|
||||
EU-DATENBANK FÜR HOCHRISIKO-KI-SYSTEME
|
||||
|
||||
|
||||
Artikel 71
|
||||
|
||||
|
||||
EU-Datenbank für die in Anhang III aufgeführten Hochrisiko-KI-Systeme
|
||||
|
||||
|
||||
(1) Die Kommission errichtet und führt in Zusammenarbeit mit den Mitgliedstaaten eine EU-Datenbank mit den in den
|
||||
Absätzen 2 und 3 dieses Artikels genannten Informationen über Hochrisiko-KI-Systeme nach Artikel 6 Absatz 2, die gemäß
|
||||
den Artikeln 49 und 60 registriert werden und über KI-Systeme, die nicht als Hochrisiko-KI-Systeme gemäß Artikel 6
|
||||
Absatz 3 gelten und gemäß Artikel 6 Absatz 4 und Artikel 49 registriert werden. Bei der Festlegung der
|
||||
Funktionsspezifikationen dieser Datenbank konsultiert die Kommission die einschlägigen Sachverständigen und bei der
|
||||
Aktualisierung der Funktionsspezifikationen dieser Datenbank konsultiert sie das KI-Gremium.
|
||||
|
||||
|
||||
(2) Die in Anhang VIII Abschnitte A und B aufgeführten Daten werden vom Anbieter oder gegebenenfalls vom
|
||||
Bevollmächtigten in die EU-Datenbank eingegeben.
|
||||
|
||||
|
||||
(3) Die in Anhang VIII Abschnitt C aufgeführten Daten werden vom Betreiber, der eine Behörde, Einrichtung oder
|
||||
sonstige Stelle ist oder in deren Namen handelt, gemäß Artikel 49 Absätze 3 und 4 in die EU-Datenbank eingegeben.
|
||||
|
||||
|
||||
(4) Mit Ausnahme des in Artikel 49 Absatz 4 und Artikel 60 Absatz 4 Buchstabe c genannten Abschnitts müssen die
|
||||
gemäß Artikel 49 in der Datenbank registrierten und dort enthaltenen Informationen auf benutzerfreundliche Weise
|
||||
zugänglich und öffentlich verfügbar sein. Die Informationen sollten leicht handhabbar und maschinenlesbar sein. Auf die
|
||||
gemäß Artikel 60 registrierten Informationen können nur Marktüberwachungsbehörden und die Kommission zugreifen, es
|
||||
sei denn, der zukünftige Anbieter oder der Anbieter hat seine Zustimmung dafür erteilt, dass die Informationen auch
|
||||
öffentlich zugänglich sind.
|
||||
|
||||
|
||||
(5) Die EU-Datenbank enthält personenbezogene Daten nur, soweit dies für die Erfassung und Verarbeitung von
|
||||
Informationen gemäß dieser Verordnung erforderlich ist. Zu diesen Informationen gehören die Namen und Kontaktdaten
|
||||
der natürlichen Personen, die für die Registrierung des Systems verantwortlich sind und die rechtlich befugt sind, den
|
||||
Anbieter oder gegebenenfalls den Betreiber zu vertreten.
|
||||
|
||||
# DE ABl. L vom 12.7.
|
||||
|
||||
100/144 ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj)
|
||||
|
||||
(6) Die Kommission gilt als für die EU-Datenbank Verantwortlicher. Sie stellt Anbietern, zukünftigen Anbietern und
|
||||
Betreibern angemessene technische und administrative Unterstützung bereit. Die EU-Datenbank muss den geltenden
|
||||
Barrierefreiheitsanforderungen entsprechen.
|
||||
|
||||
|
||||
|
||||
Reference in New Issue
Block a user