613 lines
34 KiB
Markdown
613 lines
34 KiB
Markdown
|
|
KAPITEL VI
|
|
MASSNAHMEN ZUR INNOVATIONSFÖRDERUNG
|
|
|
|
|
|
Artikel 57
|
|
|
|
|
|
KI-Reallabore
|
|
|
|
|
|
(1) Die Mitgliedstaaten sorgen dafür, dass ihre zuständigen Behörden mindestens ein KI-Reallabor auf nationaler Ebene
|
|
einrichten, das bis zum 2. August 2026 einsatzbereit sein muss. Dieses Reallabor kann auch gemeinsam mit den
|
|
zuständigen Behörden anderer Mitgliedstaaten eingerichtet werden. Die Kommission kann technische Unterstützung,
|
|
Beratung und Instrumente für die Einrichtung und den Betrieb von KI-Reallaboren bereitstellen.
|
|
|
|
|
|
Die Verpflichtung nach Unterabsatz 1 kann auch durch Beteiligung an einem bestehenden Reallabor erfüllt werden, sofern
|
|
eine solche Beteiligung die nationale Abdeckung der teilnehmenden Mitgliedstaaten in gleichwertigem Maße gewährleistet.
|
|
|
|
|
|
(2) Es können auch zusätzliche KI-Reallabore auf regionaler oder lokaler Ebene oder gemeinsam mit den zuständigen
|
|
Behörden anderer Mitgliedstaaten eingerichtet werden;
|
|
|
|
|
|
(3) Der Europäische Datenschutzbeauftragte kann auch ein KI-Reallabor für Organe, Einrichtungen und sonstige Stellen
|
|
der Union einrichten und die Rollen und Aufgaben der zuständigen nationalen Behörden im Einklang mit diesem Kapitel
|
|
wahrnehmen.
|
|
|
|
|
|
(4) Die Mitgliedstaaten stellen sicher, dass die in den Absätzen 1 und 2 genannten zuständigen Behörden ausreichende
|
|
Mittel bereitstellen, um diesem Artikel wirksam und zeitnah nachzukommen. Gegebenenfalls arbeiten die zuständigen
|
|
nationalen Behörden mit anderen einschlägigen Behörden zusammen und können die Einbeziehung anderer Akteure des
|
|
KI-Ökosystems gestatten. Andere Reallabore, die im Rahmen des Unionsrechts oder des nationalen Rechts eingerichtet
|
|
wurden, bleiben von diesem Artikel unberührt. Die Mitgliedstaaten sorgen dafür, dass die diese anderen Reallabore
|
|
beaufsichtigenden Behörden und die zuständigen nationalen Behörden angemessen zusammenarbeiten.
|
|
|
|
|
|
(5) Die nach Absatz 1 eingerichteten KI-Reallabore bieten eine kontrollierte Umgebung, um Innovation zu fördern und
|
|
die Entwicklung, das Training, das Testen und die Validierung innovativer KI-Systeme für einen begrenzten Zeitraum vor
|
|
ihrem Inverkehrbringen oder ihrer Inbetriebnahme nach einem bestimmten zwischen den Anbietern oder zukünftigen
|
|
Anbietern und der zuständigen Behörde vereinbarten Reallabor-Plan zu erleichtern. In diesen Reallaboren können auch
|
|
darin beaufsichtigte Tests unter Realbedingungen durchgeführt werden.
|
|
|
|
|
|
(6) Die zuständigen Behörden stellen innerhalb der KI-Reallabore gegebenenfalls Anleitung, Aufsicht und Unterstützung
|
|
bereit, um Risiken, insbesondere im Hinblick auf Grundrechte, Gesundheit und Sicherheit, Tests und Risikominderungs-
|
|
maßnahmen sowie deren Wirksamkeit hinsichtlich der Pflichten und Anforderungen dieser Verordnung und gegebenenfalls
|
|
anderem Unionsrecht und nationalem Recht, deren Einhaltung innerhalb des Reallabors beaufsichtigt wird, zu ermitteln.
|
|
|
|
|
|
(7) Die zuständigen Behörden stellen den Anbietern und zukünftigen Anbietern, die am KI-Reallabor teilnehmen,
|
|
Leitfäden zu regulatorischen Erwartungen und zur Erfüllung der in dieser Verordnung festgelegten Anforderungen und
|
|
Pflichten zur Verfügung.
|
|
|
|
|
|
Die zuständige Behörde legt dem Anbieter oder zukünftigen Anbieter des KI-Systems auf dessen Anfrage einen schriftlichen
|
|
Nachweis für die im Reallabor erfolgreich durchgeführten Tätigkeiten vor. Außerdem legt die zuständige Behörde einen
|
|
Abschlussbericht vor, in dem sie die im Reallabor durchgeführten Tätigkeiten, deren Ergebnisse und die gewonnenen
|
|
Erkenntnisse im Einzelnen darlegt. Die Anbieter können diese Unterlagen nutzen, um im Rahmen des Konformitäts-
|
|
bewertungsverfahrens oder einschlägiger Marktüberwachungstätigkeiten nachzuweisen, dass sie dieser Verordnung
|
|
nachkommen. In diesem Zusammenhang werden die Abschlussberichte und die von der zuständigen nationalen Behörde
|
|
vorgelegten schriftlichen Nachweise von den Marktüberwachungsbehörden und den notifizierten Stellen im Hinblick auf
|
|
eine Beschleunigung der Konformitätsbewertungsverfahren in angemessenem Maße positiv gewertet.
|
|
|
|
|
|
(8) Vorbehaltlich der in Artikel 78 enthaltenen Bestimmungen über die Vertraulichkeit und im Einvernehmen mit den
|
|
Anbietern oder zukünftigen Anbietern, sind die Kommission und das KI-Gremium befugt, die Abschlussberichte
|
|
einzusehen und tragen diesen gegebenenfalls bei der Wahrnehmung ihrer Aufgaben gemäß dieser Verordnung Rechnung.
|
|
Wenn der Anbieter oder der zukünftige Anbieter und die zuständige nationale Behörde ihr ausdrückliches Einverständnis
|
|
erklären, kann der Abschlussbericht über die in diesem Artikel genannte zentrale Informationsplattform veröffentlicht
|
|
werden.
|
|
|
|
|
|
(9) Die Einrichtung von KI-Reallaboren soll zu den folgenden Zielen beitragen:
|
|
|
|
|
|
a)Verbesserung der Rechtssicherheit, um für die Einhaltung der Regulierungsvorschriften dieser Verordnung oder,
|
|
gegebenenfalls, anderem geltenden Unionsrecht und nationalem Recht zu sorgen;
|
|
|
|
# DE ABl. L vom 12.7.
|
|
|
|
88/144 ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj)
|
|
|
|
|
|
|
|
b)Förderung des Austauschs bewährter Verfahren durch Zusammenarbeit mit den am KI-Reallabor beteiligten Behörden;
|
|
|
|
|
|
c) Förderung von Innovation und Wettbewerbsfähigkeit sowie Erleichterung der Entwicklung eines KI-Ökosystems;
|
|
|
|
|
|
d)Leisten eines Beitrags zum evidenzbasierten regulatorischen Lernen;
|
|
|
|
|
|
e) Erleichterung und Beschleunigung des Zugangs von KI-Systemen zum Unionsmarkt, insbesondere wenn sie von KMU —
|
|
einschließlich Start-up-Unternehmen — angeboten werden.
|
|
|
|
|
|
(10) Soweit die innovativen KI-Systeme personenbezogene Daten verarbeiten oder anderweitig der Aufsicht anderer
|
|
nationaler Behörden oder zuständiger Behörden unterstehen, die den Zugang zu personenbezogenen Daten gewähren oder
|
|
unterstützen, sorgen die zuständigen nationalen Behörden dafür, dass die nationalen Datenschutzbehörden oder diese
|
|
anderen nationalen oder zuständigen Behörden in den Betrieb des KI-Reallabors sowie in die Überwachung dieser Aspekte
|
|
im vollen Umfang ihrer entsprechenden Aufgaben und Befugnisse einbezogen werden.
|
|
|
|
|
|
(11) Die KI-Reallabore lassen die Aufsichts- oder Abhilfebefugnisse der die Reallabore beaufsichtigenden zuständigen
|
|
Behörden, einschließlich auf regionaler oder lokaler Ebene, unberührt. Alle erheblichen Risiken für die Gesundheit und
|
|
Sicherheit und die Grundrechte, die bei der Entwicklung und Erprobung solcher KI-Systeme festgestellt werden, führen zur
|
|
sofortigen und angemessenen Risikominderung. Die zuständigen nationalen Behörden sind befugt, das Testverfahren oder
|
|
die Beteiligung am Reallabor vorübergehend oder dauerhaft auszusetzen, wenn keine wirksame Risikominderung möglich
|
|
ist, und unterrichten das Büro für Künstliche Intelligenz über diese Entscheidung. Um Innovationen im Bereich KI in der
|
|
Union zu fördern, üben die zuständigen nationalen Behörden ihre Aufsichtsbefugnisse im Rahmen des geltenden Rechts
|
|
aus, indem sie bei der Anwendung der Rechtsvorschriften auf ein bestimmtes KI-Reallabor ihren Ermessensspielraum
|
|
nutzen.
|
|
|
|
|
|
(12) Die am KI-Reallabor beteiligten Anbieter und zukünftigen Anbieter bleiben nach geltendem Recht der Union und
|
|
nationalem Haftungsrecht für Schäden haftbar, die Dritten infolge der Erprobung im Reallabor entstehen. Sofern die
|
|
zukünftigen Anbieter den spezifischen Plan und die Bedingungen für ihre Beteiligung beachten und der Anleitung durch die
|
|
zuständigen nationalen Behörden in gutem Glauben folgen, werden jedoch von den Behörden keine Geldbußen für Verstöße
|
|
gegen diese Verordnung verhängt. In Fällen, in denen andere zuständige Behörden, die für anderes Unionsrecht und
|
|
nationales Recht zuständig sind, aktiv an der Beaufsichtigung des KI-Systems im Reallabor beteiligt waren und Anleitung für
|
|
die Einhaltung gegeben haben, werden im Hinblick auf dieses Recht keine Geldbußen verhängt.
|
|
|
|
|
|
(13) Die KI-Reallabore sind so konzipiert und werden so umgesetzt, dass sie gegebenenfalls die grenzüberschreitende
|
|
Zusammenarbeit zwischen zuständigen nationalen Behörden erleichtern.
|
|
|
|
|
|
(14) Die zuständigen nationalen Behörden koordinieren ihre Tätigkeiten und arbeiten im Rahmen des KI-Gremiums
|
|
zusammen.
|
|
|
|
|
|
(15) Die zuständigen nationalen Behörden unterrichten das Büro für Künstliche Intelligenz und das KI-Gremium über
|
|
die Einrichtung eines Reallabors und können sie um Unterstützung und Anleitung bitten. Das Büro für Künstliche
|
|
Intelligenz veröffentlicht eine Liste der geplanten und bestehenden Reallabore und hält sie auf dem neuesten Stand, um eine
|
|
stärkere Interaktion in den KI-Reallaboren und die grenzüberschreitende Zusammenarbeit zu fördern.
|
|
|
|
|
|
(16) Die zuständigen nationalen Behörden übermitteln dem Büro für Künstliche Intelligenz und dem KI-Gremium
|
|
jährliche Berichte, und zwar ab einem Jahr nach der Einrichtung des Reallabors und dann jedes Jahr bis zu dessen
|
|
Beendigung, sowie einen Abschlussbericht. Diese Berichte informieren über den Fortschritt und die Ergebnisse der
|
|
Umsetzung dieser Reallabore, einschließlich bewährter Verfahren, Vorfällen, gewonnener Erkenntnisse und Empfehlungen
|
|
zu deren Aufbau, sowie gegebenenfalls über die Anwendung und mögliche Überarbeitung dieser Verordnung, einschließlich
|
|
ihrer delegierten Rechtsakte und Durchführungsrechtsakte, sowie über die Anwendung anderen Unionsrechts, deren
|
|
Einhaltung von den zuständigen Behörden innerhalb des Reallabors beaufsichtigt wird. Die zuständigen nationalen
|
|
Behörden stellen diese jährlichen Berichte oder Zusammenfassungen davon der Öffentlichkeit online zur Verfügung. Die
|
|
Kommission trägt den jährlichen Berichten gegebenenfalls bei der Wahrnehmung ihrer Aufgaben gemäß dieser Verordnung
|
|
Rechnung.
|
|
|
|
|
|
(17) Die Kommission richtet eine eigene Schnittstelle ein, die alle relevanten Informationen zu den KI-Reallaboren
|
|
enthält, um es den Interessenträgern zu ermöglichen, mit den KI-Reallaboren zu interagieren und Anfragen an die
|
|
zuständigen Behörden zu richten und unverbindliche Beratung zur Konformität von innovativen Produkten, Dienst-
|
|
leistungen und Geschäftsmodellen mit integrierter KI-Technologie im Einklang mit Artikel 62 Absatz 1 Buchstabe c
|
|
einzuholen. Die Kommission stimmt sich gegebenenfalls proaktiv mit den zuständigen nationalen Behörden ab.
|
|
|
|
# ABl. L vom 12.7.2024 DE
|
|
|
|
ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj) 89/
|
|
|
|
|
|
|
|
Artikel 58
|
|
|
|
|
|
Detaillierte Regelungen für KI-Reallabore und deren Funktionsweise
|
|
|
|
|
|
(1) Um eine Zersplitterung in der Union zu vermeiden, erlässt die Kommission Durchführungsrechtsakte, in denen
|
|
detaillierte Regelungen für die Einrichtung, Entwicklung, Umsetzung, den Betrieb und die Beaufsichtigung der KI-Reallabore
|
|
enthalten sind. In den Durchführungsrechtsakten sind gemeinsame Grundsätze zu den folgenden Aspekten festgelegt:
|
|
|
|
|
|
a)Voraussetzungen und Auswahlkriterien für eine Beteiligung am KI-Reallabor;
|
|
|
|
|
|
b)Verfahren für Antragstellung, Beteiligung, Überwachung, Ausstieg und Beendigung bezüglich des KI-Reallabors,
|
|
einschließlich Plan und Abschlussbericht für das Reallabor;
|
|
|
|
|
|
c) für Beteiligte geltende Anforderungen und Bedingungen.
|
|
|
|
|
|
Diese Durchführungsrechtsakte werden gemäß dem in Artikel 98 Absatz 2 genannten Prüfverfahren erlassen.
|
|
|
|
|
|
(2) Die in Absatz 1 genannten Durchführungsrechtsakte gewährleisten,
|
|
|
|
|
|
a)dass KI-Reallabore allen Anbietern oder zukünftigen Anbietern eines KI-Systems, die einen Antrag stellen und die
|
|
Voraussetzungen und Auswahlkriterien erfüllen, offen stehen; diese Voraussetzungen und Kriterien sind transparent und
|
|
fair und die zuständigen nationalen Behörden informieren die Antragsteller innerhalb von drei Monaten nach
|
|
Antragstellung über ihre Entscheidung;
|
|
|
|
|
|
b)dass die KI-Reallabore einen breiten und gleichberechtigten Zugang ermöglichen und mit der Nachfrage nach Beteiligung
|
|
Schritt halten; die Anbieter und zukünftigen Anbieter auch Anträge zusammen mit Betreibern oder einschlägigen
|
|
Dritten, die ihre Partner sind, stellen können;
|
|
|
|
|
|
c) dass die detaillierten Regelungen und Bedingungen für KI-Reallabore so gut wie möglich die Flexibilität der zuständigen
|
|
nationalen Behörden bei der Einrichtung und dem Betrieb ihrer KI-Reallabore unterstützen;
|
|
|
|
|
|
d)dass der Zugang zu KI-Reallaboren für KMU, einschließlich Start-up-Unternehmen, kostenlos ist, unbeschadet
|
|
außergewöhnlicher Kosten, die die zuständigen nationalen Behörden in einer fairen und verhältnismäßigen Weise
|
|
einfordern können;
|
|
|
|
|
|
e) dass den Anbietern und zukünftigen Anbietern die Einhaltung der Verpflichtungen zur Konformitätsbewertung nach
|
|
dieser Verordnung oder die freiwillige Anwendung der in Artikel 95 genannten Verhaltenskodizes mittels der
|
|
gewonnenen Erkenntnisse der KI-Reallabore erleichtert wird;
|
|
|
|
|
|
f) dass KI-Reallabore die Einbeziehung anderer einschlägiger Akteure innerhalb des KI-Ökosystems, wie etwa notifizierte
|
|
Stellen und Normungsorganisationen, KMU, einschließlich Start-up-Unternehmen, Unternehmen, Innovatoren, Test-
|
|
und Versuchseinrichtungen, Forschungs- und Versuchslabore, europäische digitale Innovationszentren, Kompetenzzen-
|
|
tren und einzelne Forscher begünstigen, um die Zusammenarbeit mit dem öffentlichen und dem privaten Sektor zu
|
|
ermöglichen und zu erleichtern;
|
|
|
|
|
|
g)dass die Verfahren, Prozesse und administrativen Anforderungen für die Antragstellung, die Auswahl, die Beteiligung
|
|
und den Ausstieg aus dem KI-Reallabor einfach, leicht verständlich und klar kommuniziert sind, um die Beteiligung von
|
|
KMU, einschließlich Start-up-Unternehmen, mit begrenzten rechtlichen und administrativen Kapazitäten zu erleichtern,
|
|
sowie unionsweit gestrafft sind, um eine Zersplitterung zu vermeiden, und dass die Beteiligung an einem von einem
|
|
Mitgliedstaat oder dem Europäischen Datenschutzbeauftragten eingerichteten KI-Reallabor gegenseitig und einheitlich
|
|
anerkannt wird und in der gesamten Union die gleiche Rechtswirkung hat;
|
|
|
|
|
|
h)dass die Beteiligung an dem KI-Reallabor auf einen der Komplexität und dem Umfang des Projekts entsprechenden
|
|
Zeitraum beschränkt ist, der von der zuständigen nationalen Behörde verlängert werden kann;
|
|
|
|
|
|
i) dass die KI-Reallabore die Entwicklung von Instrumenten und Infrastruktur für das Testen, das Benchmarking, die
|
|
Bewertung und die Erklärung der Dimensionen von KI-Systemen erleichtern, die für das regulatorische Lernen
|
|
Bedeutung sind, wie etwa Genauigkeit, Robustheit und Cybersicherheit, sowie Maßnahmen zur Risikominderung im
|
|
Hinblick auf die Grundrechte und die Gesellschaft als Ganzes fördern.
|
|
|
|
|
|
(3) Zukünftige Anbieter in den KI-Reallaboren, insbesondere KMU und Start-up-Unternehmen, werden gegebenenfalls
|
|
vor der Einrichtung an Dienste verwiesen, die beispielsweise eine Anleitung zur Umsetzung dieser Verordnung oder andere
|
|
Mehrwertdienste wie Hilfe bei Normungsdokumenten bereitstellen, sowie an Zertifizierungs-, Test- und Versuchsein-
|
|
richtungen, europäische digitale Innovationszentren und Exzellenzzentren.
|
|
|
|
# DE ABl. L vom 12.7.
|
|
|
|
90/144 ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj)
|
|
|
|
|
|
|
|
(4) Wenn zuständige nationale Behörden in Betracht ziehen, Tests unter Realbedingungen zu genehmigen, die im
|
|
Rahmen eines KI-Reallabors beaufsichtigt werden, welches nach diesem Artikel einzurichten ist, vereinbaren sie mit den
|
|
Beteiligten ausdrücklich die Anforderungen und Bedingungen für diese Tests und insbesondere geeignete Schutzvor-
|
|
kehrungen für Grundrechte, Gesundheit und Sicherheit. Gegebenenfalls arbeiten sie mit anderen zuständigen nationalen
|
|
Behörden zusammen, um für unionsweit einheitliche Verfahren zu sorgen.
|
|
|
|
|
|
Artikel 59
|
|
|
|
|
|
Weiterverarbeitung personenbezogener Daten zur Entwicklung bestimmter KI-Systeme im öffentlichen Interesse
|
|
im KI-Reallabor
|
|
|
|
|
|
(1) Rechtmäßig für andere Zwecke erhobene personenbezogene Daten dürfen im KI-Reallabor ausschließlich für die
|
|
Zwecke der Entwicklung, des Trainings und des Testens bestimmter KI-Systeme im Reallabor verarbeitet werden, wenn alle
|
|
der folgenden Bedingungen erfüllt sind:
|
|
|
|
|
|
a)Die KI-Systeme werden zur Wahrung eines erheblichen öffentlichen Interesses durch eine Behörde oder eine andere
|
|
natürliche oder juristische Person und in einem oder mehreren der folgenden Bereiche entwickelt:
|
|
|
|
|
|
i)öffentliche Sicherheit und öffentliche Gesundheit, einschließlich Erkennung, Diagnose, Verhütung, Bekämpfung und
|
|
Behandlung von Krankheiten sowie Verbesserung von Gesundheitsversorgungssystemen;
|
|
|
|
|
|
ii)hohes Umweltschutzniveau und Verbesserung der Umweltqualität, Schutz der biologischen Vielfalt, Schutz gegen
|
|
Umweltverschmutzung, Maßnahmen für den grünen Wandel sowie Klimaschutz und Anpassung an den
|
|
Klimawandel;
|
|
|
|
|
|
iii)nachhaltige Energie;
|
|
|
|
|
|
iv)Sicherheit und Widerstandsfähigkeit von Verkehrssystemen und Mobilität, kritischen Infrastrukturen und Netzen;
|
|
|
|
|
|
v)Effizienz und Qualität der öffentlichen Verwaltung und öffentlicher Dienste;
|
|
|
|
|
|
b)die verarbeiteten Daten sind für die Erfüllung einer oder mehrerer der in Kapitel III Abschnitt 2 genannten
|
|
Anforderungen erforderlich, sofern diese Anforderungen durch die Verarbeitung anonymisierter, synthetischer oder
|
|
sonstiger nicht personenbezogener Daten nicht wirksam erfüllt werden können;
|
|
|
|
|
|
c) es bestehen wirksame Überwachungsmechanismen, mit deren Hilfe festgestellt wird, ob während der Reallaborversuche
|
|
hohe Risiken für die Rechte und Freiheiten betroffener Personen gemäß Artikel 35 der Verordnung (EU) 2016/679 und
|
|
gemäß Artikel 39 der Verordnung (EU) 2018/1725 auftreten können, sowie Reaktionsmechanismen, mit deren Hilfe
|
|
diese Risiken umgehend eingedämmt werden können und die Verarbeitung bei Bedarf beendet werden kann;
|
|
|
|
|
|
d)personenbezogene Daten, die im Rahmen des Reallabors verarbeitet werden sollen, befinden sich in einer funktional
|
|
getrennten, isolierten und geschützten Datenverarbeitungsumgebung unter der Kontrolle des zukünftigen Anbieters, und
|
|
nur befugte Personen haben Zugriff auf diese Daten;
|
|
|
|
|
|
e) Anbieter dürfen die ursprünglich erhobenen Daten nur im Einklang mit dem Datenschutzrecht der Union weitergeben;
|
|
personenbezogene Daten, die im Reallabor erstellt wurden, dürfen nicht außerhalb des Reallabors weitergegeben werden;
|
|
|
|
|
|
f) eine Verarbeitung personenbezogener Daten im Rahmen des Reallabors führt zu keinen Maßnahmen oder
|
|
Entscheidungen, die Auswirkungen auf die betroffenen Personen haben, und berührt nicht die Anwendung ihrer
|
|
Rechte, die in den Rechtsvorschriften der Union über den Schutz personenbezogener Daten festgelegt sind;
|
|
|
|
|
|
g)im Rahmen des Reallabors verarbeitete personenbezogene Daten sind durch geeignete technische und organisatorische
|
|
Maßnahmen geschützt und werden gelöscht, sobald die Beteiligung an dem Reallabor endet oder das Ende der
|
|
Speicherfrist für die personenbezogenen Daten erreicht ist;
|
|
|
|
|
|
h)die Protokolle der Verarbeitung personenbezogener Daten im Rahmen des Reallabors werden für die Dauer der
|
|
Beteiligung am Reallabor aufbewahrt, es sei denn, im Unionsrecht oder nationalen Recht ist etwas anderes bestimmt;
|
|
|
|
|
|
i) eine vollständige und detaillierte Beschreibung des Prozesses und der Gründe für das Trainieren, Testen und Validieren
|
|
des KI-Systems wird zusammen mit den Testergebnissen als Teil der technischen Dokumentation gemäß Anhang IV
|
|
aufbewahrt;
|
|
|
|
# ABl. L vom 12.7.2024 DE
|
|
|
|
ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj) 91/
|
|
|
|
|
|
|
|
j) eine kurze Zusammenfassung des im Reallabor entwickelten KI-Projekts, seiner Ziele und der erwarteten Ergebnisse wird
|
|
auf der Website der zuständigen Behörden veröffentlicht; diese Pflicht erstreckt sich nicht auf sensible operative Daten zu
|
|
den Tätigkeiten von Strafverfolgungs-, Grenzschutz-, Einwanderungs- oder Asylbehörden.
|
|
|
|
|
|
(2) Für die Zwecke der Verhütung, Ermittlung, Aufdeckung oder Verfolgung von Straftaten oder der Strafvollstrek-
|
|
kung — einschließlich des Schutzes vor und der Abwehr von Gefahren für die öffentliche Sicherheit — unter der Kontrolle
|
|
und Verantwortung der Strafverfolgungsbehörden erfolgt die Verarbeitung personenbezogener Daten in KI-Reallaboren auf
|
|
der Grundlage eines spezifischen Unionsrechts oder nationalen Rechts und unterliegt den kumulativen Bedingungen des
|
|
Absatzes 1.
|
|
|
|
|
|
(3) Das Unionsrecht oder nationale Recht, das die Verarbeitung personenbezogener Daten für andere Zwecke als die
|
|
ausdrücklich in jenem Recht genannten ausschließt, sowie Unionsrecht oder nationales Recht, in dem die Grundlagen für
|
|
eine für die Zwecke der Entwicklung, des Testens oder des Trainings innovativer KI-Systeme notwendige Verarbeitung
|
|
personenbezogener Daten festgelegt sind, oder jegliche anderen dem Unionsrecht zum Schutz personenbezogener Daten
|
|
entsprechenden Rechtsgrundlagen bleiben von Absatz 1 unberührt.
|
|
|
|
|
|
Artikel 60
|
|
|
|
|
|
Tests von Hochrisiko-KI-Systemen unter Realbedingungen außerhalb von KI-Reallaboren
|
|
|
|
|
|
(1) Tests von Hochrisiko-KI-Systemen unter Realbedingungen können von Anbietern oder zukünftigen Anbietern von in
|
|
Anhang III aufgeführten Hochrisiko-KI-Systemen außerhalb von KI-Reallaboren gemäß diesem Artikel und — unbeschadet
|
|
der Bestimmungen unter Artikel 5 — dem in diesem Artikel genannten Plan für einen Test unter Realbedingungen
|
|
durchgeführt werden.
|
|
|
|
|
|
Die Kommission legt die einzelnen Elemente des Plans für einen Test unter Realbedingungen im Wege von
|
|
Durchführungsrechtsakten fest. Diese Durchführungsrechtsakte werden gemäß dem in Artikel 98 Absatz 2 genannten
|
|
Prüfverfahren erlassen.
|
|
|
|
|
|
Das Unionsrecht oder nationale Recht für das Testen von Hochrisiko-KI-Systemen unter Realbedingungen im
|
|
Zusammenhang mit Produkten, die unter die in Anhang I aufgeführten Harmonisierungsrechtsvorschriften der Union
|
|
fallen, bleibt von dieser Bestimmung unberührt.
|
|
|
|
|
|
(2) Anbieter oder zukünftige Anbieter können in Anhang III genannte Hochrisiko-KI-Systeme vor deren
|
|
Inverkehrbringen oder Inbetriebnahme jederzeit selbst oder in Partnerschaft mit einem oder mehreren Betreibern oder
|
|
zukünftigen Betreibern unter Realbedingungen testen.
|
|
|
|
|
|
(3) Tests von KI-Systemen unter Realbedingungen gemäß diesem Artikel lassen nach dem Unionsrecht oder dem
|
|
nationalen Recht gegebenenfalls vorgeschriebene Ethikprüfungen unberührt.
|
|
|
|
|
|
(4) Tests unter Realbedingungen dürfen von Anbietern oder zukünftigen Anbietern nur durchgeführt werden, wenn alle
|
|
der folgenden Bedingungen erfüllt sind:
|
|
|
|
|
|
a)Der Anbieter oder der zukünftige Anbieter hat einen Plan für einen Test unter Realbedingungen erstellt und diesen bei
|
|
der Marktüberwachungsbehörde in dem Mitgliedstaat eingereicht, in dem der Test unter Realbedingungen stattfinden
|
|
soll;
|
|
|
|
|
|
b)die Marktüberwachungsbehörde in dem Mitgliedstaat, in dem der Test unter Realbedingungen stattfinden soll, hat den
|
|
Test unter Realbedingungen und den Plan für einen Test unter Realbedingungen genehmigt; hat die Marktüber-
|
|
wachungsbehörde innerhalb von 30 Tagen keine Antwort gegeben, so gelten der Test unter Realbedingungen und der
|
|
Plan für einen Test unter Realbedingungen als genehmigt; ist im nationalen Recht keine stillschweigende Genehmigung
|
|
vorgesehen, so bleibt der Test unter Realbedingungen genehmigungspflichtig;
|
|
|
|
|
|
c) der Anbieter oder zukünftige Anbieter, mit Ausnahme der in Anhang III Nummern 1, 6 und 7 genannten Anbieter oder
|
|
zukünftigen Anbieter von Hochrisiko-KI-Systemen in den Bereichen Strafverfolgung, Migration, Asyl und Grenzkon-
|
|
trolle und der in Anhang III Nummer 2 genannten Hochrisiko-KI-Systeme, hat den Test unter Realbedingungen unter
|
|
Angabe einer unionsweit einmaligen Identifizierungsnummer und der in Anhang IX festgelegten Informationen gemäß
|
|
Artikel 71 Absatz 4 registriert; der Anbieter oder zukünftige Anbieter von Hochrisiko-KI-Systemen gemäß Anhang III
|
|
Nummern 1, 6 und 7 in den Bereichen Strafverfolgung, Migration, Asyl und Grenzkontrollmanagement hat die Tests
|
|
unter Realbedingungen im sicheren nicht öffentlichen Teil der EU-Datenbank gemäß Artikel 49 Absatz 4 Buchstabe d
|
|
mit einer unionsweit einmaligen Identifizierungsnummer und den darin festgelegten Informationen registriert; der
|
|
Anbieter oder zukünftige Anbieter von Hochrisiko-KI-Systemen gemäß Anhang III Nummer 2 hat die Tests unter
|
|
Realbedingungen gemäß Artikel 49 Absatz 5 registriert;
|
|
|
|
# DE ABl. L vom 12.7.
|
|
|
|
92/144 ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj)
|
|
|
|
|
|
|
|
d)der Anbieter oder der zukünftige Anbieter, der den Test unter Realbedingungen durchführt, ist in der Union
|
|
niedergelassen oder hat einen in der Union niedergelassenen gesetzlichen Vertreter bestellt;
|
|
|
|
|
|
e) die für die Zwecke des Tests unter Realbedingungen erhobenen und verarbeiteten Daten werden nur dann an Drittländer
|
|
übermittelt, wenn gemäß Unionsrecht geeignete und anwendbare Schutzvorkehrungen greifen;
|
|
|
|
|
|
f) der Test unter Realbedingungen dauert nicht länger als zur Erfüllung seiner Zielsetzungen nötig und in keinem Fall
|
|
länger als sechs Monate; dieser Zeitraum kann um weitere sechs Monate verlängert werden, sofern der Anbieter oder der
|
|
zukünftige Anbieter die Marktüberwachungsbehörde davon vorab in Kenntnis setzt und erläutert, warum eine solche
|
|
Verlängerung erforderlich ist;
|
|
|
|
|
|
g)Testteilnehmer im Rahmen von Tests unter Realbedingungen, die aufgrund ihres Alters oder einer Behinderung
|
|
schutzbedürftigen Gruppen angehören, sind angemessen geschützt;
|
|
|
|
|
|
h)wenn ein Anbieter oder zukünftiger Anbieter den Test unter Realbedingungen in Zusammenarbeit mit einem oder
|
|
mehreren Betreibern oder zukünftigen Betreibern organisiert, werden Letztere vorab über alle für ihre Teilnahmeent-
|
|
scheidung relevanten Aspekte des Tests informiert und erhalten die einschlägigen in Artikel 13 genannten
|
|
Betriebsanleitungen für das KI-System; der Anbieter oder zukünftige Anbieter und der Betreiber oder zukünftige
|
|
Betreiber schließen eine Vereinbarung, in der ihre Aufgaben und Zuständigkeiten festgelegt sind, um für die Einhaltung
|
|
der nach dieser Verordnung und anderem Unionsrecht und nationalem Recht für Tests unter Realbedingungen geltenden
|
|
Bestimmungen zu sorgen;
|
|
|
|
|
|
i) die Testteilnehmer im Rahmen von Tests unter Realbedingungen erteilen ihre informierte Einwilligung gemäß Artikel 61,
|
|
oder, wenn im Fall der Strafverfolgung die Einholung einer informierten Einwilligung den Test des KI-Systems verhindern
|
|
würde, dürfen sich der Test und die Ergebnisse des Tests unter Realbedingungen nicht negativ auf die Testteilnehmer
|
|
auswirken und ihre personenbezogenen Daten werden nach Durchführung des Tests gelöscht;
|
|
|
|
|
|
j) der Anbieter oder zukünftige Anbieter und die Betreiber und zukünftigen Betreiber lassen den Test unter
|
|
Realbedingungen von Personen wirksam überwachen, die auf dem betreffenden Gebiet angemessen qualifiziert sind
|
|
und über die Fähigkeit, Ausbildung und Befugnis verfügen, die für die Wahrnehmung ihrer Aufgaben erforderlich sind;
|
|
|
|
|
|
k)die Vorhersagen, Empfehlungen oder Entscheidungen des KI-Systems können effektiv rückgängig gemacht und außer
|
|
Acht gelassen werden.
|
|
|
|
|
|
(5) Jeder Testteilnehmer bezüglich des Tests unter Realbedingungen oder gegebenenfalls dessen gesetzlicher Vertreter
|
|
kann seine Teilnahme an dem Test jederzeit durch Widerruf seiner informierten Einwilligung beenden und die
|
|
unverzügliche und dauerhafte Löschung seiner personenbezogenen Daten verlangen, ohne dass ihm daraus Nachteile
|
|
entstehen und er dies in irgendeiner Weise begründen müsste. Der Widerruf der informierten Einwilligung wirkt sich nicht
|
|
auf bereits durchgeführte Tätigkeiten aus.
|
|
|
|
|
|
(6) Im Einklang mit Artikel 75 übertragen die Mitgliedstaaten ihren Marktüberwachungsbehörden die Befugnis, Anbieter
|
|
und zukünftige Anbieter zur Bereitstellung von Informationen zu verpflichten, unangekündigte Ferninspektionen oder
|
|
Vor-Ort-Inspektionen durchzuführen und die Durchführung der Tests unter Realbedingungen und damit zusammen-
|
|
hängende Hochrisiko-KI-Systeme zu prüfen. Die Marktüberwachungsbehörden nutzen diese Befugnisse, um für die sichere
|
|
Entwicklung von Tests unter Realbedingungen zu sorgen.
|
|
|
|
|
|
(7) Jegliche schwerwiegenden Vorfälle im Verlauf des Tests unter Realbedingungen sind den nationalen Marktüber-
|
|
wachungsbehörden gemäß Artikel 73 zu melden. Der Anbieter oder zukünftige Anbieter trifft Sofortmaßnahmen zur
|
|
Schadensbegrenzung; andernfalls setzt er den Test unter Realbedingungen so lange aus, bis eine Schadensbegrenzung
|
|
stattgefunden hat, oder bricht ihn ab. Im Fall eines solchen Abbruchs des Tests unter Realbedingungen richtet der Anbieter
|
|
oder zukünftige Anbieter ein Verfahren für den sofortigen Rückruf des KI-Systems ein.
|
|
|
|
|
|
(8) Anbieter oder zukünftige Anbieter setzen die nationalen Marktüberwachungsbehörde in dem Mitgliedstaat, in dem
|
|
der Test unter Realbedingungen stattfindet, über die Aussetzung oder den Abbruch des Tests unter Realbedingungen und
|
|
die Endergebnisse in Kenntnis.
|
|
|
|
|
|
(9) Anbieter oder zukünftige Anbieter sind nach geltendem Recht der Union und geltendem nationalen Recht für
|
|
Schäden haftbar, die während ihrer Tests unter Realbedingungen entstehen.
|
|
|
|
# ABl. L vom 12.7.2024 DE
|
|
|
|
ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj) 93/
|
|
|
|
|
|
|
|
Artikel 61
|
|
|
|
|
|
Informierte Einwilligung zur Teilnahme an einem Test unter Realbedingungen außerhalb von KI-Reallaboren
|
|
|
|
|
|
(1) Für die Zwecke von Tests unter Realbedingungen gemäß Artikel 60 ist von den Testteilnehmern eine freiwillig erteilte
|
|
informierte Einwilligung einzuholen, bevor sie an dem Test teilnehmen und nachdem sie mit präzisen, klaren, relevanten
|
|
und verständlichen Informationen über Folgendes ordnungsgemäß informiert wurden:
|
|
|
|
|
|
a)die Art und die Zielsetzungen des Tests unter Realbedingungen und etwaige mit ihrer Teilnahme verbundene
|
|
Unannehmlichkeiten;
|
|
|
|
|
|
b)die Bedingungen, unter denen der Test unter Realbedingungen erfolgen soll, einschließlich der voraussichtlichen Dauer
|
|
der Teilnahme des Testteilnehmers oder der Testteilnehmer;
|
|
|
|
|
|
c) ihre Rechte und Garantien, die ihnen bezüglich ihrer Teilnahme zustehen, insbesondere ihr Recht, die Teilnahme an dem
|
|
Test unter Realbedingungen zu verweigern oder diese Teilnahme jederzeit zu beenden, ohne dass ihnen daraus Nachteile
|
|
entstehen und sie dies in irgendeiner Weise begründen müssten;
|
|
|
|
|
|
d)die Regelungen, unter denen die Rückgängigmachung oder Außerachtlassung der Vorhersagen, Empfehlungen oder
|
|
Entscheidungen des KI-Systems beantragt werden kann;
|
|
|
|
|
|
e) die unionsweit einmalige Identifizierungsnummer des Tests unter Realbedingungen gemäß Artikel 60 Absatz 4
|
|
Buchstabe c und die Kontaktdaten des Anbieters oder seines gesetzlichen Vertreters, bei dem weitere Informationen
|
|
eingeholt werden können.
|
|
|
|
|
|
(2) Die informierte Einwilligung ist zu datieren und zu dokumentieren, und eine Kopie wird den Testteilnehmern oder
|
|
ihren gesetzlichen Vertretern ausgehändigt.
|
|
|
|
|
|
Artikel 62
|
|
|
|
|
|
Maßnahmen für Anbieter und Betreiber, insbesondere KMU, einschließlich Start-up-Unternehmen
|
|
|
|
|
|
(1) Die Mitgliedstaaten ergreifen die folgenden Maßnahmen:
|
|
|
|
|
|
a)Sie gewähren KMU — einschließlich Start-up-Unternehmen —, die ihren Sitz oder eine Zweigniederlassung in der Union
|
|
haben, soweit sie die Voraussetzungen und Auswahlkriterien erfüllen, vorrangigen Zugang zu den KI-Reallaboren; der
|
|
vorrangige Zugang schließt nicht aus, dass andere als die in diesem Absatz genannten KMU, einschließlich
|
|
Start-up-Unternehmen, Zugang zum KI-Reallabor erhalten, sofern sie ebenfalls die Zulassungsvoraussetzungen und
|
|
Auswahlkriterien erfüllen;
|
|
|
|
|
|
b)sie führen besondere Sensibilisierungs- und Schulungsmaßnahmen für die Anwendung dieser Verordnung durch, die auf
|
|
die Bedürfnisse von KMU, einschließlich Start-up-Unternehmen, Betreibern sowie gegebenenfalls lokalen Behörden
|
|
ausgerichtet sind;
|
|
|
|
|
|
c) sie nutzen entsprechende bestehende Kanäle und richten gegebenenfalls neue Kanäle für die Kommunikation mit KMU,
|
|
einschließlich Start-up-Unternehmen, Betreibern, anderen Innovatoren sowie gegebenenfalls lokalen Behörden ein, um
|
|
Ratschläge zu geben und Fragen zur Durchführung dieser Verordnung, auch bezüglich der Beteiligung an KI-Reallaboren,
|
|
zu beantworten;
|
|
|
|
|
|
d)sie fördern die Beteiligung von KMU und anderen einschlägigen Interessenträgern an der Entwicklung von Normen.
|
|
|
|
|
|
(2) Bei der Festsetzung der Gebühren für die Konformitätsbewertung gemäß Artikel 43 werden die besonderen
|
|
Interessen und Bedürfnisse von KMU, einschließlich Start-up-Unternehmen, berücksichtigt, indem diese Gebühren
|
|
proportional zur Größe der Unternehmen, der Größe ihres Marktes und anderen einschlägigen Kennzahlen gesenkt werden.
|
|
|
|
|
|
(3) Das Büro für Künstliche Intelligenz ergreift die folgenden Maßnahmen:
|
|
|
|
|
|
a)es stellt standardisierte Muster für die unter diese Verordnung fallenden Bereiche bereit, wie vom KI-Gremium in seinem
|
|
Antrag festgelegt;
|
|
|
|
|
|
b)es entwickelt und führt eine zentrale Informationsplattform, über die allen Akteuren in der Union leicht nutzbare
|
|
Informationen zu dieser Verordnung bereitgestellt werden;
|
|
|
|
# DE ABl. L vom 12.7.
|
|
|
|
94/144 ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj)
|
|
|
|
c) es führt geeignete Informationskampagnen durch, um für die aus dieser Verordnung erwachsenden Pflichten zu
|
|
sensibilisieren;
|
|
|
|
|
|
d)es bewertet und fördert die Zusammenführung bewährter Verfahren im Bereich der mit KI-Systemen verbundenen
|
|
Vergabeverfahren.
|
|
|
|
|
|
Artikel 63
|
|
|
|
|
|
Ausnahmen für bestimmte Akteure
|
|
|
|
|
|
(1) Kleinstunternehmen im Sinne der Empfehlung 2003/361/EG können bestimmte Elemente des in Artikel 17 dieser
|
|
Verordnung vorgeschriebenen Qualitätsmanagementsystems in vereinfachter Weise einhalten, sofern sie keine
|
|
Partnerunternehmen oder verbundenen Unternehmen im Sinne dieser Empfehlung haben. Zu diesem Zweck arbeitet die
|
|
Kommission Leitlinien zu den Elementen des Qualitätsmanagementsystems aus, die unter Berücksichtigung der Bedürfnisse
|
|
von Kleinstunternehmen in vereinfachter Weise eingehalten werden können, ohne das Schutzniveau oder die Notwendigkeit
|
|
zur Einhaltung der Anforderungen in Bezug auf Hochrisiko-KI-Systeme zu beeinträchtigen.
|
|
|
|
|
|
(2) Absatz 1 dieses Artikels ist nicht dahin gehend auszulegen, dass diese Akteure auch von anderen in dieser
|
|
Verordnung festgelegten Anforderungen oder Pflichten, einschließlich der nach den Artikeln 9, 10, 11, 12, 13, 14, 15, 72
|
|
und 73 geltenden, befreit sind.
|
|
|
|
|
|
|
|
|