first version of EU AI Act game
This commit is contained in:
Anna Hiemenz
Binary file not shown.
Binary file not shown.
Binary file not shown.
Binary file not shown.
Binary file not shown.
Binary file not shown.
Binary file not shown.
BIN
Binary file not shown.
BIN
Binary file not shown.
Binary file not shown.
Binary file not shown.
Binary file not shown.
Binary file not shown.
Binary file not shown.
Binary file not shown.
Binary file not shown.
Binary file not shown.
@@ -0,0 +1,303 @@
|
||||
extends Control
|
||||
|
||||
var _llama: GodotLlama
|
||||
var _streaming_active := false
|
||||
var _model_name := "Meta-Llama-3.1-8B-Instruct-Q4_K_M.gguf"
|
||||
var _model_path
|
||||
var _pending_user_text := ""
|
||||
var _chat_history: Array[Dictionary] = []
|
||||
var _saved_state_blob := PackedByteArray()
|
||||
|
||||
const DEFAULT_SYSTEM_PROMPT := "Antworte auf Deutsch. Antworte kurz und präzise in 1-2 Sätzen nur basierend auf dem bereitgestellten Dokument. Wenn die Antwort nicht im Dokument steht, antworte nur mit: 'Darauf kann ich nicht antworten, bitte stelle mir eine Frage zum EU AI Act'."
|
||||
const DEFAULT_MAX_HISTORY_TURNS := 0
|
||||
|
||||
|
||||
var DEFAULT_N_CTX := 40096
|
||||
const DEFAULT_THREADS := 4
|
||||
const temperature:= 0.1
|
||||
const top_p:= 0.95
|
||||
const top_k:= 20
|
||||
const min_p:= 0.05
|
||||
const repeat_penalty:= 1.15
|
||||
const frequency_penalty:= 0.1
|
||||
const presence_penalty:= 0.0
|
||||
const penalty_last_n:= 64
|
||||
const max_tokens := 150
|
||||
|
||||
|
||||
@onready var _prompt_edit: TextEdit = $MarginContainer/Scroll/VBox/PromptEdit
|
||||
@onready var _generate_button: Button = $MarginContainer/Scroll/VBox/GenerateRow/GenerateButton
|
||||
@onready var _output_text: RichTextLabel = $MarginContainer/Scroll/VBox/OutputText
|
||||
@onready var _status_label: Label = $MarginContainer/Scroll/VBox/StatusLabel
|
||||
@onready var _close_button: Button = $MarginContainer/Scroll/VBox/GenerateRow2/CloseButton
|
||||
@onready var main: Control = $"."
|
||||
@onready var option_button: OptionButton = $MarginContainer/Scroll/VBox/OptionButton
|
||||
@onready var option_label: Label = $MarginContainer/Scroll/VBox/Label
|
||||
@onready var helper = $VBoxContainer/SubViewportContainer/SubViewport/base_node/helper
|
||||
|
||||
var document_id
|
||||
|
||||
signal closing_chatbot
|
||||
|
||||
|
||||
func _ready() -> void:
|
||||
helper.play_idle()
|
||||
print('local chatbot ready')
|
||||
_generate_button.pressed.connect(_on_generate_pressed)
|
||||
_close_button.pressed.connect(_on_close_pressed)
|
||||
_prompt_edit.connect("input_event", _on_prompt_edit_gui_input)
|
||||
_llama = GodotLlama.new()
|
||||
_llama.context.token_generated.connect(_on_token_generated)
|
||||
_llama.context.generation_finished.connect(_on_generation_finished)
|
||||
_llama.context.generation_error.connect(_on_generation_error)
|
||||
document_id = option_button.selected
|
||||
|
||||
print(DEFAULT_N_CTX)
|
||||
_set_status("ready")
|
||||
var exe_path = OS.get_executable_path()
|
||||
var exe_dir = exe_path.get_base_dir()
|
||||
_model_path = exe_dir.path_join("model/%s" % _model_name)
|
||||
_on_load_model_pressed()
|
||||
|
||||
|
||||
func _unhandled_input(event: InputEvent) -> void:
|
||||
if not main.visible: return # Ignorieren wenn zu
|
||||
if event.is_action_pressed("drop"):
|
||||
get_viewport().set_input_as_handled() # Event stoppen
|
||||
_on_close_pressed()
|
||||
|
||||
if event.is_action_pressed("advance_dialogue"):
|
||||
get_viewport().set_input_as_handled() # Event stoppen
|
||||
_on_generate_pressed()
|
||||
|
||||
func _on_TextEdit_gui_input(event):
|
||||
if event is InputEventKey and event.pressed:
|
||||
if event.keycode == KEY_ENTER and not event.shift_pressed:
|
||||
_on_generate_pressed()
|
||||
accept_event() # verhindert neue Zeile
|
||||
|
||||
func _on_close_pressed() -> void:
|
||||
print("close clicked")
|
||||
main.visible = false
|
||||
Input.set_mouse_mode(Input.MOUSE_MODE_CAPTURED)
|
||||
Global.chatbot_opened = false
|
||||
TextToSpeech._stop_dialogue()
|
||||
|
||||
|
||||
func _on_load_model_pressed() -> void:
|
||||
if _model_path.is_empty():
|
||||
_set_status("select a model first")
|
||||
return
|
||||
|
||||
_set_status("loading model...")
|
||||
var err := _llama.load_model(_model_path)
|
||||
if err != OK:
|
||||
_set_status("model load failed: %s" % error_string(err))
|
||||
return
|
||||
|
||||
_set_status("model loaded, creating context...")
|
||||
_create_context_with_defaults()
|
||||
|
||||
func _create_context_with_defaults() -> void:
|
||||
var params := {
|
||||
"n_ctx": DEFAULT_N_CTX,
|
||||
"threads": DEFAULT_THREADS,
|
||||
"threads_batch": DEFAULT_THREADS,
|
||||
}
|
||||
var err := _llama.create_context(params)
|
||||
if err != OK:
|
||||
_set_status("create context failed: %s" % error_string(err))
|
||||
return
|
||||
_set_status("ready")
|
||||
|
||||
|
||||
func _on_generate_pressed() -> void:
|
||||
$VBoxContainer/SubViewportContainer/SubViewport/AnimationPlayer.play("walk_helper")
|
||||
helper.play_think_walk()
|
||||
print("generating...")
|
||||
if not _llama.context.is_initialized():
|
||||
_set_status("create context first")
|
||||
return
|
||||
document_id = option_button.selected
|
||||
var user_text := _prompt_edit.text.strip_edges()
|
||||
if user_text.is_empty():
|
||||
_set_status("prompt is empty")
|
||||
return
|
||||
|
||||
# The demo rebuilds the full conversation prompt each turn, so reset context first.
|
||||
_llama.context.reset()
|
||||
|
||||
var prompt := _build_chat_prompt(user_text)
|
||||
var max_tokens = max_tokens
|
||||
var params := {
|
||||
"temperature": temperature,
|
||||
"top_p": top_p,
|
||||
"top_k": top_k,
|
||||
"min_p": min_p,
|
||||
"repeat_penalty": repeat_penalty,
|
||||
"frequency_penalty": frequency_penalty,
|
||||
"presence_penalty": presence_penalty,
|
||||
"penalty_last_n": penalty_last_n,
|
||||
}
|
||||
var stop_sequences := _parse_stop_sequences("<|eot_id|>")
|
||||
if not stop_sequences.is_empty():
|
||||
params["stop_sequences"] = stop_sequences
|
||||
|
||||
_output_text.clear()
|
||||
_pending_user_text = user_text
|
||||
print("real")
|
||||
_set_status("generating...")
|
||||
var result := _llama.generate(prompt, max_tokens, params)
|
||||
var clean_result := _clean_assistant_output(result)
|
||||
_output_text.text = clean_result
|
||||
var line = {"text": clean_result}
|
||||
TextToSpeech._on_dialogue(line)
|
||||
#_append_chat_turn("user", user_text)
|
||||
#_append_chat_turn("assistant", clean_result)
|
||||
_set_status("generation finished")
|
||||
|
||||
func _on_clear_memory_pressed() -> void:
|
||||
_chat_history.clear()
|
||||
_pending_user_text = ""
|
||||
_set_status("memory cleared")
|
||||
|
||||
func _on_clear_kv_pressed() -> void:
|
||||
if not _llama.context.is_initialized():
|
||||
_set_status("context not initialized")
|
||||
return
|
||||
_llama.context.clear_kv_cache()
|
||||
_set_status("kv cache cleared")
|
||||
|
||||
func _on_save_state_memory_pressed() -> void:
|
||||
if not _llama.context.is_initialized():
|
||||
_set_status("context not initialized")
|
||||
return
|
||||
_saved_state_blob = _llama.context.save_state()
|
||||
if _saved_state_blob.is_empty():
|
||||
_set_status("save state blob failed")
|
||||
return
|
||||
_set_status("state blob saved (%d bytes)" % _saved_state_blob.size())
|
||||
|
||||
func _on_load_state_memory_pressed() -> void:
|
||||
if not _llama.context.is_initialized():
|
||||
_set_status("context not initialized")
|
||||
return
|
||||
if _saved_state_blob.is_empty():
|
||||
_set_status("no saved state blob")
|
||||
return
|
||||
var err := _llama.context.load_state(_saved_state_blob)
|
||||
if err != OK:
|
||||
_set_status("load state blob failed: %s" % error_string(err))
|
||||
return
|
||||
_set_status("state blob loaded")
|
||||
|
||||
func _on_token_generated(token_text: String, _token_id: int) -> void:
|
||||
if _streaming_active:
|
||||
_output_text.text += token_text
|
||||
|
||||
func _on_generation_finished(_full_text: String) -> void:
|
||||
$VBoxContainer/SubViewportContainer/SubViewport/AnimationPlayer.stop()
|
||||
helper.play_idle()
|
||||
if _streaming_active:
|
||||
var clean_text := _clean_assistant_output(_full_text)
|
||||
_output_text.text = clean_text
|
||||
#_append_chat_turn("user", _pending_user_text)
|
||||
#_append_chat_turn("assistant", clean_text)
|
||||
_streaming_active = false
|
||||
_set_status("generation finished")
|
||||
|
||||
func _on_generation_error(message: String) -> void:
|
||||
_streaming_active = false
|
||||
_set_status("generation error: %s" % message)
|
||||
|
||||
func _set_status(message: String) -> void:
|
||||
_status_label.text = "Status: %s" % message
|
||||
|
||||
func _load_txt(path: String) -> String:
|
||||
var file := FileAccess.open(path, FileAccess.READ)
|
||||
|
||||
if file == null:
|
||||
_set_status("file open failed: %s" % error_string(FileAccess.get_open_error()))
|
||||
return ""
|
||||
var content := file.get_as_text()
|
||||
file.close()
|
||||
return content
|
||||
|
||||
func _build_chat_prompt(user_text: String) -> String:
|
||||
var parts := PackedStringArray()
|
||||
var clean_system := DEFAULT_SYSTEM_PROMPT.strip_edges()
|
||||
|
||||
# Llama 3 Header
|
||||
parts.append("<|begin_of_text|>")
|
||||
|
||||
# system prompt
|
||||
var system_combined := ""
|
||||
if not clean_system.is_empty():
|
||||
system_combined += clean_system
|
||||
if not system_combined.is_empty():
|
||||
parts.append("<|start_header_id|>system<|end_header_id|>\n\n")
|
||||
parts.append(system_combined)
|
||||
parts.append("<|eot_id|>")
|
||||
var document
|
||||
document = _load_txt("res://addons/godot_llama/demo/documents/%s.md" % [document_id]).strip_edges()
|
||||
|
||||
# user-message with document
|
||||
parts.append("<|start_header_id|>user<|end_header_id|>\n\n")
|
||||
if not document.is_empty():
|
||||
parts.append("Dokument:\n%s\n\nFrage: " % document)
|
||||
parts.append(user_text.strip_edges())
|
||||
parts.append("<|eot_id|>")
|
||||
parts.append("<|start_header_id|>assistant<|end_header_id|>\n\n")
|
||||
|
||||
print("".join(parts))
|
||||
|
||||
return "".join(parts)
|
||||
|
||||
func _append_chat_turn(role: String, content: String) -> void:
|
||||
var clean := content.strip_edges()
|
||||
if clean.is_empty():
|
||||
return
|
||||
_chat_history.append({
|
||||
"role": role,
|
||||
"content": clean,
|
||||
})
|
||||
_chat_history.clear()
|
||||
return
|
||||
|
||||
func _clean_assistant_output(text: String) -> String:
|
||||
var out := text
|
||||
var end_idx := out.find("<|")
|
||||
if end_idx >= 0:
|
||||
out = out.substr(0, end_idx)
|
||||
out = out.replace("<|start_header_id|>assistant<|end_header_id|>", "")
|
||||
out = out.replace("<|begin_of_text|>", "")
|
||||
out = out.replace("<|end_of_text|>", "")
|
||||
return out.strip_edges()
|
||||
|
||||
func _parse_stop_sequences(raw: String) -> PackedStringArray:
|
||||
var stops := PackedStringArray()
|
||||
var parts := raw.split(",")
|
||||
for part in parts:
|
||||
var clean := String(part).strip_edges()
|
||||
if not clean.is_empty():
|
||||
stops.append(clean)
|
||||
return stops
|
||||
|
||||
|
||||
func _on_close_button_pressed() -> void:
|
||||
main.visible = false
|
||||
Input.set_mouse_mode(Input.MOUSE_MODE_CAPTURED)
|
||||
TextToSpeech._stop_dialogue()
|
||||
Global.chatbot_opened = false
|
||||
TextToSpeech._stop_dialogue()
|
||||
closing_chatbot.emit()
|
||||
|
||||
func _on_prompt_edit_gui_input(event: InputEvent) -> void:
|
||||
if event is InputEventKey and event.pressed:
|
||||
print(event.keycode)
|
||||
if event.keycode == KEY_ENTER:
|
||||
if event.shift_pressed:
|
||||
_prompt_edit.insert_text_at_caret("\n")
|
||||
else:
|
||||
_on_generate_pressed()
|
||||
accept_event()
|
||||
@@ -0,0 +1 @@
|
||||
uid://ijn75g64aik7
|
||||
@@ -0,0 +1,292 @@
|
||||
[gd_scene load_steps=10 format=3 uid="uid://b0nf2m2olu4jf"]
|
||||
|
||||
[ext_resource type="Script" uid="uid://bap8us47qcmmu" path="res://addons/godot_llama/demo/demo_wasm.gd" id="1_ujr2t"]
|
||||
[ext_resource type="Texture2D" uid="uid://vbw4jtf02rrj" path="res://assets/Images/helper_2d.png" id="2_ujr2t"]
|
||||
[ext_resource type="PackedScene" uid="uid://dl4nljdcflehk" path="res://helper.tscn" id="3_h7bxb"]
|
||||
|
||||
[sub_resource type="StyleBoxFlat" id="StyleBoxFlat_ujr2t"]
|
||||
bg_color = Color(0.2231029, 0.2231029, 0.22310278, 1)
|
||||
border_width_left = 10
|
||||
border_width_top = 10
|
||||
border_width_right = 10
|
||||
border_width_bottom = 10
|
||||
border_blend = true
|
||||
|
||||
[sub_resource type="Animation" id="Animation_cqsco"]
|
||||
length = 0.001
|
||||
tracks/0/type = "value"
|
||||
tracks/0/imported = false
|
||||
tracks/0/enabled = true
|
||||
tracks/0/path = NodePath("base_node/helper:position")
|
||||
tracks/0/interp = 1
|
||||
tracks/0/loop_wrap = true
|
||||
tracks/0/keys = {
|
||||
"times": PackedFloat32Array(0),
|
||||
"transitions": PackedFloat32Array(1),
|
||||
"update": 0,
|
||||
"values": [Vector3(-0.4379573, 0, 0)]
|
||||
}
|
||||
tracks/1/type = "value"
|
||||
tracks/1/imported = false
|
||||
tracks/1/enabled = true
|
||||
tracks/1/path = NodePath("base_node/helper:rotation")
|
||||
tracks/1/interp = 1
|
||||
tracks/1/loop_wrap = true
|
||||
tracks/1/keys = {
|
||||
"times": PackedFloat32Array(0),
|
||||
"transitions": PackedFloat32Array(1),
|
||||
"update": 0,
|
||||
"values": [Vector3(0, 0, 0)]
|
||||
}
|
||||
|
||||
[sub_resource type="Animation" id="Animation_h7bxb"]
|
||||
resource_name = "walk_helper"
|
||||
length = 2.0
|
||||
loop_mode = 1
|
||||
tracks/0/type = "value"
|
||||
tracks/0/imported = false
|
||||
tracks/0/enabled = true
|
||||
tracks/0/path = NodePath("base_node/helper:position")
|
||||
tracks/0/interp = 1
|
||||
tracks/0/loop_wrap = true
|
||||
tracks/0/keys = {
|
||||
"times": PackedFloat32Array(0, 1, 2),
|
||||
"transitions": PackedFloat32Array(1, 1, 1),
|
||||
"update": 0,
|
||||
"values": [Vector3(-0.4379573, 0, 0), Vector3(0.17161465, 0, 0), Vector3(-0.4379573, 0, 0)]
|
||||
}
|
||||
tracks/1/type = "value"
|
||||
tracks/1/imported = false
|
||||
tracks/1/enabled = true
|
||||
tracks/1/path = NodePath("base_node/helper:rotation")
|
||||
tracks/1/interp = 1
|
||||
tracks/1/loop_wrap = true
|
||||
tracks/1/keys = {
|
||||
"times": PackedFloat32Array(0, 0.95, 1, 1.89, 2),
|
||||
"transitions": PackedFloat32Array(1, 1, 1, 1, 1),
|
||||
"update": 0,
|
||||
"values": [Vector3(0, 0.7853982, 0), Vector3(0, 0.7853982, 0), Vector3(0, -0.7853982, 0), Vector3(0, -0.7853982, 0), Vector3(0, 0.7853982, 0)]
|
||||
}
|
||||
|
||||
[sub_resource type="AnimationLibrary" id="AnimationLibrary_i485n"]
|
||||
_data = {
|
||||
&"RESET": SubResource("Animation_cqsco"),
|
||||
&"walk_helper": SubResource("Animation_h7bxb")
|
||||
}
|
||||
|
||||
[sub_resource type="StyleBoxFlat" id="StyleBoxFlat_h7bxb"]
|
||||
draw_center = false
|
||||
border_width_left = 8
|
||||
border_width_top = 8
|
||||
border_width_right = 8
|
||||
border_width_bottom = 8
|
||||
border_blend = true
|
||||
|
||||
[sub_resource type="StyleBoxFlat" id="StyleBoxFlat_cqsco"]
|
||||
draw_center = false
|
||||
border_width_left = 8
|
||||
border_width_top = 8
|
||||
border_width_right = 8
|
||||
border_width_bottom = 8
|
||||
border_blend = true
|
||||
|
||||
[node name="Main" type="Control"]
|
||||
layout_mode = 3
|
||||
anchors_preset = 15
|
||||
anchor_right = 1.0
|
||||
anchor_bottom = 1.0
|
||||
grow_horizontal = 2
|
||||
grow_vertical = 2
|
||||
script = ExtResource("1_ujr2t")
|
||||
|
||||
[node name="ColorRect" type="Panel" parent="."]
|
||||
z_index = -4
|
||||
layout_mode = 1
|
||||
anchors_preset = 15
|
||||
anchor_right = 1.0
|
||||
anchor_bottom = 1.0
|
||||
grow_horizontal = 2
|
||||
grow_vertical = 2
|
||||
theme_override_styles/panel = SubResource("StyleBoxFlat_ujr2t")
|
||||
|
||||
[node name="RichTextLabel" type="RichTextLabel" parent="."]
|
||||
layout_mode = 0
|
||||
offset_left = 1230.0
|
||||
offset_top = 950.0
|
||||
offset_right = 1930.0
|
||||
offset_bottom = 1050.0
|
||||
theme_override_font_sizes/normal_font_size = 27
|
||||
text = "Bitte beachten: Sie sprechen mit einer künstlichen Intelligenz. Verlassen Sie sich nie auf die Antworten."
|
||||
fit_content = true
|
||||
|
||||
[node name="VBoxContainer" type="VBoxContainer" parent="."]
|
||||
layout_mode = 0
|
||||
offset_top = 600.0
|
||||
offset_right = 1920.0
|
||||
offset_bottom = 1112.0
|
||||
|
||||
[node name="SubViewportContainer" type="SubViewportContainer" parent="VBoxContainer"]
|
||||
layout_mode = 2
|
||||
size_flags_vertical = 3
|
||||
|
||||
[node name="SubViewport" type="SubViewport" parent="VBoxContainer/SubViewportContainer"]
|
||||
transparent_bg = true
|
||||
handle_input_locally = false
|
||||
render_target_update_mode = 4
|
||||
|
||||
[node name="AnimationPlayer" type="AnimationPlayer" parent="VBoxContainer/SubViewportContainer/SubViewport"]
|
||||
libraries = {
|
||||
&"": SubResource("AnimationLibrary_i485n")
|
||||
}
|
||||
|
||||
[node name="base_node" type="Node3D" parent="VBoxContainer/SubViewportContainer/SubViewport"]
|
||||
transform = Transform3D(-0.999866, -0.011394239, -0.011754247, 0, 0.718017, -0.6960256, 0.01637043, -0.6959323, -0.7179208, 0, 2.067563, 3.6948166)
|
||||
|
||||
[node name="helper" parent="VBoxContainer/SubViewportContainer/SubViewport/base_node" instance=ExtResource("3_h7bxb")]
|
||||
transform = Transform3D(0.9999999, 0, 0, 0, 1, 0, 0, 0, 0.9999999, -0.4379573, 0, 0)
|
||||
|
||||
[node name="Camera3D" type="Camera3D" parent="VBoxContainer/SubViewportContainer/SubViewport/base_node"]
|
||||
transform = Transform3D(1, 0, 0, 0, 1, 0, 0, 0, 1, 0, 0.5216391, 1.5290761)
|
||||
|
||||
[node name="DirectionalLight3D" type="DirectionalLight3D" parent="VBoxContainer/SubViewportContainer/SubViewport/base_node"]
|
||||
transform = Transform3D(1, 0, 0, 0, 0.8110842, 0.58492947, 0, -0.58492947, 0.8110842, 0, 2.1413004, 2.5036023)
|
||||
|
||||
[node name="MarginContainer" type="MarginContainer" parent="."]
|
||||
layout_mode = 1
|
||||
anchors_preset = 15
|
||||
anchor_right = 1.0
|
||||
anchor_bottom = 1.0
|
||||
offset_left = 16.0
|
||||
offset_top = 16.0
|
||||
offset_right = -16.0
|
||||
offset_bottom = -16.0
|
||||
grow_horizontal = 2
|
||||
grow_vertical = 2
|
||||
theme_override_constants/margin_left = 12
|
||||
theme_override_constants/margin_top = 12
|
||||
theme_override_constants/margin_right = 12
|
||||
theme_override_constants/margin_bottom = 12
|
||||
|
||||
[node name="Scroll" type="ScrollContainer" parent="MarginContainer"]
|
||||
layout_mode = 2
|
||||
size_flags_horizontal = 3
|
||||
size_flags_vertical = 3
|
||||
horizontal_scroll_mode = 0
|
||||
|
||||
[node name="VBox" type="VBoxContainer" parent="MarginContainer/Scroll"]
|
||||
layout_mode = 2
|
||||
size_flags_horizontal = 3
|
||||
theme_override_constants/separation = 8
|
||||
|
||||
[node name="HBoxContainer" type="HBoxContainer" parent="MarginContainer/Scroll/VBox"]
|
||||
layout_mode = 2
|
||||
|
||||
[node name="TextureRect" type="TextureRect" parent="MarginContainer/Scroll/VBox/HBoxContainer"]
|
||||
visible = false
|
||||
layout_mode = 2
|
||||
texture = ExtResource("2_ujr2t")
|
||||
|
||||
[node name="Title" type="Label" parent="MarginContainer/Scroll/VBox/HBoxContainer"]
|
||||
layout_mode = 2
|
||||
theme_override_font_sizes/font_size = 30
|
||||
text = "Frag mich etwas zum EU AI Act und ich versuche es dir zu beantworten! "
|
||||
horizontal_alignment = 1
|
||||
|
||||
[node name="Label" type="Label" parent="MarginContainer/Scroll/VBox"]
|
||||
layout_mode = 2
|
||||
text = "Wähle ein Kapitel des EU AI Acts, zu dem du eine Frage hast:"
|
||||
|
||||
[node name="OptionButton" type="OptionButton" parent="MarginContainer/Scroll/VBox"]
|
||||
layout_mode = 2
|
||||
size_flags_horizontal = 0
|
||||
selected = 0
|
||||
allow_reselect = true
|
||||
item_count = 16
|
||||
popup/item_0/text = "Kapitelübersicht und Kurzfassung"
|
||||
popup/item_0/id = 0
|
||||
popup/item_1/text = "Erwägungsgründe"
|
||||
popup/item_1/id = 1
|
||||
popup/item_2/text = "Kapitel 1 - Allgemeine Bestimmungen"
|
||||
popup/item_2/id = 2
|
||||
popup/item_3/text = "Kapitel 2 - Verbotene Praktiken im KI-Bereich"
|
||||
popup/item_3/id = 3
|
||||
popup/item_4/text = "Kapitel 3 - Hochrisiko-KI-Systeme"
|
||||
popup/item_4/id = 4
|
||||
popup/item_5/text = "Kapitel 4 - Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme"
|
||||
popup/item_5/id = 5
|
||||
popup/item_6/text = "Kapitel 5 - KI-Modelle mit allgemeinem Verwendungszweck"
|
||||
popup/item_6/id = 6
|
||||
popup/item_7/text = "Kapitel 6 - Massnahmen zur Innovationsförderung"
|
||||
popup/item_7/id = 7
|
||||
popup/item_8/text = "Kapitel 7 - Governance"
|
||||
popup/item_8/id = 8
|
||||
popup/item_9/text = "Kapitel 8 - EU-Datenbank für Hochrisiko-KI-Systeme"
|
||||
popup/item_9/id = 9
|
||||
popup/item_10/text = "Kapitel 9 - Beobachtung nach dem Inverkehrbringen, Informationsaustausch und Marktüberwachung"
|
||||
popup/item_10/id = 10
|
||||
popup/item_11/text = "Kapitel 10 - Verhaltenskodizes und Leitlinien"
|
||||
popup/item_11/id = 11
|
||||
popup/item_12/text = "Kapitel 11 - Befugnisübertragung und Ausschussverfahren"
|
||||
popup/item_12/id = 12
|
||||
popup/item_13/text = "Kapitel 12 - Sanktionen"
|
||||
popup/item_13/id = 13
|
||||
popup/item_14/text = "Kapitel 13 - Schlussbestimmungen"
|
||||
popup/item_14/id = 14
|
||||
popup/item_15/text = "Anhang"
|
||||
popup/item_15/id = 15
|
||||
|
||||
[node name="PromptLabel" type="Label" parent="MarginContainer/Scroll/VBox"]
|
||||
layout_mode = 2
|
||||
text = "Frage:"
|
||||
|
||||
[node name="PromptEdit" type="TextEdit" parent="MarginContainer/Scroll/VBox"]
|
||||
custom_minimum_size = Vector2(0, 140)
|
||||
layout_mode = 2
|
||||
theme_override_styles/normal = SubResource("StyleBoxFlat_h7bxb")
|
||||
placeholder_text = "Schreib hier deine Frage..."
|
||||
tab_input_mode = false
|
||||
|
||||
[node name="GenerateRow" type="HBoxContainer" parent="MarginContainer/Scroll/VBox"]
|
||||
layout_mode = 2
|
||||
theme_override_constants/separation = 8
|
||||
|
||||
[node name="GenerateButton" type="Button" parent="MarginContainer/Scroll/VBox/GenerateRow"]
|
||||
z_index = 999
|
||||
layout_mode = 2
|
||||
text = "Enter"
|
||||
|
||||
[node name="OutputLabel" type="Label" parent="MarginContainer/Scroll/VBox"]
|
||||
layout_mode = 2
|
||||
text = "Antwort"
|
||||
|
||||
[node name="OutputText" type="RichTextLabel" parent="MarginContainer/Scroll/VBox"]
|
||||
custom_minimum_size = Vector2(0, 220)
|
||||
layout_mode = 2
|
||||
theme_override_styles/normal = SubResource("StyleBoxFlat_cqsco")
|
||||
|
||||
[node name="GenerateRow2" type="HBoxContainer" parent="MarginContainer/Scroll/VBox"]
|
||||
layout_mode = 2
|
||||
theme_override_constants/separation = 8
|
||||
|
||||
[node name="CloseButton" type="Button" parent="MarginContainer/Scroll/VBox/GenerateRow2"]
|
||||
z_index = 999
|
||||
layout_mode = 2
|
||||
text = "Schließen"
|
||||
|
||||
[node name="StatusLabel" type="Label" parent="MarginContainer/Scroll/VBox"]
|
||||
layout_mode = 2
|
||||
text = "Status: ready"
|
||||
|
||||
[node name="ModelFileDialog" type="FileDialog" parent="."]
|
||||
title = "Open a File"
|
||||
size = Vector2i(900, 560)
|
||||
ok_button_text = "Select"
|
||||
file_mode = 0
|
||||
access = 2
|
||||
filters = PackedStringArray("*.gguf ; GGUF model files")
|
||||
|
||||
[node name="HTTPRequest" type="HTTPRequest" parent="."]
|
||||
|
||||
[connection signal="gui_input" from="MarginContainer/Scroll/VBox/PromptEdit" to="." method="_on_prompt_edit_gui_input"]
|
||||
[connection signal="pressed" from="MarginContainer/Scroll/VBox/GenerateRow/GenerateButton" to="." method="_on_generate_pressed"]
|
||||
[connection signal="pressed" from="MarginContainer/Scroll/VBox/GenerateRow2/CloseButton" to="." method="_on_close_pressed"]
|
||||
@@ -0,0 +1,143 @@
|
||||
extends Control
|
||||
|
||||
@onready var _prompt_edit: TextEdit = $MarginContainer/Scroll/VBox/PromptEdit
|
||||
@onready var main: Control = $"."
|
||||
@onready var _http: HTTPRequest = $HTTPRequest
|
||||
@onready var output_text: RichTextLabel = $MarginContainer/Scroll/VBox/OutputText
|
||||
@onready var option_button: OptionButton = $MarginContainer/Scroll/VBox/OptionButton
|
||||
@onready var generate_button: Button = $MarginContainer/Scroll/VBox/GenerateRow/GenerateButton
|
||||
@onready var helper = $VBoxContainer/SubViewportContainer/SubViewport/base_node/helper
|
||||
|
||||
const API_URL := "" #TODO insert your url to the llm / api-gateway here
|
||||
|
||||
var document_id
|
||||
|
||||
signal closing_chatbot
|
||||
|
||||
|
||||
func _ready():
|
||||
_http.request_completed.connect(Callable(self, "_on_request_completed"))
|
||||
document_id = option_button.selected
|
||||
helper.play_idle()
|
||||
|
||||
|
||||
func _unhandled_input(event: InputEvent) -> void:
|
||||
if not main.visible:
|
||||
return
|
||||
print(option_button.selected)
|
||||
if event.is_action_pressed("drop"):
|
||||
get_viewport().set_input_as_handled()
|
||||
_on_close_pressed()
|
||||
|
||||
#if event.is_action_pressed("advance_dialogue"):
|
||||
# get_viewport().set_input_as_handled()
|
||||
# _on_generate_pressed()
|
||||
|
||||
|
||||
func _on_generate_pressed() -> void:
|
||||
$VBoxContainer/SubViewportContainer/SubViewport/AnimationPlayer.play("walk_helper")
|
||||
helper.play_think_walk()
|
||||
var user_text := _prompt_edit.text.strip_edges()
|
||||
document_id = option_button.selected
|
||||
TextToSpeech._stop_dialogue()
|
||||
if user_text.is_empty():
|
||||
print("Prompt ist leer")
|
||||
return
|
||||
|
||||
var document = _load_txt("res://addons/godot_llama/demo/documents/%s.md" % [document_id]).strip_edges()
|
||||
print(document_id)
|
||||
print(document)
|
||||
var combined_user_message := ""
|
||||
|
||||
if not document.is_empty():
|
||||
combined_user_message = "Dokument:\n%s\n\nFrage: %s" % [document, user_text]
|
||||
else:
|
||||
combined_user_message = user_text
|
||||
|
||||
var body := {
|
||||
"question": combined_user_message
|
||||
}
|
||||
|
||||
var headers = [
|
||||
"Content-Type: application/json",
|
||||
#"Authorization: Bearer %s" % API_TOKEN
|
||||
]
|
||||
|
||||
var json_body := JSON.stringify(body)
|
||||
|
||||
|
||||
var err = _http.request(
|
||||
API_URL,
|
||||
headers,
|
||||
HTTPClient.METHOD_POST,
|
||||
json_body
|
||||
)
|
||||
|
||||
if err != OK:
|
||||
print("HTTP Fehler: ", err)
|
||||
|
||||
generate_button.disabled = true
|
||||
|
||||
func _on_request_completed(
|
||||
result: int,
|
||||
response_code: int,
|
||||
headers: PackedStringArray,
|
||||
body: PackedByteArray
|
||||
) -> void:
|
||||
$VBoxContainer/SubViewportContainer/SubViewport/AnimationPlayer.stop()
|
||||
helper.play_idle()
|
||||
var txt := body.get_string_from_utf8()
|
||||
|
||||
if response_code != 200:
|
||||
return
|
||||
|
||||
var json = JSON.parse_string(txt)
|
||||
|
||||
if json == null:
|
||||
print("JSON Fehler")
|
||||
return
|
||||
|
||||
if json.has("content"):
|
||||
print('content:')
|
||||
print(json["content"])
|
||||
var response_text = json["content"]
|
||||
output_text.text = response_text
|
||||
|
||||
if json.has("message"):
|
||||
print('message:')
|
||||
print(json["message"])
|
||||
var response_text = json["message"]["content"]
|
||||
output_text.text = response_text
|
||||
var line = {"text": output_text.text}
|
||||
TextToSpeech._on_dialogue(line)
|
||||
generate_button.disabled = false
|
||||
|
||||
func _load_txt(path: String) -> String:
|
||||
var file := FileAccess.open(path, FileAccess.READ)
|
||||
print(file)
|
||||
if file == null:
|
||||
return ""
|
||||
|
||||
var content := file.get_as_text()
|
||||
file.close()
|
||||
|
||||
return content
|
||||
|
||||
func _on_close_pressed() -> void:
|
||||
main.visible = false
|
||||
Input.set_mouse_mode(Input.MOUSE_MODE_CAPTURED)
|
||||
TextToSpeech._stop_dialogue()
|
||||
Global.chatbot_opened = false
|
||||
TextToSpeech._stop_dialogue()
|
||||
closing_chatbot.emit()
|
||||
|
||||
|
||||
func _on_prompt_edit_gui_input(event: InputEvent) -> void:
|
||||
if event is InputEventKey and event.pressed:
|
||||
print(event.keycode)
|
||||
if event.keycode == KEY_ENTER:
|
||||
if event.shift_pressed:
|
||||
_prompt_edit.insert_text_at_caret("\n")
|
||||
else:
|
||||
_on_generate_pressed()
|
||||
accept_event()
|
||||
@@ -0,0 +1 @@
|
||||
uid://bap8us47qcmmu
|
||||
File diff suppressed because it is too large
Load Diff
File diff suppressed because it is too large
Load Diff
File diff suppressed because it is too large
Load Diff
@@ -0,0 +1,103 @@
|
||||
KAPITEL X
|
||||
VERHALTENSKODIZES UND LEITLINIEN
|
||||
|
||||
|
||||
Artikel 95
|
||||
|
||||
|
||||
Verhaltenskodizes für die freiwillige Anwendung bestimmter Anforderungen
|
||||
|
||||
|
||||
(1) Das Büro für Künstliche Intelligenz und die Mitgliedstaaten fördern und erleichtern die Aufstellung von
|
||||
Verhaltenskodizes, einschließlich damit zusammenhängender Governance-Mechanismen, mit denen die freiwillige
|
||||
Anwendung einiger oder aller der in Kapitel III Abschnitt 2 genannten Anforderungen auf KI-Systeme, die kein hohes
|
||||
Risiko bergen, gefördert werden soll, wobei den verfügbaren technischen Lösungen und bewährten Verfahren der Branche,
|
||||
die die Anwendung dieser Anforderungen ermöglichen, Rechnung zu tragen ist.
|
||||
|
||||
|
||||
(2) Das Büro für Künstliche Intelligenz und die Mitgliedstaaten erleichtern die Aufstellung von Verhaltenskodizes in
|
||||
Bezug auf die freiwillige Anwendung spezifischer Anforderungen auf alle KI-Systeme, einschließlich durch Betreiber, auf der
|
||||
Grundlage klarer Zielsetzungen sowie wesentlicher Leistungsindikatoren zur Messung der Erfüllung dieser Zielsetzungen,
|
||||
einschließlich unter anderem folgender Elemente:
|
||||
|
||||
|
||||
a)in den Ethik-Leitlinien der Union für eine vertrauenswürdige KI enthaltene anwendbare Elemente;
|
||||
|
||||
|
||||
b)Beurteilung und Minimierung der Auswirkungen von KI-Systemen auf die ökologische Nachhaltigkeit, einschließlich im
|
||||
Hinblick auf energieeffizientes Programmieren, und Techniken, um KI effizient zu gestalten, zu trainieren und zu nutzen;
|
||||
|
||||
|
||||
c) Förderung der KI-Kompetenz, insbesondere der von Personen, die mit der Entwicklung, dem Betrieb und der Nutzung
|
||||
von KI befasst sind;
|
||||
|
||||
|
||||
d)Erleichterung einer inklusiven und vielfältigen Gestaltung von KI-Systemen, unter anderem durch die Einsetzung
|
||||
inklusiver und vielfältiger Entwicklungsteams und die Förderung der Beteiligung der Interessenträger an diesem Prozess;
|
||||
|
||||
|
||||
e) Bewertung und Verhinderung der negativen Auswirkungen von KI-Systemen auf schutzbedürftige Personen oder
|
||||
Gruppen schutzbedürftiger Personen, einschließlich im Hinblick auf die Barrierefreiheit für Personen mit Behinderungen,
|
||||
sowie auf die Gleichstellung der Geschlechter.
|
||||
|
||||
|
||||
(3) Verhaltenskodizes können von einzelnen KI-System-Anbietern oder -Betreibern oder von Interessenvertretungen
|
||||
dieser Anbieter oder Betreiber oder von beiden aufgestellt werden, auch unter Einbeziehung von Interessenträgern sowie
|
||||
deren Interessenvertretungen einschließlich Organisationen der Zivilgesellschaft und Hochschulen. Verhaltenskodizes
|
||||
können sich auf ein oder mehrere KI-Systeme erstrecken, um ähnlichen Zweckbestimmungen der jeweiligen Systeme
|
||||
Rechnung zu tragen.
|
||||
|
||||
|
||||
(4) Das Büro für Künstliche Intelligenz und die Mitgliedstaaten berücksichtigen die besonderen Interessen und
|
||||
Bedürfnisse von KMU, einschließlich Startups, bei der Förderung und Erleichterung der Aufstellung von Verhaltenskodizes.
|
||||
|
||||
# ABl. L vom 12.7.2024 DE
|
||||
|
||||
ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj) 113/
|
||||
|
||||
Artikel 96
|
||||
|
||||
|
||||
Leitlinien der Kommission zur Durchführung dieser Verordnung
|
||||
|
||||
|
||||
(1) Die Kommission erarbeitet Leitlinien für die praktische Umsetzung dieser Verordnung, die sich insbesondere auf
|
||||
Folgendes beziehen:
|
||||
|
||||
|
||||
a)die Anwendung der in den Artikeln 8 bis 15 und in Artikel 25 genannten Anforderungen und Pflichten;
|
||||
|
||||
|
||||
b)die in Artikel 5 genannten verbotenen Praktiken;
|
||||
|
||||
|
||||
c) die praktische Durchführung der Bestimmungen über wesentliche Veränderungen;
|
||||
|
||||
|
||||
d)die praktische Umsetzung der Transparenzpflichten gemäß Artikel 50;
|
||||
|
||||
|
||||
e) detaillierte Informationen über das Verhältnis dieser Verordnung zu den in Anhang I aufgeführten Harmonisierungs-
|
||||
rechtsvorschriften der Union sowie zu anderen einschlägigen Rechtsvorschriften der Union, auch in Bezug auf deren
|
||||
kohärente Durchsetzung;
|
||||
|
||||
|
||||
f) die Anwendung der Definition eines KI-Systems gemäß Artikel 3 Nummer 1.
|
||||
|
||||
|
||||
Wenn die Kommission solche Leitlinien herausgibt, widmet sie den Bedürfnissen von KMU einschließlich
|
||||
Start-up-Unternehmen, von lokalen Behörden und von den am wahrscheinlichsten von dieser Verordnung betroffenen
|
||||
Sektoren besondere Aufmerksamkeit.
|
||||
|
||||
|
||||
Die Leitlinien gemäß Unterabsatz 1 dieses Absatzes tragen dem allgemein anerkannten Stand der Technik im Bereich KI
|
||||
sowie den einschlägigen harmonisierten Normen und gemeinsamen Spezifikationen, auf die in den Artikeln 40 und 41
|
||||
Bezug genommen wird, oder den harmonisierten Normen oder technischen Spezifikationen, die gemäß den
|
||||
Harmonisierungsrechtsvorschriften der Union festgelegt wurden, gebührend Rechnung.
|
||||
|
||||
|
||||
(2) Auf Ersuchen der Mitgliedstaaten oder des Büros für Künstliche Intelligenz oder von sich aus aktualisiert die
|
||||
Kommission früher verabschiedete Leitlinien, wenn es als notwendig erachtet wird.
|
||||
|
||||
|
||||
|
||||
@@ -0,0 +1,66 @@
|
||||
KAPITEL XI
|
||||
|
||||
|
||||
BEFUGNISÜBERTRAGUNG UND AUSSCHUSSVERFAHREN
|
||||
|
||||
|
||||
Artikel 97
|
||||
|
||||
|
||||
Ausübung der Befugnisübertragung
|
||||
|
||||
|
||||
(1) Die Befugnis zum Erlass delegierter Rechtsakte wird der Kommission unter den in diesem Artikel festgelegten
|
||||
Bedingungen übertragen.
|
||||
|
||||
|
||||
(2) Die in Artikel 6 Absätze 6 und 7, Artikel 7 Absätze 1 und 3, Artikel 11 Absatz 3, Artikel 43 Absätze 5 und 6,
|
||||
Artikel 47 Absatz 5, Artikel 51 Absatz 3, Artikel 52 Absatz 4 sowie Artikel 53 Absätze 5 und 6 genannte Befugnis zum
|
||||
Erlass delegierter Rechtsakte wird der Kommission für einen Zeitraum von fünf Jahren ab 1. August 2024 übertragen. Die
|
||||
Kommission erstellt spätestens neun Monate vor Ablauf des Zeitraums von fünf Jahren einen Bericht über die
|
||||
Befugnisübertragung. Die Befugnisübertragung verlängert sich stillschweigend um Zeiträume gleicher Länge, es sei denn,
|
||||
das Europäische Parlament oder der Rat widersprechen einer solchen Verlängerung spätestens drei Monate vor Ablauf des
|
||||
jeweiligen Zeitraums.
|
||||
|
||||
|
||||
(3) Die Befugnisübertragung gemäß Artikel 6 Absätze 6 und 7, Artikel 7 Absätze 1 und 3, Artikel 11 Absatz 3,
|
||||
Artikel 43 Absätze 5 und 6, Artikel 47 Absatz 5, Artikel 51 Absatz 3, Artikel 52 Absatz 4 sowie Artikel 53 Absätze 5 und
|
||||
6 kann vom Europäischen Parlament oder vom Rat jederzeit widerrufen werden. Der Beschluss über den Widerruf beendet
|
||||
die Übertragung der in jenem Beschluss angegebenen Befugnis. Er wird am Tag nach seiner Veröffentlichung im Amtsblatt
|
||||
der Europäischen Union oder zu einem darin angegebenen späteren Zeitpunkt wirksam. Die Gültigkeit von delegierten
|
||||
Rechtsakten, die bereits in Kraft sind, wird von dem Beschluss über den Widerruf nicht berührt.
|
||||
|
||||
|
||||
(4) Vor dem Erlass eines delegierten Rechtsakts konsultiert die Kommission die von den einzelnen Mitgliedstaaten
|
||||
benannten Sachverständigen im Einklang mit den in der Interinstitutionellen Vereinbarung vom 13. April 2016 über
|
||||
bessere Rechtsetzung niedergelegten Grundsätzen.
|
||||
|
||||
# DE ABl. L vom 12.7.
|
||||
|
||||
114/144 ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj)
|
||||
|
||||
(5) Sobald die Kommission einen delegierten Rechtsakt erlässt, übermittelt sie ihn gleichzeitig dem Europäischen
|
||||
Parlament und dem Rat.
|
||||
|
||||
|
||||
(6) Ein delegierter Rechtsakt, der nach Artikel 6 Absatz 6 oder 7, Artikel 7 Absatz 1 oder 3, Artikel 11 Absatz 3,
|
||||
Artikel 43 Absatz 5 oder 6, Artikel 47 Absatz 5, Artikel 51 Absatz 3, Artikel 52 Absatz 4 sowie Artikel 53 Absatz 5 oder 6
|
||||
erlassen wurde, tritt nur in Kraft, wenn weder das Europäische Parlament noch der Rat innerhalb einer Frist von drei
|
||||
Monaten nach Übermittlung jenes Rechtsakts an das Europäische Parlament und den Rat Einwände erhoben haben oder
|
||||
wenn vor Ablauf dieser Frist das Europäische Parlament und der Rat beide der Kommission mitgeteilt haben, dass sie keine
|
||||
Einwände erheben werden. Auf Initiative des Europäischen Parlaments oder des Rates wird diese Frist um drei Monate
|
||||
verlängert.
|
||||
|
||||
|
||||
Artikel 98
|
||||
Ausschussverfahren
|
||||
|
||||
|
||||
(1) Die Kommission wird von einem Ausschuss unterstützt. Dieser Ausschuss ist ein Ausschuss im Sinne der Verordnung
|
||||
(EU) Nr. 182/2011.
|
||||
|
||||
|
||||
(2) Wird auf diesen Absatz Bezug genommen, so gilt Artikel 5 der Verordnung (EU) Nr. 182/2011.
|
||||
|
||||
|
||||
|
||||
@@ -0,0 +1,271 @@
|
||||
|
||||
KAPITEL XII
|
||||
SANKTIONEN
|
||||
|
||||
|
||||
Artikel 99
|
||||
|
||||
|
||||
Sanktionen
|
||||
|
||||
|
||||
(1) Entsprechend den Vorgaben dieser Verordnung erlassen die Mitgliedstaaten Vorschriften für Sanktionen und andere
|
||||
Durchsetzungsmaßnahmen, zu denen auch Verwarnungen und nichtmonetäre Maßnahmen gehören können, die bei
|
||||
Verstößen gegen diese Verordnung durch Akteure Anwendung finden, und ergreifen alle Maßnahmen, die für deren
|
||||
ordnungsgemäße und wirksame Durchsetzung notwendig sind, wobei die von der Kommission gemäß Artikel 96 erteilten
|
||||
Leitlinien zu berücksichtigen sind. Die vorgesehenen Sanktionen müssen wirksam, verhältnismäßig und abschreckend sein.
|
||||
Sie berücksichtigen die Interessen von KMU, einschließlich Start-up-Unternehmen, sowie deren wirtschaftliches Überleben.
|
||||
|
||||
|
||||
(2) Die Mitgliedstaaten teilen der Kommission die Vorschriften für Sanktionen und andere Durchsetzungsmaßnahmen
|
||||
gemäß Absatz 1 unverzüglich und spätestens zum Zeitpunkt ihres Inkrafttretens mit und melden ihr unverzüglich etwaige
|
||||
spätere Änderungen.
|
||||
|
||||
|
||||
(3) Bei Missachtung des Verbots der in Artikel 5 genannten KI-Praktiken werden Geldbußen von bis zu 35 000 000 EUR
|
||||
oder — im Falle von Unternehmen — von bis zu 7 % des gesamten weltweiten Jahresumsatzes des vorangegangenen
|
||||
Geschäftsjahres verhängt, je nachdem, welcher Betrag höher ist.
|
||||
|
||||
|
||||
(4) Für Verstöße gegen folgende für Akteure oder notifizierte Stellen geltende Bestimmungen, mit Ausnahme der in
|
||||
Artikel 5 genannten, werden Geldbußen von bis zu 15 000 000 EUR oder — im Falle von Unternehmen — von bis zu 3 %
|
||||
des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres verhängt, je nachdem, welcher Betrag höher
|
||||
ist:
|
||||
|
||||
|
||||
a)Pflichten der Anbieter gemäß Artikel 16;
|
||||
|
||||
|
||||
b)Pflichten der Bevollmächtigten gemäß Artikel 22;
|
||||
|
||||
|
||||
c) Pflichten der Einführer gemäß Artikel 23;
|
||||
|
||||
|
||||
d)Pflichten der Händler gemäß Artikel 24;
|
||||
|
||||
|
||||
e) Pflichten der Betreiber gemäß Artikel 26;
|
||||
|
||||
|
||||
f) für notifizierte Stellen geltende Anforderungen und Pflichten gemäß Artikel 31, Artikel 33 Absätze 1, 3 und 4 bzw.
|
||||
Artikel 34;
|
||||
|
||||
|
||||
g)Transparenzpflichten für Anbieter und Betreiber gemäß Artikel 50.
|
||||
|
||||
# ABl. L vom 12.7.2024 DE
|
||||
|
||||
ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj) 115/
|
||||
|
||||
|
||||
|
||||
(5) Werden notifizierten Stellen oder zuständigen nationalen Behörden auf deren Auskunftsersuchen hin falsche,
|
||||
unvollständige oder irreführende Informationen bereitgestellt, so werden Geldbußen von bis zu 7 500 000 EUR oder — im
|
||||
Falle von Unternehmen — von bis zu 1 % des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres
|
||||
verhängt, je nachdem, welcher Betrag höher ist.
|
||||
|
||||
|
||||
(6) Im Falle von KMU, einschließlich Start-up-Unternehmen, gilt für jede in diesem Artikel genannte Geldbuße der
|
||||
jeweils niedrigere Betrag aus den in den Absätzen 3, 4 und 5 genannten Prozentsätzen oder Summen.
|
||||
|
||||
|
||||
(7) Bei der Entscheidung, ob eine Geldbuße verhängt wird, und bei der Festsetzung der Höhe der Geldbuße werden in
|
||||
jedem Einzelfall alle relevanten Umstände der konkreten Situation sowie gegebenenfalls Folgendes berücksichtigt:
|
||||
|
||||
|
||||
a)Art, Schwere und Dauer des Verstoßes und seiner Folgen, unter Berücksichtigung des Zwecks des KI-Systems sowie
|
||||
gegebenenfalls der Zahl der betroffenen Personen und des Ausmaßes des von ihnen erlittenen Schadens;
|
||||
|
||||
|
||||
b)ob demselben Akteur bereits von anderen Marktüberwachungsbehörden für denselben Verstoß Geldbußen auferlegt
|
||||
wurden;
|
||||
|
||||
|
||||
c) ob demselben Akteur bereits von anderen Behörden für Verstöße gegen das Unionsrecht oder das nationale Recht
|
||||
Geldbußen auferlegt wurden, wenn diese Verstöße auf dieselbe Handlung oder Unterlassung zurückzuführen sind, die
|
||||
einen einschlägigen Verstoß gegen diese Verordnung darstellt;
|
||||
|
||||
|
||||
d)Größe, Jahresumsatz und Marktanteil des Akteurs, der den Verstoß begangen hat;
|
||||
|
||||
|
||||
e) jegliche anderen erschwerenden oder mildernden Umstände im jeweiligen Fall, wie etwa unmittelbar oder mittelbar
|
||||
durch den Verstoß erlangte finanzielle Vorteile oder vermiedene Verluste;
|
||||
|
||||
|
||||
f) Grad der Zusammenarbeit mit den zuständigen nationalen Behörden, um den Verstoß abzustellen und die möglichen
|
||||
nachteiligen Auswirkungen des Verstoßes abzumildern;
|
||||
|
||||
|
||||
g)Grad an Verantwortung des Akteurs unter Berücksichtigung der von ihm ergriffenen technischen und organisatorischen
|
||||
Maßnahmen;
|
||||
|
||||
|
||||
h)Art und Weise, wie der Verstoß den zuständigen nationalen Behörden bekannt wurde, insbesondere ob und
|
||||
gegebenenfalls in welchem Umfang der Akteur den Verstoß gemeldet hat;
|
||||
|
||||
|
||||
i) Vorsätzlichkeit oder Fahrlässigkeit des Verstoßes;
|
||||
|
||||
|
||||
j) alle Maßnahmen, die der Akteur ergriffen hat, um den Schaden, der den betroffenen Personen zugefügt wird, zu
|
||||
mindern.
|
||||
|
||||
|
||||
(8) Jeder Mitgliedstaat erlässt Vorschriften darüber, in welchem Umfang gegen Behörden und öffentliche Stellen, die in
|
||||
dem betreffenden Mitgliedstaat niedergelassen sind, Geldbußen verhängt werden können.
|
||||
|
||||
|
||||
(9) In Abhängigkeit vom Rechtssystem der Mitgliedstaaten können die Vorschriften über Geldbußen je nach den dort
|
||||
geltenden Regeln so angewandt werden, dass die Geldbußen von den zuständigen nationalen Gerichten oder von sonstigen
|
||||
Stellen verhängt werden. Die Anwendung dieser Vorschriften in diesen Mitgliedstaaten muss eine gleichwertige Wirkung
|
||||
haben.
|
||||
|
||||
|
||||
(10) Die Ausübung der Befugnisse gemäß diesem Artikel muss angemessenen Verfahrensgarantien gemäß dem
|
||||
Unionsrecht und dem nationalen Recht, einschließlich wirksamer gerichtlicher Rechtsbehelfe und ordnungsgemäßer
|
||||
Verfahren, unterliegen.
|
||||
|
||||
|
||||
(11) Die Mitgliedstaaten erstatten der Kommission jährlich Bericht über die Geldbußen, die sie in dem betreffenden Jahr
|
||||
gemäß diesem Artikel verhängt haben, und über damit zusammenhängende Rechtsstreitigkeiten oder Gerichtsverfahren.
|
||||
|
||||
|
||||
Artikel 100
|
||||
|
||||
|
||||
Verhängung von Geldbußen gegen Organe, Einrichtungen und sonstige Stellen der Union
|
||||
|
||||
|
||||
(1) Der Europäische Datenschutzbeauftragte kann gegen Organe, Einrichtungen und sonstige Stellen der Union, die in
|
||||
den Anwendungsbereich dieser Verordnung fallen, Geldbußen verhängen. Bei der Entscheidung, ob eine Geldbuße verhängt
|
||||
wird, und bei der Festsetzung der Höhe der Geldbuße werden in jedem Einzelfall alle relevanten Umstände der konkreten
|
||||
Situation sowie Folgendes gebührend berücksichtigt:
|
||||
|
||||
# DE ABl. L vom 12.7.
|
||||
|
||||
116/144 ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj)
|
||||
|
||||
|
||||
|
||||
a)Art, Schwere und Dauer des Verstoßes und dessen Folgen, unter Berücksichtigung des Zwecks des betreffenden
|
||||
KI-Systems sowie gegebenenfalls der Zahl der betroffenen Personen und des Ausmaßes des von ihnen erlittenen
|
||||
Schadens;
|
||||
|
||||
|
||||
b)Grad der Verantwortung des Organs, der Einrichtung oder der sonstigen Stelle der Union unter Berücksichtigung der von
|
||||
diesem bzw. dieser ergriffenen technischen und organisatorischen Maßnahmen;
|
||||
|
||||
|
||||
c) alle Maßnahmen, die das Organ, die Einrichtung oder die sonstige Stelle der Union zur Minderung des von den
|
||||
betroffenen Personen erlittenen Schadens ergriffen hat;
|
||||
|
||||
|
||||
d)das Maß der Zusammenarbeit mit dem Europäischen Datenschutzbeauftragten bei der Behebung des Verstoßes und der
|
||||
Minderung seiner möglichen nachteiligen Auswirkungen, einschließlich der Befolgung von Maßnahmen, die der
|
||||
Europäische Datenschutzbeauftragte dem Organ, der Einrichtung oder der sonstigen Stelle der Union im Hinblick auf
|
||||
denselben Gegenstand zuvor bereits auferlegt hatte;
|
||||
|
||||
|
||||
e) ähnliche frühere Verstöße des Organs, der Einrichtung oder der sonstigen Stelle der Union;
|
||||
|
||||
|
||||
f) Art und Weise, wie der Verstoß dem Europäischen Datenschutzbeauftragten bekannt wurde, insbesondere ob und
|
||||
gegebenenfalls in welchem Umfang das Organ, die Einrichtung oder die sonstige Stelle der Union den Verstoß gemeldet
|
||||
hat;
|
||||
|
||||
|
||||
g)der Jahreshaushalt des Organs, der Einrichtung oder der sonstigen Stelle der Union.
|
||||
|
||||
|
||||
(2) Bei Missachtung des Verbots der in Artikel 5 genannten KI-Praktiken werden Geldbußen von bis zu 1 500 000 EUR
|
||||
verhängt.
|
||||
|
||||
|
||||
(3) Bei Nichtkonformität des KI-Systems mit in dieser Verordnung festgelegten Anforderungen oder Pflichten, mit
|
||||
Ausnahme der in Artikel 5 festgelegten, werden Geldbußen von bis zu 750 000 EUR verhängt.
|
||||
|
||||
|
||||
(4) Bevor der Europäische Datenschutzbeauftragte Entscheidungen nach dem vorliegenden Artikel trifft, gibt er dem
|
||||
Organ, der Einrichtung oder der sonstigen Stelle der Union, gegen das bzw. die sich das von ihm geführte Verfahren richtet,
|
||||
Gelegenheit, sich zum Vorwurf des Verstoßes zu äußern. Der Europäische Datenschutzbeauftragte stützt seine
|
||||
Entscheidungen nur auf die Elemente und Umstände, zu denen sich die betreffenden Parteien äußern können.
|
||||
Beschwerdeführer, soweit vorhanden, müssen in das Verfahren eng einbezogen werden.
|
||||
|
||||
|
||||
(5) Die Verteidigungsrechte der betroffenen Parteien werden während des Verfahrens in vollem Umfang gewahrt.
|
||||
Vorbehaltlich der legitimen Interessen von Einzelpersonen oder Unternehmen im Hinblick auf den Schutz ihrer
|
||||
personenbezogenen Daten oder Geschäftsgeheimnisse haben die betroffenen Parteien Anspruch auf Einsicht in die
|
||||
Unterlagen des Europäischen Datenschutzbeauftragten.
|
||||
|
||||
|
||||
(6) Das Aufkommen aus den nach diesem Artikel verhängten Geldbußen trägt zum Gesamthaushalt der Union bei. Die
|
||||
Geldbußen dürfen nicht den wirksamen Betrieb des Organs, der Einrichtung oder der sonstigen Stelle der Union
|
||||
beeinträchtigen, dem bzw. der die Geldbuße auferlegt wurde.
|
||||
|
||||
|
||||
(7) Der Europäische Datenschutzbeauftragte macht der Kommission jährlich Mitteilung über die Geldbußen, die er nach
|
||||
Maßgabe dieses Artikels verhängt hat, und über die von ihm eingeleiteten Rechtsstreitigkeiten oder Gerichtsverfahren.
|
||||
|
||||
|
||||
Artikel 101
|
||||
|
||||
|
||||
Geldbußen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck
|
||||
|
||||
|
||||
(1) Die Kommission kann gegen Anbieter von KI-Modellen mit allgemeinem Verwendungszweck Geldbußen von bis zu
|
||||
3 % ihres gesamten weltweiten Jahresumsatzes im vorangegangenen Geschäftsjahr oder 15 000 000 EUR verhängen, je
|
||||
nachdem, welcher Betrag höher ist, wenn sie feststellt, dass der Anbieter vorsätzlich oder fahrlässig
|
||||
|
||||
|
||||
a)gegen die einschlägigen Bestimmungen dieser Verordnung verstoßen hat;
|
||||
|
||||
|
||||
b)der Anforderung eines Dokuments oder von Informationen gemäß Artikel 91 nicht nachgekommen ist oder falsche,
|
||||
unvollständige oder irreführende Informationen bereitgestellt hat;
|
||||
|
||||
|
||||
c) einer gemäß Artikel 93 geforderten Maßnahme nicht nachgekommen ist;
|
||||
|
||||
# ABl. L vom 12.7.2024 DE
|
||||
|
||||
ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj) 117/
|
||||
|
||||
|
||||
|
||||
d)der Kommission keinen Zugang zu dem KI-Modell mit allgemeinem Verwendungszweck oder dem KI-Modell mit
|
||||
allgemeinem Verwendungszweck mit systemischem Risiko gewährt hat, um eine Bewertung gemäß Artikel 92
|
||||
durchzuführen.
|
||||
|
||||
|
||||
Bei der Festsetzung der Höhe der Geldbuße oder des Zwangsgelds wird der Art, der Schwere und der Dauer des Verstoßes
|
||||
sowie den Grundsätzen der Verhältnismäßigkeit und der Angemessenheit gebührend Rechnung getragen. Die Kommission
|
||||
berücksichtigt außerdem Verpflichtungen, die gemäß Artikel 93 Absatz 3 oder in den einschlägigen Praxisleitfäden nach
|
||||
Artikel 56 gemacht wurden.
|
||||
|
||||
|
||||
(2) Vor der Annahme einer Entscheidung nach Absatz 1 teilt die Kommission dem Anbieter des KI-Modells mit
|
||||
allgemeinem Verwendungszweck ihre vorläufige Beurteilung mit und gibt ihm Gelegenheit, Stellung zu nehmen.
|
||||
|
||||
|
||||
(3) Die gemäß diesem Artikel verhängten Geldbußen müssen wirksam, verhältnismäßig und abschreckend sein.
|
||||
|
||||
|
||||
(4) Informationen über gemäß diesem Artikel verhängte Geldbußen werden gegebenenfalls dem KI-Gremium mitgeteilt.
|
||||
|
||||
|
||||
(5) Der Gerichtshof der Europäischen Union hat die unbeschränkte Befugnis zur Überprüfung der Entscheidungen der
|
||||
Kommission über die Festsetzung einer Geldbuße gemäß diesem Artikel. Er kann die verhängte Geldbuße aufheben,
|
||||
herabsetzen oder erhöhen.
|
||||
|
||||
|
||||
(6) Die Kommission erlässt Durchführungsrechtsakte mit detaillierten Regelungen und Verfahrensgarantien für die
|
||||
Verfahren im Hinblick auf den möglichen Erlass von Beschlüssen gemäß Absatz 1 dieses Artikels. Diese Durchführungs-
|
||||
rechtsakte werden gemäß dem in Artikel 98 Absatz 2 genannten Prüfverfahren erlassen.
|
||||
|
||||
|
||||
|
||||
|
||||
|
||||
@@ -0,0 +1,451 @@
|
||||
KAPITEL XIII
|
||||
SCHLUSSBESTIMMUNGEN
|
||||
|
||||
|
||||
Artikel 102
|
||||
|
||||
|
||||
Änderung der Verordnung (EG) Nr. 300/
|
||||
|
||||
|
||||
In Artikel 4 Absatz 3 der Verordnung (EG) Nr. 300/2008 wird folgender Unterabsatz angefügt:
|
||||
|
||||
|
||||
„Beim Erlass detaillierter Maßnahmen, die technische Spezifikationen und Verfahren für die Genehmigung und den Einsatz
|
||||
von Sicherheitsausrüstung betreffen, bei der auch Systeme der künstlichen Intelligenz im Sinne der Verordnung (EU)
|
||||
2024/1689 des Europäischen Parlaments und des Rates (*) zum Einsatz kommen, werden die in Kapitel III Abschnitt 2 jener
|
||||
Verordnung festgelegten Anforderungen berücksichtigt.
|
||||
|
||||
|
||||
(*) Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung
|
||||
harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU)
|
||||
Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien
|
||||
2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Verordnung über künstliche Intelligenz) (ABl. L, 2024/1689,
|
||||
12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj).“
|
||||
|
||||
|
||||
Artikel 103
|
||||
|
||||
|
||||
Änderung der Verordnung (EU) Nr. 167/
|
||||
|
||||
|
||||
In Artikel 17 Absatz 5 der Verordnung (EU) Nr. 167/2013 wird folgender Unterabsatz angefügt:
|
||||
|
||||
|
||||
„Beim Erlass delegierter Rechtsakte nach Unterabsatz 1, die sich auf Systeme der künstlichen Intelligenz beziehen, bei denen
|
||||
es sich um Sicherheitsbauteile im Sinne der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates (*)
|
||||
handelt, werden die in Kapitel III Abschnitt 2 jener Verordnung festgelegten Anforderungen berücksichtigt.
|
||||
|
||||
|
||||
(*) Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung
|
||||
harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU)
|
||||
Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien
|
||||
2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Verordnung über künstliche Intelligenz) (ABl. L, 2024/1689,
|
||||
12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj).“
|
||||
|
||||
# DE ABl. L vom 12.7.
|
||||
|
||||
118/144 ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj)
|
||||
|
||||
Artikel 104
|
||||
|
||||
|
||||
Änderung der Verordnung (EU) Nr. 168/
|
||||
|
||||
|
||||
In Artikel 22 Absatz 5 der Verordnung (EU) Nr. 168/2013 wird folgender Unterabsatz angefügt:
|
||||
|
||||
|
||||
„Beim Erlass delegierter Rechtsakte nach Unterabsatz 1, die sich auf Systeme der künstlichen Intelligenz beziehen, bei denen
|
||||
es sich um Sicherheitsbauteile im Sinne der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates (*)
|
||||
handelt, werden die in Kapitel III Abschnitt 2 jener Verordnung festgelegten Anforderungen berücksichtigt.
|
||||
|
||||
|
||||
(*) Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung
|
||||
harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU)
|
||||
Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien
|
||||
2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Verordnung über künstliche Intelligenz) (ABl. L, 2024/1689,
|
||||
12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj).“
|
||||
|
||||
|
||||
Artikel 105
|
||||
|
||||
|
||||
Änderung der Richtlinie 2014/90/EU
|
||||
|
||||
|
||||
In Artikel 8 der Richtlinie 2014/90/EU wird folgender Absatz angefügt:
|
||||
|
||||
|
||||
„(5) Bei Systemen der künstlichen Intelligenz, bei denen es sich um Sicherheitsbauteile im Sinne der Verordnung (EU)
|
||||
2024/1689 des Europäischen Parlaments und des Rates (*) handelt, berücksichtigt die Kommission bei der Ausübung ihrer
|
||||
Tätigkeiten nach Absatz 1 und bei Erlass technischer Spezifikationen und Prüfnormen nach den Absätzen 2 und 3 die in
|
||||
Kapitel III Abschnitt 2 jener Verordnung festgelegten Anforderungen.
|
||||
|
||||
|
||||
(*) Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung
|
||||
harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU)
|
||||
Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien
|
||||
2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Verordnung über künstliche Intelligenz) (ABl. L, 2024/1689,
|
||||
12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj).“
|
||||
|
||||
|
||||
Artikel 106
|
||||
|
||||
|
||||
Änderung der Richtlinie (EU) 2016/
|
||||
|
||||
|
||||
In Artikel 5 der Richtlinie (EU) 2016/797 wird folgender Absatz angefügt:
|
||||
|
||||
|
||||
„(12) Beim Erlass von delegierten Rechtsakten nach Absatz 1 und von Durchführungsrechtsakten nach Absatz 11, die
|
||||
sich auf Systeme der künstlichen Intelligenz beziehen, bei denen es sich um Sicherheitsbauteile im Sinne der Verordnung
|
||||
(EU) 2024/1689 des Europäischen Parlaments und des Rates (*) handelt, werden die in Kapitel III Abschnitt 2 jener
|
||||
Verordnung festgelegten Anforderungen berücksichtigt.
|
||||
|
||||
|
||||
(*) Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung
|
||||
harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU)
|
||||
Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien
|
||||
2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Verordnung über künstliche Intelligenz) (ABl. L, 2024/1689,
|
||||
12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj).“
|
||||
|
||||
# ABl. L vom 12.7.2024 DE
|
||||
|
||||
ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj) 119/
|
||||
|
||||
|
||||
|
||||
Artikel 107
|
||||
|
||||
|
||||
Änderung der Verordnung (EU) 2018/
|
||||
|
||||
|
||||
In Artikel 5 der Verordnung (EU) 2018/858 wird folgender Absatz angefügt:
|
||||
|
||||
|
||||
„(4) Beim Erlass delegierter Rechtsakte nach Absatz 3, die sich auf Systeme der künstlichen Intelligenz beziehen, bei
|
||||
denen es sich um Sicherheitsbauteile im Sinne der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des
|
||||
Rates (*) handelt, werden die in Kapitel III Abschnitt 2 jener Verordnung festgelegten Anforderungen berücksichtigt.
|
||||
|
||||
|
||||
(*) Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung
|
||||
harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU)
|
||||
Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien
|
||||
2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Verordnung über künstliche Intelligenz) (ABl. L, 2024/1689,
|
||||
12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj).“
|
||||
|
||||
|
||||
Artikel 108
|
||||
|
||||
|
||||
Änderungen der Verordnung (EU) 2018/
|
||||
|
||||
|
||||
Die Verordnung (EU) 2018/1139 wird wie folgt geändert:
|
||||
|
||||
|
||||
1.In Artikel 17 wird folgender Absatz angefügt:
|
||||
|
||||
|
||||
„(3) Unbeschadet des Absatzes 2 werden beim Erlass von Durchführungsrechtsakten nach Absatz 1, die sich auf
|
||||
Systeme der künstlichen Intelligenz beziehen, bei denen es sich um Sicherheitsbauteile im Sinne der Verordnung (EU)
|
||||
2024/1689 des Europäischen Parlaments und des Rates (*) handelt, die in Kapitel III Abschnitt 2 jener Verordnung
|
||||
festgelegten Anforderungen berücksichtigt.
|
||||
|
||||
|
||||
(*) Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung
|
||||
harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008,
|
||||
(EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der
|
||||
Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Verordnung über künstliche Intelligenz) (ABl. L,
|
||||
2024/1689, 12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj).“
|
||||
|
||||
|
||||
2.In Artikel 19 wird folgender Absatz angefügt:
|
||||
|
||||
|
||||
„(4) Beim Erlass delegierter Rechtsakte nach den Absätzen 1 und 2, die sich auf Systeme der künstlichen Intelligenz
|
||||
beziehen, bei denen es sich um Sicherheitsbauteile im Sinne der Verordnung (EU) 2024/1689 handelt, werden die in
|
||||
Kapitel III Abschnitt 2 jener Verordnung festgelegten Anforderungen berücksichtigt.“
|
||||
|
||||
|
||||
3.In Artikel 43 wird folgender Absatz angefügt:
|
||||
|
||||
|
||||
„(4) Beim Erlass von Durchführungsrechtsakten nach Absatz 1, die sich auf Systeme der künstlichen Intelligenz
|
||||
beziehen, bei denen es sich um Sicherheitsbauteile im Sinne der Verordnung (EU) 2024/1689 handelt, werden die in
|
||||
Kapitel III Abschnitt 2 jener Verordnung festgelegten Anforderungen berücksichtigt.“
|
||||
|
||||
|
||||
4.In Artikel 47 wird folgender Absatz angefügt:
|
||||
|
||||
|
||||
„(3) Beim Erlass delegierter Rechtsakte nach den Absätzen 1 und 2, die sich auf Systeme der künstlichen Intelligenz
|
||||
beziehen, bei denen es sich um Sicherheitsbauteile im Sinne der Verordnung (EU) 2024/1689 handelt, werden die in
|
||||
Kapitel III Abschnitt 2 jener Verordnung festgelegten Anforderungen berücksichtigt.“
|
||||
|
||||
|
||||
5.In Artikel 57 wird folgender Unterabsatz angefügt:
|
||||
|
||||
|
||||
„Beim Erlass solcher Durchführungsrechtsakte, die sich auf Systeme der künstlichen Intelligenz beziehen, bei denen es
|
||||
sich um Sicherheitsbauteile im Sinne der Verordnung (EU) 2024/1689 handelt, werden die in Kapitel III Abschnitt 2
|
||||
jener Verordnung festgelegten Anforderungen berücksichtigt.“
|
||||
|
||||
# DE ABl. L vom 12.7.
|
||||
|
||||
120/144 ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj)
|
||||
|
||||
|
||||
|
||||
6.In Artikel 58 wird folgender Absatz angefügt:
|
||||
|
||||
|
||||
„(3) Beim Erlass delegierter Rechtsakte nach den Absätzen 1 und 2, die sich auf Systeme der künstlichen Intelligenz
|
||||
beziehen, bei denen es sich um Sicherheitsbauteile im Sinne der Verordnung (EU) 2024/1689 handelt, werden die in
|
||||
Kapitel III Abschnitt 2 jener Verordnung festgelegten Anforderungen berücksichtigt.“
|
||||
|
||||
|
||||
Artikel 109
|
||||
|
||||
|
||||
Änderung der Verordnung (EU) 2019/
|
||||
|
||||
|
||||
In Artikel 11 der Verordnung (EU) 2019/2144 wird folgender Absatz angefügt:
|
||||
|
||||
|
||||
„(3) Beim Erlass von Durchführungsrechtsakten nach Absatz 2, die sich auf Systeme der künstlichen Intelligenz beziehen,
|
||||
bei denen es sich um Sicherheitsbauteile im Sinne der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des
|
||||
Rates (*) handelt, werden die in Kapitel III Abschnitt 2 jener Verordnung festgelegten Anforderungen berücksichtigt.
|
||||
|
||||
|
||||
(*) Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung
|
||||
harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU)
|
||||
Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien
|
||||
2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Verordnung über künstliche Intelligenz) (ABl. L, 2024/1689,
|
||||
12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj).“
|
||||
|
||||
|
||||
Artikel 110
|
||||
|
||||
|
||||
Änderung der Richtlinie (EU) 2020/
|
||||
|
||||
|
||||
In Anhang I der Richtlinie (EU) 2020/1828 des Europäischen Parlaments und des Rates (^58 ) wird die folgende Nummer
|
||||
angefügt:
|
||||
|
||||
|
||||
„68.Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung
|
||||
harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU)
|
||||
Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien
|
||||
2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Verordnung über künstliche Intelligenz) (ABl. L, 2024/1689,
|
||||
12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj).“
|
||||
|
||||
|
||||
Artikel 111
|
||||
Bereits in Verkehr gebrachte oder in Betrieb genommene KI-Systeme und bereits in Verkehr gebrachte KI-Modelle
|
||||
mit allgemeinem Verwendungszweck
|
||||
|
||||
|
||||
(1) Unbeschadet der Anwendung des Artikels 5 gemäß Artikel 113 Absatz 3 Buchstabe a werden KI-Systeme, bei denen
|
||||
es sich um Komponenten von IT-Großsystemen handelt, die mit den in Anhang X aufgeführten Rechtsakten eingerichtet
|
||||
wurden und vor dem 2. August 2027 in Verkehr gebracht oder in Betrieb genommen wurden, bis zum 31. Dezember 2030
|
||||
mit dieser Verordnung in Einklang gebracht.
|
||||
|
||||
|
||||
Die in dieser Verordnung festgelegten Anforderungen werden bei der Bewertung jedes IT-Großsystems, das mit den in
|
||||
Anhang X aufgeführten Rechtsakten eingerichtet wurde, berücksichtigt, wobei die Bewertung entsprechend den Vorgaben
|
||||
der jeweiligen Rechtsakte und bei Ersetzung oder Änderung dieser Rechtsakte erfolgt.
|
||||
|
||||
|
||||
(2) Unbeschadet der Anwendung des Artikels 5 gemäß Artikel 113 Absatz 3 Buchstabe a gilt diese Verordnung für
|
||||
Betreiber von Hochrisiko-KI-Systemen — mit Ausnahme der in Absatz 1 des vorliegenden Artikels genannten Systeme —,
|
||||
die vor dem 2. August 2026 in Verkehr gebracht oder in Betrieb genommen wurden, nur dann, wenn diese Systeme danach
|
||||
in ihrer Konzeption erheblich verändert wurden. In jedem Fall treffen die Anbieter und Betreiber von Hochrisiko-
|
||||
KI-Systemen, die bestimmungsgemäß von Behörden verwendet werden sollen, die erforderlichen Maßnahmen für die
|
||||
Erfüllung der Anforderungen und Pflichten dieser Verordnung bis zum 2. August 2030.
|
||||
|
||||
|
||||
(3) Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, die vor dem 2. August 2025 in Verkehr gebracht
|
||||
wurden, treffen die erforderlichen Maßnahmen für die Erfüllung der in dieser Verordnung festgelegten Pflichten bis zum
|
||||
|
||||
2. August 2027.
|
||||
|
||||
# ABl. L vom 12.7.2024 DE
|
||||
|
||||
ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj) 121/
|
||||
|
||||
|
||||
(^58 ) Richtlinie (EU) 2020/1828 des Europäischen Parlaments und des Rates vom 25. November 2020 über Verbandsklagen zum Schutz
|
||||
der Kollektivinteressen der Verbraucher und zur Aufhebung der Richtlinie 2009/22/EG (ABl. L 409 vom 4.12.2020, S. 1).
|
||||
|
||||
|
||||
|
||||
Artikel 112
|
||||
|
||||
|
||||
Bewertung und Überprüfung
|
||||
|
||||
|
||||
(1) Die Kommission prüft nach Inkrafttreten dieser Verordnung und bis zum Ende der Befugnisübertragung gemäß
|
||||
Artikel 97 einmal jährlich, ob eine Änderung der Liste in Anhang III und der Liste der verbotenen Praktiken im KI-Bereich
|
||||
gemäß Artikel 5 erforderlich ist. Die Kommission übermittelt die Ergebnisse dieser Bewertung dem Europäischen Parlament
|
||||
und dem Rat.
|
||||
|
||||
|
||||
(2) Bis zum 2. August 2028 und danach alle vier Jahre bewertet die Kommission Folgendes und erstattet dem
|
||||
Europäischen Parlament und dem Rat Bericht darüber:
|
||||
|
||||
|
||||
a)Notwendigkeit von Änderungen zur Erweiterung bestehender Bereiche oder zur Aufnahme neuer Bereiche in Anhang III:
|
||||
|
||||
|
||||
b)Änderungen der Liste der KI-Systeme, die zusätzliche Transparenzmaßnahmen erfordern, in Artikel 50;
|
||||
|
||||
|
||||
c) Änderungen zur Verbesserung der Wirksamkeit des Überwachungs- und Governance-Systems.
|
||||
|
||||
|
||||
(3) Bis zum 2. August 2029 und danach alle vier Jahre legt die Kommission dem Europäischen Parlament und dem Rat
|
||||
einen Bericht über die Bewertung und Überprüfung dieser Verordnung vor. Der Bericht enthält eine Beurteilung hinsichtlich
|
||||
der Durchsetzungsstruktur und der etwaigen Notwendigkeit einer Agentur der Union zur Lösung der festgestellten Mängel.
|
||||
Auf der Grundlage der Ergebnisse wird diesem Bericht gegebenenfalls ein Vorschlag zur Änderung dieser Verordnung
|
||||
beigefügt. Die Berichte werden veröffentlicht.
|
||||
|
||||
|
||||
(4) In den in Absatz 2 genannten Berichten wird insbesondere auf folgende Aspekte eingegangen:
|
||||
|
||||
|
||||
a)Sachstand bezüglich der finanziellen, technischen und personellen Ressourcen der zuständigen nationalen Behörden im
|
||||
Hinblick auf deren Fähigkeit, die ihnen auf der Grundlage dieser Verordnung übertragenen Aufgaben wirksam zu
|
||||
erfüllen;
|
||||
|
||||
|
||||
b)Stand der Sanktionen, insbesondere der Bußgelder nach Artikel 99 Absatz 1, die Mitgliedstaaten bei Verstößen gegen
|
||||
diese Verordnung verhängt haben;
|
||||
|
||||
|
||||
c) angenommene harmonisierte Normen und gemeinsame Spezifikationen, die zur Unterstützung dieser Verordnung
|
||||
erarbeitet wurden;
|
||||
|
||||
|
||||
d)Zahl der Unternehmen, die nach Inkrafttreten dieser Verordnung in den Markt eintreten, und wie viele davon KMU sind.
|
||||
|
||||
|
||||
(5) Bis zum 2. August 2028 bewertet die Kommission die Arbeitsweise des Büros für Künstliche Intelligenz und prüft, ob
|
||||
das Büro für Künstliche Intelligenz mit ausreichenden Befugnissen und Zuständigkeiten zur Erfüllung seiner Aufgaben
|
||||
ausgestattet wurde, und ob es für die ordnungsgemäße Durchführung und Durchsetzung dieser Verordnung zweckmäßig
|
||||
und erforderlich wäre, das Büro für Künstliche Intelligenz und seine Durchsetzungskompetenzen zu erweitern und seine
|
||||
Ressourcen aufzustocken. Die Kommission übermittelt dem Europäischen Parlament und dem Rat einen Bericht über ihre
|
||||
Bewertung.
|
||||
|
||||
|
||||
(6) Bis zum 2. August 2028 und danach alle vier Jahre legt die Kommission einen Bericht über die Überprüfung der
|
||||
Fortschritte bei der Entwicklung von Normungsdokumenten zur energieeffizienten Entwicklung von KI-Modellen mit
|
||||
allgemeinem Verwendungszweck vor und beurteilt die Notwendigkeit weiterer Maßnahmen oder Handlungen,
|
||||
einschließlich verbindlicher Maßnahmen oder Handlungen. Dieser Bericht wird dem Europäischen Parlament und dem
|
||||
Rat vorgelegt und veröffentlicht.
|
||||
|
||||
|
||||
(7) Bis zum 2. August 2028 und danach alle drei Jahre führt die Kommission eine Bewertung der Folgen und der
|
||||
Wirksamkeit der freiwilligen Verhaltenskodizes durch, mit denen die Anwendung der in Kapitel III Abschnitt 2 festgelegten
|
||||
Anforderungen an andere KI-Systeme als Hochrisiko-KI-Systeme und möglicherweise auch zusätzlicher Anforderungen an
|
||||
andere KI-Systeme als Hochrisiko-KI-Systeme, auch in Bezug auf deren ökologische Nachhaltigkeit, gefördert werden soll.
|
||||
|
||||
|
||||
(8) Für die Zwecke der Absätze 1 bis 7 übermitteln das KI-Gremium, die Mitgliedstaaten und die zuständigen nationalen
|
||||
Behörden der Kommission auf Anfrage unverzüglich die gewünschten Informationen.
|
||||
|
||||
|
||||
(9) Bei den in den Absätzen 1 bis 7 genannten Bewertungen und Überprüfungen berücksichtigt die Kommission die
|
||||
Standpunkte und Feststellungen des KI-Gremiums, des Europäischen Parlaments, des Rates und anderer einschlägiger Stellen
|
||||
oder Quellen.
|
||||
|
||||
# DE ABl. L vom 12.7.
|
||||
|
||||
122/144 ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj)
|
||||
|
||||
|
||||
|
||||
(10) Die Kommission legt erforderlichenfalls geeignete Vorschläge zur Änderung dieser Verordnung vor und
|
||||
berücksichtigt dabei insbesondere technologische Entwicklungen, die Auswirkungen von KI-Systemen auf die Gesundheit
|
||||
und Sicherheit und auf die Grundrechte und die Fortschritte in der Informationsgesellschaft.
|
||||
|
||||
|
||||
(11) Als Orientierung für die in den Absätzen 1 bis 7 genannten Bewertungen und Überprüfungen entwickelt das Büro
|
||||
für Künstliche Intelligenz ein Ziel und eine partizipative Methode für die Bewertung der Risikoniveaus anhand der in den
|
||||
jeweiligen Artikeln genannten Kriterien und für die Einbeziehung neuer Systeme in
|
||||
|
||||
|
||||
a)die Liste gemäß Anhang III, einschließlich der Erweiterung bestehender Bereiche oder der Aufnahme neuer Bereiche in
|
||||
diesen Anhang;
|
||||
|
||||
|
||||
b)die Liste der verbotenen Praktiken gemäß Artikel 5; und
|
||||
|
||||
|
||||
c) die Liste der KI-Systeme, die zusätzliche Transparenzmaßnahmen erfordern, in Artikel 50.
|
||||
(12) Eine Änderung dieser Verordnung im Sinne des Absatzes 10 oder entsprechende delegierte Rechtsakte oder
|
||||
Durchführungsrechtsakte, die sektorspezifische Rechtsvorschriften für eine unionsweite Harmonisierung gemäß An-
|
||||
hang I Abschnitt B betreffen, berücksichtigen die regulatorischen Besonderheiten des jeweiligen Sektors und die in der
|
||||
Verordnung festgelegten bestehenden Governance-, Konformitätsbewertungs- und Durchsetzungsmechanismen und
|
||||
-behörden.
|
||||
(13) Bis zum 2. August 2031 nimmt die Kommission unter Berücksichtigung der ersten Jahre der Anwendung der
|
||||
Verordnung eine Bewertung der Durchsetzung dieser Verordnung vor und erstattet dem Europäischen Parlament, dem Rat
|
||||
und dem Europäischen Wirtschafts- und Sozialausschuss darüber Bericht. Auf Grundlage der Ergebnisse wird dem Bericht
|
||||
gegebenenfalls ein Vorschlag zur Änderung dieser Verordnung beigefügt, der die Struktur der Durchsetzung und die
|
||||
Notwendigkeit einer Agentur der Union für die Lösung festgestellter Mängel betrifft.
|
||||
|
||||
|
||||
Artikel 113
|
||||
|
||||
|
||||
Inkrafttreten und Geltungsbeginn
|
||||
|
||||
|
||||
Diese Verordnung tritt am zwanzigsten Tag nach ihrer Veröffentlichung im Amtsblatt der Europäischen Union in Kraft.
|
||||
|
||||
|
||||
Sie gilt ab dem 2. August 2026.
|
||||
Jedoch:
|
||||
|
||||
|
||||
a)Die Kapitel I und II gelten ab dem 2. Februar 2025;
|
||||
|
||||
|
||||
b)Kapitel III Abschnitt 4, Kapitel V, Kapitel VII und Kapitel XII sowie Artikel 78 gelten ab dem 2. August 2025, mit
|
||||
Ausnahme des Artikels 101;
|
||||
|
||||
|
||||
c) Artikel 6 Absatz 1 und die entsprechenden Pflichten gemäß dieser Verordnung gelten ab dem 2. August 2027.
|
||||
|
||||
|
||||
Diese Verordnung ist in allen ihren Teilen verbindlich und gilt unmittelbar in jedem Mitgliedstaat.
|
||||
|
||||
|
||||
Geschehen zu Brüssel am 13. Juni 2024.
|
||||
|
||||
|
||||
Im Namen des Europäischen Parlaments
|
||||
Die Präsidentin
|
||||
|
||||
|
||||
R. METSOLA
|
||||
|
||||
|
||||
Im Namen des Rates
|
||||
Der Präsident
|
||||
|
||||
|
||||
M. MICHEL
|
||||
|
||||
# ABl. L vom 12.7.2024 DE
|
||||
|
||||
ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj) 123/
|
||||
|
||||
|
||||
File diff suppressed because it is too large
Load Diff
@@ -0,0 +1,548 @@
|
||||
KAPITEL I
|
||||
ALLGEMEINE BESTIMMUNGEN
|
||||
Artikel 1
|
||||
|
||||
|
||||
Gegenstand
|
||||
|
||||
|
||||
(1) Zweck dieser Verordnung ist es, das Funktionieren des Binnenmarkts zu verbessern und die Einführung einer auf den
|
||||
Menschen ausgerichteten und vertrauenswürdigen künstlichen Intelligenz (KI) zu fördern und gleichzeitig ein hohes
|
||||
Schutzniveau in Bezug auf Gesundheit, Sicherheit und die in der Charta verankerten Grundrechte, einschließlich
|
||||
Demokratie, Rechtsstaatlichkeit und Umweltschutz, vor schädlichen Auswirkungen von KI-Systemen in der Union zu
|
||||
gewährleisten und die Innovation zu unterstützen.
|
||||
|
||||
|
||||
(2) In dieser Verordnung wird Folgendes festgelegt:
|
||||
|
||||
|
||||
a)harmonisierte Vorschriften für das Inverkehrbringen, die Inbetriebnahme und die Verwendung von KI-Systemen in der
|
||||
Union;
|
||||
|
||||
# DE ABl. L vom 12.7.
|
||||
|
||||
44/144 ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj)
|
||||
|
||||
|
||||
|
||||
b)Verbote bestimmter Praktiken im KI-Bereich;
|
||||
|
||||
|
||||
c) besondere Anforderungen an Hochrisiko-KI-Systeme und Pflichten für Akteure in Bezug auf solche Systeme;
|
||||
|
||||
|
||||
d)harmonisierte Transparenzvorschriften für bestimmte KI-Systeme;
|
||||
|
||||
|
||||
e) harmonisierte Vorschriften für das Inverkehrbringen von KI-Modellen mit allgemeinem Verwendungszweck;
|
||||
|
||||
|
||||
f) Vorschriften für die Marktbeobachtung sowie die Governance und Durchsetzung der Marktüberwachung;
|
||||
|
||||
|
||||
g)Maßnahmen zur Innovationsförderung mit besonderem Augenmerk auf KMU, einschließlich Start-up-Unternehmen.
|
||||
|
||||
|
||||
Artikel 2
|
||||
|
||||
|
||||
Anwendungsbereich
|
||||
|
||||
|
||||
(1) Diese Verordnung gilt für
|
||||
|
||||
|
||||
a)Anbieter, die in der Union KI-Systeme in Verkehr bringen oder in Betrieb nehmen oder KI-Modelle mit allgemeinem
|
||||
Verwendungszweck in Verkehr bringen, unabhängig davon, ob diese Anbieter in der Union oder in einem Drittland
|
||||
niedergelassen sind;
|
||||
|
||||
|
||||
b)Betreiber von KI-Systemen, die ihren Sitz in der Union haben oder in der Union befinden;
|
||||
|
||||
|
||||
c) Anbieter und Betreiber von KI-Systemen, die ihren Sitz in einem Drittland haben oder sich in einem Drittland befinden,
|
||||
wenn die vom KI-System hervorgebrachte Ausgabe in der Union verwendet wird;
|
||||
|
||||
|
||||
d)Einführer und Händler von KI-Systemen;
|
||||
|
||||
|
||||
e) Produkthersteller, die KI-Systeme zusammen mit ihrem Produkt unter ihrem eigenen Namen oder ihrer Handelsmarke in
|
||||
Verkehr bringen oder in Betrieb nehmen;
|
||||
|
||||
|
||||
f) Bevollmächtigte von Anbietern, die nicht in der Union niedergelassen sind;
|
||||
|
||||
|
||||
g)betroffene Personen, die sich in der Union befinden.
|
||||
|
||||
|
||||
(2) Für KI-Systeme, die als Hochrisiko-KI-Systeme gemäß Artikel 6 Absatz 1 eingestuft sind und im Zusammenhang mit
|
||||
Produkten stehen, die unter die in Anhang I Abschnitt B aufgeführten Harmonisierungsrechtsvorschriften der Union fallen,
|
||||
gelten nur Artikel 6 Absatz 1, die Artikel 102 bis 109 und Artikel 112. Artikel 57 gilt nur, soweit die Anforderungen an
|
||||
Hochrisiko-KI-Systeme gemäß dieser Verordnung im Rahmen der genannten Harmonisierungsrechtsvorschriften der Union
|
||||
eingebunden wurden.
|
||||
|
||||
|
||||
(3) Diese Verordnung gilt nur in den unter das Unionsrecht fallenden Bereichen und berührt keinesfalls die
|
||||
Zuständigkeiten der Mitgliedstaaten in Bezug auf die nationale Sicherheit, unabhängig von der Art der Einrichtung, die von
|
||||
den Mitgliedstaaten mit der Wahrnehmung von Aufgaben im Zusammenhang mit diesen Zuständigkeiten betraut wurde.
|
||||
|
||||
|
||||
Diese Verordnung gilt nicht für KI-Systeme, wenn und soweit sie ausschließlich für militärische Zwecke, Verteidigungszwek-
|
||||
ke oder Zwecke der nationalen Sicherheit in Verkehr gebracht, in Betrieb genommen oder, mit oder ohne Änderungen,
|
||||
verwendet werden, unabhängig von der Art der Einrichtung, die diese Tätigkeiten ausübt.
|
||||
|
||||
|
||||
Diese Verordnung gilt nicht für KI-Systeme, die nicht in der Union in Verkehr gebracht oder in Betrieb genommen werden,
|
||||
wenn die Ausgaben in der Union ausschließlich für militärische Zwecke, Verteidigungszwecke oder Zwecke der nationalen
|
||||
Sicherheit verwendet werden, unabhängig von der Art der Einrichtung, die diese Tätigkeiten ausübt.
|
||||
|
||||
|
||||
(4) Diese Verordnung gilt weder für Behörden in Drittländern noch für internationale Organisationen, die gemäß
|
||||
Absatz 1 in den Anwendungsbereich dieser Verordnung fallen, soweit diese Behörden oder Organisationen KI-Systeme im
|
||||
Rahmen der internationalen Zusammenarbeit oder internationaler Übereinkünfte im Bereich der Strafverfolgung und
|
||||
justiziellen Zusammenarbeit mit der Union oder mit einem oder mehreren Mitgliedstaaten verwenden und sofern ein
|
||||
solches Drittland oder eine solche internationale Organisation angemessene Garantien hinsichtlich des Schutz der
|
||||
Privatsphäre, der Grundrechte und der Grundfreiheiten von Personen bietet.
|
||||
|
||||
|
||||
(5) Die Anwendung der Bestimmungen über die Haftung der Anbieter von Vermittlungsdiensten in Kapitel II der
|
||||
Verordnung 2022/2065 bleibt von dieser Verordnung unberührt.
|
||||
|
||||
# ABl. L vom 12.7.2024 DE
|
||||
|
||||
ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj) 45/
|
||||
|
||||
|
||||
|
||||
(6) Diese Verordnung gilt nicht für KI-Systeme oder KI-Modelle, einschließlich ihrer Ausgabe, die eigens für den
|
||||
alleinigen Zweck der wissenschaftlichen Forschung und Entwicklung entwickelt und in Betrieb genommen werden.
|
||||
|
||||
|
||||
(7) Die Rechtsvorschriften der Union zum Schutz personenbezogener Daten, der Privatsphäre und der Vertraulichkeit
|
||||
der Kommunikation gelten für die Verarbeitung personenbezogener Daten im Zusammenhang mit den in dieser
|
||||
Verordnung festgelegten Rechten und Pflichten. Diese Verordnung berührt nicht die Verordnung (EU) 2016/679 bzw. (EU)
|
||||
2018/1725 oder die Richtlinie 2002/58/EG bzw. (EU) 2016/680, unbeschadet des Artikels 10 Absatz 5 und des Artikels 59
|
||||
der vorliegenden Verordnung.
|
||||
|
||||
|
||||
(8) Diese Verordnung gilt nicht für Forschungs-, Test- und Entwicklungstätigkeiten zu KI-Systemen oder KI-Modellen,
|
||||
bevor diese in Verkehr gebracht oder in Betrieb genommen werden. Solche Tätigkeiten werden im Einklang mit dem
|
||||
geltenden Unionsrecht durchgeführt. Tests unter Realbedingungen fallen nicht unter diesen Ausschluss.
|
||||
|
||||
|
||||
(9) Diese Verordnung berührt nicht die Vorschriften anderer Rechtsakte der Union zum Verbraucherschutz und zur
|
||||
Produktsicherheit.
|
||||
|
||||
|
||||
(10) Diese Verordnung gilt nicht für die Pflichten von Betreibern, die natürliche Personen sind und KI-Systeme im
|
||||
Rahmen einer ausschließlich persönlichen und nicht beruflichen Tätigkeit verwenden.
|
||||
|
||||
|
||||
(11) Diese Verordnung hindert die Union oder die Mitgliedstaaten nicht daran, Rechts- oder Verwaltungsvorschriften
|
||||
beizubehalten oder einzuführen, die für die Arbeitnehmer im Hinblick auf den Schutz ihrer Rechte bei der Verwendung von
|
||||
KI-Systemen durch die Arbeitgeber vorteilhafter sind, oder die Anwendung von Kollektivvereinbarungen zu fördern oder
|
||||
zuzulassen, die für die Arbeitnehmer vorteilhafter sind.
|
||||
|
||||
|
||||
(12) Diese Verordnung gilt nicht für KI-Systeme, die unter freien und quelloffenen Lizenzen bereitgestellt werden, es sei
|
||||
denn, sie werden als Hochrisiko-KI-Systeme oder als ein KI-System, das unter Artikel 5 oder 50 fällt, in Verkehr gebracht
|
||||
oder in Betrieb genommen.
|
||||
|
||||
|
||||
Artikel 3
|
||||
|
||||
|
||||
Begriffsbestimmungen
|
||||
|
||||
|
||||
Für die Zwecke dieser Verordnung bezeichnet der Ausdruck
|
||||
|
||||
1. „KI-System“ ein maschinengestütztes System, das für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt ist
|
||||
und das nach seiner Betriebsaufnahme anpassungsfähig sein kann und das aus den erhaltenen Eingaben für explizite
|
||||
oder implizite Ziele ableitet, wie Ausgaben wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt
|
||||
werden, die physische oder virtuelle Umgebungen beeinflussen können;
|
||||
2. „Risiko“ die Kombination aus der Wahrscheinlichkeit des Auftretens eines Schadens und der Schwere dieses Schadens;
|
||||
3. „Anbieter“ eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System oder ein
|
||||
KI-Modell mit allgemeinem Verwendungszweck entwickelt oder entwickeln lässt und es unter ihrem eigenen Namen
|
||||
oder ihrer Handelsmarke in Verkehr bringt oder das KI-System unter ihrem eigenen Namen oder ihrer Handelsmarke in
|
||||
Betrieb nimmt, sei es entgeltlich oder unentgeltlich;
|
||||
4. „Betreiber“ eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System in
|
||||
eigener Verantwortung verwendet, es sei denn, das KI-System wird im Rahmen einer persönlichen und nicht
|
||||
beruflichen Tätigkeit verwendet;
|
||||
5. „Bevollmächtigter“ eine in der Union ansässige oder niedergelassene natürliche oder juristische Person, die vom
|
||||
Anbieter eines KI-Systems oder eines KI-Modells mit allgemeinem Verwendungszweck schriftlich dazu bevollmächtigt
|
||||
wurde und sich damit einverstanden erklärt hat, in seinem Namen die in dieser Verordnung festgelegten Pflichten zu
|
||||
erfüllen bzw. Verfahren durchzuführen;
|
||||
6. „Einführer“ eine in der Union ansässige oder niedergelassene natürliche oder juristische Person, die ein KI-System, das
|
||||
den Namen oder die Handelsmarke einer in einem Drittland niedergelassenen natürlichen oder juristischen Person
|
||||
trägt, in Verkehr bringt;
|
||||
7. „Händler“ eine natürliche oder juristische Person in der Lieferkette, die ein KI-System auf dem Unionsmarkt bereitstellt,
|
||||
mit Ausnahme des Anbieters oder des Einführers;
|
||||
8. „Akteur“ einen Anbieter, Produkthersteller, Betreiber, Bevollmächtigten, Einführer oder Händler;
|
||||
|
||||
# DE ABl. L vom 12.7.
|
||||
|
||||
46/144 ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj)
|
||||
|
||||
|
||||
9. „Inverkehrbringen“ die erstmalige Bereitstellung eines KI-Systems oder eines KI-Modells mit allgemeinem
|
||||
Verwendungszweck auf dem Unionsmarkt;
|
||||
|
||||
|
||||
10.„Bereitstellung auf dem Markt“ die entgeltliche oder unentgeltliche Abgabe eines KI-Systems oder eines KI-Modells mit
|
||||
allgemeinem Verwendungszweck zum Vertrieb oder zur Verwendung auf dem Unionsmarkt im Rahmen einer
|
||||
Geschäftstätigkeit;
|
||||
|
||||
|
||||
11.„Inbetriebnahme“ die Bereitstellung eines KI-Systems in der Union zum Erstgebrauch direkt an den Betreiber oder zum
|
||||
Eigengebrauch entsprechend seiner Zweckbestimmung;
|
||||
|
||||
|
||||
12.„Zweckbestimmung“ die Verwendung, für die ein KI-System laut Anbieter bestimmt ist, einschließlich der besonderen
|
||||
Umstände und Bedingungen für die Verwendung, entsprechend den vom Anbieter bereitgestellten Informationen in
|
||||
den Betriebsanleitungen, im Werbe- oder Verkaufsmaterial und in diesbezüglichen Erklärungen sowie in der
|
||||
technischen Dokumentation;
|
||||
|
||||
|
||||
13.„vernünftigerweise vorhersehbare Fehlanwendung“ die Verwendung eines KI-Systems in einer Weise, die nicht seiner
|
||||
Zweckbestimmung entspricht, die sich aber aus einem vernünftigerweise vorhersehbaren menschlichen Verhalten oder
|
||||
einer vernünftigerweise vorhersehbaren Interaktion mit anderen Systemen, auch anderen KI-Systemen, ergeben kann;
|
||||
|
||||
|
||||
14.„Sicherheitsbauteil“ einen Bestandteil eines Produkts oder KI-Systems, der eine Sicherheitsfunktion für dieses Produkt
|
||||
oder KI-System erfüllt oder dessen Ausfall oder Störung die Gesundheit und Sicherheit von Personen oder Eigentum
|
||||
gefährdet;
|
||||
|
||||
|
||||
15.„Betriebsanleitungen“ die Informationen, die der Anbieter bereitstellt, um den Betreiber insbesondere über die
|
||||
Zweckbestimmung und die ordnungsgemäße Verwendung eines KI-Systems zu informieren;
|
||||
|
||||
|
||||
16.„Rückruf eines KI-Systems“ jede Maßnahme, die auf die Rückgabe an den Anbieter oder auf die Außerbetriebsetzung
|
||||
oder Abschaltung eines den Betreibern bereits zur Verfügung gestellten KI-Systems abzielt;
|
||||
|
||||
|
||||
17.„Rücknahme eines KI-Systems“ jede Maßnahme, mit der die Bereitstellung eines in der Lieferkette befindlichen
|
||||
KI-Systems auf dem Markt verhindert werden soll;
|
||||
|
||||
|
||||
18.„Leistung eines KI-Systems“ die Fähigkeit eines KI-Systems, seine Zweckbestimmung zu erfüllen;
|
||||
|
||||
|
||||
19.„notifizierende Behörde“ die nationale Behörde, die für die Einrichtung und Durchführung der erforderlichen Verfahren
|
||||
für die Bewertung, Benennung und Notifizierung von Konformitätsbewertungsstellen und für deren Überwachung
|
||||
zuständig ist;
|
||||
|
||||
|
||||
20.„Konformitätsbewertung“ ein Verfahren mit dem bewertet wird, ob die in Titel III Abschnitt 2 festgelegten
|
||||
Anforderungen an ein Hochrisiko-KI-System erfüllt wurden;
|
||||
|
||||
|
||||
21.„Konformitätsbewertungsstelle“ eine Stelle, die Konformitätsbewertungstätigkeiten einschließlich Prüfungen, Zer-
|
||||
tifizierungen und Inspektionen durchführt und dabei als Dritte auftritt;
|
||||
|
||||
|
||||
22.„notifizierte Stelle“ eine Konformitätsbewertungsstelle, die gemäß dieser Verordnung und den anderen einschlägigen
|
||||
Harmonisierungsrechtsvorschriften der Union notifiziert wurde;
|
||||
|
||||
|
||||
23.„wesentliche Veränderung“ eine Veränderung eines KI-Systems nach dessen Inverkehrbringen oder Inbetriebnahme, die
|
||||
in der vom Anbieter durchgeführten ursprünglichen Konformitätsbewertung nicht vorgesehen oder geplant war und
|
||||
durch die die Konformität des KI-Systems mit den Anforderungen in Kapitel III Abschnitt 2 beeinträchtigt wird oder die
|
||||
zu einer Änderung der Zweckbestimmung führt, für die das KI-System bewertet wurde;
|
||||
|
||||
|
||||
24.„CE-Kennzeichnung“ eine Kennzeichnung, durch die ein Anbieter erklärt, dass ein KI-System die Anforderungen erfüllt,
|
||||
die in Kapitel III Abschnitt 2 und in anderen anwendbaren Harmonisierungsrechtsvorschriften, die die Anbringung
|
||||
dieser Kennzeichnung vorsehen, festgelegt sind;
|
||||
|
||||
|
||||
25.„System zur Beobachtung nach dem Inverkehrbringen“ alle Tätigkeiten, die Anbieter von KI-Systemen zur Sammlung
|
||||
und Überprüfung von Erfahrungen mit der Verwendung der von ihnen in Verkehr gebrachten oder in Betrieb
|
||||
genommenen KI-Systeme durchführen, um festzustellen, ob unverzüglich nötige Korrektur- oder Präventivmaßnahmen
|
||||
zu ergreifen sind;
|
||||
|
||||
|
||||
26.„Marktüberwachungsbehörde“ die nationale Behörde, die die Tätigkeiten durchführt und die Maßnahmen ergreift, die
|
||||
in der Verordnung (EU) 2019/1020 vorgesehen sind;
|
||||
|
||||
# ABl. L vom 12.7.2024 DE
|
||||
|
||||
ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj) 47/
|
||||
|
||||
|
||||
|
||||
27.„harmonisierte Norm“ bezeichnet eine harmonisierte Norm im Sinne des Artikels 2 Absatz 1 Buchstabe c der
|
||||
Verordnung (EU) Nr. 1025/2012;
|
||||
|
||||
|
||||
28.„gemeinsame Spezifikation“ eine Reihe technischer Spezifikationen im Sinne des Artikels 2 Nummer 4 der Verordnung
|
||||
(EU) Nr. 1025/2012, deren Befolgung es ermöglicht, bestimmte Anforderungen der vorliegenden Verordnung zu
|
||||
erfüllen;
|
||||
|
||||
|
||||
29.„Trainingsdaten“ Daten, die zum Trainieren eines KI-Systems verwendet werden, wobei dessen lernbare Parameter
|
||||
angepasst werden;
|
||||
|
||||
|
||||
30.„Validierungsdaten“ Daten, die zur Evaluation des trainierten KI-Systems und zur Einstellung seiner nicht erlernbaren
|
||||
Parameter und seines Lernprozesses verwendet werden, um unter anderem eine Unter- oder Überanpassung zu
|
||||
vermeiden;
|
||||
|
||||
|
||||
31.„Validierungsdatensatz“ einen separaten Datensatz oder einen Teil des Trainingsdatensatzes mit fester oder variabler
|
||||
Aufteilung;
|
||||
|
||||
|
||||
32.„Testdaten“ Daten, die für eine unabhängige Bewertung des KI-Systems verwendet werden, um die erwartete Leistung
|
||||
dieses Systems vor dessen Inverkehrbringen oder Inbetriebnahme zu bestätigen;
|
||||
|
||||
|
||||
33.„Eingabedaten“ die in ein KI-System eingespeisten oder von diesem direkt erfassten Daten, auf deren Grundlage das
|
||||
System eine Ausgabe hervorbringt;
|
||||
|
||||
|
||||
34.„biometrische Daten“ mit speziellen technischen Verfahren gewonnene personenbezogene Daten zu den physischen,
|
||||
physiologischen oder verhaltenstypischen Merkmalen einer natürlichen Person, wie etwa Gesichtsbilder oder
|
||||
daktyloskopische Daten;
|
||||
|
||||
|
||||
35.„biometrische Identifizierung“ die automatisierte Erkennung physischer, physiologischer, verhaltensbezogener oder
|
||||
psychologischer menschlicher Merkmale zum Zwecke der Feststellung der Identität einer natürlichen Person durch den
|
||||
Vergleich biometrischer Daten dieser Person mit biometrischen Daten von Personen, die in einer Datenbank gespeichert
|
||||
sind;
|
||||
|
||||
|
||||
36.„biometrische Verifizierung“ die automatisierte Eins-zu-eins-Verifizierung, einschließlich Authentifizierung, der
|
||||
Identität natürlicher Personen durch den Vergleich ihrer biometrischen Daten mit zuvor bereitgestellten biometrischen
|
||||
Daten;
|
||||
|
||||
|
||||
37.„besondere Kategorien personenbezogener Daten“ die in Artikel 9 Absatz 1der Verordnung (EU) 2016/679, Artikel 10
|
||||
der Richtlinie (EU) 2016/680 und Artikel 10 Absatz 1 der Verordnung (EU) 2018/1725 aufgeführten Kategorien
|
||||
personenbezogener Daten;
|
||||
|
||||
|
||||
38.„sensible operative Daten“ operative Daten im Zusammenhang mit Tätigkeiten zur Verhütung, Aufdeckung,
|
||||
Untersuchung oder Verfolgung von Straftaten, deren Offenlegung die Integrität von Strafverfahren gefährden könnte;
|
||||
|
||||
|
||||
39.„Emotionserkennungssystem“ ein KI-System, das dem Zweck dient, Emotionen oder Absichten natürlicher Personen
|
||||
auf der Grundlage ihrer biometrischen Daten festzustellen oder daraus abzuleiten;
|
||||
|
||||
|
||||
40.„System zur biometrischen Kategorisierung“ ein KI-System, das dem Zweck dient, natürliche Personen auf der
|
||||
Grundlage ihrer biometrischen Daten bestimmten Kategorien zuzuordnen, sofern es sich um eine Nebenfunktion eines
|
||||
anderen kommerziellen Dienstes handelt und aus objektiven technischen Gründen unbedingt erforderlich ist;
|
||||
|
||||
|
||||
41.„biometrisches Fernidentifizierungssystem“ ein KI-System, das dem Zweck dient, natürliche Personen ohne ihre aktive
|
||||
Einbeziehung und in der Regel aus der Ferne durch Abgleich der biometrischen Daten einer Person mit den in einer
|
||||
Referenzdatenbank gespeicherten biometrischen Daten zu identifizieren;
|
||||
|
||||
|
||||
42.„biometrisches Echtzeit-Fernidentifizierungssystem“ ein biometrisches Fernidentifizierungssystem, bei dem die
|
||||
Erfassung biometrischer Daten, der Abgleich und die Identifizierung ohne erhebliche Verzögerung erfolgen, und das
|
||||
zur Vermeidung einer Umgehung der Vorschriften nicht nur die sofortige Identifizierung, sondern auch eine
|
||||
Identifizierung mit begrenzten kurzen Verzögerungen umfasst;
|
||||
|
||||
|
||||
43.„System zur nachträglichen biometrischen Fernidentifizierung“ ein biometrisches Fernidentifizierungssystem, das kein
|
||||
biometrisches Echtzeit-Fernidentifizierungssystem ist;
|
||||
|
||||
|
||||
44.„öffentlich zugänglicher Raum“ einen einer unbestimmten Anzahl natürlicher Personen zugänglichen physischen Ort in
|
||||
privatem oder öffentlichem Eigentum, unabhängig davon, ob bestimmte Bedingungen für den Zugang gelten, und
|
||||
unabhängig von möglichen Kapazitätsbeschränkungen;
|
||||
|
||||
# DE ABl. L vom 12.7.
|
||||
|
||||
48/144 ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj)
|
||||
|
||||
|
||||
|
||||
45.„Strafverfolgungsbehörde“
|
||||
|
||||
|
||||
a)eine Behörde, die für die Verhütung, Ermittlung, Aufdeckung oder Verfolgung von Straftaten oder die Strafvollstrek-
|
||||
kung, einschließlich des Schutzes vor und der Abwehr von Gefahren für die öffentliche Sicherheit, zuständig ist,
|
||||
oder
|
||||
|
||||
|
||||
b)eine andere Stelle oder Einrichtung, der durch nationales Recht die Ausübung öffentlicher Gewalt und hoheitlicher
|
||||
Befugnisse zur Verhütung, Ermittlung, Aufdeckung oder Verfolgung von Straftaten oder zur Strafvollstreckung,
|
||||
einschließlich des Schutzes vor und der Abwehr von Gefahren für die öffentliche Sicherheit, übertragen wurde;
|
||||
|
||||
|
||||
46.„Strafverfolgung“ Tätigkeiten der Strafverfolgungsbehörden oder in deren Auftrag zur Verhütung, Ermittlung, Aufdek-
|
||||
kung oder Verfolgung von Straftaten oder zur Strafvollstreckung, einschließlich des Schutzes vor und der Abwehr von
|
||||
Gefahren für die öffentliche Sicherheit;
|
||||
|
||||
|
||||
47.„Büro für Künstliche Intelligenz“ die Aufgabe der Kommission, zur Umsetzung, Beobachtung und Überwachung von
|
||||
KI-Systemen und KI-Modellen mit allgemeinem Verwendungszweck und zu der im Beschluss der Kommission vom
|
||||
|
||||
24. Januar 2024 vorgesehenen KI-Governance beizutragen; Bezugnahmen in dieser Verordnung auf das Büro für
|
||||
Künstliche Intelligenz gelten als Bezugnahmen auf die Kommission;
|
||||
|
||||
|
||||
48.„zuständige nationale Behörde“ eine notifizierende Behörde oder eine Marktüberwachungsbehörde; in Bezug auf
|
||||
KI-Systeme, die von Organen, Einrichtungen und sonstigen Stellen der Union in Betrieb genommen oder verwendet
|
||||
werden, sind Bezugnahmen auf die zuständigen nationalen Behörden oder Marktüberwachungsbehörden in dieser
|
||||
Verordnung als Bezugnahmen auf den Europäischen Datenschutzbeauftragten auszulegen;
|
||||
|
||||
|
||||
49.„schwerwiegender Vorfall“ einen Vorfall oder eine Fehlfunktion bezüglich eines KI-Systems, das bzw. die direkt oder
|
||||
indirekt eine der nachstehenden Folgen hat:
|
||||
|
||||
|
||||
a)den Tod oder die schwere gesundheitliche Schädigung einer Person;
|
||||
|
||||
|
||||
b)eine schwere und unumkehrbare Störung der Verwaltung oder des Betriebs kritischer Infrastrukturen;
|
||||
|
||||
|
||||
c) die Verletzung von Pflichten aus den Unionsrechtsvorschriften zum Schutz der Grundrechte;
|
||||
|
||||
|
||||
d)schwere Sach- oder Umweltschäden;
|
||||
|
||||
|
||||
50.„personenbezogene Daten“ personenbezogene Daten im Sinne von Artikel 4 Nummer 1 der Verordnung
|
||||
(EU) 2016/679;
|
||||
|
||||
|
||||
51.„nicht personenbezogene Daten“ Daten, die keine personenbezogenen Daten im Sinne von Artikel 4 Nummer 1 der
|
||||
Verordnung (EU) 2016/679 sind;
|
||||
|
||||
|
||||
52.„Profiling“ das Profiling im Sinne von Artikel 4 Nummer 4 der Verordnung (EU) 2016/679;
|
||||
|
||||
|
||||
53.„Plan für einen Test unter Realbedingungen“ ein Dokument, in dem die Ziele, die Methodik, der geografische,
|
||||
bevölkerungsbezogene und zeitliche Umfang, die Überwachung, die Organisation und die Durchführung eines Tests
|
||||
unter Realbedingungen beschrieben werden;
|
||||
|
||||
|
||||
54.„Plan für das Reallabor“ ein zwischen dem teilnehmenden Anbieter und der zuständigen Behörde vereinbartes
|
||||
Dokument, in dem die Ziele, die Bedingungen, der Zeitrahmen, die Methodik und die Anforderungen für die im
|
||||
Reallabor durchgeführten Tätigkeiten beschrieben werden;
|
||||
|
||||
|
||||
55.„KI-Reallabor“ einen kontrollierten Rahmen, der von einer zuständigen Behörde geschaffen wird und den Anbieter oder
|
||||
zukünftige Anbieter von KI-Systemen nach einem Plan für das Reallabor einen begrenzten Zeitraum und unter
|
||||
regulatorischer Aufsicht nutzen können, um ein innovatives KI-System zu entwickeln, zu trainieren, zu validieren
|
||||
und — gegebenenfalls unter Realbedingungen — zu testen.
|
||||
|
||||
|
||||
56.„KI-Kompetenz“ die Fähigkeiten, die Kenntnisse und das Verständnis, die es Anbietern, Betreibern und Betroffenen
|
||||
unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung ermöglichen, KI-Systeme
|
||||
sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann,
|
||||
bewusst zu werden.
|
||||
|
||||
# ABl. L vom 12.7.2024 DE
|
||||
|
||||
ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj) 49/
|
||||
|
||||
|
||||
|
||||
57.„Test unter Realbedingungen“ den befristeten Test eines KI-Systems auf seine Zweckbestimmung, der unter
|
||||
Realbedingungen außerhalb eines Labors oder einer anderweitig simulierten Umgebung erfolgt, um zuverlässige und
|
||||
belastbare Daten zu erheben und die Konformität des KI-Systems mit den Anforderungen der vorliegenden Verordnung
|
||||
zu bewerten und zu überprüfen, wobei dieser Test nicht als Inverkehrbringen oder Inbetriebnahme des KI-Systems im
|
||||
Sinne dieser Verordnung gilt, sofern alle Bedingungen nach Artikel 57 oder Artikel 60 erfüllt sind;
|
||||
|
||||
|
||||
58.„Testteilnehmer“ für die Zwecke eines Tests unter Realbedingungen eine natürliche Person, die an dem Test unter
|
||||
Realbedingungen teilnimmt;
|
||||
|
||||
|
||||
59.„informierte Einwilligung“ eine aus freien Stücken erfolgende, spezifische, eindeutige und freiwillige Erklärung der
|
||||
Bereitschaft, an einem bestimmten Test unter Realbedingungen teilzunehmen, durch einen Testteilnehmer, nachdem
|
||||
dieser über alle Aspekte des Tests, die für die Entscheidungsfindung des Testteilnehmers bezüglich der Teilnahme
|
||||
relevant sind, aufgeklärt wurde;
|
||||
|
||||
|
||||
60.„Deepfake“ einen durch KI erzeugten oder manipulierten Bild-, Ton- oder Videoinhalt, der wirklichen Personen,
|
||||
Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder
|
||||
wahrheitsgemäß erscheinen würde;
|
||||
|
||||
|
||||
61.„weitverbreiteter Verstoß“ jede Handlung oder Unterlassung, die gegen das Unionsrecht verstößt, das die Interessen von
|
||||
Einzelpersonen schützt, und die
|
||||
|
||||
|
||||
a)die kollektiven Interessen von Einzelpersonen in mindestens zwei anderen Mitgliedstaaten als dem Mitgliedstaat
|
||||
schädigt oder zu schädigen droht, in dem
|
||||
|
||||
|
||||
i)die Handlung oder die Unterlassung ihren Ursprung hatte oder stattfand,
|
||||
|
||||
|
||||
ii)der betreffende Anbieter oder gegebenenfalls sein Bevollmächtigter sich befindet oder niedergelassen ist oder
|
||||
|
||||
|
||||
iii)der Betreiber niedergelassen ist, sofern der Verstoß vom Betreiber begangen wird,
|
||||
|
||||
|
||||
b)die kollektiven Interessen von Einzelpersonen geschädigt hat, schädigt oder schädigen könnte und allgemeine
|
||||
Merkmale aufweist, einschließlich derselben rechtswidrigen Praxis oder desselben verletzten Interesses, und
|
||||
gleichzeitig auftritt und von demselben Akteur in mindestens drei Mitgliedstaaten begangen wird;
|
||||
|
||||
|
||||
62.„kritische Infrastrukturen“ kritische Infrastrukturen im Sinne von Artikel 2 Nummer 4 der Richtlinie (EU) 2022/2557;
|
||||
|
||||
|
||||
63.„KI-Modell mit allgemeinem Verwendungszweck“ ein KI-Modell — einschließlich der Fälle, in denen ein solches
|
||||
KI-Modell mit einer großen Datenmenge unter umfassender Selbstüberwachung trainiert wird —, das eine erhebliche
|
||||
allgemeine Verwendbarkeit aufweist und in der Lage ist, unabhängig von der Art und Weise seines Inverkehrbringens
|
||||
ein breites Spektrum unterschiedlicher Aufgaben kompetent zu erfüllen, und das in eine Vielzahl nachgelagerter
|
||||
Systeme oder Anwendungen integriert werden kann, ausgenommen KI-Modelle, die vor ihrem Inverkehrbringen für
|
||||
Forschungs- und Entwicklungstätigkeiten oder die Konzipierung von Prototypen eingesetzt werden;
|
||||
|
||||
|
||||
64.„Fähigkeiten mit hoher Wirkkraft“ bezeichnet Fähigkeiten, die den bei den fortschrittlichsten KI-Modellen mit
|
||||
allgemeinem Verwendungszweck festgestellten Fähigkeiten entsprechen oder diese übersteigen;
|
||||
|
||||
|
||||
65.„systemisches Risiko“ ein Risiko, das für die Fähigkeiten mit hoher Wirkkraft von KI-Modellen mit allgemeinem
|
||||
Verwendungszweck spezifisch ist und aufgrund deren Reichweite oder aufgrund tatsächlicher oder vernünftigerweise
|
||||
vorhersehbarer negativer Folgen für die öffentliche Gesundheit, die Sicherheit, die öffentliche Sicherheit, die
|
||||
Grundrechte oder die Gesellschaft insgesamt erhebliche Auswirkungen auf den Unionsmarkt hat, die sich in großem
|
||||
Umfang über die gesamte Wertschöpfungskette hinweg verbreiten können;
|
||||
|
||||
|
||||
66.„KI-System mit allgemeinem Verwendungszweck“ ein KI-System, das auf einem KI-Modell mit allgemeinem
|
||||
Verwendungszweck beruht und in der Lage ist, einer Vielzahl von Zwecken sowohl für die direkte Verwendung als
|
||||
auch für die Integration in andere KI-Systeme zu dienen;
|
||||
|
||||
|
||||
67.„Gleitkommaoperation“ jede Rechenoperation oder jede Zuweisung mit Gleitkommazahlen, bei denen es sich um eine
|
||||
Teilmenge der reellen Zahlen handelt, die auf Computern typischerweise durch das Produkt aus einer ganzen Zahl mit
|
||||
fester Genauigkeit und einer festen Basis mit ganzzahligem Exponenten dargestellt wird;
|
||||
|
||||
|
||||
68.„nachgelagerter Anbieter“ einen Anbieter eines KI-Systems, einschließlich eines KI-Systems mit allgemeinem
|
||||
Verwendungszweck, das ein KI-Modell integriert, unabhängig davon, ob das KI-Modell von ihm selbst bereitgestellt
|
||||
und vertikal integriert wird oder von einer anderen Einrichtung auf der Grundlage vertraglicher Beziehungen
|
||||
bereitgestellt wird.
|
||||
|
||||
# DE ABl. L vom 12.7.
|
||||
|
||||
50/144 ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj)
|
||||
|
||||
Artikel 4
|
||||
|
||||
|
||||
KI-Kompetenz
|
||||
|
||||
|
||||
Die Anbieter und Betreiber von KI-Systemen ergreifen Maßnahmen, um nach besten Kräften sicherzustellen, dass ihr
|
||||
Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über
|
||||
ein ausreichendes Maß an KI-Kompetenz verfügen, wobei ihre technischen Kenntnisse, ihre Erfahrung, ihre Ausbildung und
|
||||
Schulung und der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei
|
||||
denen die KI-Systeme eingesetzt werden sollen, zu berücksichtigen sind.
|
||||
|
||||
|
||||
@@ -0,0 +1,196 @@
|
||||
KAPITEL II
|
||||
VERBOTENE PRAKTIKEN IM KI-BEREICH
|
||||
|
||||
|
||||
Artikel 5
|
||||
|
||||
|
||||
Verbotene Praktiken im KI-Bereich
|
||||
|
||||
|
||||
(1) Folgende Praktiken im KI-Bereich sind verboten:
|
||||
|
||||
|
||||
a)das Inverkehrbringen, die Inbetriebnahme oder die Verwendung eines KI-Systems, das Techniken der unterschwelligen
|
||||
Beeinflussung außerhalb des Bewusstseins einer Person oder absichtlich manipulative oder täuschende Techniken mit
|
||||
dem Ziel oder der Wirkung einsetzt, das Verhalten einer Person oder einer Gruppe von Personen wesentlich zu
|
||||
verändern, indem ihre Fähigkeit, eine fundierte Entscheidung zu treffen, deutlich beeinträchtigt wird, wodurch sie
|
||||
veranlasst wird, eine Entscheidung zu treffen, die sie andernfalls nicht getroffen hätte, und zwar in einer Weise, die dieser
|
||||
Person, einer anderen Person oder einer Gruppe von Personen erheblichen Schaden zufügt oder mit hinreichender
|
||||
Wahrscheinlichkeit zufügen wird.
|
||||
|
||||
|
||||
b)das Inverkehrbringen, die Inbetriebnahme oder die Verwendung eines KI-Systems, das eine Vulnerabilität oder
|
||||
Schutzbedürftigkeit einer natürlichen Person oder einer bestimmten Gruppe von Personen aufgrund ihres Alters, einer
|
||||
Behinderung oder einer bestimmten sozialen oder wirtschaftlichen Situation mit dem Ziel oder der Wirkung ausnutzt,
|
||||
das Verhalten dieser Person oder einer dieser Gruppe angehörenden Person in einer Weise wesentlich zu verändern, die
|
||||
dieser Person oder einer anderen Person erheblichen Schaden zufügt oder mit hinreichender Wahrscheinlichkeit zufügen
|
||||
wird;
|
||||
|
||||
|
||||
c) das Inverkehrbringen, die Inbetriebnahme oder die Verwendung von KI-Systemen zur Bewertung oder Einstufung von
|
||||
natürlichen Personen oder Gruppen von Personen über einen bestimmten Zeitraum auf der Grundlage ihres sozialen
|
||||
Verhaltens oder bekannter, abgeleiteter oder vorhergesagter persönlicher Eigenschaften oder Persönlichkeitsmerkmale,
|
||||
wobei die soziale Bewertung zu einem oder beiden der folgenden Ergebnisse führt:
|
||||
|
||||
|
||||
i)Schlechterstellung oder Benachteiligung bestimmter natürlicher Personen oder Gruppen von Personen in sozialen
|
||||
Zusammenhängen, die in keinem Zusammenhang zu den Umständen stehen, unter denen die Daten ursprünglich
|
||||
erzeugt oder erhoben wurden;
|
||||
|
||||
|
||||
ii)Schlechterstellung oder Benachteiligung bestimmter natürlicher Personen oder Gruppen von Personen in einer Weise,
|
||||
die im Hinblick auf ihr soziales Verhalten oder dessen Tragweite ungerechtfertigt oder unverhältnismäßig ist;
|
||||
|
||||
|
||||
d)das Inverkehrbringen, die Inbetriebnahme für diesen spezifischen Zweck oder die Verwendung eines KI-Systems zur
|
||||
Durchführung von Risikobewertungen in Bezug auf natürliche Personen, um das Risiko, dass eine natürliche Person eine
|
||||
Straftat begeht, ausschließlich auf der Grundlage des Profiling einer natürlichen Person oder der Bewertung ihrer
|
||||
persönlichen Merkmale und Eigenschaften zu bewerten oder vorherzusagen; dieses Verbot gilt nicht für KI-Systeme, die
|
||||
dazu verwendet werden, die durch Menschen durchgeführte Bewertung der Beteiligung einer Person an einer kriminellen
|
||||
Aktivität, die sich bereits auf objektive und überprüfbare Tatsachen stützt, die in unmittelbarem Zusammenhang mit
|
||||
einer kriminellen Aktivität stehen, zu unterstützen;
|
||||
|
||||
|
||||
e) das Inverkehrbringen, die Inbetriebnahme für diesen spezifischen Zweck oder die Verwendung von KI-Systemen, die
|
||||
Datenbanken zur Gesichtserkennung durch das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder von
|
||||
Überwachungsaufnahmen erstellen oder erweitern;
|
||||
|
||||
|
||||
f) das Inverkehrbringen, die Inbetriebnahme für diesen spezifischen Zweck oder die Verwendung von KI-Systemen zur
|
||||
Ableitung von Emotionen einer natürlichen Person am Arbeitsplatz und in Bildungseinrichtungen, es sei denn, die
|
||||
Verwendung des KI-Systems soll aus medizinischen Gründen oder Sicherheitsgründen eingeführt oder auf den Markt
|
||||
gebracht werden;
|
||||
|
||||
# ABl. L vom 12.7.2024 DE
|
||||
|
||||
ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj) 51/
|
||||
|
||||
|
||||
|
||||
g)das Inverkehrbringen, die Inbetriebnahme für diesen spezifischen Zweck oder die Verwendung von Systemen zur
|
||||
biometrischen Kategorisierung, mit denen natürliche Personen individuell auf der Grundlage ihrer biometrischen Daten
|
||||
kategorisiert werden, um ihre Rasse, ihre politischen Einstellungen, ihre Gewerkschaftszugehörigkeit, ihre religiösen
|
||||
oder weltanschaulichen Überzeugungen, ihr Sexualleben oder ihre sexuelle Ausrichtung zu erschließen oder abzuleiten;
|
||||
dieses Verbot gilt nicht für die Kennzeichnung oder Filterung rechtmäßig erworbener biometrischer Datensätze, wie z. B.
|
||||
Bilder auf der Grundlage biometrischer Daten oder die Kategorisierung biometrischer Daten im Bereich der
|
||||
Strafverfolgung;
|
||||
|
||||
|
||||
h)die Verwendung biometrischer Echtzeit-Fernidentifizierungssysteme in öffentlich zugänglichen Räumen zu Straf-
|
||||
verfolgungszwecken, außer wenn und insoweit dies im Hinblick auf eines der folgenden Ziele unbedingt erforderlich ist:
|
||||
|
||||
|
||||
i)gezielte Suche nach bestimmten Opfern von Entführung, Menschenhandel oder sexueller Ausbeutung sowie die
|
||||
Suche nach vermissten Personen;
|
||||
|
||||
|
||||
ii)Abwenden einer konkreten, erheblichen und unmittelbaren Gefahr für das Leben oder die körperliche Unversehrtheit
|
||||
natürlicher Personen oder einer tatsächlichen und bestehenden oder tatsächlichen und vorhersehbaren Gefahr eines
|
||||
Terroranschlags;
|
||||
|
||||
|
||||
iii)Aufspüren oder Identifizieren einer Person, die der Begehung einer Straftat verdächtigt wird, zum Zwecke der
|
||||
Durchführung von strafrechtlichen Ermittlungen oder von Strafverfahren oder der Vollstreckung einer Strafe für die
|
||||
in Anhang II aufgeführten Straftaten, die in dem betreffenden Mitgliedstaat nach dessen Recht mit einer
|
||||
Freiheitsstrafe oder einer freiheitsentziehenden Maßregel der Sicherung im Höchstmaß von mindestens vier Jahren
|
||||
bedroht ist.
|
||||
|
||||
|
||||
Unterabsatz 1 Buchstabe h gilt unbeschadet des Artikels 9 der Verordnung (EU) 2016/679 für die Verarbeitung
|
||||
biometrischer Daten zu anderen Zwecken als der Strafverfolgung.
|
||||
|
||||
|
||||
(2) Die Verwendung biometrischer Echtzeit-Fernidentifizierungssysteme in öffentlich zugänglichen Räumen zu
|
||||
Strafverfolgungszwecken im Hinblick auf die in Absatz 1 Unterabsatz 1 Buchstabe h genannten Ziele darf für die in
|
||||
jenem Buchstaben genannten Zwecke nur zur Bestätigung der Identität der speziell betroffenen Person erfolgen, wobei
|
||||
folgende Elemente berücksichtigt werden:
|
||||
|
||||
|
||||
a)die Art der Situation, die der möglichen Verwendung zugrunde liegt, insbesondere die Schwere, die Wahrscheinlichkeit
|
||||
und das Ausmaß des Schadens, der entstehen würde, wenn das System nicht eingesetzt würde;
|
||||
|
||||
|
||||
b)die Folgen der Verwendung des Systems für die Rechte und Freiheiten aller betroffenen Personen, insbesondere die
|
||||
Schwere, die Wahrscheinlichkeit und das Ausmaß solcher Folgen.
|
||||
|
||||
|
||||
Darüber hinaus sind bei der Verwendung biometrischer Echtzeit-Fernidentifizierungssysteme in öffentlich zugänglichen
|
||||
Räumen zu Strafverfolgungszwecken im Hinblick auf die in Absatz 1 Unterabsatz 1 Buchstabe h des vorliegenden Artikels
|
||||
genannten Ziele notwendige und verhältnismäßige Schutzvorkehrungen und Bedingungen für die Verwendung im Einklang
|
||||
mit nationalem Recht über die Ermächtigung ihrer Verwendung einzuhalten, insbesondere in Bezug auf die zeitlichen,
|
||||
geografischen und personenbezogenen Beschränkungen. Die Verwendung biometrischer Echtzeit-Fernidentifizierungs-
|
||||
systeme in öffentlich zugänglichen Räumen ist nur dann zu gestatten, wenn die Strafverfolgungsbehörde eine
|
||||
Folgenabschätzung im Hinblick auf die Grundrechte gemäß Artikel 27 abgeschlossen und das System gemäß Artikel 49
|
||||
in der EU-Datenbank registriert hat. In hinreichend begründeten dringenden Fällen kann jedoch mit der Verwendung
|
||||
solcher Systeme zunächst ohne Registrierung in der EU-Datenbank begonnen werden, sofern diese Registrierung
|
||||
unverzüglich erfolgt.
|
||||
|
||||
|
||||
(3) Für die Zwecke des Absatz 1 Unterabsatz 1 Buchstabe h und des Absatzes 2 ist für jede Verwendung eines
|
||||
biometrischen Echtzeit-Fernidentifizierungssystems in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken eine
|
||||
vorherige Genehmigung erforderlich, die von einer Justizbehörde oder einer unabhängigen Verwaltungsbehörde des
|
||||
Mitgliedstaats, in dem die Verwendung erfolgen soll, auf begründeten Antrag und gemäß den in Absatz 5 genannten
|
||||
detaillierten nationalen Rechtsvorschriften erteilt wird, wobei deren Entscheidung bindend ist. In hinreichend begründeten
|
||||
dringenden Fällen kann jedoch mit der Verwendung eines solchen Systems zunächst ohne Genehmigung begonnen werden,
|
||||
sofern eine solche Genehmigung unverzüglich, spätestens jedoch innerhalb von 24 Stunden beantragt wird. Wird eine
|
||||
solche Genehmigung abgelehnt, so wird die Verwendung mit sofortiger Wirkung eingestellt und werden alle Daten sowie
|
||||
die Ergebnisse und Ausgaben dieser Verwendung unverzüglich verworfen und gelöscht.
|
||||
|
||||
|
||||
Die zuständige Justizbehörde oder eine unabhängige Verwaltungsbehörde, deren Entscheidung bindend ist, erteilt die
|
||||
Genehmigung nur dann, wenn sie auf der Grundlage objektiver Nachweise oder eindeutiger Hinweise, die ihr vorgelegt
|
||||
werden, davon überzeugt ist, dass die Verwendung des betreffenden biometrischen Echtzeit-Fernidentifizierungssystems für
|
||||
das Erreichen eines der in Absatz 1 Unterabsatz 1 Buchstabe h genannten Ziele — wie im Antrag angegeben — notwendig
|
||||
und verhältnismäßig ist und insbesondere auf das in Bezug auf den Zeitraum sowie den geografischen und persönlichen
|
||||
Anwendungsbereich unbedingt erforderliche Maß beschränkt bleibt. Bei ihrer Entscheidung über den Antrag berücksichtigt
|
||||
|
||||
# DE ABl. L vom 12.7.
|
||||
|
||||
52/144 ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj)
|
||||
|
||||
diese Behörde die in Absatz 2 genannten Elemente. Eine Entscheidung, aus der sich eine nachteilige Rechtsfolge für eine
|
||||
Person ergibt, darf nicht ausschließlich auf der Grundlage der Ausgabe des biometrischen Echtzeit-Fernidentifizierungs-
|
||||
systems getroffen werden.
|
||||
|
||||
|
||||
(4) Unbeschadet des Absatzes 3 wird jede Verwendung eines biometrischen Echtzeit-Fernidentifizierungssystems in
|
||||
öffentlich zugänglichen Räumen zu Strafverfolgungszwecken der zuständigen Marktüberwachungsbehörde und der
|
||||
nationalen Datenschutzbehörde gemäß den in Absatz 5 genannten nationalen Vorschriften mitgeteilt. Die Mitteilung muss
|
||||
mindestens die in Absatz 6 genannten Angaben enthalten und darf keine sensiblen operativen Daten enthalten.
|
||||
|
||||
|
||||
(5) Ein Mitgliedstaat kann die Möglichkeit einer vollständigen oder teilweisen Ermächtigung zur Verwendung
|
||||
biometrischer Echtzeit-Fernidentifizierungssysteme in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken
|
||||
innerhalb der in Absatz 1 Unterabsatz 1 Buchstabe h sowie Absätze 2 und 3 aufgeführten Grenzen und unter den dort
|
||||
genannten Bedingungen vorsehen. Die betreffenden Mitgliedstaaten legen in ihrem nationalen Recht die erforderlichen
|
||||
detaillierten Vorschriften für die Beantragung, Erteilung und Ausübung der in Absatz 3 genannten Genehmigungen sowie
|
||||
für die entsprechende Beaufsichtigung und Berichterstattung fest. In diesen Vorschriften wird auch festgelegt, im Hinblick
|
||||
auf welche der in Absatz 1 Unterabsatz 1 Buchstabe h aufgeführten Ziele und welche der unter Buchstabe h Ziffer iii
|
||||
genannten Straftaten die zuständigen Behörden ermächtigt werden können, diese Systeme zu Strafverfolgungszwecken zu
|
||||
verwenden. Die Mitgliedstaaten teilen der Kommission diese Vorschriften spätestens 30 Tage nach ihrem Erlass mit. Die
|
||||
Mitgliedstaaten können im Einklang mit dem Unionsrecht strengere Rechtsvorschriften für die Verwendung biometrischer
|
||||
Fernidentifizierungssysteme erlassen.
|
||||
|
||||
|
||||
(6) Die nationalen Marktüberwachungsbehörden und die nationalen Datenschutzbehörden der Mitgliedstaaten, denen
|
||||
gemäß Absatz 4 die Verwendung biometrischer Echtzeit-Fernidentifizierungssysteme in öffentlich zugänglichen Räumen zu
|
||||
Strafverfolgungszwecken mitgeteilt wurden, legen der Kommission Jahresberichte über diese Verwendung vor. Zu diesem
|
||||
Zweck stellt die Kommission den Mitgliedstaaten und den nationalen Marktüberwachungs- und Datenschutzbehörden ein
|
||||
Muster zur Verfügung, das Angaben über die Anzahl der Entscheidungen der zuständigen Justizbehörden oder einer
|
||||
unabhängigen Verwaltungsbehörde, deren Entscheidung über Genehmigungsanträge gemäß Absatz 3 bindend ist, und
|
||||
deren Ergebnis enthält.
|
||||
|
||||
|
||||
(7) Die Kommission veröffentlicht Jahresberichte über die Verwendung biometrischer Echtzeit-Fernidentifizierungs-
|
||||
systeme in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken, die auf aggregierten Daten aus den Mitgliedstaaten
|
||||
auf der Grundlage der in Absatz 6 genannten Jahresberichte beruhen. Diese Jahresberichte dürfen keine sensiblen
|
||||
operativen Daten im Zusammenhang mit den damit verbundenen Strafverfolgungsmaßnahmen enthalten.
|
||||
|
||||
|
||||
(8) Dieser Artikel berührt nicht die Verbote, die gelten, wenn KI-Praktiken gegen andere Rechtsvorschriften der Union
|
||||
verstoßen.
|
||||
|
||||
|
||||
|
||||
|
||||
File diff suppressed because it is too large
Load Diff
@@ -0,0 +1,70 @@
|
||||
KAPITEL IV
|
||||
TRANSPARENZPFLICHTEN FÜR ANBIETER UND BETREIBER BESTIMMTER KI-SYSTEME
|
||||
|
||||
|
||||
Artikel 50
|
||||
Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme
|
||||
|
||||
|
||||
(1) Die Anbieter stellen sicher, dass KI-Systeme, die für die direkte Interaktion mit natürlichen Personen bestimmt sind,
|
||||
so konzipiert und entwickelt werden, dass die betreffenden natürlichen Personen informiert werden, dass sie mit einem
|
||||
KI-System interagieren, es sei denn, dies ist aus Sicht einer angemessen informierten, aufmerksamen und verständigen
|
||||
natürlichen Person aufgrund der Umstände und des Kontexts der Nutzung offensichtlich. Diese Pflicht gilt nicht für
|
||||
gesetzlich zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten zugelassene KI-Systeme, wenn geeignete
|
||||
Schutzvorkehrungen für die Rechte und Freiheiten Dritter bestehen, es sei denn, diese Systeme stehen der Öffentlichkeit zur
|
||||
Anzeige einer Straftat zur Verfügung.
|
||||
|
||||
|
||||
(2) Anbieter von KI-Systemen, einschließlich KI-Systemen mit allgemeinem Verwendungszweck, die synthetische
|
||||
Audio-, Bild-, Video- oder Textinhalte erzeugen, stellen sicher, dass die Ausgaben des KI-Systems in einem
|
||||
maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind. Die Anbieter
|
||||
sorgen dafür, dass — soweit technisch möglich — ihre technischen Lösungen wirksam, interoperabel, belastbar und
|
||||
zuverlässig sind und berücksichtigen dabei die Besonderheiten und Beschränkungen der verschiedenen Arten von Inhalten,
|
||||
die Umsetzungskosten und den allgemein anerkannten Stand der Technik, wie er in den einschlägigen technischen Normen
|
||||
zum Ausdruck kommen kann. Diese Pflicht gilt nicht, soweit die KI-Systeme eine unterstützende Funktion für die
|
||||
Standardbearbeitung ausführen oder die vom Betreiber bereitgestellten Eingabedaten oder deren Semantik nicht wesentlich
|
||||
verändern oder wenn sie zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten gesetzlich zugelassen sind.
|
||||
|
||||
|
||||
(3) Die Betreiber eines Emotionserkennungssystems oder eines Systems zur biometrischen Kategorisierung informieren
|
||||
die davon betroffenen natürlichen Personen über den Betrieb des Systems und verarbeiten personenbezogene Daten gemäß
|
||||
den Verordnungen (EU) 2016/679 und (EU) 2018/1725 und der Richtlinie (EU) 2016/680. Diese Pflicht gilt nicht für
|
||||
gesetzlich zur Aufdeckung, Verhütung oder Ermittlung von Straftaten zugelassene KI-Systeme, die zur biometrischen
|
||||
Kategorisierung und Emotionserkennung im Einklang mit dem Unionsrecht verwendet werden, sofern geeignete
|
||||
Schutzvorkehrungen für die Rechte und Freiheiten Dritter bestehen.
|
||||
|
||||
|
||||
(4) Betreiber eines KI-Systems, das Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert, die ein Deepfake sind, müssen
|
||||
offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden. Diese Pflicht gilt nicht, wenn die Verwendung zur
|
||||
Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten gesetzlich zugelassen ist. Ist der Inhalt Teil eines
|
||||
offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder analogen Werks oder Programms, so beschränken sich
|
||||
die in diesem Absatz festgelegten Transparenzpflichten darauf, das Vorhandensein solcher erzeugten oder manipulierten
|
||||
Inhalte in geeigneter Weise offenzulegen, die die Darstellung oder den Genuss des Werks nicht beeinträchtigt.
|
||||
|
||||
|
||||
Betreiber eines KI-Systems, das Text erzeugt oder manipuliert, der veröffentlicht wird, um die Öffentlichkeit über
|
||||
Angelegenheiten von öffentlichem Interesse zu informieren, müssen offenlegen, dass der Text künstlich erzeugt oder
|
||||
manipuliert wurde. Diese Pflicht gilt nicht, wenn die Verwendung zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung
|
||||
von Straftaten gesetzlich zugelassen ist oder wenn die durch KI erzeugten Inhalte einem Verfahren der menschlichen
|
||||
Überprüfung oder redaktionellen Kontrolle unterzogen wurden und wenn eine natürliche oder juristische Person die
|
||||
redaktionelle Verantwortung für die Veröffentlichung der Inhalte trägt.
|
||||
|
||||
# DE ABl. L vom 12.7.
|
||||
|
||||
82/144 ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj)
|
||||
|
||||
(5) Die in den Absätzen 1 bis 4 genannten Informationen werden den betreffenden natürlichen Personen spätestens zum
|
||||
Zeitpunkt der ersten Interaktion oder Aussetzung in klarer und eindeutiger Weise bereitgestellt. Die Informationen müssen
|
||||
den geltenden Barrierefreiheitsanforderungen entsprechen.
|
||||
|
||||
|
||||
(6) Die Absätze 1 bis 4 lassen die in Kapitel III festgelegten Anforderungen und Pflichten unberührt und berühren nicht
|
||||
andere Transparenzpflichten, die im Unionsrecht oder dem nationalen Recht für Betreiber von KI-Systemen festgelegt sind.
|
||||
|
||||
|
||||
(7) Das Büro für Künstliche Intelligenz fördert und erleichtert die Ausarbeitung von Praxisleitfäden auf Unionsebene, um
|
||||
die wirksame Umsetzung der Pflichten in Bezug auf die Feststellung und Kennzeichnung künstlich erzeugter oder
|
||||
manipulierter Inhalte zu erleichtern. Die Kommission kann Durchführungsrechtsakte zur Genehmigung dieser
|
||||
Praxisleitfäden nach dem in Artikel 56 Absatz 6 festgelegten Verfahren erlassen. Hält sie einen Kodex für nicht
|
||||
angemessen, so kann die Kommission einen Durchführungsrechtsakt gemäß dem in Artikel 98 Absatz 2 genannten
|
||||
Prüfverfahren erlassen, in dem gemeinsame Vorschriften für die Umsetzung dieser Pflichten festgelegt werden.
|
||||
@@ -0,0 +1,393 @@
|
||||
KAPITEL V
|
||||
KI-MODELLE MIT ALLGEMEINEM VERWENDUNGSZWECK
|
||||
|
||||
|
||||
ABSCHNITT 1
|
||||
|
||||
|
||||
Einstufungsvorschriften
|
||||
|
||||
|
||||
Artikel 51
|
||||
|
||||
|
||||
Einstufung von KI-Modellen mit allgemeinem Verwendungszweck als KI-Modelle mit allgemeinem Verwen-
|
||||
dungszweck mit systemischem Risiko
|
||||
|
||||
|
||||
(1) Ein KI-Modell mit allgemeinem Verwendungszweck wird als KI-Modell mit allgemeinem Verwendungszweck mit
|
||||
systemischem Risiko eingestuft, wenn eine der folgenden Bedingungen erfüllt ist:
|
||||
|
||||
|
||||
a)Es verfügt über Fähigkeiten mit hohem Wirkungsgrad, die mithilfe geeigneter technischer Instrumente und Methoden,
|
||||
einschließlich Indikatoren und Benchmarks, bewertet werden;
|
||||
|
||||
|
||||
b)einem unter Berücksichtigung der in Anhang XIII festgelegten Kriterien von der Kommission von Amts wegen oder
|
||||
aufgrund einer qualifizierten Warnung des wissenschaftlichen Gremiums getroffenen Entscheidung zufolge verfügt es
|
||||
über Fähigkeiten oder eine Wirkung, die denen gemäß Buchstabe a entsprechen.
|
||||
|
||||
|
||||
(2) Bei einem KI-Modell mit allgemeinem Verwendungszweck wird angenommen, dass es über Fähigkeiten mit hohem
|
||||
Wirkungsgrad gemäß Absatz 1 Buchstabe a verfügt, wenn die kumulierte Menge der für sein Training verwendeten
|
||||
Berechnungen, gemessen in Gleitkommaoperationen, mehr als 10^25 beträgt.
|
||||
|
||||
|
||||
(3) Die Kommission erlässt gemäß Artikel 97 delegierte Rechtsakte zur Änderung der in den Absätzen 1 und 2 des
|
||||
vorliegenden Artikels aufgeführten Schwellenwerte sowie zur Ergänzung von Benchmarks und Indikatoren vor dem
|
||||
Hintergrund sich wandelnder technologischer Entwicklungen, wie z. B. algorithmische Verbesserungen oder erhöhte
|
||||
Hardwareeffizienz, wenn dies erforderlich ist, damit diese Schwellenwerte dem Stand der Technik entsprechen.
|
||||
|
||||
|
||||
Artikel 52
|
||||
|
||||
|
||||
Verfahren
|
||||
|
||||
|
||||
(1) Erfüllt ein KI-Modell mit allgemeinem Verwendungszweck die Bedingung gemäß Artikel 51 Absatz 1 Buchstabe a, so
|
||||
teilt der betreffende Anbieter dies der Kommission unverzüglich, in jedem Fall jedoch innerhalb von zwei Wochen,
|
||||
nachdem diese Bedingung erfüllt ist oder bekannt wird, dass sie erfüllt wird, mit. Diese Mitteilung muss die Informationen
|
||||
enthalten, die erforderlich sind, um nachzuweisen, dass die betreffende Bedingung erfüllt ist. Erlangt die Kommission
|
||||
Kenntnis von einem KI-Modell mit allgemeinem Verwendungszweck, das systemische Risiken birgt, die ihr nicht mitgeteilt
|
||||
wurden, so kann sie entscheiden, es als Modell mit systemischen Risiken auszuweisen.
|
||||
|
||||
|
||||
(2) Der Anbieter eines KI-Modells mit allgemeinem Verwendungszweck, das die in Artikel 51 Absatz 1
|
||||
Buchstabe a genannte Bedingung erfüllt, kann in seiner Mitteilung hinreichend begründete Argumente vorbringen, um
|
||||
nachzuweisen, dass das KI-Modell mit allgemeinem Verwendungszweck, obwohl es diese Bedingung erfüllt, aufgrund seiner
|
||||
besonderen Merkmale außerordentlicherweise keine systemischen Risiken birgt und daher nicht als KI-Modell mit
|
||||
allgemeinem Verwendungszweck mit systemischem Risiko eingestuft werden sollte.
|
||||
|
||||
# ABl. L vom 12.7.2024 DE
|
||||
|
||||
ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj) 83/
|
||||
|
||||
|
||||
|
||||
(3) Gelangt die Kommission zu dem Schluss, dass die gemäß Absatz 2 vorgebrachten Argumente nicht hinreichend
|
||||
begründet sind, und konnte der betreffende Anbieter nicht nachweisen, dass das KI-Modell mit allgemeinem
|
||||
Verwendungszweck aufgrund seiner besonderen Merkmale keine systemischen Risiken aufweist, weist sie diese Argumente
|
||||
zurück, und das KI-Modell mit allgemeinem Verwendungszweck gilt als KI-Modell mit allgemeiner Zweckbestimmung mit
|
||||
systemischem Risiko.
|
||||
|
||||
|
||||
(4) Die Kommission kann ein KI-Modell mit allgemeinem Verwendungszweck von Amts wegen oder aufgrund einer
|
||||
qualifizierten Warnung des wissenschaftlichen Gremiums gemäß Artikel 90 Absatz 1 Buchstabe a auf der Grundlage der in
|
||||
Anhang XIII festgelegten Kriterien als KI-Modell mit systemischen Risiken ausweisen.
|
||||
|
||||
|
||||
Die Kommission ist befugt, gemäß Artikel 97 delegierte Rechtsakte zu erlassen, um Anhang XIII zu ändern, indem die in
|
||||
dem genannten Anhang genannten Indikatoren präzisiert und aktualisiert werden.
|
||||
|
||||
|
||||
(5) Stellt der Anbieter, dessen Modell gemäß Absatz 4 als KI-Modell mit allgemeinem Verwendungszweck mit
|
||||
systemischem Risiko ausgewiesen wurde, einen entsprechenden Antrag, berücksichtigt die Kommission den Antrag und
|
||||
kann entscheiden, erneut zu prüfen, ob beim KI-Modell mit allgemeinem Verwendungszweck auf der Grundlage der in
|
||||
Anhang XIII festgelegten Kriterien immer noch davon ausgegangen werden kann, dass es systemische Risiken aufweist.
|
||||
Dieser Antrag muss objektive, detaillierte und neue Gründe enthalten, die sich seit der Entscheidung zur Ausweisung
|
||||
ergeben haben. Die Anbieter können frühestens sechs Monate nach der Entscheidung zur Ausweisung eine Neubewertung
|
||||
beantragen. Entscheidet die Kommission nach ihrer Neubewertung, die Ausweisung als KI-Modell mit allgemeiner
|
||||
Zweckbestimmung mit systemischem Risiko beizubehalten, können die Anbieter frühestens sechs Monate nach dieser
|
||||
Entscheidung eine Neubewertung beantragen.
|
||||
|
||||
|
||||
(6) Die Kommission stellt sicher, dass eine Liste von KI-Modellen mit allgemeinem Verwendungszweck mit
|
||||
systemischem Risiko veröffentlicht wird, und hält diese Liste unbeschadet der Notwendigkeit, Rechte des geistigen
|
||||
Eigentums und vertrauliche Geschäftsinformationen oder Geschäftsgeheimnisse im Einklang mit dem Unionsrecht und dem
|
||||
nationalen Recht zu achten und zu schützen, auf dem neuesten Stand.
|
||||
|
||||
|
||||
ABSCHNITT 2
|
||||
|
||||
|
||||
Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck
|
||||
|
||||
|
||||
Artikel 53
|
||||
|
||||
|
||||
Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck
|
||||
|
||||
|
||||
(1) Anbieter von KI-Modellen mit allgemeinem Verwendungszweck
|
||||
|
||||
|
||||
a)erstellen und aktualisieren die technische Dokumentation des Modells, einschließlich seines Trainings- und
|
||||
Testverfahrens und der Ergebnisse seiner Bewertung, die mindestens die in Anhang XI aufgeführten Informationen
|
||||
enthält, damit sie dem Büro für Künstliche Intelligenz und den zuständigen nationalen Behörden auf Anfrage zur
|
||||
Verfügung gestellt werden kann;
|
||||
|
||||
|
||||
b)erstellen und aktualisieren Informationen und die Dokumentation und stellen sie Anbietern von KI-Systemen zur
|
||||
Verfügung, die beabsichtigen, das KI-Modell mit allgemeinem Verwendungszweck in ihre KI-Systeme zu integrieren.
|
||||
Unbeschadet der Notwendigkeit, die Rechte des geistigen Eigentums und vertrauliche Geschäftsinformationen oder
|
||||
Geschäftsgeheimnisse im Einklang mit dem Unionsrecht und dem nationalen Recht zu achten und zu schützen, müssen
|
||||
die Informationen und die Dokumentation
|
||||
|
||||
|
||||
i)die Anbieter von KI-Systemen in die Lage versetzen, die Fähigkeiten und Grenzen des KI-Modells mit allgemeinem
|
||||
Verwendungszweck gut zu verstehen und ihren Pflichten gemäß dieser Verordnung nachzukommen, und
|
||||
|
||||
|
||||
ii)zumindest die in Anhang XII genannten Elemente enthalten;
|
||||
|
||||
|
||||
c) bringen eine Strategie zur Einhaltung des Urheberrechts der Union und damit zusammenhängender Rechte und
|
||||
insbesondere zur Ermittlung und Einhaltung eines gemäß Artikel 4 Absatz 3 der Richtlinie (EU) 2019/790 geltend
|
||||
gemachten Rechtsvorbehalts, auch durch modernste Technologien, auf den Weg;
|
||||
|
||||
|
||||
d)erstellen und veröffentlichen eine hinreichend detaillierte Zusammenfassung der für das Training des KI-Modells mit
|
||||
allgemeinem Verwendungszweck verwendeten Inhalte nach einer vom Büro für Künstliche Intelligenz bereitgestellten
|
||||
Vorlage.
|
||||
|
||||
# DE ABl. L vom 12.7.
|
||||
|
||||
84/144 ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj)
|
||||
|
||||
|
||||
|
||||
(2) Die Pflichten gemäß Absatz 1 Buchstaben a und b gelten nicht für Anbieter von KI-Modellen, die im Rahmen einer
|
||||
freien und quelloffenen Lizenz bereitgestellt werden, die den Zugang, die Nutzung, die Änderung und die Verbreitung des
|
||||
Modells ermöglicht und deren Parameter, einschließlich Gewichte, Informationen über die Modellarchitektur und
|
||||
Informationen über die Modellnutzung, öffentlich zugänglich gemacht werden. Diese Ausnahme gilt nicht für KI-Modellen
|
||||
mit allgemeinem Verwendungszweck mit systemischen Risiken.
|
||||
|
||||
|
||||
(3) Anbieter von KI-Modellen mit allgemeinem Verwendungszweck arbeiten bei der Ausübung ihrer Zuständigkeiten
|
||||
und Befugnisse gemäß dieser Verordnung erforderlichenfalls mit der Kommission und den zuständigen nationalen
|
||||
Behörden zusammen.
|
||||
|
||||
|
||||
(4) Anbieter von KI-Modellen mit allgemeinem Verwendungszweck können sich bis zur Veröffentlichung einer
|
||||
harmonisierten Norm auf Praxisleitfäden im Sinne des Artikels 56 stützen, um die Einhaltung der in Absatz 1 des
|
||||
vorliegenden Artikels genannten Pflichten nachzuweisen. Die Einhaltung der harmonisierten europäischen Norm begründet
|
||||
für die Anbieter die Vermutung der Konformität, insoweit diese Normen diese Verpflichtungen abdecken. Anbieter von
|
||||
KI-Modellen mit allgemeinem Verwendungszweck, die keinen genehmigten Praxisleitfaden befolgen oder eine harmonisierte
|
||||
europäische Norm nicht einhalten, müssen geeignete alternative Verfahren der Einhaltung aufzeigen, die von der
|
||||
Kommission zu bewerten sind.
|
||||
|
||||
|
||||
(5) Um die Einhaltung von Anhang XI, insbesondere Nummer 2 Buchstaben d und e, zu erleichtern, ist die Kommission
|
||||
befugt, gemäß Artikel 97 delegierte Rechtsakte zu erlassen, um die Mess- und Berechnungsmethoden im Einzelnen
|
||||
festzulegen, damit eine vergleichbare und überprüfbare Dokumentation ermöglicht wird.
|
||||
|
||||
|
||||
(6) Die Kommission ist befugt, gemäß Artikel 97 Absatz 2 delegierte Rechtsakte zu erlassen, um die Anhänge XI und XII
|
||||
vor dem Hintergrund sich wandelnder technologischer Entwicklungen zu ändern.
|
||||
|
||||
|
||||
(7) Jegliche Informationen oder Dokumentation, die gemäß diesem Artikel erlangt werden, einschließlich Geschäfts-
|
||||
geheimnisse, werden im Einklang mit den in Artikel 78 festgelegten Vertraulichkeitspflichten behandelt.
|
||||
|
||||
|
||||
Artikel 54
|
||||
|
||||
|
||||
Bevollmächtigte der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck
|
||||
|
||||
|
||||
(1) Anbieter, die in Drittländern niedergelassen sind, benennen vor dem Inverkehrbringen eines KI-Modells mit
|
||||
allgemeinem Verwendungszweck auf dem Unionsmarkt schriftlich einen in der Union niedergelassenen Bevollmächtigten.
|
||||
|
||||
|
||||
(2) Der Anbieter muss seinem Bevollmächtigten ermöglichen, die Aufgaben wahrzunehmen, die im vom Anbieter
|
||||
erhaltenen Auftrag festgelegt sind.
|
||||
|
||||
|
||||
(3) Der Bevollmächtigte nimmt die Aufgaben wahr, die in seinem vom Anbieter erhaltenen Auftrag festgelegt sind. Er
|
||||
stellt dem Büro für Künstliche Intelligenz auf Anfrage eine Kopie des Auftrags in einer der Amtssprachen der Institutionen
|
||||
der Union bereit. Für die Zwecke dieser Verordnung ermächtigt der Auftrag den Bevollmächtigten zumindest zur
|
||||
Wahrnehmung folgender Aufgaben:
|
||||
|
||||
|
||||
a)Überprüfung, ob die technische Dokumentation gemäß Anhang XI erstellt wurde und alle Pflichten gemäß Artikel 53
|
||||
und gegebenenfalls gemäß Artikel 55 vom Anbieter erfüllt wurden;
|
||||
|
||||
|
||||
b)Bereithaltung einer Kopie der technischen Dokumentation gemäß Anhang XI für das Büro für Künstliche Intelligenz und
|
||||
die zuständigen nationalen Behörden für einen Zeitraum von zehn Jahren nach dem Inverkehrbringen des KI-Modells
|
||||
mit allgemeinem Verwendungszweck und der Kontaktdaten des Anbieters, der den Bevollmächtigten benannt hat;
|
||||
|
||||
|
||||
c) Bereitstellung sämtlicher zum Nachweis der Einhaltung der Pflichten gemäß diesem Kapitel erforderlichen Informationen
|
||||
und Dokumentation, einschließlich der unter Buchstabe b genannten Informationen und Dokumentation, an das Büro
|
||||
für Künstliche Intelligenz auf begründeten Antrag;
|
||||
|
||||
|
||||
d)Zusammenarbeit mit dem Büro für Künstliche Intelligenz und den zuständigen Behörden auf begründeten Antrag bei
|
||||
allen Maßnahmen, die sie im Zusammenhang mit einem KI-Modell mit allgemeinem Verwendungszweck ergreifen, auch
|
||||
wenn das Modell in KI-Systeme integriert ist, die in der Union in Verkehr gebracht oder in Betrieb genommen werden.
|
||||
|
||||
|
||||
(4) Mit dem Auftrag wird der Bevollmächtigte ermächtigt, neben oder anstelle des Anbieters als Ansprechpartner für das
|
||||
Büro für Künstliche Intelligenz oder die zuständigen Behörden in allen Fragen zu dienen, die die Gewährleistung der
|
||||
Einhaltung dieser Verordnung betreffen.
|
||||
|
||||
# ABl. L vom 12.7.2024 DE
|
||||
|
||||
ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj) 85/
|
||||
|
||||
|
||||
|
||||
(5) Der Bevollmächtigte beendet den Auftrag, wenn er der Auffassung ist oder Grund zu der Annahme hat, dass der
|
||||
Anbieter gegen seine Pflichten gemäß dieser Verordnung verstößt. In einem solchen Fall informiert er auch das Büro für
|
||||
Künstliche Intelligenz unverzüglich über die Beendigung des Auftrags und die Gründe dafür.
|
||||
|
||||
|
||||
(6) Die Pflicht gemäß diesem Artikel gilt nicht für Anbieter von KI-Modellen, die im Rahmen einer freien und
|
||||
quelloffenen Lizenz bereitgestellt werden, die den Zugang, die Nutzung, die Änderung und die Verbreitung des Modells
|
||||
ermöglicht und deren Parameter, einschließlich Gewichte, Informationen über die Modellarchitektur und Informationen
|
||||
über die Modellnutzung, öffentlich zugänglich gemacht werden, es sei denn, die KI-Modelle mit allgemeinem
|
||||
Verwendungszweck bergen systemische Risiken.
|
||||
|
||||
|
||||
ABSCHNITT 3
|
||||
Pflichten der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck mit systemischem Risiko
|
||||
|
||||
|
||||
Artikel 55
|
||||
|
||||
|
||||
Pflichten der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck mit systemischem Risiko
|
||||
|
||||
|
||||
(1) Zusätzlich zu den in den Artikeln 53 und 54 aufgeführten Pflichten müssen Anbieter von KI-Modellen mit
|
||||
allgemeinem Verwendungszweck mit systemischem Risiko
|
||||
|
||||
|
||||
a)eine Modellbewertung mit standardisierten Protokollen und Instrumenten, die dem Stand der Technik entsprechen,
|
||||
durchführen, wozu auch die Durchführung und Dokumentation von Angriffstests beim Modell gehören, um systemische
|
||||
Risiken zu ermitteln und zu mindern,
|
||||
|
||||
|
||||
b)mögliche systemische Risiken auf Unionsebene — einschließlich ihrer Ursachen —, die sich aus der Entwicklung, dem
|
||||
Inverkehrbringen oder der Verwendung von KI-Modellen mit allgemeinem Verwendungszweck mit systemischem Risiko
|
||||
ergeben können, bewerten und mindern,
|
||||
|
||||
|
||||
c) einschlägige Informationen über schwerwiegende Vorfälle und mögliche Abhilfemaßnahmen erfassen und doku-
|
||||
mentieren und das Büro für Künstliche Intelligenz und gegebenenfalls die zuständigen nationalen Behörden unverzüglich
|
||||
darüber unterrichten,
|
||||
|
||||
|
||||
d)ein angemessenes Maß an Cybersicherheit für die KI-Modelle mit allgemeinem Verwendungszweck mit systemischem
|
||||
Risiko und die physische Infrastruktur des Modells gewährleisten.
|
||||
|
||||
|
||||
(2) Anbieter von KI-Modellen mit allgemeinem Verwendungszweck mit systemischem Risiko können sich bis zur
|
||||
Veröffentlichung einer harmonisierten Norm auf Praxisleitfäden im Sinne des Artikels 56 stützen, um die Einhaltung der in
|
||||
Absatz 1 des vorliegenden Artikels genannten Pflichten nachzuweisen. Die Einhaltung der harmonisierten europäischen
|
||||
Norm begründet für die Anbieter die Vermutung der Konformität, insoweit diese Normen diese Verpflichtungen abdecken.
|
||||
Anbieter von KI-Modellen mit allgemeinem Verwendungszweck mit systemischem Risiko, die einen genehmigten
|
||||
Praxisleitfaden nicht befolgen oder eine harmonisierte europäische Norm nicht einhalten, müssen geeignete alternative
|
||||
Verfahren der Einhaltung aufzeigen, die von der Kommission zu bewerten sind.
|
||||
|
||||
|
||||
(3) Jegliche Informationen oder Dokumentation, die gemäß diesem Artikel erlangt werden, werden im Einklang mit den
|
||||
in Artikel 78 festgelegten Vertraulichkeitspflichten behandelt.
|
||||
|
||||
|
||||
ABSCHNITT 4
|
||||
|
||||
|
||||
Praxisleitfäden
|
||||
|
||||
|
||||
Artikel 56
|
||||
|
||||
|
||||
Praxisleitfäden
|
||||
|
||||
|
||||
(1) Das Büro für Künstliche Intelligenz fördert und erleichtert die Ausarbeitung von Praxisleitfäden auf Unionsebene, um
|
||||
unter Berücksichtigung internationaler Ansätze zur ordnungsgemäßen Anwendung dieser Verordnung beizutragen.
|
||||
|
||||
|
||||
(2) Das Büro für Künstliche Intelligenz und das KI-Gremium streben an, sicherzustellen, dass die Praxisleitfäden
|
||||
mindestens die in den Artikeln 53 und 55 vorgesehenen Pflichten abdecken, einschließlich der folgenden Aspekte:
|
||||
|
||||
# DE ABl. L vom 12.7.
|
||||
|
||||
86/144 ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj)
|
||||
|
||||
|
||||
|
||||
a)Mittel, mit denen sichergestellt wird, dass die in Artikel 53 Absatz 1 Buchstaben a und b genannten Informationen vor
|
||||
dem Hintergrund der Marktentwicklungen und technologischen Entwicklungen auf dem neuesten Stand gehalten
|
||||
werden;
|
||||
|
||||
|
||||
b)die angemessene Detailgenauigkeit bei der Zusammenfassung der für das Training verwendeten Inhalte;
|
||||
|
||||
|
||||
c) die Ermittlung von Art und Wesen der systemischen Risiken auf Unionsebene, gegebenenfalls einschließlich ihrer
|
||||
Ursachen;
|
||||
|
||||
|
||||
d)die Maßnahmen, Verfahren und Modalitäten für die Bewertung und das Management der systemischen Risiken auf
|
||||
Unionsebene, einschließlich ihrer Dokumentation, die in einem angemessenen Verhältnis zu den Risiken stehen, ihrer
|
||||
Schwere und Wahrscheinlichkeit Rechnung tragen und die spezifischen Herausforderungen bei der Bewältigung dieser
|
||||
Risiken vor dem Hintergrund der möglichen Arten der Entstehung und des Eintretens solcher Risiken entlang der
|
||||
KI-Wertschöpfungskette berücksichtigen.
|
||||
|
||||
|
||||
(3) Das Büro für Künstliche Intelligenz kann alle Anbieter von KI-Modellen mit allgemeinem Verwendungszweck sowie
|
||||
die einschlägigen zuständigen nationalen Behörden ersuchen, sich an der Ausarbeitung von Praxisleitfäden zu beteiligen.
|
||||
Organisationen der Zivilgesellschaft, die Industrie, die Wissenschaft und andere einschlägige Interessenträger wie
|
||||
nachgelagerte Anbieter und unabhängige Sachverständige können den Prozess unterstützen.
|
||||
|
||||
|
||||
(4) Das Büro für Künstliche Intelligenz und das KI-Gremium streben an, sicherzustellen, dass in den Praxisleitfäden ihre
|
||||
spezifischen Ziele eindeutig festgelegt sind und Verpflichtungen oder Maßnahmen, gegebenenfalls einschließlich
|
||||
wesentlicher Leistungsindikatoren, enthalten, um die Verwirklichung dieser Ziele gewährleisten, und dass sie den
|
||||
Bedürfnissen und Interessen aller interessierten Kreise, einschließlich betroffener Personen, auf Unionsebene gebührend
|
||||
Rechnung tragen.
|
||||
|
||||
|
||||
(5) Das Büro für Künstliche Intelligenz strebt an, sicherzustellen, dass die an Praxisleitfäden Beteiligten dem Büro für
|
||||
Künstliche Intelligenz regelmäßig über die Umsetzung der Verpflichtungen, die ergriffenen Maßnahmen und deren
|
||||
Ergebnisse, die gegebenenfalls auch anhand der wesentlichen Leistungsindikatoren gemessen werden, Bericht erstatten. Bei
|
||||
den wesentlichen Leistungsindikatoren und den Berichtspflichten wird den Größen- und Kapazitätsunterschieden zwischen
|
||||
den verschiedenen Beteiligten Rechnung getragen.
|
||||
|
||||
|
||||
(6) Das Büro für Künstliche Intelligenz und KI-Gremium überwachen und bewerten regelmäßig die Verwirklichung der
|
||||
Ziele der Praxisleitfäden durch die Beteiligten und deren Beitrag zur ordnungsgemäßen Anwendung dieser Verordnung. Das
|
||||
Büro für Künstliche Intelligenz und das KI-Gremium bewerten, ob die Praxisleitfäden die in den Artikeln 53 und 55
|
||||
vorgesehenen Pflichten abdecken, und überwachen und bewerten regelmäßig die Verwirklichung von deren Zielen. Sie
|
||||
veröffentlichen ihre Bewertung der Angemessenheit der Praxisleitfäden.
|
||||
|
||||
|
||||
Die Kommission kann im Wege eines Durchführungsrechtsakts einen Praxisleitfaden genehmigen und ihm in der Union
|
||||
allgemeine Gültigkeit verleihen. Dieser Durchführungsrechtsakt wird gemäß dem in Artikel 98 Absatz 2 genannten
|
||||
Prüfverfahren erlassen.
|
||||
|
||||
|
||||
(7) Das Büro für Künstliche Intelligenz kann alle Anbieter von KI-Modellen mit allgemeinem Verwendungszweck
|
||||
ersuchen, die Praxisleitfäden zu befolgen. Für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, die keine
|
||||
systemischen Risiken bergen, kann diese Befolgung auf die in Artikel 53 vorgesehenen Pflichten beschränkt werden, es sei
|
||||
denn, sie erklären ausdrücklich ihr Interesse, sich dem ganzen Kodex anzuschließen.
|
||||
|
||||
|
||||
(8) Das Büro für Künstliche Intelligenz fördert und erleichtert gegebenenfalls auch die Überprüfung und Anpassung der
|
||||
Praxisleitfäden, insbesondere vor dem Hintergrund neuer Normen. Das Büro für Künstliche Intelligenz unterstützt bei der
|
||||
Bewertung der verfügbaren Normen.
|
||||
|
||||
|
||||
(9) Praxisleitfäden müssen spätestens am 2. Mai 2025 vorliegen. Das Büro für Künstliche Intelligenz unternimmt die
|
||||
erforderlichen Schritte, einschließlich des Ersuchens von Anbietern gemäß Absatz 7.
|
||||
|
||||
|
||||
Kann bis zum 2. August 2025 ein Verhaltenskodex nicht fertiggestellt werden oder erachtet das Büro für Künstliche
|
||||
Intelligenz dies nach seiner Bewertung gemäß Absatz 6 des vorliegenden Artikels für nicht angemessen, kann die
|
||||
Kommission im Wege von Durchführungsrechtsakten gemeinsame Vorschriften für die Umsetzung der in den Artikeln 53
|
||||
und 55 vorgesehenen Pflichten, einschließlich der in Absatz 2 des vorliegenden Artikels genannten Aspekte, festlegen. Diese
|
||||
Durchführungsrechtsakte werden gemäß dem in Artikel 98 Absatz 2 genannten Prüfverfahren erlassen.
|
||||
|
||||
# ABl. L vom 12.7.2024 DE
|
||||
|
||||
ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj) 87/
|
||||
|
||||
|
||||
@@ -0,0 +1,612 @@
|
||||
|
||||
KAPITEL VI
|
||||
MASSNAHMEN ZUR INNOVATIONSFÖRDERUNG
|
||||
|
||||
|
||||
Artikel 57
|
||||
|
||||
|
||||
KI-Reallabore
|
||||
|
||||
|
||||
(1) Die Mitgliedstaaten sorgen dafür, dass ihre zuständigen Behörden mindestens ein KI-Reallabor auf nationaler Ebene
|
||||
einrichten, das bis zum 2. August 2026 einsatzbereit sein muss. Dieses Reallabor kann auch gemeinsam mit den
|
||||
zuständigen Behörden anderer Mitgliedstaaten eingerichtet werden. Die Kommission kann technische Unterstützung,
|
||||
Beratung und Instrumente für die Einrichtung und den Betrieb von KI-Reallaboren bereitstellen.
|
||||
|
||||
|
||||
Die Verpflichtung nach Unterabsatz 1 kann auch durch Beteiligung an einem bestehenden Reallabor erfüllt werden, sofern
|
||||
eine solche Beteiligung die nationale Abdeckung der teilnehmenden Mitgliedstaaten in gleichwertigem Maße gewährleistet.
|
||||
|
||||
|
||||
(2) Es können auch zusätzliche KI-Reallabore auf regionaler oder lokaler Ebene oder gemeinsam mit den zuständigen
|
||||
Behörden anderer Mitgliedstaaten eingerichtet werden;
|
||||
|
||||
|
||||
(3) Der Europäische Datenschutzbeauftragte kann auch ein KI-Reallabor für Organe, Einrichtungen und sonstige Stellen
|
||||
der Union einrichten und die Rollen und Aufgaben der zuständigen nationalen Behörden im Einklang mit diesem Kapitel
|
||||
wahrnehmen.
|
||||
|
||||
|
||||
(4) Die Mitgliedstaaten stellen sicher, dass die in den Absätzen 1 und 2 genannten zuständigen Behörden ausreichende
|
||||
Mittel bereitstellen, um diesem Artikel wirksam und zeitnah nachzukommen. Gegebenenfalls arbeiten die zuständigen
|
||||
nationalen Behörden mit anderen einschlägigen Behörden zusammen und können die Einbeziehung anderer Akteure des
|
||||
KI-Ökosystems gestatten. Andere Reallabore, die im Rahmen des Unionsrechts oder des nationalen Rechts eingerichtet
|
||||
wurden, bleiben von diesem Artikel unberührt. Die Mitgliedstaaten sorgen dafür, dass die diese anderen Reallabore
|
||||
beaufsichtigenden Behörden und die zuständigen nationalen Behörden angemessen zusammenarbeiten.
|
||||
|
||||
|
||||
(5) Die nach Absatz 1 eingerichteten KI-Reallabore bieten eine kontrollierte Umgebung, um Innovation zu fördern und
|
||||
die Entwicklung, das Training, das Testen und die Validierung innovativer KI-Systeme für einen begrenzten Zeitraum vor
|
||||
ihrem Inverkehrbringen oder ihrer Inbetriebnahme nach einem bestimmten zwischen den Anbietern oder zukünftigen
|
||||
Anbietern und der zuständigen Behörde vereinbarten Reallabor-Plan zu erleichtern. In diesen Reallaboren können auch
|
||||
darin beaufsichtigte Tests unter Realbedingungen durchgeführt werden.
|
||||
|
||||
|
||||
(6) Die zuständigen Behörden stellen innerhalb der KI-Reallabore gegebenenfalls Anleitung, Aufsicht und Unterstützung
|
||||
bereit, um Risiken, insbesondere im Hinblick auf Grundrechte, Gesundheit und Sicherheit, Tests und Risikominderungs-
|
||||
maßnahmen sowie deren Wirksamkeit hinsichtlich der Pflichten und Anforderungen dieser Verordnung und gegebenenfalls
|
||||
anderem Unionsrecht und nationalem Recht, deren Einhaltung innerhalb des Reallabors beaufsichtigt wird, zu ermitteln.
|
||||
|
||||
|
||||
(7) Die zuständigen Behörden stellen den Anbietern und zukünftigen Anbietern, die am KI-Reallabor teilnehmen,
|
||||
Leitfäden zu regulatorischen Erwartungen und zur Erfüllung der in dieser Verordnung festgelegten Anforderungen und
|
||||
Pflichten zur Verfügung.
|
||||
|
||||
|
||||
Die zuständige Behörde legt dem Anbieter oder zukünftigen Anbieter des KI-Systems auf dessen Anfrage einen schriftlichen
|
||||
Nachweis für die im Reallabor erfolgreich durchgeführten Tätigkeiten vor. Außerdem legt die zuständige Behörde einen
|
||||
Abschlussbericht vor, in dem sie die im Reallabor durchgeführten Tätigkeiten, deren Ergebnisse und die gewonnenen
|
||||
Erkenntnisse im Einzelnen darlegt. Die Anbieter können diese Unterlagen nutzen, um im Rahmen des Konformitäts-
|
||||
bewertungsverfahrens oder einschlägiger Marktüberwachungstätigkeiten nachzuweisen, dass sie dieser Verordnung
|
||||
nachkommen. In diesem Zusammenhang werden die Abschlussberichte und die von der zuständigen nationalen Behörde
|
||||
vorgelegten schriftlichen Nachweise von den Marktüberwachungsbehörden und den notifizierten Stellen im Hinblick auf
|
||||
eine Beschleunigung der Konformitätsbewertungsverfahren in angemessenem Maße positiv gewertet.
|
||||
|
||||
|
||||
(8) Vorbehaltlich der in Artikel 78 enthaltenen Bestimmungen über die Vertraulichkeit und im Einvernehmen mit den
|
||||
Anbietern oder zukünftigen Anbietern, sind die Kommission und das KI-Gremium befugt, die Abschlussberichte
|
||||
einzusehen und tragen diesen gegebenenfalls bei der Wahrnehmung ihrer Aufgaben gemäß dieser Verordnung Rechnung.
|
||||
Wenn der Anbieter oder der zukünftige Anbieter und die zuständige nationale Behörde ihr ausdrückliches Einverständnis
|
||||
erklären, kann der Abschlussbericht über die in diesem Artikel genannte zentrale Informationsplattform veröffentlicht
|
||||
werden.
|
||||
|
||||
|
||||
(9) Die Einrichtung von KI-Reallaboren soll zu den folgenden Zielen beitragen:
|
||||
|
||||
|
||||
a)Verbesserung der Rechtssicherheit, um für die Einhaltung der Regulierungsvorschriften dieser Verordnung oder,
|
||||
gegebenenfalls, anderem geltenden Unionsrecht und nationalem Recht zu sorgen;
|
||||
|
||||
# DE ABl. L vom 12.7.
|
||||
|
||||
88/144 ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj)
|
||||
|
||||
|
||||
|
||||
b)Förderung des Austauschs bewährter Verfahren durch Zusammenarbeit mit den am KI-Reallabor beteiligten Behörden;
|
||||
|
||||
|
||||
c) Förderung von Innovation und Wettbewerbsfähigkeit sowie Erleichterung der Entwicklung eines KI-Ökosystems;
|
||||
|
||||
|
||||
d)Leisten eines Beitrags zum evidenzbasierten regulatorischen Lernen;
|
||||
|
||||
|
||||
e) Erleichterung und Beschleunigung des Zugangs von KI-Systemen zum Unionsmarkt, insbesondere wenn sie von KMU —
|
||||
einschließlich Start-up-Unternehmen — angeboten werden.
|
||||
|
||||
|
||||
(10) Soweit die innovativen KI-Systeme personenbezogene Daten verarbeiten oder anderweitig der Aufsicht anderer
|
||||
nationaler Behörden oder zuständiger Behörden unterstehen, die den Zugang zu personenbezogenen Daten gewähren oder
|
||||
unterstützen, sorgen die zuständigen nationalen Behörden dafür, dass die nationalen Datenschutzbehörden oder diese
|
||||
anderen nationalen oder zuständigen Behörden in den Betrieb des KI-Reallabors sowie in die Überwachung dieser Aspekte
|
||||
im vollen Umfang ihrer entsprechenden Aufgaben und Befugnisse einbezogen werden.
|
||||
|
||||
|
||||
(11) Die KI-Reallabore lassen die Aufsichts- oder Abhilfebefugnisse der die Reallabore beaufsichtigenden zuständigen
|
||||
Behörden, einschließlich auf regionaler oder lokaler Ebene, unberührt. Alle erheblichen Risiken für die Gesundheit und
|
||||
Sicherheit und die Grundrechte, die bei der Entwicklung und Erprobung solcher KI-Systeme festgestellt werden, führen zur
|
||||
sofortigen und angemessenen Risikominderung. Die zuständigen nationalen Behörden sind befugt, das Testverfahren oder
|
||||
die Beteiligung am Reallabor vorübergehend oder dauerhaft auszusetzen, wenn keine wirksame Risikominderung möglich
|
||||
ist, und unterrichten das Büro für Künstliche Intelligenz über diese Entscheidung. Um Innovationen im Bereich KI in der
|
||||
Union zu fördern, üben die zuständigen nationalen Behörden ihre Aufsichtsbefugnisse im Rahmen des geltenden Rechts
|
||||
aus, indem sie bei der Anwendung der Rechtsvorschriften auf ein bestimmtes KI-Reallabor ihren Ermessensspielraum
|
||||
nutzen.
|
||||
|
||||
|
||||
(12) Die am KI-Reallabor beteiligten Anbieter und zukünftigen Anbieter bleiben nach geltendem Recht der Union und
|
||||
nationalem Haftungsrecht für Schäden haftbar, die Dritten infolge der Erprobung im Reallabor entstehen. Sofern die
|
||||
zukünftigen Anbieter den spezifischen Plan und die Bedingungen für ihre Beteiligung beachten und der Anleitung durch die
|
||||
zuständigen nationalen Behörden in gutem Glauben folgen, werden jedoch von den Behörden keine Geldbußen für Verstöße
|
||||
gegen diese Verordnung verhängt. In Fällen, in denen andere zuständige Behörden, die für anderes Unionsrecht und
|
||||
nationales Recht zuständig sind, aktiv an der Beaufsichtigung des KI-Systems im Reallabor beteiligt waren und Anleitung für
|
||||
die Einhaltung gegeben haben, werden im Hinblick auf dieses Recht keine Geldbußen verhängt.
|
||||
|
||||
|
||||
(13) Die KI-Reallabore sind so konzipiert und werden so umgesetzt, dass sie gegebenenfalls die grenzüberschreitende
|
||||
Zusammenarbeit zwischen zuständigen nationalen Behörden erleichtern.
|
||||
|
||||
|
||||
(14) Die zuständigen nationalen Behörden koordinieren ihre Tätigkeiten und arbeiten im Rahmen des KI-Gremiums
|
||||
zusammen.
|
||||
|
||||
|
||||
(15) Die zuständigen nationalen Behörden unterrichten das Büro für Künstliche Intelligenz und das KI-Gremium über
|
||||
die Einrichtung eines Reallabors und können sie um Unterstützung und Anleitung bitten. Das Büro für Künstliche
|
||||
Intelligenz veröffentlicht eine Liste der geplanten und bestehenden Reallabore und hält sie auf dem neuesten Stand, um eine
|
||||
stärkere Interaktion in den KI-Reallaboren und die grenzüberschreitende Zusammenarbeit zu fördern.
|
||||
|
||||
|
||||
(16) Die zuständigen nationalen Behörden übermitteln dem Büro für Künstliche Intelligenz und dem KI-Gremium
|
||||
jährliche Berichte, und zwar ab einem Jahr nach der Einrichtung des Reallabors und dann jedes Jahr bis zu dessen
|
||||
Beendigung, sowie einen Abschlussbericht. Diese Berichte informieren über den Fortschritt und die Ergebnisse der
|
||||
Umsetzung dieser Reallabore, einschließlich bewährter Verfahren, Vorfällen, gewonnener Erkenntnisse und Empfehlungen
|
||||
zu deren Aufbau, sowie gegebenenfalls über die Anwendung und mögliche Überarbeitung dieser Verordnung, einschließlich
|
||||
ihrer delegierten Rechtsakte und Durchführungsrechtsakte, sowie über die Anwendung anderen Unionsrechts, deren
|
||||
Einhaltung von den zuständigen Behörden innerhalb des Reallabors beaufsichtigt wird. Die zuständigen nationalen
|
||||
Behörden stellen diese jährlichen Berichte oder Zusammenfassungen davon der Öffentlichkeit online zur Verfügung. Die
|
||||
Kommission trägt den jährlichen Berichten gegebenenfalls bei der Wahrnehmung ihrer Aufgaben gemäß dieser Verordnung
|
||||
Rechnung.
|
||||
|
||||
|
||||
(17) Die Kommission richtet eine eigene Schnittstelle ein, die alle relevanten Informationen zu den KI-Reallaboren
|
||||
enthält, um es den Interessenträgern zu ermöglichen, mit den KI-Reallaboren zu interagieren und Anfragen an die
|
||||
zuständigen Behörden zu richten und unverbindliche Beratung zur Konformität von innovativen Produkten, Dienst-
|
||||
leistungen und Geschäftsmodellen mit integrierter KI-Technologie im Einklang mit Artikel 62 Absatz 1 Buchstabe c
|
||||
einzuholen. Die Kommission stimmt sich gegebenenfalls proaktiv mit den zuständigen nationalen Behörden ab.
|
||||
|
||||
# ABl. L vom 12.7.2024 DE
|
||||
|
||||
ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj) 89/
|
||||
|
||||
|
||||
|
||||
Artikel 58
|
||||
|
||||
|
||||
Detaillierte Regelungen für KI-Reallabore und deren Funktionsweise
|
||||
|
||||
|
||||
(1) Um eine Zersplitterung in der Union zu vermeiden, erlässt die Kommission Durchführungsrechtsakte, in denen
|
||||
detaillierte Regelungen für die Einrichtung, Entwicklung, Umsetzung, den Betrieb und die Beaufsichtigung der KI-Reallabore
|
||||
enthalten sind. In den Durchführungsrechtsakten sind gemeinsame Grundsätze zu den folgenden Aspekten festgelegt:
|
||||
|
||||
|
||||
a)Voraussetzungen und Auswahlkriterien für eine Beteiligung am KI-Reallabor;
|
||||
|
||||
|
||||
b)Verfahren für Antragstellung, Beteiligung, Überwachung, Ausstieg und Beendigung bezüglich des KI-Reallabors,
|
||||
einschließlich Plan und Abschlussbericht für das Reallabor;
|
||||
|
||||
|
||||
c) für Beteiligte geltende Anforderungen und Bedingungen.
|
||||
|
||||
|
||||
Diese Durchführungsrechtsakte werden gemäß dem in Artikel 98 Absatz 2 genannten Prüfverfahren erlassen.
|
||||
|
||||
|
||||
(2) Die in Absatz 1 genannten Durchführungsrechtsakte gewährleisten,
|
||||
|
||||
|
||||
a)dass KI-Reallabore allen Anbietern oder zukünftigen Anbietern eines KI-Systems, die einen Antrag stellen und die
|
||||
Voraussetzungen und Auswahlkriterien erfüllen, offen stehen; diese Voraussetzungen und Kriterien sind transparent und
|
||||
fair und die zuständigen nationalen Behörden informieren die Antragsteller innerhalb von drei Monaten nach
|
||||
Antragstellung über ihre Entscheidung;
|
||||
|
||||
|
||||
b)dass die KI-Reallabore einen breiten und gleichberechtigten Zugang ermöglichen und mit der Nachfrage nach Beteiligung
|
||||
Schritt halten; die Anbieter und zukünftigen Anbieter auch Anträge zusammen mit Betreibern oder einschlägigen
|
||||
Dritten, die ihre Partner sind, stellen können;
|
||||
|
||||
|
||||
c) dass die detaillierten Regelungen und Bedingungen für KI-Reallabore so gut wie möglich die Flexibilität der zuständigen
|
||||
nationalen Behörden bei der Einrichtung und dem Betrieb ihrer KI-Reallabore unterstützen;
|
||||
|
||||
|
||||
d)dass der Zugang zu KI-Reallaboren für KMU, einschließlich Start-up-Unternehmen, kostenlos ist, unbeschadet
|
||||
außergewöhnlicher Kosten, die die zuständigen nationalen Behörden in einer fairen und verhältnismäßigen Weise
|
||||
einfordern können;
|
||||
|
||||
|
||||
e) dass den Anbietern und zukünftigen Anbietern die Einhaltung der Verpflichtungen zur Konformitätsbewertung nach
|
||||
dieser Verordnung oder die freiwillige Anwendung der in Artikel 95 genannten Verhaltenskodizes mittels der
|
||||
gewonnenen Erkenntnisse der KI-Reallabore erleichtert wird;
|
||||
|
||||
|
||||
f) dass KI-Reallabore die Einbeziehung anderer einschlägiger Akteure innerhalb des KI-Ökosystems, wie etwa notifizierte
|
||||
Stellen und Normungsorganisationen, KMU, einschließlich Start-up-Unternehmen, Unternehmen, Innovatoren, Test-
|
||||
und Versuchseinrichtungen, Forschungs- und Versuchslabore, europäische digitale Innovationszentren, Kompetenzzen-
|
||||
tren und einzelne Forscher begünstigen, um die Zusammenarbeit mit dem öffentlichen und dem privaten Sektor zu
|
||||
ermöglichen und zu erleichtern;
|
||||
|
||||
|
||||
g)dass die Verfahren, Prozesse und administrativen Anforderungen für die Antragstellung, die Auswahl, die Beteiligung
|
||||
und den Ausstieg aus dem KI-Reallabor einfach, leicht verständlich und klar kommuniziert sind, um die Beteiligung von
|
||||
KMU, einschließlich Start-up-Unternehmen, mit begrenzten rechtlichen und administrativen Kapazitäten zu erleichtern,
|
||||
sowie unionsweit gestrafft sind, um eine Zersplitterung zu vermeiden, und dass die Beteiligung an einem von einem
|
||||
Mitgliedstaat oder dem Europäischen Datenschutzbeauftragten eingerichteten KI-Reallabor gegenseitig und einheitlich
|
||||
anerkannt wird und in der gesamten Union die gleiche Rechtswirkung hat;
|
||||
|
||||
|
||||
h)dass die Beteiligung an dem KI-Reallabor auf einen der Komplexität und dem Umfang des Projekts entsprechenden
|
||||
Zeitraum beschränkt ist, der von der zuständigen nationalen Behörde verlängert werden kann;
|
||||
|
||||
|
||||
i) dass die KI-Reallabore die Entwicklung von Instrumenten und Infrastruktur für das Testen, das Benchmarking, die
|
||||
Bewertung und die Erklärung der Dimensionen von KI-Systemen erleichtern, die für das regulatorische Lernen
|
||||
Bedeutung sind, wie etwa Genauigkeit, Robustheit und Cybersicherheit, sowie Maßnahmen zur Risikominderung im
|
||||
Hinblick auf die Grundrechte und die Gesellschaft als Ganzes fördern.
|
||||
|
||||
|
||||
(3) Zukünftige Anbieter in den KI-Reallaboren, insbesondere KMU und Start-up-Unternehmen, werden gegebenenfalls
|
||||
vor der Einrichtung an Dienste verwiesen, die beispielsweise eine Anleitung zur Umsetzung dieser Verordnung oder andere
|
||||
Mehrwertdienste wie Hilfe bei Normungsdokumenten bereitstellen, sowie an Zertifizierungs-, Test- und Versuchsein-
|
||||
richtungen, europäische digitale Innovationszentren und Exzellenzzentren.
|
||||
|
||||
# DE ABl. L vom 12.7.
|
||||
|
||||
90/144 ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj)
|
||||
|
||||
|
||||
|
||||
(4) Wenn zuständige nationale Behörden in Betracht ziehen, Tests unter Realbedingungen zu genehmigen, die im
|
||||
Rahmen eines KI-Reallabors beaufsichtigt werden, welches nach diesem Artikel einzurichten ist, vereinbaren sie mit den
|
||||
Beteiligten ausdrücklich die Anforderungen und Bedingungen für diese Tests und insbesondere geeignete Schutzvor-
|
||||
kehrungen für Grundrechte, Gesundheit und Sicherheit. Gegebenenfalls arbeiten sie mit anderen zuständigen nationalen
|
||||
Behörden zusammen, um für unionsweit einheitliche Verfahren zu sorgen.
|
||||
|
||||
|
||||
Artikel 59
|
||||
|
||||
|
||||
Weiterverarbeitung personenbezogener Daten zur Entwicklung bestimmter KI-Systeme im öffentlichen Interesse
|
||||
im KI-Reallabor
|
||||
|
||||
|
||||
(1) Rechtmäßig für andere Zwecke erhobene personenbezogene Daten dürfen im KI-Reallabor ausschließlich für die
|
||||
Zwecke der Entwicklung, des Trainings und des Testens bestimmter KI-Systeme im Reallabor verarbeitet werden, wenn alle
|
||||
der folgenden Bedingungen erfüllt sind:
|
||||
|
||||
|
||||
a)Die KI-Systeme werden zur Wahrung eines erheblichen öffentlichen Interesses durch eine Behörde oder eine andere
|
||||
natürliche oder juristische Person und in einem oder mehreren der folgenden Bereiche entwickelt:
|
||||
|
||||
|
||||
i)öffentliche Sicherheit und öffentliche Gesundheit, einschließlich Erkennung, Diagnose, Verhütung, Bekämpfung und
|
||||
Behandlung von Krankheiten sowie Verbesserung von Gesundheitsversorgungssystemen;
|
||||
|
||||
|
||||
ii)hohes Umweltschutzniveau und Verbesserung der Umweltqualität, Schutz der biologischen Vielfalt, Schutz gegen
|
||||
Umweltverschmutzung, Maßnahmen für den grünen Wandel sowie Klimaschutz und Anpassung an den
|
||||
Klimawandel;
|
||||
|
||||
|
||||
iii)nachhaltige Energie;
|
||||
|
||||
|
||||
iv)Sicherheit und Widerstandsfähigkeit von Verkehrssystemen und Mobilität, kritischen Infrastrukturen und Netzen;
|
||||
|
||||
|
||||
v)Effizienz und Qualität der öffentlichen Verwaltung und öffentlicher Dienste;
|
||||
|
||||
|
||||
b)die verarbeiteten Daten sind für die Erfüllung einer oder mehrerer der in Kapitel III Abschnitt 2 genannten
|
||||
Anforderungen erforderlich, sofern diese Anforderungen durch die Verarbeitung anonymisierter, synthetischer oder
|
||||
sonstiger nicht personenbezogener Daten nicht wirksam erfüllt werden können;
|
||||
|
||||
|
||||
c) es bestehen wirksame Überwachungsmechanismen, mit deren Hilfe festgestellt wird, ob während der Reallaborversuche
|
||||
hohe Risiken für die Rechte und Freiheiten betroffener Personen gemäß Artikel 35 der Verordnung (EU) 2016/679 und
|
||||
gemäß Artikel 39 der Verordnung (EU) 2018/1725 auftreten können, sowie Reaktionsmechanismen, mit deren Hilfe
|
||||
diese Risiken umgehend eingedämmt werden können und die Verarbeitung bei Bedarf beendet werden kann;
|
||||
|
||||
|
||||
d)personenbezogene Daten, die im Rahmen des Reallabors verarbeitet werden sollen, befinden sich in einer funktional
|
||||
getrennten, isolierten und geschützten Datenverarbeitungsumgebung unter der Kontrolle des zukünftigen Anbieters, und
|
||||
nur befugte Personen haben Zugriff auf diese Daten;
|
||||
|
||||
|
||||
e) Anbieter dürfen die ursprünglich erhobenen Daten nur im Einklang mit dem Datenschutzrecht der Union weitergeben;
|
||||
personenbezogene Daten, die im Reallabor erstellt wurden, dürfen nicht außerhalb des Reallabors weitergegeben werden;
|
||||
|
||||
|
||||
f) eine Verarbeitung personenbezogener Daten im Rahmen des Reallabors führt zu keinen Maßnahmen oder
|
||||
Entscheidungen, die Auswirkungen auf die betroffenen Personen haben, und berührt nicht die Anwendung ihrer
|
||||
Rechte, die in den Rechtsvorschriften der Union über den Schutz personenbezogener Daten festgelegt sind;
|
||||
|
||||
|
||||
g)im Rahmen des Reallabors verarbeitete personenbezogene Daten sind durch geeignete technische und organisatorische
|
||||
Maßnahmen geschützt und werden gelöscht, sobald die Beteiligung an dem Reallabor endet oder das Ende der
|
||||
Speicherfrist für die personenbezogenen Daten erreicht ist;
|
||||
|
||||
|
||||
h)die Protokolle der Verarbeitung personenbezogener Daten im Rahmen des Reallabors werden für die Dauer der
|
||||
Beteiligung am Reallabor aufbewahrt, es sei denn, im Unionsrecht oder nationalen Recht ist etwas anderes bestimmt;
|
||||
|
||||
|
||||
i) eine vollständige und detaillierte Beschreibung des Prozesses und der Gründe für das Trainieren, Testen und Validieren
|
||||
des KI-Systems wird zusammen mit den Testergebnissen als Teil der technischen Dokumentation gemäß Anhang IV
|
||||
aufbewahrt;
|
||||
|
||||
# ABl. L vom 12.7.2024 DE
|
||||
|
||||
ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj) 91/
|
||||
|
||||
|
||||
|
||||
j) eine kurze Zusammenfassung des im Reallabor entwickelten KI-Projekts, seiner Ziele und der erwarteten Ergebnisse wird
|
||||
auf der Website der zuständigen Behörden veröffentlicht; diese Pflicht erstreckt sich nicht auf sensible operative Daten zu
|
||||
den Tätigkeiten von Strafverfolgungs-, Grenzschutz-, Einwanderungs- oder Asylbehörden.
|
||||
|
||||
|
||||
(2) Für die Zwecke der Verhütung, Ermittlung, Aufdeckung oder Verfolgung von Straftaten oder der Strafvollstrek-
|
||||
kung — einschließlich des Schutzes vor und der Abwehr von Gefahren für die öffentliche Sicherheit — unter der Kontrolle
|
||||
und Verantwortung der Strafverfolgungsbehörden erfolgt die Verarbeitung personenbezogener Daten in KI-Reallaboren auf
|
||||
der Grundlage eines spezifischen Unionsrechts oder nationalen Rechts und unterliegt den kumulativen Bedingungen des
|
||||
Absatzes 1.
|
||||
|
||||
|
||||
(3) Das Unionsrecht oder nationale Recht, das die Verarbeitung personenbezogener Daten für andere Zwecke als die
|
||||
ausdrücklich in jenem Recht genannten ausschließt, sowie Unionsrecht oder nationales Recht, in dem die Grundlagen für
|
||||
eine für die Zwecke der Entwicklung, des Testens oder des Trainings innovativer KI-Systeme notwendige Verarbeitung
|
||||
personenbezogener Daten festgelegt sind, oder jegliche anderen dem Unionsrecht zum Schutz personenbezogener Daten
|
||||
entsprechenden Rechtsgrundlagen bleiben von Absatz 1 unberührt.
|
||||
|
||||
|
||||
Artikel 60
|
||||
|
||||
|
||||
Tests von Hochrisiko-KI-Systemen unter Realbedingungen außerhalb von KI-Reallaboren
|
||||
|
||||
|
||||
(1) Tests von Hochrisiko-KI-Systemen unter Realbedingungen können von Anbietern oder zukünftigen Anbietern von in
|
||||
Anhang III aufgeführten Hochrisiko-KI-Systemen außerhalb von KI-Reallaboren gemäß diesem Artikel und — unbeschadet
|
||||
der Bestimmungen unter Artikel 5 — dem in diesem Artikel genannten Plan für einen Test unter Realbedingungen
|
||||
durchgeführt werden.
|
||||
|
||||
|
||||
Die Kommission legt die einzelnen Elemente des Plans für einen Test unter Realbedingungen im Wege von
|
||||
Durchführungsrechtsakten fest. Diese Durchführungsrechtsakte werden gemäß dem in Artikel 98 Absatz 2 genannten
|
||||
Prüfverfahren erlassen.
|
||||
|
||||
|
||||
Das Unionsrecht oder nationale Recht für das Testen von Hochrisiko-KI-Systemen unter Realbedingungen im
|
||||
Zusammenhang mit Produkten, die unter die in Anhang I aufgeführten Harmonisierungsrechtsvorschriften der Union
|
||||
fallen, bleibt von dieser Bestimmung unberührt.
|
||||
|
||||
|
||||
(2) Anbieter oder zukünftige Anbieter können in Anhang III genannte Hochrisiko-KI-Systeme vor deren
|
||||
Inverkehrbringen oder Inbetriebnahme jederzeit selbst oder in Partnerschaft mit einem oder mehreren Betreibern oder
|
||||
zukünftigen Betreibern unter Realbedingungen testen.
|
||||
|
||||
|
||||
(3) Tests von KI-Systemen unter Realbedingungen gemäß diesem Artikel lassen nach dem Unionsrecht oder dem
|
||||
nationalen Recht gegebenenfalls vorgeschriebene Ethikprüfungen unberührt.
|
||||
|
||||
|
||||
(4) Tests unter Realbedingungen dürfen von Anbietern oder zukünftigen Anbietern nur durchgeführt werden, wenn alle
|
||||
der folgenden Bedingungen erfüllt sind:
|
||||
|
||||
|
||||
a)Der Anbieter oder der zukünftige Anbieter hat einen Plan für einen Test unter Realbedingungen erstellt und diesen bei
|
||||
der Marktüberwachungsbehörde in dem Mitgliedstaat eingereicht, in dem der Test unter Realbedingungen stattfinden
|
||||
soll;
|
||||
|
||||
|
||||
b)die Marktüberwachungsbehörde in dem Mitgliedstaat, in dem der Test unter Realbedingungen stattfinden soll, hat den
|
||||
Test unter Realbedingungen und den Plan für einen Test unter Realbedingungen genehmigt; hat die Marktüber-
|
||||
wachungsbehörde innerhalb von 30 Tagen keine Antwort gegeben, so gelten der Test unter Realbedingungen und der
|
||||
Plan für einen Test unter Realbedingungen als genehmigt; ist im nationalen Recht keine stillschweigende Genehmigung
|
||||
vorgesehen, so bleibt der Test unter Realbedingungen genehmigungspflichtig;
|
||||
|
||||
|
||||
c) der Anbieter oder zukünftige Anbieter, mit Ausnahme der in Anhang III Nummern 1, 6 und 7 genannten Anbieter oder
|
||||
zukünftigen Anbieter von Hochrisiko-KI-Systemen in den Bereichen Strafverfolgung, Migration, Asyl und Grenzkon-
|
||||
trolle und der in Anhang III Nummer 2 genannten Hochrisiko-KI-Systeme, hat den Test unter Realbedingungen unter
|
||||
Angabe einer unionsweit einmaligen Identifizierungsnummer und der in Anhang IX festgelegten Informationen gemäß
|
||||
Artikel 71 Absatz 4 registriert; der Anbieter oder zukünftige Anbieter von Hochrisiko-KI-Systemen gemäß Anhang III
|
||||
Nummern 1, 6 und 7 in den Bereichen Strafverfolgung, Migration, Asyl und Grenzkontrollmanagement hat die Tests
|
||||
unter Realbedingungen im sicheren nicht öffentlichen Teil der EU-Datenbank gemäß Artikel 49 Absatz 4 Buchstabe d
|
||||
mit einer unionsweit einmaligen Identifizierungsnummer und den darin festgelegten Informationen registriert; der
|
||||
Anbieter oder zukünftige Anbieter von Hochrisiko-KI-Systemen gemäß Anhang III Nummer 2 hat die Tests unter
|
||||
Realbedingungen gemäß Artikel 49 Absatz 5 registriert;
|
||||
|
||||
# DE ABl. L vom 12.7.
|
||||
|
||||
92/144 ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj)
|
||||
|
||||
|
||||
|
||||
d)der Anbieter oder der zukünftige Anbieter, der den Test unter Realbedingungen durchführt, ist in der Union
|
||||
niedergelassen oder hat einen in der Union niedergelassenen gesetzlichen Vertreter bestellt;
|
||||
|
||||
|
||||
e) die für die Zwecke des Tests unter Realbedingungen erhobenen und verarbeiteten Daten werden nur dann an Drittländer
|
||||
übermittelt, wenn gemäß Unionsrecht geeignete und anwendbare Schutzvorkehrungen greifen;
|
||||
|
||||
|
||||
f) der Test unter Realbedingungen dauert nicht länger als zur Erfüllung seiner Zielsetzungen nötig und in keinem Fall
|
||||
länger als sechs Monate; dieser Zeitraum kann um weitere sechs Monate verlängert werden, sofern der Anbieter oder der
|
||||
zukünftige Anbieter die Marktüberwachungsbehörde davon vorab in Kenntnis setzt und erläutert, warum eine solche
|
||||
Verlängerung erforderlich ist;
|
||||
|
||||
|
||||
g)Testteilnehmer im Rahmen von Tests unter Realbedingungen, die aufgrund ihres Alters oder einer Behinderung
|
||||
schutzbedürftigen Gruppen angehören, sind angemessen geschützt;
|
||||
|
||||
|
||||
h)wenn ein Anbieter oder zukünftiger Anbieter den Test unter Realbedingungen in Zusammenarbeit mit einem oder
|
||||
mehreren Betreibern oder zukünftigen Betreibern organisiert, werden Letztere vorab über alle für ihre Teilnahmeent-
|
||||
scheidung relevanten Aspekte des Tests informiert und erhalten die einschlägigen in Artikel 13 genannten
|
||||
Betriebsanleitungen für das KI-System; der Anbieter oder zukünftige Anbieter und der Betreiber oder zukünftige
|
||||
Betreiber schließen eine Vereinbarung, in der ihre Aufgaben und Zuständigkeiten festgelegt sind, um für die Einhaltung
|
||||
der nach dieser Verordnung und anderem Unionsrecht und nationalem Recht für Tests unter Realbedingungen geltenden
|
||||
Bestimmungen zu sorgen;
|
||||
|
||||
|
||||
i) die Testteilnehmer im Rahmen von Tests unter Realbedingungen erteilen ihre informierte Einwilligung gemäß Artikel 61,
|
||||
oder, wenn im Fall der Strafverfolgung die Einholung einer informierten Einwilligung den Test des KI-Systems verhindern
|
||||
würde, dürfen sich der Test und die Ergebnisse des Tests unter Realbedingungen nicht negativ auf die Testteilnehmer
|
||||
auswirken und ihre personenbezogenen Daten werden nach Durchführung des Tests gelöscht;
|
||||
|
||||
|
||||
j) der Anbieter oder zukünftige Anbieter und die Betreiber und zukünftigen Betreiber lassen den Test unter
|
||||
Realbedingungen von Personen wirksam überwachen, die auf dem betreffenden Gebiet angemessen qualifiziert sind
|
||||
und über die Fähigkeit, Ausbildung und Befugnis verfügen, die für die Wahrnehmung ihrer Aufgaben erforderlich sind;
|
||||
|
||||
|
||||
k)die Vorhersagen, Empfehlungen oder Entscheidungen des KI-Systems können effektiv rückgängig gemacht und außer
|
||||
Acht gelassen werden.
|
||||
|
||||
|
||||
(5) Jeder Testteilnehmer bezüglich des Tests unter Realbedingungen oder gegebenenfalls dessen gesetzlicher Vertreter
|
||||
kann seine Teilnahme an dem Test jederzeit durch Widerruf seiner informierten Einwilligung beenden und die
|
||||
unverzügliche und dauerhafte Löschung seiner personenbezogenen Daten verlangen, ohne dass ihm daraus Nachteile
|
||||
entstehen und er dies in irgendeiner Weise begründen müsste. Der Widerruf der informierten Einwilligung wirkt sich nicht
|
||||
auf bereits durchgeführte Tätigkeiten aus.
|
||||
|
||||
|
||||
(6) Im Einklang mit Artikel 75 übertragen die Mitgliedstaaten ihren Marktüberwachungsbehörden die Befugnis, Anbieter
|
||||
und zukünftige Anbieter zur Bereitstellung von Informationen zu verpflichten, unangekündigte Ferninspektionen oder
|
||||
Vor-Ort-Inspektionen durchzuführen und die Durchführung der Tests unter Realbedingungen und damit zusammen-
|
||||
hängende Hochrisiko-KI-Systeme zu prüfen. Die Marktüberwachungsbehörden nutzen diese Befugnisse, um für die sichere
|
||||
Entwicklung von Tests unter Realbedingungen zu sorgen.
|
||||
|
||||
|
||||
(7) Jegliche schwerwiegenden Vorfälle im Verlauf des Tests unter Realbedingungen sind den nationalen Marktüber-
|
||||
wachungsbehörden gemäß Artikel 73 zu melden. Der Anbieter oder zukünftige Anbieter trifft Sofortmaßnahmen zur
|
||||
Schadensbegrenzung; andernfalls setzt er den Test unter Realbedingungen so lange aus, bis eine Schadensbegrenzung
|
||||
stattgefunden hat, oder bricht ihn ab. Im Fall eines solchen Abbruchs des Tests unter Realbedingungen richtet der Anbieter
|
||||
oder zukünftige Anbieter ein Verfahren für den sofortigen Rückruf des KI-Systems ein.
|
||||
|
||||
|
||||
(8) Anbieter oder zukünftige Anbieter setzen die nationalen Marktüberwachungsbehörde in dem Mitgliedstaat, in dem
|
||||
der Test unter Realbedingungen stattfindet, über die Aussetzung oder den Abbruch des Tests unter Realbedingungen und
|
||||
die Endergebnisse in Kenntnis.
|
||||
|
||||
|
||||
(9) Anbieter oder zukünftige Anbieter sind nach geltendem Recht der Union und geltendem nationalen Recht für
|
||||
Schäden haftbar, die während ihrer Tests unter Realbedingungen entstehen.
|
||||
|
||||
# ABl. L vom 12.7.2024 DE
|
||||
|
||||
ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj) 93/
|
||||
|
||||
|
||||
|
||||
Artikel 61
|
||||
|
||||
|
||||
Informierte Einwilligung zur Teilnahme an einem Test unter Realbedingungen außerhalb von KI-Reallaboren
|
||||
|
||||
|
||||
(1) Für die Zwecke von Tests unter Realbedingungen gemäß Artikel 60 ist von den Testteilnehmern eine freiwillig erteilte
|
||||
informierte Einwilligung einzuholen, bevor sie an dem Test teilnehmen und nachdem sie mit präzisen, klaren, relevanten
|
||||
und verständlichen Informationen über Folgendes ordnungsgemäß informiert wurden:
|
||||
|
||||
|
||||
a)die Art und die Zielsetzungen des Tests unter Realbedingungen und etwaige mit ihrer Teilnahme verbundene
|
||||
Unannehmlichkeiten;
|
||||
|
||||
|
||||
b)die Bedingungen, unter denen der Test unter Realbedingungen erfolgen soll, einschließlich der voraussichtlichen Dauer
|
||||
der Teilnahme des Testteilnehmers oder der Testteilnehmer;
|
||||
|
||||
|
||||
c) ihre Rechte und Garantien, die ihnen bezüglich ihrer Teilnahme zustehen, insbesondere ihr Recht, die Teilnahme an dem
|
||||
Test unter Realbedingungen zu verweigern oder diese Teilnahme jederzeit zu beenden, ohne dass ihnen daraus Nachteile
|
||||
entstehen und sie dies in irgendeiner Weise begründen müssten;
|
||||
|
||||
|
||||
d)die Regelungen, unter denen die Rückgängigmachung oder Außerachtlassung der Vorhersagen, Empfehlungen oder
|
||||
Entscheidungen des KI-Systems beantragt werden kann;
|
||||
|
||||
|
||||
e) die unionsweit einmalige Identifizierungsnummer des Tests unter Realbedingungen gemäß Artikel 60 Absatz 4
|
||||
Buchstabe c und die Kontaktdaten des Anbieters oder seines gesetzlichen Vertreters, bei dem weitere Informationen
|
||||
eingeholt werden können.
|
||||
|
||||
|
||||
(2) Die informierte Einwilligung ist zu datieren und zu dokumentieren, und eine Kopie wird den Testteilnehmern oder
|
||||
ihren gesetzlichen Vertretern ausgehändigt.
|
||||
|
||||
|
||||
Artikel 62
|
||||
|
||||
|
||||
Maßnahmen für Anbieter und Betreiber, insbesondere KMU, einschließlich Start-up-Unternehmen
|
||||
|
||||
|
||||
(1) Die Mitgliedstaaten ergreifen die folgenden Maßnahmen:
|
||||
|
||||
|
||||
a)Sie gewähren KMU — einschließlich Start-up-Unternehmen —, die ihren Sitz oder eine Zweigniederlassung in der Union
|
||||
haben, soweit sie die Voraussetzungen und Auswahlkriterien erfüllen, vorrangigen Zugang zu den KI-Reallaboren; der
|
||||
vorrangige Zugang schließt nicht aus, dass andere als die in diesem Absatz genannten KMU, einschließlich
|
||||
Start-up-Unternehmen, Zugang zum KI-Reallabor erhalten, sofern sie ebenfalls die Zulassungsvoraussetzungen und
|
||||
Auswahlkriterien erfüllen;
|
||||
|
||||
|
||||
b)sie führen besondere Sensibilisierungs- und Schulungsmaßnahmen für die Anwendung dieser Verordnung durch, die auf
|
||||
die Bedürfnisse von KMU, einschließlich Start-up-Unternehmen, Betreibern sowie gegebenenfalls lokalen Behörden
|
||||
ausgerichtet sind;
|
||||
|
||||
|
||||
c) sie nutzen entsprechende bestehende Kanäle und richten gegebenenfalls neue Kanäle für die Kommunikation mit KMU,
|
||||
einschließlich Start-up-Unternehmen, Betreibern, anderen Innovatoren sowie gegebenenfalls lokalen Behörden ein, um
|
||||
Ratschläge zu geben und Fragen zur Durchführung dieser Verordnung, auch bezüglich der Beteiligung an KI-Reallaboren,
|
||||
zu beantworten;
|
||||
|
||||
|
||||
d)sie fördern die Beteiligung von KMU und anderen einschlägigen Interessenträgern an der Entwicklung von Normen.
|
||||
|
||||
|
||||
(2) Bei der Festsetzung der Gebühren für die Konformitätsbewertung gemäß Artikel 43 werden die besonderen
|
||||
Interessen und Bedürfnisse von KMU, einschließlich Start-up-Unternehmen, berücksichtigt, indem diese Gebühren
|
||||
proportional zur Größe der Unternehmen, der Größe ihres Marktes und anderen einschlägigen Kennzahlen gesenkt werden.
|
||||
|
||||
|
||||
(3) Das Büro für Künstliche Intelligenz ergreift die folgenden Maßnahmen:
|
||||
|
||||
|
||||
a)es stellt standardisierte Muster für die unter diese Verordnung fallenden Bereiche bereit, wie vom KI-Gremium in seinem
|
||||
Antrag festgelegt;
|
||||
|
||||
|
||||
b)es entwickelt und führt eine zentrale Informationsplattform, über die allen Akteuren in der Union leicht nutzbare
|
||||
Informationen zu dieser Verordnung bereitgestellt werden;
|
||||
|
||||
# DE ABl. L vom 12.7.
|
||||
|
||||
94/144 ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj)
|
||||
|
||||
c) es führt geeignete Informationskampagnen durch, um für die aus dieser Verordnung erwachsenden Pflichten zu
|
||||
sensibilisieren;
|
||||
|
||||
|
||||
d)es bewertet und fördert die Zusammenführung bewährter Verfahren im Bereich der mit KI-Systemen verbundenen
|
||||
Vergabeverfahren.
|
||||
|
||||
|
||||
Artikel 63
|
||||
|
||||
|
||||
Ausnahmen für bestimmte Akteure
|
||||
|
||||
|
||||
(1) Kleinstunternehmen im Sinne der Empfehlung 2003/361/EG können bestimmte Elemente des in Artikel 17 dieser
|
||||
Verordnung vorgeschriebenen Qualitätsmanagementsystems in vereinfachter Weise einhalten, sofern sie keine
|
||||
Partnerunternehmen oder verbundenen Unternehmen im Sinne dieser Empfehlung haben. Zu diesem Zweck arbeitet die
|
||||
Kommission Leitlinien zu den Elementen des Qualitätsmanagementsystems aus, die unter Berücksichtigung der Bedürfnisse
|
||||
von Kleinstunternehmen in vereinfachter Weise eingehalten werden können, ohne das Schutzniveau oder die Notwendigkeit
|
||||
zur Einhaltung der Anforderungen in Bezug auf Hochrisiko-KI-Systeme zu beeinträchtigen.
|
||||
|
||||
|
||||
(2) Absatz 1 dieses Artikels ist nicht dahin gehend auszulegen, dass diese Akteure auch von anderen in dieser
|
||||
Verordnung festgelegten Anforderungen oder Pflichten, einschließlich der nach den Artikeln 9, 10, 11, 12, 13, 14, 15, 72
|
||||
und 73 geltenden, befreit sind.
|
||||
|
||||
|
||||
|
||||
|
||||
@@ -0,0 +1,442 @@
|
||||
KAPITEL VII
|
||||
GOVERNANCE
|
||||
|
||||
|
||||
ABSCHNITT 1
|
||||
|
||||
|
||||
Governance auf Unionsebene
|
||||
|
||||
|
||||
Artikel 64
|
||||
|
||||
|
||||
Büro für Künstliche Intelligenz
|
||||
|
||||
|
||||
(1) Die Kommission entwickelt über das Büro für Künstliche Intelligenz die Sachkenntnis und Fähigkeiten der Union auf
|
||||
dem Gebiet der KI.
|
||||
|
||||
|
||||
(2) Die Mitgliedstaaten erleichtern dem Büro für Künstliche Intelligenz die ihm gemäß dieser Verordnung übertragenen
|
||||
Aufgaben.
|
||||
|
||||
|
||||
Artikel 65
|
||||
|
||||
|
||||
Einrichtung und Struktur des Europäischen Gremiums für Künstliche Intelligenz
|
||||
|
||||
|
||||
(1) Ein Europäisches Gremium für Künstliche Intelligenz (im Folgenden „KI-Gremium“) wird hiermit eingerichtet.
|
||||
|
||||
|
||||
(2) Das KI-Gremium setzt sich aus einem Vertreter je Mitgliedstaat zusammen. Der Europäische Datenschutzbeauftragte
|
||||
nimmt als Beobachter teil. Das Büro für Künstliche Intelligenz nimmt ebenfalls an den Sitzungen des KI-Gremiums teil,
|
||||
ohne sich jedoch an den Abstimmungen zu beteiligen. Andere Behörden oder Stellen der Mitgliedstaaten und der Union
|
||||
oder Sachverständige können im Einzelfall zu den Sitzungen des KI-Gremiums eingeladen werden, wenn die erörterten
|
||||
Fragen für sie von Belang sind.
|
||||
|
||||
|
||||
(3) Die Vertreter werden von ihren Mitgliedstaaten für einen Zeitraum von drei Jahren benannt, der einmal verlängert
|
||||
werden kann.
|
||||
|
||||
|
||||
(4) Die Mitgliedstaaten sorgen dafür, dass ihre Vertreter im KI-Gremium
|
||||
|
||||
|
||||
a)in ihrem Mitgliedstaat über die einschlägigen Kompetenzen und Befugnisse verfügen, sodass sie aktiv zur Bewältigung
|
||||
der in Artikel 66 genannten Aufgaben des KI-Gremiums beitragen können;
|
||||
|
||||
|
||||
b)gegenüber dem KI-Gremium sowie gegebenenfalls, unter Berücksichtigung der Erfordernisse der Mitgliedstaaten,
|
||||
gegenüber Interessenträgern als zentrale Ansprechpartner fungieren;
|
||||
|
||||
# ABl. L vom 12.7.2024 DE
|
||||
|
||||
ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj) 95/
|
||||
|
||||
|
||||
|
||||
c) ermächtigt sind, auf die Kohärenz und die Abstimmung zwischen den zuständigen nationalen Behörden in ihrem
|
||||
Mitgliedstaat bei der Durchführung dieser Verordnung hinzuwirken, auch durch Erhebung einschlägiger Daten und
|
||||
Informationen für die Zwecke der Erfüllung ihrer Aufgaben im KI-Gremium.
|
||||
|
||||
|
||||
(5) Die benannten Vertreter der Mitgliedstaaten nehmen die Geschäftsordnung des KI-Gremiums mit einer
|
||||
Zweidrittelmehrheit an. In der Geschäftsordnung sind insbesondere die Vorgehensweise für das Auswahlverfahren, die
|
||||
Dauer des Mandats und die genauen Aufgaben des Vorsitzes, die Abstimmungsregelungen und die Organisation der
|
||||
Tätigkeiten des KI-Gremiums und seiner Untergruppen festgelegt.
|
||||
|
||||
|
||||
(6) Das KI-Gremium richtet zwei ständige Untergruppen ein, um Marktüberwachungsbehörden eine Plattform für die
|
||||
Zusammenarbeit und den Austausch zu bieten und Behörden über Angelegenheiten, die jeweils die Marktüberwachung und
|
||||
notifizierte Stellen betreffen, zu unterrichten.
|
||||
|
||||
|
||||
Die ständige Untergruppe für Marktüberwachung sollte für diese Verordnung als Gruppe für die Verwaltungs-
|
||||
zusammenarbeit (ADCO-Gruppe) im Sinne des Artikels 30 der Verordnung (EU) 2019/1020 fungieren.
|
||||
|
||||
|
||||
Das KI-Gremium kann weitere ständige oder nichtständige Untergruppen einrichten, falls das für die Prüfung bestimmter
|
||||
Fragen zweckmäßig sein sollte. Gegebenenfalls können Vertreter des in Artikel 67 genannten Beratungsforums als
|
||||
Beobachter zu diesen Untergruppen oder zu bestimmten Sitzungen dieser Untergruppen eingeladen werden.
|
||||
|
||||
|
||||
(7) Das KI-Gremium wird so organisiert und geführt, dass bei seinen Tätigkeiten Objektivität und Unparteilichkeit
|
||||
gewahrt sind.
|
||||
|
||||
|
||||
(8) Den Vorsitz im KI-Gremium führt einer der Vertreter der Mitgliedstaaten. Die Sekretariatsgeschäfte des KI-Gremiums
|
||||
werden vom Büro für Künstliche Intelligenz geführt; dieses beruft auf Anfrage des Vorsitzes die Sitzungen ein und erstellt
|
||||
die Tagesordnung im Einklang mit den Aufgaben des KI-Gremiums gemäß dieser Verordnung und seiner Geschäftsordnung.
|
||||
|
||||
|
||||
Artikel 66
|
||||
|
||||
|
||||
Aufgaben des KI-Gremiums
|
||||
|
||||
|
||||
Das KI-Gremium berät und unterstützt die Kommission und die Mitgliedstaaten, um die einheitliche und wirksame
|
||||
Anwendung dieser Verordnung zu erleichtern. Für diese Zwecke kann das KI-Gremium insbesondere
|
||||
|
||||
|
||||
a) zur Koordinierung zwischen den für die Anwendung dieser Verordnung zuständigen nationalen Behörden beitragen
|
||||
und in Zusammenarbeit mit den betreffenden Marktüberwachungsbehörden und vorbehaltlich ihrer Zustimmung
|
||||
gemeinsame Tätigkeiten der Marktüberwachungsbehörden gemäß Artikel 74 Absatz 11 unterstützen;
|
||||
|
||||
|
||||
b) technisches und regulatorisches Fachwissen und bewährte Verfahren zusammentragen und unter den Mitgliedstaaten
|
||||
verbreiten;
|
||||
|
||||
|
||||
c) zur Durchführung dieser Verordnung Beratung anbieten, insbesondere im Hinblick auf die Durchsetzung der
|
||||
Vorschriften zu KI-Modellen mit allgemeinem Verwendungszweck;
|
||||
|
||||
|
||||
d) zur Harmonisierung der Verwaltungspraxis in den Mitgliedstaaten beitragen, auch bezüglich der Ausnahme vom
|
||||
Konformitätsbewertungsverfahren gemäß Artikel 46 und der Funktionsweise von KI-Reallaboren und Tests unter
|
||||
Realbedingungen gemäß den Artikeln 57, 59 und 60;
|
||||
|
||||
|
||||
e) auf Anfrage der Kommission oder in Eigeninitiative Empfehlungen und schriftliche Stellungnahmen zu einschlägigen
|
||||
Fragen der Durchführung dieser Verordnung und ihrer einheitlichen und wirksamen Anwendung abgeben,
|
||||
einschließlich
|
||||
|
||||
|
||||
i)zur Entwicklung und Anwendung von Verhaltenskodizes und Praxisleitfäden gemäß dieser Verordnung sowie der
|
||||
Leitlinien der Kommission;
|
||||
|
||||
|
||||
ii)zur Bewertung und Überprüfung dieser Verordnung gemäß Artikel 112, auch in Bezug auf die Meldung
|
||||
schwerwiegender Vorfälle gemäß Artikel 73 und das Funktionieren der EU-Datenbank gemäß Artikel 71, die
|
||||
Ausarbeitung der delegierten Rechtsakte oder Durchführungsrechtsakte sowie im Hinblick auf mögliche
|
||||
Anpassungen dieser Verordnung an die in Anhang I aufgeführten Harmonisierungsrechtsvorschriften der Union;
|
||||
|
||||
|
||||
iii)zu technischen Spezifikationen oder geltenden Normen in Bezug auf die in Kapitel III Abschnitt 2 festgelegten
|
||||
Anforderungen;
|
||||
|
||||
# DE ABl. L vom 12.7.
|
||||
|
||||
96/144 ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj)
|
||||
|
||||
|
||||
|
||||
iv)zur Anwendung der in den Artikeln 40 und 41 genannten harmonisierten Normen oder gemeinsamen
|
||||
Spezifikationen;
|
||||
|
||||
|
||||
v)zu Tendenzen, etwa im Bereich der globalen Wettbewerbsfähigkeit Europas auf dem Gebiet der KI, bei der
|
||||
Verbreitung von KI in der Union und bei der Entwicklung digitaler Fähigkeiten;
|
||||
|
||||
|
||||
vi)zu Tendenzen im Bereich der sich ständig weiterentwickelnden Typologie der KI-Wertschöpfungsketten
|
||||
insbesondere hinsichtlich der sich daraus ergebenden Auswirkungen auf die Rechenschaftspflicht;
|
||||
|
||||
|
||||
vii)zur möglicherweise notwendigen Änderung des Anhangs III im Einklang mit Artikel 7 und zur möglicherweise
|
||||
notwendigen Überarbeitung des Artikels 5 gemäß Artikel 112 unter Berücksichtigung der einschlägigen
|
||||
verfügbaren Erkenntnisse und der neuesten technologischen Entwicklungen;
|
||||
|
||||
|
||||
f) die Kommission bei der Förderung der KI-Kompetenz, der Sensibilisierung und Aufklärung der Öffentlichkeit in Bezug
|
||||
auf die Vorteile, Risiken, Schutzmaßnahmen, Rechte und Pflichten im Zusammenhang mit der Nutzung von
|
||||
KI-Systemen unterstützen;
|
||||
|
||||
|
||||
g) die Entwicklung gemeinsamer Kriterien und eines gemeinsamen Verständnisses der Marktteilnehmer und der
|
||||
zuständigen Behörden in Bezug auf die in dieser Verordnung vorgesehenen einschlägigen Konzepte erleichtern, auch
|
||||
durch einen Beitrag zur Entwicklung von Benchmarks;
|
||||
|
||||
|
||||
h) gegebenenfalls mit anderen Organen, Einrichtungen und sonstigen Stellen der EU, einschlägigen Sachverständigen-
|
||||
gruppen und Netzwerken der EU insbesondere in den Bereichen Produktsicherheit, Cybersicherheit, Wettbewerb,
|
||||
digitale und Mediendienste, Finanzdienstleistungen, Verbraucherschutz, Datenschutz und Schutz der Grundrechte
|
||||
zusammenarbeiten;
|
||||
|
||||
|
||||
i) zur wirksamen Zusammenarbeit mit den zuständigen Behörden von Drittstaaten und mit internationalen
|
||||
Organisationen beitragen;
|
||||
|
||||
|
||||
j) die zuständigen nationalen Behörden und die Kommission beim Aufbau des für die Durchführung dieser Verordnung
|
||||
erforderlichen organisatorischen und technischen Fachwissens beraten, unter anderem durch einen Beitrag zur
|
||||
Einschätzung des Schulungsbedarfs des Personals der Mitgliedstaaten, das an der Durchführung dieser Verordnung
|
||||
beteiligt ist;
|
||||
|
||||
|
||||
k) dem Büro für Künstliche Intelligenz helfen, die zuständigen nationalen Behörden bei der Einrichtung und Entwicklung
|
||||
von KI-Reallaboren zu unterstützen, und die Zusammenarbeit und den Informationsaustausch zwischen KI-Reallaboren
|
||||
erleichtern;
|
||||
|
||||
|
||||
l) zur Entwicklung von Leitfäden beitragen und diesbezüglich entsprechend beraten;
|
||||
|
||||
|
||||
m)die Kommission zu internationalen Angelegenheiten im Bereich der KI beraten;
|
||||
|
||||
|
||||
n) der Kommission Stellungnahmen zu qualifizierten Warnungen in Bezug auf KI-Modelle mit allgemeinem
|
||||
Verwendungszweck vorlegen;
|
||||
|
||||
|
||||
o) Stellungnahmen der Mitgliedstaaten zu qualifizierten Warnungen in Bezug auf KI-Modelle mit allgemeinem
|
||||
Verwendungszweck entgegennehmen sowie zu nationalen Erfahrungen und Praktiken bei der Überwachung und
|
||||
Durchsetzung von KI-Systemen, insbesondere von Systemen, die KI-Modelle mit allgemeinem Verwendungszweck
|
||||
integrieren.
|
||||
|
||||
|
||||
Artikel 67
|
||||
|
||||
|
||||
Beratungsforum
|
||||
|
||||
|
||||
(1) Es wird ein Beratungsforum eingerichtet, das technisches Fachwissen bereitstellt, das KI-Gremium und die
|
||||
Kommission berät und zu deren Aufgaben im Rahmen dieser Verordnung beiträgt.
|
||||
|
||||
|
||||
(2) Die Mitglieder des Beratungsforums vertreten eine ausgewogene Auswahl von Interessenträgern, darunter die
|
||||
Industrie, Start-up-Unternehmen, KMU, die Zivilgesellschaft und die Wissenschaft. Bei der Zusammensetzung des
|
||||
Beratungsforums wird auf ein ausgewogenes Verhältnis zwischen wirtschaftlichen und nicht-wirtschaftlichen Interessen und
|
||||
innerhalb der Kategorie der wirtschaftlichen Interessen zwischen KMU und anderen Unternehmen geachtet.
|
||||
|
||||
|
||||
(3) Die Kommission ernennt die Mitglieder des Beratungsforums gemäß den in Absatz 2 genannten Kriterien aus dem
|
||||
Kreis der Interessenträger mit anerkanntem Fachwissen auf dem Gebiet der KI.
|
||||
|
||||
# ABl. L vom 12.7.2024 DE
|
||||
|
||||
ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj) 97/
|
||||
|
||||
|
||||
|
||||
(4) Die Amtszeit der Mitglieder des Beratungsforums beträgt zwei Jahre; sie kann bis zu höchstens vier Jahre verlängert
|
||||
werden.
|
||||
|
||||
|
||||
(5) Die Agentur der Europäischen Union für Grundrechte, ENISA, das Europäische Komitee für Normung (CEN), das
|
||||
Europäische Komitee für elektrotechnische Normung (CENELEC) und das Europäische Institut für Telekommunikations-
|
||||
normen (ETSI) sind ständige Mitglieder des Beratungsforums.
|
||||
|
||||
|
||||
(6) Das Beratungsforum gibt sich eine Geschäftsordnung. Es wählt gemäß den in Absatz 2 festgelegten Kriterien zwei
|
||||
Ko-Vorsitzende unter seinen Mitgliedern. Die Amtszeit der Ko-Vorsitzenden beträgt zwei Jahre und kann einmal verlängert
|
||||
werden.
|
||||
|
||||
|
||||
(7) Das Beratungsforum hält mindestens zweimal pro Jahr Sitzungen ab. Das Beratungsforum kann Sachverständige und
|
||||
andere Interessenträger zu seinen Sitzungen einladen.
|
||||
|
||||
|
||||
(8) Das Beratungsforum kann auf Ersuchen des KI-Gremiums oder der Kommission Stellungnahmen, Empfehlungen und
|
||||
schriftliche Beiträge ausarbeiten.
|
||||
|
||||
|
||||
(9) Das Beratungsforum kann gegebenenfalls ständige oder zeitweilige Untergruppen einsetzen, um spezifische Fragen
|
||||
im Zusammenhang mit den Zielen dieser Verordnung zu prüfen.
|
||||
|
||||
|
||||
(10) Das Beratungsforum erstellt jährlich einen Bericht über seine Tätigkeit. Dieser Bericht wird veröffentlicht.
|
||||
|
||||
|
||||
Artikel 68
|
||||
|
||||
|
||||
Wissenschaftliches Gremium unabhängiger Sachverständiger
|
||||
|
||||
|
||||
(1) Die Kommission erlässt im Wege eines Durchführungsrechtsakts Bestimmungen über die Einrichtung eines
|
||||
wissenschaftlichen Gremiums unabhängiger Sachverständiger („wissenschaftliches Gremium“), das die Durchsetzungstätig-
|
||||
keiten im Rahmen dieser Verordnung unterstützen soll. Dieser Durchführungsrechtsakt wird gemäß dem in Artikel 98
|
||||
Absatz 2 genannten Prüfverfahren erlassen.
|
||||
|
||||
|
||||
(2) Das wissenschaftliche Gremium setzt sich aus Sachverständigen zusammen, die von der Kommission auf der
|
||||
Grundlage aktueller wissenschaftlicher oder technischer Fachkenntnisse auf dem Gebiet der KI, die zur Erfüllung der in
|
||||
Absatz 3 genannten Aufgaben erforderlich sind, ausgewählt werden, und muss nachweisen können, dass es alle folgenden
|
||||
Bedingungen erfüllt:
|
||||
|
||||
|
||||
a)es verfügt über besondere Fachkenntnisse und Kompetenzen sowie über wissenschaftliches oder technisches Fachwissen
|
||||
auf dem Gebiet der KI;
|
||||
|
||||
|
||||
b)es ist von Anbietern von KI-Systemen oder KI-Modellen mit allgemeinem Verwendungszweck unabhängig;
|
||||
|
||||
|
||||
c) es ist in der Lage, Tätigkeiten sorgfältig, präzise und objektiv auszuführen.
|
||||
|
||||
|
||||
Die Kommission legt in Absprache mit dem KI-Gremium die Anzahl der Sachverständigen des Gremiums nach Maßgabe
|
||||
der jeweiligen Erfordernisse fest und sorgt für eine ausgewogene Vertretung der Geschlechter und eine gerechte geografische
|
||||
Verteilung.
|
||||
|
||||
|
||||
(3) Das wissenschaftliche Gremium berät und unterstützt das Büro für Künstliche Intelligenz, insbesondere in Bezug auf
|
||||
folgende Aufgaben:
|
||||
|
||||
|
||||
a)Unterstützung bei der Durchführung und Durchsetzung dieser Verordnung in Bezug auf KI-Modelle und -Systeme mit
|
||||
allgemeinem Verwendungszweck, insbesondere indem es
|
||||
|
||||
|
||||
i)das Büro für Künstliche Intelligenz im Einklang mit Artikel 90 vor möglichen systemischen Risiken von KI-Modellen
|
||||
mit allgemeinem Verwendungszweck auf Unionsebene warnt;
|
||||
|
||||
|
||||
ii)einen Beitrag zur Entwicklung von Instrumenten und Methoden für die Bewertung der Fähigkeiten von KI-Modellen
|
||||
und -Systemen mit allgemeinem Verwendungszweck, auch durch Benchmarks, leistet;
|
||||
|
||||
|
||||
iii)Beratung über die Einstufung von KI-Modellen mit allgemeinem Verwendungszweck mit systemischem Risiko
|
||||
anbietet;
|
||||
|
||||
|
||||
iv)Beratung über die Einstufung verschiedener KI-Modelle und -Systeme mit allgemeinem Verwendungszweck anbietet;
|
||||
|
||||
# DE ABl. L vom 12.7.
|
||||
|
||||
98/144 ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj)
|
||||
|
||||
|
||||
|
||||
v)einen Beitrag zur Entwicklung von Instrumenten und Mustern leistet;
|
||||
|
||||
|
||||
b)Unterstützung der Arbeit der Marktüberwachungsbehörden auf deren Ersuchen;
|
||||
|
||||
|
||||
c) Unterstützung grenzüberschreitender Marktüberwachungstätigkeiten gemäß Artikel 74 Absatz 11, ohne dass die
|
||||
Befugnisse der Marktüberwachungsbehörden berührt werden;
|
||||
|
||||
|
||||
d)Unterstützung des Büros für Künstliche Intelligenz bei der Wahrnehmung seiner Aufgaben im Rahmen des
|
||||
Schutzklauselverfahrens der Union gemäß Artikel 81.
|
||||
|
||||
|
||||
(4) Die Sachverständigen des wissenschaftlichen Gremiums führen ihre Aufgaben nach den Grundsätzen der
|
||||
Unparteilichkeit und der Objektivität aus und gewährleisten die Vertraulichkeit der Informationen und Daten, in deren
|
||||
Besitz sie bei der Ausführung ihrer Aufgaben und Tätigkeiten gelangen. Sie dürfen bei der Wahrnehmung ihrer Aufgaben
|
||||
nach Absatz 3 weder Weisungen anfordern noch entgegennehmen. Jeder Sachverständige gibt eine Interessenerklärung ab,
|
||||
die öffentlich zugänglich gemacht wird. Das Büro für Künstliche Intelligenz richtet Systeme und Verfahren ein, mit denen
|
||||
mögliche Interessenkonflikte aktiv bewältigt und verhindert werden können.
|
||||
|
||||
|
||||
(5) Der in Absatz 1 genannte Durchführungsrechtsakt enthält Bestimmungen über die Bedingungen, Verfahren und
|
||||
detaillierten Regelungen nach denen das wissenschaftliche Gremium und seine Mitglieder Warnungen ausgeben und das
|
||||
Büro für Künstliche Intelligenz um Unterstützung bei der Wahrnehmung der Aufgaben des wissenschaftlichen Gremiums
|
||||
ersuchen können.
|
||||
|
||||
|
||||
Artikel 69
|
||||
|
||||
|
||||
Zugang zum Pool von Sachverständigen durch die Mitgliedstaaten
|
||||
|
||||
|
||||
(1) Die Mitgliedstaaten können Sachverständige des wissenschaftlichen Gremiums hinzuziehen, um ihre Durch-
|
||||
setzungstätigkeiten im Rahmen dieser Verordnung zu unterstützen.
|
||||
|
||||
|
||||
(2) Die Mitgliedstaaten können verpflichtet werden, für die Beratung und Unterstützung durch die Sachverständigen
|
||||
Gebühren zu entrichten. Struktur und Höhe der Gebühren sowie Umfang und Struktur erstattungsfähiger Kosten werden in
|
||||
dem in Artikel 68 Absatz 1 genannten Durchführungsrechtsakt festgelegt, wobei die Zielsetzung berücksichtigt wird, für die
|
||||
angemessene Durchführung dieser Verordnung, für Kosteneffizienz sowie dafür zu sorgen, dass alle Mitgliedstaaten
|
||||
effektiven Zugang zu Sachverständigen haben müssen.
|
||||
|
||||
|
||||
(3) Die Kommission ermöglicht den Mitgliedstaaten bei Bedarf einen rechtzeitigen Zugang zu den Sachverständigen und
|
||||
sorgt dafür, dass die Kombination aus unterstützenden Tätigkeiten durch die Union zur Prüfung von KI gemäß Artikel 84
|
||||
und durch die Sachverständigen gemäß dem vorliegenden Artikel effizient organisiert ist und den bestmöglichen
|
||||
zusätzlichen Nutzen bringt.
|
||||
|
||||
|
||||
ABSCHNITT 2
|
||||
Zuständige nationale Behörden
|
||||
|
||||
|
||||
Artikel 70
|
||||
|
||||
|
||||
Benennung von zuständigen nationalen Behörden und zentrale Anlaufstelle
|
||||
|
||||
|
||||
(1) Jeder Mitgliedstaat muss für die Zwecke dieser Verordnung mindestens eine notifizierende Behörde und mindestens
|
||||
eine Marktüberwachungsbehörde als zuständige nationale Behörden einrichten oder benennen. Diese zuständigen
|
||||
nationalen Behörden üben ihre Befugnisse unabhängig, unparteiisch und unvoreingenommen aus, um die Objektivität ihrer
|
||||
Tätigkeiten und Aufgaben zu gewährleisten und die Anwendung und Durchführung dieser Verordnung sicherzustellen. Die
|
||||
Mitglieder dieser Behörden haben jede Handlung zu unterlassen, die mit ihren Aufgaben unvereinbar ist. Sofern diese
|
||||
Grundsätze gewahrt werden, können die betreffenden Tätigkeiten und Aufgaben gemäß den organisatorischen
|
||||
Erfordernissen des Mitgliedstaats von einer oder mehreren benannten Behörden wahrgenommen werden.
|
||||
|
||||
|
||||
(2) Die Mitgliedstaaten teilen der Kommission die Namen der notifizierenden Behörden und der Marktüberwachungs-
|
||||
behörden und die Aufgaben dieser Behörden sowie alle späteren Änderungen mit. Die Mitgliedstaaten machen
|
||||
Informationen darüber, wie die zuständigen Behörden und zentralen Anlaufstellen bis zum 2. August 2025 auf
|
||||
elektronischem Wege kontaktiert werden können, öffentlich zugänglich. Die Mitgliedstaaten benennen eine Marktüber-
|
||||
wachungsbehörde, die als zentrale Anlaufstelle für diese Verordnung fungiert, und teilen der Kommission den Namen der
|
||||
zentralen Anlaufstelle mit. Die Kommission erstellt eine öffentlich verfügbare Liste der zentralen Anlaufstellen.
|
||||
|
||||
# ABl. L vom 12.7.2024 DE
|
||||
|
||||
ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj) 99/
|
||||
|
||||
(3) Die Mitgliedstaaten sorgen dafür, dass ihre zuständigen nationalen Behörden mit angemessenen technischen und
|
||||
finanziellen Mitteln sowie geeignetem Personal und Infrastrukturen ausgestattet werden, damit sie ihre Aufgaben im
|
||||
Rahmen dieser Verordnung wirksam erfüllen können. Insbesondere müssen die zuständigen nationalen Behörden zu jeder
|
||||
Zeit über eine ausreichende Zahl von Mitarbeitern verfügen, zu deren Kompetenzen und Fachwissen ein tiefes Verständnis
|
||||
der KI-Technologien, der Daten und Datenverarbeitung, des Schutzes personenbezogener Daten, der Cybersicherheit, der
|
||||
Grundrechte, der Gesundheits- und Sicherheitsrisiken sowie Kenntnis der bestehenden Normen und rechtlichen
|
||||
Anforderungen gehört. Die Mitgliedstaaten bewerten und aktualisieren, falls erforderlich, jährlich die in diesem Absatz
|
||||
genannten Erfordernisse bezüglich Kompetenzen und Ressourcen.
|
||||
|
||||
|
||||
(4) Die zuständigen nationalen Behörden ergreifen geeignete Maßnahmen zur Sicherstellung eines angemessenen Maßes
|
||||
an Cybersicherheit.
|
||||
|
||||
|
||||
(5) Bei der Erfüllung ihrer Aufgaben halten sich die zuständigen nationalen Behörden an die in Artikel 78 festgelegten
|
||||
Vertraulichkeitspflichten.
|
||||
|
||||
|
||||
(6) Bis zum 2. August 2025 und anschließend alle zwei Jahre erstatten die Mitgliedstaaten der Kommission Bericht über
|
||||
den Sachstand bezüglich der finanziellen Mittel und des Personals der zuständigen nationalen Behörden und geben eine
|
||||
Einschätzung über deren Angemessenheit ab. Die Kommission leitet diese Informationen zur Erörterung und etwaigen
|
||||
Abgabe von Empfehlungen an das KI-Gremium weiter.
|
||||
|
||||
|
||||
(7) Die Kommission fördert den Erfahrungsaustausch zwischen den zuständigen nationalen Behörden.
|
||||
|
||||
|
||||
(8) Die zuständigen nationalen Behörden können gegebenenfalls insbesondere KMU, einschließlich Start-up-Unterneh-
|
||||
men, unter Berücksichtigung der Anleitung und Beratung durch das KI-Gremium oder der Kommission mit Anleitung und
|
||||
Beratung bei der Durchführung dieser Verordnung zur Seite stehen. Wenn zuständige nationale Behörden beabsichtigen,
|
||||
Anleitung und Beratung in Bezug auf ein KI-System in Bereichen anzubieten, die unter das Unionrecht fallen, so sind
|
||||
gegebenenfalls die nach jenen Unionsrecht zuständigen nationalen Behörden zu konsultieren.
|
||||
|
||||
|
||||
(9) Soweit Organe, Einrichtungen und sonstige Stellen der Union in den Anwendungsbereich dieser Verordnung fallen,
|
||||
übernimmt der Europäische Datenschutzbeauftragte die Funktion der für ihre Beaufsichtigung zuständigen Behörde.
|
||||
@@ -0,0 +1,49 @@
|
||||
KAPITEL VIII
|
||||
EU-DATENBANK FÜR HOCHRISIKO-KI-SYSTEME
|
||||
|
||||
|
||||
Artikel 71
|
||||
|
||||
|
||||
EU-Datenbank für die in Anhang III aufgeführten Hochrisiko-KI-Systeme
|
||||
|
||||
|
||||
(1) Die Kommission errichtet und führt in Zusammenarbeit mit den Mitgliedstaaten eine EU-Datenbank mit den in den
|
||||
Absätzen 2 und 3 dieses Artikels genannten Informationen über Hochrisiko-KI-Systeme nach Artikel 6 Absatz 2, die gemäß
|
||||
den Artikeln 49 und 60 registriert werden und über KI-Systeme, die nicht als Hochrisiko-KI-Systeme gemäß Artikel 6
|
||||
Absatz 3 gelten und gemäß Artikel 6 Absatz 4 und Artikel 49 registriert werden. Bei der Festlegung der
|
||||
Funktionsspezifikationen dieser Datenbank konsultiert die Kommission die einschlägigen Sachverständigen und bei der
|
||||
Aktualisierung der Funktionsspezifikationen dieser Datenbank konsultiert sie das KI-Gremium.
|
||||
|
||||
|
||||
(2) Die in Anhang VIII Abschnitte A und B aufgeführten Daten werden vom Anbieter oder gegebenenfalls vom
|
||||
Bevollmächtigten in die EU-Datenbank eingegeben.
|
||||
|
||||
|
||||
(3) Die in Anhang VIII Abschnitt C aufgeführten Daten werden vom Betreiber, der eine Behörde, Einrichtung oder
|
||||
sonstige Stelle ist oder in deren Namen handelt, gemäß Artikel 49 Absätze 3 und 4 in die EU-Datenbank eingegeben.
|
||||
|
||||
|
||||
(4) Mit Ausnahme des in Artikel 49 Absatz 4 und Artikel 60 Absatz 4 Buchstabe c genannten Abschnitts müssen die
|
||||
gemäß Artikel 49 in der Datenbank registrierten und dort enthaltenen Informationen auf benutzerfreundliche Weise
|
||||
zugänglich und öffentlich verfügbar sein. Die Informationen sollten leicht handhabbar und maschinenlesbar sein. Auf die
|
||||
gemäß Artikel 60 registrierten Informationen können nur Marktüberwachungsbehörden und die Kommission zugreifen, es
|
||||
sei denn, der zukünftige Anbieter oder der Anbieter hat seine Zustimmung dafür erteilt, dass die Informationen auch
|
||||
öffentlich zugänglich sind.
|
||||
|
||||
|
||||
(5) Die EU-Datenbank enthält personenbezogene Daten nur, soweit dies für die Erfassung und Verarbeitung von
|
||||
Informationen gemäß dieser Verordnung erforderlich ist. Zu diesen Informationen gehören die Namen und Kontaktdaten
|
||||
der natürlichen Personen, die für die Registrierung des Systems verantwortlich sind und die rechtlich befugt sind, den
|
||||
Anbieter oder gegebenenfalls den Betreiber zu vertreten.
|
||||
|
||||
# DE ABl. L vom 12.7.
|
||||
|
||||
100/144 ELI: [http://data.europa.eu/eli/reg/2024/1689/oj](http://data.europa.eu/eli/reg/2024/1689/oj)
|
||||
|
||||
(6) Die Kommission gilt als für die EU-Datenbank Verantwortlicher. Sie stellt Anbietern, zukünftigen Anbietern und
|
||||
Betreibern angemessene technische und administrative Unterstützung bereit. Die EU-Datenbank muss den geltenden
|
||||
Barrierefreiheitsanforderungen entsprechen.
|
||||
|
||||
|
||||
|
||||
@@ -0,0 +1,19 @@
|
||||
class_name GodotLlama
|
||||
extends RefCounted
|
||||
|
||||
var model: LlamaModel
|
||||
var context: LlamaContext
|
||||
|
||||
func _init() -> void:
|
||||
model = LlamaModel.new()
|
||||
context = LlamaContext.new()
|
||||
|
||||
func load_model(path: String, params: Dictionary = {}) -> Error:
|
||||
return model.load(path, params)
|
||||
|
||||
func create_context(params: Dictionary = {}) -> Error:
|
||||
return context.create(model, params)
|
||||
|
||||
func generate(prompt: String, max_tokens: int = 128, params: Dictionary = {}) -> String:
|
||||
context.set_prompt(prompt)
|
||||
return context.generate(max_tokens, params)
|
||||
@@ -0,0 +1 @@
|
||||
uid://bu13nu3yhqkcj
|
||||
@@ -0,0 +1,13 @@
|
||||
[configuration]
|
||||
entry_symbol = "godot_llama_library_init"
|
||||
compatibility_minimum = "4.4"
|
||||
|
||||
[libraries]
|
||||
linux.debug.x86_64 = "res://addons/godot_llama/bin/libgodot_llama.linux.template_debug.x86_64.so"
|
||||
linux.release.x86_64 = "res://addons/godot_llama/bin/libgodot_llama.linux.template_release.x86_64.so"
|
||||
windows.debug.x86_64 = "res://addons/godot_llama/bin/libgodot_llama.windows.template_debug.x86_64.dll"
|
||||
windows.release.x86_64 = "res://addons/godot_llama/bin/libgodot_llama.windows.template_release.x86_64.dll"
|
||||
macos.debug = "res://addons/godot_llama/bin/libgodot_llama.macos.template_debug.framework"
|
||||
macos.release = "res://addons/godot_llama/bin/libgodot_llama.macos.template_release.framework"
|
||||
android.debug.arm64 = "res://addons/godot_llama/bin/libgodot_llama.android.template_debug.arm64.so"
|
||||
android.release.arm64 = "res://addons/godot_llama/bin/libgodot_llama.android.template_release.arm64.so"
|
||||
@@ -0,0 +1 @@
|
||||
uid://doq1espxu5wck
|
||||
Reference in New Issue
Block a user