Die KI-Verordnung (AI Act), offiziell Verordnung (EU) 2024/1689, ist die weltweit erste umfassende Regulierung für Künstliche Intelligenz. Sie setzt auf einen risikobasierten Ansatz, um sicherzustellen, dass KI-Systeme in der EU sicher, transparent und menschenzentriert sind. Das übergeordnete Ziel ist es, Innovationen zu fördern und gleichzeitig Grundrechte umfassend zu schützen.
Die Kernpunkte der KI-Verordnung umfassen:
- Risikokategorisierung: KI-Systeme werden je nach Risiko (unannehmbar, hoch, gering) klassifiziert, woraus sich entsprechende Pflichten für Anbieter und Betreiber ergeben. Dies ist entscheidend für das Risikomanagement von KI.
- Pflichten für Hochrisiko-KI: Strenge Anforderungen an Datenqualität, Dokumentation, menschliche Aufsicht, Robustheit, Cybersicherheit und Konformitätsbewertung müssen erfüllt werden.