Der Artificial Intelligence Act (AI Act)/ KI Akt der EU

Der Artificial Intelligence Act (AI Act) ist der weltweit erste umfassende Rechtsrahmen, der spezifisch auf die Regulierung von Künstlicher Intelligenz (KI) abzielt. Im Zentrum stehen die Abwägung zwischen Innovationsförderung und den Schutz von Grundrechten sowie ein risikobasierter Ansatz. Diese vertiefte Analyse betrachtet die Struktur, Auswirkungen auf verschiedene Sektoren, mögliche Herausforderungen und die künftige Entwicklung.

1. Zielsetzung des AI Act

Der AI Act verfolgt folgende zentrale Ziele:

Förderung von Innovation und Wettbewerbsfähigkeit: Die EU will als globaler Vorreiter für KI-Entwicklung gelten und gleichzeitig klare Leitlinien schaffen.
Schutz von Grundrechten: Besondere Bedeutung kommt dem Schutz von Privatsphäre, Nichtdiskriminierung, Sicherheit und Transparenz zu.
Harmonisierung des Binnenmarktes: Durch einheitliche Regeln wird eine Fragmentierung der nationalen KI-Regulierungen verhindert.

2. Struktur und Kernbereiche des AI Act

2.1. Risikobasierter Ansatz

Der AI Act kategorisiert KI-Systeme in vier Risikogruppen:

Unzulässiges Risiko:
- Beispiele:
  - Social Scoring durch Behörden (etwa wie in China).
  - Subliminale Manipulationstechniken, die das Verhalten von Personen ohne deren Zustimmung beeinflussen.
- Verbot: Solche Systeme dürfen nicht auf den Markt gebracht oder verwendet werden.
Hohes Risiko:
- Anwendungsbereiche:
  - Kritische Infrastruktur (z. B. Stromnetze, Wasserversorgung).
  - Bildungswesen (Bewertung von Prüfungen).
  - Strafverfolgung (biometrische Identifikationssysteme).
  - Medizin (Diagnosesysteme, Robotik in der Chirurgie).
- Regulierungsanforderungen:
  - Risiko- und Konformitätsbewertung.
  - Strenge Dokumentations- und Transparenzpflichten.
  - Regelmäßige Prüfungen und menschliche Aufsicht.
  - Erstellung einer CE-Kennzeichnung.
Geringes Risiko:
- Beispiele:
  - Chatbots und KI-gestützte Übersetzungssysteme.
  - Automatisierte Empfehlungen (z. B. in E-Commerce).
- Pflichten:
  - Transparenzpflichten, z. B. die Offenlegung, dass man mit einer KI interagiert.
Minimales Risiko:
- Beispiele:
  - KI-gestützte Spiele oder Schreibwerkzeuge wie Textkorrekturen.
- Regulierung: Keine spezifischen Verpflichtungen.

2.2. Transparenz und Verantwortung

Transparenzanforderungen: Nutzer müssen darüber informiert werden, dass sie mit einer KI interagieren.
Verantwortlichkeiten: Hersteller und Betreiber von Hochrisiko-KI-Systemen müssen umfangreiche Dokumentationen vorlegen, um sicherzustellen, dass ihr Produkt den Vorschriften entspricht.

2.3. Sanktionen

Verstöße gegen die Vorschriften können empfindliche Strafen nach sich ziehen:

Maximalstrafe: Bis zu 30 Millionen Euro oder 6 % des weltweiten Jahresumsatzes (je nachdem, welcher Betrag höher ist).

3. Beispiele und Auswirkungen auf Branchen

3.1. Gesundheitswesen

Anwendungsfall: KI-Systeme zur Diagnostik (z. B. Erkennung von Tumoren auf MRT-Bildern).
Anforderungen: Validierung der Algorithmen, Sicherstellung der Nichtdiskriminierung (z. B. keine Benachteiligung bestimmter Ethnien).

3.2. Personalwesen

Anwendungsfall: KI-basierte Systeme zur Bewerberauswahl.
Risiko: Diskriminierung durch voreingenommene Trainingsdaten.
Regulierungsanforderung: Transparenz in der Entscheidungsfindung und Sicherstellung von Nichtdiskriminierung.

3.3. Strafverfolgung

Anwendungsfall: Biometrische Systeme zur Gesichtserkennung.
Regulierung: Zulassung nur unter strengen Bedingungen, wie z. B. bei einer richterlichen Anordnung.

4. Herausforderungen und Kritik

Technologische Herausforderungen:
- Die Umsetzung der Anforderungen an Transparenz und Nachvollziehbarkeit kann bei komplexen KI-Systemen (z. B. Deep Learning) technisch schwierig sein.
- Es gibt Diskussionen darüber, ob die Anforderungen Innovationshemmnisse darstellen könnten, insbesondere für kleine und mittelständische Unternehmen.
Regulierungsumfang:
- Einige Kritiker sehen den Anwendungsbereich des AI Act als zu weit gefasst. Insbesondere die Kategorisierung von Hochrisiko-KI wird als zu streng wahrgenommen.
Internationale Konkurrenz:
- Die EU riskiert, durch strengere Regularien im globalen Wettbewerb gegenüber Ländern wie den USA oder China ins Hintertreffen zu geraten.

5. Zukunft des AI Act und Entwicklung

5.1. Anpassung und Weiterentwicklung

Mit der vollständigen Anwendbarkeit im Jahr 2026 wird die praktische Umsetzung zeigen, wie effektiv die Regeln in der Praxis sind.
Es ist zu erwarten, dass durch die zunehmende Nutzung von KI neue Kategorien von Risiken entstehen, die zusätzliche Anpassungen erfordern.

5.2. Verbindung zu anderen Rechtsgebieten

Der AI Act interagiert mit bestehenden Regelungen, etwa der DSGVO. Unternehmen müssen sicherstellen, dass ihre KI-Systeme nicht nur den AI Act, sondern auch Datenschutz- und Produkthaftungsregelungen einhalten.

5.3. Rechtsprechung

Es wird erwartet, dass der Europäische Gerichtshof (EuGH) frühzeitig mit Fragen zur Auslegung des AI Act befasst wird.
Besondere Relevanz dürften Fälle zu Gesichtserkennung und algorithmischer Diskriminierung gewinnen.

5.4. Globale Harmonisierung

Die EU hofft, dass der AI Act als globaler Standard für die Regulierung von KI dient. In Verhandlungen mit den USA und anderen Handelspartnern werden Elemente des AI Act bereits diskutiert.