1. KI-Verordnung der EU (AI Act)

• Status: Die KI-Verordnung (EU) 2024/1689 ist am 1.8.2024 in Kraft getreten. Sie ist das erste umfassende Gesetz zur Regulierung von KI-Systemen und gilt gestaffelt: Die Verbote und die Pflicht zur KI-Kompetenz (Art. 4) gelten seit dem 2.2.2025, die Pflichten für KI-Modelle mit allgemeinem Verwendungszweck seit dem 2.8.2025, die allgemeine Geltung einschließlich der Transparenzpflichten nach Art. 50 seit dem 2.8.2026. Mit dem Digital Omnibus (Verordnung (EU) 2026/1744, in Kraft seit 27.7.2026) wurden die Hochrisiko-Pflichten verschoben: für Systeme nach Anhang III auf den 2.12.2027, für KI in regulierten Produkten nach Anhang I auf den 2.8.2028. Art. 4 verlangt seitdem, die KI-Kompetenz des Personals zu fördern.
• Inhalt: Die Verordnung ordnet KI-Systeme nach Risikostufen (unannehmbares, hohes, begrenztes und minimales Risiko) und knüpft daran unterschiedliche Anforderungen. Hochrisiko-KI-Systeme, etwa in der Medizin oder im Verkehr, müssen strenge Auflagen erfüllen, darunter Transparenz, Robustheit und menschliche Aufsicht.
• Verbotene Praktiken: Bestimmte KI-Anwendungen sind verboten, etwa Social Scoring oder die manipulative Beeinflussung von Verhalten.

2. Datenschutz und KI

• DSGVO und KI: Die Datenschutz-Grundverordnung (DSGVO) ist für KI maßgeblich, sobald personenbezogene Daten verarbeitet werden. KI-Systeme müssen dann insbesondere die Grundsätze der Datenminimierung, Zweckbindung und Transparenz einhalten.
• KI und Privatsphäre: Die Auswirkungen von KI auf die Privatsphäre werden zunehmend diskutiert, insbesondere bei Gesichtserkennung und Überwachungstechnologien.

3. Haftungsfragen

• Produkthaftung: Die EU hat die Produkthaftungsrichtlinie überarbeitet (Richtlinie (EU) 2024/2853). Die neue Richtlinie erfasst ausdrücklich auch Software und damit KI-Systeme und regelt die Verantwortlichkeit von Herstellern und weiteren Wirtschaftsakteuren für fehlerhafte Produkte.
• KI und autonome Systeme: Besondere Fragen stellen sich bei autonomen Systemen wie selbstfahrenden Autos, bei denen die Haftung im Fall von Unfällen noch nicht abschließend geklärt ist.

4. Ethik und KI

• Ethische Leitlinien: Verschiedene Organisationen und Regierungen haben ethische Leitlinien für die Entwicklung und den Einsatz von KI veröffentlicht. Sie betonen Fairness, Transparenz, Nichtdiskriminierung und menschliche Kontrolle.
• Verzerrungen und Diskriminierung: Rechtliche Anforderungen sollen zunehmend sicherstellen, dass KI-Systeme nicht diskriminierend wirken und möglichst frei von Verzerrungen (Bias) sind.

5. Geistiges Eigentum und KI

• Urheberrecht: Wem Rechte an KI-erzeugten Inhalten zustehen, ist noch nicht abschließend geklärt. In den meisten Rechtsordnungen sind nur menschliche Schöpfungen urheberrechtlich geschützt.
• Patente: Ähnliche Fragen stellen sich im Patentrecht, insbesondere wer als Erfinder gilt, wenn eine KI maßgeblich an einer Erfindung beteiligt ist.

6. Internationale Entwicklungen

• USA: In den USA gibt es keine umfassende bundesweite KI-Regulierung; verschiedene Bundesstaaten und Behörden haben jedoch eigene Regelungen erlassen, insbesondere zu Gesichtserkennung und Datenschutz.
• China: China hat umfangreiche KI-Regelungen eingeführt, die unter anderem Transparenz, Datenschutz und Sicherheit betreffen, sowie spezifische Regeln für einzelne Bereiche wie Bildung, Gesundheitswesen und autonomes Fahren.

7. KI und Arbeitsrecht

• Automatisierung und Arbeitsplätze: Die zunehmende Automatisierung durch KI wirft arbeitsrechtliche Fragen auf, insbesondere zum Schutz von Arbeitnehmern, deren Tätigkeiten durch KI-Systeme ersetzt werden könnten.
• Überwachung am Arbeitsplatz: Der Einsatz von KI zur Überwachung von Arbeitnehmern, z. B. durch Tracking-Systeme oder automatisierte Leistungsbewertungen, unterliegt zunehmend rechtlichen Vorgaben.

8. KI und Strafrecht

• KI und Kriminalität: KI wird auch für Straftaten genutzt, etwa für Deepfakes, Betrug oder Cyberangriffe. Zugleich setzen Strafverfolgungsbehörden KI ein, was Fragen der Rechtmäßigkeit und Ethik aufwirft.

9. Transparenz und Erklärbarkeit

• Erklärbare KI (Explainable AI): Die rechtlichen Anforderungen an Transparenz und Erklärbarkeit von KI-Systemen nehmen zu. Das betrifft vor allem Entscheidungen mit erheblichen Auswirkungen auf Einzelpersonen, etwa bei Kreditvergabe, Einstellungen oder medizinischen Diagnosen.

10. KI und Verbraucherschutz

• Verbraucherrechte: Rechtliche Vorgaben sollen zunehmend sicherstellen, dass Verbraucher über den Einsatz von KI informiert werden und KI-Systeme fair und nicht irreführend sind.

The post KI-Recht im Wandel first appeared on KI Recht: Recht für künstliche Intelligenz.

Mit der KI-Verordnung (EU) 2024/1689 (AI Act) hat die EU einen umfassenden Rechtsrahmen für die Entwicklung und den Einsatz von KI geschaffen. Die Verordnung verfolgt einen risikobasierten Ansatz und ordnet KI-Systeme vier Risikostufen zu:

• Verbotene KI-Praktiken: Anwendungen, die Grundrechte in unannehmbarer Weise gefährden, etwa Social Scoring, manipulative Techniken oder – von engen Ausnahmen abgesehen – biometrische Echtzeit-Fernidentifizierung im öffentlichen Raum zu Strafverfolgungszwecken.
• Hochrisiko-KI: Anwendungen in sensiblen Bereichen wie Gesundheitswesen, Beschäftigung, Strafverfolgung, Justiz oder kritische Infrastrukturen. Sie unterliegen strengen Anforderungen, etwa an Risikomanagement, Datenqualität, Transparenz und menschliche Aufsicht.
• Begrenztes Risiko: Für bestimmte KI-Systeme gelten vor allem Transparenzpflichten. So müssen Nutzer etwa erkennen können, dass sie mit einem Chatbot kommunizieren, und KI-generierte Inhalte wie Deepfakes sind zu kennzeichnen.
• Minimales Risiko: Systeme wie Spamfilter oder KI in Videospielen, für die keine besonderen Anforderungen gelten.

Ziel ist es, Innovationen zu fördern und zugleich Risiken für Verbraucher und Gesellschaft zu begrenzen. Die Verordnung ist am 1. August 2024 in Kraft getreten und gilt gestaffelt: Die Verbote und die Pflicht zur KI-Kompetenz (Art. 4) gelten seit dem 2. Februar 2025, die Pflichten für KI-Modelle mit allgemeinem Verwendungszweck seit dem 2. August 2025. Seit dem 2. August 2026 gilt die Verordnung allgemein, einschließlich der Transparenzpflichten nach Art. 50. Die Pflichten für Hochrisiko-KI-Systeme nach Anhang III gelten nach dem Digital Omnibus (Verordnung (EU) 2026/1744, in Kraft seit 27. Juli 2026) ab dem 2. Dezember 2027, für Hochrisiko-KI in regulierten Produkten nach Anhang I ab dem 2. August 2028.

2. Haftung bei KI-Anwendungen

Eine zentrale Frage des KI-Rechts ist die Haftung für Schäden, die durch KI-Systeme entstehen. Da diese Systeme häufig autonom entscheiden, lässt sich Verantwortung nach herkömmlichen Maßstäben nur schwer zuordnen. Diskutiert werden vor allem zwei Ansätze:

• Gefährdungshaftung: Der Hersteller oder Betreiber haftet unabhängig von einem Verschulden, wenn das KI-System Schäden verursacht.
• Verschuldenshaftung: Die Haftung setzt den Nachweis eines Fehlverhaltens voraus. Bei KI ist dieser Nachweis oft schwierig, weil Entscheidungen auf komplexen Algorithmen beruhen.

Die neue EU-Produkthaftungsrichtlinie (EU) 2024/2853 erfasst Software und KI-Systeme ausdrücklich als Produkte und erleichtert Geschädigten den Nachweis; sie ist bis zum 9. Dezember 2026 in nationales Recht umzusetzen. Den Vorschlag für eine gesonderte KI-Haftungsrichtlinie hat die EU-Kommission 2025 zurückgezogen.

3. Datenschutz und KI

KI-Systeme, insbesondere in der Datenanalyse, verarbeiten oft große Mengen personenbezogener Daten. Daraus ergeben sich datenschutzrechtliche Fragen, vor allem nach der DSGVO:

• Rechtsgrundlage: Die Verarbeitung personenbezogener Daten durch KI erfordert eine Rechtsgrundlage. Fehlt eine Einwilligung oder gesetzliche Erlaubnis, verstößt die Verarbeitung gegen die DSGVO.
• Transparenz: Betroffene müssen darüber informiert werden, wie ihre Daten verarbeitet werden und ob Entscheidungen automatisiert getroffen werden.
• Datensicherheit: Die Verantwortlichen müssen technische und organisatorische Maßnahmen treffen, um die Daten zu schützen.

4. KI im Rechtswesen

Im Rechtswesen wird KI zunehmend für automatisierte Analysen, Prognosen zum Verfahrensausgang und die Bearbeitung juristischer Dokumente eingesetzt.

• Chancen: KI kann die Effizienz steigern, indem sie große Datenmengen auswertet oder Routineaufgaben übernimmt.
• Risiken: Der Einsatz von KI in gerichtlichen Verfahren wirft Fragen der Objektivität und Fairness auf. Es besteht die Sorge, dass KI-Algorithmen bestehende Vorurteile verstärken.

KI-Systeme, die Justizbehörden bei der Ermittlung und Auslegung von Sachverhalten und Rechtsvorschriften unterstützen sollen, gelten nach dem AI Act als Hochrisiko-Systeme.

The post Aktuelle Entwicklungen im Bereich des KI-Rechts first appeared on KI Recht: Recht für künstliche Intelligenz.