NIS2 und Cyber Resilience Act bei KI-Systemen

KI-Systeme sind Software und damit Teil der IT-Sicherheitsarchitektur eines Unternehmens. Zwei Regelwerke bestimmen die Anforderungen: das NIS2-Umsetzungs- und Cybersicherheitsstärkungsgesetz (NIS2UmsuCG) für Einrichtungen, die KI betreiben, und der Cyber Resilience Act (Verordnung (EU) 2024/2847, CRA) für Hersteller von Produkten mit digitalen Elementen, zu denen auch KI-Software gehört. Diese Seite zeigt, wie beide Regime mit der KI-Verordnung zusammenwirken.

NIS2UmsuCG: Cybersicherheit für Einrichtungen

Das NIS2UmsuCG ist seit dem 6. Dezember 2025 in Kraft und hat das BSI-Gesetz (BSIG) grundlegend neu gefasst. Es richtet sich nicht an Produkte, sondern an Unternehmen und Organisationen und ihre gesamte IT, einschließlich eingesetzter KI-Systeme.

Betroffene Einrichtungen

Das BSIG unterscheidet zwischen besonders wichtigen und wichtigen Einrichtungen. Maßgeblich sind die Zugehörigkeit zu einem der in den Anlagen genannten Sektoren und die Unternehmensgröße:

Kategorie	Typische Schwelle	Beispiele für Sektoren
Besonders wichtige Einrichtung	Mindestens 250 Beschäftigte oder mehr als 50 Mio. € Umsatz und mehr als 43 Mio. € Bilanzsumme in Sektoren mit hoher Kritikalität; zudem bestimmte Einrichtungen unabhängig von der Größe	Energie, Verkehr, Finanzmarktinfrastruktur, Gesundheit, digitale Infrastruktur, IKT-Dienstleistungen (B2B)
Wichtige Einrichtung	Mindestens 50 Beschäftigte oder mehr als 10 Mio. € Umsatz und Bilanzsumme	Zusätzlich u. a. verarbeitendes Gewerbe, digitale Dienste, Chemie, Lebensmittel, Post- und Kurierdienste

Betreiber kritischer Anlagen unterliegen zusätzlichen Pflichten. Die genaue Einordnung erfordert eine Prüfung der Geschäftstätigkeit; bei Konzernen ist die Zuordnung je Einrichtung vorzunehmen.

Pflichten

Risikomanagement (§ 30 BSIG): geeignete, verhältnismäßige technische und organisatorische Maßnahmen, etwa Konzepte zur Risikoanalyse, Bewältigung von Sicherheitsvorfällen, Aufrechterhaltung des Betriebs, Sicherheit der Lieferkette, Schwachstellenmanagement, Kryptografie, Zugriffskontrolle und Schulungen.
Meldungen (§ 32 BSIG): Erhebliche Sicherheitsvorfälle sind dem BSI gestuft zu melden: frühe Erstmeldung innerhalb von 24 Stunden, Meldung innerhalb von 72 Stunden, Abschlussmeldung spätestens einen Monat nach der Meldung.
Registrierung (§ 33 BSIG): Betroffene Einrichtungen müssen sich innerhalb von drei Monaten nach Eintritt der Betroffenheit beim BSI registrieren. Wer die Registrierung noch nicht vorgenommen hat, sollte dies unverzüglich nachholen.
Unterrichtung von Kunden: In bestimmten Fällen sind Empfänger der Dienste über erhebliche Vorfälle und mögliche Abhilfemaßnahmen zu informieren.

Geschäftsleiterhaftung

Nach § 38 BSIG müssen die Geschäftsleitungen die Risikomanagementmaßnahmen billigen, ihre Umsetzung überwachen und regelmäßig an Schulungen teilnehmen. Verletzen sie diese Pflichten, haften sie der Einrichtung nach den gesellschaftsrechtlichen Regeln für den entstandenen Schaden. Ein Verzicht der Einrichtung auf Ersatzansprüche ist nur eingeschränkt möglich. Cybersicherheit ist damit Chefsache und nicht vollständig an die IT-Abteilung delegierbar.

Bei Verstößen drohen Bußgelder: für besonders wichtige Einrichtungen bis 10 Mio. € oder 2 % des weltweiten Jahresumsatzes, für wichtige Einrichtungen bis 7 Mio. € oder 1,4 %.

Was das für KI-Systeme bedeutet

KI-Anwendungen erweitern die Angriffsfläche. Typische Risiken sind Prompt Injection, Datenabfluss über Chatbots, manipulierte Trainingsdaten und unsichere Schnittstellen zu Modellanbietern. Im Risikomanagement nach § 30 BSIG sollten Sie:

KI-Systeme vollständig im KI-Inventar und in der Asset-Verwaltung erfassen,
externe KI-Anbieter in das Lieferkettenmanagement einbeziehen, siehe KI-Einkauf und Anbieterprüfung,
Zugriffsrechte von KI-Agenten auf interne Systeme begrenzen und protokollieren,
KI-spezifische Vorfälle in den Meldeprozess integrieren.

Cyber Resilience Act: Sicherheit von Produkten mit digitalen Elementen

Der CRA gilt für Hardware- und Softwareprodukte, die direkt oder indirekt mit einem Gerät oder Netz verbunden werden können. Eigenständige KI-Software und KI-Funktionen in Geräten sind erfasst. Ausgenommen sind unter anderem Produkte, für die sektorale Regeln gelten, etwa Medizinprodukte, sowie reine SaaS-Leistungen, soweit sie keine Datenfernverarbeitungslösung eines Produkts sind.

Zeitplan

Datum	Was gilt
10. Dezember 2024	Inkrafttreten
11. Juni 2026	Vorschriften zu Konformitätsbewertungsstellen
11. September 2026	Meldepflichten für aktiv ausgenutzte Schwachstellen und schwerwiegende Sicherheitsvorfälle
11. Dezember 2027	Übrige Pflichten, insbesondere grundlegende Cybersicherheitsanforderungen, Konformitätsbewertung und CE-Kennzeichnung

Meldepflichten seit 11. September 2026

Hersteller müssen aktiv ausgenutzte Schwachstellen und schwerwiegende Sicherheitsvorfälle, die die Sicherheit ihres Produkts beeinträchtigen, über die einheitliche Meldeplattform an das zuständige CSIRT und an ENISA melden (Art. 14 CRA): Frühwarnung binnen 24 Stunden, Meldung binnen 72 Stunden, Abschlussbericht innerhalb von 14 Tagen nach Verfügbarkeit einer Abhilfemaßnahme bzw. bei Vorfällen innerhalb eines Monats. Die Meldepflicht gilt auch für Produkte, die bereits vor diesem Datum in Verkehr gebracht wurden.

Praxistipp: Die Meldepflichten nach CRA und BSIG laufen parallel. Ein Softwarehersteller, der zugleich wichtige Einrichtung ist, kann für denselben Vorfall beide Meldewege bedienen müssen. Legen Sie einen gemeinsamen Meldeprozess mit klaren Zuständigkeiten fest.

Hauptpflichten ab 11. Dezember 2027

Konzeption, Entwicklung und Herstellung nach den grundlegenden Cybersicherheitsanforderungen (Anhang I), einschließlich sicherer Standardkonfiguration und Schutz vor unbefugtem Zugriff,
Risikobewertung und technische Dokumentation,
Schwachstellenbehandlung während des Unterstützungszeitraums, der grundsätzlich mindestens fünf Jahre beträgt, einschließlich kostenloser Sicherheitsupdates,
Software-Stückliste (SBOM) für die verwendeten Komponenten,
Konformitätsbewertung, EU-Konformitätserklärung und CE-Kennzeichnung; für wichtige und kritische Produkte (Anhänge III und IV) gelten strengere Verfahren.

Händler und Einführer haben eigene Prüfpflichten. Wer ein Produkt wesentlich verändert, kann selbst Herstellerpflichten übernehmen. Für Open-Source-Software gibt es Sonderregeln, insbesondere für sogenannte Verwalter quelloffener Software (Open-Source-Software-Stewards).

Zusammenspiel mit Art. 15 KI-VO

Art. 15 KI-VO verlangt von Hochrisiko-KI-Systemen ein angemessenes Maß an Genauigkeit, Robustheit und Cybersicherheit über den gesamten Lebenszyklus. Ausdrücklich genannt sind Maßnahmen gegen KI-spezifische Angriffe wie Datenvergiftung, Modellvergiftung, adversarielle Beispiele und Angriffe auf die Vertraulichkeit.

Der CRA verknüpft beide Regime in Art. 12: Erfüllt ein Hochrisiko-KI-System, das zugleich Produkt mit digitalen Elementen ist, die grundlegenden Cybersicherheitsanforderungen des CRA und wird dies in der EU-Konformitätserklärung nach CRA nachgewiesen, gilt es insoweit auch als konform mit den Cybersicherheitsanforderungen des Art. 15 KI-VO. Die Konformitätsbewertung richtet sich grundsätzlich nach dem Verfahren der KI-VO.

Zeitlich ist zu beachten: Die CRA-Hauptpflichten greifen ab 11. Dezember 2027, die Hochrisiko-Pflichten für Systeme nach Anhang III der KI-VO nach dem Digital Omnibus ab 2. Dezember 2027, für KI in regulierten Produkten nach Anhang I ab 2. August 2028. Einzelheiten finden Sie unter AI-Act-Fristen und Hochrisiko-KI.

Typische Fehler in der Praxis

Die NIS2-Betroffenheit wird nur für die Muttergesellschaft geprüft, nicht für Tochtergesellschaften mit eigener Tätigkeit.
KI-Tools aus Fachabteilungen fehlen in der Asset-Liste und damit im Risikomanagement.
Der Unterstützungszeitraum für Software ist vertraglich kürzer als nach CRA erforderlich.
Meldeprozesse sind auf Datenschutzverletzungen nach Art. 33 DSGVO zugeschnitten, nicht auf BSIG und CRA.
Die Geschäftsleitung billigt Maßnahmen formal, ohne Schulung und dokumentierte Überwachung.

So unterstützen wir Sie

Betroffenheitsanalyse nach BSIG und Unterstützung bei der Registrierung
Aufbau eines Melde- und Vorfallmanagements für BSIG, CRA und DSGVO
Schulungen für Geschäftsleitungen nach § 38 BSIG
CRA-Readiness für Software- und KI-Anbieter: Produktklassifizierung, Dokumentation, Unterstützungszeitraum, SBOM
Abstimmung von CRA-Konformität und Art. 15 KI-VO für Hochrisiko-KI
Gestaltung von Liefer- und Lizenzverträgen mit Sicherheits- und Update-Pflichten

Häufige Fragen

Ist ein Unternehmen, das nur KI-Tools nutzt, vom CRA betroffen?

Der CRA richtet sich an Hersteller, Einführer und Händler von Produkten mit digitalen Elementen. Reine Nutzer sind nicht Adressaten, können aber über NIS2 verpflichtet sein, die Sicherheit ihrer Lieferkette zu prüfen.

Fällt ein Chatbot als SaaS-Angebot unter den CRA?

Reine Cloud-Dienste sind grundsätzlich nicht erfasst, sondern unterliegen gegebenenfalls NIS2. Gehört der Cloud-Teil als Datenfernverarbeitung zu einem Produkt, etwa zu einer App oder einem Gerät, wird er vom CRA erfasst.

Haften Geschäftsführer persönlich für Cybersicherheitsmängel?

Nach § 38 BSIG haften Geschäftsleitungen, die ihre Pflichten verletzen, der Einrichtung für den entstandenen Schaden nach den gesellschaftsrechtlichen Regeln. Eine dokumentierte Befassung mit dem Risikomanagement ist daher auch persönlicher Schutz.

Wo werden CRA-Meldungen abgegeben?

Über die von ENISA eingerichtete einheitliche Meldeplattform an das als Koordinator benannte CSIRT. In Deutschland ist das BSI eingebunden.