KI-Recht für Software- und KI-Anbieter

Softwarehäuser, SaaS-Anbieter und KI-Start-ups sind von der KI-Verordnung am stärksten betroffen, weil sie regelmäßig Anbieter im Sinne von Art. 3 Nr. 3 KI-VO sind. Hinzu kommen die neue Produkthaftung für Software, der Cyber Resilience Act und die Anforderungen von Kunden und Investoren an Verträge und Dokumentation. Diese Seite richtet sich an Gründer, Geschäftsführungen und Produktverantwortliche, die KI-Produkte entwickeln oder KI-Funktionen in bestehende Software einbauen.

Die Anbieterrolle nach der KI-Verordnung

Anbieter ist, wer ein KI-System oder KI-Modell entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Marke in Verkehr bringt oder in Betrieb nimmt, entgeltlich oder unentgeltlich. Das gilt auch dann, wenn das System im Kern auf einem fremden Basismodell beruht. Welche Pflichten folgen, hängt von der Einstufung ab:

Einstufung	Kernpflichten des Anbieters	Geltung
Verbotene Praktik (Art. 5)	Kein Inverkehrbringen	seit 2. Februar 2025; neues Verbot für Nudification-Systeme ab 2. Dezember 2026
Hochrisiko nach Anhang III	Risikomanagement, Daten-Governance, technische Dokumentation, Protokollierung, Transparenz, menschliche Aufsicht, Genauigkeit und Robustheit, Qualitätsmanagement, Konformitätsbewertung, Registrierung	ab 2. Dezember 2027
Hochrisiko nach Anhang I (KI in regulierten Produkten)	wie oben, im Rahmen des sektoralen Konformitätsverfahrens	ab 2. August 2028
Systeme mit Transparenzpflichten (Art. 50)	Hinweis bei Interaktion, maschinenlesbare Markierung synthetischer Inhalte	seit 2. August 2026; Übergangsfrist Markierung bis 2. Dezember 2026 für Altsysteme
Alle KI-Systeme	Förderung der KI-Kompetenz (Art. 4)	seit 2. Februar 2025, seit dem Digital Omnibus als Förderpflicht

Besondere Aufmerksamkeit verdient die Zweckbestimmung. Sie legen in Dokumentation, Marketing und Vertrag fest, wofür Ihr System bestimmt ist. Ein allgemeines Analysewerkzeug wird zum Hochrisiko-System, wenn Sie es als Lösung für die Bewerberauswahl oder die Kreditprüfung bewerben. Umgekehrt kann ein Kunde nach Art. 25 KI-VO selbst zum Anbieter werden, wenn er Ihr System für einen Hochrisiko-Zweck umwidmet. Mehr zur Abgrenzung unter Rolle nach dem AI Act.

Integration von GPAI-Modellen

Die meisten KI-Produkte bauen auf KI-Modellen mit allgemeinem Verwendungszweck auf, die über Schnittstellen oder als offene Gewichte genutzt werden. Die Pflichten nach Art. 53 KI-VO treffen den Anbieter des Modells, nicht den Integrator. Der Modellanbieter muss nachgelagerten Anbietern Informationen und Dokumentation zur Verfügung stellen, die sie benötigen, um die Fähigkeiten und Grenzen des Modells zu verstehen und eigene Pflichten zu erfüllen (Art. 53 Abs. 1 lit. b, Anhang XII KI-VO).

Wer ein GPAI-Modell selbst wesentlich weitertrainiert oder verändert, kann für diese Veränderung zum Anbieter eines GPAI-Modells werden. Die Kommission hat in ihren Leitlinien zu GPAI-Modellen Schwellenwerte für den Rechenaufwand solcher Veränderungen genannt; ein übliches Fine-Tuning für eine Fachanwendung bleibt in der Regel darunter. Prüfen Sie dies vor größeren Trainingsvorhaben. Einzelheiten unter GPAI-Modelle.

Was Sie vom Modellanbieter vertraglich brauchen

Dokumentation nach Anhang XII KI-VO und Zusage, sie bei Modellwechseln zu aktualisieren
Regelungen zu Verfügbarkeit, Versionierung und Ankündigung von Modelländerungen
Zusage, dass Ihre Eingaben und die Ihrer Kunden nicht zum Training verwendet werden
Freistellung bei Urheberrechtsansprüchen gegen Modellausgaben
Auftragsverarbeitung nach Art. 28 DSGVO und Regelungen zu Drittlandübermittlungen

Dokumentation als Produktbestandteil

Für Hochrisiko-Systeme ist die technische Dokumentation nach Art. 11 und Anhang IV KI-VO Voraussetzung für das Inverkehrbringen. Aber auch außerhalb des Hochrisikobereichs verlangen Unternehmenskunden zunehmend Nachweise: Beschreibung der Trainingsdaten, Testergebnisse zu Genauigkeit und Verzerrungen, Angaben zu Datenflüssen und Unterauftragnehmern. Wer diese Unterlagen von Beginn an in der Entwicklung pflegt, verkürzt Vertriebszyklen und Due-Diligence-Prüfungen erheblich. Hilfreich ist eine Gliederung, die sich an Anhang IV orientiert, auch wenn das System nicht hochriskant ist.

AGB und SaaS-Verträge

KI-Produkte erfordern Regelungen, die klassische Software-AGB nicht enthalten:

Leistungsbeschreibung: Beschreiben Sie die Funktion probabilistisch und nennen Sie Grenzen. Eine präzise Leistungsbeschreibung bestimmt, was ein Mangel ist, und schützt besser als ein Haftungsausschluss.
Zweckbestimmung und Nutzungsbeschränkungen: Untersagen Sie Hochrisiko-Verwendungen, die Sie nicht unterstützen, und verbotene Praktiken nach Art. 5 KI-VO.
Daten: Regeln Sie, ob Kundendaten zur Verbesserung des Modells verwendet werden dürfen, getrennt nach personenbezogenen und nicht personenbezogenen Daten.
Rechte an Ergebnissen: Legen Sie fest, wem die Ausgaben zustehen, soweit Rechte bestehen, und dass der Kunde für die Prüfung vor Veröffentlichung verantwortlich ist.
Modelländerungen: Behalten Sie sich Modellwechsel vor, verbunden mit einer Ankündigungsfrist bei wesentlichen Änderungen.

Haftungsbegrenzung

In AGB kann die Haftung für Vorsatz und grobe Fahrlässigkeit sowie für Schäden an Leben, Körper und Gesundheit nicht ausgeschlossen werden (§ 309 Nr. 7 BGB; im Unternehmensverkehr über § 307 BGB). Bei der Verletzung wesentlicher Vertragspflichten ist nur eine Begrenzung auf den vertragstypisch vorhersehbaren Schaden möglich. Gängig und meist wirksam sind Haftungshöchstbeträge, die sich am Auftragswert orientieren, mit den genannten Rückausnahmen. Die Haftung nach dem Produkthaftungsrecht kann vertraglich nicht ausgeschlossen werden. Vertiefend: KI-Verträge.

Produkthaftung neu

Mit der Produkthaftungsrichtlinie (EU) 2024/2853 ist Software einschließlich KI ausdrücklich ein Produkt, gleichgültig, ob sie installiert oder als Dienst bereitgestellt wird. Anbieter haften verschuldensunabhängig für Personenschäden, Sachschäden an privat genutzten Sachen und die Vernichtung oder Beschädigung nicht beruflich genutzter Daten. Ein Produkt kann fehlerhaft sein, weil es nach Auslieferung lernt oder weil Sicherheitsupdates fehlen. Gerichte können die Offenlegung von Beweismitteln anordnen; bei technischer Komplexität wird die Fehlerhaftigkeit unter Umständen vermutet. Für Open-Source-Software, die außerhalb einer Geschäftstätigkeit entwickelt oder bereitgestellt wird, gilt die Richtlinie nicht. Das deutsche Umsetzungsgesetz hat der Bundestag am 8. Oktober 2026 beschlossen; die Geltung ist ab 9. Dezember 2026 vorgesehen. Mehr unter Produkthaftung für Software und KI.

Cyber Resilience Act

Software, die als Produkt mit digitalen Elementen auf dem Markt bereitgestellt wird, unterliegt dem Cyber Resilience Act. Reine SaaS-Dienste fallen grundsätzlich nicht darunter, wohl aber installierbare Software, Apps und Software für Geräte, ebenso Datenfernverarbeitungslösungen, die für die Funktion eines solchen Produkts erforderlich sind. Seit 11. September 2026 gelten die Meldepflichten für aktiv ausgenutzte Schwachstellen; ab 11. Dezember 2027 die übrigen Pflichten, darunter Security by Design, Schwachstellenmanagement, eine Softwarestückliste und Updates über den Supportzeitraum. Hochrisiko-KI-Systeme, die die Anforderungen des CRA erfüllen, gelten insoweit auch als konform mit den Cybersicherheitsanforderungen des Art. 15 KI-VO (Art. 12 CRA). Details unter NIS2 und Cyber Resilience Act.

Open Source

Die KI-VO nimmt KI-Systeme unter freien und quelloffenen Lizenzen von ihrem Anwendungsbereich aus, sofern sie nicht als Hochrisiko-System, als verbotene Praktik oder als System mit Transparenzpflichten nach Art. 50 in Verkehr gebracht werden (Art. 2 Abs. 12 KI-VO). Anbieter von GPAI-Modellen unter freier Lizenz mit öffentlich zugänglichen Gewichten sind von Teilen der Dokumentationspflichten befreit, nicht aber von der Urheberrechtsstrategie und der öffentlichen Übersicht über die Trainingsinhalte nach Art. 53 Abs. 1 lit. c und d KI-VO; die Befreiung gilt nicht für Modelle mit systemischem Risiko (Art. 53 Abs. 2 KI-VO). Wer Open-Source-Komponenten in kommerzielle Produkte einbaut, wird für das Gesamtprodukt dennoch Anbieter und Hersteller. Prüfen Sie zudem die Lizenzbedingungen offener Modelle: Viele sogenannte offene Modelle stehen unter Lizenzen mit Nutzungsbeschränkungen, die keine Open-Source-Lizenzen im Sinne der KI-VO sind.

Schutz des eigenen Modells

Der Wert eines KI-Unternehmens liegt häufig in Trainingsdaten, Modellgewichten und Verfahren. Rechtlich stehen drei Instrumente zur Verfügung:

Patente für computerimplementierte Erfindungen mit technischem Beitrag, etwa eine KI-gestützte Signalverarbeitung, Bildanalyse für technische Prüfungen oder ein Verfahren, das die Rechenlast eines Modells technisch reduziert (Art. 52 EPÜ, § 1 PatG).
Geschäftsgeheimnisse nach dem GeschGehG für Modellgewichte, Trainingsdaten und Prompts, sofern angemessene Geheimhaltungsmaßnahmen bestehen: Zugriffskonzepte, Vertraulichkeitsvereinbarungen, Lizenzbedingungen mit Verbot des Reverse Engineering und der Modellextraktion.
Urheberrecht und Datenbankschutz für den Quellcode (§§ 69a ff. UrhG) und unter Umständen für Trainingsdatenbanken (§§ 87a ff. UrhG). Modellgewichte selbst sind urheberrechtlich nicht sicher geschützt.

Unser Team verbindet Rechtsanwälte, Patentanwälte und Kollegen mit technischem Hintergrund. Wir bewerten Erfindungen, formulieren Patentanmeldungen und bauen Geheimhaltungskonzepte auf; siehe Schutz von KI durch geistiges Eigentum.

Finanzierung und Investoren-Due-Diligence

Investoren und Erwerber prüfen bei KI-Unternehmen inzwischen regelmäßig die regulatorische Einordnung und die Rechtekette. Typische Prüfpunkte sind:

Einstufung der Produkte nach KI-VO und Stand der Umsetzung der Anbieterpflichten
Herkunft und Lizenzlage der Trainingsdaten, insbesondere Beachtung von Nutzungsvorbehalten nach § 44b Abs. 3 UrhG
Lizenzbedingungen eingesetzter Basismodelle und Open-Source-Komponenten
Inhaberschaft an Code, Modellen und Erfindungen, einschließlich Übertragung von Gründern und Freelancern sowie Arbeitnehmererfindungen
Datenschutzkonformität der Datenverarbeitung und der Kundenverträge
Haftungsregelungen und Freistellungen gegenüber Kunden und Modellanbietern

Wer diese Punkte vor der Finanzierungsrunde ordnet, vermeidet Bewertungsabschläge und aufwendige Garantiekataloge. Wir begleiten beide Seiten, siehe KI-Due-Diligence bei M&A.

So unterstützen wir Sie

Einordnung Ihrer Produkte nach KI-VO, CRA und Produkthaftungsrecht einschließlich Zweckbestimmung
Aufbau der technischen Dokumentation und des Qualitätsmanagements für Hochrisiko-Systeme
Gestaltung von SaaS-AGB, Lizenzbedingungen, Auftragsverarbeitungs- und Kundenverträgen
Prüfung und Verhandlung von Verträgen mit Modell- und Cloudanbietern
Open-Source-Compliance und Lizenzprüfung offener Modelle
Patentanmeldungen, Geheimhaltungskonzepte und Vorbereitung auf Investoren-Due-Diligence

Häufige Fragen

Sind wir Anbieter, wenn unser Produkt nur ein fremdes Sprachmodell über eine Schnittstelle nutzt?

Ja, für Ihr eigenes KI-System sind Sie Anbieter, wenn Sie es unter eigenem Namen in Verkehr bringen. Die Pflichten für das zugrunde liegende GPAI-Modell trägt dagegen dessen Anbieter. Sie müssen die Dokumentation des Modellanbieters nutzen, um die Pflichten für Ihr System zu erfüllen.

Fällt unsere SaaS-Lösung unter den Cyber Resilience Act?

Reine SaaS-Dienste sind grundsätzlich nicht erfasst. Erfasst sind aber installierbare Clients, Apps und Agenten sowie Datenfernverarbeitung, ohne die ein Produkt mit digitalen Elementen eine seiner Funktionen nicht erfüllen kann. Für reine SaaS-Dienste können stattdessen NIS2-Pflichten greifen.

Können wir die Haftung für fehlerhafte KI-Ausgaben ausschließen?

Ein vollständiger Ausschluss ist in AGB nicht wirksam. Möglich sind Haftungshöchstbeträge mit den gesetzlichen Rückausnahmen und vor allem eine Leistungsbeschreibung, die die probabilistische Natur der Ausgaben und die Prüfpflicht des Kunden klar regelt. Die Produkthaftung bleibt zwingend.

Schützt ein Patent unser Modell vor Nachahmung?

Ein Patent schützt ein technisches Verfahren oder eine Vorrichtung, nicht die Modellgewichte als solche. Es kann die Anwendung Ihres Verfahrens durch Wettbewerber verbieten, legt das Verfahren aber offen. Modellgewichte und Trainingsdaten schützen Sie in der Regel besser als Geschäftsgeheimnis.

Brauchen wir für ein Open-Source-Modell überhaupt Compliance?

Ja, sobald Sie es kommerziell in ein Produkt integrieren. Die Ausnahme des Art. 2 Abs. 12 KI-VO entfällt bei Hochrisiko-Systemen und bei Systemen mit Transparenzpflichten, und für das Gesamtprodukt bleiben Sie Anbieter und Hersteller im Sinne von Produkthaftung und CRA.