KI-Einkauf und Anbieterprüfung

Die meisten Unternehmen entwickeln KI nicht selbst, sondern kaufen sie ein: als Cloud-Dienst, als Funktion in bestehender Software oder als Modellzugang über eine Schnittstelle. Damit verlagern sich die rechtlichen Risiken in den Einkauf. Diese Seite gibt Einkauf, Rechtsabteilung, IT und Datenschutz einen Prüfkatalog an die Hand, mit dem sich KI-Angebote vor Vertragsschluss strukturiert bewerten lassen.

Warum KI-Einkäufe anders zu prüfen sind

Bei klassischer Software geht es um Funktionsumfang, Verfügbarkeit und Lizenzen. Bei KI-Diensten kommen Fragen hinzu, die Standardverträge oft nicht oder zugunsten des Anbieters beantworten: Werden Eingaben zum Training genutzt? Wem stehen die Ergebnisse zu? Wer haftet, wenn ein Output fremde Rechte verletzt? Welche Rolle hat das eigene Unternehmen nach der KI-Verordnung, und welche Unterlagen muss der Anbieter liefern? Hinzu kommt, dass sich Modelle, Funktionen und Nutzungsbedingungen während der Laufzeit ändern.

Prüfkatalog für KI-Dienste und KI-Software

1. Vertragsgrundlage und Vertragstyp

Welche Dokumente gelten: Rahmenvertrag, Online-Nutzungsbedingungen, Acceptable Use Policy, Service-Beschreibung? Rangfolge und Änderungsvorbehalte prüfen.
Einseitige Änderungsrechte des Anbieters an Leistung, Modell und Bedingungen begrenzen; bei AGB greift § 307 BGB, im B2B-Verkehr mit eingeschränktem Maßstab.
Business- oder Enterprise-Tarif statt Verbraucherkonditionen; viele Zusagen zu Datenschutz und Training gelten nur dort.
Gerichtsstand und anwendbares Recht; Anbieter aus Drittstaaten verweisen häufig auf ausländisches Recht.

2. Auftragsverarbeitung und Datenverwendung

Vertrag nach Art. 28 DSGVO mit vollständiger Liste der Unterauftragsverarbeiter und Widerspruchsrecht bei Änderungen.
Ausdrücklicher Ausschluss der Nutzung von Eingaben, Dateien und Ergebnissen zum Training oder zur Verbesserung von Modellen; verwendet der Anbieter Daten zu eigenen Zwecken, ist er insoweit kein Auftragsverarbeiter mehr.
Speicherdauer von Prompts und Protokollen, auch zur Missbrauchskontrolle; Löschkonzept.
Verarbeitungsort und Drittlandtransfer: Angemessenheitsbeschluss (bei US-Anbietern Zertifizierung nach dem EU-U.S. Data Privacy Framework) oder Standardvertragsklauseln mit Transfer Impact Assessment, Art. 44 ff. DSGVO.
Unterstützung bei Betroffenenrechten und bei der Datenschutz-Folgenabschätzung nach Art. 35 DSGVO.

3. Rechte an Input und Output

Eingaben bleiben beim Kunden; der Anbieter erhält nur die zur Leistungserbringung nötigen Rechte.
Ergebnisse: Übertragung aller Rechte, soweit der Anbieter solche hat, und Verzicht auf eigene Nutzung. Da KI-Outputs oft keinen Urheberrechtsschutz genießen, kommt es zusätzlich auf vertragliche Nutzungs- und Verwertungszusagen an.
Bei feinabgestimmten Modellen: wem gehören Gewichte, Adapter und Trainingsdatensätze, die mit Kundendaten entstehen?

4. Freistellung, Haftung und Gewährleistung

Freistellung bei Ansprüchen Dritter wegen Schutzrechtsverletzungen durch das Modell oder seine Ergebnisse. Ausschlüsse genau lesen: Viele Zusagen entfallen bei abgeschalteten Filtern, veränderten Ausgaben oder bestimmten Eingaben.
Haftungsbeschränkungen: Höchstbeträge im Verhältnis zum Risiko, Rückausnahmen für Datenschutz- und Vertraulichkeitsverstöße, Vorsatz und grobe Fahrlässigkeit.
Gewährleistung: Fehlerfreiheit von KI-Ergebnissen sagt kein Anbieter zu. Verhandelbar sind Zusagen zu Prozessen (Tests, Evaluierungen, Meldung bekannter Schwächen) und zur Einhaltung der Dokumentation.

5. Service Level und Informationssicherheit

Verfügbarkeit, Reaktionszeiten, Kapazitäts- und Ratenbegrenzungen, Vorankündigung bei Abkündigung von Modellversionen.
Zertifizierungen und Nachweise (etwa ISO/IEC 27001, BSI C5, ISO/IEC 42001), Pentest-Berichte, Schutz gegen Prompt Injection und Datenabfluss.
Meldepflichten bei Sicherheitsvorfällen mit Fristen, die eigene Pflichten nach Art. 33 DSGVO und gegebenenfalls nach dem BSI-Gesetz (NIS2) erfüllbar machen.

6. Rolle nach der KI-Verordnung und Unterlagen des Anbieters

Klären Sie vor Vertragsschluss, ob Sie Betreiber bleiben oder durch Anpassung, eigene Marke oder geänderte Zweckbestimmung nach Art. 25 KI-VO zum Anbieter werden. Davon hängt ab, welche Unterlagen Sie benötigen.

Konstellation	Vom Anbieter anzufordern
Hochrisiko-System (Anhang III ab 2. Dezember 2027, Anhang I ab 2. August 2028)	Betriebsanleitung nach Art. 13 KI-VO, EU-Konformitätserklärung, CE-Kennzeichnung, Registrierung, Angaben zu Genauigkeit, Robustheit und menschlicher Aufsicht
System mit Transparenzpflichten (Art. 50, seit 2. August 2026)	Angaben zu Chatbot-Hinweisen und zur maschinenlesbaren Markierung synthetischer Inhalte
Integration eines GPAI-Modells in eigenes Produkt	Informationen und Dokumentation für nachgelagerte Anbieter nach Art. 53 Abs. 1 lit. b KI-VO, Urheberrechtsstrategie, Zusammenfassung der Trainingsinhalte
Jedes KI-System	Beschreibung von Zweck und Grenzen, Angaben zur Datenverarbeitung, Unterstützung bei KI-Kompetenzmaßnahmen

Vereinbaren Sie, dass der Anbieter Änderungen mitteilt, die die Einstufung beeinflussen, und Sie bei Ihren Betreiberpflichten unterstützt. Die neue Anschaffung gehört anschließend in Ihr KI-Inventar.

7. Exit und Datenrückgabe

Herausgabe von Daten, Konfigurationen, Prompt-Bibliotheken und gegebenenfalls feinabgestimmten Modellen in gängigen Formaten.
Unterstützungsleistungen und Übergangszeitraum bei Vertragsende; Löschbestätigung.
Bei Cloud-Diensten sieht der Data Act (VO (EU) 2023/2854) seit 12. September 2025 Rechte zum Anbieterwechsel vor; die Vertragsgestaltung sollte daran ausgerichtet sein.

Typische Fehler im Einkauf: Fachabteilungen buchen Dienste per Kreditkarte zu Verbraucherbedingungen; der AVV wird nach Projektstart nachgeholt; Freistellungszusagen werden als umfassend verstanden, gelten aber nur für bestimmte Produkte; KI-Funktionen werden per Update in bereits lizenzierte Software eingeführt, ohne dass jemand den Vertrag neu prüft.

Interner Freigabeprozess

Ein schlanker Ablauf verhindert, dass KI-Tools am Einkauf vorbei eingeführt werden:

Bedarfsmeldung mit Zweck, Nutzerkreis und Datenkategorien.
Vorprüfung: Risikoklasse nach KI-VO, Personenbezug, Geschäftsgeheimnisse, Mitbestimmung.
Anbieterfragebogen anhand des Prüfkatalogs, Prüfung der Vertragsunterlagen.
Verhandlung kritischer Punkte, Abschluss von Vertrag und AVV.
Eintrag ins KI-Inventar, Nutzungsregeln, Schulung, Wiedervorlage bei Vertrags- oder Modelländerungen.

Öffentliche Auftraggeber

Behörden, Kommunen und andere öffentliche Auftraggeber beschaffen KI nach Vergaberecht: oberhalb der EU-Schwellenwerte nach Teil 4 GWB und der VgV, darunter nach Haushaltsrecht und, je nach Bundesland, nach der UVgO oder landesrechtlichen Regeln. Besondere Aufmerksamkeit verdienen:

Produktneutrale Leistungsbeschreibung (§ 31 VgV) trotz eines Marktes, der von wenigen Modellanbietern geprägt ist.
Eignungs- und Zuschlagskriterien zu Datenschutz, Transparenz, Datenhoheit und KI-VO-Konformität, die sich objektiv prüfen lassen.
Hochrisiko-Einsatzbereiche, die für die Verwaltung typisch sind (etwa Zugang zu öffentlichen Leistungen); öffentliche Betreiber haben zusätzlich eine Grundrechte-Folgenabschätzung nach Art. 27 KI-VO durchzuführen.
Die Ergänzenden Vertragsbedingungen für die Beschaffung von IT-Leistungen (EVB-IT) enthalten keine KI-spezifischen Regelungen zu Trainingsnutzung oder Output-Rechten. Diese Punkte sind in Leistungsbeschreibung und Zusatzvereinbarungen zu regeln.

Als Orientierung hat die Community of Practice der EU-Kommission für öffentliche KI-Beschaffung Musterklauseln veröffentlicht (MCC-AI, in aktualisierter Fassung 2025 für Hochrisiko- und für sonstige KI-Systeme). Sie sind unverbindlich und müssen an deutsches Vertrags- und Vergaberecht angepasst werden.

Themen für Musterklauseln

Ob als Anlage zum Rahmenvertrag oder als eigenes KI-Addendum, folgende Regelungsbereiche haben sich bewährt:

Definitionen: KI-System, Modell, Eingaben, Ergebnisse, Kundendaten, Feinabstimmung.
Trainingsverbot und Zweckbindung der Kundendaten.
Rechte an Ergebnissen und an kundenspezifischen Modellanpassungen.
Zusicherungen zur Rechtmäßigkeit der Trainingsdaten und Freistellung.
Mitwirkung bei KI-VO-Pflichten, Bereitstellung der Unterlagen, Mitteilung von Einstufungsänderungen.
Änderungsmanagement bei Modellwechseln, Vorankündigungsfristen, Sonderkündigungsrecht.
Audit- und Informationsrechte, Exit-Unterstützung.

So unterstützen wir Sie

Prüfung der Vertragsunterlagen von KI-Anbietern mit priorisierter Risikoliste.
Erstellung von Anbieterfragebögen und KI-Addenda für Ihre Einkaufsbedingungen.
Verhandlung mit Anbietern zu Trainingsnutzung, Freistellung, Haftung und Exit.
Datenschutzprüfung einschließlich AVV und Drittlandtransfer.
Einordnung nach der KI-VO und Aufbau eines Freigabeprozesses.
Beratung öffentlicher Auftraggeber bei Leistungsbeschreibung und Vertragsgestaltung.

Häufige Fragen

Reicht es, wenn der Anbieter zusagt, keine Daten zum Training zu nutzen?

Die Zusage muss vertraglich verbindlich sein und alle Datenarten erfassen: Eingaben, hochgeladene Dateien, Ergebnisse und Feedback. Prüfen Sie außerdem Speicherfristen zur Missbrauchskontrolle und den Zugriff von Unterauftragnehmern.

Sind Standard-Nutzungsbedingungen großer Anbieter verhandelbar?

Bei Self-Service-Tarifen selten, bei Enterprise-Verträgen oft in Teilen. Wo keine Verhandlung möglich ist, sollten Sie die Risiken dokumentieren und durch interne Nutzungsregeln begrenzen.

Was tun, wenn bestehende Software plötzlich KI-Funktionen enthält?

Behandeln Sie das wie eine Neuanschaffung: Bedingungen und AVV auf Erweiterungen prüfen, Funktion gegebenenfalls deaktivieren, bis die Prüfung abgeschlossen ist, und Betriebsrat sowie Datenschutz einbinden.

Müssen Anbieter KI-VO-Unterlagen schon heute liefern?

Für GPAI-Modelle gelten die Dokumentationspflichten seit 2. August 2025, für Hochrisiko-Systeme erst ab 2. Dezember 2027 bzw. 2. August 2028. Verträge mit längerer Laufzeit sollten die künftigen Pflichten schon jetzt abbilden.