Ein Unternehmen setzt eine KI ein, um Bewerbungen zu analysieren und geeignete Kandidaten für offene Stellen auszuwählen. Ziel des Audits ist es, sicherzustellen, dass das System korrekt arbeitet, keine Diskriminierung verursacht und rechtlich einwandfrei ist.
1. Vorbereitung und Zielsetzung
Was passiert?
- Das Unternehmen und die Auditoren klären, was geprüft werden soll:
- Funktioniert die KI fair und zuverlässig?
- Hält sie Datenschutzgesetze (z. B. DSGVO) ein?
- Gibt es Risiken oder Schwachstellen?
Beispiel:
Das Audit soll prüfen, ob die KI Kandidaten diskriminiert (z. B. wegen Geschlecht oder Herkunft) und ob Bewerberdaten korrekt verarbeitet werden.
2. Datensammlung und Dokumentenprüfung
Was passiert?
- Die Auditoren verlangen relevante Unterlagen, wie:
- Beschreibung der KI-Software und ihrer Algorithmen.
- Informationen zu den Trainingsdaten.
- Datenschutzrichtlinien und Einwilligungen der Bewerber.
- Verträge mit Softwareanbietern.
Beispiel:
Das Unternehmen stellt die Liste der verwendeten Trainingsdaten zur Verfügung, aus denen die KI gelernt hat. Die Auditoren prüfen, ob diese Daten rechtmäßig beschafft wurden und ob sie Bias (z. B. eine Bevorzugung bestimmter Gruppen) enthalten.
3. Technische Prüfung
Was passiert?
- Die Auditoren analysieren die Technik hinter der KI:
- Welche Daten nutzt sie?
- Wie trifft sie Entscheidungen?
- Gibt es Sicherheitsrisiken?
Beispiel:
Die Auditoren testen die KI mit anonymisierten Bewerberdaten. Sie prüfen, ob das System Kandidaten mit ausländischen Namen oder Frauen systematisch schlechter bewertet.
4. Datenschutzprüfung
Was passiert?
- Die Auditoren prüfen, ob personenbezogene Daten korrekt verarbeitet werden:
- Werden Daten nur für den vorgesehenen Zweck genutzt?
- Gibt es eine Einwilligung der Bewerber?
- Werden Daten sicher gespeichert und gelöscht?
Beispiel:
Die Auditoren stellen fest, dass die Bewerber ihre Daten für das Auswahlverfahren freigegeben haben, aber die KI die Daten nach der Entscheidung nicht automatisch löscht. Dies könnte gegen die DSGVO verstoßen.
5. Bewertung der Ergebnisse
Was passiert?
- Die Auditoren erstellen einen Bericht, der Schwachstellen aufzeigt und Lösungen vorschlägt:
- Gibt es technische oder rechtliche Mängel?
- Welche Maßnahmen sind erforderlich?
Beispiel:
Im Bericht wird festgestellt, dass die Trainingsdaten einen Bias enthalten, der Männer bevorzugt. Außerdem muss die Datenlöschung nach Abschluss des Bewerbungsprozesses automatisiert werden.
6. Nachbesserungen und Abschluss
Was passiert?
- Das Unternehmen setzt die empfohlenen Maßnahmen um.
- Die Auditoren prüfen, ob alle Probleme behoben wurden.
Beispiel:
Das Unternehmen bereinigt die Trainingsdaten und trainiert die KI neu, um Diskriminierung zu vermeiden. Außerdem wird die Datenlöschung im System programmiert.
Ergebnis:
- Die KI arbeitet jetzt fairer, ist datenschutzkonform und erfüllt rechtliche Anforderungen. Das Audit hat Schwachstellen aufgezeigt und dafür gesorgt, dass die KI zuverlässig und rechtssicher genutzt werden kann.
Ein solcher Ablauf sorgt dafür, dass das Vertrauen in die KI gestärkt wird und rechtliche Risiken minimiert werden.