EU AI Act für Personaldienstleister: Was Voice-AI-Käufer wissen müssen
Trennen Sie operative Betreuung von KI-Entscheidungen über Beschäftigung.
Der Anwendungsfall zählt mehr als das Technologielabel
Der EU AI Act folgt einem risikobasierten Modell. Ein System für Dienstplanfragen oder Krankmeldungen erfüllt einen anderen Zweck als Software, die Bewerber einstuft, Leistung bewertet oder Zugang zu Arbeit bestimmt.
Die erste Einkaufsfrage lautet: kommuniziert und leitet das System Informationen weiter oder beeinflusst es Entscheidungen über Menschen? Davon hängen Dokumentation, Aufsicht und rechtliche Prüfung ab.
Beschäftigungs-KI kann Hochrisiko sein
Die Kommission nennt KI für Beschäftigung, Arbeitnehmermanagement und Zugang zur Selbstständigkeit als Hochrisikobereich. Die Sortierung von Lebensläufen ist ein Beispiel.
Nicht jede automatisierte Mitarbeiterhotline ist deshalb Hochrisiko. Der Zweck muss jedoch begrenzt bleiben und darf nicht unbemerkt zu Bewertung, Disziplinierung oder Auswahl werden.
Transparenz bleibt erforderlich
Menschen sollen wissen, wenn sie mit einer Maschine interagieren. Eine Sprachlösung braucht eine klare Einleitung, Erklärung des Zwecks und einen Weg zu menschlicher Hilfe.
Die Information sollte kurz und verständlich sein und erklären, wie dringende oder sensible Fälle eskaliert werden.
Menschliche Aufsicht vorab gestalten
Menschliche Aufsicht ist mehr als ein Transferknopf. Definieren Sie, welche Fälle automatisch gelöst, gemeldet oder sofort an Menschen übergeben werden.
Eine Entscheidungsmatrix sollte Anliegen, Pflichtdaten, erlaubte Antwort, Dringlichkeit, Rolle, Kanal und maximale Reaktionszeit enthalten.
Fragen für den Einkauf
Fragen Sie nach Zweck, Daten, Infrastrukturpartnern, Speicherung, Aufbewahrung, Logs, Vorfällen und Eskalation. Eine gute Demo beweist keine Betriebsreife.
Klären Sie außerdem Anbieter-, Betreiber-, Verantwortlichen- und Auftragsverarbeiterrollen anhand tatsächlicher Kontrolle und Verträge.
Eine sicherere operative Position
Begrenzen Sie Mitarbeiterautomatisierung auf Kommunikation, strukturierte Daten, freigegebene Informationen und Eskalation. Beschäftigungs-, Disziplinar- und Gesundheitsentscheidungen bleiben menschlich.
AI Coordinator 24/7 ist eine operative erste Linie, kein automatischer Beschäftigungsentscheider. Jede Einführung braucht einen dokumentierten Umfang und rechtliche Prüfung.
Quellen und weiterführende Informationen
- European Commission — AI Act regulatory framework and implementation timeline
- EUR-Lex — Regulation (EU) 2024/1689 (Artificial Intelligence Act)
- European Commission — Legal framework of EU data protection
- EUR-Lex — Regulation (EU) 2016/679 (GDPR)
- European Data Protection Board — Guidelines, recommendations and best practices