KI-Governance im Personalwesen: Was das EU-KI-Gesetz für Ihren Einstellungsprozess bedeutet

Die meisten Unternehmen setzen KI bereits bei der Personalbeschaffung, im Leistungsmanagement und bei Entwicklungsentscheidungen ein. Und laut unserer Untersuchung geben 96 % der Personalverantwortlichen an, dass die Mitarbeiter bereits persönlichen Zugang zu generativen KI-Tools haben. Warum verfügen dann aber nur 39 % über klar definierte KI-Richtlinien für den Personalbereich und nur 32 % über eine benannte Governance-Funktion? Mehr als die Hälfte der Befragten setzt KI bei wichtigen Personalentscheidungen ein, ohne über die Governance-Strukturen zu verfügen, die das EU-KI-Gesetz nun vorschreibt. 

Der Termin im August 2026 steht fest. Die Verpflichtungen sind konkret, und die Verantwortung liegt bei Ihrer Organisation. Hier erfahren Sie, was Sie tun müssen, um Ihre KI-Abläufe zu sichern und zukunftssicher zu machen. 

Warum unkontrollierte KI im Personalwesen ein Geschäftsrisiko darstellt

Die Risiken einer unregulierten KI im Personalwesen lassen sich in drei Kategorien einteilen: 

• Skalierungsverzerrung.Unkontrollierte KI führt nicht nur gelegentlich zu Verzerrungen – sie systematisiert diese konsequent. Die gleichen verzerrten Ergebnisse gelten für jeden Bewerber, in jeder Position und bei jeder Einstellungsentscheidung, bis sich das Muster in den aggregierten Daten abzeichnet. Bis dahin hat es möglicherweise bereits Tausende von Entscheidungen beeinflusst.  
   
• Rechtliche Haftung.Nach dem EU-KI-Gesetz sind Organisationen, die KI bei der Personalbeschaffung und bei Personalentscheidungen einsetzen, als Betreiber von KI-Systemen mit hohem Risiko rechtlich haftbar. Diese Haftung kann nicht auf Ihren Anbieter übertragen werden. Sie liegt bei Ihnen, und Artikel 26 legt genau fest, was dies in der Praxis bedeutet. 
   
• Vertrauensverlust.66 % der Bewerber geben an, dass sie Unternehmen meiden würden, die bei der Personalauswahl KI ohne Transparenz einsetzen. Unkontrollierte KI (bei der Bewerber nicht nachvollziehen können, wie Entscheidungen getroffen wurden) untergräbt das Vertrauen, das die Gewinnung und Bindung von Talenten erst möglich macht. 
   

Weitere Informationen zu den Auswirkungen von Vorurteilen bei KI im Personalwesen finden Sie im Artikel „Vorurteile bei KI in der Personalbeschaffung: Warum sie auftreten und 5 Möglichkeiten, sie zu vermeiden“

Wesentliche Anforderungen gemäß Artikel 26 des EU-KI-Gesetzes 

Artikel 26 des EU-KI-Gesetzes legt die spezifischen Verpflichtungen für Betreiber von KI-Systemen mit hohem Risiko fest. Im Klartext müssen Betreiber von KI-Systemen mit hohem Risiko: 

Aufsichtspersonal benennen

Nennen Sie eine qualifizierte Person, die über die Befugnis und die Zeit verfügt, KI-gesteuerte Entscheidungen zu überprüfen, in diese einzugreifen und sie außer Kraft zu setzen. Dies ist keine Aufgabe, die als Nebenaufgabe in eine bestehende Funktion integriert werden kann – Artikel 26 verlangt nach nachweisbarer Kompetenz und Kapazität.

Führen Sie Folgenabschätzungen zu den Grundrechten durch

Führen Sie bei Bedarf eine Folgenabschätzung hinsichtlich der Grundrechte durch, um vor der Inbetriebnahme zu bewerten, wie sich das KI-System auf Bewerber und Mitarbeiter auswirkt. Die Folgenabschätzung muss wiederholt werden, wenn sich das System, sein Kontext oder seine Nutzung wesentlich ändern.

die Arbeitnehmer und ihre Vertreter konsultieren

Informieren Sie die Arbeitnehmervertreter und die betroffenen Mitarbeiter, wenn KI bei Entscheidungen am Arbeitsplatz zum Einsatz kommt. In vielen EU-Ländern muss diese Anhörungvordem Einsatz erfolgen, nicht danach.

Systeme überwachen und Entscheidungen protokollieren

Bewahren Sie automatisch generierte Protokolle mindestens sechs Monate lang auf und überwachen Sie die Systeme kontinuierlich auf Verzerrungen, Genauigkeit und Leistungsabweichungen. Eine statische, punktuelle Validierung reicht nicht mehr aus – das Gesetz sieht eine kontinuierliche Überwachung vor.

Es handelt sich um gesetzliche Verpflichtungen, die für jede Organisation gelten, die bei Personalentscheidungen KI mit hohem Risiko einsetzt.

Die Kosten bei Nichteinhaltung: Geldbußen von bis zu 15 Millionen Euro

Die Geldstrafe für die Nichteinhaltung der Verpflichtungen in Bezug auf KI-Systeme mit hohem Risiko gemäß dem EU-KI-Gesetz beträgt bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes – je nachdem, welcher Betrag höher ist. Die Durchsetzung obliegt den nationalen Marktüberwachungsbehörden, was bedeutet, dass sie je nach Land und Sektor variieren kann. 

Abgesehen von der Geldstrafe übersteigen die Kosten für die nachträgliche Einrichtung von Governance-Strukturen nach einem Vorfall – Anwaltskosten, Reputationsschäden, Vertrauensverlust bei den Kandidaten und der Verlust von Daten, die nie ordnungsgemäß protokolliert wurden – regelmäßig die Kosten für den vorausschauenden Aufbau einer Governance-Infrastruktur. Es lohnt sich also, das eigene Haus in Ordnung zu bringen, bevor es zu spät ist. 

Die Lücke in der KI-Governance und warum sie gefährlich ist 

Die Daten unserer Untersuchung zeigen eine Lücke in der Governance auf, die von den meisten Organisationen noch nicht erkannt wird. Wir haben festgestellt, dass zwar 66 % der Organisationen angeben, über eine verantwortungsvolle KI-Strategie zu verfügen, aber nur 34 % ihre KI-Tools aktiv auf Verzerrungen überwachen. Diese Kluft zwischen Richtlinie und Praxis bezeichnen wir als „performative Governance“, d. h. den Anschein von Compliance ohne tatsächliche Umsetzung. Ein Unternehmen, das zwar eine KI-Richtlinie verfasst, aber keinen Governance-Verantwortlichen benannt, seine Mitarbeiter nicht geschult und keine Überwachung in seine Arbeitsabläufe integriert hat, hat nicht genug getan, um dieses Risiko zu mindern – es hat es lediglich dokumentiert.  

Weitere Informationen zur Entwicklung verantwortungsbewusster KI-Tools finden Sie im Artikel„KI mit Sinn und Zweck: Wie Assessio intelligentere HR-Technologie entwickelt“ 

Die Unternehmen, denen es gelungen ist, diese Lücke zu schließen, unterscheiden sich auch in den Daten. Unternehmen mit klar definierten KI-Richtlinien bieten mit einer Wahrscheinlichkeit von 68 % gegenüber 29 % mehr als doppelt so häufig formelle KI-Schulungen an. Sie geben an, deutlich mehr Vertrauen in die Genauigkeit ihrer KI-Ergebnisse zu haben – 50 % gegenüber 14 %. Governance-Strukturen verringern nicht nur das regulatorische Risiko, sondern verbessern auch die KI-Ergebnisse. 

Wie man ein Rahmenwerk für die KI-Governance im Personalwesen aufbaut 

Um die Governance-Lücke zu schließen, sind vier Dinge erforderlich. Dies ist kein politisches Dokument, sondern eine operative Infrastruktur: 

• Verantwortlichkeiten zuweisen.Benennen Sie einen Verantwortlichen für die Governance mit klar definierten Befugnissen hinsichtlich KI-gestützter Personalentscheidungen. Diese Person sollte über die nötige Hierarchiestufe verfügen, um Anbieterangaben zu hinterfragen, die erforderliche Ausbildung zur Bewertung von KI-Ergebnissen besitzen und befugt sein, jede KI-gestützte Entscheidung auszusetzen oder außer Kraft zu setzen. Ohne einen benannten Verantwortlichen existiert die Governance nur auf dem Papier. 
• Richtlinien festlegen.Dokumentieren Sie, welche KI-Tools derzeit im Einsatz sind, auf welche Entscheidungen sie Einfluss nehmen und wie der Überprüfungs- und Übersteuerungsprozess für jedes einzelne Tool aussieht. Die Richtlinien sollten beschreiben, was geschieht, wenn ein KI-Ergebnis angefochten wird. 
• Schulen Sie Ihre Teams.Unsere Daten zeigen, dass Unternehmen mit formellen KI-Schulungen weitaus häufiger auf Verzerrungen achten, den Ergebnissen vertrauen und Probleme frühzeitig erkennen. Schulungen sind keine einmalige Einführungsmaßnahme – sie müssen mit den Tools und den Entscheidungen, die sie regeln, Schritt halten.  
   Kontinuierlich überwachen.Tests vor der Einführung zeigen, ob ein Tool zum Zeitpunkt der Bereitstellung fair war. Sie sagen jedoch nichts darüber aus, ob es fair bleibt, wenn sich der Kandidatenpool verändert, das Modell aktualisiert wird oder sich die Rolle weiterentwickelt. Die Analyse negativer Auswirkungen sollte als fortlaufender Prozess durchgeführt werden und nicht als einmalige Abnahme. 

Checkliste zur KI-Governance für Personalvorstände: 12 Fragen, die Sie sich stellen sollten

Verwenden Sie diese Checkliste, um den aktuellen Stand der KI-Governance in Ihrem Unternehmen zu bewerten. Jeder Punkt ist ein Ja/Nein-Test. 

Eigentumsverhältnisse 

• Gibt es eine bestimmte Person, die für KI-gestützte Personalentscheidungen verantwortlich ist? 

• Verfügt diese Person über die erforderliche Ausbildung und die nötige Zeit, um die Ergebnisse der KI zu überprüfen und zu korrigieren? 

• Gibt es ein dokumentiertes Eskalationsverfahren für umstrittene KI-Entscheidungen? 

 Richtlinien 

• Haben Sie eine Bestandsaufnahme aller KI-Tools vorgenommen, die derzeit in den HR-Arbeitsabläufen zum Einsatz kommen? 

• Wissen Sie, welche dieser Werkzeuge gemäß Anhang III des EU-KI-Gesetzes als risikoreich gelten? 

• Gibt es einen dokumentierten Prozess zur Überprüfung neuer KI-Tools vor deren Einsatz? 

• Können Sie einem Bewerber erklären, wie eine KI-gestützte Einstellungsentscheidung zustande gekommen ist? 

 Schulung 

• Haben die Personalabteilungen eine formelle Schulung zu den von ihnen genutzten KI-Tools erhalten? 

• Sind sich die Mitarbeiter ihrer Pflichten als Betreiber im Rahmen des EU-KI-Gesetzes bewusst? 

 Überwachung 

• Werden KI-gestützte Entscheidungen protokolliert und mindestens sechs Monate lang aufbewahrt? 

• Wird die Analyse der negativen Auswirkungen fortlaufend durchgeführt – und nicht nur bei der Markteinführung? 

• Gibt es ein Verfahren, um Arbeitnehmervertreter zu informieren, wenn bei Entscheidungen am Arbeitsplatz künstliche Intelligenz zum Einsatz kommt? 

 Wenn die Antwort auf eine dieser Fragen „Nein“ lautet – oder Sie es nicht wissen –, dann sollte Ihr Governance-Audit genau dort ansetzen. 

Unternehmen, die jetzt eine echte Infrastruktur für die KI-Governance aufbauen, werden nicht nur Bußgelder vermeiden. Sie legen damit den Grundstein für eine KI, die funktioniert – validiert, vertrauenswürdig und in jeder Phase des Arbeitsverhältnisses vertretbar.

Weitere Informationen zu diesem Thema finden Sieim Leitfaden „Verantwortungsbewusste KI im Personalwesen“.

👉DieserArtikel stützt sich auf Forschungsergebnisse aus „The Maturity Gap“, dem datengestützten Leitfaden von Assessio zu KI-Einführung, Governance und Vertrauen im Personalwesen. Laden Sie den vollständigen Bericht herunter, um die Ergebnisse im Detail zu erkunden. Laden Sie „The Maturity Gap“ hier herunter.