Die HR-KI-Checkliste: Die richtigen Fragen stellen

Personalverantwortliche stehen unter dem Druck, neue Technologien zu implementieren, und manchmal tun sie dies, ohne sich die Zeit zu nehmen, die richtigen Fragen zu stellen. Oft herrscht die Einstellung vor:„Es geht um KI – das werde ich wahrscheinlich sowieso nicht verstehen.“  

Anbieter verstärken dies manchmal noch, indem sie sich in übermäßig technischen Begriffen ausdrücken. Das Ergebnis ist Schweigen, und fehlerhafte Lösungen können unbemerkt durchrutschen. 

Um diese Lücke zu schließen, hat Assessio eine praktische Checkliste entwickelt. Ihr Zweck ist einfach: HR-Führungskräfte sollen unabhängig von ihrem technischen Hintergrund in die Lage versetzt werden, bei der Bewertung von KI-Lösungen die richtigen Fragen zu stellen.

Wann sollte die Checkliste verwendet werden?

Die Checkliste ist für Situationen gedacht, in denen die Personalabteilung KI-Lösungen für die Personalbeschaffung, -bewertung oder -entwicklung in Betracht zieht und Anbieter vergleichen oder die Einhaltung von Vorschriften sicherstellen muss. Sie ist besonders relevant, wenn: 

• Vergleich verschiedener KI-Lösungen für die Personalbeschaffung, -bewertung oder -entwicklung. 
• Verhandlungen mit einem potenziellen Lieferanten oder Partner. 
• Sicherstellen, dass Ihr Unternehmen bei Personalentscheidungen die gesetzlichen und ethischen Standards einhält. 

Die Checkliste umfasst drei wesentliche Bereiche:Dateneingabe, Datenausgabe und Compliance. 

1. Dateneingabe – welche Daten werden in die KI eingespeist?

Die Qualität der KI-Ausgabe ist nur so gut wie die Daten, die sie erhält. Unvollständige, irrelevante oder voreingenommene Eingaben führen unweigerlich zu irreführenden Ergebnissen.

Ein System, das sich ausschließlich auf Persönlichkeitsdaten stützt, kann beispielsweise bestimmte Eigenschaften überbewerten und dabei wesentliche Fähigkeiten übersehen. Wenn es nur den IQ berücksichtigt, besteht die Gefahr, dass Faktoren wie Kooperationsfähigkeit oder Empathie außer Acht gelassen werden. KI ist nicht fehlerfrei – und irrelevante Eingaben können den Entscheidungsprozess leicht verzerren.

Wichtige Fragen für Anbieter:

• Wiesupport die zugrunde liegenden Datensupport der Arbeitsleistung?
• Welche Forschungsergebnisse stützen diese Behauptung?
• Wie werden Datenquellen überwacht und aktualisiert, um zu verhindern, dass Verzerrungen die Ergebnisse beeinflussen?
• Wie gehen Sie mit Datenabweichungen um, um sicherzustellen, dass das Modell allgemein anwendbar bleibt und nicht auf ein eng gefasstes Ergebnis ausgerichtet ist?
• Wie stellt das System sicher, dass nurberufsrelevanteDaten für Prognosen verwendet werden?

2. Datenausgabe – Wie interpretiert die KI Daten?

Selbst bei hochwertigen Eingaben kann KI versagen, wenn der Interpretationsrahmen fehlerhaft ist. Ohne klare Leitplanken kann das System „überinterpretieren“ oder Schlussfolgerungen aus der falschen Quelle ziehen. Beispielsweise führt die Vorhersage der Lernfähigkeit anhand von Persönlichkeitsmerkmalen anstelle von kognitiven Daten zu Fehlern.

Aus diesem Grund sind Frameworks wie Retrieval-Augmented Generation (RAG) so wichtig. Sie stellen sicher, dass die KI je nach gestellter Frage die richtigen Daten berücksichtigt. Ohne solche Mechanismen steigt das Risiko falscher Erkenntnisse erheblich. 

Wichtige Fragen für Anbieter:

• Welche Sicherheitsvorkehrungen gibt es, um sicherzustellen, dass KI Daten korrekt interpretiert?
• Können HR-Benutzer sehen, welche Datenquellen zur Erstellung einer bestimmten Ausgabe verwendet wurden?
• Wie wurde das Ergebnis anhand realer Arbeitsergebnisse validiert? 
• Welche Möglichkeiten gibt es für eine Überprüfung durch Menschen, bevor KI-Empfehlungen angewendet werden?
• Wie geht das System mit Fällen um, in denen Daten unvollständig sind oder fehlen?

3. Compliance – Sind Datenschutz und Ethik gewährleistet?

Die Personalabteilung hat mit einigen der sensibelsten Daten innerhalb eines Unternehmens zu tun. Die Einhaltung von Vorschriften ist daher unverzichtbar. Fragen des Datenschutzes, der Sicherheit und der Ethik sind keine Nebensächlichkeiten, sondern von grundlegender Bedeutung. Jeder Verstoß birgt sowohl Risiken für den Einzelnen als auch schwerwiegende Folgen für den Ruf und die Finanzen des Unternehmens.

Wichtige Fragen für Anbieter:

• Inwiefern entspricht die Lösung dem EU-KI-Gesetz und der DSGVO?
• Wo werden die Daten gespeichert und wer hat Zugriff darauf?
• Werden Kundendaten jemals zum Trainieren des Modells verwendet? Wenn ja, wie?
• Gibt es regelmäßige Audits und Überwachungsverfahren?
• Welche Sicherheitsvorkehrungen verhindern, dass das System Vorurteile schafft oder verstärkt oder Informationen ableitet, die im Arbeitskontext nicht geeignet sind?

Schlussfolgerung

Bei der Checkliste geht es nicht darum, HR-Fachleute zu Datenwissenschaftlern zu machen. Es geht darum, eine KI-Strategie zu ermöglichen, die Personalentscheidungen durch Validität, Fairness, Compliance und Vertrauen stärkt. Indem sie dem HR-Bereich ein klares, praktisches Werkzeug an die Hand gibt, hilft die Checkliste dabei, die richtigen Fragen zu stellen und transparente Antworten zu verlangen.

👉Möchten Sie verstehen, wie dies in der Praxis umgesetzt werden kann?
Laden Sie unser Whitepaper herunter:Der vollständige Leitfaden zu KI im Personalwesen