Partiskhet i rekryteringen på grund av AI: den dolda risken som företagen förbiser 

Vi vet att 72 % av HR-cheferna anser att AI kan återspegla eller förstärka mänskliga fördomar. Ändå ökar de flesta av dem fortfarande sin användning av AI i rekryteringsprocessen. Det är inte nödvändigtvis en motsägelse, men det är ett missförstånd om hur fördomar inom AI faktiskt fungerar.

Det antagande som ligger till grund för de flesta beslut om införande av AI är att ett verktyg som är utformat för att vara objektivt också kommer att vara objektivt. Men goda avsikter väger inte särskilt tungt när plattformarna förstärker redan befintliga fördomar och skapar egna. Detta är vad som i praktiken kallas”AI-mognadsklyftan”. Införandet går snabbare än den styrning som krävs för att använda dessa verktyg på ett rättvist sätt.

Partiskhet i AI-baserade rekryteringsprocesser uppstår när data, modellens utformning eller den praktiska användningen av ett AI-verktyg leder till resultat som systematiskt missgynnar kandidater på grund av egenskaper som inte har något samband med arbetsprestationen. Det skiljer sig från mänsklig partiskhet på ett avgörande sätt: medan mänsklig partiskhet är inkonsekvent och synlig, är algoritmisk partiskhet stabil, skalbar och ofta osynlig tills den redan har påverkat tusentals beslut. 

Varför AI både kan minska och öka partiskheten vid rekrytering 

AI kan eliminera vissa former av partiskhet i rekryteringsprocessen. Systemet tillämpar samma kriterier på alla kandidater, betygsätter svaren med hjälp av samma algoritm och eliminerar de variationer som uppstår när intervjuare är trötta eller fattar beslut på en bråkdels sekund. För organisationer där inkonsekventa mänskliga beslut har varit den främsta orsaken till orättvisa resultat innebär denna konsekvens en förbättring. 

Men konsekvens och rättvisa är inte samma sak. En algoritm som tränats på partiska historiska data kommer att tillämpa dessa mönster konsekvent – på varje kandidat, i varje tjänst och i varje anställningsbeslut som organisationen fattar. Den korrigerar inte för partiskheten i sina träningsdata. Den lär sig den och sprider den sedan vidare. 

Vår senaste undersökning visar att HR-chefer anser att AI både kan förstärka och minska fördomar. Och de har rätt – det beror helt och hållet på hur verktyget är uppbyggt och hur det hanteras. För en mer omfattande översikt över både möjligheterna och riskerna med AI inom HR, seartikeln ”Möjligheter och fallgropar vid AI-integration inom HR”. 

Hur fördomar smyger sig in i AI-baserade rekryteringssystem 

Partiskhet uppstår inte i AI-system som en färdig produkt. Den smyger sig in vid tre specifika punkter: 

• I data.AI lär sig av historisk information – tidigare anställningsbeslut, tidigare prestationsbedömningar, tidigare befordringsmönster. Om den historiken speglar strukturella fördomar i vem som anställts, utvecklats och behållits, lär sig modellen att dessa mönster är tecken på framgång. Ett verktyg som tränats på tio års anställningsdata från en organisation som befordrat män i oproportionerligt hög utsträckning kommer att lära sig att dessa mäns egenskaper är prediktorer för prestation. Det är de inte. De är endast indikatorer på de beslut som fattats av de personer som befordrat dem.

• I modellen.Även med rena träningsdata kan modeller identifiera proxyvariabler – faktorer som korrelerar med skyddade egenskaper utan att direkt nämna dem. Postnummer kan korrelera med etnisk tillhörighet. Vilket universitet man har gått på kan korrelera med socioekonomisk bakgrund. Ordförråd och meningsbyggnad korrelerar ofta med båda. En modell som optimeras för förutsägbarhet kommer att använda dessa signaler om de förbättrar resultatet, oavsett om de är relevanta för jobbet eller inte. 

• I interaktionen.Frågeställningar och kriterier bygger på antaganden om vad som anses vara bra. En rekryterare som ber ett AI-verktyg att hitta kandidater som liknar företagets bästa medarbetare prioriterar de egenskaper som dessa medarbetare har gemensamt – inklusive de som inte har något med jobbet att göra. Instruktionen låter neutral, men resultatet är ofta inte det. Och eftersom fördomarna kommer in via instruktionen snarare än modellen kan de vara osynliga även för de personer som använder verktyget. 

Varför det är svårare att upptäcka partiskhet i algoritmer än hos människor

Mänskliga fördomar är inkonsekventa. En partisk intervjuare har bra och dåliga dagar, fattar olika beslut beroende på humör och skapar ett mönster som är tillräckligt otydligt för att ifrågasättas eller avfärdas. Algoritmiska fördomar är stabila. Samma indata ger samma utdata, varje gång, för alla kandidater som systemet behandlar. 

Det är just denna stabilitet som gör det farligt. En partisk algoritm avslöjar sig inte genom enstaka felaktiga beslut – den avslöjar sig genom sammantagna resultat som först blir synliga i stor skala. När mönstret väl syns i rekryteringsdata har det redan påverkat hundratals eller tusentals enskilda beslut. Varje beslut såg rimligt ut för sig, men inget av dem var slumpmässigt. 

Aktiv övervakning är det enda tillförlitliga skyddet. Därföranvänder Assessiodemografiska data för att upptäcka och åtgärda negativa effekter i våra utvärderingar. Att vänta på att ett mönster ska bli synligt i resultaten innebär ju att man väntar tills skadan redan är skedd. 

Verkliga exempel på partiskhet inom AI vid rekrytering: HireVue och CV-granskning med stora språkmodeller

Under 2020 utsattes HireVues AI-drivna system för videointervjuer för ihållande kritik för att det analyserade kandidaternas ansiktsuttryck och kroppsspråk som indikatorer på egenskaper som är relevanta för tjänsten.  

I ett dokumenterat fall fick en permitterad anställd avslag när hon sökte tillbaka till sin egen tjänst – trots att hon fick höga poäng för sina svar men låga poäng för sitt kroppsspråk. Verktyget hade konsekvent fattat sådana beslut i stor skala innan någon upptäckte det. HireVue tog bort funktionen för ansiktsanalys år 2021 och medgav att den vetenskapliga grunden var bristfällig. 

I en studie från 2025 genomförd av forskare vid Hongkonguniversitetet och Kinesiska vetenskapsakademin testades fem ledande stora språkmodeller i samband med granskning av CV. Samtliga fem visade på systematisk partiskhet – de gav kvinnliga kandidater högre poäng än manliga kandidater och gav genomgående svarta manliga kandidater lägre poäng än vita manliga kandidater med identiska kvalifikationer.  

Forskarna konstaterade att dessa fördomar verkade vara djupt rotade i hur modellerna utvärderar kandidater – och att vissa av dem sannolikt hade införts eller förstärkts i samband med försök att eliminera fördomar. Verktyg som uttryckligen utformats för att minska fördomar hade i stället inbyggt nya mönster i processen. 

Hur strukturerad AI minskar partiskheten vid rekrytering 

Lösningen på problemet med partiskhet inom AI är inte att helt överge AI – utan att införa AI-processer som bygger på gedigen psykometrisk vetenskap. Strukturerad AI gör inga antaganden om hur väl en person passar för ett jobb, utan baserar sina beslut på validerade data som har testats för att bekräfta att de verkligen kan förutsäga prestation. 

Tre standarder anger hur detta ser ut i praktiken: 

• Prediktiv validitet– verktygets resultat korrelerar med hur kandidaterna faktiskt presterar i rollen, inte med surrogatvariabler som råkar skilja dem med höga poäng från dem med låga. 
• Tillförlitlighet– samma kandidat skulle få ett konsekvent resultat över tid, vilket speglar stabila arbetsrelaterade egenskaper snarare än tillfälliga omständigheter. 
• Relevans– bedömningen mäter endast det som är viktigt för tjänsten och har granskats med avseende på eventuella negativa effekter för olika demografiska grupper bland de sökande. 

Ett verktyg som uppfyller alla tre kraven kan man lita på att det mäter det det påstår sig mäta – på ett konsekvent sätt och utan att systematiskt missgynna vissa grupper av sökande i processen. 

Fem sätt att förebygga partiskhet i samband med AI vid rekrytering 

Använd validerade data. Träningsdata bör kontrolleras så att de är representativa vad gäller kön, ålder, etnicitet och andra skyddade egenskaper innan de används för att bygga eller kalibrera en modell. Historiska rekryteringsdata är nästan aldrig en säker utgångspunkt utan ytterligare åtgärder. 

1. Övervaka partiskhet kontinuerligt.Tester före lansering visar om ett verktyg var rättvist när det infördes. De visar dock inte om det förblir rättvist när kandidatgruppen förändras, rollen utvecklas eller modellen uppdateras. Analys av negativ påverkan bör vara en fortlöpande process, inte en engångsåtgärd. 

2. Ta bort demografiska uppgifter. Allauppgifter som modellen inte behöver för att förutsäga arbetsprestationen utgör en risk för partiskhet. Namn, postnummer, utbildningsinstitutioner och foton bör tas bort från indata, såvida det inte finns ett specifikt, arbetsrelaterat skäl för att behålla dem. Även i sådana fall bör resultaten testas med avseende på oavsiktlig diskriminering. 

3. Inför mänsklig granskning. AIbör presentera data och rekommendationer. Det är människor som bör fatta de slutgiltiga besluten, särskilt vid avgörande skeden i rekryteringsprocessen. En organisation där AI kan avvisa kandidater utan någon mänsklig granskning har tagit bort den kontroll som skulle kunna upptäcka systematiska fel innan de får större omfattning. 

4. Säkerställ förklarbarhet.Om du inte kan förklara för en kandidat vad verktyget har utvärderat, varför just dessa faktorer valdes ut och hur resultatet kom fram, är verktyget inte redo för ansvarsfull användning. Förklarbarhet är inte bara ett lagkrav enligt EU:s AI-lag, utan också den standard som tvingar leverantörer att redogöra för sin metodik istället för att gömma sig bakom proprietära algoritmer. 

För verktyg som bygger på validerad psykometrisk forskning är detta inga nya krav – det är utgångspunkten. Frågan är inte om era AI-baserade rekryteringsverktyg kan uppfylla denna standard. Frågan är om de har den struktur och styrning som krävs för att säkerställa att de fortsätter att uppfylla dessa standarder på obestämd tid. 

👉Den härartikeln bygger på forskning från The Maturity Gap, Assessios datadrivna guide till införande av AI, styrning och förtroende inom HR. Ladda ner hela rapporten för att fördjupa dig i resultaten. Ladda ner The Maturity Gap här.