Isak Borgemo har under sina studier vid Linnéuniversitetet i Växjö och i samarbete med Next Position, undersökt frågan i en rapport som kombinerar juridisk analys med hans praktiska erfarenheter från rekrytering.
Rapporten undersöker hur användningen av artificiell intelligens (AI) inom rekryteringsprocesser interagerar med vår svenska diskrimineringslagstiftning. Genom att kombinera rättsdogmatisk och rättssociologisk metod belyser Isak i sin rapport de rättsliga och etiska utmaningar som uppstår när AI används inom yrken som traditionellt byggt på mänsklig interaktion. Han lyfter även ansvarsfrågan vid diskriminering som härrör från AI, där en central fråga är om arbetsgivare, AI-leverantörer eller andra aktörer kan hållas rättsligt ansvariga.
Eftersom diskrimineringsformen “instruktion att diskriminera” ännu inte prövats rättsligt i Sverige, ställs viktiga frågor om lagens tillämpning på AI-system och Isak lyfter behovet av tydligare rättslig vägledning.
En viktig insikt är att AI kan vara både möjlighet och risk: rätt använt kan det bidra till mer objektiva urval, men tränas algoritmerna på skev data riskerar AI istället att förstärka historiska fördomar.
Att EU i den nya AI Act klassar just rekryteringsverktyg som ett ”hög risk-område” understryker allvaret. För arbetsgivare innebär det att ansvarsfrågan inte går att bortse från.
Här är tre centrala lärdomar från rapporten:
- Arbetsgivaren bär alltid ansvaret – även när AI-baserade system används i urvalet.
- Lagstiftningen halkar efter i teknikutvecklingen – särskilt formuleringen och innebörden i ”instruktion att diskriminera” som inte är anpassad för AI.
- Mänsklig granskning är nyckeln – AI kan vara ett stöd, men aldrig ersätta mänsklig kompetens.
Stort tack till Isak för ett gediget arbete som väcker viktiga frågor om framtidens rekrytering!
Läs Isaks fullständiga rapport nedan →
AI-verktyg inom rekrytering -risker och möjligheter
Författare: Isak Borgemo
Handledare: Jenny Westerstrand
Examinator: Linnéa Olsson
Lärosäte: Linnéuniversitetet
Ämne: Rättsvetenskap
Sammanfattning och tack
Denna rapport undersöker hur användningen av artificiell intelligens (AI) inom rekryteringsprocesser interagerar med svensk diskrimineringslagstiftning. Genom att kombinera rättsdogmatisk och rättssociologisk metod belyser rapporten de rättsliga och etiska utmaningar som uppstår när AI används inom yrken som traditionellt byggt på mänsklig interaktion. Vidare diskuteras ansvarsfrågan vid diskriminering som härrör från AI, där en central fråga är om arbetsgivare, AI-leverantörer eller andra aktörer kan hållas rättsligt ansvariga.
Med utgångspunkt i praktiska erfarenheter från praktiktiden hos Next Position visar rapporten hur AI kan effektivisera rekryteringsarbetet och minska mänskliga fördomar samtidigt som bristande transparens och partiskhet i AI-system riskerar att leda till diskriminering. Eftersom diskrimineringsformen “instruktion att diskriminera” ännu inte prövats rättsligt i Sverige, ställs viktiga frågor om lagens tillämpning på AI-system och behovet av tydligare rättslig vägledning.
Jag vill även passa på att tacka mina kollegor Anna, Marcus, Göran, Victor och Victoria på Next position. Tiden på Next position har varit både lärorik, rolig och gav mig äntligen möjligheten att kombinera mina arbetsrättsliga studier med intresset för AI. Tilltron för mänsklig kompetens kombinerat med kunskap håller jag fortfarande högre än att blint förlita sig på AI att lösa uppgifter. Jag hoppas att rapporten kan väcka tankar inför framtiden och de tekniska möjligheter som vi står inför.
Förkortningar
AD – Arbetsdomstolen
AI – Artificiell intelligens
AI Act – EU:s Artificial Intelligence Act
DL – Diskrimineringslagen
DO – Diskrimineringsombudsmannen
EKMR – Europakonventionen
EU – Europeiska unionen
RF – Regeringsformen
Innehållsförteckning
1.2 Presentation av Next Position Group (praktikverksamhet) 2
3.2 Skyddet mot diskriminering i EU-rätten. 7
4.1.2 Diskrimineringsgrunder 12
4.1.3 Indirekt och direkt diskriminering. 12
4.1.4 Instruktion att diskriminera. 13
4.2 Diskrimineringsombudsmannen. 14
4.2.1 DO:s farhågor gällande AI och automatiserade beslut 14
5 AI-verktyg i rekryteringsprocessen. 16
6.2 Praktisk relevans och koppling till praktikplatsen. 18
7 Käll- och litteraturförteckning. 1
1 Inledning
1.1 Bakgrund
Den snabba utvecklingen av AI under de senaste åren kan förklaras av en kombination av tekniska, ekonomiska och samhälleliga faktorer.[1] Tillgången till stora mängder data, som genereras genom den ökande digitaliseringen av samhällsprocesser har skapat förutsättningar för att träna avancerade AI-modeller. Parallellt har framstegen inom datorkraft möjliggjort träning av komplexa algoritmer, såsom djupa neurala nätverk. Genombrott inom AI-teknik har dessutom avsevärt utökat teknologins applikationsområden, inklusive inom rekrytering.[2]
På europeisk nivå har införandet av EU:s föreslagna Artificial Intelligence Act (AI Act) framhållits som ett viktigt steg mot att reglera användningen av AI i högriskområden. Förordningen syftar till att säkerställa att AI används på ett sätt som respekterar grundläggande rättigheter, vilket inkluderar skyddet mot diskriminering. AI-verktyg som används i rekryteringsprocesser anses enligt EU vara ett högriskområde och ställer också krav på hur svensk lagstiftning bör förhålla sig till denna typ av verktyg.[3]
AI-teknikens introduktion på den svenska arbetsmarknaden blir relevant även för arbetsrätten, där diskrimineringslagen (SFS 2008:567) reglerar arbetsgivares förhållningssätt till likabehandling. Ett centralt dilemma är att AI-system kan återspegla eller förstärka fördomar som redan finns i träningsdata, vilket kan resultera i diskriminering.[4] Samtidigt möjliggör AI en mer objektiv och datadriven process, om systemet utformas och används på ett korrekt sätt. Detta innebär att balansen mellan teknikens effektivitet och rättssäkerhet är av stort intresse för samhället.
Inom rekryteringsprocesser kan AI används i flera steg, från att screena ansökningar och analysera kandidatprofiler till att genomföra prediktiva bedömningar av en individs prestation inom en verksamhet. AI kan i rekryteringsförfarande bidra till effektivisering samt en reducering av subjektiva bedömningar. Men hur förhåller sig nuvarande lagstiftning till diskriminering, om den återfinns hos tekniken snarare än människan?
1.2 Presentation av Next Position Group[5] (praktikverksamhet)
Next Position Group är ett rekryteringsbolag som specialiserar sig på chefs- och specialistrekrytering inom olika branschsektorer. Verksamheten grundades 2011 och har idag två kontor, belagda i Växjö och Stockholm. Personalstyrkan består av 4 fastanställda medarbetare, en konsult samt två deltidsanställda. Verksamhetens arbetsmodell präglas av ett starkt fokus på kvalitet, professionalitet och personliga relationer till både kund och kandidat snarare än volym.
Next Positions arbetssätt bygger på ett noggrant förarbete där verksamheten sätter sig in i uppdragsgivarens företag och behov, för att sedan tillsammans utforma en önskad kravprofil för tjänsten. Genom att kombinera traditionella searchmetoder med modern teknik har Next Position utvecklat en effektiv process som bygger på djupgående kunskap kring kundens behov, noggranna personbedömningar samt ett långsiktigt perspektiv i samarbeten. Next Position rekryterar inte från sina egna kunder och följer branschföreningen ESK:s etiska regler för att säkerställa respekt och integritet i utförande av uppdrag.
Arbetet innefattar även bedömningen av kandidaters kompetenser och kvalifikationer, vilket inte enbart baseras på innehållet i ett CV. Processen inkluderar en noggrann insamling av referenser och kontroller av kandidaternas bakgrund. Genom djupintervjuer och personlighetstest (U.P.P) skapas en mer omfattande helhetsbild av kandidater, vilket möjliggör att man med större precision kan matcha rätt person med rätt roll. Utöver att Next Position levererar sin arbetsprestation, skapar det goda förutsättningar för långsiktiga och positiva relationer mellan arbetsgivare och kandidat.
Under min praktiktid har jag haft möjligheten att vara delaktig i rekryteringsprocesser, från uppstart till avslut. En rekryteringsprocess innefattar uppstartsmöten med kund, researcharbete där man aktivt letar upp kandidater samt kontaktar dessa för att kontrollera intresse av utannonserad tjänst. Praktiken har även innefattat att sitta med under intervju- och bedömningssamtal med kandidater som gått vidare från den inledande delen av rekryteringsprocesser.
Utöver det traditionella rekryteringsarbetet har jag deltagit i utbildningstillfällen om AI inom rekrytering, samt själv haft möjligheten att använda AI-verktyg i sökprocessen av lämpliga kandidater. Verktygen har fungerat som ett tillägg i webbläsaren, som analyserar och poängsätter en möjlig kandidats profil utifrån arbetsanalyser som man själv utformat.
1.3 Syfte
Denna rapport syftar till att problematisera relationen mellan AI som verktyg och gällande lagstiftning, med fokus på diskrimineringsformen “instruktion att diskriminera” samt ansvarsfrågan vid AI-relaterad diskriminering. Rapporten kopplar valda frågeställningar till praktiska erfarenheter från Next Position.
1.4 Frågeställningar
Omfattar skyddet i diskrimineringslagen kopplat till diskrimineringsformen ”instruktion att diskriminera” förfaranden när AI-verktyg instrueras att diskriminera personer i rekryteringsprocesser?
Om diskriminering förekommer i rekryteringsprocesser där AI-verktyg har använts, vem bör rättsligt hållas ansvarig för den förkomna diskrimineringen?
1.5 Avgränsningar
Begreppet diskriminering behandlas i kontexten av rekryteringsprocesser, alltså när det drabbar arbetssökande eller kandidater innan ett anställningsförhållande föreligger. Syftet är för att skapa en tydligare koppling till min praktikplats på Next position, där jag varit aktivt involverade i flera rekryteringsprocesser.
Även diskrimineringsformerna har valts att begränsas till att primärt behandla instruktion att diskriminera samt sekundärt, direkt och indirekt diskriminering. Instruktion att diskriminera är en del av frågeställningarna och har därför tilldelas störst utrymme av valda diskrimingeringsformer.
Diskrimineringsformerna som valts bort är bristande tillgänglighet, trakasserier samt sexuella trakasserier. Bristande tillgänglighet väljs bort då AI-verktygens funktionalitet och tillgänglighet snarare ligger hos de verksamheter och programmerare som utformar verktygen.[6] Trots att övriga former av diskriminering potentiellt hade kunnat förekomma så är det mindre troligt, då AI-verktyg saknar intentioner och personliga motiv. Sexuella anspelningar eller olämpliga kommentarer kopplade till någons religion bör därför inte förekomma, förutsatt att verktyget inte har felprogrammerats eller tränats på olämpliga data.[7]
Till sist, även om Europarätten till viss del kommer att behandlas så är det främst för att tydliggöra dess rättsliga inverkan på medlemsstater samt en presentation av AI act.
1.6 Metod och material
För att möjliggöra analysen av AI:s roll inom rekryteringsprocesser, dess förhållande till svensk diskrimineringslagstiftning och samtidigt beakta den potentiella inverkan av EU:s AI-Act har två metoder valts.
Inledningsvis har den rättsdogmatiska metoden, då metoden eftersträvar att försöka presentera en lösning på rättsliga problem genom en applicering av relevanta rättsregler.[8] Problemformuleringen i denna rapport är att undersöka hur användningen av AI inom rekryteringsförfaranden är reglerade på den svenska arbetsmarknaden samt vilket skydd som den enskilde kan åberopa enligt lagen. Eftersom både användningen av AI inom rekrytering samt diskriminering i arbetslivet berörs av både nationell och EU-rättsliga lagstiftning, ställs krav på att hantera samspelet mellan dessa lagstiftningar och rättskällehierarkin.[9]
Genom att systematisera och analysera centrala rättskällor, såsom diskrimineringslagen kan denna metod även tydliggöra de skyldigheter som gäller för aktörer som använder AI i rekryteringar. Den rättsdogmatiska metoden lämpar sig väl för att analysera hur den föreslagna AI Act kan harmoniseras med svensk rätt och vilka potentiella förändringar den kan innebära för nuvarande regelverk.[10] Detta inkluderar både en analys av AI Act:s inverkan på användningen av AI-system i stort samt dess specifika betydelse för efterlevnad av diskrimineringslagstiftning vid rekrytering på den svenska arbetsmarknaden.
Den rättsociologiska metoden erbjuder i denna rapport ett nödvändigt komplement till den rättdogmatiska metoden, då den ställer andra typer av frågor. I stället för att undersöka rättens tillämpning så undersöker rättssociologin istället orsakerna till och konsekvenserna av dess tillämpning.[11] Eftersom användningen av AI inom rekrytering inte endast handlar om tekniska lösningar utan även påverkas av mänskliga beslut, möjliggör den rättsociologiska metoden en bredare förståelse för de faktiska konsekvenserna av både diskrimineringslagstiftningen och AI Act.[12] Med denna metod kan rapporten bland annat analysera hur AI-system designas och tränas, vilka risker för inbyggd partiskhet som kan förekomma samt hur dessa risker hanteras i praktiken. Vidare kan metoden belysa hur relationen mellan människa och AI påverkar ansvarsfrågan i situationer där diskriminering förekommer.
Kombinationen av dessa metoder möjliggör för rapporten att belysa både teoretiska och praktiska aspekter med rättslig koppling till AI inom rekrytering. Tillsammans skapar metoderna förutsättningar till en fördjupad diskussion om rättssäkerhet, ansvarsfördelning och hur rättsordningen kan behöva anpassas för att möta de utmaningar som AI medför. Rapportens utformning blir därför inte endast en rättslig analys, utan också en samhällsrelevant studie av AI:s framväxt inom rekrytering på svensk arbetsmarknad.
1.7 Disposition
Avsnitt 2 är en generell presentation av vad begreppet AI innefattar och dess framväxt i nutid.
Avsnitt 3 presenterar kortfattat relevant EU-rätt samt den aktiva roll som EU har för att motverka diskriminering på arbetsmarknaden efter Lissabonföredraget. I detta avsnitt kommer även den nuvarande utformningen av AI-act att presenteras.
Avsnittet 4 går in på den nationella lagstiftningen i form av DL samt myndigheten Diskrimineringsombudsmannen (DO).
Avsnitt 5 kommer kortfattat presentera hur AI-verktyg kan användas i rekryteringsprocesser.
Avsnitt 6 utgörs av en analys som ämnar binda ihop avsnitt 4, om den nationella diskrimineringslagstiftningen med avsnitt 5 om AI-verktyg. Utifrån detta kommer en slutsats presenteras.
2 Vad är AI?
Artificiell intelligens (AI) utgör en teknologisk utveckling som möjliggör att datorer och system kan utföra uppgifter som traditionellt krävt mänsklig intelligens. Detta möjliggör för inlärning från tidigare erfarenheter, analys av komplexa data samt eget beslutsfattande.[13] AI bygger på algoritmer och matematiska modeller som med hjälp av stora mängder data, tränas för att identifiera mönster och skapa prediktiva eller automatiserade beslut. De mest framstående tillämpningarna idag inkluderar maskininlärning och djupinlärning, där system kontinuerligt förbättrar sin prestanda genom att analysera nya data.[14]
Denna tekniska acceleration har drivits av starka kommersiella incitament, där företag ser AI som ett medel för effektivisering och konkurrensfördelar.[15] Samtidigt har kapplöpningen om att positionera sig på en växande marknad ofta gått snabbare än utvecklingen av rättsliga ramverk. Lagstiftningsinitiativ som AI Act representerar försök att minska glappet mellan teknologins snabba framväxt och behovet av rättslig reglering.[16] Inom rekryteringsområdet har detta aktualiserat frågor om rättssäkerhet, ansvarsfördelning och diskriminering, där AI:s potential att minska mänskliga fördomar samtidigt kan leda till nya typer av algoritmbaserad diskriminering.[17]
3 EU-rätten
Medlemskapet i EU vilar på principen om härled kompetens, vilket innebär att medlemsstaterna frivilligt överför en del av sin nationella suveränitet still EU:s intuitioner. Dessa har inom vissa områden befogenhet att fatta beslut, som blir gällande för samtliga medlemsstater.[18] Sverige har sedan 1995 varit medlemmar I EU. Det svenska medlemskapet förutsatte att den svenska grundlagen reviderades samt att ny övergripande lagstiftning kopplat till EU-anslutningen utformades, i form av lag (1994:1500) med anledning av Sveriges anslutning till Europeiska unionen (anslutningslagen). Införlivandet av de grundläggande föredragen och anslutningsfördraget genom nationell lagstiftning var ett resultat av Sveriges dualistiska syn på förhållandet mellan folkrätt och nationell rätt.[19]
3.1 Lissabonföredraget
Lissabonfördraget, som trädde i kraft den 1 december 2009 och medförde betydande konsekvenser för EU och dess medlemsstater. Fördraget reformerade unionens institutionella struktur, förtydligade det rättsliga förhållandet mellan medlemsstaterna och EU samt stärkte rättigheterna för EU:s medborgare.[20] Förändringen medförde att den Europeiska unionens stadga om de grundläggande rättigheterna blev juridiskt bindande, vilket innebar att stadgan blev en integrerad del av EU:s primärrätt. [21]
I och med Lissabonfördraget gavs även EU rättslig status som en juridisk person, vilket medförde att unionen kunde ingå internationella avtal och ansluta sig till internationella organisationer. Även EU:s rättsordning konsoliderades genom att ge rättsligt företräde åt EU-rätten, vilket innebar att EU:s lagstiftning har företräde framför nationell lagstiftning i fall av konflikt.[22]
Fördelningen av befogenheter mellan EU och medlemsstaterna förtydligades genom att tre nivåer fastställdes: exklusiva, delade och stödjande. Inom delade befogenheter, som inkluderar socialpolitiken, fick EU ökade möjligheter att lagstifta i samarbete med medlemsstaterna. Socialpolitiken innefattar bland annat områden som arbetsrätt och arbetsmarknadspolitik.[23] Samtidigt fastställde subsidiaritets- och proportionalitetsprinciperna ramarna för hur och när EU kan ingripa, vilket skulle säkerställa att unionen inte agerar på områden där medlemsstaterna bättre kan uppnå målen.[24]
3.2 Skyddet mot diskriminering i EU-rätten
Europakonventionen om de mänskliga rättigheterna (EKMR) antogs inom ramen för Europarådet 1950. EKMR utgör en central rättskälla inom EU-rätten trots att Europarådet är fristående organisation från EU. Genom Lissabonfördraget, efter att EU förvärvat sig statusen som juridisk person, beslutades det att EU skulle ansluta sig till EKMR.[25]
Skyddet mot diskriminering inom EU-rätten är förankrat i flera centrala rättskällor, vilka tillsammans utgör en omfattande rättslig ram för att säkerställa likabehandling och jämlikhet inom unionen. Detta skydd återfinns både i EU-fördragen och i sekundärrätten, där lagstiftningen har utvecklats för att främja icke-diskriminering och lika möjligheter inom olika områden, särskilt på arbetsmarknaden.
Skyddet mot diskriminering i EU-rätten grundas på flera centrala rättskällor som tillsammans syftar till att säkerställa likabehandling och jämlikhet. Artikel 2 i Fördraget om Europeiska unionen (FEU) lyfter fram unionens värden, såsom respekt för mänskliga rättigheter och jämlikhet, medan artikel 10 i Fördraget om Europeiska unionens funktionssätt (FEUF) ålägger unionen att motverka diskriminering baserad på kön, etnicitet, religion, funktionsnedsättning, ålder eller sexuell läggning i alla verksamhetsområden.
En annan central källa är stadgan om de grundläggande rättigheterna inom Europeiska unionen (EU-stadgan). Stadgan, som sedan Lissabonfördragets ikraftträdande är juridiskt bindande, innehåller explicita bestämmelser om förbud mot diskriminering. Artikel 21 i stadgan förbjuder all form av diskriminering och artikel 23 bekräftar jämställdhet mellan kvinnor och män inom alla områden.
Skyddet konkretiseras genom EU:s sekundärrätt, främst genom ett antal direktiv som reglerar olika aspekter av diskriminering. Bland dessa är direktiv 2000/43/EG (rasdirektivet) och Direktiv 2006/54/EG (ramdirektivet för likabehandling i arbetslivet) av betydelse. Rasdirektivet förbjuder diskriminering på grund av ras eller etniskt ursprung inom områden som sysselsättning, utbildning och tillgång till tjänster. Ramdirektivet fastställer principen om likabehandling i arbetslivet och förbjuder diskriminering på grund av religion, funktionsnedsättning, ålder eller sexuell läggning.
Dessa rättsakter har varit viktiga för att harmonisera medlemsstaternas lagstiftning och säkerställa att en hög standard för skydd mot diskriminering. För Sverige, liksom för andra medlemsstater, innebär detta en skyldighet att implementera och tillämpa EU-rättens principer om icke-diskriminering i den nationella rättsordningen.
3.2.1 Europakonventionen
Europakonventionen inkorporerades i svensk rätt genom Lag (1994:1219) om den europeiska konventionen angående skydd för de mänskliga rättigheterna och de grundläggande friheterna (inkorporeringslagen) som trädde i kraft den 1 januari 1995. Syftet med inkorporeringen var att säkerställa att svenska medborgare fullt ut kunde åberopa sina rättigheter enligt konventionen inför svenska domstolar och myndigheter.
Den rättsliga statusen för Europakonventionen i svensk rätt är särskilt stark. Svenska domstolar och myndigheter är skyldiga att tolka och tillämpa nationell lagstiftning i enlighet med konventionen. Konventionens skydd kan också åberopas direkt av enskilda som ett rättsligt verktyg för att utkräva ansvar vid överträdelser av principen om icke-diskriminering.[26]
Skyddet mot diskriminering i Europakonventionen är främst reglerat i artikel 14. Diskrimineringsförbudet omfattar ett brett spektrum av grunder, såsom kön, ras, religion, politiska åsikter, och andra omständigheter.
3.3 EU:s sociala pelare
Den europeiska pelaren för sociala rättigheter är en central del av EU:s aktiva arbete för att stärka sociala rättigheter och främja rättvisa arbetsvillkor. Pelaren antogs 2017 och består av 20 principer fördelade över tre huvudområden: lika möjligheter och tillgång till arbetsmarknaden, rättvisa arbetsvillkor samt social trygghet och inkludering.[27]
Pelaren kan ses som ett verktyg för att säkerställa att diskriminering i arbetslivet bekämpas på flera nivåer. Bland annat integrerar denna pelare direktiv som redan behandlar diskriminering, såsom Direktiv 2000/78/EG och Direktiv 2006/54/EG och tydliggör hur dessa ska implementeras i praktiken. Pelaren kan därför ses som en politisk ram för att säkerställa att medlemsstaterna efterlever befintliga regler men även ställer krav på att medlemsstater på nationell nivå arbetar aktivt för att förhindra diskriminering i arbetslivet.
I förhållande till arbetsgivare ställer pelaren krav på att rekryteringsprocesser och arbetsvillkor ska utformas så att ingen arbetssökande eller anställd utsätts för diskriminering. Detta inkluderar även åtgärder för att förebygga indirekt diskriminering, exempelvis genom att säkerställa att rekryteringsverktyg, inklusive AI-system, inte reproducerar eller förstärker ojämlikheter.
3.4 AI Act
AI Act är ett föreslaget regelverk inom EU som syftar till att skapa en enhetlig och harmoniserad lagstiftning för artificiell intelligens. Förslaget har utvecklats som en respons på de omfattande möjligheter och utmaningar som AI-teknik innebär för såväl individer som samhällen. Behovet av en sådan reglering anses ha framkommit dels ur AI-teknikens ökande betydelse för ekonomisk och teknologisk utveckling, dels av rädsla för potentiella risker som kan uppstå om teknologin används på ett oreglerat eller oetiskt sätt. Dessa risker inkluderar diskriminering, intrång i privatlivet och bristande transparens. AI Act anses därför nödvändig för att säkerställa att AI-system utvecklas och används på ett ansvarsfullt och rättssäkert sätt.[28]
Regelverket är utformat som en EU-förordning, vilket innebär att det kommer att vara direkt tillämpligt i alla medlemsstater utan behov av nationell implementering. Lagstiftningen bygger på en riskbaserad ansats där AI-system kategoriseras i fyra nivåer av risk: oacceptabel risk, hög risk, begränsad risk och minimal risk. Hög risk-kategorin omfattar exempelvis AI-verktyg som används inom rekrytering, vilket gör det särskilt relevant för svensk arbetsmarknad. För dessa system ställs krav på transparens, robusthet och ansvarsskyldighet. AI Act föreskriver också regler för att undvika diskriminering och säkerställa att AI-system inte reproducerar eller förstärker ojämlikheter.[29]
AI-förordningen gäller som svensk lag men förutsätter kompletterande nationella bestämmelser. Bestämmelserna ska börja tillämpas vid olika tidpunkter från den 1 augusti 2024, med det första ikraftträdandet av förbjudna områden inom sex månader och efterföljande delar av regleringen inom 12, 24 respektive 36 månader.[30] Om den nationella lagstiftningen enbart kommer uppfylla förordningens minimikrav eller reglera användning av AI hårdare är i dagsläget oklart, däremot kritiseras Sveriges politiker från att hittills ha varit passiva kring hanteringen av AI-utvecklingen.[31]
4 Den nationella rätten
Även om regeringsformen erbjuder ett visst skydd mot diskriminering så kommer det bara nämnas kortfattat. Detta skydd återfinns i 2 kap. 12 § och förbjuder lagar och föreskrifter från att missgynna någon på grund av kön, hudfärg, etniskt ursprung eller annan personlig omständighet. Man kan säga att RF endast erbjuder ett generellt skydd mot diskriminering i förhållande till det allmänna, som är skyldiga att säkerställa likabehandling i lagstiftning.
Den nuvarande diskrimineringslagen (2008:567) samlade och ersatte en rad tidigare svenska lagar som var inriktade på olika former av diskriminering. Dessa lagar hade utvecklats över tid för att täcka specifika diskrimineringsgrunder med respektive myndighet som ansvarade för tillsyn av efterlevnad. Genom att ersätta en mängd lagar och myndigheter med en samlad lagstiftning och en myndighet förenklades rättstillämpningen av diskrimineringsskyddet, då den nya lagen omfattade samtliga diskrimineringsgrunder och tillämpningsområden.[32]
4.1 Diskrimineringslagen
Diskrimineringslag (2008:567) utgör en central del av svensk lagstiftning med syftet att motverka diskriminering och främja lika rättigheter och möjligheter oavsett kön, könsidentitet eller könsuttryck, etnisk tillhörighet, religion eller annan trosuppfattning, funktionsnedsättning, sexuell läggning och ålder. Lagen är övergripande och omfattar flera samhällsområden som återfinns i andra kapitlet, däribland skola, vården och arbetslivet. Vidare reglerar den både direkta och indirekta former av diskriminering, olika typer av trakasserier samt bristande tillgänglighet. Syftet med lagen är att skapa ett starkt skydd för enskilda individer mot orättvis behandling, och säkerställa ett rättvist samhälle där samtliga aktörer är skyldiga att bedriva ett aktivt arbete för att motverka diskriminering.[33]
Lagen är utformad för att vara både sanktionerande och förebyggande. Diskrimineringsombudsmannen (DO) har mandat att både granska och driva ärenden mot verksamheter eventuellt har utsatt någon för diskriminering. På arbetsmarknaden innebär lagen att arbetsgivare har en skyldighet att vidta förebyggande åtgärder, exempelvis genom aktiva åtgärdsprogram och lönekartläggningar.[34]
Samtidigt erbjuder DL inte bara skydd för den som är anställd, utan även arbets- eller praktiksökande, praktikanter samt de som står till förfogande för att utföra eller inhyrd/inlånad arbetskraft. Dessa grupper återfinns under 2 kap. 1 § DL och möjliggör för diskrimineringsförbudet att gälla i arbetslivet utan begränsningar av vissa angivna situationer, som var fallet med tidigare lagstiftning.[35] För att diskriminering i arbetslivet ska falla inom ramen för denna bestämmelse, måste den påstådda diskrimineringen vara kopplad till en arbetsgivarens agerande, exempelvis genom beslut eller handlingar som är kopplade till anställningsvillkor eller tillgång till arbete. En arbetsgivare är således den aktör som bär ansvar för att säkerställa att diskriminering inte förekommer i samband med arbetsrelaterade situationer.[36]
4.1.1 Tillåtna undantag
Trots det starka skyddet mot diskriminering i diskrimineringslagen (2008:567) medges vissa undantag, förutsatt att de är sakligt motiverade och proportionerliga i förhållande till det legitima ändamål de syftar till att uppnå. Dessa undantag kan delas in i situationer där särbehandling är tillåten på grund av arbetslivets krav, strävanden efter mångfald, eller särskilda förutsättningar för vissa grupper. Tillåtna undantag återfinns i 2 kap. 2 § diskrimineringslagen och innefattar bland annat särbehandling i syfte att främja jämställdhet eller som har koppling till ett avgörande yrkeskrav.[37]
I samtliga situationer där avsteg från diskrimineringslagen görs, gäller att undantagen måste vara noga övervägda, strikt kopplade till det avsedda ändamålet samt tillämpas i linje med principerna om proportionalitet.[38]
4.1.2 Diskrimineringsgrunder
I 1 kap. 5 § av DL återfinns följande sex diskrimineringsgrunder:
Kön syftar till att skydda individer mot diskriminering på grund av deras biologiska eller juridiska kön och inkluderar även graviditet och förlossning.
Könsöverskridande identitet eller uttryck avser skydd för individer som identifierar sig som ett annat kön än sitt juridiska kön eller uttrycker sin könsidentitet genom exempelvis klädsel eller beteende.
Etnisk tillhörighet inkluderar skydd mot diskriminering på grund av nationellt eller etniskt ursprung, hudfärg eller liknande omständigheter.
Funktionsnedsättning avser skydd för individer med varaktiga fysiska, psykiska eller intellektuella nedsättningar som begränsar deras möjligheter att delta i samhällslivet på lika villkor.
Sexuell läggning omfattar skydd mot diskriminering grundad på homosexualitet, bisexualitet eller heterosexualitet.
Ålder syftar till att skydda individer mot diskriminering relaterad till deras ålder, vilket är särskilt relevant inom arbetslivet och utbildningsväsendet.
Utöver dessa innefattar DL även religion och annan trosuppfattning. Även om det definierats tillsammans med de andra diskrimineringsgrunderna. I förarbetena motiverades detta med att EU-rätten i direktiv 2000/78/EG (arbetslivsdirektivet) förbjuder diskriminering på grund av religion eller annan övertygelse utan att definiera innebörden av begreppet.[39] Vidare menade man på att diskrimineringsgrunden etnisk tillhörighet kan omfatta religion, då begreppen kompletterar varandra ansågs det vara av underordnad betydelse vilket begrepp som åberopades.[40]
4.1.3 Indirekt och direkt diskriminering
Direkt och indirekt diskriminering utgör två former av diskriminering som återfinns i 1 kap. 4 § DL. Direkt diskriminering inträffar när en individ behandlas mindre fördelaktigt än någon annan i en jämförbar situation, och denna behandling har en direkt koppling till någon av tidigare nämnda diskrimineringsgrunder. Denna form av diskriminering kännetecknas av ett tydligt orsakssamband mellan särbehandlingen och diskrimineringsgrunden, vilket gör den relativt enkel att identifiera.
Indirekt diskriminering är däremot mer subtil och uppstår när en till synes neutral regel, policy eller praxis har en särskilt negativ inverkan på personer som tillhör en viss skyddad grupp. Även om regeln i sig inte är utformad för att diskriminera, kan dess tillämpning leda till att vissa grupper missgynnas, om det inte finns ett sakligt och proportionerligt skäl för regeln.[41]
Båda formerna av diskriminering är förbjudna enligt lag men skiljer sig åt i sina uttryck och mekanismer. Medan direkt diskriminering ofta är avsiktlig och tydlig, kräver indirekt diskriminering en mer djupgående analys för att identifiera de strukturer och förfaranden som leder till missgynnande. Distinktionen är av relevans när det kommer till AI, där både medvetet och omedvetet handlade kan påverka utfallet av den information som presenteras av tekniken.[42]
4.1.4 Instruktion att diskriminera
Diskrimineringsformen “instruktion att diskriminera” enligt 1 kap. 6 § diskrimineringslagen förutsätter ett beroendeförhållande mellan två parter där en ger direktiv till en annan att agera diskriminerande.
En sådan instruktionen kan exempelvis innebära att en arbetsgivare uppmanar en rekryteringskonsult att exkludera kandidater på grund av deras kön, ålder eller annan diskrimineringsgrund. Denna form av diskriminering är allvarlig eftersom den ofta sker på ett systematiskt sätt och kan skapa en indirekt kedja av diskriminerande handlingar som är svår att utreda.
I Sverige har begreppet “instruktion att diskriminera” ännu inte prövats rättsligt i någon större omfattning.[43] Detta innebär att det finns en begränsad rättspraxis kring hur lagen ska tolkas och tillämpas i sådana situationer. Det har däremot förekommit tillsynsärenden kopplat till denna diskrimineringsform i arbetslivet:
I ett tillsynsbeslut från 2016 granskade Diskrimineringsombudsmannen (DO) en platsannons där ett företag sökte “en vaken, framåt tjej” för en tjänst. DO bedömde att annonsens utformning kunde avskräcka män från att söka, vilket kunde utgöra direkt diskriminering på grund av kön. Företaget förklarade att formuleringen var oavsiktlig och att de inte beaktar kön vid rekrytering. Därför avslutade DO ärendet utan vidare åtgärder.[44]
Det är viktigt att notera att “instruktion att diskriminera” enligt diskrimineringslagen innebär att någon i en överordnad ställning instruerar en annan att diskriminera. I det aktuella fallet fanns ingen sådan instruktion mellan två parter, vilket innebär att denna aspekt av lagen inte prövades. I andra rättsliga fall där instruktion att diskriminera har omnämnts, har det ofta föregåtts av någon av de andra diskrimineringsformerna, ofta direkt eller indirekt diskriminering. Konsekvensen har blivit att instruktion att diskriminera ännu inte har prövats.
Utifrån dagens formulering i DL innebär det att ett AI-system, som saknar intention och inte är en juridisk person själv kan ge eller få en instruktion i diskrimineringslagens mening. Problemet är att AI-systemets utformning och dess användning kan spegla partiska beslut eller instruktioner från de mänskliga aktörer som utvecklat och tränat systemet. I dessa fall är det avgörande att analysera hur ansvar fördelas mellan systemutvecklare, arbetsgivare och användare.[45]
4.2 Diskrimineringsombudsmannen
Diskrimineringsombudsmannen (DO) är en statlig myndighet med det övergripande uppdraget att arbeta för att främja lika rättigheter och möjligheter samt motverka diskriminering i samhället. DO:s tilldelade uppgifter återfinns i 4 kap. 1–2 §§ av DL samt Lag (2008:568) om Diskrimineringsombudsmannen.
DO:s roll innefattar att övervaka att diskrimineringslagen efterlevs och att erbjuda stöd till både individer, organisationer och verksamheter. Myndigheten utreder anmälningar om diskriminering, för en dialog med arbetsgivare och andra aktörer samt har möjlighet att föra talan i domstol i fall som rör överträdelser av lagen. Vidare har DO en central funktion i att informera och utbilda om diskrimineringsfrågor, samt att utveckla metoder och strategier för att motverka strukturell diskriminering.[46] Denna uppgift genomförs ofta genom utredningar som sammanställs i rapporter som offentliggörs för allmänheten.
I relation till rekryteringsförfaranden är DO:s arbete relevant eftersom diskrimineringslagen uttryckligen reglerar arbetsgivares ansvar att säkerställa rättvisa och icke-diskriminerande rekryteringsprocesser. Arbetsgivare har enligt lagen en skyldighet att vidta aktiva åtgärder för att motverka diskriminering och främja lika möjligheter, exempelvis genom att utforma objektiva och transparenta kriterier för urval och tillsättning av tjänster. DO kan granska rekryteringsprocesser för att identifiera potentiella överträdelser, exempelvis diskriminering på grund av etnisk tillhörighet, kön eller ålder, och påtala brister som strider mot lagens bestämmelser.
4.2.1 DO:s farhågor gällande AI och automatiserade beslut
Diskrimineringsombudsmannens rapport “AI och risker för diskriminering i arbetslivet” (2023:6) syftar till att belysa de potentiella riskerna för diskriminering som kan uppstå vid användning av artificiell intelligens (AI) och automatiserat beslutsfattande inom arbetslivet. Rapporten bygger på befintlig forskning kopplad till området samt en forskningsbaserad undersökning som omfattar 100 stora arbetsgivare och 10 rekryteringsföretag.[47]
Samma rapport konstaterar att risker för diskriminering kan uppstå eftersom AI-system tränas på data som återspeglar historiska och befintliga ojämlikheter i arbetslivet. Vidare identifierar den också att många arbetsgivare inte är medvetna om att de redan använder AI eller automatiserat beslutsfattande, vilket kan leda till att de inte vidtar nödvändiga åtgärder för att motverka diskriminering. Även bristande transparens påpekas att och möjligheter till granskning av AI-system kan försvåra identifiering och åtgärdande av diskriminerande effekter.[48]
Rapporten understryker vikten av att både AI-användare och AI-utvecklare tar ansvar för att förebygga risker för diskriminering. Utan möjlighet till ansvarsutkrävande riskerar felaktiga eller diskriminerande AI-system att inte upptäckas och åtgärdas, vilket kan få allvarliga konsekvenser för individer
DO har under de senaste åren släppt flera liknande rapporter, bland annat Rapport 2022:1 om Transparens, träning och data. Sammanfattningsvis belyser rapporten hur brister i transparens, kompetens och hantering av data kan leda till allvarliga risker för diskriminering inom arbetslivet. För att minska dessa risker föreslår rapporten att myndigheter och arbetsgivare tar ett större ansvar för att utveckla och implementera AI-system på ett etiskt och transparent sätt, samt att de genomgår utbildning för att bättre förstå de juridiska och sociala konsekvenserna av AI-baserade beslut.[49]
Slutligen rapport LED 2018/387 där DO konstaterar att diskriminering som uppstår till följd av användningen av AI, automatiserade system eller stordata kan omfattas av diskrimineringslagen.[50] Samtidigt menar DO att finns flera faktorer som gör rättstillämpningen komplex och pekar på behovet av en noggrannare juridisk analys för att säkerställa att diskrimineringslagen tillämpas effektivt på nya teknologier.[51]
DO har sedan en tid tillbaka varit medvetna om AI-utvecklingen samt dess intåg på den svenska arbetsmarknaden. Myndighet har aktivt utrett frågan i syfte att föregå eventuella tolkningsfrågor kopplade till förekommande diskriminering i AI-system. DO har genom sina rapporter på egen hand fastställt att diskrimineringslagen är teknikneutral, vilket också explicit omnämns i ett remissyttrande över Europeiska kommissionens förslag till förordning om harmoniserade regler för artificiell intelligens.[52]
Utgångpunkten har sedan DO:s inledande AI-rapport, 2018 slagit fast att: ”om en arbetsgivare vid rekryteringar använder ett digitalt verktyg eller algoritmer som behandlar information eller tar fram beslutsunderlag med stöd av automatisk databehandling eller artificiell intelligens, är det arbetsgivarens ansvar om en arbetssökande diskrimineras”.[53] Vidare menar DO på att detta ansvar föreligger, oavsett vilken insyn som arbetsgivaren har i AI-verktygens utformning.
5 AI-verktyg i rekryteringsprocessen
AI har potential att effektivisera rekryteringsprocesser genom att automatisera och optimera flera steg som traditionellt hanteras manuellt av mänskliga rekryterare. Med hjälp av algoritmer kan AI snabbt granska och sortera stora mängder ansökningshandlingar baserat på fördefinierade kriterier, vilket minskar den tid som krävs för att identifiera kvalificerade kandidater. Dessutom kan AI bidra med fördjupade insikter genom analys av data som rör kandidatens erfarenheter och färdigheter, med hjälp av avancerade verktyg som personlighetsanalyser och matchningsalgoritmer. AI kan användas för att eliminera mänskliga fördomar i de inledande urvalsprocesserna genom att basera beslut enbart på objektiva data.[54] Vidare kan AI effektivisera kommunikationsflöden, exempelvis genom automatiserade intervjubokningar och snabba svar på frågor från kandidater, vilket förbättrar kandidatupplevelsen.
6 Analys och slutsats
6.1 Analys
Diskrimineringsombudsmannens rapporter har på ett genomgripande sätt belyst de rättsliga och praktiska utmaningarna med att tillämpa diskrimineringslagen på AI-baserade verktyg. En central problematik är att lagen, trots sin påstådda teknikneutralitet, bygger på grundläggande förutsättningar som kan vara svåra att applicera på AI-system. DO framhåller att även om DL teoretiskt kan användas för att hantera fall av diskriminering orsakad av AI, finns det faktorer som underminerar dess effektivitet och rättsliga bäring i dessa sammanhang. Detta väcker frågan om huruvida det nuvarande regelverket är tillräckligt robust för att hantera de utmaningar som den snabba teknikutvecklingen medför.
Ett avgörande dilemma är att diskrimineringslagen är utformad med människans agerande i fokus. Lagen tar sikte på att reglera relationer och handlingar mellan individer och/eller grupper där ansvarsfördelningen bygger på tydliga hierarkiska eller juridiska förhållanden. Till exempel bygger “instruktion att diskriminera” på att en part ger ett direktiv eller instruktion till en annan part i ett beroendeförhållande. Det är problematiskt att applicera denna diskrimineringsform på AI-system. AI har inte en vilja, intention eller förmåga att agera självständigt i en rättslig mening. Det innebär att diskriminerande utfall som härrör från AI-system inte uppfyller grundkravet att en människa ska ha instruerat en annan människa att agera diskriminerande.
Vidare är det rimligt att ifrågasätta om det går att likställa AI-systemens “beteende” med diskriminering i lagens mening. Ett AI-system tränas på stora mängder data och genererar beslut eller rekommendationer baserat på mönster i denna data. Om diskriminering uppstår som ett resultat av fördomar i träningsdata eller designval i systemet, saknas en tydlig mänsklig aktör som har “instruerat” systemet att diskriminera i den juridiska bemärkelsen. DO:s uppmärksammande av detta problem understryker svårigheten att tillämpa en rättslig modell som förutsätter mänskliga intentioner och beroendeförhållanden på en teknologi som bygger på datadrivna processer.
En annan viktig aspekt är ansvarsfrågan. Även om arbetsgivaren enligt DO:s tolkning bär det yttersta ansvaret för att säkerställa att diskriminering inte sker vid användning av AI, är detta ett ansvar som i praktiken kan bli svårt att upprätthålla. AI-system är ofta utvecklade av tredje part, och användaren kan ha begränsad insyn i hur algoritmerna fungerar. Detta skapar en kedja av potentiella ansvariga aktörer – från utvecklare och programmerare till dataleverantörer och slutanvändare – där ansvaret blir utspritt och svårdefinierat. DO:s insikt att bristande transparens gör det svårt att identifiera och åtgärda diskriminering förstärker detta dilemma.
AI-system utmanar grundläggande antaganden om diskrimineringens natur. Till exempel bygger DL på idén om likabehandling, där handlingar eller policys utvärderas utifrån deras effekter på individer eller grupper. Men AI:s komplexitet innebär att diskriminering kan uppstå utan att någon aktör medvetet skapar eller upprätthåller denna effekt. Detta ställer frågan om huruvida DL kan hantera den typ av strukturell och oavsiktlig diskriminering som AI-system kan generera.
Här framstår DO:s förslag om en mer teknik- och AI-specifik reglering som välgrundat. Medan AI Act syftar till att skapa en enhetlig europeisk ram för AI-reglering, framgår det tydligt att det fortfarande behövs nationella initiativ för att säkerställa att teknologin implementeras och används på ett rättssäkert sätt. En möjlig väg framåt kan vara att utveckla specifika riktlinjer för hur arbetsgivare ska säkerställa att AI-system inte reproducerar ojämlikheter eller diskriminering, kombinerat med ökade krav på transparens och granskning av systemens utformning.
6.2 Praktisk relevans och koppling till praktikplatsen
Praktiken vid Next Position Group har visat att AI-verktyg kan effektivisera urvalsprocesser genom snabb analys av kandidaters profiler och automatisering av administrativa uppgifter. Däremot har det visat sig att AI inte per automatik genomför uppgifter bättre, då jag vi flera tillfällen manuellt fick korrigera den poängsättning som AI gav profiler i rekryteringsförfaranden.
Erfarenheterna från Next Position understryker även den pragmatiska dimensionen av detta dilemma. Även om företag kan använd AI-verktyg som ett komplement till traditionella metoder, förblir den mänskliga insatsen avgörande för att tolka och validera resultaten. Detta kan betraktas som en form av inbyggd riskkontroll där AI:s fördelar kombineras med mänsklig översyn. Samtidigt ställer det krav på företag att ha en förståelse för AI-verktygens begränsningar och potentiella bias. I praktiken blir det därför en balansgång mellan att dra nytta av AI:s effektivitet och att säkerställa att rekryteringsprocesserna förblir rättvisa och transparenta.
6.3 Slutsats
Sammanfattningsvis visar analysen att diskrimineringslagen har betydande begränsningar i sin tillämpning på AI-baserade verktyg, särskilt när det gäller koncept som “instruktion att diskriminera”. Lagens beroende av mänskliga aktörer och intentioner skapar en klyfta mellan regelverkets utformning och AI-teknikens karaktär. DO:s kritik av lagens bäring är därmed välgrundad och bör betraktas som en uppmaning till rättsliga och policyförändringar.
För att möta dessa utmaningar krävs ett helhetsgrepp som inkluderar både rättsliga och praktiska åtgärder. AI Act kan skapa en ram för harmonisering och standardisering, men dess framgång beror på att nationella rättssystem utvecklas i samklang med dess krav. Mina erfarenheter från tiden hos Next Position visar också att AI inte är en lösning i sig, utan snarare ett verktyg som kräver mänsklig insats och kritisk granskning för att säkerställa rättvisa och likabehandling.
Även om diskrimineringsformen ”instruktion att diskriminera” i sin nuvarande utformning inte omfattar förfaranden när AI-verktyg instrueras att diskriminera personer, så bör det övergripande skyddet i DL göra det vid denna typ av situationer.
Enligt DO bör arbetsgivaren som äger rekryteringsprocessen hållas ansvarig för den diskriminering som kan tänkas förekomma till följd av användandet av AI-verktyg i rekryteringsförfaranden.
7 Käll- och litteraturförteckning
Offentligt tryck
Prop. 1993/94:117 – Inkorporering av Europakonventionen och andra fri- och rättighetsfrågor
Prop. 1994/95:19 – Sveriges medlemskap i Europeiska unionen
Prop. 2007/08:95 – Ett starkare skydd mot diskriminering
Dir. 2023:164 Förstärkt AI-förmåga i Sverige
(Slutredovisning i form av AI-kommissionens Färdplan för Sverige)
Rättsfall från Arbetsdomstolen/tillsynsärenden från DO
DO:s tillsynsbeslut, GRA 2016/153
AD 2018 nr 51
Myndighetsrapporter
Diskrimineringsombudsmannen (2018), LED 2018/387 – Kunskapsöversikt om användningen och utvecklingen av automatiserad databehandling med algoritmer (artificiell intelligens) och stordata och diskriminering eller risker för diskriminering
DO (2018), Remissyttrande LED 2021/290
DO (2022), Rapport 2022:1 – Transparens, träning och data – Myndigheters användning av AI och automatiserat beslutsfattande samt kunskap om risker för diskriminering
DO (2023), Rapport 2023:6 – AI och risker för diskriminering i arbetslivet
DO (2024), Rapport 2024:2 – Förekomst av diskriminering 2024
Litteratur
Bernitz, Ulf, Kjellgren, Anders & Bernitz, Hedvig, Introduktion till EU, Åttonde upplagan, Norstedts juridik, Stockholm, 2023
Eklöf, Thomas & Hallén, Nils, Innovativ rekrytering: strategier som förenklar, effektiviserar och inspirerar, Natur & Kultur, Stockholm, 2019
Falk, Johan, AI för nybörjare: allt du behöver för att komma i gång med artificiell intelligens, Första utgåvan, Natur & Kultur, [Stockholm], 2023
Fransson, Susanne & Stüber, Eberhard, Diskrimineringslagen: en kommentar, 2., [uppdaterade] uppl., Norstedts juridik, Stockholm, 2015
Grafström, Jonas, Moderna tider 4.0: från kugge i maskineriet till vinnare bland algoritmerna : din guide till framtidens yrken då branscher förändras, Första utgåvan, Volante, Stockholm, 2020
Göransson, Håkan Gabinus & Del Sante, Naiti, Diskrimineringslagen: en lärobok, Upplaga 1, Norstedts juridik, Stockholm, 2018
Hydén, Håkan, Rättssociologi som rättsvetenskap, Studentlitteratur, Lund, 2002
Lehrberg, Bert, Praktisk juridisk metod, Tionde upplagan, Iusté, Uppsala, 2018
Lodefalk, Magnus, Artificiell intelligens och jobben, Ratio, [Stockholm], 2024
Nyström, Birgitta, EU och arbetsrätten, Sjätte upplagan, Norstedts Juridik, Stockholm, 2021
Nääv, Maria & Zamboni, Mauro (red.), Juridisk metodlära, Andra upplagan, Studentlitteratur, Lund, 2018
Tallberg, Jonas, EU:s politiska system, Åttonde upplagan, Studentlitteratur, Lund, 2021
Peczenik, Aleksander, – Om den förvaltningsrättsliga forskningen och rättsdogmatiken,, Förvaltningsrättslig tidskrift, 1990
Övriga källor
https://www.do.se/om-do/vad-arbetar-do-med (Hämtad 2025-01-05)
https://nextposition.se/ (Hämtad 2024-12-05)
https://www.europarl.europa.eu/topics/sv/article/20230601STO93804/eu-s-ai-lag-forsta-lagstiftningen-om-artificiell-intelligens (Hämtad 2024-12-05)
https://op.europa.eu/webpub/empl/european-pillar-of-social-rights/sv/ (Hämtad 2024-12-10)
https://digital-strategy.ec.europa.eu/sv/policies/regulatory-framework-ai (Hämtad 2024-12-05)
https://www.europarl.europa.eu/factsheets/sv/sheet/5/the-treaty-of-lisbon (Hämtad 2024-12-10)
[1] J. Grafström, Moderna tider 4.0: från kugge i maskineriet till vinnare bland algoritmerna: din guide till framtidens yrken då branscher förändras, Första utgåvan, (Volante, 2020), s. 40–42
[2] M. Lodefalk, Artificiell intelligens och jobben, (Ratio, 2024), s27-28
[3] Europaparlamentet (2024), EU:s AI-lag: första lagstiftningen om artificiell intelligens https://www.europarl.europa.eu/topics/sv/article/20230601STO93804/eu-s-ai-lag-forsta-lagstiftningen-om-artificiell-intelligens (Hämtad 2024-12-05)
[4] Diskrimineringsombudsmannen, Rapport 2024:2 – Förekomst av diskriminering 2024, s.27–28
[5] Next Position Group (2024), Om oss samt Våra tjänster, https://nextposition.se/ (Hämtad 2024-12-05)
[6] J. Falk, AI för nybörjare: allt du behöver för att komma i gång med artificiell intelligens, Första utgåvan, (Natur & Kultur, 2023), s.113
[7] Falk, AI för nybörjare, s.42–46
[8] M. Nääv & M. Zamboni (red.), Juridisk metodlära, Andra upplagan (Studentlitteratur, 2018). s. 21
[9] A, Peczenik, Om den förvaltningsrättsliga forskningen och rättsdogmatiken, (Förvaltningsrättslig tidskrift, 1990), s.47–48
[10] B. Lehrberg, Praktisk juridisk metod, Tionde upplagan (Iusté, 2018), s.207
[11] H. Hydén, Rättssociologi som rättsvetenskap, (Studentlitteratur, 2002), s.16
[12] Hydén Rättsociologi som rättsvetenskap s.22–23
[13] Lodefalk, Artificiell intelligens och jobben, s.19
[14] Lodefalk Artificiell intelligens och jobben, s.26
[15] Lodefalk Artificiell intelligens och jobben, s.30–31
[16] Europeiska kommissionen (2024), AI-akten, https://digital-strategy.ec.europa.eu/sv/policies/regulatory-framework-ai (Hämtad 2024-12-05)
[17] DO:s rapport: LED 2018/387 – Kunskapsöversikt om användningen och utvecklingen av automatiserad databehandling med algoritmer (artificiell intelligens) och stordata och diskriminering eller risker för diskriminering s.13
[18] U. Bernitz, A. Kjellgren & H. Bernitz, Introduktion till EU, Åttonde upplagan (Norstedts juridik, 2023) s.23
[19] Prop. 1994/95:19 Sveriges medlemskap i Europeiska unionen s.500
[20] B, Nyström, EU och arbetsrätten, Sjätte upplagan, (Norstedts Juridik, 2021) s.41
[21] Nyström, EU och arbetsrätten s.34
[22] Nyström, EU och arbetsrätten s.40–41
[23] J, Tallberg, EU:s politiska system, Åttonde upplagan, (Studentlitteratur, 2021) s.53–55
[24] Bernitz, Kjellgren & Bernitz, Introduktion till EU s.47
[25]Europaparlamentet (2024), Lissabonfördraget, https://www.europarl.europa.eu/factsheets/sv/sheet/5/the-treaty-of-lisbon (Hämtad 2024-12-10)
[26] Prop. 1993/94:117 om Inkorporering av Europakonventionen och andra fri- och rättighetsfrågor s.32–35
[27] Europeiska kommissionen (2021), Handlingsplan för den europeiska pelaren för sociala rättigheter https://op.europa.eu/webpub/empl/european-pillar-of-social-rights/sv/ (2024-12-19)
[28] Europeiska kommissionen (2024), AI-akten, https://digital-strategy.ec.europa.eu/sv/policies/regulatory-framework-ai (Hämtad 2024-12-10)
[29] Europaparlamentet (2024), EU:s AI-lag: första lagstiftningen om artificiell intelligens https://www.europarl.europa.eu/topics/sv/article/20230601STO93804/eu-s-ai-lag-forsta-lagstiftningen-om-artificiell-intelligens (Hämtad 2024-12-05)
[30] Europeiska kommissionen (2024), AI-akten, https://digital-strategy.ec.europa.eu/sv/policies/regulatory-framework-ai (Hämtad 2024-12-05)
[31] AI-kommissionen, Färdplan för Sverige, s.10–12
[32] H. Göransson Gabinus & N. Del Sante, Diskrimineringslagen: en lärobok, Upplaga 1, (Norstedts juridik, 2018), s.26
[33] H. Göransson Gabinus & N. Del Sante, Diskrimineringslagen: en lärobok, s.27–28
[34] H. Göransson Gabinus & N. Del Sante, Diskrimineringslagen: en lärobok, s.28
[35] Prop. 2007/08:95 om Ett starkare skydd mot diskriminering s. 134
[36] H. Göransson Gabinus & N. Del Sante, Diskrimineringslagen: en lärobok, s.58
[37] H. Göransson Gabinus & N. Del Sante, Diskrimineringslagen: en lärobok, s.83–85
[38] H. Göransson Gabinus & N. Del Sante, Diskrimineringslagen: en lärobok, s.88
[39] Prop. 2007/08:95 s.121
[40] Prop. 2007/08:95 s.122
[41] Se AD 2018 nr 51, ”Handhälsningsdomen” som är ett exempel på detta
[42] Falk, AI för nybörjare s.112-114
[43] Fransson & Stüber, Diskrimineringslagen: en kommentar, s.97
[44] DO:s tillsynsbeslut, GRA 2016/153
[45] S. Fransson & E. Stüber, Diskrimineringslagen: en kommentar, 2., [uppdaterade] uppl., (Norstedts juridik, 2015), s.96
[46] Diskrimineringsombudsmannen (2024), Vad arbetar do med?, https://www.do.se/om-do/vad-arbetar-do-med (Hämtad 2025-01-05)
[47] Diskrimineringsombudsmannen (2023), Rapport 2023:6 – AI och risker för diskriminering i arbetslivet, s.28-29t
[48] Diskrimineringsombudsmannen (2023), Rapport 2023:6 – AI och risker för diskriminering i arbetslivet, s.64–67
[49] Diskrimineringsombudsmannen, Rapport 2022:1: Transparens, träning och data – Myndigheters användning av AI och automatiserat beslutsfattande samt kunskap om risker för diskriminering, s.35–37
[50] DO, LED 2018/387s.16
[51] DO, LED 2018/387 s.23–24
[52] Diskrimineringsombudsmannens remissyttrande, LED 2021/290, s.1
[53] DO, LED 2018/387 s.4
[54] T. Eklöf, & N. Hallén, Innovativ rekrytering: strategier som förenklar, effektiviserar och inspirerar, (Natur & Kultur, 2019), s.254–255