Kunstig intelligens (AI) er en af de mest lovende teknologier i dag. Det kan hjælpe os med at løse komplekse problemer og gøre vores liv mere praktisk. Men som med enhver teknologi er der en bagside, der kan have en negativ indvirkning på samfundet. En af de mest alvorlige udfordringer ved AI er dets potentiale til at skabe og forstærke bias, profilering og diskrimination. Forskere og aktivister har kritiseret AI for at have forstærket uligheder og diskrimination, og det er vigtigt, at vi tager disse bekymringer alvorligt og tager skridt til at løse dem. I denne artikel vil vi undersøge forskningen på området og se på, hvordan AI kan påvirke forskellige sektorer i samfundet.

Det er bekymrende, at AI kan forstærke bias, profilering og diskrimination i samfundet, hvis det trænes på data, der er præget af disse fordomme. AI-modeller er kun så gode som de data, de trænes på, og hvis dataene er biased eller diskriminerende, vil modellen også blive biased, profilering eller diskriminerende. Derudover kan AI også have tendens til at oprette profiler baseret på data, som kan føre til yderligere bias, profilering og diskrimination.

AI kan være farlig: Udbredt bias, profilering og diskrimination

AI-teknologi er blevet hypet som en løsning på en lang række udfordringer i vores samfund, fra transport og sundhedspleje til uddannelse og politiarbejde. Men som teknologien bliver mere udbredt, er det også vigtigt at huske på dens mørkere sider. AI-algoritmer kan lære at diskriminere baseret på data, der er præget af bias og forudindtagethed, og dermed forstærke uligheder og diskrimination i samfundet. Det er op til os at sikre, at AI anvendes på en måde, der er etisk og retfærdig.

AI-teknologi er på vej til at blive en integreret del af vores hverdag, og det er ikke svært at se, hvorfor. Med muligheden for at analysere enorme mængder data på en hurtig og effektiv måde kan AI-teknologi revolutionere måden, vi arbejder, lever og tænker på. Men som med enhver teknologi er det vigtigt at huske, at der også er udfordringer og risici, der følger med.

En af de største udfordringer med AI er den potentielle for bias, profilering og diskrimination. AI-algoritmer trænes på data, og hvis data er præget af forudindtagethed, kan algoritmerne lære at forstærke disse bias. Dette kan føre til diskrimination i beskæftigelse, bolig og adgang til tjenester og kan forstærke uligheder på tværs af samfundet.

“Bias, profilering og diskrimination” kan forekomme i mange forskellige dele af samfundet og på mange forskellige områder. Her er nogle eksempler:

• Ansættelse: Algoritmer kan bruges til at sortere ansøgninger og finde de bedste kandidater. Men hvis algoritmen er trænet på data, der indeholder bias, kan den favorisere visse grupper og diskriminere andre. Dette kan resultere i, at bestemte grupper af mennesker ikke får de samme chancer som andre på arbejdsmarkedet.
• Forsikring: Forsikringsselskaber bruger ofte dataanalyse og algoritmer til at vurdere risici og fastsætte priser. Hvis algoritmen bruger data, der er præget af bias, kan det føre til diskrimination af visse grupper af mennesker, f.eks. baseret på race eller køn.
• Politi og retsvæsen: Der er bekymring for, at politi og retsvæsen kan bruge algoritmer, der er trænet på biased data, og som kan føre til profilering og diskrimination af visse grupper af mennesker. Der er også bekymring for, at algoritmer kan være med til at fastholde og forstærke uligheder i retssystemet.
• Finanssektoren: Finanssektoren bruger også algoritmer til at evaluere risici og træffe beslutninger. Hvis algoritmen er trænet på biased data, kan det føre til diskrimination af visse grupper af mennesker, f.eks. baseret på race eller køn.
• Sociale medier: Sociale medier bruger også algoritmer til at vælge, hvilket indhold der skal vises til brugerne. Hvis algoritmen favoriserer visse typer af indhold eller visse grupper af mennesker, kan det føre til bias og diskrimination.

Det er vigtigt at tage dette i betragtning, når man udvikler AI-løsninger, og der er forskellige tilgange, man kan tage for at minimere denne risiko. Det kan fx omfatte at bruge mere mangfoldige og repræsentative datasæt, at implementere algoritmer, der kan afsløre bias og tage hensyn til det i modelleringen, og at have en kontinuerlig evaluering og justering af AI-modellen for at sikre, at den ikke er diskriminerende. Er det mon en udfordring som kan løses?

Ulighed og lovgningsklima

I Danmark og EU er der lovgivning, der skal beskytte mod diskrimination og ulighed. Der er også forskellige initiativer for at bekæmpe bias og diskrimination i AI-algoritmer. I USA er der også lovgivning, men der er generelt en større bekymring for, at algoritmer kan føre til uligheder og diskrimination. Dette skyldes også, at der ikke er så meget regulering af AI-algoritmer i USA som i EU og Danmark.

I USA er der en mere liberal tilgang til dataindsamling og brug af personoplysninger end i EU og Danmark. Dette skyldes blandt andet forskelle i lovgivning som GDPR (General Data Protection Regulation), som stiller strenge krav til virksomheder, der håndterer personoplysninger. I Danmark er der også en stærk fokus på databeskyttelse, og man kan se eksempler på, at databeskyttelsesmyndighederne tager håndhævelse af databeskyttelsesreglerne alvorligt.

Der er allerede mange eksempler på, hvordan AI-teknologi har ført til bias og diskrimination i forskellige sektorer. I ansættelsesprocessen kan AI-algoritmer lære at diskriminere mod visse befolkningsgrupper baseret på deres navne eller postnumre. I retssystemet kan AI-analyse af kriminelle profiler også føre til unfair og diskriminerende resultater, da dataene, der træner algoritmerne, ofte er præget af racisme og diskrimination.

I USA har mange teknologivirksomheder været kritiseret for deres anvendelse af AI-teknologi, der har ført til bias og diskrimination. For eksempel har Amazon trukket sig tilbage fra et ansættelsesprojekt, der brugte AI-teknologi til at sortere ansøgere, da det blev opdaget, at det havde en tendens til at diskriminere mod kvinder. I Danmark har der også været debat omkring anvendelsen af AI i offentlige tjenester, og om hvorvidt det kan føre til diskrimination mod bestemte grupper.

Når det kommer til bias og diskrimination i AI, er der også forskelle på, hvordan man håndterer dette i USA og EU. EU har fokuseret på at udvikle værktøjer og teknologier, der kan hjælpe med at identificere og reducere bias i AI-algoritmer. Samtidig har man også arbejdet på at fremme gennemsigtighed og ansvarlighed i brugen af AI.

Danmark har også taget skridt til at imødegå disse udfordringer, da man i 2020 lancerede en national strategi for kunstig intelligens, der fokuserer på at sikre en ansvarlig og etisk brug af AI. Her er der blandt andet fokus på at opbygge tillid og åbenhed omkring brugen af AI, samt at styrke uddannelse og forskning på området.

Så selvom der stadig er udfordringer i forhold til bias og diskrimination i AI, er der også positive tendenser og initiativer, der forsøger at imødegå disse udfordringer.

“Weapons of Math Destruction” og kilder til at forstå de negative konsekvenser af AI

Katherine E. O’Neills bog “Weapons of Math Destruction” er en vigtig kilde til at forstå de negative konsekvenser af AI i forhold til “bias, profilering og diskrimination”. Bogen fokuserer på, hvordan matematiske modeller og algoritmer, der er designet til at tage beslutninger, kan have en forstærkende effekt på eksisterende uligheder i samfundet.

For eksempel kan et system til at bestemme kreditværdighed baseret på en persons postnummer føre til diskrimination af personer fra fattige områder, selvom de individuelle kreditværdigheden er god. Ligeledes kan et system til at forudsige fremtidig kriminalitet baseret på data fra tidligere arrestationer og domfældelser føre til profilering af bestemte befolkningsgrupper og race, selvom der ikke er bevis for en øget risiko for kriminalitet.

Bogen påpeger også, hvordan algoritmer kan forstærke eksisterende skævheder i samfundet og føre til negative feedbackloops. For eksempel kan en algoritme, der bruges til at bestemme hvem der får jobinterviews, baseret på data fra tidligere ansættelser, føre til at visse grupper systematisk bliver udelukket fra jobs inden for et bestemt felt, hvilket igen kan føre til en mangel på mangfoldighed i branchen.

I USA er disse problemer særligt udbredt på grund af den stærke betydning af kreditværdighed og baggrundstjek i arbejdsmarkedet. Men også i EU og Danmark er der udfordringer med bias, profilering og diskrimination i forhold til eksempelvis algoritmestyret kreditvurdering, ansættelsesprocesser og politiarbejde.

Det er derfor vigtigt at være opmærksom på disse udfordringer og arbejde for at udvikle mere ansvarlige og etiske AI-systemer, der tager højde for mangfoldighed og undgår at forstærke uligheder i samfundet.

Der er en del faglitteratur og videnskabelige undersøgelser, der har fokuseret på problematikken med bias og diskrimination i AI-algoritmer. Nogle eksempler inkluderer:

• “The Perils of Automation: An Overview of the (Gender) Bias in Machine Learning” af Meg Leta Jones, som undersøger gender bias i machine learning-algoritmer og hvordan dette kan føre til diskrimination.
• “Unpacking the Black Box: Learning to Interpret Machine Learning Models” af Rich Caruana et al., som argumenterer for at åbne op for algoritmerne og gøre dem mere gennemsigtige, så man bedre kan forstå, hvordan de træffer beslutninger.
• “Fairness and Abstraction in Sociotechnical Systems” af Sarah Myers West et al., som undersøger hvordan abstraktion i teknologiske systemer kan føre til diskrimination, og hvordan man kan arbejde med fairness i designprocessen.
• “Data Feminism” af Catherine D’Ignazio og Lauren Klein, som argumenterer for at bringe feministisk tænkning ind i data science for at skabe mere retfærdige og inkluderende datasystemer.

Disse eksempler er blot et udpluk af den faglitteratur og forskning, der findes på området. Der er også mange organisationer og initiativer, der arbejder med at fremme en mere retfærdig og inkluderende tilgang til AI, herunder Algorithmic Justice League og AI Now Institute