Hvis du gik og troede, at AI ville kunne fjerne bias i investeringsrådgivning, tager du fejl. I hvert fald hvis man skal tro et nyt studie fra MIT og Stanford. I en større undersøgelse viste AI sig nemlig at give forskellige investeringsråd til mænd og kvinder – og en del af forskellen opstod alene ud fra brugerens køn, selv når spørgsmålet var det samme.eller kvinde.
AI arver vores fordomme
En af de store forhåbninger til kunstig intelligens er, at den kan træffe mere objektive beslutninger end mennesker. Vi ved fra tidligere forskning, at mennesker kan lade sig påvirke af køn, alder og andre irrelevante faktorer, når de rådgiver om investering. Derfor kunne man håbe, at AI ville være fri for den slags.
Men sådan ser det ikke ud.
Forskerne bad næsten 1.000 amerikanere skrive de prompts, de selv ville bruge, hvis de skulle bede en AI om investeringsråd. Derefter analyserede de ikke kun svarene, men også hvorfor svarene blev forskellige.
Mænd og kvinder spørger forskelligt
Den første forklaring var egentlig ikke så overraskende.
Mænd og kvinder formulerede nemlig ikke deres spørgsmål ens. De lagde vægt på forskellige ting, beskrev deres økonomi forskelligt og havde forskellige bekymringer. Forskerne vurderer, at omkring to tredjedele af forskellen i AI’s investeringsråd skyldes netop disse forskelle i de spørgsmål, brugerne stiller.
Det er i sig selv interessant. AI svarer ikke kun på fakta. Den forsøger også at forstå personen bag spørgsmålet.
Men AI er også biased
Den mest opsigtsvækkende konklusion kommer, når forskerne holder spørgsmålet konstant.
Selv når mænd og kvinder i princippet stiller det samme spørgsmål, ændrer AI i nogle tilfælde sine anbefalinger, hvis den får oplyst brugerens køn. Denne effekt forklarer omkring en tredjedel af forskellen i de anbefalede aktieandele.
Studiet kan ikke sige præcis, hvorfor det sker. Måske afspejler AI de mønstre, den er trænet på. Måske forsøger den at tilpasse sine råd ud fra statistiske forskelle mellem mænd og kvinder. Uanset forklaringen er konklusionen den samme: Køn påvirker de råd, AI giver.
Er det et problem?
Det afhænger faktisk af, hvorfor forskellen opstår.
Hvis AI anbefaler forskellige investeringer, fordi den har lært stereotype forestillinger om mænd og kvinder, er det naturligvis problematisk.
Men hvis forskellene afspejler reelle gennemsnitlige forskelle i risikovillighed eller investeringsadfærd, er billedet mere nuanceret. Problemet er, at vi ikke ved det. Studiet dokumenterer, at forskellen eksisterer, men ikke hvorfor den opstår.
Det er derfor et område, der kalder på mere forskning.
AI er ikke mere objektiv end de data, den lærer af
Der er en tendens til at opfatte AI som en neutral dommer, der ser verden uden fordomme. Men kunstig intelligens lærer af os. Den trænes på enorme mængder tekst skrevet af mennesker, og hvis de tekster indeholder bestemte mønstre eller bias, er det ikke overraskende, at AI også kan komme til at afspejle dem.
Det betyder ikke, at AI er ubrugelig som investeringsrådgiver. Tværtimod viste det samme studie, at AI generelt giver ganske fornuftige standardråd om opsparing og investering, som kan hjælpe mange mennesker med at træffe bedre økonomiske beslutninger. Men studiet minder os også om, at AI ikke er hævet over de skævheder, der findes i den verden, den er trænet på.
Hulemandens pointe
Vi kommer sandsynligvis til at bruge AI mere og mere, når vi skal træffe økonomiske beslutninger. Derfor er det vigtigt, at vi ikke betragter AI’s svar som objektive sandheder.
AI kan være et glimrende værktøj. Men ligesom menneskelige rådgivere er den ikke immun over for bias. Det er måske den vigtigste læring fra det nye studie.
Bias er dog langt fra AI’s eneste svaghed. Studiet viser også, at AI ofte falder tilbage på simple tommelfingerregler. De fungerer fint for de fleste, men de er ikke nødvendigvis den optimale løsning for den enkelte investor. Det ser vi nærmere på i den næste blog.
Denne blog er anden del af tre. Læs også de andre to:
- AI giver standardråd, der virker
- AI giver gode råd – men den tager genveje
Vil du læse mere?
Denne artikel bygger på studiet AI Financial Advice: Supply, Demand, and Life Cycle Implications (Choukhmane, de Silva, Lin & Akuzawa, 2026). [LINK]
