1 of 13

Gruppe 2 - Kjønn & AI

Martine Woldseth, Aslak Burheim Sommervold,

Ena Batlak, Camilla Christensen, Stine Lise Lybekk,

Frida Hope Carpenter og Johannes Fatland Skjeie

2 of 13

Tema og interesseområde

Inkludering og ekskludering
AI og kjønn

3 of 13

Forskningsspørsmål

Overordnet:

"What potential does AI have for including and excluding people in society?"

Konkret:

“How do young adult gender nonconforming individuals experience AI gender categorisation?”

4 of 13

Forskningsspørsmål

Overordnet:

"What potential does AI have for including and excluding people in society?"

Konkret:

“How do young adult gender nonconforming individuals experience AI gender categorisation?”

5 of 13

Metoder: Litteraturstudie

Formål: Å finne ut hvilken kunnskap som allerede eksisterte om problemområdet

gikk fra generelt søk til mer spisset

valgte ressurser som ga et historisk perspektiv på kjønn og som i nyere tid hadde undersøkelser nærliggende problemstillingen

6 of 13

Metoder: Intervju

Formål: se på målgruppen sin forståelse av AI teknologi og forholdet mellom kjønn, kjønnsidentitet og AI som vi kunne bygge videre på i prosjektet

Rekruttering via post på Facebook
Gjennomførte to digitale intervjuer med ikke-binære personer
Planlagt brukertest med to ulike AI ansiktsgjenkjennings software

7 of 13

Funn fra intervjuer

Forskjell mellom biologisk kjønn og kjønnsidentitet

flytende konsepter

Kategorisering = veldig sårbart

→ endring i metode

→ endring i måte å se på temaet

Ekskludering

utfylling av skjemaer

Camilla:

Ut i fra intervjuene kom det tydelig frem at det er en stor forskjell mellom biologisk kjønn og kjønnsidentitet. OG at kjønn og seksualitet er veldig flytende konsepter.

I tillegg så fant vi ut noe som kanskje var det viktigste for retningen prosjektet vårt tok AT kategorisering er veldig sårbart.

Planen vår med å teste ansiktsgjenkjenning som kategoriserte på kjønn valgt vi å gå bort i fra, nettopp fordi det var alt for vondt og leit for de vi hadde intervjuet og de ønsket derfor ikke å være .

Dette gjorde at vi måtte tenke nytt. Vi endte derfor med å undersøke videre på det vi fikk ut i fra intervjuene og se på mer litteratur.

Ena:

Gjennom intervjuene har vi også funnet ut av at flere ikke forstår hva som skjer bak kulissene, og dermed ikke vet hvordan de er kategorisert, så det innholdet de blir presentert for har stor betydning for om de føler seg inkludert eller ekskludert i møte med teknologien. de opplever blant annet at reklameannonser ofte er målrettet for enten menn eller kvinner, og lite rettet mot det kjønnsnøytrale

Vi fant også ut at ikke-binære kan føle på ekskludering i møte med teknologien der menneskelige feil er involvert, typisk skjemaer med et binært alternativ

8 of 13

Diskusjon

Kjønn som et begrep�

Nå er det 5 min igjen?

Kjønn er et flytende begrep - opp igjennom historien har det hatt forskjellige betydninger, fra kjønn som en rolle man fremfører til kjønn som et udiskutabelt biologisk faktum.

Ut ifra prosjektet vårt har vi derfor kommet frem til tre punkter vi mener kan brukes til videre refleksjon og diskusjon.

Det første forslaget er å bruke andre kategorier enn kjønn for å kategorisere. Man kan spørre seg selv om kjønn i det hele tatt er en relevant faktor her, eller om andre kategorier kan være mer relevante - f.eks. nasjonalitet, alder osv.

Det andre forslaget er å ha en tredje kategori når man først skal kategorisere etter kjønn. Flere partier på venstresiden arbeider for å få inn en tredje kjønnskategori i møter med offentlige instanser, så de føler seg respektert og ordentlig behandlet. Det er også mange som ikke passer inn i kun én kjønns”boks” - kjønnsidentitet kan være noe annet enn hvordan du presenterer deg.

Det tredje er å endre på systemet - mangel på inkludering i prosessen vil føre til mangel på inkludering i resultatet. Det er altså viktig å tenke på mangfold fra starten av.

Kommenter nytteverdi av begrepet kjønn i ulike diskusjoner

Gjøre dette til diskusjon

Siste slide som oppfordring: “kan ikke dere tenke litt over kjønn?”

Future discussion vs Anbefalinger for praksis - kan vi gi anbefalinger?

Kort oppsummering

9 of 13

Diskusjon

Kjønn som et begrep�
Andre kategorier enn kjønn
Egen kategori/tredje kjønn
Prosess/system�

Nå er det 5 min igjen?

Kjønn er et flytende begrep - forskjellige betydninger opp igjennom historien. Kjønn som noe man gjør/noe man er.

Ut ifra prosjektet vårt har vi derfor kommet frem til tre punkter vi mener kan brukes til videre refleksjon og diskusjon.

Det første forslaget er å bruke andre kategorier enn kjønn for å kategorisere. Man kan spørre seg selv om kjønn i det hele tatt er en relevant faktor her, eller om andre kategorier kan være mer relevante - f.eks. nasjonalitet, alder osv.

Det andre forslaget er å ha en tredje kategori når man først skal kategorisere etter kjønn. Flere partier på venstresiden arbeider for å få inn en tredje kjønnskategori i møter med offentlige instanser, så de føler seg respektert og ordentlig behandlet. Det er også mange som ikke passer inn i kun én kjønns”boks” - kjønnsidentitet kan være noe annet enn hvordan du presenterer deg.

Det tredje er å endre på systemet - mangel på inkludering i prosessen vil føre til mangel på inkludering i resultatet. Det er altså viktig å tenke på mangfold fra starten av.

Vi vil derfor oppfordre til å reflektere over kjønn og dets rolle når det kommer til teknologi. Når er det nyttig å bruke dette som en kategorisering, er det i det hele tatt relevant lenger?

Kommenter nytteverdi av begrepet kjønn i ulike diskusjoner

Gjøre dette til diskusjon

Siste slide som oppfordring: “kan ikke dere tenke litt over kjønn?”

Future discussion vs Anbefalinger for praksis - kan vi gi anbefalinger?

Kort oppsummering

10 of 13

Diskusjon

Kjønn som et begrep�
Andre kategorier enn kjønn
Egen kategori/tredje kjønn
Prosess/system�
Når er det hensiktsmessig å bruke kjønn?�

Nå er det 5 min igjen?

Kjønn er et flytende begrep - forskjellige betydninger opp igjennom historien. Kjønn som noe man gjør/noe man er.

Ut ifra prosjektet vårt har vi derfor kommet frem til tre punkter vi mener kan brukes til videre refleksjon og diskusjon.

Det første forslaget er å bruke andre kategorier enn kjønn for å kategorisere. Man kan spørre seg selv om kjønn i det hele tatt er en relevant faktor her, eller om andre kategorier kan være mer relevante - f.eks. nasjonalitet, alder osv.

Det andre forslaget er å ha en tredje kategori når man først skal kategorisere etter kjønn. Flere partier på venstresiden arbeider for å få inn en tredje kjønnskategori i møter med offentlige instanser, så de føler seg respektert og ordentlig behandlet. Det er også mange som ikke passer inn i kun én kjønns”boks” - kjønnsidentitet kan være noe annet enn hvordan du presenterer deg.

Det tredje er å endre på systemet - mangel på inkludering i prosessen vil føre til mangel på inkludering i resultatet. Det er altså viktig å tenke på mangfold fra starten av.

Når er det hensiktsmessig å bruke kjønn?

Kommenter nytteverdi av begrepet kjønn i ulike diskusjoner

Gjøre dette til diskusjon

Siste slide som oppfordring: “kan ikke dere tenke litt over kjønn?”

Future discussion vs Anbefalinger for praksis - kan vi gi anbefalinger?

Kort oppsummering

11 of 13

Oppfordringer

Hadde dere likt å bli spurt om dere var sivilingeniører eller grafisk designer hver dag?

Vurder om kjønn er et nødvendig parameter i systemet�
Hvis kjønn brukes:
Ta høyde for at kjønn oppleves forskjellig
Binært kjønn kan skyve brukere ut av systemet, eller skape stress

Minstekrav: Vurder om kjønn er nødvendig, ha tre kategorier

12 of 13

Oppfordringer

Hadde dere likt å bli spurt om dere var sivilingeniører eller grafisk designer hver dag?

Vurder om kjønn er et nødvendig parameter i systemet�
Hvis kjønn brukes:
Ta høyde for at kjønn oppleves forskjellig
Binært kjønn kan skyve brukere ut av systemet, eller skape stress

Minstekrav: Vurder om kjønn er nødvendig, ha tre kategorier

13 of 13

Takk for oss!