Bakgrunn
Kunstig intelligens, brukt riktig, bidrar til et bedre, tryggere og raskere helsevesen. Men har du merket at ukritisk bruk av språkmodeller kan gi upålitelige svar? Nettopp der ligger noe av utfordringen:
KI trenes på historiske data. Og historisk har kvinner og minoriteter vært underrepresentert både i forskning og helsetjenester. Mange medisinske studier er gjort på menn, og vi mangler ofte data om kvinners symptomer og behov. Dette kan føre til dårligere diagnostikk og behandling.
– Større rolle i samfunnet
– Allerede før KI-revolusjonen har vi sett behovet for å få flere kvinner og større mangfold inn i teknologiutviklingen. Nå som kunstig inteligens vokser og får en stadig større rolle i samfunnet, har det blitt enda viktigere. Teknologiens innflytelse på livene våre øker. Hvem som sitter ved bordet når teknologien utvikles, får avgjørende betydning, forteller Kamilla Fredriksen Fon, director of engineering i Aidn, og utdyper:
– Mange medisinske studier er for eksempel gjort på menn, og det finnes mindre data på kvinners symptomer og behov. Dette fører til at teknologi med slike datasett i verste fall forsterker eksisterende skjevheter i samfunnet. Kulturen, holdningene og fordommene som ligger i historiske data, videreføres i KI-modellene.
Les mer om panelsamtalen på Arendalsuka
Kamilla Fredriksen Fon
Behov for bevissthet
Det finnes mekanismer som kan hjelpe oss å motvirke skjevhetene, som å utvikle modeller som er kjønnsnøytrale og justere dataene de trenes på. Samtidig må vi være bevisst på begrensningene.
Vi må sørge for at hele samfunnet er representert i utviklingen av teknologien. Hvis ikke, havner vi i gråsoner der vi tar feil beslutninger
Eksempler på tiltak
Kamilla peker på problemstillingen som et eksempel på hvordan mennesker og KI får en gjensidig avhengighet av hverandre. For å bekjempe fordommene i modellene finnes det spesielt to tiltak hos de store KI-leverandørene:
Red teaming hos OpenAI: Et nettverk av ansatte som skal forutse utilsiktet eller bevisst skade som det andre har oversett. Red teaming sørger for at AI-systemene er robuste nok til å håndtere et bredt spekter av brukerinput, inkludert ondsinnede eller fiendtlige, samtidig som de bevarer sin integritet.
Tverrfaglig kompetanse: AI-selskapene ansetter i større grad filosofer, psykologer og samfunnsvitere for å vurdere modellene fra ulike perspektiver for å unngå at teknologien viderefører gamle fordommer.
Viktig hva vi gjør selv
Samtidig er det ikke nok å stole på leverandørene. Ifølge Kamilla er det enda viktigere hva vi selv gjør som brukere:
– Mange teknologiske miljøer er fortsatt homogent sammensatt. Det preger alt fra hvilke problemer man velger å løse, til hvordan løsningene faktisk fungerer i praksis. Vi må utfordre hvordan vi rekrutterer, hvilke data vi bruker, og hvem som får eierskap til innovasjon. Og så må vi ha mot til å stille spørsmål ved de etablerte sannhetene – også i teknologiens verden. Hvis vi ikke sørger for mangfold, risikerer vi å bygge systemer som forsterker eksisterende skjevheter i samfunnet. Resultatet kan bli at teknologien viderefører og forsterker diskriminering, sier hun.
Hva gjør vi i Aidn?
– I Aidn setter vi sammen tverrfaglige team som jobber brukersentrert med disse spørsmålene. Vi starter med innsikt i faktiske behov, tester ny funksjonalitet og justerer basert på tilbakemeldinger. Dette er et viktig utgangspunkt – men det krever mer for å skape løsninger som fungerer for alle. Derfor jobber vi systematisk for å bygge et inkluderende og rettferdig arbeidsmiljø. Vi anonymiserer søknader, bruker kjønnsnøytrale stillingsannonser og gjennomfører strukturerte intervjuer for å unngå bias i rekrutteringen. Vi har også tydelige lønnsprinsipper og fleksible ordninger som gjør det lettere å kombinere jobb og omsorg. Disse tiltakene har gitt resultater – men vi vet at vi aldri er helt i mål. Derfor ser vi også på nye grep, som egne «red teams» som kan utfordre løsningene våre med et mangfoldsperspektiv. Les mer i vår likestillingsrapport.
Et inkluderende helsevesen starter med teknologi
Når Norge står overfor et behov for 180 000 nye helsearbeidere innen 2060, må løsningene vi utvikler favne bredt. Det krever at både behovene og perspektivene, til hele befolkningen, både blir sett og tatt på alvor.
Aidn deltar derfor på Arendalsuka med et klart budskap: Vi må skape teknologi som speiler mangfoldet i samfunnet. Ikke bare fordi det er rettferdig, men fordi det gir bedre helsetjenester for alle.