Bør du stole på en robot som behandler søknaden din om boliglån?

Nylig uttalte konsernsjef i DNB Rune Bjerke at den planlagte automatiseringen av boliglån kan spare DNB opptil to milliarder kroner innen 2020. Automatiseringen innebærer at et forhåndsprogrammert system – en form for robot – erstatter den menneskelige saksbehandlingen i søknader om boliglån.

Roboter «tenker» ikke som mennesker

Boliglånsroboten vil med utgangspunkt i en algoritme kalkulere risikoen og sannsynligheten for mislighold av lån basert på søkerens personopplysninger. Disse opplysningene fremlegges til dels av søkeren selv, gjennom selvangivelse, lønnslipper, arbeidskontrakt etc. Videre innhentes opplysninger fra eiendomsregisteret og andre eksterne register. Disse personopplysningene vil sammen danne en profil som roboten benytter til å forutse fremtidig adferd og økonomi. Basert på denne profileringen vil roboten ta en avgjørelse om tildeling av lån. Finansregulatoriske lover og forskrifter, slik som boliglånsforskriften, vil utgjøre en ytterramme for hvilke avgjørelser låneroboten kan ta.

Dersom roboten er utstyrt med kunstig intelligens, er den i tillegg i stand til å «lære» av tilgjengelig data (tidligere avgjørelser). Dette betyr at roboten kan endre sin utlånpraksis over tid ved å «lære» av de avgjørelsene den selv treffer. Roboten vil dermed kunne spisse praksisen mot det som gir størst økonomisk lønnsomhet for banken og minst risiko.

Roboter tar også feil

En skulle tro at det ikke kunne forekomme forskjellsbehandling eller diskriminering med et slikt system. Virkeligheten er imidlertid en annen. I 2015 måtte Amazon gi opp på sitt e-rekrutteringssystem ettersom det diskriminerte kvinner. Diskrimineringen var en følge av at den underliggende algoritmen og dataen den ble matet, ikke var nøytral. I motsetning til feil begått av lånebehandlere i en bank, er skadepotensialet langt større ved bruk av automatiserte systemer. Dette sett i sammenheng med at systemet – i motsetning til et menneske ­– behandler alle lånesøknadene. Videre kan det være utfordrende å oppdage eventuelle avvik eller feil, da disse ikke nødvendigvis vil materialisere seg i form av et avslag på lån. Sist men ikke minst, vil roboten i utgangspunktet ikke ha det vi omtaler som skjønn. Roboten vil dermed ikke være i stand til å skille mellom tilfeller der de interne reglene innebærer en uhensiktsmessig begrensning og bør fravikes.

Man kan dermed si at spillereglene er endret. Ikke bare er det vanskeligere å oppdage avvik eller feil, det kan også være at låneroboten vil oppleves som strengere enn et menneske da den i større grad er bundet av bankens internregler. Dette aktualiserer spørsmålet om man har rett til å få vite hva som foregår på innsiden av disse behandlingsprosessene, slik at man kan kontrollere om avgjørelsene er korrekte.

Nye tider

Før den nye personvernforordningen GDPR trådte i kraft, hadde personer som søkte lån kun rett på en generell forklaring av hvordan et automatisert system fungerte. Rent konkret hadde man krav på en forklaring begrenset til bankens kriterier ved vurdering av lånesøknader. Man hadde på den annen side ikke rett på en forklaring av spesifikke avgjørelser, uavhengig av resultatet. Mye tyder på at rettstilstanden nå er endret og at bankene under visse omstendigheter er pålagt å forklare spesifikke automatiserte kredittavgjørelser.

Dette betyr at bankene risikerer å måtte bruke mennesker likevel, med mindre de klarer å integrere en funksjon som gjør at låneroboten kan forklare de automatiserte kredittavgjørelsene. Spesielt utfordrende er dette dersom roboten har kunstig intelligens. Det kan tenkes at roboten da treffer avgjørelser som selv ikke banken eller skaperen forstår.

Trumfkortet

Retten til en forklaring av spesifikke kredittavgjørelser gjelder som nevnt under bestemte omstendigheter. Disse antas å være når en forklaring er nødvendig av hensyn til lånesøkerens mulighet til å utfordre avgjørelsen etter GDPR artikkel 22 nr. 3, eller når den er nødvendig av hensyn til en rettferdig og åpen behandling av personopplysninger. Det antas at disse to tilfellene i stor grad vil være sammenfallende.

Banken kan på sin side rent unntaksvis unnlate å gi en forklaring av spesifikke låneavgjørelser. Dette er begrenset til de tilfeller hvor en forklaring av innholdet strider mot andre rettigheter etter GDPR, eller begrensninger inntatt i nasjonal lovgivning med grunnlag i GDPR.

Forklaringsretten er med andre ord et trumfkort for lånesøkere som ikke er fornøyd med låneavgjørelsen. De kan kreve en nærmere forklaring av bankens automatiserte kredittavgjørelser. Forklaringen kan bidra til å avdekke forskjellsbehandling, avvik eller feil i systemet, eller et ugunstig resultat basert på en for streng praktisering av bankens interne regler. Det kan videre tenkes at innholdet i forklaringen gjør at en bør etterspørre en manuell behandling av en menneskelig saksbehandler i banken.

 Hva betyr forklaringsretten for bankene?

Sistnevnte løsning innebærer at bankene kan bli tvunget til å se på mens deler av deres økonomiske besparelser blir spist opp. Løsningen er imidlertid trolig bedre enn en bot fra Datatilsynet eller et tap av omdømme og tillit.

Denne artikkelen (skrevet av advokatfullmektig Hermon Melles) er også publisert på Hegnar.no.

 


 

Bing Hodnelands avdeling for IT & Media dekker alle de sentrale rettsområdene som er relevante for IT- og mediebransjen: Opphavsrett, varemerkerett, markedsrett, ytringsfrihet, personvern, medierett, ehandels- og ekomrett samt reglene om offentlige anskaffelser.

Vi har bred kompetanse – blant annet rundt spørsmål om GDPR.

Ta gjerne kontakt i dag for en uforpliktende samtale hvis du har spørsmål – så finner vi sammen den beste løsningen.

Kontaktpersoner

Mathias Lilleengen – Stine Helén Pettersen – John S. Gulbrandsen

 

Forfatter

Hermon
Melles

.