Nederland endte det i skandale. Myndighetene utviklet et omfattende kontrollsystem for ? avsl?re trygdesvindlere, men ble selv d?mt for ? ha brutt loven og krenket menneskerettighetene.
Systemet var basert p? algoritmer. Data om personer som var d?mt for trygdesvindel, ble brukt til ? forutsi hvilke andre trygdemottakere som kunne tenkes ? svindle i framtida.
N?r maskinene l?rte av kjente tilfeller av trygdemisbruk og forbedret dataene stadig mer, ble kontrolltrykket voldsomt mot noen, og aller mest mot folk i fattige og sosialt belastede omr?der.
Systemet de nederlandske trygdemyndighetene hadde investert enorme ressurser i, ble lagt ned. Noen hadde glemt ? tenke p? rettsstatsprinsippene.
Enorm iver
– Det er en enorm iver etter ? digitalisere velferdsforvaltningen ogs? i Norge og ? ta kunstig intelligens og maskinl?ring i bruk for fullt. Teknologien gir fantastiske muligheter. Men eksempelet fra Nederland minner oss om noe viktig: At alt m? skje innenfor rammene av demokratiet og rettstaten, understreker professor Ingunn Ikdahl og f?rsteamanuensis Jon Christian Fl?ysvik Nordrum ved Det juridiske fakultet.
– Vi skal bidra til ? endre lover og rettsregler?– og dermed sikre demokrati og retsstat, lover Jon Christian F. Nordrum og Ingunn Ikdahl. FOTO: OLA S?THER
De to leder ?Digital velferdsstat?, et stort 澳门皇冠体育,皇冠足球比分sprosjekt mellom juristene p? UiO og fagmilj?ene i NAV. M?let er klart: ? bidra til at den digitaliserte velferdsforvaltningen bygger p? et demokratisk og rettsstatlig fundament. ?
Enest?ende i verden
NAV er noe for seg selv. Ikke bare er NAV trolig det velferdsorganet i verden som dekker flest velferdsomr?der og har flest tjenester samlet under seg. Det er ogs? det velferdsorganet med adgang til de mest omfattende og detaljerte dataene om hver enkelt innbygger i et land.
– Vi har ekstremt h?y tillit til forvaltningen og gir mer enn villig fra oss informasjon, p?peker Ikdahl.
S?rtrekkene ved norsk forvaltning legger derfor forholdene usedvanlig godt til rette for digitalisering. NAVs planer for bruk av digitale velferdsl?sninger, g?r lenger enn noen andre hittil har gjort.?
"Om vi ikke greier det, risikerer vi tilsvarende skandaler som i Nederland."?
De store mengdene data NAV sitter p? om hver enkelt av oss, benytter de allerede n? til ? modellere sammenhenger og ‘se inn i framtida’ – for eksempel hvor lenge en sykmelding vil vare.
– Det finnes regler som setter grenser. Alle som arbeider med ? utvikle og ta i bruk nye l?sninger m? v?re trygge p? hva som er lov – som hva slags koblinger av data forvaltningen kan gj?re, og hva informasjonen kan brukes til, understreker Ikdahl.
Reglene i lovverket skal sikre overordnede rettsstatsprinsipper. Men er reglene egnet til ? ivareta prinsippene n?r forvaltningen arbeider p? nye m?ter?
Saksbehandlingen gj?res i stadig mindre grad av en offentlig tjenesteperson p? et fysisk sted, dataprogrammer overtar for papirdokumenter, og tiden det tar ? fatte et vedtak, er i ferd med ? bli forsvinnende kort.
"Behovet er akutt. Men n? er vi heldigvis i gang."
Juristene forteller at NAV tok kontakt for ? diskutere problemstillinger. Etter hvert kom invitasjonen til et omfattende 澳门皇冠体育,皇冠足球比分. NAV erfarer hvilken enorm utfordring det er ? f? jussen og den nye teknologien til ? passe sammen.?Hvordan er det mulig ? f? til?
– Siden Norge ligger helt fremst n?r det gjelder ? utvikle og bruke ny forvaltningsteknologi, vil vi ikke l?re stort av ? g? til den internasjonale litteraturen eller til andre land. Vi m? selv finne l?sningene. Da trenger vi ? forske, tenke nytt. Ja, vi m? drive juridisk innovasjon, erkjenner Nordrum.
– Behovet er akutt. Men n? er vi heldigvis i gang.
Jobber sammen
Og nytenkningen, understreker han, gj?r vi sammen med teknologene. For nettopp teknologene spiller en stadig viktigere rolle i ? bygge moderne forvaltningssystemer.
– Teknologene snakker ofte om ‘juridiske hindringer’. Men juss er byggestoff, ikke hindring n?r nye forvaltningssystemer blir til, poengterer juristen.
For virkelig ? kunne nyttiggj?re seg av digitaliseringens muligheter, mener han, trenger teknologimilj?ene i NAV ? f? tilf?rt mer kunnskap om forvaltningsverdier, juss, menneskerettigheter og etikk.
Juridisk kompetanse m? med fra starten. Juristene p? sin side, trenger ? forst? teknologiens begrensninger – og muligheter.
– For ? l?se utfordringene er vi f?rst n?dt til ? forst? hverandre. I dag er avstanden er stor mellom milj?ene. Vi har ulike spr?k, utdanninger og st?steder. N? jobber vi med ? finne fram til et felles st?sted og et felles spr?k. I det nye 澳门皇冠体育,皇冠足球比分sprosjektet v?rt skal vi bygge framtidas forvaltningssystemer sammen.
Rask og effektiv
M?let med digitaliseringen har hittil f?rst og fremst v?rt ? effektivisere forvaltningen. Det g?r fram av meldinger og handlingsplaner fra regjering og departement. Ny teknologi skal sikre raskere saksbehandling. Oppgaver NAV-ansatte har, skal forenkles p? en m?te som gj?r at de kan uttrykkes ved hjelp av algoritmer og kj?res i datamaskiner. En maskin som fatter tusen vedtak i en jafs, frigj?r ressurser. ?
– Da kan mennesker gj?re mer av det mennesker er bedre til enn maskiner – de vanskelige vurderingene og m?tene med folk som trenger mer bistand enn bare et vedtak, p?peker Ikdahl.
Heller effektiv enn rettssikker?
Digitaliseringen bidrar til det forskerne kaller ‘masseforvaltning’ – en forvaltning der store antall saker behandles ganske rutinemessig og standardisert.??
– En slik forvaltning kan sikre likebehandling, men ?ker samtidig faren for ? masseprodusere feil – feil det er vanskelig ? oppdage, b?de for den saken gjelder og for dem som er satt til ? kontrollere, understreker Ikdahl, og viser til at velferdsforvaltningen er et spesielt alvorlig felt ? gj?re feil p?.??
– Mange lever av ytelsene de f?r fra NAV. Og feilene blir trolig oppdaget seinere enn for eksempel innen skatteforvaltningen, hvor ressurssterke grupper og individer raskt stiller sp?rsm?l ved systemet.??
Hittil, mener forskerne, har ikke digitaliseringen av velferdsforvaltningen skjedd med det for ?ye ? styrke rettsstaten.
– Det sentrale har v?rt effektivisering og ikke det ? s?rge for at innbyggerne i st?rre grad f?r realisert rettighetene sine, at det blir enklere ? kontrollere at forvaltningen ikke gj?r feil, eller ? gj?re offentlig sektor mer ?pen.??
?Svart boks?
Maskinl?ring, p?peker de, setter grunnleggende, rettsstatlige prinsipper p? pr?ve – s?rlig n?r beslutningene flyttes fra saksbehandlere av kj?tt og blod og over til digitale systemer med store data.
Det er ikke opplagt hva forvaltningen bygger vurderingene sine p? dersom deler av grunnlaget for et vedtak er bygd p? maskinl?ring.
– Et grunnleggende problem er at vi ikke f?r vite eller ikke lett kan forst? hvordan algoritmene virker. En maskinl?ringsmodell produserer et resultat, men hvorfor ble resultatet som det ble? ?Computer says no? er ingen god begrunnelse for et vedtak.
Ingen rettsstatsvoktere
Hvordan kan bruken av kunstig intelligens da v?re rettssikker? Juristene understreker hvor viktig kontroll av forvaltningen er, men at kontrollmulighetene er svekket. Domstolskommisjonen peker i sin NOU fra 2020 p? at domstolskontrollen m? tilpasses framtidas digitale forvaltning, med automatiserte vedtak og bruk av kunstig intelligens.
Professor Hans Petter Graver kritiserte koronalovene, men vil nok ha problemer med ? g? beinhardt l?s p? algoritmene.
Ogs? allmennhetens innsyn i forvaltningens arbeid er vanskeligere enn f?r.
– Den kritiske offentlighet, inkludert oss ved Det juridiske fakultet, kan i liten grad kontrollere systemer som bruker kunstig intelligens. Spr?ket som brukes, er ikke norsk. Det er algoritmer, et spr?k ikke alle kan lese. Dermed har vi f?rre rettsstatsvoktere som passer p?. Professor Hans Petter Graver kritiserte koronalovene, men vil nok ha problemer med ? g? beinhardt l?s p? algoritmene, tror Nordrum.
Juristene minner om at rettssystemet og forvaltningssystemet v?rt er innrettet ut fra tanken om én sak, én borger og én saksbehandler.
– Men ? hindre feil i digitale forvaltningssystemer? Domstolskontrollen er altfor treg, og ogs? for dommerne er det vanskelig ? forst?r algoritmene. Dessuten skjer rettsprosessene med utgangspunkt i enkeltsaker. Vi trenger nye former for kontroll, b?de n?r nye systemer blir utviklet og n?r de tas i bruk, sier Ikdahl.
– Vi merker at mange deler av det offentlige er interessert i ? diskutere mulighetene.?
P? stedet hvil
Forskerne mener at velferdsforvaltningen kanskje st?r overfor sin st?rste rettsstatlige utfordringen noensinne: ? innpasse maskiner i velferdsstaten.
De peker p? behovet for nytenkning?i eget fagmilj?, og mener de har mye ? l?re fra mer tverrfaglig orienterte milj?er ved eget fakultet, som rettssosiologi og ikke minst forvaltningsinformatikk.?
– Forvaltningsretten, som vi underviser i her p? instituttet, har endret seg lite de siste femti ?rene – mens det har skjedd radikale endringer i m?ten forvaltningen arbeider p?. Om vi skal greie ? utvikle en digital velferdsforvaltning som b?de er demokratisk, rettssikker og effektiv, trenger vi ? endre retten, framholder Nordrum.?
Unng? skandaler
Juristene fors?ker n? ? finne ut hvordan retten kan utvikles slik at vi f?r en rettsstat som fungerer.
– Om vi ikke greier det, risikerer vi tilsvarende skandaler som i Nederland. F?r vi mange store feil som rammer bredt, kan tilliten til velferdsstaten bli svekket, advarer Ikdahl.??
Hun understreker samtidig at systemer som bruker kunstig intelligens, gir muligheter vi ikke b?r g? glipp av.????
– P? sitt beste kan slike systemer styrke stillingen til den enkelte innbygger i m?te med en forvaltning som mange opplever som fjern og utilgjengelig – og dermed styrke demokratiet og rettsstaten. Det er mulig ? tenke seg algoritmer som hjelper folk med ? finne fram i forvaltningen, forklarer vedtak og unders?ker klagemuligheter. ?
Aktive jurister trengs?
De to kollegene peker p? en underliggende utfordring: Samfunnet er i rask endring, det krever jurister som aktivt bidrar.?Mange tenker p? retten som statisk, konservativ og tilbakeskuende. Men i virkeligheten, mener de, spiller retten en sentral rolle n?r vi utvikler samfunnet v?rt.
– Utfordringene vi st?r overfor er formidable, som klima- og milj?utfordringen. Da m? vi lage rettslige systemer og lover som sikrer verdiene vi ?nsker at samfunnet skal bygge p?. Det er stadig st?rre behov for jurister som kan bidra til samfunnsutviklingen – alts? jurister som ikke bare kan lese dagens lovverk, men ogs? kan lage lover for morgendagens utfordringer.
?
Kunstig intelligens setter dem p? pr?ve:
– Studentene blir kastet ut i kaos
De s?ker i Norges lover og i tykke b?ker om forvaltningsrett. Men sp?rsm?lene de stiller, m? jusstudentene finne svar p? selv. ?
Kunstig intelligente systemer endrer forvaltningen i rekordfart. Lovverket henger ikke med. I Lovlab – laboratorium for nye lover og regler – gj?r studentene noe aktivt for ? b?te p? dette. De skriver lovforslag i form av en JOU – Jusstudentenes offentlige utredninger – en ‘mini-NOU’ for eksterne oppdragsgivere.?
M? tenke nytt
–? Studentene i Lovlab blir kastet ut i kaos. Forvaltningsrettslitteraturen er ikke i n?rheten av ? gi dem svar p? mange presserende sp?rsm?l som digitaliseringen skaper, fastsl?r Jon Christian Fl?ysum Nordrum.
Han er ansvarlig for Lovlab og faget lovgivningsl?re og viser til at jusstudenter flest ikke l?rer ? skrive lover og utvikle nye regler, men kun tolke regler som allerede finnes.??
– Studentene blir utfordret. NAV sier: Her er teknologien, hjelp oss med jussen. Studentene bringer til torgs kunnskap om forvaltningsrett og trygderett, men fordi forvaltningsretten slik den er i dag ikke passer, blir de blir tvunget til ? tenke nytt: Hvordan er det best ? organisere og regulere forvaltningen? Hvilke nye begreper og kategorier trenger jussen?