Vi trenger en regulering av kunstig intelligens som ivaretar demokrati og personvern

Kunstig intelligens (KI) gjør det mulig å utnytte datahistorikk på en annen måte enn tidligere, ved for eksempel å anslå fremtidens handlingsmønstre basert på kjøpevaner, politiske interesser og rulleblad.

Microsofts grunnlegger, Bill Gates, har uttrykt bekymring knyttet til at superintelligente maskiner kan utgjøre en trussel for menneskeheten i nær fremtid.¹ Meningene er delte om utsiktene til KI, der teknologien i den ene sammenhengen hylles som fremtidens problemløser, og i andre sammenhenger, et fremtidig skrekkscenario. Et viktig spørsmål er derfor;

21. april 2021 la EU-kommisjonen frem et forslag til verdens aller første rettslig regulering av KI.² Sjefen i Google, Sundar Pichai, har uttalt seg positivt til forslaget, og legger ikke skjul på at det ikke er tvil om at kunstig intelligens må reguleres og underlegges kontroll fra myndighetenes side.³ Han understreker imidlertid at en slik regulering må være balansert og forholdsmessig. EU-kommisjonen ser ut til å ha tatt hensyn til en slik tilnærming i forslaget; Den oppstiller en modell der bruk av KI skal vurderes opp mot inngrep i andre viktige hensyn og rettigheter i samfunnet. For eksempel vil det for noen enkelte former for KI oppstilles et absolutt forbud, fordi en slik bruk ikke anses forenelig med vern av ytringsfriheten eller personvernet til den enkelte.

En krevende balanseøvelse

Enkelte hevder at rettslig regulering vil bli en hindring for utvikling og innovasjon. KI reiser nye problemstillinger knyttet til beskyttelsen av menneskerettigheter og den enkeltes rett til personvern. Hva slags data skal være tillatt å behandle, skal det være begrensninger for hvem som får tilgang til dataene, og er det nødvendig med et samtykke fra den registrerte? Eller i hvor lang tid kan persondata lagres i den digitale skyen, og hva skal til for at informasjonen må slettes? I forslaget har EU-kommisjonen understreket viktigheten av å balansere ønske om teknologisk utvikling og effektivitet på den ene siden, mot negative følger for personvernet på den andre siden. Den norske regjering utformet også en nasjonal strategi for kunstig intelligens i 2020 der det understrekes at Norge skal gå foran i utvikling og bruk av kunstig intelligens med respekt for den enkeltes rettigheter og friheter. Kunstig intelligens i Norge skal bygge på etiske prinsipper, respekt for personvernet og god digital sikkerhet.⁵

Innebygd personvern er et eksempel på denne balanseøvelsen i praksis, som skal sikre at det tas hensyn til personvern i alle utviklingstrinn av programvaren. Det stilles blant annet krav til transparens og åpenhet, som innebærer at den registrerte skal kunne forsikre seg om at behandlingen av personopplysninger skjer på en rettferdig og lovlig måte. For at dette skal ha noen reell betydning i praksis må den registrerte ha tilgang til informasjon om hvilke persondata som behandles, hva det brukes til, hvilket formål de er samlet inn for, slik at vedkommende når som helst kan trekke tilbake samtykke til behandlingen eller be om at dataene slettes. I tjenester basert på KI kan dette være utfordrende fordi teknologien er komplisert og vanskelig å forklare for utenforstående.

Ansvarlig kunstig intelligens

For å sikre bruk av korrekte og ikke-diskriminerende data må bruk av KI etterprøves for om de tilsiktede målene for behandlingen av personopplysningen er oppnådd, om persondataen som er til behandling kan anses nødvendig, og om det er behov for å iverksette tiltak for å rette opp eventuelle avvik. En menneskelig innblanding i beslutningsprosesser som benytter seg av KI teknologi er et tiltak for å redusere risikoen for feil. Datatilsynet har opprettet en digital sandkasse for KI som har som mål å stimulere til utvikling av innovative og samfunnsnyttige tjenester med godt innebygget personvern. Den er verdt å sjekke ut for selskaper som ønsker å finne gode måter å bruke KI på i sine tjenester.⁶

Forslaget til KI reguleringen oppstiller også regler om ansvarlighet og sanksjoner ved brudd på reglene. For å sikre en reell kontroll må det oppnevnes et uavhengig organ, for eksempel Datatilsynet, som kan føre tilsyn med at regelverket opprettholdes. Regjeringens nasjonale strategi presiserer at tilsynsmyndigheter skal føre kontroll med at systemer basert på kunstig intelligens opererer innenfor prinsippene for ansvarlig og pålitelig bruk av KI.⁷ EU-kommisjonens forslag viser også at det vil være krav til at selskaper kjører risikoanalyser av tjenester som baserer seg på KI. Begrepet ”conformity assessement” vil trolig pålegge selskaper å teste hvorvidt tjenesten er i overensstemmelse med regelverket før den lanseres og gjøres tilgjengelig for brukere. Dette innebærer en plikt til å utføre kontroll på teststadiet, underveis i utarbeidelsen av tjenesten, samt en kontinuerlig evaluering av tjenesten etter den er lansert.

En proaktiv tilnærming

Vi har alle blitt skremt av de negative konsekvenser KI kan føre med seg, alt fra Deepfake videoklipp, diskriminerende algoritmer, og predictive policing. Nøkkelen for å lykkes med KI, ligger etter min mening, i å utvikle gode systemer som ivaretar demokratiske prinsipper, rettferdighet og personvernet til den enkelte. For å oppnå dette må det gjøres en enkeltstående vurdering av hver tjeneste som benytter KI for behandling av personopplysninger. Bruk av KI for masseovervåkning, ansiktsgjenkjenning og sosiale poengsystemer må begrenses når disse tjenestene ikke er forenelig med ytringsfrihet og demokrati. Med en tydelig felleseuropeisk regulering og en effektiv håndhevelse av regelverket, beveger vi oss i en retning der KI er en løsning på fremtidige problemer, fremfor en trussel for menneskeheten og våre samfunnsverdier.