Komplisert og uklart regelverk

Bull & Co-advokater støtter EUs regulering av kunstig intelligens, men synes lovforslaget fremstår som komplisert og uklart.

Maskinen og mennesket - nå vil EU regulere kunstig intelligens. Forholdet mellom maskinen og mennesket har vært diskutert i over 200 år, helt siden ideen om retten til privatliv ble introdusert på attenhundretallet. Da hadde det «moderne» fotografiet funnet veien til sensasjonsdrevne journalister. Frykten var at «det som ble hvisket på soverommet skal bli proklamert fra hustakene».

I dag er konstant overvåking et faktum. Kameraer fanger oss mange ganger når vi beveger oss gjennom en by. Smarttelefonen i lomma vet hvem vi kommuniserer med, teller skritt og vet nøyaktig hvor vi er. Medisinsk utstyr som vi bærer med oss, eller fester til kroppen, kommuniserer med en app. IoT-dingsene i hjemmene våre avslører mer enn våre nærmeste familiemedlemmer kjenner til. Fly, våpensystemer, sykehus, industriproduksjon, pacemakere, kirurgi og hus styres nå av IT. Selvlærende systemer overtar flere og flere av menneskenes oppgaver. Med kunstig intelligens (KI) vil overtagelsen gå raskere og styringen bli enda mer effektiv - men også potensielt dødelig. De økonomiske interessene er overveldende. Øst konkurrerer med vest, ikke bare økonomisk, men i siste instans om verdensherredømme.

I dette kaotiske landskapet mener EU, og de fleste KI-eksperter, at regulering må til for at mennesker og vestlige, liberale verdier ikke skal tape. EU-kommisjonens fremsatte derfor et forslag til lov om KI 21. april 2021. Målet med forordningen er å sette en global standard for bruk av KI. EU graderer KI-systemene fra «minimal risiko», via «høy risiko» til «uakseptabel risiko». EU foreslår å forby KI med «uakseptabel risiko», som bruk av sosiale poengsystemer (i bruk i Kina, der befolkningen rangeres etter blant annet hvor lovlydige de er). Debatten har rast rundt kategorien «høy risiko», som omfatter kritiske områder som blant annet bevisvurdering, valgordninger, utdannelse, ansettelsesprosesser (CV-vurderinger), kredittvurderinger og migrasjon. Slike KI-systemer foreslås underlagt streng kontroll. Forslaget innebærer for eksempel at fadesen som rammet IB-studentene i fjor kunne vært unngått, og at robotassistert kirurgi blir strengt regulert.

Kompetanse er avgjørende for næringslivet, også for forståelsen av det foreslåtte regelverket. Vurdering av sikkerhetsgradering må læres. Regulatoriske sandkasser er tidligere foreslått av EU-kommisjonen som et tiltak for å fremme KI-innovasjon, som blir viktig fremover. Høringsfristen for lovforslaget er gått ut, men mange aktører i IKT-bransjen, sammen med oss fra advokatbransjen, ga innspill til Kommunal- og moderniseringsdepartementet.

Det er delte meninger om lovforslaget. Vi støtter forslaget, men det fremstår som komplisert og uklart. Forordningen skal ikke bare ta ned risiko, men også fremme økonomisk vekst og innovasjon i EU. Særlig definisjonene, risikovurderingene og ansvarsforhold må klargjøres. Språket må gjøres enklere. Dette er avgjørende for næringslivet, både for utviklerne, innkjøperne og brukerne. Regelverk må ikke være for komplisert å overholde, særlig når kreativitet, innovasjon står på spill og enorme bøter risikeres.

Etter at GDPR ble innført i 2018, har vi vunnet erfaring med overkompliserte regelverk. Disse bør unngås, slik at hensynet til innovasjon, økonomisk vekst og forutsigbarhet ivaretas.

Skrevet av Kristin Haram Førde og Kristian Foss

Personvernadvokater og partnere i Bull & Co Advokatfirma 

Artikkelen ble først publisert i Finansavisen.