Hvordan tøjler vi kunstig intelligens i samfundets tjeneste

Skrevet af

Michel Steen-Hansen

14 juni, 2021

EU-Kommissionen er netop kommet med et nyt forslag, der lægger op til mere ansvarlig brug af data og samtidig stiller krav til brug af den moderne teknologi, særligt i forhold til kunstig intelligens (AI). Det skal vi både som samfundsborgere og også i bibliotekerne forholde os til. Både i forhold til at kunne vejlede borgerne og hvordan bibliotekerne bruger de mange teknologier.            

For mange er kunstig intelligens noget fjernt og får en til at tænke på science-fiction film, men det er i den grad en del af vores allesammens hverdag. Den totale overvågning er faktisk mulig (tænk bare på hvad du nærmest automatisk har sagt ja til som Google må overvåge af din hverdag), men vil medføre utryghed og mistillid, hvis ikke vi som samfund sætter grænser for både stat og private aktører aktørers brug af kunstig intelligens. Jeg er dykket lidt ned i, hvad forslagets indhold og konsekvenserne af det kan indebære. 

Kunstig intelligens kan få computere og robotter til at gøre ting, som hidtil kun mennesker har kunnet og forventes at få meget stor udbredelse både i folks private liv, i det offentliges opgaveløsning og i industriens produkter. Men rummer også spørgsmål om sikkerhed og etiske udfordringer.

Et bedre eller et mere overvåget samfund
Efter flere år at have holdt oplæg med afsæt i IFLA Trend Report med udgangspunkt i at nye teknologier både kan skabe en bedre verden, men i den grad også kan misbruges – er det helt centrale spørgsmål for mig nu og altså også for EU kommissionen: Hvordan vil vi fortsat finde, bruge og drage nytte af alle de nye teknologier og informationer i en stadig mere hyper-forbundet verden på en tryg og pålidelig måde?
Konkurrencekommissær Margrethe Vestager (B) har ansvaret for EU’s digitale omstilling og er ansvarlig for det digitale ham-skifte, som er en af EU's store politiske prioriteringer disse år. I den forbindelse er det opmuntrende at se, at hun i forbindelse med lanceringen af oplægget siger til DR: “I vores samfund er der ikke plads til masseovervågning".

Personligt er jeg er ikke i tvivl om, at kunstig intelligens også kaldet AI (Artificial Intelligence) kan være med til at skabe et bedre samfund, men det kræver, vi bruger den kunstige intelligens på den rigtige måde, og at vi f.eks. ikke bare accepterer masseovervågning. Jeg har i hvert fald ikke lyst til at installerer en app, der hele tiden registrerer, hvor jeg er og gemmer det for evigt. Eller har jeg allerede gjort det?

Behov, fordele – og overvejelser
Kunstig intelligens er ikke kun robotter i science-fiction, men også en teknologi, der kan hjælpe os med at håndtere store samfundsudfordringer, som eksempelvis den grønne omstilling.

Vi har i den grad brug for moderne teknologi som kunstig intelligens, der f.eks. kan spille en afgørende rolle i kampen mod klimaforandringer eller løsning af pandemier. Det meste af vores samfund er allerede påvirket af kunstig intelligens. Teknologien er baseret på computeranalyse af store mængder af data og bliver eksempelvis brugt til automation i produktionsvirksomheder, til bedre diagnosticering i sundhedsvæsenet, og når vi handler online, streamer film eller låner bøger.

Og når bibliotekerne bruger AI til at komme med anbefalinger til lånerne ud fra deres interesser på LÆSEKOMPASSET eller eReolen eller Mofibo gør det samme.

Men man skal dog være opmærksom på, at der er store forskelle på, hvordan man bruger den kunstige intelligens til f.eks. at komme med anbefalinger eller nudge brugerne til noget. Hvor bibliotekernes algoritmer er bygget op over nogle kulturpolitiske overvejelser, kan andres f.eks. være stærkt kommercielt eller direkte holdnings- og politisk orienteret. Det er noget af kernen i AI, at vi som brugere ikke altid kan gennemskue, hvad AI bruges til, og hvorfor vi som borgere eller forbrugere udsættes for det, vi gør.

Mon ikke de fleste af os kan se fordelene i, at læger får hjælp af softwaresystemer til at spotte alvorlige sygdomme hos deres patienter, eller at landmændene kan bruge robotteknologi til at gøre deres arbejde på markerne mere klimavenligt, og at industrier kan spare energi med AI. Eller at vores husstande eller biler i hverdagen er spækket med AI løsninger for at gøre dem mere brugervenlige, sikre eller energivenlige. De fleste sætter også pris på deres mobiltelefoner, som hjælper os ikke kun med kommunikation, men også med at vide f.eks. hvor vi er, og hvor vi skal hen.

Der er masser af gode gevinster at høste, hvis man bruger kunstig intelligens på den helt rigtige måde.

Dilemmaer og risikogrupper
Der er dog også en masse etiske faldgruber ved teknologien, som kan skabe store problemer for både mennesker og hele samfundet. Det ser man, som DR beskriver, ikke mindst i Kina, hvor et utal af overvågningskameraer holder øje med borgerne, uden at de kan gøre noget ved det, og hvor demokratiet er trådt under fode. Så det handler om både at tøjle techgiganternes såvel som diktaturstaters brug af AI. 

Men brugen af kunstig intelligens rummer også praktiske udfordringer og etiske dilemmaer, og det er dem, EU-Kommissionen vil komme til livs med ny regulering, der blandt andet stiller nye krav til virksomhedernes brug af teknologien. Eller som Vestager udtrykker det: “Jo større risiko, der er ved en bestemt form for kunstig intelligens, des skrappere skal reglerne være."

Europa-Kommissionen lægger bl.a. op til at stramme tøjlerne for, hvordan man fremover kan bruge kunstig intelligens i Europa – og til hvad. Og ved misbrug og i særligt slemme tilfælde kan det blive nødvendigt med både forbud og millionstore bøder til folkene bag, lyder det i det nye udspil.

Konkret foreslår Europa-Kommissionen her at inddele kunstig intelligens i fire forskellige risikokategorier.

Den første er harmløse systemer med "Minimal risiko" såsom spamfiltrene i vores inbox, der udgør langt størstedelen af den kunstige intelligens i dag. De vil ikke blive ramt af nye restriktioner.

Den anden er anvendelser med “Begrænset risiko”. Det kan være en chatrobot. Her skal der være klare krav om transparens, så kunderne altid ved, hvem eller hvad de interagerer med og har mulighed for at vælge det fra.

 Den tredje er anvendelser med “Høj risiko”. Kommissionen definerer en række områder, hvor brug af software kan underminere borgernes liberale rettigheder, diskriminere eller ligefrem udgør en kontant/fysisk risiko. Det kan være brug af kunstig intelligens til at sortere i ansøgninger til uddannelser, lave kreditvurdering eller ansættelser. Det kan være styring af trafikken eller virksomheder, der skal evaluere sine ansatte.

I den modsatte ende finder man finder man de helt ekstreme systemer, der eksempelvis kan bruges til at udnytte børn eller målrettet lave sociale pointsystemer for borgerne, som man har set det i Kina, altså "Uacceptabel risiko". Det indeholder skadelige anvendelser af kunstig intelligens, som er i strid med EU's værdier, fordi de krænker grundlæggende menneskerettigheder (f.eks. sociale pointsystemer indført af regeringer, udnyttelse af børns sårbarheder, brug af subliminale teknikker og – med be-grænsede undtagelser – biometriske identifikationssystemer til direkte fjernovervågning af offentligt tilgængelige områder, der anvendes til retshåndhævelsesformål), og det lægges der op til vil blive forbudt.

Denne kategoriserings store udfordring bliver nok at beslutte, hvad der indebærer en "Uacceptabel risiko" og ikke mindst, hvordan vi beslutter det. Men der er ingen vej uden om, hvis vi som borgere fortsat skal have tillid til både virksomhedernes brug af AI og i sidste ende myndighedernes brug af vores data. Den tillid er i sidste ende også en forudsætning for vores demokratiske samfund.

Kan de nye regler støtte innovation?
Når sådan et oplæg bliver præsenteret, er der naturligt nok en vis skepsis særligt fra industrien med frygt for unødigt bureaukrati eller konkurrenceforvridning, fordi man i USA og KINA ikke har sådanne regler. Som jeg ser det, er et sådan regelsæt nødvendigt, fordi det handler om borgernes tillid og mulighed for at kunne gennemskue teknologien, hvis vi skal udvikle.

Noget af det samme vi i disse måneder oplever i Danmark, hvor myndighederne forsøger at være åbne i deres kommunikation omkring vaccine og den risiko, der er forbundet med det. Særligt de to vacciner, som er under mistanke for større risiko for bivirkning. Netop derfor lader det til, at vi i Danmark ikke oplever en vækst i vaccineskepsis.

De lovgivningsmæssige rammer kan øge udbredelsen af kunstig intelligens på to måder. På den ene side vil øget tillid blandt brugerne øge efterspørgslen efter kunstig intelligens hos virksomheder og offentlige myndigheder. På den anden side vil udbydere af kunstig intelligens gennem øget retssikkerhed og harmoniserede regler få adgang til større markeder med produkter, som brugere og forbrugere sætter pris på og køber eller benytter.

Dertil kommer, at mange i Bruxelles håber på, at den nye lovgivning kan blive endnu et eksempel på den såkaldte “Bruxelles Effekt”, som Anu Bradford fra Colombia Law School har kaldt det: “At EU’s regler og produktstandarder automatisk spreder sig til hele verden via det frie marked, fordi det er lettere for virksomheder og stater at kopiere EU’s regler og dermed få adgang til det store europæiske marked end at opfinde deres egen version af de samme love. Det er derfor, at EU’s regler allerede i dag definerer standardindstillingen på en iPhone, måden man fælder tømmer på i Indonesien og kemikaliegrænserne for legetøj i Japan".

Konkret betyder det, at medlemslandene skal opdatere eller vedtage egentlige nationale strategier på området. I dag har 19 medlemsstater heriblandt Danmark og Norge vedtaget nationale AI-strategier. Læs mere om EU-Kommissionens nye regler for kunstig intelligens i EU kommissionens oplæg: kortlink.dk/europa/2bp58. 

 

Europa som globalt knudepunkt for pålidelig kunstig intelligens (AI) er EU-Kommissionens mål ifølge en Hvidbog fra 2020. Den 21. april 2021 foreslog kommissionen nye regler og tiltag, der skal skabe vejen dertil. Dels verdens første retlige ramme om kunstig intelligens dels en ny koordineret plan med medlemsstaterne som skal garantere menneskers og virksomheders sikkerhed og grundlæggende rettigheder og samtidig styrke investeringer, innovation og udbredelsen af kunstig intelligens i hele EU jf. kortlink.dk/2bvz6.

 

MICHEL STEEN-HANSEN er direktør i Danmarks Biblioteksforening.

 

 

Ikke-brugerne og bibliotekerne

LEDER Tak igen for valget til formand for Danmarks Biblioteksforening. Jeg er beæret og ydmyg over opgaven. Men vil kaste mig ud i arbejdet med min erfaring fra otte år i ...

Set fra MIN stol – Kultur for alle

Om kommuner, kultur og biblioteker – ansvar og adgang. Kultur for alle. Det kan både lyde klichéfyldt og banalt, men tænker man videre over det, så er det faktisk en ret ...