Udfordringerne fra tech-giganterne – introduktion til ny rapport

Skrevet af

17. juni, 2024
Download hele magasinet som pdf:

Kunstig intelligens rummer både et teknologisk gennembrud og en samfundsmæssig udfordring, som det er nødvendigt at forholde sig til, viser rapporten Grænser for tech-giganternes udvikling og kunstig intelligens.

Regeringens ekspertgruppe om tech-giganter ledet af Mikkel Flyverbom, professor i bl.a. digitale forandringer på CBS, kom tidligere på året med en delrapport og en række centrale anbefalinger. 

Kunstig intelligens kræver en nuanceret og balanceret tilgang, præcis som når vi taler om andre videnskabelige og teknologiske nyskabelser såsom medicin og kemikalier, understreger Flyverbom indledningsvis.

De 13 anbefalinger er et bud på, hvordan kunstig intelligens kan indhegnes og dermed få den plads i vores samfund, som både gør det muligt at udnytte de gode muligheder og begrænse skadevirkningerne. Afrapporteringen er bygget op omkring fire temaer med hver deres anbefalinger:

•   Tech-giganternes medansvar for informationstroværdighed på deres platforme.

•   Beskyttelse af børn og unge mod skadelig anvendelse og udvikling af kunstig intelligens på tech-giganternes tjenester.

•   Regulering af tech-giganters uautoriserede brug af ophavsretligt beskyttet materiale.

•   Tech-giganternes markedsdominans inden for udviklingen af kunstig intelligens.

Informationstroværdighed

Kunstig intelligens udfordrer troværdigheden af de dominerende web-platforme. Med kunstig intelligens er det nemt at producere og dele falsk eller manipuleret indhold både som tekst, lyd og billeder. Tech-giganternes algoritmer påvirker, hvordan sådant indhold bliver forstærket og udbredt på deres platforme. Ekspertgruppen anbefaler derfor følgende tiltag både i EU-regi og nationalt:

1.1    Indsats mod skadeligt og vildledende indhold genereret af kunstig intelligens

1.2    Tech-giganter skal deklarere indhold genereret af kunstig intelligens på deres platforme

1.3    Effektiv forsker- og myndighedsadgang til kunstig intelligens-modeller

Beskyttelse af børn og unge

Tech-giganter anvender forskellige fastholdelsesmetoder, der kan være afhængighedsskabende og derfor har store konsekvenser for børn og unge. Derfor har børn og unge behov for ekstra beskyttelse. Tech-giganter har omgået tidligere indførte restriktioner f.eks. ved at indføre betaling for at bliver fri for chatbots. Ekspertgruppens anbefalinger på området:

2.1    Chatbots skal være slået fra som standardindstilling, ikke kræve betaling at fravælge og være fri for manipulerende design                                                                                                                                                                     
2.2    Design af kunstig intelligens skal tage højde for børn og unge som sårbare forbrugere

2.3    Beskyttelse af børn og unge mod kunstig intelligens i legetøj

2.4    Skærpet fokus på risici ved kunstig intelligens for børn og unge

Uautoriseret brug af ophavsretligt beskyttet materiale

Træning af sprogmodeller byggende på kunstig intelligens kræver store datamængder. Derfor er materiale tilgængeligt på internettet fra forskningsverdenen og kulturlivet blevet anvendt uden hensyn til ophavsret. Det er helt nødvendigt at tvinge firmaer, som udvikler sprogmodeller til at sikre at de datasæt, som anvendes til træning, anvendes på lovlig vis.

Ekspertgruppen anbefaler derfor følgende tiltag både i EU-regi og nationalt:

3.1    Tech-giganterne skal dokumentere, at de ikke bryder ophavsretten

3.2    EU-regler om licensaftaler i forhold til brug af ophavsretligt materiale og oprettelse af europæisk tilsyn

3.3    Europæisk klageadgang for rettighedshavere

Markedsdominans

Andre end tech-giganterne har svært ved at udvikle alternativer til de dominerende løsninger. Det kan bl.a. betyde at danske virksomheder kommer at betale for høje priser for tech-giganternes løsninger. Det er derfor vigtigt at sikre, at virksomheder og offentlige institutioner har et reelt valg. Og der skal sikres gode vilkår for udvikling baseret på respekt for menneskerettigheder, demokrati og ligestilling. Ekspertgruppens anbefalinger:

4.1    Bedre rammer for udvikling af kunstig intelligensløsninger som alternativ til tech-giganterne

4.2    Retningslinjer for brug og indkøb af kunstig intelligens i den offentlige sektor

4.3    Europæisk regulering af kunstig intelligens over for tech-giganterne skal håndhæves og videreudvikles

Demokratiske udfordringer

Der er tale om nogle voldsomme udfordringer for et demokratisk samfund. Nogle af anbefalinger kan virke vidtrækkende, men desværre er der nok snarere tale om at de ikke er stærke nok end det modsatte.

■ Delrapporten giver et godt overblik over problemerne omkring kunstig intelligens på rimelig overskuelig vis og nærmere læsning anbefales. Kan hentes her.

LEIF ANDRESEN, tidl. chefkonsulent Det Kgl. Bibliotek

Er vi berøringsangste i forhold til AI

Vi skal omfavne AI i bibliotekssektoren og tænke os ind i en rolle, så vi understøtter eleverne og de studerende i at bruge den kunstige intelligens

Når teknologien fragmenterer demokratiet

Bibliotekerne kan tilbyde borgerne et sted, hvor information ikke er drevet af algoritmer, men af etiske principper om oplysning og dannelse

IFLA Trend Report 2024

Rapporten er en central ressource for de kommuner, biblioteker, bibliotekarer og biblioteksforeninger, der ønsker at tage bestik af digitaliseringen

Nimbi Game-Lab

Nimbi Game-lab, Danmarks Institut for Spiludvikling, er etableret som det første spilinstitut i Europa under finanslov 2024 og skal fremme udvikling af danske digitale spil

Når menneske og maskine samskaber

Om den kognitive sans’ betydning i samskabelsen med AI. Skal vi være begejstrede eller bekymrede for generativ AI (GAI) og nye veje til at generere indhold som tekst, lyd eller ...

Overblik og aktuelle AI-problematikker

Sådan styres din adgang til viden på nettet af kunstig intelligens. Kunstig intelligens / AI (artificial intelligence) er for alvor kommet på dagsordenen de sidste år – ikke ...

AI – Biblioteket har en kæmperolle

“AI – Biblioteket har en kæmperolle. Ikke mindst i forhold til unge og studerende i landets fag-, forsknings- og uddannelsesbiblioteker.” Man taler ofte om, at ...

AI – dansk sprogmodel undervejs

Når der tales kunstig intelligens tales også ofte om behovet for ‘en dansk sprogmodel’. Hvorfor det? SF har bl.a. fremsat forslag til folketingsbeslutning. Man ...