Kunstig intelligens rummer både et teknologisk gennembrud og en samfundsmæssig udfordring, som det er nødvendigt at forholde sig til, viser rapporten Grænser for tech-giganternes udvikling og kunstig intelligens.
Regeringens ekspertgruppe om tech-giganter ledet af Mikkel Flyverbom, professor i bl.a. digitale forandringer på CBS, kom tidligere på året med en delrapport og en række centrale anbefalinger.
Kunstig intelligens kræver en nuanceret og balanceret tilgang, præcis som når vi taler om andre videnskabelige og teknologiske nyskabelser såsom medicin og kemikalier, understreger Flyverbom indledningsvis.
De 13 anbefalinger er et bud på, hvordan kunstig intelligens kan indhegnes og dermed få den plads i vores samfund, som både gør det muligt at udnytte de gode muligheder og begrænse skadevirkningerne. Afrapporteringen er bygget op omkring fire temaer med hver deres anbefalinger:
• Tech-giganternes medansvar for informationstroværdighed på deres platforme.
• Beskyttelse af børn og unge mod skadelig anvendelse og udvikling af kunstig intelligens på tech-giganternes tjenester.
• Regulering af tech-giganters uautoriserede brug af ophavsretligt beskyttet materiale.
• Tech-giganternes markedsdominans inden for udviklingen af kunstig intelligens.
Informationstroværdighed
Kunstig intelligens udfordrer troværdigheden af de dominerende web-platforme. Med kunstig intelligens er det nemt at producere og dele falsk eller manipuleret indhold både som tekst, lyd og billeder. Tech-giganternes algoritmer påvirker, hvordan sådant indhold bliver forstærket og udbredt på deres platforme. Ekspertgruppen anbefaler derfor følgende tiltag både i EU-regi og nationalt:
1.1 Indsats mod skadeligt og vildledende indhold genereret af kunstig intelligens
1.2 Tech-giganter skal deklarere indhold genereret af kunstig intelligens på deres platforme
1.3 Effektiv forsker- og myndighedsadgang til kunstig intelligens-modeller
Beskyttelse af børn og unge
Tech-giganter anvender forskellige fastholdelsesmetoder, der kan være afhængighedsskabende og derfor har store konsekvenser for børn og unge. Derfor har børn og unge behov for ekstra beskyttelse. Tech-giganter har omgået tidligere indførte restriktioner f.eks. ved at indføre betaling for at bliver fri for chatbots. Ekspertgruppens anbefalinger på området:
2.1 Chatbots skal være slået fra som standardindstilling, ikke kræve betaling at fravælge og være fri for manipulerende design
2.2 Design af kunstig intelligens skal tage højde for børn og unge som sårbare forbrugere
2.3 Beskyttelse af børn og unge mod kunstig intelligens i legetøj
2.4 Skærpet fokus på risici ved kunstig intelligens for børn og unge
Uautoriseret brug af ophavsretligt beskyttet materiale
Træning af sprogmodeller byggende på kunstig intelligens kræver store datamængder. Derfor er materiale tilgængeligt på internettet fra forskningsverdenen og kulturlivet blevet anvendt uden hensyn til ophavsret. Det er helt nødvendigt at tvinge firmaer, som udvikler sprogmodeller til at sikre at de datasæt, som anvendes til træning, anvendes på lovlig vis.
Ekspertgruppen anbefaler derfor følgende tiltag både i EU-regi og nationalt:
3.1 Tech-giganterne skal dokumentere, at de ikke bryder ophavsretten
3.2 EU-regler om licensaftaler i forhold til brug af ophavsretligt materiale og oprettelse af europæisk tilsyn
3.3 Europæisk klageadgang for rettighedshavere
Markedsdominans
Andre end tech-giganterne har svært ved at udvikle alternativer til de dominerende løsninger. Det kan bl.a. betyde at danske virksomheder kommer at betale for høje priser for tech-giganternes løsninger. Det er derfor vigtigt at sikre, at virksomheder og offentlige institutioner har et reelt valg. Og der skal sikres gode vilkår for udvikling baseret på respekt for menneskerettigheder, demokrati og ligestilling. Ekspertgruppens anbefalinger:
4.1 Bedre rammer for udvikling af kunstig intelligensløsninger som alternativ til tech-giganterne
4.2 Retningslinjer for brug og indkøb af kunstig intelligens i den offentlige sektor
4.3 Europæisk regulering af kunstig intelligens over for tech-giganterne skal håndhæves og videreudvikles
Demokratiske udfordringer
Der er tale om nogle voldsomme udfordringer for et demokratisk samfund. Nogle af anbefalinger kan virke vidtrækkende, men desværre er der nok snarere tale om at de ikke er stærke nok end det modsatte.
■ Delrapporten giver et godt overblik over problemerne omkring kunstig intelligens på rimelig overskuelig vis og nærmere læsning anbefales. Kan hentes her.
LEIF ANDRESEN, tidl. chefkonsulent Det Kgl. Bibliotek
