Kunstig intelligens (AI) er rykket ind i den offentlige sektor, og de danske myndigheder er ved at finde ud af, hvordan teknologien kan blive et værdifuldt værktøj. Ifølge NNIT’s Jannic Stolzenbach Jensen vil transparens og menneskeligt tilsyn være afgørende, hvis AI skal bidrage til at forbedre vores velfærd.
I de seneste år er væksten og spredningen af kunstig intelligens accelereret markant, og teknologien har for længst fundet vej ind i vores hverdag – blandt andet i form af reklamer, billedgenkendelse, chatbots og oversættelsesprogrammer.
Også i den offentlige sektor er man begyndt at undersøge, hvordan AI kan bruges til at effektivisere og forbedre borgernes liv. Og med rette. For hvis den offentlige sektor skal være med til at repræsentere Danmark som foregangsland for ansvarlig brug af kunstig intelligens, er det på tide at børste støvet af de gamle legacy-systemer og omfavne teknologiens massive potentiale.
Men hvordan kan man som offentlig sektor innovere ved hjælp af ny og til en vis grad stadig ukendt teknologi, uden at sætte personfølsomme oplysninger, retssikkerhed og menneskeliv på spil?
I denne artikel ser Jannic Stolzenbach Jensen, Corporate Entrepreneur og Lead Business Developer i NNIT, nærmere på de muligheder og moralske dilemmaer, der ligger i brugen af AI i den offentlige sektor.
Transparente data, sikre beslutninger
Hvis AI skal have lov til at træffe beslutninger, der påvirker borgernes liv, rejser det vigtige etiske og juridiske spørgsmål, såsom:
Hvordan sikrer man, at en sagsgang afgøres på retfærdig vis? At en sygdom diagnosticeres korrekt? At skattekronerne forvaltes hensigtsmæssigt? Og hvilke data ligger til grund for beslutningerne?
Ifølge Jannic Stolzenbach Jensen vil transparens være et nøglekrav, hvis AI skal slippes løs inden for det offentliges mure:
– Kunstig intelligens og generative sprogmodeller er jo i udgangspunktet trænet på et bredt udvalg af data fra internettet, herunder bøger, artikler, hjemmesider og andre offentlige kilder, så teknologien får en bred og alsidig forståelse for fakta, kultur, sprog og meninger. Men kvaliteten af det genererede indhold afhænger stærkt af kvaliteten af de data, det er trænet på, forklarer han og fortsætter:
– Hvis AI skal træffe beslutninger i den offentlige sektor, er det vigtigt, at man udviser datatransparens og kender ophavet af de data, beslutningerne baseres på. Heldigvis har vi i Danmark relativt høj datakvalitet, så det et ikke nødvendigt, at et menneske sidder og godkender alle de data, der benyttes. Men det skal være gennemskueligt, hvor dataene stammer fra, og hvordan de indsamles, opbevares og bruges inden for lovens rammer.
Et af de nyeste initiativer inden for sikker og etisk forsvarlig brug af AI er EU-Kommissionens forslag til en forordning om brugen af kunstig intelligens. Forordningen erkender teknologiens enorme potentiale og dets anvendelsesmuligheder på mange forskellige områder, men den understreger også, at kunstig intelligens kan udgøre en risici og skade offentlige interesser og borgerrettigheder, hvis det bruges forkert:
– Der er mange beslutninger, som kunstig intelligens aldrig nogensinde kommer til at være afsender på. Og heldigvis for det. Eksempelvis er det fra EU’s side besluttet, at der aldrig må være noget IT, der kan træffe beslutninger om og vejlede i selvinjektion, påpeger Jannic Stolzenbach Jensen og tilføjer:
En hjælpende hånd i offentlig administration
Med de etiske og sikkerhedsmæssige forbehold på plads er der talrige eksempler på, hvor AI kan gøre en positiv forskel for borgeren i det offentlige Danmark. Blandt andet i sundhedsvæsenet:
– AI kan forbedre diagnosticering, patientbehandling og forvaltning af sundhedsdata. Blandt andet i forbindelse med scanningsbilleder, hvor AI ud fra en kvalitetsscore kommer med et kvalificeret bud på en diagnose, fortæller Jannic Stolzenbach Jensen.
Han fremhæver også offentlig administration som et af de områder, hvor AI kan automatisere og løfte de mange administrative arbejdsgange og processer, der hver dag finder sted i det offentlige Danmark:
– AI kan blandt andet benyttes til at udfylde og udsende de standardsvar, der finder sted i en given sagsgang – f.eks. i Udbetaling Danmark, hvor sagsbehandlingen kan optimeres og effektiviseres ved hjælp af generative sprogmodeller.
Èn ting er, at AI kan gøre sagsbehandlingen billigere og nemmere for de administrative arbejdere, der sidder inde i forvaltningen. Men der er også gevinster at hente for borgeren:
– Som borger har du rigtig mange berøringsflader med det offentlige, og vi ser et stort potentiale i bruge AI til at arbejde på tværs af de mange offentlige silo-systemer og skabe en mere sammenhængende brugerrejse, fordi systemerne snakker sammen, forklarer Jannic Stolzenbach Jensen og tilføjer:
– Og så er der jo formidlingen af de mange breve, der kommer fra det offentlige, hvor AI kan gå ind og tilpasse indholdet, så særligt de unge og de ældre i langt højere grad kan forstå indholdet, og som i sidste ende gør det bedre at være borger i Danmark.
Fælles for de ovennævnte eksempler er, at AI sjældent står alene med opgaverne:
– AI vil i langt de fleste tilfælde blive brugt som et assisterende støtteværktøj til medarbejderne i den offentlige sektor. Man må ikke underkende værdien af den menneskelige intelligens, som i langt højere grad end kunstig intelligens er i stand til at sanse, vurdere, nuancere og validere. Jeg tror, der går lang tid, før beslutningskompetencerne ikke længere bor hos mennesket, afrunder Jannic Stolzenbach Jensen.
3 råd: Sådan vælger du den rette AI-partner
Jannic Stolzenbach Jensen kommer til slut med tre opsummerende råd til, hvad man som offentlig myndighed gør klogt i at lægge vægt på, når man skal udvælge AI-leverandører og -samarbejdspartnere:
1. Transparens: Vælg en partner, som forstår værdien af datatransparens, og som ikke går på kompromis med sikkerheden. En partner, som kan bygge og træne AI-modeller på en sikker og forsvarlig måde, og som forstår værdien af at innovere inden for lovens rammer.
2. Etik: Når man indgår et samarbejde omkring AI, er det vigtigt at vælge en partner, der har veldefinerede etiske principper og stærke holdninger til brugen af AI. En sådan partner skal ikke kun forstå den tekniske side af AI, men også de sociale, etiske og menneskelige aspekter. Dette betyder en dyb forståelse for, hvordan AI-teknologier påvirker virkelige mennesker og samfund.
3. Fagligt modspil: Vælg en partner, der ikke blot leverer løsninger, men som også agerer som en kritisk og konstruktiv sparringspartner. En sådan partner bør udfordre jeres antagelser, invitere til nytænkning og hjælpe jer med at identificere både muligheder og risici i jeres AI-initiativer. Ved at tilbyde fagligt modspil kan en partner hjælpe jer med at udvikle mere robuste, innovative og effektive AI-strategier. Dette kræver en partner, der ikke kun har teknisk ekspertise, men også evnen til at forstå og blande sig i jeres specifikke kontekst, behov og målsætninger. En sådan partner vil være med til at sikre, at de AI-løsninger, I udvikler, ikke kun er teknologisk avancerede, men også tilpasset og relevante for jeres unikke situation og mål.
Kom i gang med AI på en effektiv og sikker måde
Vil du vide mere om, hvordan du kommer bedst fra start med AI på en effektiv og sikker måde? I NNIT har vi mere end 15 års erfaring med at hjælpe ministerier og styrelser. Vi forstår forvaltningens arbejdsgange og lovgivning, som altid danner afsæt for vores råd og løsninger.
