Kunstig intelligens

Kunstig intelligens (KI), og særligt sprogmodeller som ChatGPT, har siden november måned 2022 fyldt enormt meget i mediebilledet, og særligt fremkomsten af netop ChatGPT er blevet beskrevet som et teknologisk fremskridt på højde med elektricitetens fremkomst og af nogen spået til at revolutionere verden som vi kender den på samme måde internettets fremkomst.  

Indenfor uddannelsesverdenen, herunder på UC SYD, var de første implikationer bekymringer for snyd og plagiering i forbindelse med eksaminer og skriftlige afleveringer. Det seneste års agile udvikling inden for feltet har imidlertid også åbnet mange potentialer (og relevante bekymringer) for brug, også indenfor uddannelsesverdenen, og vi skal som uddannelsesinstitution væk fra en snæver forbudslogik til en mere omfavnende tilgang med et kritisk og etisk blik. 

Man kunne med ovenstående ”hype” foranlediges til at tro, at KI er noget helt nyt, men det er ikke tilfældet. KI har i mange år været anvendt inden for en bred vifte af offentlige sektorer, i professionerne og i det private. Fx vil studerende på sundhedsuddannelserne møde teknologien mange steder i deres profession, da den er fremragende til mønstergodkendelse (fx billede-diagnostik) og KI anvendes allerede som en ”intelligent alarmcentralshjælper”, der lytter med ved 112 opkald, for tidligt at opspore potentielle hjertestop, ligesom KI er allestedsnærværende på sociale medier, streamingtjenester og online indkøbsportaler i den opmærksomhedskapitalistiske og kuraterede kamp, der føres her.  

Derfor bliver vi på UC SYD også nødt til at forholde os proaktivt til teknologien, og hvad den kan bidrage med i uddannelserne af studerende, hvor mange vil møde KI i som en del af deres profession, og ikke mindst hvad KI betyder for uddannelsen og dannelse af kommende lærer, pædagoger, sygeplejerske osv. 

Der eksisterer ikke én definition af kunstig intelligens, men lex.dk definerer det som:

”Kunstig intelligens, KI, er computerprogrammer og maskiner, som efterligner et eller flere aspekter af den menneskelige intelligens. Det gælder evnen til abstrakt tænkning, analyse, problemløsning, mønstergen-kendelse, sprogbeherskelse og -forståelse, fornuftig handling og lignende…”.

Kunstig intelligens er således et multidisciplinært felt, der fokuserer på at skabe maskiner og systemer, der kan udføre opgaver, som ellers kræver menneskelig intelligens. Det kan være alt fra at spille skak, køre en bil til at hjælpe læger med at stille diagnoser.

Der er overordnet to måder at få en computer til at opføre sig "intelligent" på:

1. Den ene metode er ved at programmere et sæt regler, der fortæller computeren præcis, hvad den skal gøre i forskellige situationer. Dette benævner man ofte som "ekspertsystemer" og er i modsætning til Machine Learning (se nedenfor) regelbundet, deterministisk og uafhængigt af sandsynlighed, idet beslutningsmekanismerne og indhold er klart defineret.
2. Den anden metode er ved at fodre computeren med masser af data og lade den lære af det. Denne tilgang kaldes ”Machine Learning” (herunder dybe neurale netværk) og her anvendes avancerede statistiske metoder til at træne en algoritme ved at udsætte den for store datasæt. Jo mere omfattende og præcist datasættet er, jo mere nøjagtig bliver den trænede model, og dermed øges sandsynligheden for korrekte beslutninger statistisk set. Det er særligt udviklingen indenfor dette felt, som har bevirket opmærksomhed og nye muligheder indenfor KI de seneste år.

Ofte kombineres disse to metoder for at lave en endnu bedre og mere præcis KI. Nogle KI-systemer er så gode, at de kan opnå en høj grad af autonomi og træffe beslutninger på egen hånd uafhængigt af menneskelig indgriben.

En anden måde at tale om typer af kunstig intelligens på er brugen af begreberne svag eller snæver kunstig intelligens, der løser specifikke opgaver inden for et særligt domæne og som ofte er relativt nemt at gennemskue og optræder som ”hjælper” i forbindelse med løsningen af specifikke opgaver (fx: spamfiltre, stave- og grammatikkontroller, anbefalingssystemer til fx online boghandler og streaming-tjenester, der anviser produkter, som (angiveligt) passer til brugerens præferencer m.m.).

Heroverfor står stærk kunstig intelligens, der kan generalisere på tværs af mange forskellige opgavetyper og domæner og som hele tiden bliver klogere – ultimativt udføre enhver tænkelig opgave med intelligens og forståelse som mennesker. Indtil videre er der her tale om en hypotetisk type intelligens, men nogen mener, at sprogmodeller som ChatGPT og lign. kan være et første skridt i den retning.

Kunstige intelligenser, der kan skabe og generere nyt indhold, kaldes generativ kunstig intelligens (GKI).
Generative modeller har mange anvendelsesmuligheder og er nok de mest interessante i en almen uddannelseskontekst. De kan for eksempel bruges til billedgenerering, oversættelse, dataaugmentering, generering af video og endda i komposition af musik og meget andet. Det er vigtigt at bemærke, at disse modeller også rejser etiske spørgsmål, især når det kommer til spørgsmål om ophavsret eller produktion af misinformation. For at bruge generativ KI skal brugeren give et input eller en interaktion til systemet. Det kan være et spørgsmål eller en kommando på naturligt sprog, som systemet forstår. Dette input kaldes en prompt, og generativ KI bruger prompten til at lave (udregne) et svar eller en løsning. Udviklingen i forhold til, hvordan man kan prompte en KI forandrer sig hele tiden, og der må forventes en udvikling mod mere og mere multimodale interaktioner med systemerne (tekst, billeder, lyd m.m.), ligesom de vil blive bedre til at forstå intentioner bag en prompt.

Generativ KI handler som nævnt ikke kun om tekst til tekst interaktioner, men kan også bruges til skabe billeder, musik, video m.m. og kan således bruges til at skabe meget realistiske og overbevisende digitale artefakter, der er svære at skelne fra virkeligheden, hvilket er en allerede eksisterende udfordring inden for ”fake news” problematikker. Eksempelvis gik nedenstående billede af Trump viralt i marts 2023, men hvis man ser nærmere på ex. ansigterne i baggrunden, så er det tydeligt at der er tale om et falsk genereret billede.

(Læs evt. uddybning her: https://www.rnz.co.nz/news/world/486703/fake-trump-arrest-photos-how-to-spot-an-ai-generated-image)

Imidlertid går den teknologiske udvikling meget stærkt også inden for GKI, der i dag kan skabe billede-, lyd- og video-generet indhold ud fra tekst. Et af de seneste skud på stammen (april 2024) er Open AI´s udvikling af tekst til videomodellen kaldet ”SORA”, der kan frembringe ret overbevisende videoer alene ud fra en tekst prompt – se fx nedenstående video, der trods sin uskyldige fremtoning sender et kraftigt signal om, at vi fremadrettet skal være endnu mere på vagt overfor falske nyheder, misinformation m.m.

Nogle af de mest kendte generative kunstige intelligenser er ChatGPT, Copilot, Google Gemini, som er tekstgenererende og Dall-E, Stable Diffusion og Midjourney som er billedgenererende, men der kommer hele tiden nye til, og de eksisterende udvikler sig i en mere og mere multimodal retning, ligesom adgangen til selv at designe egne Chatbotter bliver nemmere og nemmere.  

En chatbot er en bestemt type af KI, der er designet til at simulere en menneskelig samtale, da den programmeret og trænet til at interagere og forstå naturligt sprog og tolke brugernes beskeder for at give hjælpsomme svar. Den mest kendte Chatbot er nok ChatGPT, som i nov. 2022 blev lanceret af OpenAI. ChatGPT var på det tidspunkt en af de mest avancerede chatbots og betragtes som en vigtig milepæl i udviklingen af ​​dialogefterlignende kunstig intelligens.  

ChatGPT står for "Generative Pre-trained Transformer", hvilket betyder, at den er blevet trænet på en stor mængde af menneskeligt sprog ved hjælp af data fra internettet, herunder bøger, artikler, websteder og sociale medier kombineret med menneskelig feedback – beskrevet som ”Reinforcement Learning”. Derfor kaldes teknologien også for en sprogmodel (eller LLM - Large Language Model), da de altså bl.a. trænes på store mængder af tekst. Udviklingen i de forskellige ChatGPT-versioner (og lignende chatbotter) beror bl.a. på en større og større mængde træningsdata, udvikling af bedre algoritmer og stadig mere sofistikerede chat-funktionalitet, der imiterer en menneskelig samtale. 

Et output fra sådanne modeller er således en syntese af de data fra træningssættet, der passer godt som en fortsættelse af det input, brugeren giver. Basalt set er det en trinvis sandsynlighedsberegning om, hvilket ord der efterfølgende passer bedst ind i en sætning og chatbotten svarer så sandsynligt som muligt ud fra det data, den er trænet på – derfor af nogen kaldet en "probabilistisk papegøje". 

Billedegenererende KI virker i princippet på samme måde som en tekst chatbot ved, at man prompter teknologien med et tekstinput, som applikationen efterfølgende genererer et billede ud fra på baggrund af det datasæt, som den bagvedliggende maskinlæringsmodel er blevet trænet på. Teknologien bagved kaldes ”diffusion” og den kan du evt. læse mere om her: Generativ AI laver billeder: Hvordan virker Dall-E 2 og Midjourney? (viden.ai). 

Som det er tilfældet ved tekstgenererende KI, skal du dog være opmærksom på, at sådanne modeller også potentielt indeholder skævheder og bias i deres output, fordi de er trænet som de er. Måske kan du spotte tendenser i hvad Bingchat (nu Copilot) frembragte i november 2023 (hvor denne tekst oprindeligt blev skrevet), når chatbotten bliver bedt om at generere nedenstående billeder?

Samtidig med at flere og flere har draget erfaringer med teknologien, er der også fremvokset en mere polariseret debat om, hvorvidt disse nye fremkomster indenfor KI udstikker en lysende fremtid for menneskeheden i ”sameksistens” med KI eller en mere negativ fremtid, hvor jobs overflødiggøres. Til deciderede dystopiske perspektiver, hvor ”superintelligenser” potentielt kan anvendes til udslettelse af menneskeheden, hvis ikke der indbygges reguleringer, hvor KI kun kan udføre operationer, der er i overensstemmelse med menneskelige værdier (hvis vi i øvrigt kan blive enige om dem). 

Chatbots og andre typer KI kan på sigt potentielt blive en stor hjælp i mange forskellige sammenhænge, men du skal udover ovennævnte problematikker også være opmærksom på andre udfordringer, som du bør være bevidst om ved ansvarlig brug af KI. Det handler bl.a. om:

• Etiske perspektiver og chatbots evner til at hallucinere (kommer med opdigtede svar på ting modellen ikke er trænet på).
• Bias i datasættet det er trænet på fx i forhold til køn, etnicitet, kulturelt, ideologisk, politisk osv., hvilket får betydning for de svar chatbotten regner sig frem til.
• Sykonfantisme fordi chatbots er trænet til at komme med svar, der er brugervenlige og behager mennesker fremfor svar, der er faktuelt rigtige. 

Altså skal du hele tiden være antropomorfiseringsbevidst (passe på ikke at tillægge chatbotten menneskelige egenskaber den slet ikke besidder) og at konversationsformen, hvor menneskelig og overbevisende den end kan tage sig ud, i bund og grund ikke er andet end sandsynlighedsberegninger ud fra træningsdata og træningsmetode, hvorfor Chatbots altså også omtales som “probabilistiske papegøjer”.

Du skal altså huske altid at være kritisk og påtage dig ansvaret som den reelle ekspert og afsender på evt. KI-generet tekst eller andet indhold.

Den Generelle Databeskyttelsesforordning (GDPR) er en lovgivning, der er vedtaget af EU med det formål at beskytte borgernes personlige data og privatliv. GDPR har væsentlige implikationer for kunstig intelligens, da KI-systemer ofte trænes på og behandler store mængder af persondata. Under GDPR er det obligatorisk for organisationer at indsamle informeret samtykke fra individer, inden deres data anvendes. Dette gælder også for indsamling af data til træning og drift af KI-systemer. Udfordringen ved denne type af informeret samtykke er dog, at det ofte gemmer sig langt nede i en juridisk tekst, som stort set ingen mennesker læser, men blot accepterer ved en evt. brugeroprettelse.

Retningslinjerne for input til KI-systemer under GDPR bør derfor ikke blot overholde de generelle databeskyttelsesprincipper, men også tage højde for de specifikke etiske og tekniske udfordringer, der er forbundet med KI. Det inkluderer spørgsmål om datas kvalitet, integritet, og repræsentativitet, som alle har indflydelse på systemets endelige præstation og anvendelse.

Baseret på de eksisterende love og regler anses ChatGPT og lign. teknologier ikke for ulovlige i Danmark. Det er dog afgørende at følge GDPR-retningslinjerne også når man bruger chatbots. Det er generelt usikkert i hvilket omfang, at de enkelte udgivere efterlever/understøtter databeskyttelsesforordningen, og hvordan de “prompts” man lægger ind, og de svar man modtager indgår i den videre behandling.

KI trænes med input fra brugere af systemerne. Derfor er du fx med til at træne Googles billedgenkendelsessoftware, når du markerer alle lyskryds på et billede for at dokumentere, at du ikke er en robot, som mange har mødt i forbindelse med oprettelse el. login på diverse online tjenester. På samme måde har producenter af generative KI-tjenester ofte lov til at bruge din input/interaktion med sprogmodeller til træning og forbedring af deres teknologi - særligt når den stilles gratis til rådighed.

Som medarbejder og studerende skal man således være varsom med, hvilke data man indtaster i KI-teknologier som ChatGPT. Mange af de gratis tjenester logger og opbevarer nemlig brugernes interaktioner. Det er problematisk fordi de data kan bruges til at træne fremtidige chatbots, som potentielt vil kunne reproducere de personoplysninger under fremtidige brugerinteraktioner. Data lagres desuden ofte i datacentre uden for EU, hvilket potentielt kan være i strid med GDPR. Brug derfor aldrig personoplysninger som input i generativ KI – og så kan du læse mere om UC SYDs principper og retningslinjer for brug af KI her.

På Europæisk plan er der en EU AI-forordning på vej, der, sammen med GDPR-regulativet, kan få betydning for, hvordan den danske uddannelsesverden kan inkorporere teknologierne. Forordningen er lavet som et risikobaseret system med fire niveauer fra uacceptabel til minimal risiko, illustreret herunder. På VIDEN.AI, kan du læse mere om sagen.

Det er endnu uklart om værktøjer som ChatGPT og lignende vil kunne overholde de krav, som AI-forordningen vil udstikke.

Samtidig er det tankevækkende, at det ikke er officielle statslige forskningsinstitutioner, der er førende inden for dette forskningsfelt, men teknologimastodonter som Meta (Facebook), Alphabet (Google), Microsoft, IBM, OpenAI m.m., der besidder en guldgrube af data om alle deres brugere. Teknologigiganterne har det ”råstof”, som er grundlaget for udvikling af nye typer kunstige intelligenser, idet særligt fire faktorer angives som værende afgørende:

• Datalagerkapacitet
• Datatilgængelighed
• Regnekraft
• Forbedrede algoritmer og udvikling indenfor AI.

For uddannelsesinstitutioner kan det potentielt være problematisk ikke at have øje for disse virksomheders kommercielle perspektiver, når teknologien integreres og anvendes (se bl.a. dette indlæg af Mikala Hansbøl) og samtidig angives ChatGPT at promovere stereotype amerikanske normer og værdier.