Fremtiden for kunstig intelligens kræver klar menneskelig styring

1. Hvordan bruger du kunstig intelligens?

Jeg bruger AI hver dag – til at forbedre mine arbejdsprocesser, til at skærpe min strategiske tænkning og til at udføre mit arbejde mere effektivt, end jeg ville kunne uden den. Men mit egentlige arbejde med AI er som forsker i human-AI co-creation, altså samskabelse mellem mennesker og kunstig intelligens.

I de seneste fem år har mit arbejde primært handlet om at tage den nyeste teknologi og sammensætte nye, forskningsrelevante interaktioner omkring den – altid med fokus på teknologiens relevans og indvirkning i den virkelige verden. Et godt eksempel er vores Crea Vision-projekt, hvor vi har undersøgt generativ AI’s billedgenerering som en måde at fremme offentlig deltagelse i debatter om samfundsrelevante dilemmaer. Før ChatGPT-æraen var vi nødt til at træne vores egne billedgenereringsmodeller fra bunden, for at dette kunne lade sig gøre. I dag gør effektive billedmodeller og muligheden for at programmere brugergrænseflader via vibe-coding, hvor en AI-model omsætter naturligt sprog til kode, at vi kan udvikle skræddersyede tiltag mange gange hurtigere og meget mere fleksibelt. Vi kan nu på få dage lave en prototype – noget, der før tog os flere måneder at udvikle. Det betyder, at vi kan arbejde på forskningsdesigns i tæt samarbejde med virkelige deltagere og virkelige institutionelle partnere.

Mine kolleger og jeg er overbevist om, at dyb samskabelse mellem mennesker og AI – hybrid intelligens – er vejen til en positiv fremtid for menneskeheden. Vi har derfor grundlagt HI-Manifest-konsortiet, som tæller mere end 75 forskere og fagfolk inden for ledelse, datalogi, økonomi, psykologi, designuddannelse og offentlig politik, der arbejder på at kortlægge udfordringerne ved og de konkrete muligheder for at gøre denne tilgang til den dominerende måde at bruge AI på i stedet for autonome, end-to-end AI-processer. Manifestet hævder, at AI’s fremtid ikke er forudbestemt af teknologien. Der findes en reel skillevej mellem en retning, hvor automatisering dominerer og fortrænger menneskelig dømmekraft, og en retning med hybrid intelligens, hvor menneskets tavse viden forbliver strukturelt og økonomisk uundværlig. Hvis det skal lykkes at bevæge udviklingen i den sidstnævnte retning, kræves der en koordineret indsats på fire niveauer – grænseflader, enkeltpersoner, organisationer og samfundet – så den teknologi, der muliggør disse ting, modsvares af organisatoriske og samfundsmæssige rammer, der rent faktisk belønner de menneskelige bidrag, der leverer detaljeret forståelse af konteksten.

For at nå dette mål er vi nødt til at give struktureret vejledning i, hvordan vi alle kan interagere med AI-systemer på en måde, der sikrer, at vi bevarer kontrollen og ejerskabet, selv når vi ikke længere selv har produceret hvert eneste tekststykke eller kodelinje i det endelige produkt. Det er netop formålet med FERC-modellen. FERC, der står for Frame (sæt rammer), Explore (undersøg), Refine (gør bedre), Commit (træf en beslutning), beskriver en struktureret cyklus for samarbejde mellem mennesker og AI, der foregår over flere runder. I Frame-fasen formulerer den menneskelige deltager sine intentioner – mål, begrænsninger, succeskriterier og ikke-mål – inden der udvikles noget som helst. I Explore-fasen bliver AI’en bevidst bedt om at generere flere forskellige løsningsforslag, hvilket udvider søgeområdet i stedet for at snævre det ind for tidligt. I Refine-fasen vurderer den menneskelige deltager løsningsforslagene i forhold til hinanden, beskriver afvejninger og tilpasser kriterierne til den næste runde. Det er her, ejerskabet oftest går tabt i dagligdagen, og det er her, FERC beskytter det mest direkte. I Commit-fasen træffer mennesket en bevidst og ansvarlig beslutning og tager ansvaret for konsekvenserne. FERC omdefinerer effektiv brug af AI, så det ikke længere er engangsoptimering af prompter men derimod styring af processen. Dette bygger på årtiers kreativitets- og metakognitionsforskning i problemformulering, divergent og konvergent tænkning samt selvreguleret dømmekraft.

Vi uddanner nu lærere, studerende og et stigende antal virksomheder i Danmark og i udlandet specifikt til at bruge denne tilgang – ikke som en fastlåst procedure, men som et fælles sprog og en praktisk arbejdsform til at opbygge en kultur præget af menneskelig handlekraft og kritisk tænkning i det daglige samspil mellem mennesker og AI. Målet er klart: I takt med at kunstig intelligens kan mere og mere, stiger værdien af bevidst menneskelig rammesætning, sammenligning og beslutningstagning, og vi har brug for en hel generation af fagfolk, der mestrer netop det.

2. Hvilken forskel har brug af kunstig intelligens gjort for de studerende?

Der findes ikke ét entydigt svar – det viser forskningslitteraturen meget tydeligt, og vores egne erfaringer bekræfter det. Effekten afhænger i høj grad af den enkelte studerende, deres mål, og hvordan de bruger værktøjet.

Jeg har udviklet en konkret aktivitet for de studerende, som er ét blandt en lang række forskningsinitiativer, der bygger på generativ AI. Det er en specielt udviklet grænseflade med tre forskellige GPT-indstillinger: Den ene er dybest set den almindelige ChatGPT; den anden er bygget op omkring bevidsthed om usikkerhed, hvor der sættes spørgsmålstegn ved alt, og hvor brugeren opfordres til at formulere, hvor sikker de egentlig er; og den tredje er bygget op omkring metakognitiv stilladsering, der stiller spørgsmål tilbage til brugeren baseret på litteraturen om selvreguleret læring.

På vores kandidatfag i innovationsledelse, avanceret innovationsledelse samt produktdesign og innovation blev de studerende bedt om at analysere fem casestudier i løbet af uddannelsen ved at anvende en af disse tre metoder eller en metode uden brug af AI. Når de havde afprøvet alle versionerne, kunne de vælge, hvilken version de ville bruge, og det overvældende flertal valgte straks standardversionen af ChatGPT – ikke fordi de mente, at den var bedst til læring, men på grund af tidspres. De brugte den som en søgemaskine. I de efterfølgende interviews og refleksioner gav mange udtryk for, at de gerne ville have arbejdet mere indgående med den metakognitive stilladseringsversion – de vidste godt, at den kunne hjælpe dem med at lære sammen med værktøjet – men de følte ikke, at de var i stand til at sætte sig ind i både værktøjet og materialet på samme tid.

Dette er i sig selv et af de vigtigste resultater. AI medfører ikke nogen grundlæggende nye problemer. Vi har før oplevet snyd, vi har før haft problemer med de studerendes motivation, og vi har haft både studerende, der fordybede sig i stoffet, og studerende, der kun gik efter at bestå. AI forstærker nogle dynamikker, der allerede fandtes. For nysgerrige og engagerede studerende kan det være en stærk sparringspartner; for studerende under tidspres kan det fjerne netop de øjeblikke af modstand, som læring afhænger af. Mange af vores studerende er oprigtigt nysgerrige efter disse værktøjer, men også nervøse. De er bange for, at de ikke kan dokumentere deres egen læring, de er bekymrede for plagiat. Som undervisere har vi et ansvar for ikke blot at tilgodese de studerendes nysgerrighed, men også at give dem strukturerede rammer – for eksempel FERC – så de kan arbejde med AI-værktøjerne på en måde, der styrker deres dømmekraft i stedet for at erstatte den.

3. Og for dig som underviser og forsker?

Det er virkelig spændende at være forsker i samskabelse mellem mennesker og AI i øjeblikket. Det er en af de grundlæggende udfordringer for menneskeheden i en verden, der udvikler sig stadig hurtigere, og det er et privilegium at kunne bidrage det fra en universitetsstilling.

Det, der giver mig mest energi, er muligheden for at kombinere tre ting, der ikke altid går hånd i hånd: virkelighedsnære, resultatorienterede tiltag, forskning i struktureret kreativitet og psykologisk stringente, kontrollerede eksperimenter. Vi kan på én gang udvide grænserne for, hvad slutbrugerne selv mener, de er i stand til, og samtidig bidrage til en voksende videnbase af videnskabeligt afprøvede og validerede metoder, som fremtidig, praktisk anvendt teknologi kan bygge på. Målet er, at dette arbejde skal være relevant, effektivt og videnskabeligt funderet – ikke blot én eller to af disse tre ting, men alle tre på én gang.

Som underviser er forandringen også betydelig. Jeg kan ikke længere gå ud fra, at det, de studerende producerer, udelukkende afspejler deres egen tankegang – og jeg tror faktisk, at det pres er nyttigt. Det tvinger os til at omlægge bedømmelsen af eksamensopgaver, så vi vurderer processen og den dømmekraft, der ligger bag et stykke arbejde, og ikke blot det endelige produkt. Det tvinger os også til at gøre undervisningen mere konkret: hvordan man formulerer et problem, sammenligner alternative løsninger, begrunder, hvorfor den ene løsning er bedre end den anden, og står ved en beslutning. Dette har altid været målet med uddannelse, men AI gør det tydeligt på en ny måde, at det er fraværende.

4. Hvad forventer du af fremtiden med kunstig intelligens?

Jeg tror, vi står ved en reel skillevej, men ikke den, som de fleste offentlige diskussioner beskriver. I Hybrid Intelligence-Manifestet skitserer vi fire udviklingsbaner: en fremtid domineret af automatisering, hvor agentisk AI overtager hele arbejdsgange; en fremtid med agentbaserede organisationer, hvor virksomheder omstruktureres omkring AI-styret drift, hvor mennesker dirigerer stadig mere uigennemsigtige systemer; en fremtid hvor regulering kommer først, så tilsyn lægges oven på en stort set automatiseret produktionsarkitektur; og en fremtid med hybrid intelligens, hvor vi bevidst designer arbejdsgange, organisationer og markeder, så menneskelig tavs viden bliver ved med at være økonomisk uundværlig.

De tre første udviklingsbaner bygger på en skjult antagelse – nemlig at fuldt agentisk AI er det uundgåelige endemål, og at det eneste spørgsmål er, hvordan man skal håndtere konsekvenserne af det. Jeg tror ikke, det er uundgåeligt, og jeg mener heller ikke, det er ønskeligt. Komplementariteten mellem mennesker og AI er ikke et fast sæt af færdigheder, som kun mennesker har – disse bliver hele tiden udhulet – men en dynamisk grænse mellem forudsigelse og dømmekraft, der afhænger af, hvilken kontekstuel viden der er blevet formaliseret og gjort anvendelig for maskiner. Den grænse kan man godt forme. Om vi ender med en verden, hvor værdi er koncentreret omkring databehandling og infrastruktur, eller en verden, hvor bidrag, der er rige på kontekst og har et menneskeligt præg, værdsættes, afhænger af de valg, der træffes nu inden for brugergrænseflader, organisationer, uddannelse og markeder.

Jeg forventer også, helt ærligt, at vi bliver nødt til at tage to omkostninger alvorligt, som vi i øjeblikket eksternaliserer: den miljømæssige påvirkning fra store generative systemer og de kognitive omkostninger ved en ustruktureret afhængighed af AI. Begge trækker i samme retning: mod mindre, afgrænsede og opgavespecifikke assistenter, der er integrerede i veldesignede arbejdsgange, frem for stadig større, alsidige modeller, der aktiveres automatisk.

5. Hvilke principper mener du bør være styrende for en ansvarlig og udviklingsorienteret brug af kunstig intelligens på SDU?

Nogle få principper, der alle er forbundne.

For det første: processtyring frem for hurtig optimering. I størstedelen af det nuværende arbejde med AI-kompetencer lærer man de studerende at formulere bedre spørgsmål. Dette er nødvendigt, men det er ikke tilstrækkeligt. Det, vi har brug for, er en fælles, fleksibel struktur for samarbejde, der foregår over flere runder – FERC er vores forslag – så rammesætning, undersøgelse, evaluerende omformulering og ansvarlig beslutningstagning gøres tydelige og kan kontrolleres i hver eneste runde. Det er netop dette, der sikrer ejerskab, i takt med at AI-genererede tekster bliver mere flydende.

For det andet: gennemsigtighed i rapporteringen. Jeg ser gerne, at SDU går forrest med noget i retning af rapporter om menneske-AI-samskabelse i forbindelse med videnskabeligt arbejde og studerendes projekter: en struktureret og overskuelig redegørelse for, hvordan AI blev anvendt i de enkelte faser af et projekt – hvad der blev fastlagt af mennesket, hvad der blev udforsket med AI, hvordan forskellige løsningsforslag blev vurderet, og hvad man til sidst besluttede sig for. Det er mere ærligt end et enkelt afkrydsningsfelt i slutningen af en afhandling, og det lærer én at angive kilder korrekt.

For det tredje: AI som et redskab til menneskelig udvikling, ikke som en erstatning for den. Målet med uddannelse er ikke hurtigere resultater – det er udvikling af dømmekraft. Hver eneste brug af AI på SDU bør vurderes ud fra, om den udvider eller undergraver de studerendes evne til at rammesætte problemer, vurdere beviser og stå ved deres beslutninger. HI-modenhedsmodellen giver et konkret sprog til at vurdere dette i et givent kursus eller en given arbejdsgang.

For det fjerde: sammenhæng på tværs af niveauer. Interface-niveauet (hvilke værktøjer vi anvender), det individuelle niveau (hvordan vi lærer de studerende at interagere), organisationsniveauet (hvordan vi vurderer, styrer og belønner) og det samfundsmæssige niveau (hvordan SDU’s kandidater er stillet på arbejdsmarkedet) skal være i overensstemmelse med hinanden. Stærke rammer på ét niveau undergraves, hvis incitamenterne på et andet niveau ikke er afstemt med dem.

For det femte: bæredygtighed og suverænitet. Mindre, afgrænsede modeller, der understøtter open source, og som er integreret i veludviklede arbejdsgange efter FERC-modellen, er som regel et bedre valg end en automatisk anvendelse af de nyeste modeller – både hvad angår miljøpåvirkninger og institutionel uafhængighed af en lille håndfuld hyperscale-udbydere.

Og endelig en ærlig tilgang til de forskellige afvejninger. De studerende bør være klar over, at brugen af AI som en hurtigere søgemaskine i nogle tilfælde er et fornuftigt valg, mens det i andre tilfælde bremser deres udvikling – og de bør lære at træffe valget bevidst og ikke som en automatreaktion. Utilsigtet uddelegering undergraver ejerskab; bevidst uddelegering bevarer det.