SDU skal gå nysgerrigt, modigt og kritisk til generativ AI

Siden ChatGPT blev lanceret i november 2022, har der ikke været tvivl om, at det var første skridt mod et teknologisk paradigmeskifte. Men hvordan udbredes generativ AI på universitetet, så det kommer hele SDU til gode og bliver en hjælp i hverdagen?

De spørgsmål arbejdes der med i hele organisationen i takt med, at både teknologierne og brugen af dem konstant udvikler sig.

Vi har spurgt universitetsdirektør Thomas Buchvald Vind om, hvordan han og rektoratet ser på potentialerne og udfordringerne ved udrulningen af generativ AI på SDU. Her er hans svar.

1. Hvad er rektoratets syn på brug af generativ AI på SDU?

Generativ AI (GAI) har potentialet til at skabe store forandringer i samfundet og på universiteterne og er en teknologi, som allerede har en væsentlig indflydelse nu.

Mange forskellige typer af GAI er blevet udbredt de seneste 1½ år, og på universitetet foregår allerede mange forskellige aktiviteter med GAI, som skal være med til at modne vores tilgang inden for både forskning, undervisning og administration.

På SDU ønsker vi at skabe værdi for samfundet og forme fremtiden. Som universitet kan vi skabe værdi ved at forske og undervise i GAI og dermed hjælpe med at løfte viden og kompetencer i samfundet. Når vi forsker og underviser i GAI, bliver universitetet også selv formet af GAI – både i de videnskabelige og i de teknisk-administrative miljøer.

Rektoratets syn på GAI er drevet af den klassiske akademiske ånd.

• Vi skal på den ene side være nysgerrige på de nye teknologier og på, hvordan de kan skabe værdi for samfundet og universitetet. Vi skal være modige til at teste og afprøve GAI.
• Vi skal på den anden side også være kritiske og bevidst om teknologiernes modenhed og de faldgruber, som kan udfordre.

Anvendelsen af GAI kræver høj teknologiforståelse blandt ansatte og studerende, så svar og produkter fra GAI ikke blot accepteres. Sprogmodeller og AI bliver hele tiden bedre, men der kan være bias i svar. Der kan også være udfordringer med ophavsret, informationssikkerhed og databeskyttelse.

Så rektoratet mener, at GAI rummer store potentialer, og at universitetet skal gå nysgerrigt, modigt og kritisk til GAI.

2. Hvor ser rektoratet størst innovativt potentiale for universitetet?

Potentialerne for GAI er store inden for både forskning, uddannelse og administration.

Enkelte eksempler er:

• Forbedret effektivitet – GAI kan automatisere mange administrative opgaver, frigøre tid for medarbejdere og forbedre den generelle effektivitet. Effektiviteten er ikke kun i administration, men også i forbindelse med forskning (f.eks. forskningsansøgninger og transskription) og uddannelse (f.eks. sparring om undervisningsdesign).
  
  
• Læring/uddannelse – GAI kan bruges til at skabe personlige læringsoplevelser, tilpasse sig individuelle behov og give studerende mere feedback.
  
  
• Forskning – GAI kan bruges til at analysere data, generere hypoteser og designe eksperimenter, hvilket kan føre til nye opdagelser. Det kan samtidig gøres med en helt anden volumen, end vi har været vant til.

Hvis vi skal udnytte potentialerne, er det vigtigt, at teknologien ikke står alene. Vi skal have menneskerne (studerende og ansatte) med. Det er i kombinationen af GAI og menneskelig indsigt, at vi får skabt de bedste løsninger.

3. Et bud på, hvordan generativ AI vil forandre universitetet de næste par år?

GAI er en teknologi som fortsat modnes, og vi vil løbende forholde os til, hvordan vi skal navigere i muligheder og udfordringer.

Vi forventer at se nogle tydelige og klare forandringer de kommende år på det administrative område, hvor der kommer flere og flere modne produkter ind i vores administrative systemlandskab.

Det gælder særligt i forhold til M365 (Teams, Office mv.), men vi kommer også til at se og kunne levere helt nye services.

Vi er også ved at sætte en række lokale GAI-løsninger op, som træner på administrative SDU-data. Det er forventningen, at det vil give relevante erfaringer over det kommende halve år, som vi kan bygge videre på.

Det kan potentielt effektivisere alt fra administrativ sagsbehandling og den måde, vi kommunikerer på, til måden, man finder information på mitSDU og SDUnet på og meget mere…

På uddannelsesområdet stiller det på nogle områder allerede nu krav til måden, vi underviser og eksaminerer på. Uagtet om vi omfavner teknologien på SDU, så gør de studerende.

GAI benyttes allerede i forskningsøjemed samt i forbindelse med forskningsformidling og forskningsansøgninger/funding. Det vil brede sig de kommende år, så endnu flere udnytter potentialet i teknologien

4. Hvad er de største udfordringer, som du ser det?

De største udfordringer knytter sig til temaer som sikkerhed, teknologiforståelse, menneskelig reaktion, etik og økonomi.

• Sikkerhed – der er aktuelt meget få løsninger, som lever op til de gængse rammer for databeskyttelse. Det er vigtigt, at man som bruger orienterer sig i rammerne for at kunne benytte GAI på SDU – se SDUnet

• Teknologiforståelse – som bruger skal man have udvidet sine digitale kompetencer for at udnytte GAI trygt. Det kræver dels forståelse for GAI’s muligheder, men bestemt også for faldgruberne og teknologiens modenhed.

• Menneskelig reaktion - der kan helt forståeligt være modstand fra nogle ansatte og studerende over for brugen af GAI. Dette kan f.eks. skyldes bekymringer om jobtab, bekymringer om privatlivets fred, bekymringer om kvaliteten af det AI-genererede output eller etiske overvejelser om teknologiens magt.

• Etik og filosofi – etiske overvejelser om f.eks. bias og diskrimination, men også filosofiske overvejelser om, hvad det gør ved mennesker og samfund at overlade større dele af den skabende verden til teknologi. 
  
  
• Økonomi – gratis løsninger betales typisk med adgang til dine data. De løsninger, som skal indlejres i vores systemlandskab, kommer ikke gratis. Økonomien er fortsat uklar. Vi har et særligt fokus på at afdække dette, når vi selv sætter GAI-løsninger op i Azure mv. Hvis alle ansatte skal have Copilot i M365, vil det aktuelt koste et meget stort millionbeløb årligt i ekstra licenser. Vi forholder os derfor aktivt til, hvor vi kan skabe nok værdi og med hvilke løsninger.

5. Hvordan kan de udfordringer løses?

Det er vigtigt at være meget bevidst om udfordringerne og ikke blot at blive forblændet af alle mulighederne. Her er nogle perspektiver på, hvordan vi på SDU arbejder med udfordringerne:

• Sikkerhed – Det er afgørende vigtigt, at medarbejdere og studerende kender betingelserne for at benytte GAI og løbende følger med i SDU’s retningslinjer på området.

• Teknologiforståelse – der afholdes f.eks. kurser gennem projektet AI i Uddannelse, ligesom teknologiforståelse også er en del af de kurser, der udspringer af AI i Administration, og som har mange deltagere. Derudover er der generelt sat fokus på arbejdet med digitale kompetencer det seneste år (kompetencehjulet).

• Menneskelig reaktion – involvering (for eksempel at lytte til bekymringer og modstand) og uddannelse bidrager til kritisk og konstruktivt arbejde med generativ AI.

• Etik og filosofi – teknologiforståelse og dialog er vigtigt.

• Økonomi – prøvehandling og mindre initiativer, der afdækker økonomien, er en prioritet, inden vi skalerer vores indsatser.

6. Hvordan kan man både løfte organisationens evner inden for generativ AI og have digital sikkerhed som høj prioritet?

Udover de ovenstående pointer, så har to andre aktuelle projekter i digitaliseringsporteføljen fokus på at sikre grundlaget for at kunne benytte GAI i større omfang. Dels et projekt om rettighedsstyring og dels et om fællesdrev.

Vi skal bevæge os frem med en hastighed, der sikrer, at vi ikke kompromitterer den digitale sikkerhed. Det stiller store krav til både organisationen og den enkelte medarbejder, og det er en svær balancegang, da mange gerne vil udnytte teknologiens muligheder. Vi bliver dog nødt til at gøre det styret og inden for en ramme.