Generativ AI og god videnskabelig praksis

Den stadige usikkerhed om, hvordan generativ kunstig intelligens kommer til at påvirke forskning og forskningsbaseret uddannelse betyder, at der endnu kun er opnået lille konsensus om, hvordan generativ kunstig intelligens må og bør anvendes. 

Forskningsbaseret uddannelse må knyttes til god forskningspraksis. I skrivende stund er de danske etiske retningslinjer for god forskningspraksis under revision. EU har dog leveret anbefalinger til code of conduct for forskere i marts 2024, hvor generativ kunstig intelligens er medtænkt (European Commission, 2024). 

Disse anbefalinger kan danne grundlag for, hvordan uddannelser kan udforme og introducere studerende til hensigtsmæssig og etisk forsvarlig brug af generativ kunstig intelligens. Hovedprincipperne er her oversat fra engelsk og med blik for studie- og eksamensprocesser som forskningsbaseret uddannelse består af:   

Uddannelsesbekendtgørelsen fastslår, at universitetsuddannelser:

skal kvalificere den studerende til selvstændigt at varetage erhvervsfunktioner på baggrund af kundskaber og metodiske færdigheder inden for et eller flere fagområder" 

Studerende forventes i løbet af deres uddannelse at blive: ” i stand til selvstændigt at identificere, formulere og løse komplekse problemstillinger inden for fagområdets eller fagområdernes relevante bestanddele” (Uddannelsesbekendtgørelsen, 2021, s. §2). Selvstændighed er ikke et nøje defineret begreb i dansk uddannelsestradition, om end det står naturligt og centralt i opfattelsen af formål med uddannelse. 

Den følgende tekst vil dels søge at præcisere begrebet, dels oversætte til en tid, hvor generativ kunstig intelligens er en faktor for såvel samfund som uddannelsessystemet. 
 

Uddannelse til selvstændigt virke i erhvervsfunktioner kan både dække funktioner på og uden for universitetet. En akademiker forventes med henvisning til god akademisk praksis selv at kunne tilrettelægge og gennemføre arbejdsopgaver med blik for det faktuelt rigtige [pålidelighed og ærlighed], det socialt og etisk ansvarlige [respekt og ansvar], samt at kunne identificere problemstillinger i arbejdets udførsel og foreslå kvalificerede løsninger på dem. 

Uddannelse skal altså kvalificere dimittenderne til at indgå i samfundets funktioner, men også danne dem til det, som Illeris kalder modkvalificering, dvs. ”på én gang at kunne fungere nogenlunde autonomt i det eksisterende samfund og samtidig bidrage til dets ændring og overskridelse” (Illeris, 1985, s. 15). For dimittender fra forskningsbaserede uddannelser kan krav om selvstændighed tænkes parallelt med forskningens krav til publikationer: Forskning forventes både at redegøre for state of the art og at præcisere det bidrag, som netop denne publikation giver. Det er ikke nok blot at sætte sig ind i den faglige tradition, man forventes også at forsøge at transformere den (Hammershøj, 2008, s. 7).  

Læringsmål for universitetsuddannelser stiller både krav til de studerendes individuelle arbejde med kilder og metoder, til deres evne til at overføre denne læring til andre kontekster og til at samarbejde med andre. Det er en pointe, at studerende kan bidrage selvstændigt i kollaborativ vidensproduktion (Luo, 2024).  

Selvstændighed bliver berørt i litteraturen om videnskabeligt personales vejledning af studerende, der skriver større selvstændige opgaver. Her vedrører diskussionen, hvordan vejlederen bedst understøtter den studerendes ejerskab og autonomi i beslutninger både for produktionsprocessen og produktet. Der nævnes:

To overordnede dimensioner: selvstændighed i produktet (her slår vi indhold og form sammen) og selvstændighed i processen. Det første handler om, hvordan den studerende arbejder med stoffet, kilderne og metoderne, dvs. i hvilken grad han/hun bruger og forholder sig til dem i sin opgave. Det andet handler om hvordan den studerende planlægger og udfører sin arbejdsproces, herunder bruger vejlederen og andre ressourcer.

Man kan være selvstændig i en dimension og samtidig være uselvstændig i den anden. Der har hidtil ikke været dansk tradition for at lade skrive- og læreprocesser være en del af eksamen. 
 

I forbindelse med eksamen, er det en hovedpointe, at det er den studerendes opnåelse af fagets læringsmål, man som uddannelsesinstitution er interesseret i at udprøve til brug for troværdig certificering. Dette indebærer alle fire principper for god akademisk praksis med generativ kunstig intelligens. 

I en tid uden generativ kunstig intelligens betyder det, at vejleder eller en ukendt tredjepart ikke har tænkt og udformet eksamenspræstationen. 

I en tid med generativ kunstig intelligens handler det om at kunne identificere den studerendes (egne) kompetencer, proces og produkt, frem for, at det er en generativ kunstig intelligens’ arbejde, der udprøves. Eller som det hedder i KU’s ordensregler: “Hver enkelt eksamen skal være et resultat af den studerendes egen selvstændige præstation inden for rammerne for den konkrete eksamen.” (§ 4, stk. 3).
Det stiller krav til institutionen om - som et led i arbejdet med at udvikle eksamen og bedømmelse i en tid med generativ kunstig intelligens -at kunne argumentere for, at eksaminerne er rammesat, så det er den studerendes tilegnelse af viden, færdigheder og kompetencer, der udprøves i de valgte eksamensformer og –praksisser.
Denne argumentation kan anvendes til at begrunde og informere alle de involverede i uddannelserne om baggrunden for at praktisere eksaminer, som man gør  

Dette har langsigtede didaktiske implikationer for undervisning. For at de studerende kan indgå i lære- og eksamensprocesser efter intentionen, må institutionen understøtte de studerende i at udvikle gode strategier for brug af generativ kunstig intelligens. 

Det er den studerendes opgave at stå inde for den proces og det produkt, som udgør eksamenspræstationens faglige indhold og formmæssige udtryk, uanset om eller hvordan generativ kunstig intelligens har været anvendt. Det er naturligvis institutionens bekymring, at dette ansvar ikke kan løftes af den studerende, så den studerende kommer til – bevidst eller ubevidst – at vildlede om egen indsats, jf. KU’s ordensregler, § 4, stk. 2: “Den studerende må til den konkrete eksamen ikke vildlede om egen indsats eller resultater.” 

Det betyder, at institutionen er interesseret i at vide, hvordan den studerende har udarbejdet eksamenspræstationen, og den transparens kan muligvis tilrettelægges og kommunikeres, fx gennem udfyldelse af en blanket om, hvordan generativ kunstig intelligens har været anvendt, og hvilken betydning det har haft for det endelige produkt.  
 

• Det er den studerendes viden, færdigheder og kompetencer eksaminer skal udprøve, og det er uddannelsernes ansvar, at prøverne er indrettet med henblik på dette​. 
• Det skal være transparent, hvilke hjælpemidler, der er anvendt i studie- og eksamensprocessen, og der skal argumenteres for de faglige valg, der er truffet, herunder brug af generativ kunstig intelligens.  
• Indhold og form i eksamenspræstationer er uanset hjælpemiddel alene den studerendes ansvar. 
   

Forslag til kriterier til at vurdere studerendes selvstændighed ved anvendelse af generativ kunstig intelligens. Studerende udviser selvstændighed ved:   

• sine til- og fravalg af generativ kunstig intelligente værktøjer undervejs i tilegnelsen af det faglige stof og intenderede kompetencer.  
• at argumentere for sin anvendelse af bestemte generativ kunstige intelligente værktøjer i sin behandling af bestemte faglige opgaver.  
• at kunne vurdere de processer og udvise faglig dømmekraft om de produkter, som genereres af eller med generativ kunstig intelligens.  
• at reflektere over, hvordan generativ kunstig intelligens kan påvirke fagfeltet nu og på sigt, samt bidrage til at udvikle og medskabe det. 

Studerende, der selvstændigt arbejder med og forholder sig fagligt til generativ kunstig intelligens, kan potentielt bidrage med at transformere de faglige traditioner ved velargumenteret og kritisk at tage stilling til, hvordan generativ kunstig intelligens kan indgå i fremtidige faglige praksisser.  

Eksamensvinklen på selvstændighedsbegrebet handler derfor om at udprøve, hvad den studerende er i stand til, uanset om generativ kunstig intelligens er anvendt eller ej, og dette kan indebære, at dimittenden som kompetent fagperson kan forholde sig til spørgsmål om generativ kunstig intelligens og fagfeltet. Det vil i forbindelse med eksamen være muligt at lade sådanne bedømmelsesinteresser indgå, fx ved, at den studerende ved et mundtligt specialeforsvar kan reflektere over valg af relevante redskaber, argumentation for metodiske valg, herunder generativ kunstig intelligens.  

KUURS arbejdsgruppe om kunstig intelligens og eksamen udarbejder værktøjer, som ansatte og studerende ved KU kan anvende i arbejdet med at tilpasse studie- og eksamenspraksisser på uddannelserne.  
 

---

 
[1] De originale principper for ansvarlig forskningspraksis med generativ kunstig intelligens fra EU lyder:

1. Reliability in ensuring the quality of research, reflected in the design, methodology, analysis and use of resources. This includes aspects related to verifying and reproducing the information produced by the AI for research. It also involves being aware of possible equality and non-discrimination issues in relation to bias and inaccuracies.
2. Honesty in developing, carrying out, reviewing, reporting and communicating on research transparently, fairly, thoroughly and impartially. This principle includes disclosing that generative AI has been used.
3. Respect for colleagues, research participants, research subjects, society, ecosystems, cultural heritage and the environment. Responsible use of generative AI should take into account the limitations of the technology, its environmental impact and its societal effects (bias, diversity, non-discrimination, fairness and prevention of harm). This includes the proper management of information, respect for privacy, confidentiality and intellectual property rights, and proper citation.
4. Accountability for the research from idea to publication, for its management and organisation, for training, supervision and mentoring, and for its wider societal impacts. This includes responsibility for all output a researcher produces, underpinned by the notion of human agency and oversight​

 

---

Om denne side

Denne side afspejler status i efteråret 2024, og teksten er besluttet af Københavns Universitets Uddannelsesstrategiske Råd.