FAQ til de 10 anbefalinger om brug af generativ kunstig intelligens i undervisningen

’AI’ er den engelske forkortelse for kunstig intelligens. Generativ AI er kunstig intelligens, som ved hjælp af maskinlæring på store datasæt kan generere nyt indhold, såsom tekst, billeder, lyd eller video – typisk på baggrund af en forespørgsel (eller ”prompt”) fra brugeren.

Generativ AI dækker over en bred vifte af digitale værktøjer, herunder chatbots som ChatGPT, SkoleGPT og Microsoft Copilot. Betegnelsen dækker også over teknologier som DALL·E og Midjourney, der genererer billeder, og andre digitale værktøjer, der kan fremstille podcasts, kode, noter mv.

STUK er i første omgang kommet med anbefalinger om generativ AI i undervisningen. Men den teknologiske udvikling går hurtigt, og vi er i styrelsen bevidste om, at det kan blive nødvendigt at tilpasse rammerne fremadrettet. Vi følger derfor området tæt i dialog med sektoren.

På prøveområdet afvikles pt. en række forsøg, der har som formål at undersøge, hvordan prøverne kunne se ud i fremtiden:. https://www.uvm.dk/gymnasiale-uddannelser/proever-og-eksamen/forsoeg

Der afvikles i den forbindelse bl.a. forsøg med prøven i afsætning A på hhx, hvor eleverne i udformningen af en eksamensprojektrapport kan inddrage kunstig intelligens. Omvendt skal prøver også kunne afvikles helt uden brug af teknologiske hjælpemidler. Og der er derfor – også på baggrund af forsøg – allerede ændret i prøven i spansk begyndersprog på stx, hvor den skriftlige prøve nu afvikles med pen og papir.

Skolerne er dataansvarlige og skal sørge for, at generativ AI bliver brugt inden for rammerne af gældende lovgivning. Det gælder for al læringsteknologi, som skolen bruger.

AI-teknologi skal derfor behandles ligesom andre digitale hjælpemidler, hvad angår GDPR.

Skolen er altså dataansvarlig, og skal sikre, at både elever og lærere har klare retningslinjer for, hvordan AI-løsningen bruges, også selvom data ikke forlader skolens platform. Skolen kan vælge at udarbejde et internt regelsæt, der bl.a. begrænser, hvilke typer persondata der må indtastes, og fastsætter rutiner for sletning og kontrol af data.

Styrelsen anbefaler, at ledelsen på skolen sætter en klar retning, så den flugter med resten af skolens politik om digital dannelse. Som ledelse bør I inddrage lærere, elever og eventuelt også bestyrelsen i en dialog om generativ AI og drøfte, hvordan I får formuleret en fælles retning på skolen.

Vi er i styrelsen opmærksomme på, at det er et felt, som kan være svært at navigere i, og at der er stor efterspørgsel efter vejledning og retningslinjer.

Styrelsen for It og Læring arbejder på en vejledning om AI og GDPR, som forventes at udkomme i første halvdel af 2025.

I kan desuden søge vejledning hos et it-fællesskab eller en databeskyttelsesrådgiver og eventuelt samarbejde og dele erfaringer med andre skoler.

Endeligt kan I hente inspiration til jeres strategiske beslutninger om brug af generativ AI i publikationen Generativ AI: Beslutningsgrundlag til Uddannelsesinstitutioner fra ”Ledernetværk om Informationssikkerhed for Selvejende Institutioner”: Beslutningsgrundlag for brug af generativ AI - Center for it i undervisningen

En e-mailadresse er en personoplysning. Så når en elev som led i undervisningen opretter en profil med sin e-mailadresse i en generativ AI-løsning, er der tale om deling af personoplysninger med både AI-tjenesten og potentielt dens underleverandører.

Personoplysninger må aldrig deles unødigt.

Derfor skal skolen i dette tilfælde sikre, at delingen er nødvendig for undervisningens formål, eller at der foreligger en anden (ifølge GDPR) gyldig grund til at dele oplysningerne.

Derudover skal skolen foretage en vurdering af sikkerheden omkring deling af elevens e-mail. Heri indgår risikoen for utilsigtet databrud eller dataanvendelse både hos AI-tjenesten selv, men også hos eventuelle underleverandører.

Skolen har ansvar for at vejlede eleverne om ikke at indtaste hverken almindelige, fortrolige eller følsomme personoplysninger som for eksempel helbredsoplysninger, da skolen ikke har kontrol over, hvordan sådanne oplysninger håndteres i AI-løsningen.

Det er skolens opgave at etablere retningslinjer og sikre elevernes forståelse af, at der ikke bør deles oplysninger af personhenførbar karakter i AI-løsningen og at oplysninger, som eleverne deler, udelukkende bør være af generel karakter.

En konsekvens af manglende kontrol over datadelingen kan være brud på GDPR, og skolen kan blive ansvarlig, hvis personoplysninger utilsigtet opbevares eller videregives til uvedkommende.

Ledelsen på skolen skal sikre, at lærerne er klædt på til at håndtere generativ kunstig intelligens i undervisningen.

Det er vigtigt, at ledelsen understøtter dialog og erfaringsudveksling i lærergruppen, og at de sætter teknologien på dagsordenen på skolerne.

Der er ikke afsat særlige midler til efteruddannelse af lærere i generativ AI, så dette skal prioriteres af skolerne selv.

Styrelsen anbefaler, at generativ AI indgår i den strategiske og systematiske kompetenceudvikling på skolen.

Skab rum for dialog om teknologiens indflydelse på lærernes arbejde og faglige identitet.

Nogle kan have en oplevelse af, at deres undervisningspraksis bliver udfordret af generativ AI, og at det kan være nødvendigt at sige farvel til velkendte rutiner, materialer og undervisningsmetoder.

Det er vigtigt, at det ikke bliver den enkelte lærers ansvar at løfte opgaven med generativ AI i undervisningen, men skolens kollektive ansvar.

I kan fx benytte jer af eksisterende samarbejdsfora (faggrupper, klasseteams, pædagogiske dage) og søge inspiration hos videnscentre.

Når generativ AI som chatbots og andre digitale teknologier bliver brugt i undervisningen, skal det altid give faglig, didaktisk og pædagogisk mening.

Anbefalingerne er udarbejdet inden for eksisterende læreplaner, som sætter rammerne for det skriftlige arbejde. I kan som lærere overveje at stille opgaver, hvor fokus flyttes fra produkt til proces. Her kan I bede eleverne om at reflektere over deres brug af generativ AI i opgaveløsningen.

I det skriftlige arbejde er det desuden relevant også at stille opgaver, hvor eleverne skal vurdere, kvalificere og udvælge i et AI-genereret output.

I kan også overveje, at dele af det skriftlige arbejde foregår i et mere kontrolleret miljø, så underviseren får et billede af, hvad eleven kan selv. På denne måde kan man også forberede eleverne på prøver, hvor de ikke har adgang til denne teknologi.

Forebyggende kan I som lærere styrke elevernes brug af teknologien ved at tilrettelægge undervisning, hvor de aktivt skal undersøge, udfordre og kritisk evaluere informationer fra generativ AI gennem faglig opgaveløsning.

I, som ledere, skal på den anden side sørge for, at lærerne er klædt godt på til at kunne tilrettelægge en anden form for undervisning.

Når eleverne bruger teknologien, så lad dem argumentere for, hvorfor og hvordan det giver mening at bruge generativ AI i den konkrete opgave.

Formuler også altid klare rammer for, hvorvidt det er tilladt at bruge generativ AI i en konkret skriftlig opgave, og hvis det er, hvordan det så kan bruges. Gør det tydeligt for eleverne på forhånd, hvad der er tilladt og ikke tilladt i en konkret kontekst.

Derudover gælder samme regler for snyd, som, i forvejen er beskrevet i skolens studie- og ordensregler.: Ifølge Bekendtgørelsen om studie- og ordensregler m.v. i de gymnasiale uddannelser, § 2, stk. 2, skal institutionen fastsætte sine studie- og ordensregler, så de danner grundlag for en målrettet indsats for at imødegå snyd og lignende”.

Som skole bør I altså aktivt arbejde med at definere sanktioner ved overtrædelse af snyd – også ved brug af generativ AI.

Helt overordnet anbefaler vi, at man kun bruger digitale værktøjer, når det understøtter læring, og at eleverne undervises på en måde, så de kan gå op til afsluttende prøver uden generativ AI.

Ift. hjælpemidler til prøver er AI-værktøjer som eksempelvis skrivsikkert.dk og Microsoft 365 Copilot ikke tilladt ved prøverne. Det gælder alle funktioner i programmerne, herunder korrekturlæsning.

Dette fremgår af hjælpemiddeloversigten til skriftlige prøver (pdf).

STUK anbefaler generelt, at hjælpemidler, som gives til eksaminandens brug i undervisningen gennem SPS-ordningen, også kan anvendes ved prøven, hvis det ikke ændrer prøvens niveau.

Eksaminander med ordblindhed kan få tilladelse af gymnasiet til at bruge læse-/skriveværktøjer som fx AppWriter og IntoWords.

Læs mere om særlige prøvevilkår til eksaminander med ordblindhed på ministeriets hjemmeside.