Forskningsintegritet og bruk av KI – etiske utfordringer og praktiske anbefalinger

Teksten er basert på en oversiktsartikkel fra International Journal of Educational Integrity:

Bjelobaba, S. et al. (2025). Maintaining research integrity in the age of Generativ AI: an analysis of ethical challenges and recommendations to researchers. International Journal for Educational Integrity, 21, 18. https://doi.org/10.1007/s40979-025-00191-w

Artikkelen er lisensiert under http://creativecommons.org/licenses/by/4.0/.

KI er brukt til oversettelse og oppsummering av originaldokumentet, med påfølgende «menneske i loopen» for redigering av språk og innhold.

The European Code of Conduct for Research Integrity, fastslår at god forskningspraksis er basert på følgende grunnleggende prinsipper (ALLEA, 2023, s. 4):

Pålitelighet

Å sikre kvaliteten på forskning, reflektert i design, metodologi, analyse og bruk av ressurser

Ærlighet

I utvikling, gjennomføring, vurdering, rapportering og kommunikasjon av forskning på en transparent, rettferdig, fullstendig og upartisk måte

Respekt

For kolleger, forskningsdeltakere, samfunnet, økosystemer, kulturarv og miljøet

Ansvarlighet

For forskningen, fra idé til publisering, for dens ledelse og organisering, for opplæring, veiledning og “mentoring”, og for dens bredere samfunnseffekter

Etterlevelse av disse prinsippene er sentralt for å sikre forskningens pålitelighet og legitimitet, og blir ytterligere aktualisert ved bruk av generativ KI.

På generelt grunnlag bør derfor forskeren:

• behandle alle generativ KI-genererte forslag som utkast som krever menneskelig kontroll
• aldri bruke generativ KI til å skape eller manipulere forskningsdata, resultater eller empirisk evidens
• alltid oppgi generativ KI-bruk i tråd med institusjonelle, faglige og redaksjonelle retningslinjer
• følge utviklingen i regelverk, etikkretningslinjer og beste praksis for KI-bruk i forskning

Det er i tillegg viktig å være bevisst på at generative KI-verktøy har innholdsbegrensninger, filtreringsmekanismer og uoversiktlige beslutningsprosesser (ofte kalt black-box), som subtilt eller utilsiktet kan begrense tilgangen til kunnskap, eller fremstille kunnskap feilaktig. Dette vil kunne påvirke forskerens mulighet til å studere enkelte temaer – særlig hvis forskningen beveger seg inn på sensitive eller politisk ladede områder.

I denne sammenheng vil det nødvendigvis tilligge forskerrollen, å inneha ansvaret for sannferdighet, åpenhet og etterprøvbarhet i egen KI-bruk – og forstå verktøyenes begrensninger og skjevheter.

Generative KI-verktøy og spesialiserte forskningsassistenter kan bidra til å foreslå nye forskningsspørsmål, raffinere hypoteser og foreslå metodiske tilnærminger. Ved å skanne igjennom store mengder litteratur raskt, kan slike systemer avdekke nye sammenhenger, og danne grunnlaget for nye interessante forskningsspørsmål.

Hvordan kan generativ KI hjelpe?

• Idé-generering og utforsking av mulige forskningsretninger
• Omformulering av brede interesser til mer presise forskningsspørsmål
• Forslag til mulige variabler, metoder eller studiedesign
• Identifisering av mangler eller spenninger i eksisterende litteratur, også på tvers av språk

Etiske og metodiske risikoer

Overfladiske eller skjev presentasjon av hva som er «nytt»

Generativ KI er trent på eksisterende data. Forslagene vil derfor kunne gjenspeile dominerende antakelser og skjevheter i underliggende litteratur. Tilsynelatende “nye” forskningsspørsmål kan i realiteten bare være forsøk på å omdefinere kjent tematikk, eller overse forskning som er underrepresentert i treningsdata (et eksempel er forskning på minoritetsspråk)

Manglende sporbarhet

Generativ KI oppgir ofte ikke kilder, eller gir deg innblikk i prosessen til hvordan konkrete forskningsspørsmål eller designforslag ble til. Denne mangelen på sporbarhet kan komme i konflikt med kravene til transparens og ansvarlighet i «European Code of Conduct for Research Integrity» (ALLEA, 2023)

Overavhengighet av KI-genererte design

Det er en risiko for å adoptere KI-forslag uten tilstrekkelig kritisk vurdering. Det kan svekke det faglige eierskapet til prosjektet og i verste fall lede forskningen inn i metodisk svake eller etisk problematiske spor

Anbefalinger

• Behandle generativ KI som en sparringpartner, ikke en erstatning for teoretisk og metodisk arbeid
• Bruk andre kilder for å verifisere at KI-forslag til forskningsspørsmål er genuint nye, gjennomførbare og etisk forsvarlige
• Dokumenter når og hvordan generativ KI har vært brukt til utformingen av forskningsspørsmål og design (ALLEA, 2023, s. 7 og 10)
• Sørg for at det endelige studiedesignet gjøres til ditt eget, forankret i faglitteraturen og etablerte faglige standarder

Generativ KI kan støtte litteraturarbeid ved å oppsummere artikler, foreslå relatert litteratur og lette utforskning av vanskelig tilgjengelig litteratur på tvers av språk.

Hvordan kan Generativ KI hjelpe?

• Rask oversikt over et fagfelt, og orientering i sentrale begreper
• Oppsummering av artikler eller kapitler du som forsker laster opp
• Forslag til relaterte tema, nøkkelord og alternativ/relatert litteratur
• Hjelp til å navigere i litteratur på språk du som forsker ikke behersker

Etiske og praktiske risikoer

Feil eller oppdiktede referanser

Generativ KI kan foreslå tilsynelatende plausible, men fullstendig oppdiktede referanser. Den kan også tilskrive feil til reell forskning, og/eller misforstå hva som er positive eller negative resultater. Å bruke KI genererte referanser uten kontroll utgjør en risiko for brudd på kravene om redelighet og pålitelighet i forskning

Skjevt treningsgrunnlag

Treningsdataene for store språkmodeller er skjeve mot visse språk, disipliner og tidsskrifter. Dermed kan generativ KI overrepresentere engelskspråklige, høyt rangerte artikler og tidsskrifter, og tilsvarende underrepresentere lokal, regional eller ikke-engelskspråklig forskning

Kritisk lesning

Dersom man som forsker i stor grad baserer seg på KI-genererte oppsummeringer, risikerer man å miste den dype, kritiske lesningen som er grunnleggende for god forståelse av tematikken. KI kan utjevne eller forsterke faglige uenigheter og begrepsmessige uklarheter, som gjør at man mister viktige nyanser, eller misoppfatter forskningsfeltet

Opphavsrettslige utfordringer

Opplasting av fulltekst-artikler, eller annet potensielt opphavsrettsbeskyttet materiale, kan stride mot forfatter- eller forlagsrettigheter, særlig der bruksvilkårene i KI-tjenesten åpner for videre trening på opplastet materiale. Mange plattformer ber brukeren bekrefte at de innehar opphavsretten til materialet som lastes opp, og at denne retten i noen grad overføres til tjenesten ved bruk. Forskere må derfor sette deg godt inn i tjenestens «terms of service». Bruk tjenester som tilrettelegges ved egen institusjon for denne type arbeid

Anbefalinger

• Kontroller alle KI-foreslåtte referanser mot autoritative kilder (for eksempel vitenskapelige databaser, forlagssider, DOI)
• Bruk generativ KI som tillegg til, ikke erstatning for, systematiske søk i databaser
• Les og vurder nøkkelartikler kritisk selv. Se på KI-oppsummeringer som et startpunkt
• Unngå å laste opp opphavsrettsbeskyttet materiale dersom lisensen ikke tillater det, eller dersom plattformens vilkår ikke eksplisitt beskytter opplastingene. Dette gjelder også for dine egne data eller artikler

Generativ KI kan brukes som støtte til datainnsamling, for eksempel ved å:

• Lage forslag til intervjuguider eller spørreskjema
• Delta som “samtalepartner” i eksperimentelle studier
• Støtte til oversettelse eller tilpasning av instrumenter til andre språk
• Generere syntetiske datasett for testing av kode og analyseoppsett

Etiske og metodiske risikoer

Informert samtykke og mulig villedning

Dersom generativ KI brukes til direkte interaksjon med informanter eller deltakere i prosjektet, er det avgjørende å være åpen om dette. Skjult bruk av KI kan bryte med grunnleggende krav til informert samtykke og respekt for deltakere (ALLEA, 2023)

Skjevheter og diskriminering

KI-genererte spørsmål eller interaksjoner kan inneholde skjevheter fra treningsdata og på denne måten påvirke deltakernes svar eller påføre skade, særlig i sensitive tema eller blant sårbare grupper

Misbruk av syntetiske data

Syntetiske data kan være nyttige for testing, men må aldri presenteres som ekte empiriske data. Bruk av generativ KI til å fabrikkere datasett for publisering er i strid med kravene til ærlighet og pålitelighet i forskning

Personvern og databeskyttelse

Bruk av kommersielle generativ KI-tjenester til innhenting eller opplasting av rådata (særlig personopplysninger eller sensitive data) bør unngås, da dette kan eksponere deltakere for personvernrisiko. Selv med godkjente “personverninnstillinger” kan datahåndteringen bli styrt av vilkår som brukerne ofte ikke leser. Bruk i stedet godkjente tjenester og verktøy ved egen institusjon

Anbefalinger

• Opplys tydelig til deltakerne hvis og hvordan KI brukes i datainnsamlingen
• Gjennomgå KI-genererte spørsmål og instruksjoner systematisk for skjevhet, og test dem på ulike grupperinger
• Bruk syntetiske data kun til intern utvikling og testing, og merk dem eksplisitt som syntetiske
• Unngå å laste opp identifiserbare eller sensitive forskningsdata til kommersielle KI-tjenester

Generativ KI kan støtte arbeidet med kvalitativ koding, tematisk og statistisk analyse, programmering og transkripsjon.

Hvordan kan generativ KI hjelpe?

• Forslag til kodesett og tema i kvalitativ analyse
• Hjelp til å skrive, feilsøke og dokumentere analyse-kode
• Transkripsjon av intervjuer, også fokusgruppeintervjuer etter hvert som KI blir bedre på å gjenkjenne ulike stemmer. NB! Husk at stemme en er personopplysning
• Oversettelse av tekstutdrag for tverrspråklig analyse

Etiske og metodiske risikoer

Manglende metodisk transparens og replikasjon

Dersom du som forsker bruker denne type “black box”-prosesser uten å dokumentere hvordan verktøyet er brukt, vanskeliggjøres metodevurdering og muligheten for å replikere analysen. Dette svekker både pålitelighet og ansvarlighet i arbeidet, og kan i ytterste konsekvens skade forskningens omdømme

Skjulte skjevheter i koding og kategorisering

KI-genererte koder vil kunne reflektere skjevheter i treningsdata og modellarkitektur. Dette kan gi systematiske feilklassifiseringer, særlig i forskning på sårbare eller marginaliserte grupper

“Snarveier” i statistikk og falsk autoritet

Generativ KI kan skape tilsynelatende overbevisende forklaringer, koder og tolkninger som i realiteten er metodisk feil eller uegnet. På grunn av den selvsikre stilen kan slike svar feiltolkes som ekspertvurderinger

Konfidensialitet

Opplasting av store mengder kvalitativt eller kvantitativt datamateriale til KI-tjenester kan kompromittere konfidensialitet ved at «skjulte» sammenhenger blir evidente. Dermed kan forskeren uforvarende kommer til å bryte med etiske og juridiske forpliktelser

Praktiske anbefalinger

• Dokumentér tydelig hvilke deler av analysen som er støttet av generativ KI og hvordan (verktøy, versjon, prompt, parametere)
• Behandle KI-forslag til koder og tema som nettopp forslag. Sluttvurdering må gjøres av fagfolk
• Valider KI-generert analyse mot etablerte metodiske standarder. Ikke bruk KI som autoritativ kilde
• Bruk lokale eller institusjonelle løsninger for å håndtere sensitive data, eller sørg for tilstrekkelig anonymisering før datainnsamling eller opplasting

Generativ KI kan skape bilder, figurer, diagrammer og video til bruk i publikasjoner, presentasjoner og undervisning.

Hvordan kan generativ KI hjelpe?

• Produksjon av skjema, figurer og illustrasjoner
• Forbedre visuell formidling av komplekse konsepter
• Eksempelbilder til undervisning og formidling
• Lyd og musikk

Etiske og integritetsrelaterte risikoer

Fabrikasjon av vitenskapelige data

Generativ KI kan lage svært realistiske bilder, inkludert mikroskopibilder og plott. Bruk av slike bilder som om de var reelle empiriske data er en form for fabrikasjon og et alvorlig brudd på forskningsintegritet

Villedende visualiseringer

Selv når bildene ikke er ment som “data”, kan de gi inntrykk av en presisjon eller realitet som ikke egentlig foreligger

Opphavsrett og treningsdata

Mange generative modeller er trent på store bilde- og lydkorpus, som inneholder materiale med uklar rettighetsstatus. Bruk av slike verktøy kan derfor reise spørsmål om avledede verk og ulovlig utnyttelse av kunstneres intellektuelle arbeid

Personvern og identifiserbarhet

Når KI brukes til å endre eller lage bilder og lyd av virkelige personer, øker risikoen for gjenkjenning, feiltolkning eller skade for den avbildede

Praktiske anbefalinger

• Ikke bruk generativ KI til å lage bilder, lyd eller andre visualiseringer som presenteres som originalt empirisk materiale
• Merk KI-genererte illustrasjoner og lydklipp tydelig, og forklar hvordan de er laget og til hvilket formål
• Foretrekk verktøy med transparente retningslinjer for treningsdata og lisensiering som er forenlige med din tiltenkte bruk
• Unngå å laste opp identifiserbare bilder, eller lyd av informanter og andre deltakere i prosjektet til kommersielle KI-verktøy, uten eksplisitt samtykke og etisk godkjenning

Den vanligste bruken av generativ KI er trolig til utkast, redigering og språkvask – særlig på engelsk

Hvordan generativ KI kan hjelpe

• Generering av innledende disposisjoner og tekstutkast
• Språkvask og stilistisk forbedring, særlig for forskere som skriver på fremmedspråk
• Omformulering av kompliserte resonnementer
• Støtte til følgebrev, svar til fagfeller og populærvitenskapelige sammendrag

Etiske og integritetsrelaterte risikoer

Mangel på transparens om KI-støttet skriving

«European Code of Conduct for Research Integrity» fremhever eksplisitt at det å skjule bruk av KI-verktøy i innholdsproduksjon eller manuskriptdrøfting er et brudd på forskningsintegritet. Uoppgitt KI-bruk undergraver åpenhet og ærlighet (ALLEA, 2023)

Hallusinasjoner og faktiske feil

Selv ved ren tekstredigering kan generativ KI introdusere unøyaktigheter, misrepresentasjon eller oppdiktede detaljer. Dersom disse ikke oppdages, kan feilene videreføres i faglitteraturen

Forfatterskap og ansvar

KI-verktøy kan ikke «ta ansvar» for innholdet de har generert, og kan ikke føres opp som medforfattere. Overdrevet avhengighet av KI kan gjøre grensene for forfatterskap uklare og svekke forskerens eierskap og ansvar til arbeidet

Stilutjevning og tap av stemme

Utstrakt bruk av KI-redigering kan redusere språklig og kulturelt mangfold i vitenskapelig prosa, ved å presse alt inn i en standardisert, “nøytral” stil

Praktiske anbefalinger

• Oppgi tydelig og konkret i manuskriptet hvordan generativ KI er brukt (for eksempel “til språkvask” eller “til utvikling av førsteutkast eller disposisjon”). Ofte har tidsskriftene egne retningslinjer som skal følges
• Faktasjekk all KI-generert eller KI-redigert tekst grundig. Det er du som forsker, ikke verktøyet, som står ansvarlig for innholdet
• Ikke oppgi KI-systemer som medforfatter. Sørg for at alle navngitte forfattere oppfyller vanlige forfatterskapskriterier
• Bruk KI som støtte, ikke som erstatning, for egen argumentasjon og faglig refleksjon

Generativ KI påvirker også fagfellevurdering og publisering. Fagfeller kan bruke KI til å oppsummere manuskript, generere deler av vurderingen, eller til språkvask. Forfattere kan bruke KI til raskt å produsere manuskripter.

Etiske og systemiske risikoer

Uoppgitt KI-bruk i fagfellevurdering

Dersom fagfeller kopierer manuskripttekst inn i kommersielle generativ KI-verktøy, kan de bryte konfidensialiteten rundt upublisert arbeid. ALLEA (2023) understreker at bruk av KI i vurderingsprosesser skal oppgis (s. 9)

Forsterkning av eksisterende publiseringsproblemer

Dagens “publish or perish”-system belønner ofte kvantitet over kvalitet og har allerede ført til praksiser som:

• «Salami-slicing» (oppdeling av én studie i flere minimale publikasjoner)
• Papirmøller som selger fabrikkerte eller lavkvalitetsartikler
• Predatortidsskrifter med svak eller fraværende fagfellevurdering

Generativ KI gjør det enklere og raskere å produsere overfladisk plausible manuskripter, og kan dermed forsterke disse problemene.

Sensur og innholdsfiltrering

Enkelte generative KI-systemer nekter å håndtere bestemte tema, eller filtrerer innhold på uklare måter. Dette kan påvirke hvilke forskningsspørsmål som faktisk blir utforsket

KI til deteksjon av uredelighet

Samtidig kan KI brukes til å avdekke plagiat, og mønstre som er typiske for papirmøller og manipulerte bilder. Disse verktøyene er imidlertid ikke feilfrie og må brukes med varsomhet

Praktiske anbefalinger

• Som fagfelle: ikke last opp manuskript til åpne KI-tjenester uten eksplisitt tillatelse fra tidsskriftet. Oppgi KI-bruk dersom du benytter det til oppsummering eller språkvask
• Som forfatter: unngå å bruke generativ KI til å masseprodusere lavkvalitetspublikasjoner, og følg tidsskriftets retningslinjer for KI-bruk
• Redaktører og institusjoner bør kombinere KI-baserte deteksjonsverktøy med menneskelig ekspertvurdering, og ikke betrakte KI-funn som endelige
• Vær oppmerksom på KIs rolle som (utilsiktet) forsterker av strukturelle insentiver (f.eks. kvantitet fremfor kvalitet), og reflekter over egen praksis og valg

• ALLEA – All European Academies. (2023). European Code of Conduct for Research Integrity: 2023 revised edition. https://doi.org/10.26356/ECoC
• Bjelobaba, S., Waddington, L., Perkins, M., Foltýnek, T., Bhattacharyya, S., & WeberWulff, D. (2025). Maintaining research integrity in the age of Generativ KI: an analysis of ethical challenges and recommendations to researchers. International Journal for Educational Integrity, 21, 18. https://doi.org/10.1007/s40979-025-00191-w