Bruk av KI-verktøy i forskning

GPT UiO, SIKT KI-Chat og Microsoft Copilot har litt ulik funksjonalitet, og de forbedres stadig, men alle har grunnleggende funksjoner som lar deg:

• velge mellom et knippe forskjellige modeller
• laste opp dokumenter
• lage KI-assistenter
• generere bilder og lyd

Ingen brukerdata fra tjenestene benyttes til å videreutvikle språkmodellene, og chathistorikk og opplastede dokumenter håndteres sikkert.

Moderne språkmodeller kan støtte hele forskningsprosessen: fra idéutvikling, via litteratursøk og manuskriptutkast, til prosjektbeskrivelser og skriving av søknader.

Du kan for eksempel:

• foreslå forskningsspørsmål og søkestrategier

• lage utkast til problemstillinger, forslagstekster og sammendrag

• analysere og omformulere tekster

• gi språkvask og oppsummere komplekse forskningsfunn

• bruke den til å innhente opplysninger ifm. søknadsskriving og rapportering

• generere bilder

• generere programmeringskode

Husk informasjon og samtykke: Deltakere i forskningsprosjekter skal informeres om hvordan eventuelle opplysninger håndteres, inkludert bruk av KI-verktøy til dataanalyse eller tekstbearbeiding.

Modellene baserer seg på eksisterende data, og har ikke tilgang på all informasjon. Vær derfor ekstra oppmerksom på at:

• språkmodeller mangler kildekritisk vurderingsevne og kan ikke erstatte faglig skjønn
• de kan forsterke eksisterende bias og stereotypier i treningsdata
• bruk av språkmodeller må alltid vurderes opp mot krav til personvern, etikk, opphavsrett, sikkerhet og transparens i forskningen

Vi anbefaler at du setter deg inn i INNs reglement for personvern og forskningsetikk.

I tillegg anbefaler vi følgende retningslinjer som utgangspunkt for etisk bruk av KI i forskning hentet fra Resink & Hosseini, 2024 :

• Forskeren er ansvarlig for å identifisere, beskrive, redusere og kontrollere KI-relaterte skjevheter og tilfeldige feil
• Forskeren bør opplyse om, beskrive og forklare sin bruk av KI i forskning, inkludert begrensninger, og på et språk som kan forstås av ikke-eksperter
• Forskeren bør involvere berørte samfunn, befolkningsgrupper og andre interessenter i bruken av KI i forskning for å få deres råd og hjelp, samt ta hensyn til deres interesser og bekymringer, som for eksempel spørsmål knyttet til utvalgsskjevhet
• Forskeren som bruker syntetiske (KI-genererte) data, bør:
  • oppgi hvilke deler av dataene som er syntetiske,
  • tydelig merke de syntetiske dataene,
  • beskrive hvordan dataene ble generert, og
  • forklare hvordan og hvorfor dataene ble brukt
• KI-systemer skal ikke oppgis som forfattere, oppfinnere eller rettighetshavere, men deres bidrag til forskningen skal opplyses og beskrives
• Opplæring og veiledning i ansvarlig forskningspraksis bør inkludere diskusjon om etisk bruk av KI

Kilde: The ethics of using artificial intelligence in scientific research: new guidance needed for a new tool (Resink, Hosseini – 2024 doi: 10.1007/s43681-024-00493-8)

Videre lesetips: Living guidelines on the responsible use of generative AI in research (European Commission, April 2025)

INN anbefaler at våre ansatte bruker de KI-verktøy som vi har databehandleravtale med. Det er allikevel en realitet at disse verktøyene ikke dekker alles behov. I tilfeller hvor du er involvert i utviklingen av, eller benytter andre KI-verktøy, er du selv ansvarlig for riktig bruk (personvern, datasikkerhet og etikk), bl.a. ved å sørge for å:

• ikke dele personopplysninger eller konfidensielt datamateriale
• ikke dele artikler eller materiale med usikker opphavsrett (omfatter også dine egne og institusjonens forskningsdata)
• så langt det er mulig velge leverandører som følger GDPR, og lagrer data i EU/EØS
• Sørge for at bruken er i overenstemmelse med offentlige lovverk og retningslinjer, samt hensynta EU-AI Act