Siðferðileg og lagaleg sjónarmið við notkun gervigreindar í menntun

Meðferð persónuupplýsinga og GDPR

Við notkun gervigreindartóla þar sem unnið er með persónugreinanleg gögn – þ.e. gögn sem hægt er að rekja til tiltekins einstaklings – ber að fylgja ákvæðum almennu persónuverndarreglugerðarinnar (GDPR). Það felur meðal annars í sér skyldu til að:

  • Skilgreina skýran og lögmætan tilgang með gagnaöfluninni.

  • Geyma persónuupplýsingar með öruggum hætti til að koma í veg fyrir að þær falli í rangar hendur.

  • Veita einstaklingum skýrar upplýsingar um hvaða gögnum er safnað, í hvaða tilgangi, og virða rétt þeirra til aðgangs, leiðréttingar og eyðingar gagna.

Þessar reglur byggja meðal annars á 5., 12.–14., 17. og 32. grein almennu persónuverndarreglugerðarinnar (GDPR).

Nánari upplýsingar um persónuverndarlög á Íslandi má finna á vef Persónuverndar:
📎 https://island.is/s/personuvernd

Höfundarréttur og eignaréttur

Gervigreind getur búið til efni sem líkist fræðilegum textum, listaverkum eða öðrum skapandi verkum. Kennarar þurfa að gæta þess að virða höfundarrétt og tryggja réttindi nemenda, höfunda og hugsanlegra samstarfsaðila. Mikilvægt er að gera sér grein fyrir hver telst rétthafi efnis sem til verður með eða fyrir tilstilli gervigreindar.

Innra samræmi og fagleg ábyrgð

Öll notkun gervigreindar í námi og kennslu þarf að samræmast stefnu og gildandi verklagi Háskóla Íslands. Kennarar bera ábyrgð á að þau tól og aðferðir sem nýttar eru í kennslu standist fagleg viðmið og séu örugg í notkun fyrir nemendur.
 

Evrópsk framtíðarsýn fyrir stafræna menntun

Menntastefna ESB fyrir stafrænt nám 2021–2027 kveður á um víðtækan stuðning við skólasamfélög í átt að stafrænu menntasamfélagi. Sérstök áhersla er lögð á eftirfarandi:

  • Að efla stafræna hæfni og læsi, þar með talið gagnrýna og ábyrga notkun gervigreindar.

  • Að tryggja jafnt aðgengi að stafrænum tækjum og úrræðum fyrir alla nemendur.

  • Að efla samstarf milli menntastofnana, vísindasamfélags og atvinnulífs.

Markmiðið er að tryggja að evrópsk menntun fylgi þróun tækninnar og búi nemendur undir þátttöku í hratt breytilegum og stafrænum heimi framtíðarinnar.

Persónuvernd

Gervigreind hefur áhrif á ýmsa þætti náms og kennslu, frá persónubundnu námi til ákvarðanatöku í stjórnkerfum. Til að tryggja ábyrga og réttláta notkun þurfa kennarar að huga að eftirfarandi:

Hlutdrægni og réttlæti
Gervigreind byggir á þjálfunargögnum sem geta innihaldið kerfisbundna hlutdrægni. Kennarar ættu að íhuga hvort tólin stuðli að jafnrétti eða hvort einhverjir hópar nemenda séu jaðarsettir eða ómeðvitað útilokaðir.

Gagnsæi og ábyrgð
Gervigreindartól taka ákvarðanir með flóknum reikniritum sem eru oft ógagnsæ. Kennarar verða að geta útskýrt hvernig og hvers vegna tól eru notuð í kennslu og bera ábyrgð á þeim niðurstöðum sem koma í kjölfarið.

Persónuvernd og samþykki
Mörg gervigreindartól vinna með viðkvæm eða persónugreinanleg gögn. Það er mikilvægt að fylgja lögum um persónuvernd (svo sem GDPR) og tryggja að nemendur séu upplýstir og veiti samþykki þegar þess þarf.